智能语音产业现状

语音交互设计与运营的这两年里,事情比较多一直没空静下来总结一下做过的事情。我们先从语音产品的现状总结一下吧。
最近几年来随着深度学习技术的突破,大数据技术以及自然语言理解能力的提升,带动了一波产业热潮。国内继科大讯飞、捷通华声之后,阿里,百度,腾讯等巨头都在智能语音领域发力,行业内也涌现出新的佼佼者:思必驰、云知声、出门问问等后起之秀,在教育、客服、电信等传统行业之外,开辟出了车载、家居、医疗、智能硬件等语音技术应用新天地。
如果找一个产品来代表现在国内智能语音产品的现状,我会选择智能语音音响。它听上去很酷,产品价格也适中应该推广很好。但事与愿违,国内智能音箱虽然是重要语音交互体验产品,但销量并不乐观。仅阿里的天猫精灵在双十一以99元火了一把,双十一销售达到上百万台。其他产品销量真的惨不忍睹,比如:小米音响国内排名第一平均每月销售4766台(数据来源淘宝)。在国外智能语音音响已经被广泛的推广,Amazon的echo,谷歌的GoogleHome,苹果的 HomePod等纷纷上市抢占市场。以下为Amazon的echo销售成绩单
所以国内的智能音箱还需继续努力,而语音技术上在近一年的确得到十足的长进。在Gartner的技术成熟度曲线面前,跌宕起伏又迎来了的转折点。

智能语音现在的不足在哪?无论在C端还是在B端带来的仅是交互的便捷,体验的提升吗?带着这些问题,我们先看看现在只能语音的不足
技术还不够成熟:语音识别还需提升,NLP技术还有待成熟
语音识别主要包括以下步骤:语音信号处理、静音切除、声学特征提取、模式匹配等环节。由于语音信号的多样性和复杂性,系统只能在一定限制条件下才能获得满意效果。在真实使用场景中,考虑到远场、方言、噪音、断句等问题,准确率会大打折扣。目前业内对于16K采样率的语音识别普遍宣称的97%识别准确率,更多的是人工测评结果,只在安静室内的进场识别中才能实现。
我以前做过的智能语音产品:智能客服,语音信箱为例,基于通讯网络下的产品。在GSM网络下仅有8k,16bit的采样率,识别率最高也只能在90%左右,国外据说IBM能做到94.9%。制约因素主要有数据:语音识别除了算法以外更多的是需要大量的语音标注数据去训练去优化,去通过对该业务的定制升学模型,语音模型去提升,如果没有数据你何来提升。还有另外一个问题就是噪音,噪音分为人生与非人声。电话中的场景是复杂的,背景音很多,降噪技术能做到的非常有限。很多智能硬件通过麦克风阵列的确能大幅的减低了背景音的干扰,但没有呢?比如:手机用的最多智能语音的硬件。
NLP技术主要分为三层:词法分析、句法分析、语义分析,三者之间关系是递进又相互包含。而中国文化的多样性,一词多意,所以语义消岐是NLP技术突破的重大难点。机器在切词、标注词性、并识别完后,需要对各个词语进行理解。由于语言中往往一词多义,人在理解时会基于已有知识储备和上下文环境,但机器很难做到。现有手段更多的是通过根据业务,场景定制语言模型,热词等方式去对该应用场景的消岐,还是会面对很多问题。
由于近几年的大数据技术的快速提升使人工智能技术得到快速发展,但一领域的技术进步和产业化推进是一种协同关系。只有通过工程化把技术落地,在产品运营过程提升效果与体验,才能促进产品广泛推广,再根据实际应用中的数据和反馈,反过来推动技术实现突破。
对于未来的机遇在哪?
个人了解的行业信息有限,但从我获取到信息说一下个人的理解。C端智能语音正在改变着我们的生活习惯,主要应用在移动设备、汽车、家居三大场景,用来变革原有人机交互方式;B端则针对垂直行业需求,提升人工效率,比如智能客服,通过智能应答解决了80%以上的用户问题,大量的降低了人力成本和用户解决问题的销量。在政企方面比如法院的记录,医院的记录等。

 

整体的发展中移动互联网、智能家居、汽车、医疗、教育等领域的应用带动智能语音 产业规模持续快速增长。2015 年全球智能语音市场规模达 62.1 亿美元,同比增长 34.2%。中国智能语音产业市场规模也逐步扩大,2015 年 40.3 亿元产业规模约占全球市场份额 10%,且增速显 著高于全球市场,预计至 2017 年份额占比将提升到 14%(数据来源于:中国产业信息网)。
对于快速发展智能语音产业,谁能占领更大的蛋糕。对于底层算法虽然还是很大壁垒,但我跟认可谁有数据谁说了算,谁在该领域获得最多的数据,这个领域就由谁主导。从这个逻辑BAT无疑最大的蛋糕获益者,那其他的创业者还有机遇,我只能说起跑线还在画,不用担忧到终点的问题。

推荐文章

“我觉得标注行业一直在承受误解,特别是在被贴上人工智能界‘富士康’的标签之后。”“外界会觉得:AI这么高大上,背后却是一群打标签的人。(他们)想刻意制造反差,就直接(把标注)定义成劳动密集型行业。”见到钛媒体编辑时,倍赛数据CEO杜霖忍不住吐槽道,“我不想让人再去看小作坊,想让人看看业内还有我们这种技术公司。”2015年前后,AlphaGo横空出世,掀起了国内AI创业的浪潮。五年间,人工智能行业在聚光灯下飞奔,跑出实验室、实现”AI+产业“落地,并成为新基建的重要组成。AI行业也经历了资本的冰与火,逐渐走向理性。但作为AI产业链的最上游,数据标注行业却一直游离在聚光灯外,很少被人提起。即便外界有观感,也大多想象这个行业绝大多数公司会是“富士康”一样的流水线,亦或是三四线城市的小作坊。就连刘慈欣都会说:现在的人工智能,前面有多少智能后面就有多少人工。数据标注行业,更多被用来调侃人们对AI的期望与差距。但实际上,这个行业已经走过了小作坊的粗放时期,开始走进“技术致胜”的时代。误解一:数据标注只靠人力2017年,《经济学人》发表的封面文章中提出了一个疑问:数据更像石油还是阳光?文章作者认为,数据是“世界上最宝贵的资源”,数据是未来的石油。但另一方面,数据也具有公共物品的特征,人们应该对其进行广泛的收集和利用,以最大程度地创造财富。在这个意义上,数据就如阳光一般。如同石油和阳光,数据不经过炼化、转换没法应用,而最初采集数据、处理数据的人,就是数据标注师们。作为AI应用大国,国内的数据标注公司,与AI创业潮近乎是同时起步。刚起步时,国内AI大多处于实验室研发阶段,所需数据量小,也并无定制化需求,因此行业门槛较低,大多以劳动密集型的作坊出现,这些“小作坊”以外包(BPO)业务为主,也给外界留下了“富士康”的印象。而现在随着AI大规模落地,向产业更深更广延伸,使得标注场景更细分、数据类型更复杂,行业开始跨过野蛮生长,进入精耕细作。整个AI基础数据服务产业正在经历转型升级——更多劳动密集型企业正面临生死关头,更多的技术型公司正在突出重围。艾瑞咨询今年发布的报告显示,2019年中国AI基础数据服务行业市场规模可达30.9亿元,预计2025年市场规模将突破100亿元,年化增长率达到21.8%。报告指出,中小型数据供应商的整体体量仍然可观,但随着业务门槛提升、客户需求多样化,越来越多中小型供应商在苦恼生存问题,这一群体在未来1-2年内将迎来“倒闭潮”。杜霖所在的倍赛数据(BasicFinder,以下简称倍赛)就是家典型的标注技术公司。这家公司定位是AI的基础设施供应商,构建从数据标注、数据管理到建模的一系列底层基础设施。杜霖团队的核心成员都是机器学习和AI从业者,但2015年国内AI创业热时,他们却选择了AI产业链的最上游——数据标注。“我们一直坚信一句话叫code is cheap(代码是最便宜的)。随着Google TensorFlow、Pytorch等开源框架的推出,AI公司建模的门槛会越来越低,从前海外名校博士的工作现在本科学生都可以做。”杜霖对钛媒体App表示“如果我们做AI技术公司,就要在模型甚至更底层的神经网络研究中发力。而我们看到的更大的蓝海其实是数据,未来算法门槛越来越低,而数据则会越来越高。“杜霖表示,大量数据标注企业都强调解决就业,而非技术属性,这也是行业被视为劳动密集型的原因之一,但这并不代表这个赛道里不需要技术。“京东的主要人员构成是快递小哥对不对,但京东是劳动密集型企业吗?本质上它还是技术驱动的。”当前,随着AI建模能力外溢,技术门槛降低,不仅科技公司、各行各业对数据的需求都在增长。科技公司想通过巨大的数据池构建模型壁垒,也有更多企业开始重视自有业务数据的标注及模型迭代,对标注系统的私有化部署或工具SaaS需求开始增长。一位不愿具名的AI从业者对钛媒体App表示,国内一些头部AI公司宣称建立了模型壁垒,但本质上是由于积累了绝大部分数据而形成的数据壁垒,其实各家的模型并没有代际上的差异。杜霖也强调了数据量对建模效率的影响。“请一群厉害的博士去攻克一个场景,或许仅能提升不到5%的效率,但如果能在数据端多20%的数据,效果会比从底层算法研发提升更多。”在他看来,标注企业的核心竞争力还是技术。“这个行业经历了大洗牌,劳动密集、压榨工资的企业被淘汰,最后变成技术主导。技术提升效率、产生了成本优势,通过理解客户需求、再加上自有技术和平台,标注企业就能形成自己的壁垒。”误解二:数据标注不被资本重视?但“劳动密集型”这一刻板印象,依然存在于数据标注这个产业中。体现在投融资上尤为明显。杜霖认为,国外比较认可标注公司的技术价值,北美数据标注公司与国内相关公司的估值至少相差10倍。“国外做标注工具软件的企业已经在投融资中火起来了,我们也就是千万级人民币,他们融资规模普遍比我们大,基本都是几千万美金起步。”据钛媒体App不完全统计,海外技术驱动型公司已经受到关注。其中,黑马企业Scale AI在C轮融资1亿美元后,投后估值已超10亿美元,跻身独角兽行列。不少标注公司被企业收购,比如老牌标注公司Figure Eight也3亿美金被Appen收购,初创的Mighty AI被Uber全资收购。今年3到4月,海外的DefineCrowd、LabelBox纷纷完成数千万美元融资。而国内标注公司中,爱数智慧在A轮融资后的估值约为2亿元人民币,这在同类公司中已经属于融资表现较好的了,国内同类公司融资额基本在千万级人民币左右。钛媒体整理了部分数据标注公司投融资情况,数据来自天眼查以及公开资料五岳资本(N5Capital)董事总经理蒲俊臣对钛媒体App表示,与北美同类型公司产生估值差,是因为国内大部分投资者将标注技术公司等同于标注业务公司,加之部分媒体对行业劳动密集属性的刻画,使得提升行业效率的技术价值没有被公允认可。不过,随着投资者对行业认识深入,这种差距会逐渐减少。对于国内标注公司是否有投资价值,投资方也有不同看法。在蒲俊臣看来,标注技术型公司仍有投资价值。“一方面,AI公司在算力、算法方向投入的增量梯度逐渐下降,未来市场存在巨大的数据需求;另一方面,这类公司的智能标注工具不仅提升了数据的产出效率,同时也在数据、辅助标注模型的迭代中打造出了完善的AI基础设施。AI的未来就是数据到模型的无缝输出。”星瀚资本创始合伙人杨歌则认为,要判断投资价值,最重要的是看产业能否闭环。“要看上下游公司是否有长期的经济需求、会不会长期使用这个工具、工具成熟后会不会自己做,边际价值会不会递减等。评判一家数据标注公司,抛开上下游去评判是没有价值的。所以投资时,不能把标注了多少数据当做资产,一定要从供需角度去判断其价值。”杨歌对钛媒体App表示,数据标注行业虽然to B,但和供应链、金融贸易等行业相比,需求存在不稳定性,且容易被替代。即便是做SaaS的技术公司,也很难有绝对的技术壁垒,基本属于营销导向或客户关系导向。而且这种服务型公司通常是乙方,市场把控和定价能力较弱,所以风险比较高,这也是投资时要关注的点。误解三:数据标注不需要高学历在以往的印象中,数据标注从业者往往学历不高、工作环境恶劣,但这只是行业的一枚切片,事实的一角。那些“喂养”AI的人们,既有标注基地的标注员,也包括技术公司中做系统开发维护的程序员们。一个标注项目,往往先给到标注技术公司或众包平台,再由他们派遣给自营标注基地或外包人员。以倍赛为例,公司当前有两条业务线,一条是自研的数据标注SaaS平台,另一条是为数据保密性强的大中型企业研发数据标注的私有化版本。公司算法工程师的日常工作,就是开发维护平台,并不断训练AI模型来辅助人工标注。倍赛北京办公室都是SaaS平台的研发人员,有着纽约大学、上海交大、哈工大和北航的教育背景。钛媒体编辑到访时,一位算法工程师正在优化SaaS系统。系统中“物体自动识别”的能力已经可以自动识别并标注80种物体,该工程师正在“训练”AI识别更多的物体。在工程师的打磨下,当前SaaS平台已具备从数据采集、打标签到直接生成模型的能力。倍赛自营的20多家数据标注基地和众包人员,均在其自有SaaS平台上完成标注工作。“最近2个月,在我们的SaaS平台上有1万多人、700多个团队、面向300多个客户做着数据标注工作。我们的AI辅助功能也能提升效率。”杜霖介绍道。除了倍赛这种标注技术公司,互联网大厂也正在深度参与数据标注工作。自2011年起,百度就自建数据采标团队,支持内部AI业务。面对日益增长的数据标注需求,百度后续开始输出其数据标注能力。2018年9月,百度山西人工智能基础数据项目(以下简称基地)与山西省转型综合改革示范区签约。自签约至今,百度已经为山西引入35家国内数据标注企业,通过导入百度自有的数据标注业务,为人员提供业务培训,帮助标注企业实现了近亿元营收。当前,基地从业人员达到2000余人,是国内人员和产值规模最大的单体数据标注基地。百度(山西)人工智能基础数据产业基地在此前的想象中,数据标注基地更像是“工厂里冷冰冰的流水线”,标注员们在非常机械地工作。然而,当钛媒体编辑走进百度位于山西的标注基地,看到一万平方米的基地,按照NLP、无人驾驶、内容识别、语音识别等门类分布着不同的办公区域。每20-30位标注员在一间办公室,都在对电脑上各色的数据文件进行标注,给人一种学生时代上电脑课的感觉。百度(山西)人工智能基础数据产业基地基地的数据标注员李宇龙现在还记得他从业以来第一个,也是印象最深刻的项目。他来自传统行业,接触的第一个项目就是“车道线“标注,这一数据往往被用来训练自动驾驶技术——在自动驾驶车辆行驶途中会自行连续拍摄图片,而标注员需要对图片上车辆经过的车道线进行编号,其中一种是识别实线还是虚线,因为车辆仅可以在虚线变道,实线不行。“项目的难点是城市道路比较复杂,因为车辆多了有些车道线可能会被遮盖,还有在路口会遇到导流线,匝道和主道之间的分叉、交会是非常难的。”李宇龙对钛媒体App表示。李宇龙刚上手时,只拿到了软件和一份规则,规则简单陈述了要在哪些位置打点。起初他觉得这只是重复工,但随着技能熟练度提升,他在标注上也面临了更多考验。他最初接触的车道线是2D图片,但因为自动驾驶车上的激光雷达采集的是3D数据,这些从360度观测的、具有立体点状特征的数据需要标注员具备空间思维能力。“在3D数据中我们看到的只有一片点状物,并不清楚具体是什么,标注员需要准确找到这辆车,并且把它的轮廓、长宽高的细节都标注出来。在这个过程中,标注员要先从2D图了解如何作业,记住规则口诀,搭配2D图一起看3D环绕的图形,这样最快可以在一个星期内掌握。”入行两年后,李宇龙已经从数据标注员成为培训师,日常工作就是根据项目特点对人员进行培训。据他介绍,从数据标注师做起,可以做到培训师,甚至成为机器训练师,要求会逐步提高。开始只需掌握标注技能,后来则需要发现缺失的数据或者程序bug。像百度山西基地,大多数人都是专科背景,经过培训可掌握通用型的拉框或打点任务。但涉及到医疗、金融、语言、法律等专业领域,往往需要具备专业知识的数据师来标注。“外界总是说数据标注是劳动密集型,但我觉得它也是知识密集型的”,杜霖对钛媒体表示。比如医疗数据标注,会涉及到眼底数据、或肿瘤区域的图像分割,这种看片子的任务往往要由有专业医学背景的人负责;涉及到方言和外语的内容需要找掌握该门语言的标注员。金融领域则需要具备金融知识的专业人士来操作。“像做法律文书标注或投融资事件分析时,就不能再找大专背景,得找相关专业的本科生。做医疗数据标注时,必须要找医学院的学生来完成。”杜霖表示。误解四:薪资只是工人水平?数据标注师的薪水也往往被认为是极其低廉的。但实际上,由于任务的规模和难度不同、要求的时限不同、以及是否涉及到专业领域知识、数据标注员们的薪资也有很大的弹性空间。“由于项目标准不同,计费方式也不同。有各种计费的组合,有些是依照点、线、区域,有些是参照每张图,相对来说还是按计件收入算。”山西麟诺网络科技有限公司李应维说道。“我做车道线项目时,一天8个小时能赚300块。这个收入在同事其实处于中等位置,收入最高的人一天可以破千”,李宇龙对钛媒体表示,“每个项目会有个上手期,之后会越做越快,质量越来越高”。同在基地的标注员郭梅,刚入行时一天最多只能标注300根车道线,现在一天最多可以标注1700根,折算成收入便从每天70元涨到了每天300元以上。“在基地里最高有人月入过万,不过收入均值会落在三千到五千之间,在山西太原是比平均水平好一些的。”百度(山西)人工智能基础数据产业基地负责人尉赤对钛媒体App表示。尉赤也向钛媒体回忆道,之前有项目做英文数据,要求标注员必须持有英语四级证书。“这种项目本身价值高的、属于专业领域的,整体收入也会更高。”不过,数据标注行业分层较大,既有科技企业自建的标注基地、也有众包平台、以及团体或个人的小作坊。外包给个人或小作坊的产量不稳定,分到的任务会更初级,计费更低,这也就构成了数据标注行业薪资的下限。数据标注行业与AI的应用场景息息相关,随着AI落地场景,对数据的要求也更加多样而复杂。国内最早需要大规模标注、同时最易获得的是人脸数据。与此同时,自动驾驶、智慧医疗、语音翻译转写等领域的AI落地也催生了不同的数据需求。以自动驾驶为例:物体检测所需数据量最少,只需要教AI认识几千到一万张图像,而自动驾驶领域涉及生命安全,不允许犯错,所需数据量往往在百万级以上。在问及数据标注的难点时,杜霖表示“如何理解客户需求,并嵌入其实际业务”是比较难的问题。例如,同样都是标注“人像”,实际方案却不同。如果商场要统计客流量,只需要框选人物轮廓计数即可;如果要判断是否有暴恐行为,就要对人物的动作行为进行分析;如果要判断人物情绪,就要对其脸部表情进行标注; 而做瘦脸特效的话,就要对人脸轮廓进行精细打点。误解五:数据标注本身不需要AI?有意思的是,行业虽然越来越成熟,但数据采集和标注工作所占的成本,正在AI模型的完整生命流程中逐渐上升。据杜霖透露,2015年刚起步时由于AI工程师贵,数据采标成本仅占总体的10%-20%,但由于AI工程师的成本降了不少,数据需求量又越来越大,现在采标成本在总成本中已经占到了30%-40%。因此,在从劳动密集型转向技术密集型的同时,数据标注产业当然也在利用AI提升效率。当前,将技术引入数据标注流程已是业内通用做法,让训练好的AI模型反哺人工标注,也是标注技术公司的优势所在。倍赛的数据标注SaaS平台,像Photoshop一样可选择标注界面和工具。倍赛还开发了一系列AI辅助的功能,内嵌在平台中供标注师使用。比如AI辅助打点,以往标注师想要精细描摹一辆车的轮廓,需要手工打上30多个点。如果标注一辆车需要1分钟,那么标注图片上所有物体则平均需要1小时。“借助AI辅助功能,现在只需在车的外轮廓上任意打4个点,系统就会自动把30个点全部打完,轮廓贴合的也很好。这样人工打点就能减少到4个,只需进行微调,减少了一半用时,效率也提升了。”杜霖对钛媒体表示。AI辅助数据标注之智能语义分割(来源:倍赛数据)当前,有监督的机器学习技术占据了AI发展的主流,但学术圈已经开始向自监督学习模型进行探索——他们认为该模型能让AI从数据标注中解脱出来,无需任何人工标注数据就能完成学习。不过,在一些全新的领域,机器尚不能辅助人类工作,数据标注仍需人力完成。即便有了AI自动化标注工具,依然要由人来做审核质检的最后一步。“往往在较成熟的领域或熟悉的场景中会衍生出自动化工具,比如图像中的物体识别。机器要经过大量训练获取这种知识,才能作为工具去辅助人工。如果是全新的应用场景,在AI还没训练好的情况下是没法辅助的,”尉赤对钛媒体App解释道。杨歌对钛媒体App表示,清晰且标准化的数据更适合AI标注,模糊且繁琐的社会性数据只能由人来进行。比如法院的案件要做归档处理,AI很难去判断案件到底是刑事还是民事。涉及到道德、原则、好坏方面的内容,需要由人处理。杜霖则进一步向钛媒体App阐释,在数据标注流程中,AI辅助的比重往往与算法的成熟度成正相关。比如说检测人物时,一个熟练掌握“人像”的算法可完成70%的任务量,人工只需做30%。但用同样的算法去框选“物品”,可能人工标注就要占到80%。问题在于,数据标注师在把AI“喂养”得更智能的同时,是否也在“革自己的命”?在未来,数据标注师这个新工种有可能被AI取代吗?杜霖认为,在数据标注领域,AI完全取代人力尚且遥远。就拿自监督学习为例,这一技术仍属于前沿探索领域,在全场景内还很难落地,尚未实现大规模普及,更不用说从根源上去取代人工标注。“现在正从信息化迈向数据化,工业4.0会使数据标注更加工程化。这个阶段还是以有监督式学习为主,它还没有完全成熟,现在算法还在不断迭代中。”杨歌表示。但这个新兴的、离AI最近的职业,会不会有更深刻的“被替代”焦虑?一些从业者这样回答:“数据标注师是最后一批被AI取代的群体,因为总有些工作需要人来做。”免责声明:本文来自腾讯新闻客户端自媒体,不代表找标注网的观点和立场。

热门文章

简单讲:互联网数据标注员是借助电脑或者移动设备对一些原始的数据进行处理,生产出满足AI公司机器学习需要数据的一群人。按照数据处理对象的不同,工作内容也会有差别,标注员的工作内容可以分为:分类;框选;注释;标记。按照所处公司的不同,标注员的工作方式也会有差别:有的人工智能公司处于对数据安全性考虑会自建标注团队,在这些公司工作的标注员可以保证自己工作内容不会出现太大变动;但一些服务于人工智能公司非专业外包公司标注员的工作则是项目制的,一个项目忙完紧接着做另一个项目,这样工作内容连续性较差,对一种类型的项目经验也不会积累的太多。就目前来说,人工智能还处于人工增长阶段,机器依然需要大量的数据进行训练,测试。标注员在当下也会一直存在,而且从业群体会越来越多,所以暂时不用担心这份职业会不会短期消失。就标注员从业来说,建议选择人工智能公司和专业的数据公司,这样可以保证自己在一个方向上了解的足够深入。就职场晋升来说,以牛牛数据为例:标注员——项目经理——项目总监——数据运营总监。首先谈谈什么是数据标注。数据标注有许多类型,如分类、画框、注释、标记等等,我们会在下面详谈。要理解数据标注,得先理解AI其实是部分替代人的认知功能。回想一下我们是如何学习的,例如我们学习认识苹果,那么就需要有人拿着一个苹果到你面前告诉你,这是一个苹果。然后以后你遇到了苹果,你才知道这玩意儿叫做“苹果”。类比机器学习,我们要教他认识一个苹果,你直接给它一张苹果的图片,它是完全不知道这是个啥玩意的。我们得先有苹果的图片,上面标注着“苹果”两个字,然后机器通过学习了大量的图片中的特征,这时候再给机器任意一张苹果的图片,它就能认出来了。这边可以顺带提一下训练集和测试集的概念。训练集和测试集都是标注过的数据,还是以苹果为例子,假设我们有1000张标注着“苹果”的图片,那么我们可以拿900涨作为训练集,100张作为测试集。机器从900张苹果的图片中学习得到一个模型,然后我们将剩下的100张机器没有见过的图片去给它识别,然后我们就能够得到这个模型的准确率了。想想我们上学的时候,考试的内容总是不会和我们平时的作业一样,也只有这样才能测试出学习的真正效果,这样就不难理解为什么要划分一个测试集了。我们知道机器学习分为有监督学习和无监督学习。无监督学习的效果是不可控的,常常是被用来做探索性的实验。而在实际产品应用中,通常使用的是有监督学习。有监督的机器学习就需要有标注的数据来作为先验经验。在进行数据标注之前,我们首先要对数据进行清洗,得到符合我们要求的数据。数据的清洗包括去除无效的数据、整理成规整的格式等等。具体的数据要求可以和算法人员确认。二、常见的几种数据标注类型1.分类标注:分类标注,就是我们常见的打标签。一般是从既定的标签中选择数据对应的标签,是封闭集合。如下图,一张图就可以有很多分类/标签:成人、女、黄种人、长发等。对于文字,可以标注主语、谓语、宾语,名词动词等。<img src="https://pic2.zhimg.com/50/v2-df93dc0a7e8a5fe387dc3774748b5f05_hd.jpg" data-caption="" data-size="normal" data-rawwidth="700" data-rawheight="400" class="origin_image zh-lightbox-thumb" width="700" data-original="https://pic2.zhimg.com/v2-df93dc0a7e8a5fe387dc3774748b5f05_r.jpg">适用:文本、图像、语音、视频应用:脸龄识别,情绪识别,性别识别2.标框标注:机器视觉中的标框标注,很容易理解,就是框选要检测的对象。如人脸识别,首先要先把人脸的位置确定下来。行人识别,如下图。<img src="https://pic2.zhimg.com/50/v2-7824903d6d840e2bb08d96b5c2fa5874_hd.jpg" data-caption="" data-size="normal" data-rawwidth="591" data-rawheight="398" class="origin_image zh-lightbox-thumb" width="591" data-original="https://pic2.zhimg.com/v2-7824903d6d840e2bb08d96b5c2fa5874_r.jpg">适用:图像应用:人脸识别,物品识别3.区域标注:相比于标框标注,区域标注要求更加精确。边缘可以是柔性的。如自动驾驶中的道路识别。<img src="https://pic3.zhimg.com/50/v2-4bc1dd2278182acf94fc426d7e6f2dc1_hd.jpg" data-caption="" data-size="normal" data-rawwidth="601" data-rawheight="377" class="origin_image zh-lightbox-thumb" width="601" data-original="https://pic3.zhimg.com/v2-4bc1dd2278182acf94fc426d7e6f2dc1_r.jpg">适用:图像应用:自动驾驶4.描点标注:一些对于特征要求细致的应用中常常需要描点标注。人脸识别、骨骼识别等。<img src="https://pic4.zhimg.com/50/v2-5e24f394516c75e45942c37ba0da85c0_hd.jpg" data-caption="" data-size="normal" data-rawwidth="583" data-rawheight="387" class="origin_image zh-lightbox-thumb" width="583" data-original="https://pic4.zhimg.com/v2-5e24f394516c75e45942c37ba0da85c0_r.jpg">适用:图像应用:人脸识别、骨骼识别5.其他标注:标注的类型除了上面几种常见,还有很多个性化的。根据不同的需求则需要不同的标注。如自动摘要,就需要标注文章的主要观点,这时候的标注严格上就不属于上面的任何一种了。(或则你把它归为分类也是可以的,只是标注主要观点就没有这么客观的标准,如果是标注苹果估计大多数人标注的结果都差不多。)三、有什么发展前途?数据标注员可以说是AI消灭了一部分工作又创造出来的一种工作。在未来AI发展良好的前提下,数据的缺口一定是巨大的。可以预见3-5年内数据标注员的需求会一直存在。至于发展,其实所谓一些熟能生巧的工作,都是有被替代掉的风险的。深度学习解决的一件事情就是熟能生巧。在这个岗位上,其实你的一些想法就代表了AI的想法,AI会根据你标注的数据进行学习,想想还是有点成就感的。数据标注可以说是AI的入门级岗位,未来可转向其他AI岗位。如项目实施顾问等,这就要求更多的工作技能,需要再工作中积累。作者:跹尘链接:https://www.zhihu.com/question/30654399/answer/264828926来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。