看人工智能下数据标注从幕后走向台前

“你了解人工智能行业吗?”

10个人中可能有9个人会给出肯定的回答。

“你了解数据标注行业吗?”

10个人中可能有9个人会茫然地摇头。

与处在聚光灯中心的人工智能科技公司不同,数据标注行业长期处于聚光灯之外的灰色地带,很长一段时间内都是被边缘化乃至低视的一个存在。

不过,随着时代发展带来需求的改变,数据标注行业也在发生着日新月异的变化,开始从幕后走向前台。

一.幕后:粗放与混乱交织

数据标注行业里流传着这样的一段话:“有多少智能,就有多少人工”。

这句话在某种程度上道出了人工智能的本质。

事实上,现阶段让AI提升认知世界能力的最有效途径仍然是监督学习,而目前AI算法能学习的数据,几乎全部都是通过人力逐一进行标注而得来的。

微信图片_20191224181352.png

一张经过数据标注后的图片

需求即意味着市场,据相关机构预测,未来几年,国内数据服务市场将达上百亿。

如此庞大的市场规模,让很多人都想趁机分一杯羹,于是大大小小的标注团队如雨后春笋一样大量出现。

然而,问题也随之而来。

与人工智能高科技含量不同,数据标注仍属于劳动密集型产业,且模式通常以外包形式为主。

标注员每天从事标框、拉点等重复枯燥的工作,劳动力水平参差不齐导致产出的标注数据质量偏低,无法满足AI企业的需求,影响AI产品商业化落地进程。

与此同时,低端产能过低的技术含量,也使数据标注行业几乎没有任何壁垒限制,很多标注团队随意拉进来几个人经过简单培训就可以接业务了。

这样的后果就是行业混乱且竞争加剧,绝大部分标注团队只能存活于产业链最底层,压价情况严重,甚至接不到业务导致生存艰难。

二.前台:AI对于高质量数据的依赖

人工智能行业内有一个很重要的共识:

数据集质量的高低直接决定最终模型效果的好坏。

换句话说,数据对于模型性能的贡献是最大的,数据越多越丰富、代表性越强、模型效果越好,算法的健壮性和鲁棒性就越强。

随着AI企业商业化落地进程的加快,越来越多的企业开始意识到标注数据的重要性。

以自动驾驶为例,目前很多企业都已经生产出自己的无人驾驶汽车样车,并频频出现在公共视野内。

然而,虽然这些样车在实验室内表现良好,但距离真正的商用仍然有很遥远的距离,一个很重要的原因就是真实路况场景与实验室场景差距过大。

微信图片_20191224181348.png

自动驾驶标注场景

在实验室内,只需要少量的道路数据即可满足实验的需要,但是到了真实的道路上,无人驾驶汽车将会遇到很多无法预知的情况,在没有足够数据支撑的前提下,车载电脑无法做出自己的判断,导致潜在的风险剧增。

因此,以自动驾驶企业为代表的众多AI企业对数据标注行业提出了更高的要求,数据标注行业已然开始处于聚光灯的焦点,从幕后走向了前台。

三.未来:智能化、精细化、场景化

AI数据是人工智能的重中之重。众所周知,人工智能的三驾马车是算法、算力与数据,其中数据是人工智能行业的发展基石。

随着人工智能行业商业化落地进程的加快,AI数据服务领域泥沙下沉,清泉上涌,行业变革已初露端倪。未来,智能化、精细化、场景化将是数据标注行业的主要发展方向。

智能化,即意味着标注工具AI化。以曼孚科技自研的语音标注工具为例,AI预标注技术可以自动识别转写语音数据,标注员只需要在工具预标注的结果上略作修改即可,这在提升标注效率的同时也减轻了对于人力的依赖。

精细化,即意味对标注数据集质量与细节提出了新的要求。以往数据集的准确率可能达到90%以上即可满足要求,但随着AI商业化落地进程的加快,AI企业对于标注数据的质量要求达到了95%,甚至99%以上,同时更加注重细节,比如曼孚科技在进行自动驾驶领域数据标注业务时,项目方会对诸如情绪捕捉、疲劳驾驶等等提出更加细节化的标注需求。

微信图片_20191224163631.png

精细化标注能力

场景化,即意味数据标注行业要满足多样化应用场景标注需求。以计算机视觉领域为例,目前数据标注可以应用在自动驾驶、无人机、AI教育、工业机器人、新零售、安全防护等场景中。每一个应用场景都有自己的数据类型与具体标注要求,因此极为考验数据标注企业的场景化标注能力。

可以预见的是,未来几年数据标注行业将迎来一场大变革,理念更先进、技术更硬核、服务更专业的AI数据服务企业将会把数据标注行业带入全新的精细化运营时代。

而未来,相信随着5G技术的逐步应用,数据与5G的结合将碰撞出更多创新火花,共同托起AI发展的基石。


推荐文章

曾经,机器人的出现改变了整个制造业经济领域。如今,人工智能和自动化以同样的方式颠覆着信息工作,人类开始逐渐将认知劳动交付给计算机。例如,在新闻业中,数据挖掘系统会提醒记者编辑们注意潜在的新闻选题,而新闻机构则为观众提供了获取信息的新方法。自动报道机制如今已可以覆盖财经、体育等品类的新闻。当这些智能技术渗透到各行各业中时,人们通常会好奇传统工种和劳动力将受到怎样的冲击。本期全媒派带来独家编译,看看在人工智能加入的新闻业中,做新闻的会是谁?他,或者说它们,又会怎么做新闻?强化而非替代西北大学助理教授及计算机新闻实验室总监Nicholas Diakopoulos在其最新著作《自动新世界:算法如何改写媒体》中通过一系列论证表明,即使在人工智能主导的未来,仍然会存在很多人类新闻工作者。但是,这些人的工作,角色以及工作内容都会有所改变。人力将与算法结合,以释放人工智能的能力,同时适应其局限性。据估计,以目前的人工智能技术水平,记者的工作中只有约15%可以实现自动化,编辑则只有区区9%。在好莱坞大片以外的真实世界中,人类仍然在几个新闻业关键领域对人工智能保持优势,包括复杂沟通,专业思考,适应性,以及创造力。报道,倾听,回应和推拉,平衡信源,最后将这些环节打通,用创造力输出内容,记者工作的每一步都不可或缺,而人工智能甚至无法完成其中任何一个。但是,人工智能可以强化人类的工作成果,以帮助提高工作效率或质量。它能为深化新闻报道带来新机,让报道变得更加个性化。新闻编辑部的工作总是在适应新技术的浪潮,摄影、电话、电脑,甚至是小小的复印机。记者也必将适应与人工智能的协同作业。作为一种技术,人工智能已经并将持续改变新闻工作,但它非但不会取代一个训练有素的新闻人,反而会让他变得更强。新工种的出现Nicholas Diakopoulos发现,人工智能技术似乎正在为新闻界创造新的工作类型。以美联社为例,该社在2017年推出了计算机视觉人工智能技术,用以标记每天处理的数千张新闻照片。系统可以在标注中指明这张照片包含了什么内容或者哪些人,摄影风格如何,有无暴力画面等信息。该系统将图片编辑从大量的标注工作中解放出来,从而拥有更多的时间来思考他们应该发布什么。但无论在研发端还是编辑端,对这一系统的开发都需要大量的工作:编辑必须弄清要标记的内容以及算法对这一任务的匹配度,然后开发新的测试数据集来评估效果。完成所有操作后,他们仍然需要监控系统,手动批准每张照片的建议标签来确保高准确度。负责该项目的美联社高管Stuart Myles告诉Nicholas Diakopoulos,这项工作耗时数年,十多名编辑、技术和行政人员参与其中。大约三分之一的工作涉及新闻专业知识以及一些特别难以实现自动化的判准。虽然在将来人力监督有望削减,但随着技术系统的发展和扩大,编辑的工作仍将不可或缺。半自动化内容制作在英国,RADAR项目每月通过半自动化模式输出约8000篇本地化新闻。该项目由6名记者运营,他们找到按地理区域划分的政府数据集,筛选出有趣且有新闻价值的选题,然后将这些想法发展为数据驱动的报道模板。模板通过编码,将每条文本和数据归属的地理位置一一对应。例如,一篇报道可以讨论英国的人口老龄化问题,并通过布里斯托不同的本地化统计数据,向卢顿市的读者展示他们所属社群的变迁情况。这些报道会由通讯社发送到当地媒体,并由他们决定是否发布和如何发布。在这一方法中,记者和自动化高效结合:记者利用他们的专业知识和沟通技巧,为数据预设一些可能的“故事线”。他们也会与不同信源讨论来获取某个问题的全国普适视角,从而编写报道模板。在这个过程中,自动化充当了新闻生产小助手的角色,使同一文本能够适应不同的当地环境。RADAR记者使用一种名为Arria Studio的工具,它可以让内容生产者一睹自动化内容在实践中呈现的样子——它看起来就像一个复杂版的Word。作者写出各种碎片式的文本,而这些文本则由if- then- else(如果-那么-否则)的代码规则驱动。例如,在地震报告中,我们可能需要不同的形容词来描述8级地震和3级地震。因此,我们可以这样设计代码:如果地震强度>7,那么输出文本“强烈地震”。否则,如果地震强度<3,输出文本“小型地震“。像Arria 这样的工具还包含强大的语言功能,例如自动共轭动词或拒绝使用名词,从而更轻松地处理需要根据数据进行更改的文本。Arria的创作界面使得记者可以专注于自己擅长的事——从逻辑上构建引人入胜的报道情节并制作富有创意的非重复性文本。但他们也需要一些新的方法来构思报道。例如,模板的编写者在做一个报道前,得了解数据能做到什么。他们需要想象数据能如何丰富角度或使叙事变得多样,同时能勾画出驱动这些变化的内在逻辑。监督,管理或编辑自动化内容的工作人员也越来越多地出现在新闻编辑室中。质量和准确性是新闻业界最关注的问题。为此,RADAR开发了一个三阶段质检流程:首先,记者将阅读所有的自动化内容;然后,另一位记者将报道中给出的所有结论回溯到原始数据源;最后,编辑会再一次检查报道模板中的逻辑来排除错漏。这几乎就像一个软件工程师团队在调试脚本时所做的工作,而这也是人类为了让自动化正常运转而不得不做的事。终结付费墙?内容生产并不是人工智能大施拳脚的唯一赛道。通过机器学习的算法,新闻媒体还可能发展出新的订阅模式,实现对每一位用户内容消费的量身定制。通过调整订阅策略以及付费墙设置,新闻媒体一直在试图平衡自由浏览量和用户阅读权限——也就是在寻找广告收入和订阅收入之间的最佳平衡点。当然,这个神奇的平衡点并不存在。有的人可能在一次浏览后就会订阅,有的人则需要更长时间才能做出付费转化的决定,而有些人根本就不会订阅。这些用户维度的个人差异基于大量指标而变化,例如地理位置、内容消费习惯、访问行为、主题、设备等。在新技术的加持下,内容供应商不再需要通过单个数字来定义最佳策略,甚至不需要确定一个引导读者订阅的特定路径。如今,他们可以实时为每个用户生成最佳规则,向那些最有可能回应的人提供高价值的优惠。计算机无法自主制定营销策略,但它无疑可以帮助我们对营销策略进行优化。美国公司Piano用了大约一年时间来改进和测试用户可能性模型。他们的机器学习系统可以筛选出所有浏览器级别的可用数据,从而能够预测并驱动用户行为。Piano的第一个可能性模型就致力于预测用户订阅的可能性。以下是它的工作原理:通过与全球各地传媒公司的关联,Piano已经能够分析数百个订阅网站和数十亿的每月用户互动。这一独特的优势使Piano工作人员对营销订阅的因素有了一些深入认知。更重要的是,它为我们观测影响订阅可能性因素提供了确切的数据。某些数据点与用户转化的可能性密切相关。例如,用户每天或每周访问某个网站的时间,或者他们访问的设备类型等因素,都会定期形成可预测的模式,从而展示用户最终的行为方式。动态付费墙规则是一种新兴业务,它的背后冉冉升起的是一个定价和业务规则完全动态并为每个用户定制的世界。虽然“订阅经济”已经取得了很大成就,但我们认为这种转变比从一次性支付转向经常性支付更重大。这将是一个全新的世界,企业生产的所有内容都可以实时响应每一个用户、每一份商机。深耕人力资源如前文所述,人工智能和自动化非但没有减少新闻业的岗位,反而正在创造新工作,并改变现有的工作。今后,记者需要接受培训,以设计、更新、调整、检验、纠正、监督以及维护这些技术系统。许多人可能需要学会和数据一起工作,用逻辑思维来处理数据,多熟练掌握一些计算机编程基础知识也是不会错的。随着这些新技术的发展,确保它们是优质的工作非常重要——人们不能只是在更大的生产机器中成为齿轮,这种新型混合劳动的管理者和设计者需要考量人类对自主性、有效性和可用性的关注。Nicholas Diakopoulos乐观地认为,在这些技术中聚焦人类经验,将使内容工作者成长,让社会蓬勃发展,让人工智能和自动化交出更好的答卷。

热门文章

        对数据标注行业稍微有些了解的人都知道数据标注进入门槛低,适合很多人兼职也适合创业。        正是因为数据标注行业的门槛低这个特点最近两年从事数据标注的小公司小工作室如雨后春笋般的遍布全车大大小小的县城。        但是目前有个有趣的现象,那就是有很多进入数据标注行业做了一段时间的人慢慢的感觉数据标注行业就是个坑?为什么有些人会说数据标注就是个坑呢?        其实对与有上述问题认识的人我们认为,这些人多数都是有于对这个行业对自身条件的不了解,盲目的开始进入数据标注行业的。为什么我们会这样说呢?下面就给给大家来分析下到底有哪几方面的原因:        一、有相当一部分人是听了朋友或者网上消息说这行很火爆,好做,门槛低,也有一部分人了因此租办公室买电脑招人,然后就去群里面找分发项目的人就开张干起来了。可实际上这些人他们大多数都没有充分了解数据标注行业,更没有认真仔细得去调查分析,到底自己能不能做好一个项目,到底自己能不能有质有量按时交付的完成一个项目,到底自己有没有这个能力来管理项目。更多的人也没有去用长远的眼光去考虑数据标注项目。        二、数据标注项目虽然入门门槛低,但是相当一部分有于理解认知应变能力上都不能保证去做好数据标注项目,还有一部分人由于自己对标注项目重视程度不足接到项目之后呢?不仔细认真的去阅读理解项目规则,更没有很好的对规则质检标准去培训员工,而对员工的要求主要看重每天的产出效率,从而导致接到手的项目做的质量很差,频繁的返工,有提项目甚至因为质量太烂项目方不给结算或者是结算比例很少,最终的结果就是做好些个项目但基本都是赔钱。        三、虽然业内人都 说数据标注简单,但是标注项目他也是一个系统性的工程,一个项目能不能做好并不简单的看项目好做就能赔钱。实际上决定项目赚不赚钱考验的是一个团队的项目管理水平,质量管理能力,运营能力各方面因素的。一句话再好赚钱的项目也照样有人赚钱也有人赚钱,要赚钱不是那么简单的。        四、还有些工作室 、小公司因为对行业不够了解等他们做了一段时间后发现,自己团队经常会没有项目做,而自己团队接项目的业务能力又不具备,甚至有的时候为了员工有活干去接一些价格极低根本就不赚钱的标注项目,时间稍微一长这些工作室团队就会赔上很多钱最终关门倒闭。        五、下来要说的就是一部分人人兼职人员由于认识不到位,对项目的规则质量要求 文件不认真阅读消化理解导致做的项目质量差返工有的甚至最后不结算,最终退出这行。更有一些人由于经验不足被标注行业的项目骗子给忽悠到辛苦劳动到最后结算时找不到人。        标注行业本身由于进入门槛低,做的人很行业内盲目打价格战,导致很多转手二手三手的项目在质量工期的要求下根本就不赚钱甚至赔钱,所以在这里也提醒大家做任何事都要谨慎而行。