新兴的数据标注行业遍布全球,全世界人都在为人工智能打工!

AI的新员工:数据标注行业遍及全球 在印度和菲律宾等低收入国家工作的数十万人 数据注释公司iMerit在印度加尔各答的办公室员工。随着公司越来越接受人工智能,新兴行业正在兴起,在该行业中,员工被用来“训练”算法以识别各种类型的数据 ,马达胡米塔·穆尔吉亚(Madhumita Murgia) JULY 24 2019 打印此页 26 在印度城市加尔各答的边缘,在拥挤不堪的梅蒂亚布鲁兹(Metiabruz)居民区,有460名年轻妇女在人工智能的先锋队伍中工作。 这些女性,主要来自当地的穆斯林社区,正在帮助培训诸如亚马逊,微软,eBay和TripAdvisor之类的自动驾驶汽车和增强现实系统中使用的计算机视觉算法。  

全女性中心是由印度和美国的数据标注公司iMerit运营的八个印度办事处之一,其2200名本地员工为制造业,医学成像,自动驾驶,零售等行业产生的数据海洋贴上标签,保险和农业。 该业务是不断发展的数据标签行业的一部分,该行业在肯尼亚,印度和菲律宾等低收入国家雇用数十万名工人。 如图8和Mighty AI之类的公司,以及埃森哲和Wipro等更传统的IT公司,正在组成所谓的“ AI供应链”,该供应链创建的算法能够解释包括驾驶镜头,搜索结果和照片在内的资料。美国和欧洲最大的跨国公司,包括Facebook,大众汽车和Google。 如今,公司正在拥抱人工智能,将其作为自动化决策和帮助创造新商机的一种方式。挑战在于,支撑该技术的算法像新生事物一样幼稚。他们需要喂给他们数百万个带有标签的示例,以教会他们“看”。 


 内罗毕的旧金山数据标签供应商Samasource的工人©Fredrik Lerneryd / FT 若要教授自动驾驶汽车算法的路标含义,或分辨孩子和狐狸之间的区别,则必须逐帧观看数小时的镜头并标记物体。一个小时的视频需要八个小时才能注释。事实上,麦肯锡(McKinsey)在2018年发布的一份报告中将数据标签列为工业界采用AI的最大障碍。 根据分析公司Cognilytica于2019年1月发布的报告,第三方数据标签解决方案的市场在2018年为1.5亿美元,到2023年将增长到超过10亿美元。“最大的技术公司不愿与培训数据,他们希望拥有客户关系[并且]明智地使用合作伙伴和采购,”位于旧金山的数据标签供应商Samasource的创始人兼首席执行官Leila Janah说道,该公司在肯尼亚,乌干达和美国设有办事处。 “但这就是为什么围绕道德的AI供应链进行对话如此重要的原因。在它开始走出他们的四面墙之前,我们必须确保我们设定了标准,而且这个市场不会阻碍服装工厂的发展。有巨大的机会来确保这个(标签)行业是一个积极的力量。”  

新员工 当大型跨国公司开始为消费产品开发机器学习算法时,数据标签要么通过亚马逊的Mechanical Turk之类的众包平台提供给零工,要么由低薪经济体的工人团队内部进行。萨拉·罗伯茨(Sarah T Roberts)等研究人员对像美国这样的国家的数十名科技工作者进行了采访,他们认为,与同公司的其他员工相比,这些承包商的工资通常被严重低估,而他们的工作却被视为卑鄙的。菲律宾的“屏幕背后”一书。 Samasource的创始人兼首席执行官Leila Janah©Fredrik Lerneryd / FT 随着需要贴标签的数据量呈指数级增长,大公司越来越多地转向第三方,这些第三方能够为专门提供特定类型数据(例如驾驶或医疗信息)的工人提供服务,并且他们也以道德的方式得到报酬和待遇。 Samasource的员工为沃尔玛,谷歌,微软,Glassdoor,大陆和通用汽车等公司提供数据标签,其总部位于内罗毕,拥有2800多名员工。“我们有一种劳动模式,雇用人们作为全职工人,并以生活工资支付福利。  


平均而言,(当我们雇用他们时)我们的工人收入几乎翻了两番。”贾纳女士说。“我们与通常来自非正式定居点,乡村的人口一起工作,因此有机会获得一份高薪的工作,并为您提供计算机技能并使您接触AI,这意味着人们对此非常重视。” iMerit在加尔各答附近的全女性培训机构已成为计算机视觉标签的专业中心,该公司总体上雇用了50%的女性劳动力,其中大部分来自印度的低收入家庭。“这是一个不允许妇女出差去其他地方工作的社区。因此,我们开始为他们带来项目。” iMerit首席执行官Radha Basu说。 人为因素 人工智能供应链公司坚持认为,他们的工作不再涉及对猫,狗和房屋等基本物体的盲目,死记硬背的标签,而是已经演变成更加专业化的任务集。 例如,iMerit员工可能会分析驾驶员的车载录像,包括面部表情和眨眼,以确定驾驶员的疲劳程度;

巴苏女士说,他们已经为亚马逊的Echo扬声器培训了语音剪辑,以理解语言并分析了单个建筑物和建筑工地的卫星图像,从而为保险公司培训了风险评估算法。 iMerit在加尔各答的工人 Samasource在Bayer的一个项目上工作,该项目要求注释植物的血管横截面以检测病害细胞以保护作物,并训练空中图像算法。Janah女士解释说:“我们希望专注于机器无法轻易掌握的复杂边缘情况,在这些情况下您需要人工来提供细微差别和判断力。那就是我们增加价值的地方。” 随着AI培训市场开始爆炸式增长,使用AI的西方团体正在寻求与具有社会影响力模型的更多道德外包公司合作。“人们第一次质疑那些不为AI供应链中的工人提供生活工资的[标签]公司。作为一家公司,如果您要让这些劳动者对您的数据进行培训,则应归功于他们对这些劳动者的公平对待,”贾纳女士说。 巴苏女士说:“从长远来看,这些年轻的农村部落工人将真正改变其社区的经济能力。

西方来自谷歌

推荐文章

人工智能(AI)问世之初曾经狂妄自大、令人失望,它如何突然变成当今最热门的技术领域?人工智能(AI)问世之初曾经狂妄自大、令人失望,它如何突然变成当今最热门的技术领域?这个词语首次出现在1956年的一份研究计划书中。该计划书写道:“只要精心挑选一群科学家,让他们一起研究一个夏天,就可以取得重大进展,使机器能够解决目前只有人类才能解决的那些问题。”至少可以说,这种看法过于乐观。尽管偶有进步,但AI在人们心目中成为了言过其实的代名词,以至于研究人员基本上避免使用这个词语,宁愿用“专家系统”或者“神经网络”代替。“AI”的平反和当前的热潮可追溯到2012年的ImageNet Challenge在线竞赛。ImageNet是一个在线数据库,包含数百万张图片,全部由人工标记。每年一度的ImageNet Challenge竞赛旨在鼓励该领域的研究人员比拼和衡量他们在计算机自动识别和标记图像方面的进展。他们的系统首先使用一组被正确标记的图像进行训练,然后接受挑战,标记之前从未见过的测试图像。在随后的研讨会上,获胜者分享和讨论他们的技术。杰夫里·辛顿(Geoffery Hinton)2010年,获胜的那个系统标记图像的准确率为72%(人类平均为95%)。2012年,多伦多大学教授杰夫·辛顿(Geoffery Hinton)领导的一支团队凭借一项名为“深度学习”的新技术大幅提高了准确率,达到85%。后来在2015年的ImageNet Challenge竞赛中,这项技术使准确率进一步提升至96%,首次超越人类。2012年的比赛结果被恰如其分地视为一次突破,但蒙特利尔大学计算机科学家约书亚·本吉奥(Yoshua Bengio)说,这依赖于“将之前已有的技术结合起来”。约书亚·本吉奥(Yoshua Bengio)本吉奥和辛顿等人被视为深度学习的先驱。从本质上来讲,这项技术通过强大的计算能力和大量的训练数据,复兴了AI问世之初的一个旧想法,也就是所谓的人工神经网络(ANN),其灵感来自于大脑神经元网络。在生物大脑中,每个神经元被其他神经元发来的信号触发,其自身发出的信号又会触发其他神经元。一个简单的ANN包含一个向网络输入数据的神经元输入层,和一个输出结果的输出层,也许还有两三个处理信息的中间隐藏层(实际上,ANN完全由软件模拟而成)。网络中的每个神经元都有一组“权值”和一个控制其输出启动的“激活功能”。神经网络的训练涉及到调整神经元的权值,使特定的输入产生我们需要的输出。上世纪90年代初,ANN开始取得某些有用的结果,比如识别手写数字。但如果让它们去做更加复杂的任务,就会遇到麻烦。在过去十年里,新技术和对激活功能的一个简单调整使训练深度网络成为可能。同时,互联网的崛起使无数的文档、图片和视频可用于训练目的。这一切都需要强大的数据处理能力。2009年前后,几支AI研究团队意识到,专门用来在PC和游戏机上产生精细图像的图形处理单元(GPU)能够提供强大的数据处理能力,也非常适合运行深度学习算法。斯坦福大学的一支AI研究团队发现,GPU可以使其深度学习系统的运行速度加快近百倍。该团队由吴恩达领导,他后来又曾加入谷歌和百度。吴恩达突然之间,训练一个四层神经网络只需要不到一天的时间,而以前需要好几周。GPU制造商英伟达(NVIDIA)的老板黄仁勋说,用来为玩家创造虚拟世界的芯片,也能用来帮助计算机通过深度学习技术理解现实世界。ImageNet Challenge的比赛结果证明深度学习大有可为。突然之间,人们开始给予关注,不只是在AI圈子里,还有整个技术界。此后,深度学习系统变得越来越强大:深度达到20或30层的网络不再罕见,微软(Microsoft)的研究人员甚至打造了一个152层的网络。层数更多的网络具有更强的抽象能力,能够产生更好的结果。事实证明,这些网络善于解决非常广泛的问题。“人们之所以关注这个领域,是因为深度学习技术具有广泛的用途,”谷歌机器智能研究主管、负责谷歌搜索引擎的约翰·詹南德雷亚(John Giannandrea)说。谷歌正在利用深度学习来提高其网络搜索结果的质量,理解用户向智能手机发出的语音命令,帮助人们搜索包含特定影像的照片,自动生成电子邮件智能回复,改善网页翻译服务,帮助自动驾驶汽车识别周围环境。学习如何学习深度学习分很多种,其中使用最广泛的一种是“监督学习”,该技术利用标记样本来训练系统。例如,就垃圾邮件过滤而言,这项技术可能会建立一个庞大的样本信息数据库,每条样本信息被标记为“垃圾邮件”或者“非垃圾邮件”。深度学习系统可以使用这种数据库进行训练,通过反复研究样本和调整神经网络内部的权值,改善垃圾邮件的识别准确率。这种方法的优点在于,不需要人类专家制定一套规则,也不需要程序员编写代码执行规则。系统能够直接从标记数据中学习。使用标记数据进行训练的系统被用来分类图像,识别语音,发现信用卡欺诈交易,识别垃圾邮件和恶意软件,定向投放广告。对于这些应用,正确的答案已经存在于先前的大量样本中。当你上传照片时,Facebook可以识别和标记你的朋友和家人。近期,该公司发布了一个系统,可以为失明用户描述照片的内容(“两个人,笑,太阳镜,户外,水”)。吴恩达说,监督学习能够用于各种各样的数据。通过采用这项技术,现有的金融服务、计算机安全和营销公司可以贴上AI公司的新标签。另一种技术是非监督学习,同样是使用大量样本来训练系统,但这些样本没有经过标记。系统学习识别特征和聚类相似样本,发现数据中隐藏的集合、联系或模式。非监督学习可以用来搜寻没有具体形象的东西,比如监督网络流量模式,探测可能与网络攻击有关的异常现象,或者检查大量的保险索赔,揭露新的欺诈手法。再举一个著名的例子。2011年在谷歌工作时,吴恩达领导了一个名为Google Brain的项目,要求一个庞大的无监督学习系统寻找数千个非标记YouTube视频中的共有图案。一天,吴恩达的一位博士生给他带来了一个惊喜。“我记得他把我叫到他的电脑前,对我说‘瞧这个,’”吴恩达回忆道,屏幕上有一张毛茸茸的脸,那是从数千个样本中提取的图案。系统发现了猫。强化学习介于监督和非监督学习之间,只使用偶尔的奖励反馈来训练神经网络与环境互动。从本质上讲,训练涉及到调整网络的权值,寻找一个持续产生更高奖励的策略。DeepMind是这方面的行家。2015年2月,该公司在《自然》(Nature)杂志上发表了一篇文章,描述了一种强化学习系统,它能够学会玩49款雅达利经典电子游戏,只使用屏幕像素和游戏得分作为输入数据,其输出数据与虚拟控制器连接。该系统从头开始学习玩这些游戏,在29款游戏中都达到或超过了人类的水平。让系统玩游戏DeepMind的德米斯·哈萨比斯(Demis Hassabis)说,对AI研究而言,电子游戏是理想的训练场,因为“它们就像现实世界的缩影,但更加明晰,更有约束”。德米斯·哈萨比斯(Demis Hassabis)游戏引擎也能非常轻松地产生大量的训练数据。哈萨比斯曾从事电子游戏行业,后来获得认知神经科学博士学位并创建DeepMind。这家公司现在是谷歌旗下的AI研究部门,办公地点位于伦敦国王十字车站附近。2016年3月,DeepMind研发的AlphaGo系统击败了围棋顶尖高手李世石,在五局比赛中取得4:1的压倒性胜利。AlphaGo是强化学习系统,具有某些不同寻常的特征。它由几个相互连接的模块组成,包括两个深度神经网络,分别擅长不同的领域,就像人脑的左右半球。其中一个网络接受的训练是分析数百万盘围棋棋局,从而在实战中给出赢面最高的几种下一步落子选择,然后交由另一个网络进行评估,后者采用随机取样的技术。因此,AlphaGo同时结合了仿生技术和非仿生技术。关于哪种方法更好的问题,AI研究人员争论了几十年,但AlphaGo双管齐下。“这是个混合系统,因为我们相信,我们将不止需要深度学习来解决智力问题,”哈萨比斯说。哈萨比斯和其他研究人员已经在着手下一步,也就是迁移学习。这可以使强化学习系统把先前已获得的知识作为基础,而不必每次都从头训练。哈萨比斯指出,人类可以毫不费力地做到这一点。詹南德雷亚回忆说,他四岁的女儿知道大小轮脚踏车也是一种自行车,即使她以前从未见过。“计算机做不到这一点,”他说。被Salesforce收购的AI初创公司MetaMind致力于另一种相关的方法,名为多任务学习,也就是同一个神经网络架构被用来解决几种不同的问题,解决其中一种问题的经验使它能够更好地解决另一种问题。和DeepMind一样,MetaMind也在探索模块化架构,其中一种架构名为“动态记忆网络”,能够获取一系列陈述,然后回答有关这些陈述的问题,推断出它们之间的逻辑联系(Kermit是青蛙,青蛙是绿色的,所以Kermit是绿色的)。MetaMind还把自然语言和图像识别网络整合进同一个系统,能够回答有关图像的问题(“这辆车是什么颜色的?”)。其技术可以用于面向Salesforce客户的自动化客户服务机器人或者呼叫中心。以前,原本形势大好的AI新技术往往会迅速失势。但深度学习不同。“它确实很有用,”MetaMind的理查德·索赫尔(Richard Socher)说。人们每天都在使用它,但并没有意识到它的存在。理查德·索赫尔(Richard Socher)哈萨比斯和索赫尔等人的长期目标是打造“通用人工智能”(AGI),也就是能够处理多种任务的系统,而不是为每个问题都单独创造一个新的AI系统。索赫尔说,AI研究多年来聚焦于解决具体狭隘的问题,但现在研究人员正在“以新的方式拼凑更先进的乐高积木”。哪怕是最乐观的人也认为,还得再需要十年才能实现具备人类水平的AGI。但哈萨比斯说:“我们觉得,我们知道实现AGI需要哪些关键的东西。”AI已经在发挥实际作用,并且将很快变得越来越有用。谷歌的Smart Reply系统(利用两个神经网络自动生成电子邮件回复)在短短四个月的时间内,就从深度学习研究项目变成了现实产品(不过刚开始的时候不得不阻止它对几乎每封邮件都生成“我爱你”的回复)。“你在学术期刊上发表论文,毫不夸张地说,随后的一个月就会有公司使用那个系统,”索赫尔说。来自大大小小的AI公司的学术论文持续不断。AI研究人员被允许在同行评审期刊上发表他们的研究结果,即使是在转化投产之后也可以。他们中的很多人一边为企业工作,一边发表学术文章。“如果你不让他们发表,他们就不会为你工作,”安德森-霍洛维茨基金(Andreessen Horowitz)的克里斯·迪克森(Chris Dixon)说。谷歌、Facebook、微软、IBM、亚马逊、百度和其他公司提供了免费的开源深度学习软件。一个原因是这些公司的研究人员希望公布他们正在做的事情,这有助于招募人才。另一个原因在于,大型互联网公司能够承担免费提供AI软件的后果,因为他们可以从其他地方获得巨大好处:获取大量用户数据用于训练目的。投资基金Bloomberg Beta的席翁·齐利斯(Shivon Zilis)说,这使他们在某些领域具有优势。而初创公司则想办法进入特定市场。例如,无人机初创公司利用模拟数据来了解如何在拥挤环境中飞行。

热门文章

简单讲:互联网数据标注员是借助电脑或者移动设备对一些原始的数据进行处理,生产出满足AI公司机器学习需要数据的一群人。按照数据处理对象的不同,工作内容也会有差别,标注员的工作内容可以分为:分类;框选;注释;标记。按照所处公司的不同,标注员的工作方式也会有差别:有的人工智能公司处于对数据安全性考虑会自建标注团队,在这些公司工作的标注员可以保证自己工作内容不会出现太大变动;但一些服务于人工智能公司非专业外包公司标注员的工作则是项目制的,一个项目忙完紧接着做另一个项目,这样工作内容连续性较差,对一种类型的项目经验也不会积累的太多。就目前来说,人工智能还处于人工增长阶段,机器依然需要大量的数据进行训练,测试。标注员在当下也会一直存在,而且从业群体会越来越多,所以暂时不用担心这份职业会不会短期消失。就标注员从业来说,建议选择人工智能公司和专业的数据公司,这样可以保证自己在一个方向上了解的足够深入。就职场晋升来说,以牛牛数据为例:标注员——项目经理——项目总监——数据运营总监。首先谈谈什么是数据标注。数据标注有许多类型,如分类、画框、注释、标记等等,我们会在下面详谈。要理解数据标注,得先理解AI其实是部分替代人的认知功能。回想一下我们是如何学习的,例如我们学习认识苹果,那么就需要有人拿着一个苹果到你面前告诉你,这是一个苹果。然后以后你遇到了苹果,你才知道这玩意儿叫做“苹果”。类比机器学习,我们要教他认识一个苹果,你直接给它一张苹果的图片,它是完全不知道这是个啥玩意的。我们得先有苹果的图片,上面标注着“苹果”两个字,然后机器通过学习了大量的图片中的特征,这时候再给机器任意一张苹果的图片,它就能认出来了。这边可以顺带提一下训练集和测试集的概念。训练集和测试集都是标注过的数据,还是以苹果为例子,假设我们有1000张标注着“苹果”的图片,那么我们可以拿900涨作为训练集,100张作为测试集。机器从900张苹果的图片中学习得到一个模型,然后我们将剩下的100张机器没有见过的图片去给它识别,然后我们就能够得到这个模型的准确率了。想想我们上学的时候,考试的内容总是不会和我们平时的作业一样,也只有这样才能测试出学习的真正效果,这样就不难理解为什么要划分一个测试集了。我们知道机器学习分为有监督学习和无监督学习。无监督学习的效果是不可控的,常常是被用来做探索性的实验。而在实际产品应用中,通常使用的是有监督学习。有监督的机器学习就需要有标注的数据来作为先验经验。在进行数据标注之前,我们首先要对数据进行清洗,得到符合我们要求的数据。数据的清洗包括去除无效的数据、整理成规整的格式等等。具体的数据要求可以和算法人员确认。二、常见的几种数据标注类型1.分类标注:分类标注,就是我们常见的打标签。一般是从既定的标签中选择数据对应的标签,是封闭集合。如下图,一张图就可以有很多分类/标签:成人、女、黄种人、长发等。对于文字,可以标注主语、谓语、宾语,名词动词等。<img src="https://pic2.zhimg.com/50/v2-df93dc0a7e8a5fe387dc3774748b5f05_hd.jpg" data-caption="" data-size="normal" data-rawwidth="700" data-rawheight="400" class="origin_image zh-lightbox-thumb" width="700" data-original="https://pic2.zhimg.com/v2-df93dc0a7e8a5fe387dc3774748b5f05_r.jpg">适用:文本、图像、语音、视频应用:脸龄识别,情绪识别,性别识别2.标框标注:机器视觉中的标框标注,很容易理解,就是框选要检测的对象。如人脸识别,首先要先把人脸的位置确定下来。行人识别,如下图。<img src="https://pic2.zhimg.com/50/v2-7824903d6d840e2bb08d96b5c2fa5874_hd.jpg" data-caption="" data-size="normal" data-rawwidth="591" data-rawheight="398" class="origin_image zh-lightbox-thumb" width="591" data-original="https://pic2.zhimg.com/v2-7824903d6d840e2bb08d96b5c2fa5874_r.jpg">适用:图像应用:人脸识别,物品识别3.区域标注:相比于标框标注,区域标注要求更加精确。边缘可以是柔性的。如自动驾驶中的道路识别。<img src="https://pic3.zhimg.com/50/v2-4bc1dd2278182acf94fc426d7e6f2dc1_hd.jpg" data-caption="" data-size="normal" data-rawwidth="601" data-rawheight="377" class="origin_image zh-lightbox-thumb" width="601" data-original="https://pic3.zhimg.com/v2-4bc1dd2278182acf94fc426d7e6f2dc1_r.jpg">适用:图像应用:自动驾驶4.描点标注:一些对于特征要求细致的应用中常常需要描点标注。人脸识别、骨骼识别等。<img src="https://pic4.zhimg.com/50/v2-5e24f394516c75e45942c37ba0da85c0_hd.jpg" data-caption="" data-size="normal" data-rawwidth="583" data-rawheight="387" class="origin_image zh-lightbox-thumb" width="583" data-original="https://pic4.zhimg.com/v2-5e24f394516c75e45942c37ba0da85c0_r.jpg">适用:图像应用:人脸识别、骨骼识别5.其他标注:标注的类型除了上面几种常见,还有很多个性化的。根据不同的需求则需要不同的标注。如自动摘要,就需要标注文章的主要观点,这时候的标注严格上就不属于上面的任何一种了。(或则你把它归为分类也是可以的,只是标注主要观点就没有这么客观的标准,如果是标注苹果估计大多数人标注的结果都差不多。)三、有什么发展前途?数据标注员可以说是AI消灭了一部分工作又创造出来的一种工作。在未来AI发展良好的前提下,数据的缺口一定是巨大的。可以预见3-5年内数据标注员的需求会一直存在。至于发展,其实所谓一些熟能生巧的工作,都是有被替代掉的风险的。深度学习解决的一件事情就是熟能生巧。在这个岗位上,其实你的一些想法就代表了AI的想法,AI会根据你标注的数据进行学习,想想还是有点成就感的。数据标注可以说是AI的入门级岗位,未来可转向其他AI岗位。如项目实施顾问等,这就要求更多的工作技能,需要再工作中积累。作者:跹尘链接:https://www.zhihu.com/question/30654399/answer/264828926来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。