揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族

注:原文来自“腾讯科技”,本文转载来自36氪。


    大型科技公司对注释数据的工作往往保持沉默,因为他们面临着隐私维权人士对他们存储并与外部企业共享大量个人数据的担忧加剧


划重点

  • 在AI系统能够学习之前,必须有人标记提供给它的数据,这项工作对自动驾驶汽车、监控系统和自动化医疗等AI的创造至关重要。

  • 大型科技公司对注释数据的工作往往保持沉默,因为他们面临着隐私维权人士对他们存储并与外部企业共享大量个人数据的担忧加剧。

  • 数以万计的上班族和通常在家里工作的独立承包商,正通过Amazon Mechanical Turk等众包服务对数据进行注释和贴标签,每个标签只能赚几分钱。

8月17日消息,据外媒报道,在距离孟加拉湾约60公里远的印度布巴内斯瓦尔市中心,纳米塔·普拉丹(Namita Pradhan)坐在办公桌前,盯着世界另一端某家医院录制的视频。

视频显示了某人结肠的内部,普拉丹正通过视频寻找息肉,即大肠中可能导致癌症的小肿块,看起来有点儿像黏糊糊的痘痘。当她找到息肉时,会用她的电脑鼠标和键盘标记,在这个小凸起周围画个数字圆圈。普拉丹没有接受过专门的医学培训,但她正在帮助训练一个人工智能(AI)系统,这个系统最终可以完成医生的工作。

揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族

在一座小型办公楼的四楼,数十名印度年轻男女在办公桌前认真工作,普拉丹就是其中之一。他们接受的训练是对各种数字图像进行注释,从街道场景中的停车标志和行人,再到卫星照片中的工厂和油罐车,他们都能精确定位。

科技行业的大多数人都会告诉你,AI是他们行业的未来,这项技术正在快速发展,这要归功于一种叫做机器学习的东西。但科技公司的高管很少讨论其创建过程中的劳动密集型努力。AI正在向人类学习,而且是向很多人类学习。

但在AI系统能够学习之前,必须有人标记提供给它的数据。例如,人类必须精确定位息肉。这项工作对自动驾驶汽车、监控系统和自动化医疗等AI的创造至关重要。然而,科技公司对这项工作保持沉默,因为他们面临着隐私维权人士对他们存储并与外部企业共享大量个人数据的担忧加剧。

今年早些时候,资深科技编辑凯德·梅茨(Cade Metz)设法帮我们了解下AI培训的幕后场景,这是硅谷奇才们很少会同意的。梅茨在印度进行了一次漫步旅行,走访了五个办公室,那里的人们正在从事培训AI系统所需的、几乎没有终点的重复工作,所有这些工作都由名为iMerit的公司运营。

有像普拉丹女士这样的肠道测量师和区分咳嗽好坏的专家,有语言专家和识别街景标识的专业人士。什么是行人?那是双黄线还是虚白线?将来,机器人汽车需要知道其中的区别。

揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族

图2:iMerit员工必须为他们贴标签的工作学习不同寻常的技能,比如在人体肠道上发现有问题的息肉

梅茨所看到的场景看起来不太像我们想象中的未来,或者至少是你可能想象的自动化未来。办公室可以是呼叫中心或支付处理中心,其中一个位于加尔各答西部低收入居民区中央的一栋旧式公寓楼中,那里挤满了行人、汽车三轮车和街头小贩。在他参观过的布巴内斯瓦尔以及印度、尼泊尔、菲律宾、东非和美国的其他城市,数以万计的上班族都在致力于训练机器。

还有数万名工人,也就是通常在家里工作的独立承包商,也通过Amazon Mechanical Turk等众包服务对数据进行注释,这种服务让任何人都可以将数字任务分配给美国和其他国家的独立工人,工人们每个标签能挣几分钱。

总部设在印度的iMerit,为科技和汽车行业的许多大牌公司贴数据标签。该公司以保密协议为由,拒绝公开这些客户的名字。但该公司最近透露,其在全球九个办事处的2000多名员工正在为亚马逊的在线数据标签服务SageMaker Ground Truth做出贡献。之前,它还将微软列为客户。

揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族

图3:在印度加尔各答Metiabruz社区的iMerit办公室展示的艺术品

可以肯定的是,AI将来可能会掏空就业市场。但就目前而言,它正在创造收入相对较低的工作岗位。根据研究公司Cognilytica的数据,2018年数据标签市场价值超过5亿美元,到2023年将达到12亿美元。研究表明,这类工作占建设AI技术所花费时间的80%。

这项工作是剥削性的吗?这取决于你住在哪里,你在做什么。在印度,这是通往中产的门票。在美国新奥尔良,这是一份体面的工作。但对于作为独立承包商的人来说,这往往是一条“不归路”。

有些技能是必须学习的,比如在视频或医学扫描中发现疾病的迹象,或者在汽车或树的图像周围画数字套索时保持手部稳定。在某些情况下,当任务涉及医疗视频、色情或暴力图像时,工作就会变得可怕。

克里斯蒂·米兰德(Kristy Milland)说:“当你第一次看到这些东西时,会深深地感到不安。你不想回去工作,你可能不会回去工作了。”米兰德花了数年时间在Amazon Mechanical Turk上做数据标签工作,现在已经成为代表这项服务的工人的劳工维权人士。她称:“对于我们这些负担不起失去工作的人来说,你就只能继续忍受。”

在去印度之前,梅茨曾试着在众包服务上给图片贴上标签,在耐克标识周围画数字框,并识别“工作不安全”的图片。他当时显得非常笨拙。在开始工作之前,他必须通过测试,但却接连失败了三次。给图像贴上标签以便人们可以立即在网站上搜索零售商品,更不用说花时间将裸体女性和性玩具的粗糙图像识别为“NSFW”,并不完全是鼓舞人心的。

AI研究人员希望他们能够建立能从少量数据中学习的系统。但在可预见的未来,人类的劳动依然是必不可少的。微软的人类学家玛丽·格雷(Mary Gray)说:“这是个隐藏在技术之下、不断扩张的世界,很难将人类排除在循环之外。”

寺庙之城

揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族

图4:员工离开印度布巴内斯瓦尔的iMerit办公室,这家私人公司是由Radha和Dipak Basu创立的,他们都在硅谷工作过很长时间

布巴内斯瓦尔又被称为“寺庙之城”。古老的印度教圣地矗立在城市西南端的路边市场上,包括可以追溯到公元10世纪的巨型石塔。在市中心,许多街道没有铺设路面。奶牛和野狗在轻便摩托车、小汽车和卡车之间徘徊。

这座城市拥有83万人口,也是一个快速增长的在线劳动力中心。从寺庙出发大约15分钟的车程,在市中心附近一条铺好路面的路上,一座白色的四层建筑坐落在一堵石墙后面。里面有三个房间,房间里摆满了长长的桌子,每个都有自己的宽屏电脑显示屏。这就是普拉丹女士给视频贴标签的地方。

24岁的普拉丹在城外长大,并从当地一所大学获得了学位,在接受iMerit的工作之前,她在那里学习生物学和其他学科。这是她哥哥推荐的工作,他本人此前已经在公司工作了。普拉丹在工作日时住在她办公室附近的一家旅社,每个周末都乘公交车回家。

梅茨曾在今年1月份参观了普拉丹的办公室。许多身穿印度传统服装、带着长长金耳环的女士坐在长长的桌子旁,普拉丹女士穿着一件绿色的长袖衬衫、黑色的裤子和白色的系带鞋,为美国的一位客户注释视频。在通常每天8小时的工作中,这位害羞的女士观看了十几个结肠镜检查视频,不断地倒转视频,以便更近距离地查看各个帧。

每隔一段时间,普拉丹就会找到她想要的东西,她会用数字“包围盒”套住它。她画了数百个这样的包围盒,给息肉和其他疾病征兆贴上标签,比如血块和炎症。

揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族

图5:普拉丹(右二)在布巴内斯瓦尔的iMerit办公室和同事们一起工作

普拉丹的客户是美国的一家公司,iMerit不允许透露它的名字,它最终将把普拉丹的工作输入给AI系统,这样它就可以学会自己识别医疗状况。结肠镜的主人不一定知道视频的存在,普拉丹女士也不知道这些视频是从哪里来的,iMerit也是如此。

普拉丹女士在与一位非实习医生进行为期七天的在线视频通话时学会了这项任务。这位医生住在美国加州奥克兰,帮助培训许多iMerit办公室的工作人员。但是有些人质疑,是否应该由经验丰富的医生和医学生自己做这类标签。

威尔·康奈尔医学(Weill Cornell Medicine)和纽约长老会医院(NewYork-Presbyterian)的放射学家、初创公司MD.ai.的联合创始人乔治·施(George Shih)博士说,这项工作需要“有医学背景,并具备解剖学和病理学相关知识的人”。MD.ai.帮助企业为医疗保健构建AI。

在聊起普拉丹的工作时,她说那“很有趣”,但是很累。至于视频的图形化本质?她承认:“一开始很恶心,但后来你就习惯了。”

普拉丹标注的图像很可怕,但没有iMerit处理的其他图像那么可怕。他们的客户也在建立AI,可以识别和删除社交网络和其他在线服务上不想要的图片。这意味着需要标注色情、暴力和其他有害的图像。

这项工作可能会让从业者感到非常不安,iMerit试图限制他们审查这类内容的数量。在AI初创企业Clarifai负责数据注释工作的利兹·奥沙利文(Liz O‘Sullivan)表示,色情和暴力与更无害的图片混合在一起,那些贴上可怕标签的图片被隔离在不同的房间里,以保护其他员工。奥沙利文曾与iMerit在此类项目上密切合作。

奥沙利文说,其他标签公司将让员工对这些图片进行无限数量的注释。她指出:“如果这会导致创伤后应激障碍或者更糟情况,我不会感到惊讶。在道德上不受谴责的公司根本不愿意承担这样的责任。你必须用其他工作来填充色情和暴力,这样工人就不必看色情和斩首等内容。”

iMerit在一份声明中表示,它不会强迫员工查看色情或其他攻击性内容,只有在有助于改善监控系统的情况下才会承担这项工作。据一位公司高管透露,普拉丹和其他贴标员每月的收入在150美元到200美元之间,同时可为iMerit带来800美元到1000美元的收入。

按照美国的标准,普拉丹的工资低得不像话。但对于她和这些办公室的其他许多人来说,这大约与数据录入工作的平均工资差不多。尽管工作单调乏味,但它能帮助付得起公寓的费用。

揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族图6:iMerit员工普拉森吉特·拜迪亚与妻子派克在西孟加拉邦工作,他很满意当前的工作

普拉森吉特·拜迪亚(Prasenjit Baidya)在距离印度东海岸、西孟加拉邦最大城市加尔各答约50公里的农场长大。他的父母和大家庭仍然住在他儿时的家中,那是19世纪初建造的砖房。他们在周围的田里种植水稻和向日葵,并在铺满屋顶的地毯上烘干种子。

他是家里第一个接受大学教育的人,其中包括电脑课。但是学校没有教他那么多知识,教室里平均25个学生才能分配到一台电脑。大学毕业后,他自学了计算机技能,当时他报名参加了名为Anudip的非营利组织举办的培训课程。这是一位朋友推荐的,每月的费用相当于5美元。

Anudip在印度各地开设英语和计算机课程,每年培训约22000人。这家机构直接将学生推荐给iMerit,它的创始人在2013年将iMerit作为姐妹业务建立起来。通过Anudip,拜迪亚在加尔各答的一家iMerit办公室找到了工作,他的妻子巴纳利·派克(Barnali Paik)也是如此,她在附近的一个村庄长大。

在过去的六年中,iMerit从Anudip雇佣了超过1600名学生。目前,该公司的员工总数约为2500人,其中超过80%的人来自月收入低于150美元的家庭。

iMerit成立于2012年,仍然是一家私人公司,它让员工执行数字任务,比如转录音频文件或识别照片中的物体。全球各地的企业付钱给公司,而且越来越多地,他们在协助AI训练方面的工作。与丈夫迪帕克(Dipak)共同创立了Anudip和iMerit的拉达·巴苏(Radha Basu)说:“我们想让低收入背景的人进入科技行业。”巴苏和迪帕克在硅谷与科技巨头思科、惠普等长期合作。

这些工人的平均年龄是24岁。像拜迪亚一样,他们中的大多数人来自农村。该公司最近在加尔各答西部以穆斯林为主的社区Metiabruz开设了一家新的办事处。在那里,它雇佣的大多是穆斯林妇女,她们的家人不愿意让她们离开这个熙熙攘攘的地区。他们没有被要求看色情图片或暴力材料。

揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族

图7:iMerit员工在加尔各答Metiabruz的办公室接受培训

起初,iMerit专注于简单的任务,为在线零售网站整理产品清单,审查社交媒体上的帖子,但它已经转移到了为AI提供支持的工作中。iMerit和类似公司的增长代表着从像Mechanical Turk这样的众包服务的转变。iMerit及其客户可以更好地控制员工的培训方式和工作完成方式。

拜迪亚现在是iMerit的经理,他负责为美国一家大公司为培训无人驾驶汽车所使用的街道场景贴上标签的工作。他的团队对数字照片以及激光雷达捕获的三维图像进行分析和标记。他们整天都在汽车、行人、停车标志和电线周围画边界框。

拜迪亚说这份工作可能会很乏味,但它给了他一种他本来可能不会拥有的生活。他和妻子最近在加尔各答买了一套公寓,步行就可到达她工作的iMerit办公室。拜迪亚说:“我的生活发生了梦幻般的变化,无论是从我的财务状况、个人经历以及英语技能等方面来看,都是如此。我获得了一个机会!”

听人们咳嗽

揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族

图8:在iMerit新奥尔良办公室工作的奥斯卡·卡贝萨斯(Oscar Cabezas)。当公司开始开发西班牙语数字助理时,他加入了公司

印度之行几周后,梅茨乘坐Uber穿过新奥尔良市中心。大约18个月前,iMerit搬进了Superdome街对面的一栋建筑。美国一家大科技公司需要一种为其家庭数字助理的西班牙语版本标记数据的方法。因此,它将数据发送到新奥尔良的新iMerit办公室。

2005年卡特里娜飓风过后,数百名建筑工人和他们的家人搬到新奥尔良帮助重建这座城市,很多人留了下来。许多会说西班牙语的人随这支新的员工队伍而来,公司开始雇用他们。

23岁的奥斯卡·卡贝萨斯(Oscar Cabezas)和母亲从哥伦比亚搬到了新奥尔良。他的继父在建筑工地找到了工作,大学毕业后,卡贝萨斯加入iMerit,开始开发西班牙语数字助理。

他注释了从推文到餐馆评论的所有内容,识别人物和地点,并找出含糊不清之处。例如,在危地马拉,“pisto”意味着钱,但在墨西哥,它意味着啤酒。他所:“每天都有新的项目。”

这个办公室的工作已扩展到其他领域,为希望将数据保留在美国境内的企业提供服务。出于法律和安全目的,有些项目必须留在美国。

42岁的格伦达·赫尔南德斯(Glenda Hernandez)出生在危地马拉,她说她怀念以前在数字助理项目上的工作。她喜欢读书,曾为大型出版公司在网上评论书籍,这样她就可以获得免费的副本,她很享受用西班牙语进行阅读带来的有偿阅读机会。

揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族

图9:格伦达·赫尔南德斯(Glenda Hernandez)是新奥尔良iMerit的工作人员,她已经学会了区分咳嗽好坏之间的区别

赫尔南德斯对图像标记或类似于对人们咳嗽的录音进行注释的项目不那么感兴趣,但这是建立AI的一种方式,可以通过电话识别疾病症状。她说:“整天听咳嗽有点儿让人觉得恶心!” 微软人类学家格雷说,这项工作很容易被误解。整天听人们咳嗽可能令人恶心,但这也是医生度过他们日子的方式。她说:“我们不认为这是苦差事。”

赫尔南德斯女士的工作是为了帮助医生做好他们的工作,或者也许有一天,取代他们。她以此为荣。在抱怨了这个项目后不久,她指了指办公室里的同事说:“我们都是咳嗽诊断大师。”

“我受够了”

揭秘AI训练内幕:帮助AI进化的除了专家,还有全球无数上班族

图10:多伦多的克里斯蒂·米兰德(Kristy Milland)在Amazon Mechanical Turk工作了14年,这是一家众包数据注释任务的公司,现在她试图改善从事这些工作的人的工作条件

推荐文章

人工智能时代下,数据标注不应该被陌生  人工智能的兴起带火了一系列与其相关的产业,数据标注作为其基础产业之一,也在人工智能的加持之下短短几年内迎来了飞速的发展。然而对于不少人来说,数据标注仍具是一个“盲区”。那么什么是数据标注,他又是如何助力人工智能发展的呢?         要想了解数据标注,首先需要了解人工智能的学习方法。监督学习是目前应用最广泛的机器学习算法,该方法强依赖标注数据,它通过学习大量标注的训练样本来构建预测模型。深度学习也需要大量数据的“投喂”,以深度学习为代表的机器学习框架都需要在大型的监督数据集上进行训练,百分点首席算法科学家苏海波曾表示,深度学习只有在拥有充足标注数据的场景下才能发挥它的威力,但在很多实际的应用中却没有足够的标注数据。  《2019 年中国人工智能基础数据服务行业白皮书》分析指出,2010-2016 年为数据服务行业的“初生期”,早期数据标注需求激增,加之入行门槛低,涌入了大量玩家,鱼龙混杂。  自 2017 年以来,伴随着 AI 深入落地到各个应用场景中,数据标注行业了进入成长期,上层应用端的厂商对数据标注质的要求不断提高,如自动驾驶、运动图像、计算机视觉等领域的数据标注难度很高。  行业格局渐渐清晰,马太效应明显。据了解,国内从事数据标注业务团队约有几百家,其中独立做整个数据质量服务的约百余家,能够提供数据采标服务一体化的有几十家,能够提供高标准基础数据服务的仅有十几家。  这些意味这目前,数据标注行业仍旧处于一个快速发展的阶段,整体在朝着个性化、专业化的方向发展,从早期较简单的、通用的数据过渡到更复杂的个性化的、场景化的数据,对于很多细分领域,需要大量真实的模型进行标注去迭代模型。    行业的发展核心内驱力是人才。在数据标注行业飞速发展的背景之下,如何加强人才的培养和输出,为行业提供更多人才成为了目前亟待解决的问题。AI优评结合相关部门,对于数据标注人才的培养建立起了一整套科学专业的评价体系,并直接对接到用人单位,为行业输送人才,保障行业的发展。相信在努力之下,未来,数据标注将会以一个全新的面貌展现在所有人的面前。

热门文章

        对数据标注行业稍微有些了解的人都知道数据标注进入门槛低,适合很多人兼职也适合创业。        正是因为数据标注行业的门槛低这个特点最近两年从事数据标注的小公司小工作室如雨后春笋般的遍布全车大大小小的县城。        但是目前有个有趣的现象,那就是有很多进入数据标注行业做了一段时间的人慢慢的感觉数据标注行业就是个坑?为什么有些人会说数据标注就是个坑呢?        其实对与有上述问题认识的人我们认为,这些人多数都是有于对这个行业对自身条件的不了解,盲目的开始进入数据标注行业的。为什么我们会这样说呢?下面就给给大家来分析下到底有哪几方面的原因:        一、有相当一部分人是听了朋友或者网上消息说这行很火爆,好做,门槛低,也有一部分人了因此租办公室买电脑招人,然后就去群里面找分发项目的人就开张干起来了。可实际上这些人他们大多数都没有充分了解数据标注行业,更没有认真仔细得去调查分析,到底自己能不能做好一个项目,到底自己能不能有质有量按时交付的完成一个项目,到底自己有没有这个能力来管理项目。更多的人也没有去用长远的眼光去考虑数据标注项目。        二、数据标注项目虽然入门门槛低,但是相当一部分有于理解认知应变能力上都不能保证去做好数据标注项目,还有一部分人由于自己对标注项目重视程度不足接到项目之后呢?不仔细认真的去阅读理解项目规则,更没有很好的对规则质检标准去培训员工,而对员工的要求主要看重每天的产出效率,从而导致接到手的项目做的质量很差,频繁的返工,有提项目甚至因为质量太烂项目方不给结算或者是结算比例很少,最终的结果就是做好些个项目但基本都是赔钱。        三、虽然业内人都 说数据标注简单,但是标注项目他也是一个系统性的工程,一个项目能不能做好并不简单的看项目好做就能赔钱。实际上决定项目赚不赚钱考验的是一个团队的项目管理水平,质量管理能力,运营能力各方面因素的。一句话再好赚钱的项目也照样有人赚钱也有人赚钱,要赚钱不是那么简单的。        四、还有些工作室 、小公司因为对行业不够了解等他们做了一段时间后发现,自己团队经常会没有项目做,而自己团队接项目的业务能力又不具备,甚至有的时候为了员工有活干去接一些价格极低根本就不赚钱的标注项目,时间稍微一长这些工作室团队就会赔上很多钱最终关门倒闭。        五、下来要说的就是一部分人人兼职人员由于认识不到位,对项目的规则质量要求 文件不认真阅读消化理解导致做的项目质量差返工有的甚至最后不结算,最终退出这行。更有一些人由于经验不足被标注行业的项目骗子给忽悠到辛苦劳动到最后结算时找不到人。        标注行业本身由于进入门槛低,做的人很行业内盲目打价格战,导致很多转手二手三手的项目在质量工期的要求下根本就不赚钱甚至赔钱,所以在这里也提醒大家做任何事都要谨慎而行。