人工智能数据标注领域的核心需求

timg.jpg

随着人工智能落地商业化进入快车道,无人驾驶、人脸识别、智慧安防等领域成为了热门的应用场景,AI公司关注的重点开始聚焦于产业落地能力上。

作为人工智能行业的基础,数据是实现这一能力的决定性条件之一。因此,为机器学习算法训练提供高质量的标注数据服务成为了决定人工智能应用高度的重要条件之一。

相关资料统计显示,2025年产生的数据量将高达163ZB,其中90%是非结构化数据。这些非结构化数据只有经过清洗与标注才能被唤醒价值,这就产生了源源不断的清洗与标注需求。数据标注行业因此得以迅速繁荣扩张。

随着产业落地成为行业发展大势,更具前瞻性的海量数据集产品和高度定制化服务成为了数据标注行业的主要服务形式。然而,由于数据标注行业存在门槛较低、服务质量参差不齐等问题,需求方在选择数据服务时往往会遇到数据质量、服务效率、数据安全、管理能力、服务能力等痛点,这些痛点已成为阻碍行业发展的核心问题。


timg.jpg

1. 数据质量

监督学习下的深度学习算法训练十分依赖于标注数据,数据集质量的高低将直接决定算法模型的效果。

然而,目前数据标注行业存在很严重的数据质量问题。相关数据显示,当下数据标注行业单次交付达标率低于50%,三次内交付达标率低于90%,远远不能满足AI企业的需求。

需求方希望数据服务公司可以提高首次交付项目的准确率,并大幅减少返工情况。

2. 服务效率

目前数据标注行业主流的项目运营方式是以“众包”以及“转包”为主,数据服务企业很难对标注团队做到直接有效的管理,因此项目延期成为了一种常态。

对于需求方来说,项目延期意味着在激烈的商业竞争中丧失先发优势,所以对于需求方来说,希望数据服务公司拥有高效的项目执行系统,提高工作效率,可以按时甚至提前完成项目。

3. 数据安全

数据标注行业的特殊性意味着要经常接触到很多敏感的数据,比如人脸数据、车牌数据等等,这些数据的存储、传输等对于安全性的要求极高。

因此,需求方希望基础数据服务商有明确具体的安全管理流程,对数据传输、存储,以及结项后的数据销毁等环节足够重视。

4. 管理能力

“众包”以及“转包”模式下,管理能力较弱的公司很难在兼顾多个项目时做到精力集中、高质量地服务客户,这样的后果就是项目延期、数据质量差。

因此,需求方希望数据服务企业能够建立完善的内部管理流程,优化项目流程体验,达到效率与质量的双提升。

5. 服务能力

数据标注业务从本质上来讲也属于一种服务业务,从项目对接到最终项目的完结,每一个环节都需要需求方与数据服务企业不断地商讨,从而做出最优解。

所以,需求方希望数据服务公司能够在项目进行中做到积极配合、快速响应,并可以对项目提出一定的优化建议。

以上五点是需求方对数据标注企业的核心诉求,如果这五点分别对应相应分数的话,那么总体得分越高就意味着越契合需求方的要求,就越能在激烈的竞争中占据排他性的优势。

对于数据标注企业而言,单纯依据客户项目的诉求进行执行略显被动,主观能动性低、行业边界有限,各家数据标注企业的产品和服务就将趋于同质化,竞争也会加剧,不仅不利于自身发展,同时也会制约着AI基础数据服务行业的发展。

所以,主动做出改变,迎合需求方的核心诉求,数据服务企业才能在激烈的市场竞争中建立差异化的优势,尤其在AI商业化落地加快的大背景下,能够在垂直场景中建立一套完整的数据整体解决方案,将在未来的市场竞争中增添重要的优势砝码。


推荐文章

最近有很多研究提到,人工智能和自动化为主的技术进步,可能让女性就业受到比男性更大的冲击。不过更进一步查看的话,所有这些文章会将深层原因归结于,女性更少的从事科学、技术、工程和数学 (STEM) 方向的学习;说大白话,就是女性没有学会编程,不懂电脑技术。根据伦敦智库 IPPR 的研究,在自动化风险较高的行业中,近三分之二(64%)的英国工人是女性。这是因为众多女性从事的都是零售和行政工作,而这可以通过机器来完成。IPPR 说:“总的来说,1/10 的女工面临着被机器人替代的高风险。相比之下,只有 4% 的男性工人有同类风险。” [1]《金融时报》的文章指出,问题出在人们年轻的时候。高校 STEM 专业的学生约 65% 是男性。如果女性年轻时没有机会获得 STEM 相关学位,也就困于家务劳动和带孩子,而没有时间接受再培训。文章说,新兴经济体许多女性面临更大的困难,因为她们当中有很多人从事仅能维持生计的农业,几乎没有受过教育,也没有什么可转移的技能。[2]那么,为什么不直接说不会编程技能,或缺少编程思维的人更难找到工作呢?男人就没有这样对程序或基础科学一窍不通的吗?我对这个问题如此敏感,一个原因是我本人(男)就是与 STEM 无缘的典型案例。从小就喜欢计算机,却终究没学会编程在我上高中之初,有一次机会选择文理科分班,这也是中国特色的教育方法。因为我在的高中比较强的是理科,我就选了理科,可是两学期下来,数学只能考 30 多分,物理、化学、生物全面亮红灯。我对理科知识的唯一回忆,可能是刚上化学课的时候,问老师“石蕊(试纸)的化学式是什么”。没有答案,我只记住自己问了这个问题。所以,我不得不由高一时的理科班转到文科班,不然的话根本没办法正常的考试。在文科班,我高考的分数也相对好一点,只是因为更多死记硬背的部分,更适合那个时候的我。我深知考核标准的不同,会导致学生高考分数和社会评价的巨大差异。有人说,农村孩子吃亏就在于高考不考种地、爬树、捉蟋蟀。都不用这么麻烦,其实文理分班已经能区分很大一部分同学的未来路径——但对某方向本来就很感兴趣,自己知道想要什么的同学除外。我也知道自己有理科,也就是 STEM 学科方面的弱点。所以,即使我还没上学就用上了电脑,也把未来理想跟计算机捆绑在一起,却不能如愿以偿的从事程序员的工作;最后长大了,也不能由此转岗去做薪水更高,更稳定,前景也更好的编程行业,只能徘徊在电脑行业的边缘。这一直是我心中的一个结。工作这么多年,我一直想要有机会去尝试从零开始自学编程,甚至给小朋友做启蒙的那些书我也看过,看完都一头雾水。现在在三四线小城市,也经常出现人工智能和编程培训班的门脸,看了之后,除了更引起我被时代抛弃的焦虑之外,没有其他作用。我作为科技记者和撰稿人,在掌握新科技趋势方面,属于起了大早,赶了晚集。我们这些人应该处于整个科技食物链的比较靠下游的位置,最早知道了这些新闻和趋势,但除了写些文章或采访之外,几乎没有其他的方式可以妥善利用。结果,到了自己的工作受威胁的时候,宁可去卖保险。这更多的是属于个人能力、兴趣偏好的问题,这根本就不是男女差异。社会上没有一人一朵的“小红花”我知道,如果我不能及时转到文科班的话,如果全校所有的同学都在理科班,甚至根本就没有文科,没有非 STEM 学科,那么我可能只是一个天资更加平庸的,成绩更差的理科生。在单一维度的评价体系里,我会比现在惨的多。所以我说不上由理转文这件事,对我的人生是好是坏。从结果上看,我生存在社会尚且可以公平对待 STEM 和非 STEM 学科的时代,还是一件好事。但是这其实更让我深刻领会到,未来继续保持这种评价体系和工作类型的多样化,对于我们这个社会的意义。社会全面偏向 STEM 意味着我们的教育方针要做 180 度的大转弯,也不会存在什么“因材施教”的空间,这个问题是如此的严重,现在业界可能还没有充分的意识到问题的严重性。分析人士只是笼统的说,人工智能虽然取消了很多岗位,但还可以创造更多岗位。想想工业革命!那些手工业者一开始破坏机器,搞卢德运动,但最后工人阶级还是站起来了。不妨想想幼儿园和小学课堂里的“小红花”。用宽松的,素质教育的方法,老师就会说,班上每一个孩子都有闪光点,即使学习成绩不好,也有其他的评判标准。如果出于孩子心理健康的考虑,给每个孩子单独设立一个评价体系的话,那么所有人都有小红花,最笨最没人缘的孩子也可以是“系鞋带最整齐的孩子”这样。这在学校里当然是成立的,走入现实可就不适用了。本来,文史类学科和相关工作,以及程序化,缺乏创造力的工作,意味着“系鞋带最整齐的孩子”也有社会上对应的位置。但如果说 AI 和自动化将替代的岗位是差不多全部非 STEM 行业,那就意味着全社会至少有一半曾经能够稳定就业的人,一瞬间不再适合在地球上生存。原来能够给他们稳定收入和正面评价的行业,现在却露出冰冷的面孔。他们原来曾经学会的那些适应社会的习惯和能力,将会不再被人提起,连被评为非物质文化遗产的机会都没有。培训和救济,似乎都很困难前述智库给出的意见一般都是与福利、补贴和再教育相关。比如,IPPR 报告作者建议政府引入新的法律,给女性分配工作,开展高技能工作培训,提高最低工资标准等。FT 的文章同样建议企业和社会推出举措,鼓励女孩学习 STEM 学科,发展编程技能。“不是每个人都需要成为一名程序员,但好的工作将越来越意味着与技术打交道。”然而,这些文章所指出的理想状态,假设了女性(或其它 STEM 门外汉)只要经过培训,就都能达到一定标准。而不论男女,总有缺乏这方面天赋的人存在——比如我自己。即使对他们进行失业的相关培训,也将会是困难重重的,因为如果他们真的掌握逻辑思维的能力,掌握学习数学的好方法,他们不是早就去做了吗?甚至他们连去参加培训的完整时间都不具备。有人说,重复劳动类的劳动力,如果不会 STEM,可以做数据标注工人嘛。但是这样的标注,也是建立在个人隐私以及数据集可以被随意使用的草莽年代,建立在所谓“用隐私换便利”的时候。受到社会制约的 AI 企业,将更倾向于用小的数据集,用压缩算法,最终达到能在用户个体的终端上,离线完成 AI 运算。当数据使用量减少的时候,数据标记工人只是会更快的迎来下一次失业。我们再说说救济。现在,国家规定对公司招募残疾人、特定少数民族、退伍军人等执行补贴,这是在直接聘用他们会削弱企业市场竞争力的前提下,采取的平衡手段。将来,这个巨大的救济包袱还会更重,因为以前能够自食其力的流水线组装工人、收银员、话务员等岗位都要归入救济队伍,他们本来应该是供养养老金的有生力量。福利的池水被加速抽干,每一个人分摊到的福利金额都会下降。社会在考虑自动化新技术与就业的连带关系的时候,不能偷懒的只算工作总量和总失业率,因为这不是冷冰冰的数字,而是一个个具体的人,以及他们背后的家庭。受影响的人当中,有多少人或者因为信息不对称,自己都没有察觉到,或者想到了,也因为没有天赋,没有兴趣或者没有财力精力,而只能默默的滑落下去。我理解,一些研究者先假设不会 STEM 的都是女性,毕竟“女生学文科的多”,然后再跟性别话题挂钩,来引起人们注意。这是一种非常讨巧的尝试,可以利用现在风头正劲的女权思潮,利用她们强大的舆论动员力,来实现对自动化社会议题的关注。但这实际上会模糊问题的焦点,并且使得跟他们所说的“女性”实质上具有同等问题的男人,更得不到关注,沦落为无人问津的“夹心层”。结论一个更自动化的社会,会显著的减少对一般人类劳动力的需求。在人类各种能力中,偏向创造力、想象力、沟通交流能力,以及控制机器的能力的一面会被更突出强调。可惜的是,人类固有的缺陷——也可能是优势——就是,创意方面最强大的能力,往往只集中于极少数天赋异禀的英才手中。相比之下,一旦某个机器学会一个能力,它的任意一个复制品,都会一瞬间具备同样的能力。也就是说,至少在教育方面,想要让人们往找到工作的方向走,依靠非标准化的非 STEM (“文科”)培训很难,而 STEM(“理科”)方向则较为容易。这将不可挽回地导向全社会只重视 STEM 的单一评价标准,更多人将被判为不合格,没有能力赚到维持生活的钱。要么继续思考怎么培训他们,要么就改变分配方式,比如给全民派钱什么的——这样的思考和讨论,已经到了非进行不可的时候。 

热门文章

        对数据标注行业稍微有些了解的人都知道数据标注进入门槛低,适合很多人兼职也适合创业。        正是因为数据标注行业的门槛低这个特点最近两年从事数据标注的小公司小工作室如雨后春笋般的遍布全车大大小小的县城。        但是目前有个有趣的现象,那就是有很多进入数据标注行业做了一段时间的人慢慢的感觉数据标注行业就是个坑?为什么有些人会说数据标注就是个坑呢?        其实对与有上述问题认识的人我们认为,这些人多数都是有于对这个行业对自身条件的不了解,盲目的开始进入数据标注行业的。为什么我们会这样说呢?下面就给给大家来分析下到底有哪几方面的原因:        一、有相当一部分人是听了朋友或者网上消息说这行很火爆,好做,门槛低,也有一部分人了因此租办公室买电脑招人,然后就去群里面找分发项目的人就开张干起来了。可实际上这些人他们大多数都没有充分了解数据标注行业,更没有认真仔细得去调查分析,到底自己能不能做好一个项目,到底自己能不能有质有量按时交付的完成一个项目,到底自己有没有这个能力来管理项目。更多的人也没有去用长远的眼光去考虑数据标注项目。        二、数据标注项目虽然入门门槛低,但是相当一部分有于理解认知应变能力上都不能保证去做好数据标注项目,还有一部分人由于自己对标注项目重视程度不足接到项目之后呢?不仔细认真的去阅读理解项目规则,更没有很好的对规则质检标准去培训员工,而对员工的要求主要看重每天的产出效率,从而导致接到手的项目做的质量很差,频繁的返工,有提项目甚至因为质量太烂项目方不给结算或者是结算比例很少,最终的结果就是做好些个项目但基本都是赔钱。        三、虽然业内人都 说数据标注简单,但是标注项目他也是一个系统性的工程,一个项目能不能做好并不简单的看项目好做就能赔钱。实际上决定项目赚不赚钱考验的是一个团队的项目管理水平,质量管理能力,运营能力各方面因素的。一句话再好赚钱的项目也照样有人赚钱也有人赚钱,要赚钱不是那么简单的。        四、还有些工作室 、小公司因为对行业不够了解等他们做了一段时间后发现,自己团队经常会没有项目做,而自己团队接项目的业务能力又不具备,甚至有的时候为了员工有活干去接一些价格极低根本就不赚钱的标注项目,时间稍微一长这些工作室团队就会赔上很多钱最终关门倒闭。        五、下来要说的就是一部分人人兼职人员由于认识不到位,对项目的规则质量要求 文件不认真阅读消化理解导致做的项目质量差返工有的甚至最后不结算,最终退出这行。更有一些人由于经验不足被标注行业的项目骗子给忽悠到辛苦劳动到最后结算时找不到人。        标注行业本身由于进入门槛低,做的人很行业内盲目打价格战,导致很多转手二手三手的项目在质量工期的要求下根本就不赚钱甚至赔钱,所以在这里也提醒大家做任何事都要谨慎而行。