关于人工智能数据标注过程

一、什么是数据标注

首先谈谈什么是数据标注。数据标注有许多类型,如分类、画框、注释、标记等等,我们会在下面详谈。要理解数据标注,得先理解 AI 其实是部分替代人的认知功能。回想一下我们是如何学习的,例如我们学习认识苹果,那么就需要有人拿着一个苹果到你面前告诉你,这是一个苹果。然后以后你遇到了苹果,你才知道这玩意儿叫做 " 苹果 "。类比机器学习,我们要教他认识一个苹果,你直接给它一张苹果的图片,它是完全不知道这是个啥玩意的。我们得先有苹果的图片,上面标注着 " 苹果 " 两个字,然后机器通过学习了大量的图片中的特征,这时候再给机器任意一张苹果的图片,它就能认出来了。

这边可以顺带提一下训练集和测试集的概念。训练集和测试集都是标注过的数据,还是以苹果为例子,假设我们有 1000 张标注着 " 苹果 " 的图片,那么我们可以拿 900 涨作为训练集,100 张作为测试集。机器从 900 张苹果的图片中学习得到一个模型,然后我们将剩下的 100 张机器没有见过的图片去给它识别,然后我们就能够得到这个模型的准确率了。想想我们上学的时候,考试的内容总是不会和我们平时的作业一样,也只有这样才能测试出学习的真正效果,这样就不难理解为什么要划分一个测试集了。

我们知道机器学习分为有监督学习和无监督学习。无监督学习的效果是不可控的,常常是被用来做探索性的实验。而在实际产品应用中,通常使用的是有监督学习。有监督的机器学习就需要有标注的数据来作为先验经验。

在进行数据标注之前,我们首先要对数据进行清洗,得到符合我们要求的数据。数据的清洗包括去除无效的数据、整理成规整的格式等等。具体的数据要求可以和算法人员确认。

二、常见的几种数据标注类型

1. 分类标注:分类标注,就是我们常见的打标签。一般是从既定的标签中选择数据对应的标签,是封闭集合。如下图,一张图就可以有很多分类 / 标签:成人、女、黄种人、长发等。对于文字,可以标注主语、谓语、宾语,名词动词等。

适用:文本、图像、语音、视频

应用:脸龄识别,情绪识别,性别识别

2. 标框标注:机器视觉中的标框标注,很容易理解,就是框选要检测的对象。如人脸识别,首先要先把人脸的位置确定下来。行人识别,如下图。

适用:图像

应用:人脸识别,物品识别

3. 区域标注:相比于标框标注,区域标注要求更加精确。边缘可以是柔性的。如自动驾驶中的道路识别。

应用:自动驾驶

4. 描点标注:一些对于特征要求细致的应用中常常需要描点标注。人脸识别、骨骼识别等。

应用:人脸识别、骨骼识别

5. 其他标注:标注的类型除了上面几种常见,还有很多个性化的。根据不同的需求则需要不同的标注。如自动摘要,就需要标注文章的主要观点,这时候的标注严格上就不属于上面的任何一种了。(或则你把它归为分类也是可以的,只是标注主要观点就没有这么客观的标准,如果是标注苹果估计大多数人标注的结果都差不多。)

三、数据标注的过程

1. 标注标准的确定

确定好标准是保证数据质量的关键一步,要保证有个可以参照的标准。一般可以:

设置标注样例、模版。例如颜色的标准比色卡。

对于模棱两可的数据,设置统一处理方式,如可以弃用,或则统一标注。

参照的标准有时候还要考虑行业。以文本情感分析为例," 疤痕 " 一词,在心理学行业中,可能是个负面词,而在医疗行业则是一个中性词。

2. 标注形式的确定

标注形式一般由算法人员制定,例如某些文本标注,问句识别,只需要对句子进行 0 或 1 的标注。是问句就标 1,不是问句就标 0。

3. 标注工具的选择

标注的形式确定后,就是对标注工具的选择了。一般也是由算法人员提供。大公司可能会内部开发一个专门用于数据标注的可视化工具。如

也有使用开源的数据标注工具的,如推荐 Github 上的小工具 labelImg

四、数据标注产品的设计

结合自己做过一款数据标记工具谈谈设计数据标注工具的几个小技巧。

一个数据标注工具一般包含

1. 进度条:用来指示数据标注的进度。标注人员一般都是有任务量要求的,一方面方便标注人员查看进度,一方面方便统计。

2. 标注主体:这个可以根据标注形式进行设计,原则上是越简洁易用越好。根据标注所需要的注意力可以分为单个标注和多个标注的形式,可根据需求选择。

3. 数据导入导出功能:如果你的标注工具是直接数据对接到模型上的,可以不需要。

4. 收藏功能:这个可能是没有接触过数据标注的不会想到。标注人员常常会出现的一种情况就是疲劳,或者是遇到了那种模棱两可的数据,则可以先收藏,等后面再标。

5. 质检机制:在分发数据的时候,可以随机分发一些已经标注过的数据,来检测标注人员可靠性。

推荐文章

主要任务:将图中所有,无论虚线与实线,遮挡与否,同一条车道线的所有部分连起来标注,并延长到视野尽头及图片底部标注规范:只标采集车可以走的这一侧道路,被隔开道路不需要标注。(例如高速上有护栏分割的来向车道上的车道线就不用标)但是即使是逆向道路或高速匝道,只要和主干道(采集车在的道路)联通就要标标注出来的车道线,采集车左边的车道线的画右边界,采集车右边的车道画左边界。位于采集车车下的,偏向采集车左侧的车道线的画右边界,偏向采集车右侧的车道线的画左边界  虚线连起来标注,无论虚线还是实线被遮挡部分需要预估车道线分别有实线和虚线是,需要分开标注确认有车道线的前提下:分辨不清是实线或虚线,优先实线  双车道线只标注靠近车辆的一条线【左虚右实】【双实线】  标注示例:    规则说明:类型:1)单实线:两条车道之间只有一条实线。2)单虚线:两条车道之间只有一条虚线。标注时虚线要脑补成实线进行标注。(导流线、车道分叉及车道交汇场景出现的胖虚线也是单虚线;转弯待转区两侧虚线也为单虚线)3)双实线:两条车道之间只有两条实线。只标注靠近采集车一侧的车道线的内侧。(一般用来区分不同向车道)4)双虚线:两条车道之间只有两条虚线线。标注时虚线要脑补成实线进行标注,只标注靠近采集车一侧的车道线的内侧。(一般用来区分不同向车道)5)左虚右实:两条车道中间同时出现实线及虚线并列为一组的情况,且虚线位于左侧,实线位于右侧。只标注靠近采集车一侧的车道线的内侧。6)左实右虚: 两条车道中间同时出现实线及虚线并列为一组的情况,且实线位于左侧,虚线位于右侧。只标注靠近采集车一侧的车道线的内侧。7)其他:其他未涵盖的车道线类型8)路沿:采集车所在车道的两边护栏与地面的接线,一帧图片至多两条9)车位线:用于标注停车位左侧的线,用于城市场景10)减速线:用于标注单实线/单虚线带有减速线的线,边界同车道线一致标注靠近采集车一侧   编号:以采集车为中心注:路沿和车位线编号属性只有1和-1,采集车左侧的为-1,采集车右侧的1       减速线编号同带有减速线的车道线编号一致,其他正常标注A.左侧车道从右至左依次为-1、-2、-3、-4,超过四条及以上为其他(编号示例图)如图B.右侧车道从左至右依次为1、2、3、4,超过四条及以上为其他(编号示例图)如图 C.编号0用于采集车压住车道线时使用 注意:车道线在图像中线附近,明确压线的图片标压线。无法判断,好像压好像不压的不明确的不用标压线。以采集车为中心,车道中心线画在采集车剩余面积多的一侧如图;  特殊情况正常车道线正常情况车道线分叉一条车道线分为两条车道线交汇两条车道线汇为一条道路分界线和路沿紧挨着的车道线(多为单实线)特殊车道线同一条车道线属于多个【特殊情况】注:【正常】【车道线分叉】【车道线交汇】只在涉及到的线上选择相应属性(分叉跟交汇不是全图都选的,只在交汇或分叉的线上选、其它选正常)道路分界线同车道线分叉或交汇同时出现时优先分叉/交汇例图:正常:   车道线分叉(包含导流线的情况)      车道线交汇(包含导流线的情况)      道路分界线 特殊车道线     4.副编号1)车道线正常:不选择副编号无论是分叉还是汇合:a.有导流区存在的情况的主线(合并线)编号为正常编号,无需副编号,两条支线根据相对位置标为  "主线编号-副编号",主线右侧的支线的副编号为1,主线左侧的支线副编号为-1;b.没有导流区的,两条支线为正常编号,合并的主线设置编号为: “支线1编号+支线2编号”,(即主线编号为支线1编号,主线副编号为支线2编号)有导流线副编号用-(1) -(-1),无导流线用+ 如下图   5.颜色:【白色】如单实线颜色【黄色】如双黄线颜色 6.特殊点脑补车道线: 标注完成的车道线需将脑补的部分(即被车辆、行人遮挡的部分)单独标出来,操作如下:1.选择特殊点标注2.选中需要标注的车道线,将标注好的车道线标注时打的点进行二次操作,赋予起点和终点属性。3.脑补部分必须既有起点又有终点。 虚线车道线 标注完成的虚车道线,需要将每一段虚线的起止端点标出,操作如下:1.选择特殊点标注2.将标注好的车道线标注时打的点进行二次操作,赋予起点和终点属性。3.如果线段的端点被遮挡,则该端点不用标注。4.远处过于小过于模糊的可以忽略不标记   7. 路沿:标注范围:采集车所在道路两侧路沿,即护栏与地面连接处;需要标记相对位置,道路左侧的路沿统一为-1,右侧的路沿统一为1;(其他属性使用默认即可)     即采集车在主路时,标注方法如下图(匝道右侧路沿画法参考箭头;主路两侧路沿尽量延伸)  即采集车在匝道时,标注方法如下图(主路左侧路沿画法参考箭头;主路左侧路沿未画区域非当前行驶道路,故不画;) 近处被遮挡的路沿需要脑补出来,远处看不到的路沿不用脑补。路沿两侧必须都标出来,如果只有一侧则尽量脑补出另一侧的路沿;(严重拥堵另外见规则)若车辆拥挤等导致两侧路沿均无法看见,不用标注。在路过匝道时,图中出现2条以上路沿,需分段标注,同侧路沿编号都为同一编号。难点示例图如下:(箭头是指需要画到采集车前方路沿的衔接处)       错误画法: 正确画法:    错误画法: 正确画法:   8.脑补1.合理,即为参考道路特征,其他线的情况。坚决不能压护栏,不能急拐弯。延伸要合理延伸,不要歪。2.贴地面,即脑补的部分不能够翘起来,要紧贴地面3.控制脑补距离,即脑补的部分脑补至视野尽头即可,不用过多脑补,太远难以判断的可以适当减少脑补4.车道线之间的脑补部分一定不能交汇5.确实没有(不是因为遮挡和磨损)的不脑补6.靠近采集车一端的车道线一定要延长至图片底部(不包含采集车部分)。新增脑补注意点:1.对于远端车辆拥堵,难以判断车道线走向的图片,不需要远端脑补;2.如果一条车道线只有个别车辆遮挡,可以明确判断车道线走向的图片,需要脑补;3.近端车道线都需要脑补到近端;4.车道线人眼都看不清的,不需要标注;5.所有车道线在可以确定范围内尽量脑补;6.主干道中的车道线保持相互平行,长度一致;7.车道线脑补时参考:护栏,其他车道线,车流走向 

热门文章

        AI人工智能的迅猛发展得以于计算机深度学习技术的快速发展,而说到深度学习技术它又必然离不开底层基础的数据标注。        而在今天对于这种深度学习技术的基础数据标注工作也有相当一大部分人群不知道它到底是怎么个回事?什么是数据标注?数据标注是做什么的?这种问题就连一些从事这方面工作的人也有说不明白的。        要说起数据标注那我们也就不得不说下从事数据标注工作的数据标注员这个群体。人工智能、深度学习”这种名词看似高深莫测非常高大上,但目前提供给机器深度学习的数据标注采集等工作,仍是基于密集劳动力的人工智能数据标注产业。数据标注员和工厂流水线上的操作员也是没有多大区别的,可能有很多人觉得不可思议,但是目前这种情况 确实是事实。        那到底什么是数据标注呢?        要理解数据标注我们先来举个简单的例子:小时候大人教我们认识花朵时会指着花草给我们说 花会好多颜色,具体什么花开什么颜色,那我们就会慢慢记住什么花开什颜色。而人工智能深度学习也是和我们人类认知事物是一个道理。        人工智能深度机器学习的前提也是数据标注员根据不同的图片、语音、文本等数据标识出各种功能标签然后机器学习根据不同标签来认识出不同的事物。        数据标注是通过数据标注人员借助计算机标注工具软件对人工智能学习数据进行加工的一种行为。通常数据标注的类型包括:图像标注、语音标注、文本标注、视频标注等种类。标记的基本形式有标注画框、3D画框、文本转录、图像打点、目标物体轮廓线等。        目前大多数的数据标注工具软件都是支持图像、文本、多边形、视频等多种类型的。        根据全国范围内的不完全统计,目前全国数据标注行业的从业人员已经达到 100万之多。在人工智火热与闪亮的背后,数据标注产业作为做基础的支撑确实处于行业的低端下游的。