YouTube用AI代替人工审核员后,又决定返聘
2020-09-23 09:43

YouTube用AI代替人工审核员后,又决定返聘

本文来自微信公众号:HyperAI超神经(ID:HyperAI),作者:神经星星,头图来自:unsplash


YouTube 在今年初,将内容人工审核团队大量裁撤,全部替换成为 AI 进行内容审核。


所以,今年4月~6月整个第二季度里,YouTube 线上的所有视频,都是由 AI 进行官方的内容审核。这也是 YouTube 有史以来第一次整一季度,没有人工审核员参与内容初审。



这一大步跨越,带来了不小的后果,YouTube 在近期叫停这项举措,并且大批返聘在年初解雇的人工审核团队。 


AI 替换人工:下架视频数创纪录


AI 审核被叫停的重要原因之一,就是 AI 审核的规则相较于人工,更为严格,甚至会导致误伤。


根据 Google 在定期的透明度报告中提到:在 2020 年 AI 接管内容审核的4月~6月中,共有 1100 万个视频被 AI 标记违规并下架,这些视频主要来自于美国、印度和巴西。


但是,在今年的第一季度里,被鉴定违规并下架的视频,仅仅只有 660 万。而从人工换成 AI 之后,被下架的视频数几乎翻了一番


因为 AI 审核遭下架的视频,占全部下架视频的 95%(数据来源:Google 官方透明度报告)


在被 AI 下架的 1100 万个视频中,多数为色情、虚假、涉恐犯罪类型,但是也有不少是误伤。


其中,就有 32 万个被 AI 标记下架的视频提出了申诉,最后近半数都通过二次审核,并重新上线。而在过去,进行申诉的视频,只有 25% 左右可能重新上线。


YouTube 的审核 AI,以一己之力,让 YouTube 的播主们瑟瑟发抖,花更多时间自查内容,一时间怨声载道让 YouTube 头疼不已;大量的申诉,还给 YouTube 团队,增加了不少重新审核的工作量。


人工再上位:时机尚未成熟,AI 仍需努力


在年初 YouTube 裁减人工审核团队前,全职或外包的审核岗位多达 10000 个。


这些人工审核员分布在 Google 的全球办公室,或是外包供应商的各个办公点。


万人团队:巨大运营成本 


人工审核员的岗位要求并不低,比如要负责中东地区的内容审核岗位,需要掌握阿拉伯语和阿拉伯方言语系,并对中东地区上传视频进行审核,以便及时标记出涉及恐怖、暴力、煽动内容的视频。


这样的工作,每周需要审核 500 小时以上的视频,初级岗位的薪水可以达到 18.5 美元/小时,年薪可达 37000 美元左右。


再资深的内容审核岗位,需要掌握一些的法律知识,不仅能得到 Google 全职员工的待遇,还可以获得近 100000 美元的年薪。


风光的背后,Google 也同时在承担着不小的成本,这也导致了在今年疫情之际 YouTube 对人工审核岗位的裁撤。


这次返聘 YouTube 也提及:疫情让人工审核成本变高、难度加大。当初迫不得已,必须在人工干预不足和 AI 过度干预两者之中,选择了 AI。


人工审核:边缘职业身心俱疲 


内容审核不是一份简单的工作,不仅每周有固定的工作指标,还要长时间面对儿童色情、暴力、恐怖类型的画面,往往也会让人身心俱疲。


《华盛顿邮报》、《财富杂志》等美国主流媒体均对内容审核员这一职业,做出过深度报道。接受采访的内容审核员,无一例外都表达了这份职业,对自己的身心健康产生了强烈的负面影响。


媒体的舆论影响也敦促了科技公司对这类岗位进行了一系列的改善,比如限制每周观看不适视频的时间上限、定期的心理治疗等措施。


人工还是 AI:不用着急下定论


人工审核的支出、对人心理的伤害、机器学习的技术进步,这些都推动了近年各平台对自动化内容审核的研究和快速应用。


AI 虽然有一定的误伤几率,但是在对违规内容的审查中,的确展现了超过人工审核的高效。


YouTube 首席产品官 Neal Mohan 向英国《金融时报》回应人工审核重回岗位时,提到了一组数据“被 AI 标记删除的 1100 万个视频中,超过 50% 的视频,在没有用户播放前就被下架;超过 80% 的视频,播放 10 次以内就被下架。”


YouTube 作为大规模用 AI 代替人工的先行者,势必会踩坑,但同时也为其他公司甚至全社会,指明了人与 AI 协同关系中更加清晰的发展方向。


这样的实验虽然折腾,但着实有必要。这需要公司有吃螃蟹的精神、承担舆论非议的勇气和快速善后的决心。同样开放透明的数据,也让媒体和社会在接受未来的不确定性,有更多的共识和信心。


参考来源:

The Verge:《YouTube brings back more human moderators after AI systems over-censor》、《THE TERROR QUEUE》

Fortune:《Why Thousands of Human Moderators Won’t Fix Toxic Content on Social Media》

华盛顿邮报:《Content moderators at YouTube, Facebook and Twitter see the worst of the web — and suffer silently》

Wired:《As humans go home, Facebook and YouTube face a coronavirus crisis》


本文来自微信公众号:HyperAI超神经(ID:HyperAI),作者:神经星星

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP

相关推荐