YouTube 用 AI 代替人工审核员后，又决定返聘

编者按：本文来自微信公众号“HyperAI超神经”（ID:HyperAI），作者 神经星星，36氪经授权发布。

内容概要：YouTube、Facebook、Twitter 等社交平台一直在花大力气进行内容审核，尤其是使用机器学习技术逐步替代人工。但近期 YouTube 决定暂时叫停这一推进，返聘年初解雇的人工审核员。

关键词：内容审核 机器学习 

YouTube 在今年初，将内容人工审核团队大量裁撤，全部替换成为 AI 进行内容审核。

所以，今年 4-6 月整个第二季度里，YouTube 线上的所有视频，都是由 AI 进行官方的内容审核。这也是 YouTube 有史以来第一次整一季度，没有人工审核员参与内容初审。

这一大步跨越，带来了不小的后果，YouTube 在近期叫停这项举措，并且大批返聘在年初解雇的人工审核团队。 

 AI 替换人工：下架视频数创纪录

AI 审核被叫停的重要原因之一，就是 AI 审核的规则相较于人工，更为严格，甚至会导致误伤。

根据 Google 在定期的透明度报告中提到：在 2020 年 AI 接管内容审核的 4-6 月中，共有 1100 万个视频被 AI 标记违规并下架，这些视频主要来自于美国、印度和巴西。

但是，在今年的第一季度里，被鉴定违规并下架的视频，仅仅只有 660 万。而 从人工换成 AI 之后，被下架的视频数几乎翻了一番。

因为 AI 审核遭下架的视频，占全部下架视频的 95% （数据来源：Google 官方透明度报告）

在被 AI 下架的 1100 万个视频中，多数为色情、虚假、涉恐犯罪类型，但是也有不少是误伤。

其中，就有 32 万个被 AI 标记下架的视频提出了申诉，最后近半数都通过二次审核，并重新上线。而在过去，进行申诉的视频，只有 25% 左右可能重新上线。

YouTube 的审核 AI，以一己之力，让 YouTube 的播主们瑟瑟发抖，花更多时间自查内容，一时间怨声载道让 YouTube 头疼不已；大量的申诉，还给 YouTube 团队，增加了不少重新审核的工作量。

 人工再上位：时机尚未成熟，AI 仍需努力

在年初 YouTube 裁减人工审核团队前，全职或外包的审核岗位多达 10000 个。

这些人工审核员分布在 Google 的全球办公室，或是外包供应商的各个办公点。

万人团队：巨大运营成本 

人工审核员的岗位要求并不低，比如要负责中东地区的内容审核岗位，需要掌握阿拉伯语和阿拉伯方言语系，并对中东地区上传视频进行审核，以便及时标记出涉及恐怖、暴力、煽动内容的视频。

这样的工作，每周需要审核 500 小时以上的视频，初级岗位的薪水可以达到 18.5 美元/小时，年薪可达 37000 美元左右。

再资深的内容审核岗位，需要掌握一些的法律知识，不仅能得到 Google 全职员工的待遇，还可以获得近 100000 美元的年薪。

从菲律宾的青年外包工人，到湾区的风控运营，都在内容审核中发挥着重要作用

风光的背后，Google 也同时在承担着不小的成本，这也导致了在今年疫情之际 YouTube 对人工审核岗位的裁撤。

这次返聘 YouTube 也提及：疫情让人工审核成本变高、难度加大。当初迫不得已，必须在人工干预不足和 AI 过度干预两者之中，选择了 AI。

 人工审核：边缘职业身心俱疲 

内容审核不是一份简单的工作，不仅每周有固定的工作指标，还要长时间面对儿童色情、暴力、恐怖类型的画面，往往也会让人身心俱疲。

《华盛顿邮报》、《财富杂志》等美国主流媒体均对内容审核员这一职业，做出过深度报道。接受采访的内容审核员，无一例外都表达了这份职业，对自己的身心健康产生了强烈的负面影响。

《财富杂志》用带着防毒面具的审核员，比喻审核工作给人带来的心理创伤

媒体的舆论影响也敦促了科技公司对这类岗位进行了一系列的改善，比如限制每周观看不适视频的时间上限、定期的心理治疗等措施。

人工还是 AI：不用着急下定论

人工审核的支出、对人心理的伤害、机器学习的技术进步，这些都推动了近年各平台对自动化内容审核的研究和快速应用。

AI 虽然有一定的误伤几率，但是在对违规内容的审查中，的确展现了超过人工审核的高效。

YouTube 首席产品官 Neal Mohan 向英国《金融时报》回应人工审核重回岗位时，提到了一组数据「被 AI 标记删除的 1100 万个视频中，超过 50% 的视频，在没有用户播放前就被下架；超过 80% 的视频，播放 10 次以内就被下架。」

YouTube 作为大规模用 AI 代替人工的先行者，势必会踩坑，但同时也为其他公司甚至全社会，指明了人与 AI 协同关系中更加清晰的发展方向。

这样的实验虽然折腾，但着实有必要。这需要公司有吃螃蟹的精神、承担舆论非议的勇气和快速善后的决心。同样开放透明的数据，也让媒体和社会在接受未来的不确定性，有更多的共识和信心。

谁知道写文章的我，是不是个 AI 呢？

参考来源：

The Verge：《YouTube brings back more human moderators after AI systems over-censor》、《THE TERROR QUEUE》

Fortune：《Why Thousands of Human Moderators Won’t Fix Toxic Content on Social Media》

华盛顿邮报：《Content moderators at YouTube, Facebook and Twitter see the worst of the web — and suffer silently》

Wired：《As humans go home, Facebook and YouTube face a coronavirus crisis》