“黄暴”视频看出心理阴影,内容审核师能被AI拯救吗?

 本周发布的《 2019 抖音数据报告》指出,抖音日活跃用户数已突破 4 亿;而在全球范围内,根据YouTube在 2019 年公布的数据,其日活跃用户数已经突破了 19 亿。

大量视频内容涌现的同时,暴力、色情内容也随之进入互联网,成为用户视频浏览中的“定时炸弹”。

在这个AI赋能一切的时代,人工智能似乎正在视频内容的审核中大展拳脚。

2018 年,Facebook推出DeepText,利用深层神经网络架构理解内容;而YouTube早就推出了Content ID,监测并删除涉及色情和暴力等违规视频,多年来在该技术上花费了超过 1 亿美元。甚至不少媒体都预言,AI将凭借着其对海量数据的组织能力,不久后会取代人工审核。

但事实真的如此吗?

近日,知名海外科技媒体TheVerge到访谷歌位于美国奥斯汀的人工内容审核师团队,报道了团队成员因为大量审核暴力内容遭受的可怕精神创伤。

Youtube的视频审核决不是一项简单的工作。

目前,全球共有约 5000 万YouTube独立创作者,每分钟上传的视频时长高达 500 小时,这给视频审核师们带来了极大的工作压力。

谷歌位于奥斯丁的审核师总数目前超过百人,他们主要负责审核具有暴力色情等极端视频,同时,审核团队还配备有数十名来自中东的低薪移民进行工作上的协助。

为了保证效率,奥斯汀的内容审核团队每人每天必须观看 5 小时以上的暴力色情视频,审核人员时薪为18. 50 美元,年薪约37, 000 美元,但近两年没有加薪。YouTube首席执行官苏珊·沃西基(Susan Wojcicki)向媒体透露,谷歌去年曾承诺将内容审核师每人每天的工作量减少到 4 个小时,但至今仍未被执行。

由于长时间暴露在极端视频之下,谷歌团队的审核师们被曝遭受着严重的心理创伤。尽管谷歌为审核师们提供了一流的医疗服务和福利,但是不少审核师还是会被检测出罹患PTSD、长期焦虑等精神问题

注:PTSD,全称为创伤后应激障碍,是指个体经历、目睹或遭遇到一个或多个涉及自身或他人的实际死亡,或受到死亡的威胁,或严重的受伤,或躯体完整性受到威胁后,所导致的个体延迟出现和持续存在的精神障碍。

视频审核师每天都在看什么?

在文摘菌的印象中,审核师的工作就是看看用户上传到网站的视频,大概就像是…每天刷刷抖音就能轻松挣钱一样,可以说是梦寐以求的工作了。

但不管是YouTube还是国内,视频审核都没有文摘菌想象的这么美好。

在知乎上,相关话题的浏览量已经达到了 167951 次,其中网友@white举例说道,“ISIS杀戮人质的视频让我狼狈不堪,非洲人民凶残的一面让我感到害怕,美国黑人区发生的让我感到惶恐,美国天黑时散发出恐怖的色彩!可能人类的本质就是杀戮,被割喉的人疯狂的挣扎,暗红色的血液缓缓慢流动出来,日本自杀深林中令人作呕的尸体……”

知乎话题链接:

https://www.zhihu.com/question/24738486

同样,作为YouTube的内容审核师,他们的工作并没有轻松到哪去。

YouTube的内容审核师Peter告诉TheVerge,他每天负责的就是极端暴力(violent extremism)的视频审核,这可以说是整个审核工作中最致郁的一个板块,正如上文提到谷歌为审核团队制定了严格的工作计划,他必须看足够量的暴力色情视频。

“每天你都会看到有人砍人,或者射杀亲友,”Peter说,“你会觉得,这个世界很疯狂,这会让你感到不舒服,甚至不想继续活下去。我们到底为什么要这样对待彼此呢?”

在过去一年里,Peter和同事们的生活都受到了极大的影响。一位同事患上了神经衰弱,还有一位同事因工作中的焦虑和抑郁而痛苦不堪,饮食和作息逐渐紊乱,最后患上了急性维生素缺乏症,不得不住院接受治疗。

不止是Peter和同事们,另一位视频审核师Daisy曾负责Google视频中的恐怖主义和儿童虐待内容的审核,从事这项工作后,她曾一度难以和孩子交流互动。在接受精神科专家诊断后,她被确诊患有PTSD,至今仍在接受治疗

根据报道,审核师在申请工作的时候通常并不了解极端视频会对身心造成怎样的伤害,而就YouTube的审核师所透露的内容来看,谷歌向应聘者所说明的审核数量和工作要求往往是过低的

虽然谷歌为全职审核师制定了相关的医疗保健标准,他们可以休假数月,以解决严重影响工作与生活的心理问题,但这只是谷歌内部被报道的情况,全球范围内还有更多未被报道的内容审核师遭受了心理创伤后被公司无情忽视。

AI能拯救视频审核师吗?

AI参与视频审核并非近几年才有,最早 2000 年左右,就有公司在做这方面的尝试。但那时,视频审核需要人为设定特征和规则,比如黄颜色皮肤面积分布情况。一直到深度学习得到发展后,视频审核才终于变得“灵活”了。

但是,在视频审核上,目前业内普遍采用的仍然是“人机结合”的方式,并且人工在其中占据着重要比例。