创业邦公众号二维码
创业邦
帮助创业者成功
快鲤鱼公众号二维码
快鲤鱼
发现最前沿的创新公司
毒舌科技公众号二维码
毒舌科技
「毒」立思考的科技媒体

我当鉴黄师的日子

蓝字计划 2021-06-17 17:10

图片

图片

作者 | 啊窥

原创首发 | 蓝字计划

不到一平米的工位上,田林每天被来自世界各地的污秽信息不断轰炸。

生吃耗子的老人、长满疱疹的生殖器、吊死在门框吐着舌头的尸体……见多了诸如此类的怪相,她自认为已经百毒不侵。

没想到某天夜班,一个强暴视频的出现,还是彻底击溃了这个女生的心理防线。

视频的地点在印度,一幢几近荒废的公寓大楼内,一个听力障碍的11岁女童被注射药物,随后遭17名成年男性轮奸,轮奸她的男人里,有几个头发花白,岁数看起来甚至可以做女童的爷爷。

“想不通这样的事情怎么会在人间发生。”

田林几乎要窒息了,握着鼠标的手轻轻颤抖,恶心的反胃感直冲喉咙,但她知道,自己没有时间缓冲情绪——赶在天亮前,还要把剩下的几百个视频看完。

她的职业,是许多人艳羡不已的鉴黄师,从更专业的角度说,应该叫内容审查员。

移动互联网的快速发展,带动影音图文讯息爆炸式增长,随着相关部门监管趋严,信息安全问题已经成为悬在各大内容平台头顶上的达摩克利斯之剑。内容审核这一岗位的从业人员数量因此迅速膨胀。

但揭开暧昧不明的神秘面纱之后,他们是信息海洋里的垃圾分拣员,用肉体凡胎组成用户和垃圾信息之间的隔离带。

作为内容工业流水线上毫不起眼又至关重要的一环,他们被囚禁机械压抑的工作里,日夜颠倒,心态失衡,一抬头,就能看到天花板朝着自己砸下来。

图片

对很多处于就业迷茫期的年轻人而言,内容审查的工作是他们为数不多能够抓住的浮木。

阿凯学平面设计出身。在成都,大型设计公司很少,他从设计助理做起,月薪只有两三千,每月都得勒紧裤腰带过日子。

转行的念头自然而然地萌发。恰好在某互联网大厂工作的朋友说公司正招人,劝他来试试。阿凯专业不对口,也没有相关工作经验,本来没抱太大希望,不成想最后竟被录用了。

实际上,内容审核这一岗位的进入门槛的确很低。

无需太深入的专业研究或者知识储备,只要身心健康,有一定的受教育程度,经过短期培训,几乎都能顺利上手。因此,这个岗位成为履历不够出彩的年轻人上岸大厂的一大路径。

大厂员工的身份听上去很光鲜,但新鲜劲消磨完以后,身处其中的人会发现自己的工作状态和富士康流水线工人没有区别。

图片

纪录片《网络审查员》

为了保证24小时都有人在线审核,初审团队采用“三班倒”轮班制,节假日无休。平均每人每天处理上千条信息,留给每条信息的反映时间不到半分钟,速度慢的可能连吃饭上厕所的时间都腾不出。干的活虽然技术含量不高,但因为容错率低,精神必须高度集中。

阿凯所在的部门,监控直播的人需要同时盯着四个屏幕,视线在几百个房间内不断逡巡,恨不得长出8只眼睛来。

他负责处理的是用户举报版块,每天面对聊天房间、直播公屏里的性邀约,还有男主播一言不合露下体,女主播抖胸呻吟,热舞时真空上阵,或者裙子“不经意间”掉落,吃香蕉时做出各种让人想入非非的动作……褪去初来乍到时的羞臊,如今阿凯已经能淡定地将这些当成和同事聊天解闷的素材。

和大众想象的截然不同,视频类审核员日常接触到的色情信息,比起挑逗诱惑,更多的是让他们生理性厌恶。没有俊男美女,也没有水乳交融的性爱艺术,有的只是外表粗陋的男男女女像动物发情期交配一样,以毫无美感的扭曲姿势,完成一次次的活塞运动。

在“性”这件事上,五年资深审核胖虎充分认识了物种的多样性。他见过各种奇葩的sm, 还有喜欢原味的大汉舔女生用过的姨妈巾,一脸陶醉仿佛尝到了什么珍馐美味。

恶心归恶心,要真说留下心理阴影,血腥暴力类才是重灾区。

比如恐怖分子肢解人质的全程清晰录像;车祸现场,死者的肠子流了一地;还有自残的精神小伙把自己的手挖出一个洞来。

跟真实世界的血腥相比,平时寻刺激看的那些美式恐怖,暴力美学纯属小打小闹。

胖虎因为是医学生,上过手术台,心理承受能力尚可。但他身边不乏陷入抑郁,甚至被吓出心脏病来的同事。

“有些事情不管过十年还是二十年,你把它完完整整呈现到一个被现代文明开化过的正常人面前,他都不可能云淡风轻地翻篇。”

《发条橙》剧照

仿佛《发条橙》的现实翻版,作为过滤者的他们,饱受负面信息过载的困扰,已经成为行业内普遍现象。

2019年,Facebook的前审核员Chris Gray在爱尔兰高等法院针对Facebook和CPL Solutions提起诉讼,理由是自己在Facebook工作的一年间遭受了严重的心理创伤。

Gray日常审核的视频包括大量虐待、行刑等场面,久而久之,自己的性格和心理状况都发生了很大改变。

“我变得麻木和暴躁,越来越具有攻击性。”

他表示,“每次回想起工作内容,我的心情都会一下子跌落谷底,只有逃避能让我暂且忘记那些可怕的画面。我已经连续一个星期没有睡着过了。”

图片

日复一日的信息冲击下,审核员不堪重负,也很难说真的练就了什么不可替代的核心竞争力。

更尴尬的是,虽然自嘲是没有感情的盯屏机器,但他们的工作却很难被真正的机器取代。

“很多时候,不是单凭一个视频就能判断对方是否违规的。”

胖虎审过不少拍小女孩的视频,一眼扫过去没什么出格内容,但仔细看,女孩穿的衣服似乎透着点不符合年龄的妖艳,有几秒钟的坐姿也容易让人产生不好的联想。搞不清究竟是对方迎合恋童癖,还是自己过于敏感,胖虎只能深挖这些账号过往发布的内容,出现诸如劈叉掰腿,裤裆正对屏幕的画面时,对方的意图才可以说是昭然若揭。

判罚轻重的拿捏也大有学问。

纪录片《网络审查员》

以女主播跳舞为例,如果只是做一些带有挑逗意味的动作,通常给予降低曝光度的处理,仅在用户的关注列表显示;如果着装存在问题,露出胸部超过三分之一,背面露出超过二分之一,或者裤子正面露出胯骨等等……被划定为低俗后,等待她们的是删除或者短暂封禁的操作。

如果包含明晃晃的大尺度内容,或者涉及色情服务,此人的账号基本就保不住了。

熟悉规则和审核流程后,审查员要做的就是不断刷量,细致归类,将内容放到具体语境下进行区分,误判、错漏数量直接关系到绩效等级。

在Facebook上,没有审核到位,还有可能被投诉侵犯公民的言论自由。

因为缺乏统一的行业标准,很多别有用心的发布者都在敏感与正常的边缘疯狂试探。像玩猫鼠游戏一样,为了规避风险,打擦边球的方式还会不断更新换代。

以前常见的招嫖方式是在头像或名字上耍心机,比如美女图上打着硕大的联系方式,取名叫大保健师之类,“现在他们更鸡贼了,动不动就搞一串乱码上来。”经同事提醒后阿凯才知道,原来把公屏上的那串乱码复制到手机上看,就是赤裸裸的招嫖信息。

敢公然搞黄色的主播也越来越少,大多是利用隐晦的口播诱导,比如“刷多少礼物可以加我微信,我会给你快乐”之类的话术,绕过平台“开私车”。

这些都显然超过了AI鉴黄系统的理解范畴。

AI擅于捕捉违禁词汇,“科技处女干事每月经过下属科室都要亲口交代24口交换机等技术性器件的安装工作”这样一句话分分钟可以给你屏蔽掉,但碰上未成年圈子里很火的磕炮黑话“kpp”“cdx”“cyq”或者“6元钱麻辣烫”这样的开房低俗梗,它们就无能为力了。

Facebook上曾有一张全身赤裸的小女孩在越南战争中逃离汽油弹袭击的照片被AI算法标记出来,随即被管理员删除。这张照片正是1973年荣获普利策奖的《火从天降》,却被AI误认为是儿童色情。

普利策获奖作品《火从天降》

在一些测试中,AI还把沙漠识别为色情,而稍加处理的真色情图片,却被识别为正常。

毕竟人类的悲欢都并不相通,AI就更难明白艺术表达与真正黄色的区别了。

未来很长一段时间里,信息过滤的主力军,注定只能是肉体凡胎的审查员。

“20万招聘首席淫秽色情鉴定官”的噱头从来不能代表这个行业的基本盘。

更为普遍的状况是,拿着四五千的工资,被严格的末位淘汰制催促着不断加速。每隔一段时间,还要接受根据热点事件和重点舆情进行的针对性考试。

阿凯和胖虎所在的公司,每月主管会按绩效将团队里的每个人划分为ABC三个等级,C等级连续拿2次,进入待岗培训的警告期;连续三个月都是C,就可以收拾东西走人了。

长期的黑白颠倒,饮食不规律,身体和精神都处于亚健康状态。掉发、发胖、生理期混乱、睡眠障碍等等一系列的后遗症,在行业内都屡见不鲜。这也是为什么内容审核岗位最喜欢招刚毕业的年轻人——岁数大了根本顶不住,也不甘心只拿这么点工资。

图片

纪录片《网络审查员》

“这是我觉得最没有前途的职业之一,临时缓冲一下还可以,长期干下去人会废掉。”

已经不记得是第几次听到类似的抱怨。据胖虎观察,公司每年招的海量新人里,能坚持一年的不到30%。

只有像胖虎一样,多年媳妇熬成婆,升为资深质检员以后,才能摆脱无穷无尽的晚班和数量要求。他现在的工作内容主要是做精细化审核,以及给新人培训。虽然工资涨幅不大,但至少不需要再跟年轻人拼体力了。

毫无疑问,“信息安全管理”正成为一个巨大的市场。

2017年《网络安全法》颁布,违规信息处罚单条上限为50万元,管理的颗粒度越来越细。危机感笼罩下,各大互联网巨头都在加大对内容审查的投入。

2019年因为播出低俗节目被约谈的快手紧急招聘了 3000 名内容审核员。除此之外,字节跳动、腾讯等每年也都在扩招大量的内容审核员。有些大厂还会将内容审核的工作外包出去。

市场不断膨胀,而卷入这个市场的个体却逃脱不了被异化的命运。

图片

纪录片《网络审查员》

作为外包合同工的审核员在承担高压工作的同时,却享受不到与正式员工同等的薪资和福利保障。在纯粹的劳动密集型产业里挣扎求生,根本谈不上什么职业前景。这种情况在国外尤甚。

据不完全统计,美国科技公司在菲律宾的外包内容审查员人数超过10万人。

尽管时薪低至1美元,但一家人的吃穿用度都仰赖于此,所以他们只能极力忍耐。

在数字浪潮的海底,外包劳工是随时可以被科技公司们新陈代谢掉的一份子。他们的情感意志、心理健康自然也不受重视。

外包审核员Daisy负责清理儿童性虐待图片(CSAI),但工作一年后,她出现了明显的心理障碍。

在主管提示其需要提高工作效率后,Daisy感到愤怒:“我该如何增强生产力?我的大脑充斥着糟糕的内容,我们是有血有肉的人类,而不是机器。”

从业一年多,机械无力感和权力感总是在阿凯心中交替出现。而胖虎早就没了“维护网络正义”的价值感,只是将这当作一份普通的工作,终极目标是在熟悉各种雷区,和流量分配的规则以后,运营好自己的自媒体账号。

“年纪大了,没法再用什么崇高的使命感激励自己。”

客服微信: cyzone2019

上传项目 文章投递 寻求报道
  • APP
  • 公众号
  • 微博
  • 知乎
中国创业者的信息平台和服务平台,帮助中国创业者实现创业梦想
创业邦公众号,带你随时了解与创业有关的人、事、钱
邦哥自留地,轻松充电,秒知圈内事
创业邦知乎机构号,带你以另一种方式了解世界