有一群人,他们的工作就是屏蔽你在网络上无法看到的内容。
他们就是“鉴*师”,也叫网络审核员。
许多人都以为鉴*师很轻松、很爽,每天只需要看平台更新的内容即可。但实际上,鉴*师看到这些问题内容时,他们能做的只有通过、删除。
当一个人被无数次暴露在血腥、*色、谩骂的环境下,心态逐渐失衡。殊不知,这些负责清扫网络垃圾信息的人,也是抑郁症高发的群体。
他们不仅需要加班、工资低,还没有人能够保障他们的心理健康。
曾有部讲述Facebook审核员的电影《网络审查员》(thecleaners),片中一位审查员,生前是负责审查自残视频,看过了数不清的自虐视频后,在家上吊自杀了。
没有人关心他们的心理健康。
本期显微故事讲述的是一群“鉴*师”,他们之中:
有的人是海归硕士,抱着职业梦想进入今日头条成为“审核员”,最终却因升职困难、工作压抑,降薪去了一家创业公司;
有的人曾一天看多条*暴信息,深夜给领导打电话哭着要辞职;
有的人曾是微博审核员,负责给明星控制负面舆论、但自己也被网暴,最后转行成了心理咨询师;
还有的人是网文平台审核员,除了文字,还要处理用户千奇百怪地、逃避审核机制的*暴信息;
以下是关于他们的真实故事:
文
常宁宁、蜜斯桃、李海草
编辑
万芳
01干满一年就算资深员工,月薪元、无法加薪、难以跳槽
小鹿前今日头条用户运营25岁
今年,我接受了降薪、加班的新工作,就为了逃离“内容审核员”的工作。
在互联网公司,内容审核、电话销售,被称为两个最没前途的岗位。一旦你选择了,一手好牌就打坏了。
年,我从英国某大学研究生毕业,加入了一个互联网公司做运营。这家公司是某知名大厂,校招时十分“卡学历”,没有背景很难走到最后一关面试。
我所在的组里有十多个实习生,其中本科都毕业自复旦、上海交大、武大等院校,还有很多有海外留学背景的海归硕士。
我们有两个团队:初审的团队(由二线城市子公司、外包公司承包);还有就是运营团队,负责一线城市和复审,就是我所在的团队。
复审团队会把初审团队评定为“安全”的内容,人工打上“优”、“良”、“一般”的标签,不同的标签决定内容的曝光推荐级别,直接影响内容数据。
按公司规定,用户上传的内容要在2小时内审核完,每天要完成全部当日新增内容审核。
为了保证内容审核“日清”,初审团队采用“三班倒”,这样24小时都有人审核。他们的KPI就是每天审了多少条、准确率多少。
第一次听见这个KPI时,我惊讶了,这完全是工具人啊!
复审则轻松得多。但主管为了让我们提高效率,让程序员写了“警报装置”,只要有超时没审的内容,系统自动报警。
通常,我们吃个午饭回来,办公室里就警报声响成一片。
我们常自嘲是“人工智能”里的“人工”,一旦出现了审核纰漏,我们成了“人工智障”。
这份工作看着简单,做起来也很简单。但是留不住人;而且很消耗人。
纪录片《网络审查员》剧照图我们也常和初审团队有交流。
对他们来说,能在公司做1年就是资深员工了。除了工作机械外,他们还要处理更多*色、暴力、辱骂的内容,对精神伤害极大。
初审团队的薪资在每个月元左右,基本也没有更高的涨薪空间。
这份工作也不能给履历带来多大的价值,更不要想着跳槽了,就这么成了互联网“炮灰”。
我的工作也不过是训练机器审核,提高准确率。公司内部计划在未来用机器审核取代人工审核,每次开会,程序组都会量化机器训练的进度。
每次我看到那些机器审核准确度数据上涨时,都觉得我未来的职业道路正在被堵住。
去年tiktok的审核团队被大量裁员,让我感受到了危机。
被美国封杀后,国内的小语种审核团队大规模被优化。这些人当时都是名校娇子,做了一年审核工作,原有的语言优势反而被弱化,裁员后只能继续找审核相关的工作。
35岁职场危机就在眼前。
当我认识到这一点后,我决定离职。
当时我的薪资是14k左右,但我再去面试其他岗位时,名校+大厂的背景不好用了。心直口快的面试官会直接告诉我,“能力不足支撑岗位”。
我不得不降低薪水,在一家小创业公司找到需要加班、更累人的工作。但我不后悔,至少这份工作里,我不再是没有感情的审核机器。
02深夜看*图就崩溃大哭,公司为了“哄”大家设立“发泄基金”
小Z女27岁某平台内容运营主管
我们平台的用户大多在下沉市场,大部分文化程度不高中老年人。
近年来以老年人为受害者的诈骗案频发,而我们平台每天有几十万老年人在此获取内容并分享。
这也要求我们在内容的管控上要更严格,担心不良内容导致用户财产受损。
我是内容主管,但管理审核团队、协助技术团队提高内容质量也是我工作的一部分。
我们团队有15个人,大部分是97后。审核员里没有”前浪,这份工作枯燥无味、重复性高,薪水也低,几乎没人能坚持过一年。
每次有人离职,我们就去学校招实习生,或者刚毕业的新人补位——这活没啥技术门槛。
我们平台每天更新数万条内容,文字、视频、图片都有。有些是用户上传的、我们内部爬虫抓取的,涉及需要审核的内容有数千条。
我们需要人工打上“屏蔽”、“隐藏”、“推荐”的标签,并针对里面广告词手动删除。
那些擦边球内容(涉及暴力、金钱、性、夸大宣传),往往能吸引流量,换来个人收益,所以经常会遇到有团队(俗称“做号公司”)换各种账号,批量上传*暴内容。
文字最好处理。我们内部做了”敏感词库“,负面词汇会直接变成“xx”显示。
容易踩线的词一旦出现在标题、文章中,系统会自动屏蔽,需要审核员复审没问题后才能放出。
这是我经常会接触到的图片
不算*暴,但每天都要看到好几张
为了逃避审核,有的人会把小*文生成图片上传,或者在敏感词前加字母、数字等防止被识别到。
对小公司来说,图片和视频审核比较困难。我曾遇到过一批视频,在播放的最后5秒里出现虚假广告,就让技术增加了“去5秒”功能。
魔高一尺,道高一丈。
没几天这个用户就把视频帧乱序后加上广告(广告出现时间随机)。此外,还夹杂了不少*色内容,最后不得不继续用人工审核。
这样的工作,经常会让审核员自我怀疑,觉得接受那么多年教育就是为了做这个工作吗?这样的工作到底对我有什么价值?
我最怕深夜接到电话。大多夜里的电话都是我下属情绪崩溃、闹着辞职、甚至觉得人生没意义想要自杀。
这种情绪处理不好可能遇到员工的辞职。
去年我们公司就遇到了这样的事。一名审核员辞职后,公司和她关系很好的女孩子也说说自己因为做这个工作得了抑郁症。
纪录片《网络审查员》剧照
当时那位主管批评对方心理脆弱,结果导致更多审核员离职。一时间,平台上出现过载的负面内容,运营组的人都被临时叫上去分担“审核”工作。
没过几天大家都有些不正常了,每天神神叨叨、消极、觉得工作没意义,甚至说“再要审核,我们就集体离职”。
纪录片《网络审查员》剧照
迫于压力,公司迅速补招审核员,还顺带找了名心理咨询师,并拨款给审核团队用做“发泄基金”。
所以,每当收到深夜崩溃电话时,我都要耐心“哄”他们。
比如说,“我们的工作让老人不会受骗、很有价值”,此外还经常在群里分享用户的好评、增加工作信心、承诺申请更多奖金。
但我何尝不觉得这份工作意义不大?
我内心很矛盾,一方面想挽留他们,毕竟这样我就不用被临时调去一线审核。另一方面,我觉得很自责,我面对一个个原因相信我的年轻人,画了一个又一个“升职加薪”的大饼。
这个饼,可能永远不会实现。
03受够每天条负面微博,审核员没有技术含量,大部分是应届生
纪霖26岁女前微博内容审核员
我曾经是微博内容审核员,最忙的时候,每天要看多条微博。
对内容审核来说,图片内容相对容易审核。通过举报陈述、或者直接判断图片内容是否不雅,就可以进行删除,并对发布者进行相应处罚:禁言或者封号。
我的同事都来自各行各业,有曾在天安门负责治安的城管、也有*法大学的高材生、应届生。
做内容审核最重要的是,情商要高。不仅要懂得维护关系,也要有底线和原则,不能谁求你帮忙都帮。
刚做审核时,每天都能找到很多乐子,能见到很多奇葩的人。
但做久了,接受的负面、*暴信息多了以后,就越发觉得无聊。这职业根本不需要技术能力,只要机械性的审核、判断就可以。
所以,但凡有点梦想的年轻人都很难持续下去。
这些审核员们大多都是男性,看多*暴图片真的很容易印象心理状态,让人对平时生活里欲望也没有了。
甚至有段时间,我因为看了太多负面信息,感觉人生压抑。怎么社会上会有这么多骂人的方法、到处都是肮脏、变态的人。
如果我不做审核员,我根本不知道社会上有这么多奇葩的人。
有的人专门卖“原味”,还有些恋足癖、内衣癖,还有人在闲鱼上专门寻找别人的二手内衣,这都是非常普遍的事情。
有时还会遇到些“挂羊头卖狗肉”的钓鱼内容。比如有些人会发自己的自拍,吸引别人问她是否卖“私房”,甚至可以线下销售“自己”。
对于他们来说,无论是微博、闲鱼、还是其他社交渠道,都只是展示和销售自己的方式之一,在哪里都可能遇到。
前段时间,有人曝光潘玮柏、郭富城的妻子实际上是上过“嫁豪门”课程的。
其实通过看他们的微博、