![]()
有一群人，他们的工作就是屏蔽你在网络上无法看到的内容。
他们就是“鉴黄师”，也叫网络审核员。
许多人都以为鉴黄师很轻松、很爽，每天只需要看平台更新的内容即可。但实际上，鉴黄师看到这些问题内容时，他们能做的只有通过、删除。
当一个人被无数次暴露在血腥、黄色、谩骂的环境下，心态逐渐失衡。殊不知，这些负责清扫网络垃圾信息的人，也是抑郁症高发的群体。
他们不仅需要996加班、工资低，还没有人能够保障他们的心理健康。
曾有部讲述Facebook审核员的电影《网络审查员》（the cleaners)，片中一位审查员，生前是负责审查自残视频，看过了数不清的自虐视频后，在家上吊自杀了。
没有人关心他们的心理健康。
本期显微故事讲述的是一群“鉴黄师”，他们之中：
有的人是海归硕士，抱着职业梦想进入今日头条成为“审核员”，最终却因升职困难、工作压抑，降薪去了一家创业公司；
有的人曾一天看4000多条黄暴信息，深夜给领导打电话哭着要辞职；
有的人曾是微博审核员，负责给明星控制负面舆论、但自己也被网暴，最后转行成了心理咨询师；
还有的人是网文平台审核员，除了文字，还要处理用户千奇百怪地、逃避审核机制的黄暴信息；
以下是关于他们的真实故事：
今年，我接受了降薪、加班的新工作，就为了逃离“内容审核员”的工作。在互联网公司，内容审核、电话销售，被称为两个最没前途的岗位。一旦你选择了，一手好牌就打坏了。2017年，我从英国某大学研究生毕业，加入了一个互联网公司做运营。这家公司是某知名大厂，校招时十分“卡学历”，没有985背景很难走到最后一关面试。我所在的组里有十多个实习生，其中本科都毕业自复旦、上海交大、武大等985院校，还有很多有海外留学背景的海归硕士。我们有两个团队：初审的团队（由二线城市子公司、外包公司承包）；还有就是运营团队，负责一线城市和复审，就是我所在的团队。
![]()
复审团队会把初审团队评定为“安全”的内容，人工打上“优”、“良”、“一般”的标签，不同的标签决定内容的曝光推荐级别，直接影响内容数据。按公司规定，用户上传的内容要在2小时内审核完，每天要完成全部当日新增内容审核。为了保证内容审核“日清”，初审团队采用“三班倒”，这样24小时都有人审核。他们的KPI就是每天审了多少条、准确率多少。第一次听见这个KPI时，我惊讶了，这完全是工具人啊！
![]()
复审则轻松得多。但主管为了让我们提高效率，让程序员写了“警报装置”，只要有超时没审的内容，系统自动报警。通常，我们吃个午饭回来，办公室里就警报声响成一片。我们常自嘲是“人工智能”里的“人工”，一旦出现了审核纰漏，我们成了“人工智障”。这份工作看着简单，做起来也很简单。但是留不住人；而且很消耗人。
![]()
纪录片《网络审查员》剧照对他们来说，能在公司做1年就是资深员工了。除了工作机械外，他们还要处理更多黄色、暴力、辱骂的内容，对精神伤害极大。初审团队的薪资在每个月5000元左右，基本也没有更高的涨薪空间。这份工作也不能给履历带来多大的价值，更不要想着跳槽了，就这么成了互联网“炮灰”。
我的工作也不过是训练机器审核，提高准确率。公司内部计划在未来用机器审核取代人工审核，每次开会，程序组都会量化机器训练的进度。每次我看到那些机器审核准确度数据上涨时，都觉得我未来的职业道路正在被堵住。去年tiktok的审核团队被大量裁员，让我感受到了危机。被美国封杀后，国内的小语种审核团队大规模被优化。这些人当时都是名校娇子，做了一年审核工作，原有的语言优势反而被弱化，裁员后只能继续找审核相关的工作。35岁职场危机就在眼前。
![]()
纪录片《网络审查员》剧照当时我的薪资是14k左右，但我再去面试其他岗位时，名校+大厂的背景不好用了。心直口快的面试官会直接告诉我，“能力不足支撑岗位”。我不得不降低薪水，在一家小创业公司找到需要加班、更累人的工作。但我不后悔，至少这份工作里，我不再是没有感情的审核机器。我们平台的用户大多在下沉市场，大部分文化程度不高中老年人。近年来以老年人为受害者的诈骗案频发，而我们平台每天有几十万老年人在此获取内容并分享。这也要求我们在内容的管控上要更严格，担心不良内容导致用户财产受损。我是内容主管，但管理审核团队、协助技术团队提高内容质量也是我工作的一部分。我们团队有15个人，大部分是97后。审核员里没有”前浪"，这份工作枯燥无味、重复性高，薪水也低，几乎没人能坚持过一年。每次有人离职，我们就去学校招实习生，或者刚毕业的新人补位——这活没啥技术门槛。我们平台每天更新数万条内容，文字、视频、图片都有。有些是用户上传的、我们内部爬虫抓取的，涉及需要审核的内容有数千条。
我们需要人工打上“屏蔽”、“隐藏”、“推荐”的标签，并针对里面广告词手动删除。那些擦边球内容（涉及暴力、金钱、性、夸大宣传），往往能吸引流量，换来个人收益，所以经常会遇到有团队（俗称“做号公司”）换各种账号，批量上传黄暴内容。
文字最好处理。我们内部做了”敏感词库“，负面词汇会直接变成“xx”显示。容易踩线的词一旦出现在标题、文章中，系统会自动屏蔽，需要审核员复审没问题后才能放出。
![]()
这是我经常会接触到的图片
为了逃避审核，有的人会把小黄文生成图片上传，或者在敏感词前加字母、数字等防止被识别到。对小公司来说，图片和视频审核比较困难。我曾遇到过一批视频，在播放的最后5秒里出现虚假广告，就让技术增加了“去5秒”功能。
没几天这个用户就把视频帧乱序后加上广告（广告出现时间随机）。此外，还夹杂了不少黄色内容，最后不得不继续用人工审核。这样的工作，经常会让审核员自我怀疑，觉得接受那么多年教育就是为了做这个工作吗？这样的工作到底对我有什么价值？
我最怕深夜接到电话。大多夜里的电话都是我下属情绪崩溃、闹着辞职、甚至觉得人生没意义想要自杀。去年我们公司就遇到了这样的事。一名审核员辞职后，公司和她关系很好的女孩子也说说自己因为做这个工作得了抑郁症。
![]()
纪录片《网络审查员》剧照当时那位主管批评对方心理脆弱，结果导致更多审核员离职。一时间，平台上出现过载的负面内容，运营组的人都被临时叫上去分担“审核”工作。没过几天大家都有些不正常了，每天神神叨叨、消极、觉得工作没意义，甚至说“再要审核，我们就集体离职”。
![]()
纪录片《网络审查员》剧照
迫于压力，公司迅速补招审核员，还顺带找了名心理咨询师，并拨款给审核团队用做“发泄基金”。所以，每当收到深夜崩溃电话时，我都要耐心“哄”他们。比如说，“我们的工作让老人不会受骗、很有价值”，此外还经常在群里分享用户的好评、增加工作信心、承诺申请更多奖金。我内心很矛盾，一方面想挽留他们，毕竟这样我就不用被临时调去一线审核。另一方面，我觉得很自责，我面对一个个原因相信我的年轻人，画了一个又一个“升职加薪”的大饼。我曾经是微博内容审核员，最忙的时候，每天要看4000多条微博。对内容审核来说，图片内容相对容易审核。通过举报陈述、或者直接判断图片内容是否不雅，就可以进行删除，并对发布者进行相应处罚：禁言或者封号。我的同事都来自各行各业，有曾在天安门负责治安的城管、也有政法大学的高材生、应届生。做内容审核最重要的是，情商要高。不仅要懂得维护关系，也要有底线和原则，不能谁求你帮忙都帮。
刚做审核时，每天都能找到很多乐子，能见到很多奇葩的人。但做久了，接受的负面、黄暴信息多了以后，就越发觉得无聊。这职业根本不需要技术能力，只要机械性的审核、判断就可以。这些审核员们大多都是男性，看多黄暴图片真的很容易印象心理状态，让人对平时生活里欲望也没有了。
甚至有段时间，我因为看了太多负面信息，感觉人生压抑。怎么社会上会有这么多骂人的方法、到处都是肮脏、变态的人。如果我不做审核员，我根本不知道社会上有这么多奇葩的人。有的人专门卖“原味”，还有些恋足癖、内衣癖，还有人在闲鱼上专门寻找别人的二手内衣，这都是非常普遍的事情。有时还会遇到些“挂羊头卖狗肉”的钓鱼内容。比如有些人会发自己的自拍，吸引别人问她是否卖“私房”，甚至可以线下销售“自己”。对于他们来说，无论是微博、闲鱼、还是其他社交渠道，都只是展示和销售自己的方式之一，在哪里都可能遇到。前段时间，有人曝光潘玮柏、郭富城的妻子实际上是上过“嫁豪门”课程的。其实通过看他们的微博、微信内容也很容易发现，她们乐于分享自己的照片、生活，吸引明星、土豪给自己发私信。这种看照片验颜值约妹子的行为，被我们内部称为“选妃”，很多爱慕虚荣的网红就是这么被撩到的。虽然我们不能看用户私信，但还是会在举报内容中看到。我们公司内部开发了一个程序筛查黄色图片，从属于视频部门的网监部下。视频里包含肉色的几帧会第一时间被被筛选出来。好笑的是，这种机制会经常筛选出加菲猫的图片——许多加菲猫也是肉色的。这时就需要我们人工判断加菲猫或色情图。
![]()
加菲猫大部分垂直内容是相互独立审核的，比如，有的同事负责服务大V，对明星的举报进行重点维护。明星出了任何问题，是可以直接找到微博负责人，同时他们也有相应的删帖名额，可以进行热搜降级、评论处理等。我们所收到的举报信息都是有举报原因的。比如涉政、淫秽色情、垃圾短信、还有各种纠纷等。甚至有些男人分手后报复前女友，直接在平台上发她的裸照，后台觉得可怜同情，也会帮她删掉的。
![]()
纪录片《网络审查员》剧照所以没有做多久我就发现不适合，大概一年后我就辞职，考了心理咨询师资格证，转行做了心理咨询师。相比屏蔽负面内容，我更愿意从根源上让大家在内心化解掉怨恨和欲望。2015年，我曾在一家网文平台里做编辑，偶尔也协助做安审。我们平台开放全网注册，所以免不了有的用户会发布违规内容。大部分违规内容是广告、色情、赌博信息，还有少量血腥暴力内容。比如“纽约双性恋的姑娘，出来聊一聊？”“我跟继父睡觉，然后要挟他给我买一辆车”……我们系统会自动拦截、删除明显的违规信息，严重的就封掉用户账号。如果系统判定网文作者某个字、某句话涉嫌违规，系统会将这部分内容高亮放大。如果只是个别字句，审核人员会帮助修改。但涉及到剧情、文章架构，需要大幅度修改的，审核人员会打回该章节，让作者修改后重审。如果文章里有配图，那么每张图片系统都会拦截出来，让审核人员进行判断。虽然是写作类APP，上传图片的用户较少，但还是有些不怀好意的人上传的色情图片。我第一次看到黄色图片时，就是系统拦截到了好几页全是光溜溜的身体部位。刚开始看到这种内容我还有点不好意思，但见多了以后，一看到这种图片就反胃。有一位用户上传了QQ群聊天截图，其中有段信息是语音转换成文字，转化出来的都是一些语气词，嗯嗯啊啊的，明显是和色情相关的内容。当时我就很紧张，找领导商议。但领导觉得我神经太敏感，我还是坚持己见，把那张图删掉了。安审工作看起来简单轻松，但如果走神让不良信息曝光出来，对平台造成的影响可大可小。严重的话，我们连工作都保不住。但长时间暴露在不良内容下，谁都受不了。我们审核部的同事，平均一天八个小时都要面对这些信息。日积月累，难免崩溃，我们一位女同事，干了没几个月就去看心理咨询了。因此，为了减少审核人员的心理负担，内容部门的人每周换着轮岗，一人做一周的内容安全审核工作。
![]()
故事征集
我们关注大时代的小人物故事、各行业的一线故事。
如您有合适的作品，可将稿件直接发给fangyuanjing2019@163.com
稿件一经采用发布，即刻支付稿费。
![]()
![]()
![]()
━━━━━━━━━━━━━━━━━━━━
显微故事合作媒体平台
腾讯科技 | 36氪 | 虎嗅 | 钛媒体 | 界面新闻 Pingwest品玩 | 第一财经CBNData | 凤凰新闻 ZAKER | 企鹅号 | 今日头条 | 知乎 | 微博头条创业邦 | 澎湃 | 新浪创事记 | 前瞻网 | 网易科技━━━━━━━━━━━━━━━━━━━━
大时代下，
每个小人物都值得被看到。
欢迎关注显微故事