北邮在线：这个互联网上最“脏”的工作，为什么无法消失？
在柏林不起眼的办公室里，600 名员工如冰冷的机器一般，目不转睛地盯着屏幕，拿着一个鼠标频频点击，却做着影响全球 20 亿人的事情：
网上每天超过一百种语言的数十亿帖子，哪些可以放出？哪些需要保留？哪些需要立刻删掉？
他们是 Facebook 的内容审核员们，几乎每 10 秒就要做出一个决定。
这个群体，大部分其实并不了解。他们不在深不可测的暗网，也并非和网民近在咫尺，但近月加州大学教授 Sarah T. Roberts 出了一本新书《屏幕背后》讲到：
社交媒体上最阴暗的一面，不在广大网民的的屏幕里，而在内容审核员眼前。
国内外各大互联网公司每年都在扩招内容审核员的岗位，单 Facebook 在全球就已经有 20,000 多名审核员，这似乎是一个永远都在缺失中的职业。
在早期，互联网还是一片分散的网络，连接数十亿个网站和社区的人们，随着互联网越来越「公司化」，Facebook，YouTube，Instagram......内容审核员开始出现，用来监管它们各自的网站。
另外，他们的平均薪水高于最低工资。内容审核规则十分模糊，且经常变化，大部分靠既定模型和长期经验中把握尺度，但有时候看上头命令，有时候看上司命令。每个月都有人来，有人走，公司从来不留人。
只是一群普通人突然接触到了禁忌世界，因为频繁血腥而残酷的内容，导致压力也越来越大，累计到一定阙值就开始溃堤。
2017 年一桩 Facebook 的集体诉讼案中，数千名内容审核员表示在工作中受到了严重的心理伤害，导致发生创伤后应激障碍，「睡眠中一点响动都会让我有遭遇车祸的错觉」。
事实上，目前的内容审核只能是人来进行的——猫捉老鼠的游戏。
但好的一面是，现在还有 AI 能帮他们预先灭掉「一窝蛇鼠」。
随着互联网公司审核员投诉和抗议事件屡发，再加上互联网用户上传内容量增加，头部平台每天产生的 UGC 内容量更是天文数字，人力投入昂贵且难以扩展，所以现在几乎所有公司，都已经在用「人+机器」的内容审核方式。
国内最早利用 AI 技术从事内容审核服务的图普科技，据说现在对于色情、暴恐、低俗、诈骗等内容已经能达到 99% 的识别率，降低 90% 以上的人工审核成本。
在人机结合的审核里，首先 AI 会进行第一阶段海量内容的审核，区分正常内容、确定的不良内容以及不明确的内容，然后帖子被分类分配出来，再由审核员对「不明确的内容」进行人工复审。
这样一来，AI 能够帮内容审核员减轻负担，让他们更高效地去做决策，专注于数据分析。但要让人工智能取代人力，现在依然像是天方夜谭。