嗅到AI内容安全审核服务的商机易 夹到碗里难

今年4月，马克•扎克伯格在美国国会听证时表示，Facebook已经雇佣了15,000名审核员来筛选和删除攻击性内容，并计划在今年年底前再招聘5,000名审核员。Facebook作为全球AI技术的集大成者，大规模招聘人工审核员，让公众对AI产生质疑。联想到近期国内刮起的直播短视频平台不良信息整治风暴，各平台也相继采取大规模增加人工审核的方式。说好的AI让人失业，怎么突增如此多就业机会呢？

迅速壮大的内容行业呼唤AI，发展中的AI应用同样需要人工的参与。AI进行内容审核过程中的测试数据是基于其训练数据，也就意味着AI很难识别训练样本以外的数据。随着视频数量的剧增、违规场景的变化，以及监管方对内容合规要求的调整，都需要AI不断进行学习和训练，这中间需要大量人工为AI新增标注，辅助机器学习。与其说新增的“人工”是审核员，不如说是机器学习的“伴读”。

在市场的需求和技术的驱力下，AI内容审核服务产业链已经在国内悄然形成。目前国内的AI内容审核服务市场，现状到底如何呢？接下来，从内容平台的AI自研团队、云服务商、AI创业公司这三方市场主力的运营情况来一探究竟。

内容生产方的AI自研之路

内容安全作为UGC平台命脉所在，是内容监管服务市场最大的需求方。平台内容体量大、需求更迫切、精准度要求高，促使今日头条、欢聚时代、快手等需求方不惜高成本组建自己的AI团队。以欢聚时代为例，作为国内首家富集通讯业务运营商，旗下有YY LIVE、欢聚游戏、虎牙直播等核心业务。从官方介绍看，目前欢聚时代员工超过3000人，将近60%为研发人员，专业的研发中心为公司产品提供全面保障。欢聚时代的AI自研能力，在业界颇有好评。然而，欢聚时代旗下各平台的内容安全服务却选择了自研与第三方公司相结合的方式。

AI自研团队在满足平台精细化运营方面有得天独厚的优势，然而在内容安全审核方面却是心余力绌。AI内容安全审核需要消耗大量GPU及其他底层资源，基于自身场景积累的数据资源远远不能满足当下违规审核的需求。随着监管标准、违规内容的变化，自研的AI平台及技术很难完成迅速的扩容和更新迭代。欢聚时代也深知这一点，充分发挥团队AI优势，满足平台精细化运营的需求，同时借助专业第三方的AI内容审核实力，牢牢守住内容安全这条红线 ，实现平台健康发展。

云服务厂商进军AI内容安全审核业

云计算、大数据、人工智能技术，是AI内容安全审核过程中三个重要因素，也是云服务商入局的核心优势。阿里云、腾讯云、金山云作为国内领先的云服务商 ，先后推出阿里绿网、腾讯优图、金山云金睛等AI内容安全解决方案。

当下，UGC平台是AI内容安全审核服务的主要需求方。随着UGC市场竞争的白热化，平台受众层次不断细分，内容差异逐渐拉大，各平台形成了了自己鲜明的文化风格，对平台运营要求越来越高的同时，也对内容审核服务提出了更多的需求。

以金山云为例，深耕视频行业与AI技术的同时，采取迎合内容平台精细化运营的策略，为客户提供灵活的定制化方案。数据模型随需更新迭代，将内容方实时数据流接入到其“金睛”平台，30s内完成实时抽帧解析，审核、响应、复审到违规结果传送给直播间运营人员。另外，“金睛”根据平台上主播、UP主的发布时间、行为，进行内容抓取、数据沉淀，对潜在违规倾向的内容生产者进行提前监控。这种定制化的解决方案更符合强运营平台在内容合规管理上的需求。

AI公司数据有余，后劲不足

除了云服务厂商，国内的AI创业型公司也纷纷瞄准了内容审核服务这块蛋糕，这类企业更加专注于计算机视觉和深度学习原创技术，算法为先，在某些AI特别领域的落地比较成熟。然而，内容安全审核需要大量计算、存储等云服务资源。所以，为了尽可能的控制成本，目前在审核过程中只能做到1-10qps/s（每秒处理请求次数），这和云服务商在内容审核时高达2000qps/s的响应速度相差太远，无法满足短视频、直播高并发、快速响应的需求，使其在激烈的市场竞争中越发被动。

人工审核员的饭碗，AI能砸吗？

各方并驱竞争之下，充分说明了人工智能在内容审核方面的一致认同。全天24小时不限量识别，以及高达99%以上的精准度，这些人工远不能匹及。然而，任何一方都没有否认人工存在的必要性。人工审核对特殊场景的判定，可以弥补目前AI的短板。另外，人工在审核同时为AI进行陌生数据的标注，帮助机器学习，优化AI的性能 。

随着5G时代的到来，内容将是UGC平台在后半场一决胜负的重要关键。内容生产方对内容安全监管服务、政策解读能力和响应速度都提出更新、更高要求。选择更有效的内容监管服务变得至关重要。激烈的市场角逐下，一批内容监管服务商将脱颖而出，为UGC平台的发展助力。