产业安全专家谈｜企业如何基于AI搭建内容风控防线？

• 第一，内容安全审核标准非常多样化。不同的业务场景、不同的受众对内容的拦截有不同的要求。比如一把真枪，如果出现在军事节目中很正常，但出现在早教节目中就不合适。此外，还有一些风险类目难以标准化，以及一些模棱两可的内容，需要进行人工干涉，根据经验获取上下文信息语境，才能明确是否属于违规内容。

• 第二，在不同的形式内容中，存在大量对抗变异的形态。例如为图片配上涉黄的文字，并将文字转换成拼音表述以对抗机器审核。此外还出现AI技术生成的对抗变异内容，这些多模态变异内容大量存在，是我们内容安全治理时要应对的重点问题。

• 第三，需要迅速响应新增突发风险，甚至还要求对海量数据进行回溯，这对产品提出了更高的要求。比如去年突然封禁的槟榔广告，以及前段时间微博热搜上讨论的某版教材不良插图等，都需要我们在突发的风险中进行及时应对和处理。

• 过滤以未成年人为主体，含有不良信息的内容；

• 过滤对未成年人不宜内容、不良诱导的内容；

• 保护未成年隐私，打击盗用未成年人形象制作不良内容。

总结起来，“守护青苗行动”整合了在未成年色情低俗、隐私、暴力欺凌以及不良ACG、不良行为及信息方面的全方位风控能力，为未成年人营造清朗的网络环境提供助力。