“软色情”事件频发，专家揭秘AI“鉴黄”技术｜上云那些事

“色、丑、怪、假、俗、赌”！

在今年“清朗”系列专项行动对网络直播、短视频领域乱象要重点整治的“七类问题”中，“色”排在了第一位！是该领域最大的“问题”所在。

近期，不少内容平台和物流商城也纷纷爆出“软色情”问题，315晚会上也重点提到了相关现象，“问题”如此突出，怎能坐视不理？

据了解，如今不少内容平台纷纷开始利用AI技术来为内容审核提供支持，但是随着内容信息从图文向视频等形式的发展，AI“鉴黄”技术也迎来了新的挑战。

腾讯安全内容风控专家杨红在接受采访时就表示，对于如今的AI“鉴黄”技术挑战，主要来自于三个方面:

“第一，从以前的裸露色情，发展到了现在的低俗色情；第二，以前的主播是单向输出，现在的语音房间是多人互动，场景变复杂，识别难度也相应增加；第三，网民和网络内容逐渐呈现低龄化趋势，我们需要进一步保护未成年人和青少年的身心健康。”

杨红表示，以图片为例，以前针对粗暴的色情图片，只要简单的分类就可以快速的识别出来，但现在面对低俗的色情内容，则需要尽可能的把图片内容提取出来，需要识别图片的背景是室内环境还是室外环境，人物是男性和女性，图片是否涉及到未成年人的信息，还包括图片中有哪些动作，是否有肢体接触等，都需要尽可能全部识别出。

“充分的识别会方便我们对图片做出综合的判断，但这会导致识别的计算量的大幅度增加。”杨红坦言，对于技术平台而言，鉴黄技术发展到今天，高度利用了AI和大数据模型，而非纯人力投入。

杨红建议，对于企业而言，在进行内容风控时要围绕内容生产、传播、存储这三个环节，建立起高效的内容审核流程。企业可以选择专业的数字化解决方案，高效的解决内容审核问题。而做好内容风控工作，不仅能够帮助企业合法合规，让企业能够健康持续的发展，也能够让网络空间更加“清朗”。