第一,内容安全审核标准非常多样化。不同的业务场景、不同的受众对内容的拦截有不同的要求。比如一把真枪,如果出现在军事节目中很正常,但出现在早教节目中就不合适。此外,还有一些风险类目难以标准化,以及一些模棱两可的内容,需要进行人工干涉,根据经验获取上下文信息语境,才能明确是否属于违规内容。
第二,在不同的形式内容中,存在大量对抗变异的形态。例如为图片配上涉黄的文字,并将文字转换成拼音表述以对抗机器审核。此外还出现AI技术生成的对抗变异内容,这些多模态变异内容大量存在,是我们内容安全治理时要应对的重点问题。
第三,需要迅速响应新增突发风险,甚至还要求对海量数据进行回溯,这对产品提出了更高的要求。比如去年突然封禁的槟榔广告,以及前段时间微博热搜上讨论的某版教材不良插图等,都需要我们在突发的风险中进行及时应对和处理。
过滤以未成年人为主体,含有不良信息的内容;
过滤对未成年人不宜内容、不良诱导的内容;
保护未成年隐私,打击盗用未成年人形象制作不良内容。
总结起来,“守护青苗行动”整合了在未成年色情低俗、隐私、暴力欺凌以及不良ACG、不良行为及信息方面的全方位风控能力,为未成年人营造清朗的网络环境提供助力。
腾讯安全正在护航产业安全
金融行业
中国银行 | 招商银行 | 华夏银行 | 中国建设银行 | 江苏银行 | 光大银行 | 微众银行 | 交通银行 | 富途 ……
交通行业
海航集团 | 祥鹏航空 | 长龙航空 | 电科航电 | 国铁吉讯 | 广汽集团 | 上汽集团 | 如祺出行 ……
零售行业
五粮液 | 张裕集团 | 东鹏特饮 | 可口可乐 | 雅诗兰黛 | 永辉超市 | 多点新鲜 | 优衣库 | 名创优品 | 孩子王 | 金拱门 | 中免集团……
互联网
同程艺龙 | 虎牙直播 | 唯品会 | 哔哩哔哩 | 快手 | 知乎 | 京东 | 顺丰 | 蘑菇街 | 三七互娱 | 完美世界 ……
智能制造
三一重工 | 宁德时代 | 富士康 | 中铁集团 | 中粮集团 | 华为 | 荣耀 | 小米 | OPPO | VIVO | 海尔 | 美的……