两会热议| 当心AI换脸！眼见不一定为实，教你识别深度伪造

最近，短视频领域出现了一款爆火的“蚂蚁呀嘿”。不论是在微博、朋友圈，还是抖音、快手等短视频平台，都能听到这个魔性的音乐。

这类视频由Avatarify变脸软件制作，特效的玩法也非常简单，只要上传一张照片，照片上的人便可扭脖子瞪眼地唱上一首“蚂蚁呀嘿”，只要找到了脸，就连蒙娜丽莎也能蹦跶起来。在抖音平台短短几天，网友们就发布了12万个类似换脸视频，Avatarify变脸软件更是强势登顶App Store下载量总榜。 不过，目前该软件已经从中国区App Store下架。

其实“换脸”的技术并不是什么新鲜事儿，在去年播放的电视剧《胜算》里，便使用AI技术将女主角韩彩英的脸换成苏青，还真别说，通过人眼完全看不出换脸痕迹，相比之前通过换脸完成的一些电视剧，效果已经达到以假乱真的地步。

随着AI换脸技术的发展，借助AI换脸技术完成一部电影或电视剧已经成为比较常用的一个手法，甚至想看自己主演的电视剧，当一回大侠也是轻而易举。

不可否认的是，AI换脸技术确实给用户带来不少惊喜，也能为许多行业的发展提供技术上的支持。但是，人们更担心它会被用在“灰色产业”，成为违法犯罪的帮凶。

AI换脸低成本和易操作的特性，使得大规模互联网用户参与成为可能，很容易滋生黑产和诈骗。国内有大量活跃的“AI换脸”QQ群、论坛、网商，不仅交流技术、售卖教程，甚至出现售卖定制视频和成品视频。在个人财产安全、市场操纵、舆情安全、国家安全等领域，都存在极大的安全风险。

当前，在视频图像伪造检测和鉴定方面仅仅依靠传统真伪检测和鉴定方法难以支撑多样化的伪造手段。特别是面对利用AI进行图像视频伪造问题已趋严重的情况下，人脸生成、人脸属性修改、人脸替换、表情操纵等深度伪造手段的运用，使得深伪图像和视频更加难以鉴别。

美亚柏科AI研发团队，通过对不同伪造方法的追踪研究，寻找伪造的特征差异，设计了多种针对深伪合成图像视频的检测和鉴定算法模型，不同的网络模型用于提取伪造的差异性特征。然后通过集成学习相关技术将多个模型进行融合，从而获得更加准确和稳定的检测鉴定结果。同时，模型训练过程中引入对抗攻击技术，进一步提升了模型的鲁棒性和抗攻击能力。

*名词解释：鲁棒性，Robust的音译，它也是在异常和危险情况下系统生存的能力。

电视剧《胜算》中所采用的是人脸替换技术，而Avatarify软件使用的表情操纵技术，两者采用了完全不同的技术路线，但在电视剧《胜算》以及使用Avatarify伪造的视频中，通过美亚柏科的AI换脸检测技术都准确地检测出篡改位置，说明了算法模型具有很强的泛化能力。

电视剧《胜算》检测结果

Avatarify换脸检测结果

不仅仅可以针对“AI换脸”进行检测，美亚柏科研究的一系列深伪检测技术在多种深伪图像和视频检测和鉴定上都达到了国内领先水平，基于此推出的AI-1300神盾视频图像鉴真工作站已成为视频图像伪造检测的利器。