数字中国 | 滕达：从“深度学习”到“深度伪造”，谈人工智能数据安全

原创美亚三美美亚柏科

收录于合集

因“数”而变，因“数”而兴。随着我国数字经济的蓬勃发展，以5G、大数据、人工智能为代表的数字产业逐渐成为我国产业结构中的重要组成部分，随之而来的数据安全问题引发社会关注。

2022年7月23日，第五届数字中国建设峰会在福州盛大开幕，国投旗下美亚柏科董事长滕达以《从“深度学习”到“深度伪造”——谈人工智能数据安全》为主题在数据法治分论坛上发表精彩演讲，深度剖析数字经济时代下的人工智能数据安全。

如果给你一张40年前的幼儿园毕业合影，你是否还能自信准确地找到幼时的自己？滕达首先以个人的现实经历展现了人工智能技术的强大，并指出由其所衍生而来的“深度伪造”技术可能造成的影响也需引起重视，目前主要存在以下问题：

第一，数据的过度采集和滥用。随着我国互联网经济的高速发展，大量数据被采集和使用，这为人工智能的发展提供了丰富的样本，但数据过度采集和滥用的情况也屡有发生，尤其是人脸指纹等具有高安全性的生物特征，一旦丢失则“不可再生”，可能会给社会经济造成重要影响。

第二，数据的污染和算法的歧视。众所周知，人工智能模型是由数据训练出来的。一方面，在训练数据的过程中可能会出现由于数据污染导致人工智能模型偏离预设，例如采用数据投毒的方式，在训练数据时加入伪装数据、恶意样本等破坏数据模型的完整性；另一方面，通过内置性编码凝视，产生算法歧视。

第三，人工智能监管审查需要完善。目前，人工智能领域还缺少明确的规范和监管举措。例如最近很火的人工智能教育软件，可以针对学生不熟悉的知识点进行强化训练，似乎很管用，但其底层逻辑已经从“人训练机器”转变为“机器训练人”，如果继续演变下去，机器是否会影响甚至控制人类的思考和判断？后果不堪设想。

滕达表示，人工智能技术是把双刃剑，我们应该关注如何让技术安全、可靠、可控地赋能社会发展，可以从以下几方面入手：

国家要为数据合规管理提供法治保障。2021年已正式公布实施的《数据安全法》、《个人信息保护法》都对数据采集、治理等内容提出了明确要求，数据安全正在步入法治化正轨。尤其是近期公布的针对滴滴的处罚结果，也给企业的数据合规划清底线，明确红线，因此继续探索不同领域数据安全的工作方法、路径和模式具备必要性。

要加强人工智能安全治理技术体系研究。人工智能不仅仅是技术方面的问题，更面临道德伦理、法律层面乃至哲学问题。我们要针对人工智能的算法、数据和应用等可能产生的安全威胁，构建人工智能安全治理技术体系，并积极开展人工智能伦理研究，制定原则和规范，确保科技向善。

要实现风险自评估与安全评估相结合的模式。国家三部委已发布管理规定，明确制作发布传播深度伪造音视频应当予以明显标识。未来我们也应通过公司治理、行业自治以及行政监管三者来实现人工智能的监管和审查。

对于时下大热的“元宇宙”概念，他谈到，人工智能是实现元宇宙最重要的技术之一，但未来元宇宙的现实和虚拟边界在哪里？元宇宙世界中是否有法可依？元宇宙治理基础设施又是什么？这些问题值得深思。滕达认为，网络身份证就是未来元宇宙个人数字身份通行证，是数字社会的基础设施。当前，美亚柏科正深度参与建设国家级居民身份证电子证照大数据软件平台项目，未来也必将为元宇宙中人们的行为、资产，以及社会治理奠定基础，提供保护。

人工智能技术作为数字经济发展的重要驱动引擎，赋能传统产业转型升级，催生新产业新业态新模式。滕达分别用“技术、艺术、魔术、妖术”四“术”对人工智能作出生动阐述：人工智能毋庸置疑首先是一项技术，如果用好了，它将成为改善人类美好生活的一种艺术，甚至成为帮助人们实现愿望的一种魔术，如果被滥用，那么它就是一种妖术。但归根结底，无论人工智能是什么术，只有坚持技术和法治并举，才能更好地推动人类社会的高质量发展。

本次峰会不仅有专家学者、行业大咖的观点碰撞，还同步举办成果展览会，展示数字中国发展的最新成果。作为福建省代表企业，美亚柏科携子公司及生态伙伴在6号馆6B03展位展示智慧城市、疫情防控、零信任、云安全、数据安全、网络安全、信创等领域的相关产品及解决方案，同时还参与8号馆数字福建馆及“数字中国建设成就巡礼”专题展相关内容展示，吸引了众多领导及参展嘉宾、观展群众的到访。

精彩还在继续，欢迎各位莅临指导！更多参展介绍详见→_→美亚柏科邀您关注第五届数字中国建设峰会

编辑：林阳艳

校对：李银河林杨珏

——— 近期热文 ———

热文

银行人脸识别系统被攻破，你以为你的脸还安全？！

热文

火热报名中，首届“乾坤杯”中国大数据创新应用大赛暨2022年全国大数据建模精英赛

热文

美亚柏科实力入选《嘶吼2022网络安全产业图谱》

热文

点赞“中央企业优秀故事”，美亚柏科以“数”战“疫”值得你打call