你担心“人工智能威胁论”吗？《科学通报》对话南京大学周志华教授
2016年3月“阿尔法狗”(AlphaGo)围棋程序对战世界围棋冠军、职业九段选手李世石, 并以4:1的总比分获胜, 吸引了全世界的关注, 社会舆论为之哗然。
2017年10月19日, 阿尔法狗的研发团队、谷歌旗下的DeepMind的最新研究成果以“Mastering the game of Go without human knowledge”为题发表于Nature, 再次引起轰动。报道称新一代的阿尔法元(AlphaGo Zero), 完全从零开始, 不需要任何历史棋谱的指引, 更不需要参考人类任何的先验知识, 完全靠自身强化学习和参悟, 棋艺增长远超阿尔法狗, 而且工作和训练效率都有了很大的提升, 仅用了3天的时间就能击败原版阿尔法狗, 同时在推理时, 阿尔法元只用了4块TPU。
一时间“人工智能威胁论”、“AI即将统治世界”等说法被大众热议。人工智能来势汹汹, 《科学通报》就此对话南京大学周志华教授。
周志华教授
周志华教授主要从事人工智能、机器学习、数据挖掘领域的研究工作, 现任南京大学计算机软件新技术国家重点实验室常务副主任、校学术委员会委员, 2003年获国家杰出青年科学基金, 2006年入选教育部长江学者特聘教授, 2017年入选欧洲科学院外籍院士。他是入选人工智能相关的五大主流国际学会(ACM、AAAI、IEEE、AAAS、IAPR)Fellow的首位华人学者, 同时也是担任人工智能领域两大综合性顶级国际会议(IJCAI、AAAI)主席的首位华人学者, 在国际人工智能领域有重要影响力。曾于2008~2014年担任《科学通报》副主编, 现任《中国科学: 信息科学》副主编。
《科学通报》: 最近DeepMind推出的新一代阿尔法元, 再次刷新我们对人工智能的认知, 您能为我们介绍一下它和阿尔法狗的异同点吗?
周志华：阿尔法狗是谷歌公司耗巨资打造的一个围棋程序, 这个程序基于强大的“机器学习”技术, 通过对几千万局棋谱数据的分析, 具备了与人类顶尖棋手抗衡的实力。阿尔法元是阿尔法狗的升级版, 它不再依赖于人类的棋谱数据, 而是通过自己对棋局空间的探索, 达到了远超顶尖人类棋手的水平。两者的技术关键都是“机器学习”。更具体来说, 阿尔法狗和阿尔法元中都用到了强化学习、深度学习以及人工智能领域著名的蒙特卡洛树搜索技术。
《科学通报》: 您能简单介绍一下“机器学习”技术吗? 它有些什么样的应用?
周志华：机器学习是人工智能的核心研究领域, 主要研究如何利用计算机系统在数据样本中寻找规律, 从而构建出具有“举一反三”泛化能力的模型。对许多具体的任务, 只要收集到足够多的高质量数据样本, 就可以利用机器学习技术构建出达到或接近人类顶级专家水准的模型。最近几年的人工智能热潮, 就是由于机器学习技术在过去十多年里取得了巨大进展, 而且人们将机器学习技术应用到很多任务中取得了很好的结果, 例如在图像识别、语音识别等应用中甚至超越了人类水平。其实, 在围棋人机大战之前, 机器学习技术就已应用于很多领域, 例如互联网搜索、舆情分析都是把机器学习作为支撑技术。我在2016年出版的《机器学习》这本书, 可供对机器学习感兴趣的老师、同学参考。
《科学通报》: 据阿尔法狗的项目负责人、DeepMind的David Silver博士介绍, 阿尔法元比阿尔法狗强大, 因为它不再被我们所局限, 而能够完全靠自己强化学习发现新知识和新策略。您对此怎么看?
周志华：这种说法容易产生误解。需要注意的是, 虽然阿尔法元没有使用人类棋谱数据, 但是并非“不需使用人类任何的先验知识”, 也不是字面上容易导致误解的“完全靠自己强化学习”。事实上, 阿尔法元的强化学习技术, 非常依赖于人类关于如何判断棋局胜负的规则, 这样的“完美知识”使得通过强化学习对棋局空间的有效探索成为可能。打个比方, 您现在希望建造能抵抗地球上最强风暴的屋子, 您原本不知道该怎么建, 但无论您建出什么, 都有“神”(完美知识)告诉您这屋子是否满足要求, 您在它的指引下, 不需要人类指导就能够“完全靠自己强化学习发现新知识和新策略”。这样的“完美知识”其实在很多现实的应用任务中是不存在的。
《科学通报》: 您认为是否会产生比人类智能更强的人工智能?
周志华：我们需要清楚地认识到, 作为严肃科学的“人工智能”和影视科幻中的“人工智能”是两回事。打个比方, 就像原来人们看到鸟在天上飞, 想造个东西帮助人也飞起来, 后来就造出了飞机。如果您问“飞机有没有比鸟飞得更好”?那这个问题可能很难回答, 因为飞机虽然比鸟飞得更高更远, 但是可能没有鸟飞得灵活。人工智能也类似, 是我们看到人类做很多事情很聪明, 想借鉴一下, 造出更好用的工具, 仅此而已。事实上, 人类现实生活中人工智能技术早已无处不在, 无论手机语音交互、安全门禁系统还是实时交通调度等, 后面都是人工智能技术在作关键支撑。人工智能技术在很多方面能胜过人类, 这已经不是新鲜事。例如使用人工智能技术可以很快地从数百万张图片中找到我们需要的图片, 而如果靠人力一张张地找, 恐怕要数天甚至数月。人工智能的名字虽然很容易引人遐想, 但其实我们把它当作高级一点的仿生学就好了。 特别要强调的是, 人工智能并不是研究“人造智能”, 更确切地说, 是在研究“智能启发的计算”(intelligence-inspired computing)。
《科学通报》: 这样看, 我们完全不必担心机器取代人类, 那为什么有不少人在宣扬“人工智能威胁论”呢?
周志华：这个担心大可不必。严肃的人工智能研究从来没想过要“威胁人”、“取代人”。这是一门科学, 做出来的东西都有理论上下限, 使用了什么技术, 能达到什么能力, 都是知道的。就像人们造出来飞机, 一定知道再怎么发展它也不会像真鸟一样能生蛋。至于“人工智能威胁论”, 不妨看看FaceBook公司人工智能实验室负责人Yann LeCun是怎么说的, 他是国际上深度学习领域最知名的专家之一。他说: “有些人是因为对人工智能的原理不理解而导致恐惧, 有些人是为了个人名望而宣扬人工智能威胁论, 有些人则是为了商业的利益推动人工智能威胁论”。
《科学通报》: 我国在人工智能领域的研究水平相对国际情况如何?
周志华：一般认为人工智能学科是1956年在美国达特茅斯会议上诞生的, 国际上那时就已经开始, 而我国开展与国际接轨的人工智能研究大概是近十年的事情。经过国内人工智能学界的奋力追赶, 取得了飞速进步, 现在局部上国内已经与国际前沿水平接轨, 甚至在某些领域可能还处于引领地位; 但从全局来看, 还有相当差距, 高水平研究队伍的广度、深度都远远不够。
《科学通报》: 回到围棋上来，电脑下围棋战胜了人, 会不会导致围棋这项智力运动今后变得无人问津呢?
周志华：我不这样认为。围棋本身在锻炼思维、陶冶性情方面的作用, 乃至于围棋比赛的竞技性, 都不是机器能够取代的。不妨想想, 汽车跑得比人快, 轮船游得比人远, 但这并不妨碍田径、游泳仍是备受瞩目的体育运动吧。
张东梅，闫蓓. 对话周志华教授: 关于人工智能和机器学习. 科学通报, 2017, 62: 3800 ~ 3801
《科学通报》创刊于1950年，是由中国科学院和国家自然科学基金委员会共同主办的自然科学综合性学术刊物。它曾经发表了“水稻的雄性不孕性”、“结晶牛胰岛素的全合成”、“哥德巴赫猜想”等一系列我国老一辈科学家的著名经典文章。2015年，我国首个获得诺贝尔奖的本土科学家屠呦呦研究员及其合作研究组的成果——“一种新型的倍半萜内酯——青蒿素”就是于1977年首发在《科学通报》上。
点击下方“阅读原文”↙可登陆科学通报官网
▼ 点击下方标题可查看
噬菌体治疗的前世、今生与未来 |《科学通报》对话微生物学界噬菌体专家
《科学通报》对话人类基因组计划领衔专家J. Craig Venter
寨卡来了，如何防控？ |《科学通报》对话中国疾控中心刘起勇研究员