炼金术和金钱至上之NIPS2017的热闹

1

NIPS作为机器学习领域的第一大会，今年去了8000多人。8000多人什么概念呢？作为对比，数据库领域顶级会议VLDB今年去了1000多人，是历史新高了。1000比8000，大概反应出了人工智能现在是多么的火热。

人工智能的火热，在很大程度上是某一个派系的火热。具体来说就是高神经网络的。这几年来有了一个新的名词叫做深度学习。深度学习的火热，很大程度上有各大互联网IT公司背的推波助澜。

而与之对应的其他人工智能的派别，不能说没有沾光。但是所谓不患寡而患不均，在深度学习被追捧的今天，无论人场还是钱场都是非常的热闹。所以这种热闹，也蔓延到了NIPS的会场。

2

NIPS2017的争执起源于Test of Time Award获得者Ali Rahimi做了精彩的报告。这个奖是很难拿的，给的是10年前2007年NIPS里面最经受时间检验贡献巨大的那篇文章。

Ali Rahimi的演讲的开篇中规中矩。Ali的论文开始使用深度学习去解决问题。但是2007年的NIPS有很多老学究，对想法的严密性要求高。一不小心这些人就像学术警察一样把论文给枪毙了。但是显然Ali Rahimi足够努力并且为自己的方法以及观察到的现象找到了合理的理论上的解释。所以论文得以发表，并在今年获得了这个大奖。

但是这个讲话到后来，Ali Rahimi就开始了一场撕逼。这个撕逼针对是现在的深度学习领域。他觉得今天的深度学习研究类似炼金术。基本上就是搭网络，调参数，看运气。如果不对了，就怪梯度下降的解法。

学术圈不再关心这些方法展现出来的结果之后的理论依据。Ali觉得如果用炼金术去做个APP之类的无伤大雅。但是深度学习是要成为水和电一样本质上改变人类生产和生活。对这些东西我们不了解，又怎么放心呢？

3

这个观点当然是轩然大波。Yann LeCun对此表示了自己的不满。Yann LeCun肯定了当前深度学习的方法缺少理论理解这个事实。但是他觉得人类社会的进步很多时候的确是工程领先于理论。我们先去用了某些可行但是不知道为什么可行的办法去改变世界，然后理论最终追上来。

一套理论上很完备但是实际上效果一般的东西和一套实践效果好，但我们还不怎么了解的东西。难道我们要去用效果差的么？以炼金术来称呼人工智能显然让一些深度学习的“大牛 ”们不满了。

于此同时，另外一篇报道展示了图灵奖获得者Judea Pearl的一篇position paper：Theoretical Impediments to Machine Learning A position paper 的报告大会无人问津的场景。

学术界有时候会允许发position paper，这代表了一些人对未来某个领域要怎么发展的看法。当然图灵奖获得者发论文，更是代表了态度。而照片显示这个session空空荡荡的。

4

如果我们拉长了战线说，有关人类是否可以通过科学去认知自然这个问题，在欧洲近代哲学史上已经被讨论了很多次。从笛卡尔，休谟到康德的纯粹理性批判，算得上是奠定了一个基调：人类只能在自己受限的范围内认识自然。

所以任何一个科学体系固然是自洽的，这个科学体系里面假设的公理却是无法认证的。无论从牛顿力学到相对论其实都有很强的假设。前者是绝对绝对时空，后者的光速不变等等。

所以大家有共识的是，人类认识自然的科学体系，可能也是对自然的一个近似。我们是否能够理解深度学习为什么工作，可能研究下去，也只能是知道一部分，而有更多的是不知道的。

但是我觉得Eric Xing就这个事情说的一句话很对：使用炼金术本身不是问题。但是因此而放弃了做化学家，那就是问题了。我想Ali所表达的可能就是这个意思。今天的学术圈以炼金术为乐，而不在乎自己将来要不要做一个化学家。