AI时代：算法上天，道德入地

1

随着AI热的兴起，算法这个原本专属于计算机行业的词汇也开始频繁出现在公众眼里。仔细一看，算法和算力这些词颇有神秘感。算法本来的定义是计算机专业领域用来解决问题的方法和思路。这个词汇和大众的认知有很遥远的距离。但是AI开始介入到我们每个人的日常的时候，我们也开始被算法和模型管理了。

算法界大神，编程的艺术系列书的作者，斯坦福大学教授，图灵机获得者Knuth说过，算法+数据结构+编程语言=计算机科学。这差不多说明了算法对计算机领域的重要性。当然，经典意义上的算法，和今天在AI时代大家讨论的算法以及算法工程师，其实是有不同的。但是作为吃瓜群众来说，这种不同知道和不知道都无所谓。

在我们不经意的这几年里，算法开始占据我们的方方面面。比如说，你每天阅读的文章，都是经过算法精心推荐的。你的衣食住行的信息，只要是坐落在智能手机的APP里的那些东西，背后都有一个算法的幽灵。可以这样说，人类个体的生活方方面面正在被算法接管。

这种接管是好是坏呢？有人担心人工智能会毁灭人类，有人觉得人工智能带给人类的是更美好的未来。我想技术可能没有正确错误之说，但是使用技术的人类就不好说了

2

博弈论上有一个非常著名的群体实验。其中的一个版本大致是这样的。一群人进场，每个人交100块钱报名费来玩一个游戏。游戏的规则是，每个人可以任意从0到100里面选一个数。大家都不知道对方选了什么。等到主持人把所有的人的数字都收上来之后，会根据大家选的数字取一个平均值。在现场所有的人里面，选的那个数字最接近平均值2/3的人将赢取所有的报名费。如果有不止一个人，大家平分奖金。

这个游戏非常的有意思。因为大家都知道如果所有人随机选的话，那么平均值大约在50，而平均值的2/3大约在33左右。所以如果自诩聪明的话，肯定会选33。更聪明的人会再想想，既然大家都可能选33，所以整体平均值肯定比50更低，所以更聪明的人会选择更低的数字。

这个实验曾经在美国各大高校做过很多次。得出来的结论有两条：

1. 实验对象的智商越高，最后的平均值越低

2. 实验如果重复多次，平均值总是会越来越低。
   

这个实验用来研究很多群体性的活动，尤其是有相互反馈的活动，有很大的参考意义。

3

因为身在国外，对国内的很多信息都比较落伍。大概两个多月前，在朋友的推荐下，我下载了著名的某某某某新闻端。这个APP号称可以个性化的推荐最适合我的新闻。我想也许这样的方式既可以了解国内的动态，也可以透过这个APP了解我是一个什么样的人。

最初打开APP的时候，我看到的吓一跳。感情人咬狗现在都不是新闻了。又感情自己是一个非常低俗的人。但是毕竟我是学计算机的。我知道任何算法要能够有效的推荐，都需要数据。而我现在第一次登陆，是白板一个。我肚子里的蛔虫也无法给我推荐什么，何况某某某某。

所以说某某某某推荐的实际上是当前整个人群里面，或者根据我个人信息的某个细分人群里面的平均值。这就有意思了。原来大家其实都挺低俗的。呵呵呵呵。

4

我们讲到过那个著名的博弈论的实验。那么我们是不是可以认为某某某某的推荐系统，也是一种群体活动。我们是不是可以进一步认为，这个群体活动如果重复多少次以后，其目标函数会向某个方向收敛。

那个博弈论游戏，如果我们把获奖的人改成平均值的1.5倍那么，最后平均值会越来越高。如果我们说平均值获奖的话，这个游戏理论上来讲，重复多少次都和重复一次结果是一样的。这样一来，给予参与游戏的人的奖励函数的指向性就非常的重要了。

那么如果从整个世界范围来看的话，这些年来人类物质文明是极大丰富了的。AI的到来更是让人成为衣来张口饭来伸手的二足哺乳动物。你想，前些年要阅读新闻，还得去门户网站搜索引擎那主动的搜，现在只需要静静等待被某某某某喂食，这难道不是极大的丰富吗？

但是我们也不可否认，人类整体道德水准在下降。比如我们伟大的祖国，可能20年前的人不太能够想象20年后的今天。到底是什么造成了道德的下降，是一个很复杂的问题。但是从评价函数来看，做什么样的事情可以获得奖励，那么这样的群体活动重复多次以后，整个社会就往某个方面倾斜了。