没有免费午餐定理

题外话：最近更新少，一是事忙，二是没什么特别值得更新的。也有人抱怨公众号内容一日不如一日。没办法，保持高更新高质量需要时间。赚钱养活自己也要时间。所以兴趣总是会比生存的优先级低一些。

从技术上，大数据相关的东西，国外的除了Spanner和Aurora，差不多都写了。国内的公司和技术，资料匮乏，水比较深。不给钱的不敢写，给了钱的还需要考虑一下。

最近很忙的原因之一是趁着AI的浪潮，让自己努力学习一下机器学习。所以我不能免俗的从华盛顿湖对岸卖书的公司买了本西瓜书开始看起来。以后可能也会写点AI的东西。当然和大数据比起来，我的AI知识是体育老师教的。

没有免费午餐定理是西瓜书上第一章的结尾。这个定理对很多人可能不是什么新鲜事情了。但是我第一次见到，觉得很有深意。所以就趁着机会发个公众号来凑篇文章。

我就不从数学上去严格的阐述和证明这个定理了。有兴趣学习的请找周志华教授的西瓜书。

没有免费午餐定理是在求最优解的时候，一个特定的算法对函数类的整体的效率期望是个定值。当然这个定理的适用条件是有限搜索空间。

换个通俗易懂的说法，如果我们针对的是所有可能的函数，那么任何算法，包括随机掷骰子，其期望都是等价的。

再换个说法，机器学习里面并不存在着一类算法比另外一类算法更好。所谓算法好坏只是针对特定问题的表现。有些算法在特定问题上表现得更优，那么必定有它表现得比掷骰子还要烂的问题存在。

其实这个问题并没有排斥针对特定问题，某些算法就是好使。但是我们知道，自从机器学习和人工智能的大泡泡吹起来之后，这些年里围绕着的都是深度学习。

深度学习之如人工智能，就如同包治百病的人血馒头一般。撒一撒，无数人为之狂欢。这里面有真傻的，有玩击鼓传花的，还有揣着聪明装糊涂的。

这话如果翻译一下，我们也可以理解成为，天底下没有一个人好处占尽，别人都吃亏的好事情。所谓有得有失，是人生之真谛。如何把握得失之间则是各人各命，教都教不会，学也学不来。

我做系统开发很多年，前前后后见过写过一些系统。有人问我做架构和设计到底有什么经验。我一直不太知道怎么回答这个问题。直到最近一两年，我常常想到一个词，英文叫trade-off，中文叫取舍。

所谓产品，构架，莫过于取舍之道，平衡在哪里。而我读到没有免费午餐定理的时候，我会有种感觉。机器学习这个学科，可能也就是在模型，数据，问题和计算能力之间，做一些取舍。至于怎么做，我这体育老师教的AI的初学者就不班门弄斧了。

不过尽信AI还是不如AI吧。大家在深度学习甚嚣尘上的时候，保持一点冷静，啥机器学习算法都学学，弄不好就能赶上下一波潮流了。

打赏专用二维码