德雷福斯 | 人工智能的极限

H. L. Dreyfus 社會學會社

休伯特·德雷福斯（Hubert Lederer Dreyfus，1929.10.15 - 2017.4.22），美国哲学家，加州大学伯克利分校哲学系教授。主要研究方向为现象学、存在主义哲学、人工智能的哲学含义。著有《计算机不能做什么：人工智能的局限性》（What Computers Can't Do: The Limits of Artificial Intelligence，1972）《计算机仍然不能做什么：人工理性批判》（What Computers Still Can't Do: A Critique of Artificial Reason，1992）等。[图源：Wikipedia]

现在，我们能把有关人工智能极限的哲学论点的各种特性归纳在一起了。人工智能领域分成两个子领域：认知模拟（CS）与人工智能（AI），从而要处理两个相互独立而又相互关联的问题：（1）人在“信息加工”中是否真的像数字计算机那样遵循形式化规则？（2）人类行为，无论是如何生成的，能否描述为一种可由数字机实现的形式化系统？

在逐个讨论这些问题时，我们首先发现：离开传统的哲学偏见加以考虑，从描写性和现象学的证据中看出，所有形式的智能行为中都包含着不可程序化的人类能力。另外，我们还看到，没有任何与此相反的证据经得起方法论上的推敲。因此，只要人工智能是否可能的问题还是一种经验性的问题，其答案是：在认识模拟或人工智能中再取得有意义的进展是极其不可能的。

如果人工智能研究者们面对这些困难，依旧希望证实他们的乐观主义观点，那么这种证明的重担便落在他们自己身上了。他们必须证明尽管有经验性的困难，人工智能肯定是可能的。但是在这方面，支持人工智能的先验性理由要比经验性的更脆弱。正是那种理应证明形式化一定是可能的论断，结果不是支离破碎就是自相矛盾，相反却说明，除了某些已被一致意见所排除、极其不可能的经验性假想外，形式化是不可能的。这样一来，肯定形式化的先验性论点变成原则上有条件否定CS与AI可能性的论点。

让我们详细地回顾一下这些论点。在讨论CS时，我们发现人类在进行象棋对弈游戏时，在解答复杂问题时，在识别相似性和家族近似性时，在修辞性地使用语言时，在我们感到奇怪或不符合语法的方面，在他们自己或观察者们看来，似乎并不遵循严格的规则。相反，倒好像使用全局性的感知组织，并在本质与非本质运算之间，做实用性的区分，求助于范式实例和使用一种关于局势的共同感觉，以达到互相交流。

当然，所有这些有序显然又是非规则性的活动，可能仍是无意识遵循规则的结果。但是，当人们想把这些看成一种所有行为都必须理解为产生于一组指令的哲学见解时，便碰到使用规则的回归现象。这种回归无法靠求助于普通事实的方法终结，因为按照原有的主张，这些事实本身必须用规则来识别和解释。

有一种避免这一回归的方法是认为终极数据是物理能的输入，而这些输入总可以按照规则被加工和数字化。弗多就持有这种观点。关于这些输入是像数字程序那样在一个运算序列中被加工的主张，不是不可理解的，但是像弗多所承认的，要求有一个尚未有人能发现或发明出来难以想象的复杂形式化系统。由于没有经验性或先验性的论断证明，这种用于加工物理输入的形式化系统真的存在或应该存在，又有了大脑像模拟计算机那样工作的经验性论据，那么没有理由认为，反倒有各种理由怀疑大脑中物理输入的加工，取数字计算机程序的形式。

避免规则回归的唯一方法，是修改认为在最低层次上规则无须指令而自动使用的论点和主张。但这在两个方面会引起麻烦：（1）一旦那种认为所有行为必定遵循指令的先验性论点因此而削弱了，我们也主张技能性行为在任何一个层次上不必依据无意识遵循的指令，这样就必须放弃关于尽管有现象学上的证据，主体仍然肯定遵循规则的论断。

（2）如果人们仍然坚持认为，必定存在一个未被解释特定物的终极层次，而这些特定物既不是物理输入也不是普通的物体，那么也就只好认为它们一定是关于人类世界的不充分的信息。这使我们得到“刺激信息”的观念、奈瑟尔引进的感觉数据或快照。但这种刺激信息的观念还是无法理解的。所有在经验中已知的东西，一方而是输给这个机体的连续性物理输入，另一方而是给予这个感知主体的普通物体世界。还没有哪位认知心理学家成功地在这两种提供运用规则的终极信息的输入之间，界定另外一类输入。目前已有的全部描述结果，成了一种不协调的混合体，其中一方面有从能的方面做的物理指述，另一方面有从粗糙定义的感觉数据方面做的现象主义描述。

因此，那种关于智能行为是像数字计算机那样遵循固定形式化规则面产生的心理学主张，无论以什么面貌出现，都遇到使用规则的规则回归现象。它无法靠求助于它不能使用的物理输入这一观念和它不能定义的刺激观念，使自己从这一回归中解脱出来。

虽然没有出自心理学或目前研究成果的经验性证据，AI研究者们同CS研究者们一样，深信智能行为的形式化肯定是可能的。他们的论断从未得到明晰的叙述，但它基于世界可分解成独立的逻辑元素这个本体论假想，和我们对于世界的理解可按启发式规则把这些元素相联接的方法重新建立起来这种认识论假想之上。头一种主张万无一失。AI研究者既然不热衷于对人类的描述，因此也就和认知心理学不同，没有辨认规则必须运用的终极信息——它们是数字化的声波和电视机管屏幕上的元素，不用求助更多的规则就可将它们识别出来。但是，认为这些元素可仿制下来的第二种主张，当作为一种先验性的必然提出时，便碰到了层级越来越高的规则回归现象，与认知模拟研究者所面临的使用规则的规则回归相反。

由于每一个逻辑元素都假定为独立于其他所有元素，因此在同其他元素联系在一起之前，是没有意义的。但是，一旦这些元素离开了上下文环境并剥离了它的所有意义，就很难再将这个意义放回去。赋予每一逻辑元素的意义取决于其他逻辑元素，所以每一个输入为了当作构造模式和最终的构造体识别出来，就必须用规则同其他输入联系起来。但是，这些元素根据不同的规则有好几种解释，至于使用哪条规则要取决于上下文环境。然而，对于计算机来说，上下文环境本身只能靠规则识别出来。

此处这种计算机支配的分析，又一次同我们的经验相抵触。对我们处于某一局势之中的经验所做的现象学描述，表明我们总是处于一种上下文环境或局势之中，而这种上下文环境或局势是我们从最近的过去继承下来的，并由那些从过去局势的观点者来是重要的事件所不断更新。我们永远不会遇到我们应该赖以辨别上下文环境的无意义的信息，而只会遇到已经得到解释的并以交互方式定义了我们所处局势的事实。人类经验只有当组织相关性与意义已经给出的局势中才可理解。这种对事先组织的需要，在AI中作为对上下文环境的层级结构重新出现，在这个层级结构中，使用较高或较宽的上下文环境，来确定较低或较窄上下文环境各元素的相关性和意义。

因此，比如说，要在一幅画中把两个点当作眼睛找出，就必须做到先把这个上下文环境当作一张人脸识别出来。而要把它当作人脸识别出来，就必须把它的形状、头发这类相关特性同阴影、轮廓区分开；反过来，这些特性只能在更宽的上下文环境中当作相关的而找出。比如说，在可望找到人脸的家庭局势中找出。而识别这个上下文环境也得依据它的相关特性，如社会性的而不是气象学上的，这样，程序才把人而不是云彩当作有意义的挑选出来。可是，如果每一种上下文环境只能从选出的相关特性方面识别和在更宽的上下文环境中得到解释，那么人工智能研究者就要碰到上下文环境回归的问题。

就像在认知模拟中的情况一样，可能还有摆脱这种回归的经验性的方法。对于CS来说，终极的未被解释的信息可能是数字化的物理输入，同样，这里的终极上下文环境或上下文环境组可能从某些模式或事物的角度被识别出来，这些模式或事物具有一个固定的意义并可用来把程序转向事物或言谈的恰当上下文环境。但是这和CS中的情况一样，证据同这种经验的可能性相矛盾。永远是相关的，并永远具有同雌刺鱼的红点对雌刺鱼总是意味着交配时间一样，意义的词或事物好像不存在。

这样就剩下一个可能的“解”了。计算机程序设计者可以把上下文环境编成一个层级结构和制定把它们组织到计算机中去的一般规则。为此，他借助自己关于什么对于人是相关和有意义的一般感觉。但在某些局势中任何事实都可以变成重要的。为了使这些形式化，好让计算机表现人的应变性，程序设计者必须做到明晰表达他认为的一般作为一个人的一切。然而，一旦他把自己的局势看或自己是一部从外部观察这一局势的计算机，他本人就面临无限多其相关性与意义只能在更宽的上下文环境中确定下来的无意义事实。

结果，逻辑原子论的本体论不包含逻辑原子论的认识论。即使世界是当作逻辑上独立的信息被扫描摄入计算机的，也不意味着我们可以先验地提出世界能仿制下来的论断。实际上，企图提出因为世界可以分解成信息单位，所以能用形式化规则加以解释的先验性论断，结果表明正是它的反面。

关于人类处在某一事实总是已被解释的局势之中这一经验的一般理论，支持了上述这些考虑。这种理论还说明，人类发现自己所处的终极局势取决于他们的目的，反过来，这些目的又成为他们的躯体和需要的一个函数，而这些需要又不是一劳永逸地固定下来，而是靠文化移入，因而又靠人类自我解释的变化而得到解释和确定下来。这样，到头来我们便能理解为什么没有意义固定的事实，没有可望编成程序的固定的人类生活形式。

这并不是说，儿童不是从某些固定反应开始人生的——事实上，如果他们不是这样的话，学习将永远无法开始——而是说这些反应在成长的过程中过多或超载。因而，在不受局势意义控制的成人身上，没有固定的反应留下。

那么能不能给计算机编上程序，让它像儿童一样行动起来并在通往智能的路上奋力行走？这个问题超出了现有心理学理解的水平和目前的计算机技巧。在本书里，我只想论证现在企图给计算机编上程序，让它具有完整的、像雅典智慧女神那样的智能，会碰到经验性的困难和概念上根本的不相容性。儿童计算机是否能从局势无关的反应开始，然后再逐步进行学习，取决于非确定性需要和对全局性上下文环境做出反应的能力在学习中所起的作用。比如说，皮亚杰对学习所做的研究工作表明，学习和成熟的智能行为，要求同样形式的“信息加工”，智能的发展靠“概念上的革命”。对此我们不必感到惊奇。计算机只能处理事实，而人——事实的源本——不是事实或一组事实，而是在生活于世界的过程中，创造自身及事实世界的一种存在。这个带有识别物体的人类世界，是由人靠使用满足他们躯体化需要的躯体化的能力组织起来的。没有理由认为，按人类的这些根本能力组织起来的世界，可用其他的手段进入。

*本文节选自休伯特·德雷福斯《计算机不能做什么——人工智能的极限》第十八章“人工智能的极限”，宁春岩译，三联书店出版社1986年版。为阅读及排版便利，本文删去了部分注释与参考文献，敬请有需要的读者参考原文。

**封面为描绘著名棋手李世石与AlphaGo博弈的漫画。[图源：www.ft.com]

〇编辑：O泡〇排版：Y.H.

〇审核：悦怿 / 多肉

鸣谢

专题策划人：劳育聪（奥卢大学信息学在读博士）

更多相关文章