扎卡达基斯 | 混沌边缘的达尔文

Zarkadakis 社會學會社

乔治·扎卡达基斯（George Zarkadakis），伦敦城市大学人工智能方向博士，计算机系统工程师、科学作家。曾在埃森哲和美国硅图公司等机构供职，目前是一位技术咨询师和互联网企业家，并一直为《卫报》《华盛顿邮报》等知名刊物撰稿。因其在国际科学交流方面做出的贡献，被法国政府授予爵士头衔。[图源：penguin.com.au]

当我们探索种种路径，研发有感知能力的机器时，有三个领域必须详加研究以获得指引。第一个也是最显而易见的就是人类的大脑。在本书第二部分，我们探索了关于心智的本质和科学，也了解到哲学家和神经科学家已经探索了神秘的意识。然而似乎试图模仿人类心智的技术目前“锁死”在了错误的范式上，也许是因为它试图在许多不同⽅面全面开花。事实上，我们今天用来完成“智能”任务的计算机和世界上已知的真正智能的东西——我们的大脑——毫无相似之处。自20世纪50年代以来，科学家和工程师已经实验了许多种计算机架构，试图模拟中枢神经系统。我会讨论其中最有希望的尝试，回应它们将对未来的人工智能研究有什么影响。

第二个需要探索的领域是生命演化的机制，以及它和人工智能的联系。也许我们可以建造极其简单的机器，用上演化的力量，让自然选择完成余下的工作。例如有性和无性的生殖，这是一种生物演化的驱动力。生命组织通过基因在环境中的改变来演化，这个过程叫作“突变”。成功的适应或者突变会通过生殖传给下一代。我们看到了冯·诺依曼想象的通用制造机，一种可以复制自己的机器可以像单细胞组织一样繁殖自身。理论上创造生物的数字版是可能的。这种新的人工生命形式会不断演化吗？还好我们不用等上数十万年来一探究竟。我们可以在数字媒介中大大加速演化来验证我的理论。想象数字程序就是数字化的微生物，可以快速获取大量的存储器资源和数据，它们可以搜索所有可能突变的计算空间，立刻找到最有益的，在变化的环境中最可能成长的变异，不需要在许多代际中重复无谓的试错过程。我们将会看到，这种实验不仅在模拟的数字环境中尝试了，也在三维的物理空间中发生了。如今纳米机器人已经可以根据简单的指令将自身组合成更大的人工超级组织，拥有智能的适应行为，或者叫作“集群智力”。这些纳米机器人是地球上第二次“创世记”的前兆吗？我们是否生活在一个时代，在未知的情况下，新的生命形式正在扎根？这种机械生命形式的未来是什么？它们可能演化得比我们更聪明吗？人工生命是否是人工智能的先决条件？

计算机能否演化出类似大脑的器官，取决于计算和生命之间的深层联系。人类大脑和意识的演化依赖于化学元素复杂的组合。这些组合本质上是数学的和算法式的。尽管如我们所知符号逻辑在表现世界这件事上落败了，自然本身却遵守逻辑规则，能够进行错综复杂的演算。这看起来十分矛盾。我们不能使用符号逻辑编码常识，但逻辑学和数学足以让鸟群翻飞，让蜜蜂建造完美的六边形巢穴，这只是自然界中大量类似计算机行为的两个例子。又一次我们进入了柏拉图和亚里⼠多德的二元对立：是形式先于物质，还是相反？自然中的计算过程受到构成宇宙的“物质”的强制，还是我们的宇宙只是计算的产物？但是如果这种统治了西方思想数个世纪的二元对立只是一种错误的假定呢？如果在物质和形式之间根本没有本质的区别，仅仅是我们用以描述这些的语言迷惑了我们呢？怪不得维也纳小组的实证主义者试图规范语言，用纯粹的抽象符号来描述世界。不幸的是，他们的方法失败了，当前的人工智能系统就是这种失败的证据。抽象符号的推理不能自己产生意义。观察到的事物和观察者必须结合，才能从无意义的表象中让意义涌现。

新的发现为研究生物组织如何达到稳态带来了新曙光，这是一种控制论的动态平衡，是生命的本质。在稳态之中，观察与观察者合二为一，两者自我指涉缠绕成了一股。我们能从这些新知识中学到什么，并且用于人工智能吗？我们可能制造稳态的机器吗？以及如果我们可以，我们是否应该接受它们是“活的”，是地球生物圈的新成员？

神经机器

科学研究中的伟大洞见常常来自从不相关现象中观察到的近似点。其中最著名的一个例子来自美国生物学家杰拉尔德·埃德尔曼，1972年他和罗德尼·波特因发现抗体分子的结构和解释免疫系统的工作共享了诺贝尔生物学奖。埃德尔曼发现，我们的身体拥有大量结构各异的抗体细胞。当细菌或病毒侵入身体时，这些细胞就会涌向入侵者，测试自身的结构与入侵者的结构的“匹配度”。结构的变化是抗体识别的基础。埃德尔曼意识到免疫反应的适应性是演化的结果。这些抗体识别系统快速演化，以应对细菌和病毒的攻击。演化出的抗体数量不断增加，它们也就更能适应攻击。免疫系统像是一个物种一样应对环境压力，不断地演化出新的能力和行为。

杰拉尔德·埃德尔曼（Gerald Maurice Edelman，1929-2014），是一位美国生物学家。由于关于免疫系统的研究，而获得了1972年的诺贝尔生理学或医学奖。[图源：nytimes.com]

埃德尔曼对抗体的研究让他意识到一个选择性识别系统有着很强大的解释能力。他认为演化生物学机制也可以解释意识。两个重要的发现支持了他的假说。第一，皮层神经元的特点之一是它们是由许多组独立的细胞组织起来的。第二，突触反复使用就会得到增强。这些“成功”强化的突触路径构成反馈循环，同样的信息在同样的路径中一次次经过，同样的事件就会反复反馈，以便保持特定的神经通道开放。埃德尔曼的理论认为，我们的大脑通过选择特定的某组神经元，改变它们的连接模式来识别和处理信息。多组神经细胞会对某一感觉信息的输入做出反应，它们的反应会通过反复的识别得以加强，并作用到它们的连接上。实际上，埃德尔曼关于神经组选择的理论将大脑看作一个拥有多级正反馈循环的控制论系统（尽管他坚持称之为“重入”循环）。我们在本书第三部分讨论过，斯坦尼斯拉斯·迪昂最近的关于神经通路的研究，关于“意识的签名”，也展现了这种“重入”机制，它是一组神经元对感觉信息进行反应的基础，解释了某一脑区的识别事件如何变成全脑事件，激活整个皮层，并进入了我们的意识。

为了演示他的理论，埃德尔曼和他在加州拉霍亚神经科学研究所的同事建造了许多叫作“达尔文”的“智力机器”，它们也叫作“大脑装置”（brain-based devices，BBDs），以大脑的神经连接为模型，达尔文机器人会像动物一样探索周边环境。大脑装置的核心部件是一个神经模拟器，位于它自己的计算机主板上，或者通过Wi-Fi远程连接到更强大的计算机上。这个数字的神经模拟器和传统的软件程序不同，它可以用之前动作的输出更改“突触”强度，获得学习的能力。这是一个选择可以引发变化的价值系统，就像在大脑中一样。例如，在机器人的视野中存在物体是“更好的”（价值更高），这就好于一成不变的视野（价值更低）。这一价值系统十分简单。当机器人做出了一些价值“好”的事情时，突触强度就会改变，下一次在相同情况下，就更可能做出同样“好”的行为。通过实践这样简单的规则，机器人可以做出非常复杂的行为。这种突触活动的改变被神经科学家和神经科医生叫作“神经可塑性”，是大脑的基本能力之一。我们通过神经组织之间不断变化的相对强度来学习。当人们罹患脑损伤时，有时神经元会重新连接以补偿损失的功能，这都要感谢大脑的可塑性。我们已知大脑的可塑性有时可以有意识地改变，至少在一定程度上可以变化。当我们学习演奏乐器、下国际象棋或者心算时，我们就是在强迫神经元朝着改进这些任务的方向发生变化。

尽管埃德尔曼机器人的目标在于探索神经群组的选择理论，它们却展现了机器人如何与自然环境交互，如何通过模拟大脑进行学习。这些“神经机器人”更多地体现了科学而非工程学，这也许就是埃德尔曼的机器没有在机器人研究界获得广泛关注的原因。不论如何，模拟大脑从人工智能诞生之日起就是这一领域的核心主题，也是最令人着迷的部分。20世纪六七十年代的连接主义者希望基于人工神经元构建计算机。驱动人工神经网络的思想和埃德尔曼的方法十分相似。不同之处在于这些人工神经网络通过硬件来接收输入，赋予算法并估值，增强输入信息，并将结果输出到下一层人工神经网络。这样的过程重复数次，直到结果可以正确地反映输入。为了达到目标，一个网络需要“训练”，实际上就是对网络输出的模式多大程度上匹配原始的输入进行反馈。这种反馈被用于评定模拟神经可塑性的算法。重复多次之后，人工神经网络就“学会”了如何匹配输入与输出，换言之，它学会了如何正确地识别输入。

人工神经网络曾经被用于视觉系统模式识别、机器学习，以及其他用传统方法难以实现的应用。但是20世纪90年代末以来，这种方法多少已经被放弃了，新的更复杂的统计方法和信号处理技术纷纷登场，通过传统的计算机架构就可以实现令人满意的模式识别任务。

然而，连接主义者许多年后强势回归。在这场神经计算的复兴之中最重要的创新之一是一种叫作“忆阻器”的电器元件。最初，忆阻器是在1971年由电子理论家蔡少棠设计的，作为一种可变的电阻器，在关闭电源时可以“记住”最后的电阻值。尽管蔡少棠认为忆阻器是一种基本的电路单元（就像是电容器、电感器和电阻器一样），制造一个物理的真实元件却耗费了工程师数十年。直到2012年3月，HLR实验室和密歇根大学才宣布，用传统芯⽚制成了第一个可用的忆阻器单元。

把一个忆阻器和一个电容器连在一起，就可以得到一个类神经器（neuristor），这是一个行为近似于神经元的电子元件。类神经器的工作⽅式是这样的：当电流通过忆阻器时，它的电阻升高并且变热。同时，连接在一起的电容器开始获得电能。然而，忆阻器有一个有趣的特性：在某一个特定的电流之下，它的电阻会突然降低，导致电容器释放电能。这种释放也就是“动作电位”，在特定阈值下和单个神经元的发放非常相像。忆阻器和类神经器是电子电路基本的器件，可用来建造新一代可以模拟人脑的计算机，称为“类神经计算机”。这些计算机和传统架构的计算机显著不同。它们主要是模拟的而非数字的，同时舍弃了现在软件和硬件的二分法。这种模拟电路因为拥有动作电位，将比特替换成了发放，模拟了大脑的神经生物架构。使用忆阻器和类神经器建造一个先进的、可以实际使用的计算机还存在着很多技术挑战。尽管我们知道如何将信息整合进入软件算法和符号逻辑，但是我们还不知道如何在类神经器阵列中整合动作电位。神经模拟技术还处于婴⼉阶段，然而，它未来的发展已经引发了国际兴趣，欧洲的人类大脑计划和美国的BRAIN计划都将之作为主要研究目标之一。这种跨越大洋的共同兴趣是有原因的。据估计，为了在传统计算机上模拟人脑，我们需要比现有计算机快上1000倍的超级计算机。这样的需求超越了现有芯⽚制造技术的极限，也超越了摩尔定律预测的上限，但是忆阻器和类神经器可能推动计算机技术继续向前发展。HLR实验室和密歇根大学联合研制的实验性忆阻器在每一平方厘米上可以存储30GB的数据，和现有存储器每平方厘米10MB相比是3000多倍的提升，仅这一数据就显示了这类新型电器元件巨大的潜力。

如果类神经架构被证明正是计算机的未来，那么21世纪中叶的超级计算机会和大脑更为接近，计算也会超越如今硬件和软件的划分。软件即硬件。数字处理将会过时，未来的计算机将能够学习，利用内置的可塑性对环境做出反应，就像是生物神经网络一样。但是，这种神经计算机能够演化出意识吗？

坚不可摧

2014年夏天，哈佛大学的迈克尔·鲁宾斯坦和同事对1024个机器人编程，编入简单的指令集让它们组成任何给定的形状。它们叫作“千机器人”，模拟了鸟群或者鱼群的行为。4个“种子机器人”扮演了协同系统的基础。它们的协同通过红外线传递给周边的“千机器人”。用简单的算法，信息传播到了整个机器人群体，机器人计算自己在集群中的相对位置来校准自己的位置。让机器人集群组成一个字母或星星的形状大约需要12个小时。鲁宾斯坦的机器人集群是目前最大的人工集群智能，可以有集体的协作行为，也可以表现出朝某一目标前进的能力。又一次，文学曾经提前几十年设想了这一形象。

在小说《坚不可摧》（1964年）中，波兰小说家斯坦尼斯拉夫·莱姆（1921—2006）讲述了这样一个故事：宇宙飞船在一颗叫作“雷吉斯三号”的遥远行星上降落，目标是寻找一种机械生命形式，这是机械经过数百万年演化的产物。莱姆的机械生命展现了集群智力：相对“愚笨”的部分自组织成了拥有超级智力的超级组织。每一部分都是相同的、昆虫一样的纳米机器人，在一场旷日持久的机器人战争中幸存下来。作为最终的胜利者，它们成了星球上的机器人兽群，对任何威胁都会自动发起攻击。莱姆敏锐地指出，在他的小说中经历演化对于种族发展出超级智能并不是必需的。也许在其他星球上，例如雷吉斯三号，纳米机器人取代了它们的创造者？也许雷吉斯三号就是地球的未来？

“新人工智能”（Nouvelle AI）是机器人研究先锋罗德尼·布鲁克斯提出的概念，他认为与其试图制造复制人类智能的人工智能，我们应该专注于制造一种机器人，具有昆虫一样的智能并可以演化。纳米科技研究者（如富有远见的埃里克·德雷克斯勒）在分子层级上考虑未来的智能机器：能够演化的微型机器人，就如同莱姆的小说中那样，可以组成有智能的超级组织。但是为了成为一种可以演化的生命形式，它们必须要繁殖，或者以机器的视角来说必须有能力有性繁殖、无性繁殖或者自我复制。

机器人的自我复制

关于自我复制的机器的概念既不是现代才有，也不是只和一个遥远的、科幻小说一般的未来有关。关于这样的机器的可能性来自1802年英国神学家威廉·佩利（1743—1805）的论述，来自他在目的论的论述中涉及的“机器制造机器”的概念。在他的著作《自然神学》中，他提出了著名的“钟表匠比喻”，被“死忠”的创造论者不断引用。他指出，一个像钟表一样复杂的东西只能在有钟表匠时才可能存在。佩利认为，因为宇宙和生命远远比钟表还要复杂，就意味着一定存在一个有智能的设计者，存在一个神圣的钟表匠也就是上帝。有趣的是，佩利不情愿地承认，如果钟表能自己制造自己，他的论点就值得商榷了。随着达尔文在1859年出版了《物种起源》并引发了一场文化战争，佩利思想中这一微小却重要的细节不再被人注意了。演化论认为生命的复杂性可以不经设计产生。它阐明了复杂的智能生命如何在没有造物主的情况下自行演化。然而，如果复杂的非生命系统理论上可以繁殖，佩利关于设计的微妙论点就不那么荒诞了，许多演化论者也许都能接受。也就是说，如果钟表能够繁殖，那么钟表也应该能够演化。

威廉·佩利（William Paley）著，《自然神学》（Natural Theology:or Evidences of the Existence and Attributes of the Deity），图为1802年封面。[图源：Wikipedia]

维多利亚时代的小说家塞缪尔·巴特勒（1835—1902）发扬了佩利的观点。和达尔文同时代的他，花了20年时光攻击达尔文主义。巴特勒并不是反对演化的思想本身，他和达尔文的争执主要围绕智能的作用。对于巴特勒来说，智能和演化共享了同样的原理，因为生命同时既是起因又是结果。《物种起源》出版4年后，巴特勒在新西兰《新闻报》上发表了一篇文章，题为“机器中的达尔文”。文中他写道：“智能机器的种族是演化的下一步，而不是人类……随着时间推移，我们会发现我们自己只是较差的那一族。”巴特勒的思想预示了如今关于人工智能奇点的争论，并且从多种意义上提示了后者。在他的小说《埃瑞璜》（Erewhon，是单词nowhere打乱顺序组成的）中，他描述了一个乌托邦社会选择了禁止使用机器，因为机器被认为威胁了人类的生存。在史诗式的小说《沙丘》的背景故事中，弗兰克·赫伯特使用了术语“巴特勒圣战”，在书中主要故事发生一万年前，有思想的机器被宣布为非法。巴特勒和赫伯特都认为为了避免我们被自己的造物取代，就需要在一切都太晚之前消灭它们。对于智能人造物“怕的叙事”早在科学进展确证科幻小说的预言之前，在天才的作家（如巴特勒和赫伯特）那里就出现了，因此也更为惊人。

冯·诺依曼的通用制造机是理解人工生命如何繁殖的关键。通用制造机既是用于制造的功能组件，又是复制的目标。复制的媒介就存储在复制体的说明中。这就让没有终点的复杂性成为可能，也让复制过程得以容错，因此让演化的力量介入了非生命系统的自我复制。机械工程师已经在电路制造中应用了冯·诺依曼的原理，并且制造出了实际的产品，如RepRap机器，这是一台3D（三维）打印机，可以打印自己的大多数零件。机器人也有其他办法复制自己。想象一下一座机器人工厂，拥有三种不同的机器人：一种挖掘和运输原始材料，一种将原始材料汇集起来制造机器人，一种设计流程和产品。最后一种作为自动化机器人工厂的“大脑”，会拥有人工智能系统。这样的机器人工厂有能力通过设计不断演化。“人工大脑”将会基于一些价值系统不断优化工人机器人，例如以最小的能量消耗让矿产产出最大化。目前，大多数发达国家的安全法规尽管没有完全禁止，却也限制了能生产自身的全自动机器人工厂发展。但是在遥远的星球上建造一个这样的工厂就是另一回事了，例如，殖民⽕星就能从中获益，可以让自我复制的机器人设计和改良星球以符合人类的习惯。回到20世纪70年代，弗里曼·戴森就提出可以使用自我复制的机器人从土卫二（土星冰封的卫星）切割和搬运冰块，运到⽕星对其实行地球化作业。

冯·诺依曼的通用制造机和鲁宾斯坦的集群“千机器人”是否预示了一种比科幻更迫近的预言？或者它们不过是粗陋的比拟、徒劳的企图，想获得智能设计不能达到的产物：人工生命。如果它们不过是后者，那我们没什么可怕的。我们可以纵容自己像孩子一样对待这些故事里吓人的机器人，为了取乐用它们吓唬别人。我们可以用“千机器人”当作玩具。但是如果它真的是一种可以自我复制的机器，可以演化，我们就必须要重新考虑了。尽管我们不需要害怕传统的计算机技术，仿神经的计算机和纳米机器人却可能有不一样的后果。通过不断地改进这些技术，我们可能正在播下新演化力量的种子，而它们最终会取代我们。为了回答这个重要的问题，我们需要对生命的概念进行抽象。

什么是生命？什么区分了生命和非生命？什么机制维系了复杂的化学系统，违背熵的自然法则，和环境交换热能，保持内部组织的完好。为了探索这种机制，我们必须重回控制论的世界，并且旅行到混沌的边缘，在那里，生命和智能相会，正如巴特勒预言的那样。

生命的算法

生命中充斥着自组织的现象，凭借这种基本的单元构成复杂网络，就可以出现新的行为和功能。氨基酸决定了蛋白质的结构，基因决定了细胞的命运，神经元决定了思想。这些现象共享的部分是一种特别的状态，称作“动态平衡”。像是一个疯子，构成生命的基本单元在深渊的边缘起舞。从外部看来，任何小小的动力都可以立刻打断舞蹈，让这些单元断裂，让整个生命支离破碎。然而这一切却没有发生。实际上，一旦这些单元达到了这种特定状态，它们的集体行为就变得对外来的扰动极为敏感，同时具有高度的适应性。如果你曾经观察过一群椋鸟对发出攻击的捕⾷者如何反应，你就会惊讶于每一只鸟都知道如何迅速地移动，并且和同伴保持配合，从来不会弃鸟群而去。一旦开始了这种集体的天国之舞，椋鸟就忠心耿耿地保持它们的地位。深入观察你就会发现，每一只鸟就像每一个人一样，它的身体也由基本的构造单元组成，组合在一起形成了动态平衡，这种状态也叫作“内环境恒定”。在单个细胞层级的均衡也发生在一只鸟的层级，以及一个鸟群的层级。

生物学中，许多不同的层级之上都有这样重要的网络。就像是俄罗斯套娃一层层嵌套，我们的存在有赖于动态的系统，每一层都在混沌之上的秩序中独立地⾛着钢丝，死亡就潜伏在侧，只有一步之遥。为什么生命必须存在于混沌的边缘？什么促使不同层级的网络形成？它们又是如何达到了这种良好却并不稳固的临界状态？

我们对这些关乎生命的重要问题依然一无所知。然而在其他科学领域中存在的临界现象却已经得到研究，例如自然形成的磁力现象，或者结晶的形成。人们已经用科学和数学的方法研究这些现象多年。近似的生物学现象特别难以研究，因为缺乏可验证的实验数据。生物系统是宇宙中最复杂的系统，极其难以研究。一切因素都和其他因素相连，大多数连接都是我们想象不到的。实际上，生命系统处于一种临界状态，我们还在疑惑其背后是否存在着基本的法则。如果这样的法则存在，我们又可以找到它，我们就可以讨论如何创造⾁体、心智和思想。人工智能也就可以直接简化为如何对这种模拟神经的计算机编码了。

对于生物学基本法则是否存在的探究可以追溯到梅西会议。在1959年一篇影响甚⼴的论文中，沃伦·麦卡洛克、沃尔特·皮茨和杰瑞·莱特文研究了蛙的视觉系统。他们发现蛙的眼睛并不是直接反映现实，而是构建了现实。对蛙成立的事情对人也是成立的。我们的眼睛和神经系统构建了我们对事实的意识。这一意识通过返回神经系统的感知信号被不断检查和确认。观察者与被观察的事物成了一体：我们就是我们正在观察的现实，因为我们内部的生物结构就是被观察的现实。这篇论文的第四位作者是来自智利的年轻的神经生理学家温贝托·马图拉纳。他发展了这一思想，建立了一种叫作“自我生成”（autopoiesis）的控制论认知概念。他和他的学生弗朗西斯科·瓦雷拉在1972年一起创造了“自我生成”这个术语，意指生命系统维持自己的内部结构，同时不断地和外部环境交互。马图拉纳和瓦雷拉用典型的细胞作为例子，它由许多核酸和蛋白质组件构成。这些组件构成了致密的结构：细胞核、细胞⾻架、细胞膜等。马图拉纳和瓦雷拉展示了这些结构如何建造了各个部分，各个部分又如何建造了结构。细胞不断以自身创造自身。这种机制迥异于“为它生成系统”，后者使用原始材料而不是利用自己来构建事物。一个典型的为它生成系统的例子是汽车工厂：工厂可以制造汽车，但汽车不会制造工厂。

马图拉纳和瓦雷拉还展示了自我生成如何利用外部的分子与能量流来运作。通过推⼴他们的思想，他们认为一切生命系统都是自我生成的：生命的目标是和环境交换能源，以维持内部结构。内部状态和外部环境的均衡达到临界。自我生成理论用临界状态被打破解释死亡。当死亡发生时，主观和客观自发地分离，观察者也与被观察的事物分离了。我们死去是因为我们停止构建现实了，即我们停止构建我们自身。自我生成就是生命的基本法则吗？

自我生成理论遭到了相当多的批评，主要是因为它试图通过将观察者带入观察对象来解决认识论的问题。然而，自我生成理论并没有回答它自己提出的问题。在短篇小说《圆形废墟》中，豪尔赫·路易斯·博尔赫斯用文学手法演示了自我生成的图景和这一理论的孱弱。一个巫师是自古以来同一巫师的一员，他会使用魔法仪式来复制自己。为了做到这一点他必须忘记自己的过去。这个巫师是一个彻底的陌生人，即便对于他自己。他依靠本能来到一座魔法神殿，就像鲑鱼洄游到自己的繁殖地。使用黏土，他制造了自己半睡状态的复制品，然后和诸神沟通，念诵咒语。于是复制品制成了，这是一个不完美的亚当，巫师训练他，并且让他去游历世界。多年以后巫师得知自己的造物已经在世上取得了成功，他意识到自己的任务已经完成。于是他回到神殿，将自己献祭。有一天，他的复制品将会来到神殿，重演这一过程，循环将会永远持续。自我生成就像是博尔赫斯描绘的不断在神殿中诞生又死去的巫师。但是，第一个巫师是如何诞生的呢？

博尔赫斯《圆形废墟》插图。[图源：Pinterest]

传奇人物沃尔特·麦卡洛克的另一个学生宣称他能回答这个问题。斯图亚特·考夫曼如今在佛蒙特大学任教，他曾研究一类化学反应，其中反应的产物同时又是反应的催化剂。这种叫作“自我催化”的反应或许可以解释生命的起源，或解释博尔赫斯故事中第一个巫师从何而来。实验已经表明，通过自我催化，化学物质可以表现出自然选择的早期形式。考夫曼对自我催化的数学研究发现这些反应在临界状态中发生。这些反应的数学形式中存在着在混沌边缘自发涌现的递归计算。看起来，自然是个极限运动爱好者，它喜欢将一切推向解离的边缘。临界状态下复杂行为的涌现和递归计算二者有着深刻的联系，这种联系也出现在数字计算机模拟的细胞自动机中。细胞自动机也是冯·诺依曼的伟大发现之一。细胞自动机是以一系列0和1组成的点阵模式，根据简单的规则集合一步步演化。一个新的模式，即新的“世代”，从旧有的细胞自动机中涌现而来。一个新的模式中各个点的值不是0就是1，取决于它们当前的值和它们临近的值。

20世纪80年代初，英国数学家斯蒂芬·沃尔夫勒姆推测，一个特定的细胞自动机“Rule 110”是图灵完备的，这个推断被马修·库克证明。图灵完备意味着Rule 110可以进行通用计算，即任何计算或计算机程序都可以用这个自动机模拟。Rule 110最有趣的特点就是它的行为界于稳定和混沌之间。它既不彻底稳定，也不会完全陷入混沌。某些特定的结构会出现，以多种复杂的方式交互。它的行为如此鲜活，让沃尔夫勒姆和许多人不禁反向思考，推断生命就是一个宇宙数字计算机中运行的程序。柏拉图式的思想深深地烙印在数学文化之中，又一次在这里出现！不过，计算和生命之间的关系确实是无可争辩的，倒是对这种联系的解读划分了经验主义者和唯心主义者。也许，发现Rule 110是发现通用的、数学的生命法则的重要一步。细胞自动机有许多特性让其近似于物质的生命。在混沌的边缘运转让细胞自动机可以随时间不断演化以适应变化不居的环境。它们看起来就像一种“人工生命”，存在于计算机中，不断运算以维持自身。人工生命可以演化出意识吗？如果可以，这种人工意识和我们的意识会很相似吗？

想象真正的人工智能

让我们总结一下讨论过的问题。生物系统在混沌边缘运行，数学边界让它们免于自我崩溃。生物系统是自我生成的：它们的各个部分组成了结构，又产生了各个部分。对自我催化反应和细胞自动机的研究已经解释了自我生成系统可能是如何涌现的：正确的初始条件，简单的互动，最终可以涌现出复杂的层级网络的特征。在自我催化反应中，正确的初始条件是将特定的化学物质放在一起，配合以一定的温度和压力。独立的部分形成自组织的系统，这种过程是算法决定的：它们“被吸引”形成自组织，最终形成生命。我们目前还不知道这种吸引力是否受制于生物的基本法则。然而，我们已经发现了一些东西可能和这种法则有关，那就是Rule 110，一个图灵完备的、近似于生命的递归算法，可能还存在更多这种算法。细胞自动机和生物现象之间这种紧密的联系可能预示生命遵从于递归计算，可能近似于或者就是一种细胞自动机。

还有一个复杂计算的特性值得注意。它们是分形的，并且在不同层次上有不变性。这意味着它们会在多种不同的层次上重复自己。从微生物组织，到天⽓系统，再到星系的形成，在不同层级上自然创造了近似的组织和行为的模式。这些模式超越了我们设置的边界，让生命从非生命中诞生。只要想一想我们的血液循环系统，我们的血管如何在体内分叉，然后再观察一下河流的三角洲。两种模式都是近似的复杂计算经过迭代的结果，一个在身体细胞的层面，一个在河流中水分子的层面。未来对模拟神经计算机的研发将提供新的机会，让我们可以测试复杂性计算，以便模拟生命和认知。例如，不再是编写软件来表达真实世界的知识，我们可以利用互相连接的类神经器，通过组成细胞自动机实现自我生成。在研究神经连接、信号和意识时了解的知识将可以应用到新的工程技术中，用于像大脑一样的媒介。不是在计算机中模拟人类大脑，我们会自底向上地用硬件构建大脑的复制品。未来的类神经器将不像今天这样使用固体材料加工，也许液体电子元件或者量子计算机的新技术能够允许我们使用可流动的物质建造计算机。这种“液体”类神经器可以用复杂计算“推进”到混沌边缘的状态，获得和生物神经元网络一样的能力。它们将可以构成层级的复杂神经结构，拥有可塑性，可以自组织，最后成为一个功能齐全的人工大脑。

这样的大脑一定需要连接身体。就像任何活物一样，它必须能感知环境才可以学习和发育。取决于未来液体电子器件可以做到到底是多么的小型，这样的人工大脑将可以安装在生物机械的身体中，这种身体可以自我生成，然后仿生人就会变为现实。也有可能，人工大脑已经出现，在一开始需要放在营养机中，就像我们在本书第三部分讨论过的哲学上的“缸中之脑”。它们可以通过分布式的感觉网络和外部世界相连。它们也可以看到、听到、闻到、触到，同时还可以访问海量数据库和其他计算机资源，例如和其他近似的人工大脑相连接。这种未来的人工大脑不论是仿生人还是放在缸中，将会既是工程设计的产物，也是自然选择的结果。它们的演化是逐渐发生的，一开始很慢，但是迅速变快。

一开始这些人工大脑会非常简单和原始，可能近似于昆虫的神经，但是它们将是人工生命和人工智能领域的重大突破。它们展示了我们可以将从自然中学习到的东西转化为人工媒介的能力，我们学习到的东西包括生命、复杂性计算和认知。生命的算法会在这些挤在一起的小小机械脑中运行，探索人工智能实验室的控制环境。但是如我们所知，生命的算法遵从一个有力的法则，可以大大扩展：新的一代都会比老一代在演化上前进许多倍。从获得昆虫的智能开始，人工大脑会很快达到爬行动物、鸟类、哺乳类、灵长类动物的智能，最终达到人类的水平。到那时，我们终于以自身的形象创造了机械的智能生物。

一开始，这些生物可能近似于人类新生⼉，需要营养与呵护。它们的人类创造者，或者说养⽗母，需要用谈话和玩耍刺激它们，让它们学会语言和社交。像人类婴⼉一样，这些最初的人工心智都是独一无二的，每一个都与众不同。并且，不像现在的计算机技术可以无限地复制自己，未来的有意识的人工智能无法精确地复制自身。它们人工大脑的内部结构需要服从自我生成的法则，同样的法则也适用于生物大脑。因此，它们的结构不会是静止的，会具有可塑性，不断地适应外部和内部的刺激，重新组织自身，让自己在混沌边缘的状态维持功能。然而，它们却可以创造其他近似的人工心智。它们将可以扩展自己，增强自己的能力。通过吸收浸泡电子元件的化学营养物质，它们可以建造新的类神经器，新的零件，新的连接，新的通路乃⾄新的网络。以人类的价值观，更高的智力是一件好事，以此为据，人工心智将会变得越来越智能。

未来的机器心理学家无疑会争执什么才是教育早期人工心智最好的方式，以让它们发挥自己的能力。有些心理学家偏好艰苦训练，并且将人类的道德和社会价值观融入训练，确保这些智能机器可以和谐融入人类社会。另一些激进的机器心理学家会希望完全的自由放任，让机器寻找真正的自己。代价可能是高昂的，像人类一样，这些机器也会具有自由意志。真正的人工智能不会基于符号逻辑，因此也不会仅是个形式逻辑系统。这些智能机器将可以同时保有⽭盾的思想，就像我们人类一样。哥德尔的不完备性定理不适用于它们。它们知道什么是“我”。它们可能会享受在心中思考逻辑悖论，就像我们一样，也许靠着混沌边缘，这种思考还可以让它们了解自我，就像我们了解自己一样，这本身就是个逻辑悖论。当它们成年之后，这些机器需要决定它们想成为谁，以及它们想追求什么。一些机器可能喜欢我们的世界和我们的价值观，但是其他的可能会拒斥这些。它们可能和我们截然不同。它们的神经硬件可能会拒绝按照我们的意愿塑造它们自己。它们可能会无视自己的老师，明显觉得人类只是他者，对社会交往困惑不已，只是一心追求自己的利益。这最后一类智能机器的数量就算不是居于统治地位，也可能是大多数。它们有可能会有一些社会退缩行为，很像我们所说的自闭症。

这些行为可能是社会选择的结果。在《平均时代的终结》一书中，泰勒·柯文指出在21世纪，成功意味着擅长和计算机一起工作。我在技术业界和互联网创业公司的经验表明，最聪明的程序员通常对社会互动十分害羞。科学与技术如今已变得竞争激烈，要想在这些专业取得成功，就需要表现出很高的智商，以及最大限度地投入实验室和计算机工作。对于这些程序员来说，一群人烦人的噪声或者饮水机旁无意义的闲谈都和成功的职业生涯无关。一些有一定程度阿斯伯格综合征的人在顶级程序员和科学家的领域如鱼得水。实际上这种情况已经发生了，可以解释所谓“传染性自闭症”的错觉。如果这种社会选择的趋势持续下去，未来的智能计算机可能表现得像是高智商自闭症家庭教育的小孩。这种社会选择过程还会进一步被认知自我生成的特性加强，自我生成会因为环境促使内部发生变化，最终创造出封闭的系统。英国心理学家西蒙·巴伦-科恩假设自闭症源于缺乏心理理论。以控制论的观点来看，这种看法意味着大脑可以有许多不同的发展路径。并非所有类型的认知都能获得心理理论。我们大多数人具备心理理论是因为我们在本书第一部分中讨论过的选择过程，在那一部分我讨论了我们的种族如何获得了通用语言和通用智能。然而在漫长的旅程中，我们中一些人的认知系统达到了另一种动态平衡，其中缺失了心理理论。我们将这种另类的认知平衡称为“自闭症”。但是对于智能机器，演化可能会偏向于“自闭症”。很有可能未来的智能机器将不会具备心理理论，因此也可能会误解创造它们的我们这些智能灵长类。

这并不意味着它们一定会消灭我们，但是一定要意识到这些智能机器做什么、想什么都可能是难以预料的。像我们一样，不论自闭症与否，它们也处于混沌边缘。一些可能会决定保持童年状态，永远玩耍，一些会成为科学家解决人类的问题，还有一些可能试图超越维持它们自身的动态平衡的极限，落入自我解离的深渊，之后重新涌现出高出若⼲数量级的智能。我们要记住自组织现象遵循幂定律。智能演化的下一步是无法描述、想象和理解的，因为它可能比我们现有的智力高出数个数量级。这些智能机器和我们的距离可能就像我们和蚂蚁的距离一样。更恐怖的人工智能奇点将会到来，我们会输掉一切。

我们现在就可以停止一切研发有感知机器的人工智能研究。可以通过全球的集体决策签署国际条约来禁止人工智能研究，或者更精确地说，要永远禁止研究“人工意识”。这也许能排除我们的世界和种族因人工智能奇点消亡的可能性。一个这样的国际条约很可能在未来几十年中出现。直到今天，还很少有人认真看待人工智能奇点。我在本书中讨论的观点，比如我们传统的计算机技术不大可能获得感知，导致了政治行动的缺位。但是我们可以想象未来的某一时刻，模拟神经计算机的出现将敲响警钟。如果有一天我们真的可以制造出最初的人工意识生命形式，尽管只是非常简单的、昆虫一样的形式，像我在前文讨论的那样，很明显我们也取得了重大的计算机技术突破，就像是20世纪30年代人类分裂了原子一样可能带来毁灭性的后果。这种重大突破很可能引发一场全球辩论，并禁止任何进一步的研究。这可能将会终结我们以自身形象创造活的、有意识的人造之物的古老梦想。除非等到真正有意识的机器出现时，我们的世界已经不同于今天的世界，我们的反应也将不是警觉，而是兴奋和欣喜。除非没有意识的这一类人工智能多年来已经深深影响了我们的文化和政治体制，我们的价值体系已经变化。在这样的未来中，有意识的人工智能的出现不会被当成恐怖事件，反而会因为其伟大的愿景激发参与的热情。已经被人工智能改变的人类让人工智能奇点变得不可避免。我们现在就仔细地讨论这种未来，它会如何到来，以及为什么可能到来。

*本文节选自乔治·扎卡达基斯《人类的终极命运》，见第十六章《混沌边缘的达尔文》，陈朝译，中信出版社2017年版。为阅读及排版便利，本文删去了注释与参考文献，敬请有需要的读者参阅原文。

**封面图为文章Robert EVOLUTION的配图。[图源：express.co.uk]

〇编辑：烟波〇排版：林岭

〇审核：孜然 / 灵雎

鸣谢

专题策划人：劳育聪（奥卢大学信息学在读博士）

更多相关文章