AI技术加速有人向无人作战转变 | 美媒：未来战争依靠算法取胜

AI技术加速有人向无人作战转变

来源：世界军事

今年8月21日，特斯拉CEO埃隆·马斯克和谷歌深智公司共同创办人，以及应用人工智能总监穆斯塔法·苏莱曼等硅谷精英，联合来自26个国家的116名专家，共同呼吁联合国禁止开发致命性自主武器，引发外界高度关注。近年来，随着人工智能（AI）技术的迅速发展，其潜在威胁引发越来越多有识之士的担忧。在马斯克们看来，人工智能将成为人类存亡的最大威胁，甚至可能引发第三次世界大战。在此背景下，不久前,哈佛大学肯尼迪学院比尔弗科学与国际事务研究中心，发布了一份名为《人工智能与国家安全》的长篇报告，呼吁关注AI技术的长期变革性影响。

AI对国家安全的影响

报告认为，AI技术过去五年取得重大突破。未来10年，AI技术将继续发展。现有的AI技术对于国家安全大有裨益，例如，机器学习技术可以实现卫星图像分析、网络防御等劳动密集型工作的高度自动化。今后，AI技术将可能发展成为一项变革性国家安全技术，堪比核武器、飞机、计算机和生物技术。这几项技术的出现，都曾导致美国国家安全界对战略、组织、资源分配等进行重大调整。AI技术对国家安全的影响，至少与这些技术相当，其影响主要体现在军事、信息和经济三方面。

在军事方面，AI技术的发展将带来新的能力，并导致现有军事技术的扩散。借助AI实现的远程无人机快递等商用技术，将可能使弱小国家和非国家行为体获得远程精确打击能力。当前，商用和军用机器人的市场规模正呈指数级增长。尤其值得关注的是，过去几年，无人驾驶飞行器（无人机）的商业价格暴跌。今后，人们也许只需花费50美元，便能获得一架现今价值1000美元的高品质无人机。

机器学习技术的广泛使用，加上市场发展和价格下降，将使机器人系统对国家安全的影响大幅增强。在不远的将来，机器人和自主技术的“寒武纪大爆发”式发展，很可能产生类似于互联网的影响。最初，技术的发展使那些资金充足、技术先进的军队获得最大优势。美军在伊拉克和阿富汗的军事行动，无人机和无人地面车辆的表现已经证明了这一点。此后，随着价格的降低，预算有限、技术欠发达的军队也将采用新技术。非国家行为体同样如此。事实上，这种情况如今已显现出来——“伊斯兰国”在其军事行动中便使用了遥控无人机。今后，该组织或其他组织很可能更频繁地使用自主载具。

从长远看，AI技术的发展将导致军事力量和战争的转变，使作战人员能获得更多来自自主机器人的支援，加速作战任务从有人向无人的转变。尤其值得关注的是，AI和机器人学习技术，将对网络安全和网络战产生变革性影响。智能自动化将提高发现漏洞的能力，并改进监控系统，因此，AI技术有助于增强网络防御能力。不过，同理，AI技术的发展，也将带来网络进攻能力的增强。

短期看来，AI技术运用于网络空间，将使那些强大的国家行为体受益。但从长远看，最终的力量对比如何仍不明确。原因在于，一些现阶段需要大量高技术劳动的活动，如高级持续性威胁（Advanced Persistent Threat，APT是黑客以窃取核心资料为目的，针对客户所发动的网络攻击和侵袭行为，是一种蓄谋已久的“恶意商业间谍威胁”）行动，未来可能实现高度自动化，并且其技术很容易在黑市上获得。

在信息领域，AI将大幅提升数据收集、分析和生产能力。值得关注的是，AI本身还可产生数据，包括自动生产的图片、视频和文本。目前，借助AI技术，人们可以做到：仅凭廉价的网络摄像头，便逼真地实时改变视频中人物的面部表情和嘴部动作；只要拥有足够的音频数据，便可以人工合成任何人的讲话录音，且效果逼真；根据民调、选举结果、财政报告、体育竞赛统计资料等结构数据，生成文本新闻；根据一张或多张2D图片，生成目标（如人脸）的3D图像；自动为无声影像进行逼真的配音，等等。

在不远的将来，即使是业余爱好者，也可大规模生成画面逼真的高清视频、音频和文本伪造品，且制作成本会不断降低。大量由AI伪造的音视频和文本资料，将被用来混淆视听，从前可靠的证据变得极度不可靠，目标社会中人与人之间的信任将因此崩塌。

在经济领域，人工智能或将成为一项独特的变革性经济技术。由于AI领域的很多进展都有着通用技术的特征，因此，借助该技术可提高众多不同产业的生产率。同时，AI作为一种人类创新发明成果，它的应用反过来可大幅提升发明和创新本身的速度。例如，AI技术可实现科学实验的自动化，综合数千份科学论文的成果，或自动生成工程设计方案并对其进行优化。在AI研究中取得领先地位，很可能加快包括AI在内的很多领域的研发进展。因此，人工智能的作用堪称“创新增压器”。

报告认为，AI技术的发展还可能导致新一轮产业革命。美国前财长拉里·萨默斯预言，AI与相关技术的发展将导致对劳动力的需求大幅降低，以致到本世纪中叶，美国将有多达三分之一的25至54岁年龄段的人失业。同第一次产业革命一样，这将重塑世界各经济体内资本与劳动之间的关系。不断提高的劳动自动化水平，可能导致技术先进的发达国家陷入“资源诅咒”困境。同时，人口规模对于国家实力的重要性将降低。在AI技术方面发展出巨大优势的小国，将拥有远远超出其人口规模的实力。 

历史上五大经验教训

面对AI技术的发展，报告通过对人类历史上此前出现的四项变革性军事技术（核、航空航天、网络和生物技术）进行案例分析，总结出五大经验教训。

首先，突破性技术变革，往往会产生突破性的政府政策理念。历史上，核武器技术的变革性影响，加上冷战这一时代大背景，曾导致美国政府想出一些特别的政策措施，如规定只有总统有权发起核战争、通过军控框架自愿限制发展核武器技术（如禁止制造某类核武器和开展某类核试验）、制定对对手进行先发制人或报复性核打击的核毁灭战略，等等。同样，其他几项变革性技术也曾促使美国政府做出重大改变。例如，为利用航空航天技术，美军成立全新的军种——空军；为应对网络挑战，美军成立了网络司令部。

AI技术究竟将在何时全面显现出其对国家安全的影响，这种影响会是什么样子，目前还是个未知数。一些专家认为，人工智能可能创造出一个最终导致全人类灭绝的超级智能。今后，如果AI技术继续飞速发展，一些国家可能会考虑出台类似于核武器出现后早期的激进政策。

其次，军备竞赛或将无法避免，但可以得到控制。1899年，对空投炸弹的恐惧，导致国际社会制定条约禁止使用武装飞机，但这并未阻止一战期间出现空战。今后，AI技术在战争和间谍活动中的运用，很可能也像飞机一样让人难以抵制。想要阻止AI被更多地用于军事，很可能无法实现。历史上，航空航天技术最终几乎成为军事实力的同义词，AI技术似乎终将走上同样的发展道路。

当前，企业为了竞争，别无他法，只能选择发展机器学习技术。同样，军队和情报部门也去扩大军用人工智能应用的范围。尽管直接禁止在国家安全领域使用AI技术不太现实，但对其进行安全、有效的控制，仍是必要的。历史上，禁止飞机的努力虽告失败，但美国及其盟友甚至是对手仍发展出管控航空航天技术风险的框架体系。如今，尽管AI技术有待进一步成熟，但美国和其他行为体将被迫制定相关制度，来限制军用AI技术扩散的风险。

再次，政府在鼓励商业活动的同时，须处理好军民关系。仍以航空航天技术为例，历史表明，促进商用航空产业的经济增长和保守军事秘密，往往不可兼顾。二战结束时，英国拥有世界领先的喷气发动机技术，但面临严峻的经济挑战。为了出口创收，英国发动机制造商将25台“商用”罗尔斯·罗伊斯“尼恩”发动机出售给苏联。后者很快进行了仿制，并在此基础上研制出朝鲜战争中的空中霸主——米格-15战斗机。

英国发动机制造商曾向苏联出售罗尔斯•罗伊斯“尼恩”发动机

当前，拥有世界上最大、最先进的数字技术产业，是美国的一项巨大优势，但如何处理好商业和国家利益之间的关系，仍是严峻挑战。过去，在航空航天技术和核技术产业，美国政府是最主要的客户，且业内很多科学家都直接受雇于政府。因此，政府的地位无人能比，拥有强大的话语权，能有效地对行业进行调控。如今，在AI产业，情形大为不同。一方面是因为政府不再是最主要的客户，另一方面也是因为绝大多数AI领域内的顶尖研究者并不为政府工作。数据统计显示，2015年，整个美国政府对非保密AI研发项目的投入仅为11亿美元，对算法和计算机科学的研发投入为30亿美元。

更糟糕的是，美国政府和数字技术产业间的关系目前颇为紧张，在斯诺登事件后尤其如此。例如，谷歌旗下的DeepMind公司，被很多人视为尖端AI研发领域的世界领头羊，但该公司强烈反对将AI技术用于军事或政府监视活动。波士顿动力公司和沙夫特公司，是两家行业领先的机器人研发公司，曾得到美国防部高级研究计划局的大量资助，但在被谷歌收购后均明确表示，不再同军方和情报部门签订任何新合同。鉴于政府和一些领先研究机构摩擦不断，今后，美国的AI技术政策制定者须有效处理好军民关系。

第四，政府必须正式制定AI技术的发展目标，并为此提供充足的资源。核、航空航天、网络和生物技术的发展历史表明，当政府成立专门负责在相关领域提高技术安全的正式机构，并提供所需资源后，技术的安全性将会得到改善。当前，美国正着手实施“第三次抵消战略”，并试图针对AI技术在商业和民事政府部门中的更广泛运用制定规范。在此背景下，白宫应当考虑成立正式的研发机构，负责在整个政府范围内调查AI技术的安全性。

第五，随着技术的发展，美国的国家利益也会随之变化。历史上，生物武器成本和复杂性的不断降低，导致美国将生物武器战略从积极研发调整为主动加以克制。

对战略技术的发展施加导向性影响，符合美国的战略利益。隐形飞机的研发就表明，战略投资有时可以使美国影响到某一领域的攻防平衡，形成长久的技术优势。在第四次中东战争中，拥有最先进美式飞机和电子设备的以色列空军面对苏制“萨姆”导弹，损失惨重。美军从这场战争中得出结论，苏联的防空力量能大量歼灭北约的进攻性战机和轰炸机。于是，美国启动新的飞机研发项目，最终导致隐形飞机技术的出现。1981年，F-117问世，隐形能力使得天平再次偏向美方的进攻性力量。

今后，美国应当考虑如何引导人工智能在军事和情报领域的技术发展？目前，美国防部战略能力办公室，正在研发微型无人机自主蜂群。对此，五角大楼首先应当想到，这能让美国获得可持续的军事优势，还是会促使其他国家很快获得类似能力？鉴于商业和学术界也在研究微型无人机蜂群技术，可能出现的情况是，军方无人机蜂群项目取得的任何进展，都可能被轻易复制。美国政府当前投入的金钱，最终会加速技术形势的恶化。 

美国具体应对之策

报告认为，美国针对AI技术的国家安全政策应设定三个目标：保持美国技术优势、支持AI技术的和平使用和管控灾难性风险。

关于如何保持美国的技术领先地位，报告提出四点建议。一是，国防部应当组织实施聚焦人工智能的军演，以发现可能的颠覆性军事创新。例如，一架价值1000美元的四轴无人飞行器在美军看来或许毫无用处，但对于一支小国军队或非国家行为体而言，则可利用其获得原本昂贵的军事能力，如侦察或远程投送火力。随着AI相关能力的不断提高和价格的降低，出现这种创新的机会今后将越来越多。

二是，美国防部应当着眼长远，对AI技术及其影响进行战略分析。过去，兰德公司等机构曾对美国的核武器战略进行全面评估。今天，美国也需要对AI技术及其影响做长远的战略思考。需要回答的问题包括：率先发展AI技术的优势是什么？后发者能否有效参与竞争？哪些商用AI技术可以“军民两用”？哪些研发投资能影响到AI应用在军事和情报领域的攻防平衡？哪些AI投资能扩大大国对弱国或非国家行为体的优势？人工智能能力的增强，如何影响国际经济力量对比？等等。

三是，国防部应重点对能带来长久优势并降低关键风险的AI技术领域，进行研发投资。报告指出，AI使很多新型的低成本、高效能军事技术成为可能，其中一些技术可能会使美军目前的投资失去意义，比如美军当前投入大量资金采购的飞机和海军平台。以造价高昂的航母为例，在未来冲突中，面对大量廉价的自杀式远程自主无人机发起的“蜂群”攻击，航母很有可能变得无用武之地。

四是，国防部和情报界应当投资发展进攻性及防御性反AI能力。报告指出，在传统软件开发过程中，程序是一长串由手工编写、按顺序执行指令的代码，机器学习系统则不然，由电脑程序自身根据训练数据库中的数据进行算法运算，有着超强的非结构化数据分析能力，但同时也存在特有的弱点，如一旦遇到不在训练数据库中的数据，就会做出不可预测的行为。目前，研究人员已开始探索机器学习系统的漏洞和可能被利用的地方。在发展所谓反AI能力的过程中，美国国防和情报界应当谋求领先地位。

为管控灾难性风险，报告提出四点建议：一、国家安全委员会、国防部和国务院应开展相关研究，以确定美国政府该限制哪些AI技术的应用。报告认为，通过条约全面禁止在军事和情报领域使用AI技术，可能性极低，但大国之间可能达成协议，同意不发展或使用某些AI技术。二、国防部和情报界应成立专门负责AI技术安全的机构。三、国防部高级研究计划局应资助相关研究，开发AI系统防故障技术。四、美国国家标准与技术研究院和国家安全局应寻找办法，以防备AI生成的伪造音视频和文本文件。

美媒：未来战争依靠算法取胜

美媒称，五角大楼正将越来越多的注意力集中于这样的想法：衡量美国军队的力量不仅要看它军火库里的弹药，还要看算法的进步。在与中国的一场技术军备竞赛中，美国正努力研发用于下一场战争的技术。在此背景下，最近的一份报告显示，国防部稳步增加了三个关键领域的开支：人工智能、大数据和云计算。

据美国《华盛顿邮报》网站12月3日报道，戈维尼市场研究公司称，这些领域去年的投入由五年前的56亿美元增加至74亿美元，在军队希望改变他们的培训、策划和作战方式之际，这个数字似乎很可能进一步增加。

国防部前副部长罗伯特·沃克在这份报告的前言中写道：“人工智能的迅速发展以及得到很大改进的自主系统和这些系统可以实现的操作正带来一些更新颖的作战应用，这些应用涉及人机协作和协同作战。这些新的应用将成为一场新兴军事技术革命的主要推动力。”

他还说，美国“要么领导即将到来的革命，要么成为它的牺牲品”。

沃克在接受采访时说，技术的进步正在改变战争，就像步枪、电报和铁路的出现曾经带来的影响那样。报告称，当前的努力在很大程度上由在华盛顿地区有大量业务的公司所推动，这些公司包括莱多斯公司、诺思罗普-格鲁曼公司、洛克希德－马丁公司、雷神公司、CACI公司和科学应用国际公司。

报道称，军方人员正在培训中使用虚拟现实来模拟战斗环境。美国国防部高级研究项目局一直在将资金投入到用以处理大量数据的更强计算能力，包括量子计算和所谓的神经形态工程。

报道称，有迹象表明，人工智能和人机协作已经进入美国的武器和智能装备。五角大楼正致力于使用无人机作为战斗机和舰艇的僚机，它们可以独自进入敌方领土进行侦察。海军研究处称，海军陆战队一直在测试可自主飞行的货运直升机，这种直升机将令海军陆战队能够使用平板电脑“轻松要求向哪怕是严峻或危险的环境供应物资”。

官员称，拥有800万行代码的隐形F-35联合攻击战斗机被称为“会飞的计算机”，它不仅是战斗机，也是一个空中传感器。例如，官员提到了F-35战斗机如何自动互相交流。如果一架战斗机在雷达上发现超出一同出动的其他F-35战斗机侦测范围的敌方战斗机，那么信息将自动转发给其他战斗机。

报道称，另一个例子是梅文计划，它是一个计算系统，目的是筛选通过监视获得的大量数据和视频，然后提醒人工分析员警惕一些模式或者警告他们有异常或可疑活动发生。

报道称，机器人技术也在快速发展。2015年，国防部高级研究项目局发起一项挑战，以测试机器人如何穿越某些障碍物，当时，很多半自主机器摔倒，有时以滑稽的方式摔毁。但上个月，波士顿动力公司发布了一段惊人视频，视频中，一个人形机器人从一个升高的平台上做了一个后空翻，然后双脚着地。

然而，尽管取得了这些进展，五角大楼和其他一些人担心美国的行动不够快。

沃克说：“坏消息是我们的竞争对手并没有止步不前。”

防务分析人士称，尤其值得一提的是中国，它在人工智能方面投入了巨资。

新美国安全中心最近的一份报告称：“中国打算掌握主动权，到2030年成为首屈一指的全球人工智能创新中心，在这一过程中可能会超过美国。”

沃克说，这应该成为一个发出战争召唤的“卫星时刻”。他说：“我个人认为，对像这样的一项国家级挑战必须做出国家级回应。”

报道称，近几年来，五角大楼一直在争取硅谷的企业，这些企业在很大程度上推动了创新，但一直不愿意在五角大楼繁琐乏味的官僚体制内工作。

9月份，国防部副部长帕特里克·沙纳汉在一份备忘录中写道，他正在“监督旨在建立一种实验、适应和冒险文化的积极举措，以确保我们正在使用新兴技术来满足我国军人的需求，并提高技术研发和采购的速度和灵活性”。

他还签署了一项指示，要为五角大楼加速云计算的发展，他说，云计算“对于保持我军的技术优势十分关键”。

未来战场上，算法和弹药一样重要。对美国五角大楼来说，人工智能已经成为其最优先的投资领域。

戈维尼研究报告提出，美国国防部正在将强化人工智能算法列入重点发展领域，将其视为与传统的弹药库储备同等重要的防务要素。持续在三个领域加大投入：人工智能、大数据和云计算。

根据数据分析报告，美国防部投入上述三个领域的军费预算已经从5年前的56亿美元增加到去年的74亿美元。随着军事训练、规划和实战要求的变化，投入将继续增大。

在该报告的引言部分，提出“算法战”概念的美国国防部前副部长、同时也是Govini公司董事会顾问的沃克（Robert Work）写道：“人工智能领域的快速发展，以及它所赋能的自动化系统和操作的性能提升，正在指向新的、更引领时代的涉及到人机协作和战术合作的战事应用。这些应用将会成为正在崛起的一波军事技术变革的主要驱动力。”

“美国要么引领这波正在来临的变革，要么沦为牺牲品。”沃克称。

沃克认为，技术优势一直在改变着战争的形态，正如几十年前甚至上百年前枪支、电报和铁路出现的时候。

如今，人工智能在军事中的应用不断被强调，其三大核心要素：算法、数据和计算能力，也成为各国军事能力建设的关键。沃克本人就是这波变革的实践者之一。

沃克于今年7月卸任，卸任后便督建了“算法战跨职能小组”（AWCFT），是美国国防部为加快推进军事智能化建设设立的一个跨部门机构。该机构的主要任务是使用计算机视觉算法从巨量视频信息中自动识别和分类可疑物体并发出预警，主要作用就是推进美军人工智能的军事化应用，至今已开发出首批4套智能算法。

据了解，AWCFT在美军智能化建设过程中扮演“探路者”角色。沃克曾披露，在2017财年国防预算中，约有120亿至150亿美元用于人工智能和自动武器的研发。另外，目前负责人工智能研发的5家美国联邦机构中有3家具备军方背景。未来，国防部还将设立一个机器学习中心，负责将智能算法引入国家安全领域。

沃克和五角大楼的担忧是，虽然在人工智能领域不断取得突破，但美国走得不够快，因为竞争者并不是原地不动，这对美国来说就是“坏消息”。华盛顿智库新美国安全中心的报告就以中国为例，称美国在2016年10月启动了“国家人工智能研究和发展战略规划”，而中国也在7月发布了“新一代人工智能发展规划”。该报告称：“中国计划在‘2030年成为世界主要人工智能创新中心’，可能超过美国。”

接替沃克担任国防部副部长的前波音公司高管帕特里克•沙纳罕(Patrick Shanahan)在9月的一份备忘录中也写道，目前正在军中“建立试验、适应和风险承受型的文化，确保运用新型技术以满足作战人员的需求”。另外，他还签署了一份指示，加速五角大楼云计算能力的发展，称其“对保持美国的军事技术优势至关重要”。

基于这样的初衷，五角大楼比以往更乐于和硅谷接触，得到硅谷最前沿的技术支持。甚至有种说法是，国防部长去硅谷的次数远远超过去伊拉克和阿富汗。但是硅谷并不领情，尤其对五角大楼的官僚主义作风敬而远之。

在斯诺登的爆料之后，想要说服硅谷与其合作，五角大楼面临的难度不小，首当其冲就是消除技术公司对军方插手业务或获取后台数据的担忧。为此，美国前国防部长卡特还在硅谷设立了国防部科技创新实验单元（DIUx），旨在修复军方和硅谷之间的裂痕，促进二者合作。

上述报告称，有迹象显示美国正在将人机协作的技术运用到武器装备和相关的智能装置上。另外，五角大楼正在试验把无人机用做战斗机和海军舰船的僚机，深入勘察目标区域情况。海军陆战队则一直在测试一款自动驾驶的货运直升机，由地面人员通过平板电脑即可控制，飞往条件最艰险的环境去提供补给。