人工智能战斗机在复杂环境中能否“防忽悠”？
以下文章来源于空天防务观察 ，作者何晓骁
依托中国航空工业发展研究中心资源，翻译或搜集国外重要空天防务动态，并提供要闻或问题深度分析。
前沿君微信：tech9999 手机：18501361766
转自：空天防务观察（AerospaceWatch）
作者：中国航空工业发展研究中心 何晓骁
导读：本篇专栏文章是我中心何晓骁先生对国外人工智能用于空中作战发展的梳理和思考。人工智能的军事应用问题是研发和探讨热点，我们了解其中可能存在诸多不同观点。因此，本篇专栏文章中的部分观点是用于提供参考，欢迎读者也提供自己的观点，与我们共同研讨人工智能未来在空战场中的应用问题。
在前些年，美国一家人工智能公司进行了一个深度学习的试验，训练一个高级人工智能（AI）学习弹珠消除游戏，A I只玩了约600次就达到了人类专业玩家的水平。但是当稍稍变化了游戏后，人类能快速适应，但AI却不能。法国泰雷兹公司的专家在2018年年底表示尽管部分初级AI（辅助系统）已经应用于现代化商用飞机中，但是采用深度学习建立识别模型的高级AI在未来10年里不会应用到驾驶舱里。法国联合本国8家集团在2019年7月宣布计划启动人工智能研究，分别是泰雷兹、液化气集团、达索、法国电力、雷诺、赛峰、道达尔和法雷奥。泰雷兹在2019年6月宣布已收购Psibernetix公司以加速AI领域的研究，希望在2021年左右在AI项目上取得重大进展。Psibernetix最初以“阿尔法”（ALPHA）空战AI系统而闻名，该系统在模拟空战中击败世界顶级飞行员。但是高级AI应用在民机领域的拥有已经如此艰难，在“尔虞我诈”的空战中应用更是要突破抗干扰、抗欺骗的难关。
早在2017年迪拜航展上俄罗斯技术发展集团就高调宣传了使用AI技术的苏-35战斗机，AI协调雷达、红外搜索和跟踪（IRST）、任务计算机等设备能够分析已发现的所有目标，对威胁程度进行分析，自动生成实时攻击列表并分配武器，然后同时攻击其中6个目标。在算法上可能也有所突破，一方面是在有源、无源传感器的协同使用更加熟练；另一方面可能是在信号处理中能过滤误报。AI将更多的参与武器系统的管理，控制传感器完成搜索跟踪，飞行员只需要控制飞行姿态，或者专注于其它任务。俄罗斯这么高调宣传苏-35的AI技术，但效果如何还不清楚。
网络宣称的苏-35S红外搜索与跟踪系统拍摄到美国F-22战斗机的图片（俄网络图片）
2018年下半年俄罗斯飞行员在社交网络上发布了在叙利亚驾驶苏-35S发现并锁定了F-22的照片，该照片可能来自于红外搜索与跟踪系统（IRST）系统的截图。但美国媒体认为俄罗斯一直在叙利亚进行集中的虚假宣传活动，以制造混乱并削弱美国和盟国在那里的影响力。在美俄非战时状态下，F-22可能只是执行了巡逻或者监事任务，或者安装了龙勃透镜以保护自身的散射特性，这就给了苏-35S机会用雷达宽扇区初步探测F-22。从理论上讲，IRST使用液氢或液氮来将传感器冷却到极低的温度，寻找外界的温度差异，有助于它近距离发现隐形飞机。但IRST的视场比较窄，即使在晴朗的环境下，仅仅依靠IRST去搜索一架战斗机就像是通过吸管看星星。用宽扇区扫描发现目标的雷达提示它，是先进战斗机多传感器协同运用的一种典型功能。
RC-135侦察机的热像仪拍摄到的停在地面的F-22（美国防部国防高级研究计划局图片）
由于苏-57的进度拖后，俄罗斯将部分苏-57的技术下放到苏-35S上先期测试，以检验效果。在加入AI之后，俄罗斯可能在多传感器协同的雷达猝发探测等传感器使用和信号处理算法方面得到了提升。但是苏-35S所宣传的AI，并不像是功能强大、权限很高的AI，更像是一种辅助决策或者机载武器规划系统，这种功能在世界范围内的三代半以上飞机里似乎已经有了应用。
1. 超视距空战AI战胜人类高手
“阿尔法”演示场景（美国辛辛那提大学图片）
“阿尔法”（ALPHA）是美国辛辛那提大学航空工程系开发的人工智能多机中距空战系统，已经在公开的报道中击败了美军经验丰富的退役飞行员。该系统作为红方，控制4架看似F/A-18飞机从大约95千米对抗退役飞行员的控制的2架蓝方F/A-18飞机，蓝方同时有预警机支援，在态势上有优势。并且退役飞行员的武器数量和射程均优于红方。蓝方飞机目标是突破红方在海岸线的防守，经过多回合对抗结果都是退役飞行员被击落且红方没有损失。
“阿尔法”具备了一定的容错能力和强大的认知能力，能做出清晰的判断和准确的操作，比人类快250倍。人工智能没有情绪，很理性，反应快，能预测人类飞行员的行为，迅速在进攻和防御之间切换。
遗传模糊树示意图（美国防部国防高级研究计划局图片）
“阿尔法”的算法框架为“遗传模糊树”，本质上是基于演进式的推理系统，能够利用人类空战的专家知识库，帮助其在多机协同空战中形成实时快速决策能力。
2. ACE项目目标突破近距空战AI
2019年5月，美国防部国防高级研究计划局（DARPA）宣布启动“空战演进”（ACE）项目，使用人工智能技术解决目视空战（dogfight）。ACE计划首先通过建模和仿真进行技术演示，进而在小型无人机上进行飞行测试，最终目标是在典型作战飞机上实现自主战斗能力。在可预见的未来有人-无人协同作战的场景非常依赖更为复杂的自主能力，有人机飞行员可能会从传统的飞机员变成机队的指挥员，在编队中指挥多个半自主、高自主的无人平台作战。
与民机一样，应用高级AI首先增强飞行员对AI的信任。ACE将采用自下而上的方式发展自主空战能力及对自主能力的信任。如同训练飞行员一样，ACE将通过不断增强空中格斗算法的难度和真实感来训练算法。
AI提升能力路线图（美国防部国防高级研究计划局图片）
“阿尔法狗斗”（AlphaDogfight）试验将仅关注模拟环境中的一对一混战。红蓝双方都由AI控制，从几个不同的态势开始，每架飞机必须执行一系列空战机动成功地将飞机飞到到相对于对方飞机的预定位置（如尾后稳定跟踪）。在试验中，参与者将开发能够控制模拟蓝军飞机的算法，以便它能够在目视空战中击败模拟的红军飞机。该试验将在24周内持续增加对手的能力、复杂性：
——试验1：AI将与政府提供的低水平红军对手格斗（推力、过载、机动受限）；
——试验2：AI将与政府提供的红军对手（推力受限）进行格斗；
——试验3：AI将与政府提供的高性能红军AI（）无限制）、人类飞行员竞争。
ACE项目终极目标是将小场景的空中格斗的战术应用到更战役级场景中，并推广应用到“马赛克”项目。ACE项目计划在2023年完成，共分为3个阶段。第一阶段的重点是开发算法、建模并仿真验证关键功能；阶段2和阶段3将分别在小规模和全要素战场环境中实现相同的功能。
“阿尔法狗斗”试验与DARPA提出的“马赛克战”的联系（美国防部国防高级研究计划局图片）
ACE项目将解决以下4个技术挑战：
——技术领域1：为单机或小编队建立自主格斗行为模型；
——技术领域2：建立对自主格斗行为模型的信任；
——技术领域3：扩大自主格斗行为模型的使用范围；
——技术领域4：建立大规模空战测试基础设施。
DARPA创建了确保AI对抗欺骗的鲁棒性（Guaranteeing AIRobustness against Deception，GARD）项目，应对AI的安全挑战。GARD目标开发全新的能防御敌对欺骗意图的机器学习模型。在AI鲁棒性方面当前开展的研究工作主要是防御特定、预先设定的敌对攻击，后续将通过开发更全面的防御系统来解决特定场景中的攻击。
历史上的欺骗（美国防部国防高级研究计划局图片）
GARD项目有两个技术领域：
——TA1.1：发展具备鲁棒性的机器学习理论基础；
——TA1.2：为现有和新的机器学习系统开发防御算法；
——TA2：用于对ML进行严格风险评估的工具和协议。
GARD项目计划图（美国防部国防高级研究计划局图片）
该项目由图像的机器学习入手，然后发展到视频、音频和更复杂的系统，如多传感器协同。在许多情况下，如果将新信息引入机器学习计划，系统有时会不知道如何识别新图像。
图像欺骗示意图（美国防部国防高级研究计划局图片）
把AI用于军事用途需要慎重，把“杀戮开关”交给机器有极大风险。从广义上讲，人工智能的工作原理是将新输入与已知信息数据库进行比较，以识别差异边缘。基于目前硬件先进的处理速度，再加上实时分析的能力，几乎可以开发出无限量的数据，为人类决策者提供答案和有用的信息。虽然高级AI系统现在能快速完成对语义的理解，对复杂细微差别甚至一些高度主观变量的理解能力，但许多机器在某些情况下可能难以正确地处理尚未添加到其数据库中的数据。机器学习可以识别信息是否为数据库中的部分并且完成匹配，但是处理带有欺骗性质的信息对于一些AI机器学习系统来说可能是非常困难的。
防御敌对样本示意图（美国防部国防高级研究计划局图片）
当前，AI正在形成自己的体系，从智能制造、医学和海量信息分析到汽车自动驾驶等，已经提供了各种各样的应用服务。然而，它也是一把双刃剑，如果被滥用、误用或遭到欺骗，AI有可能造成巨大破坏。现代空战是一场环境复杂且高实时性的战斗，尽管过程可能非常短暂，但是这个场景中存在多个目标以及多种攻击手段的组合。
首先让飞行员信任AI。各国军方领导人已经开始努力让军人信任人工智能，这个过程可能比较漫长，但随着技术的快速发展和大量的演示验证可以加速人的接受过程。如2018年9月美海军MQ-4C无人机在发动机故障的情况下，能够识别问题并能够安全返回基地并自主降落并停留到目标点3英尺（约合0.9米）范围内。这种“突发”的案例有助于提升未来自主飞行的信心。
美军在超视距和近距空战AI都有一定的基础，但仍需要开发抗欺骗技术。尽管空战是高度非线性的，但其结果是客观的，如飞机机动能力受到空气动力学约束，为AI提供了有限、可预测的范围，能使AI在空战中发挥出响应“快准狠”的优势。但是国外公开报道的空战AI还是在小范围且较“友善”的环境中开展的，与真实作战有一定区别。人类不仅仅能识别模型，还能生成新模型，而目前的AI面对突发的未知因素，难以快速响应。
在抗欺骗技术不成熟的之前，可将AI先用于飞行员空战训练。在超视距迎头空战中，假如互相知道对手的位置，很难在远距离将对手击落。想击落对手，往往需要多次进入、发射、偏制、规避，比的就是谁的失误少，还有谁能抓住对手的失误来放大自己的优势。AI本身有着几乎不失误的优势，适合在模拟器上与人类飞行员开展超视距空战训练。同样对于近距格斗，尽管狗斗在未来发生的频率已经不太大，但是也是一种必不可少的的技能。
| 一网打尽系列文章，请回复以下关键词查看： | ||
|---|---|---|
| 创新发展：习近平 | 创新中国 | 创新创业 | 科技体制改革 | 科技创新政策 | 协同创新 | 科研管理 | 成果转化 | 新科技革命 | 基础研究 | 产学研 | 供给侧 | ||
| 热点专题：军民融合 | 民参军 | 工业4.0 | 商业航天 | 智库 | 国家重点研发计划 | 基金 | 装备采办 | 博士 | 摩尔定律 | 诺贝尔奖 | 国家实验室 | 国防工业 | 十三五 | 创新教育 | 军工百强 | 试验鉴定 | 影响因子 | 双一流 | 净评估 | 大学排名 | ||
| 预见未来：预见2016 |预见2020 | 预见2025 | 预见2030 | 预见2035 | 预见2045 | 预见2050 | ||
| 前沿科技：颠覆性技术 | 生物 | 仿生 | 脑科学 | 精准医学 | 基因 | 基因编辑 | 虚拟现实 | 增强现实 | 纳米 | 人工智能 | 机器人 | 3D打印 | 4D打印 | 太赫兹 | 云计算 | 物联网 | 互联网+ | 大数据 | 石墨烯 | 能源 | 电池 | 量子 | 超材料 | 超级计算机 | 卫星 | 北斗 | 智能制造 | 不依赖GPS导航 | 通信 | 5G | MIT技术评论 | 航空发动机 | 可穿戴 | 氮化镓 | 隐身 | 半导体 | 脑机接口 | 传感器 | ||
| 先进武器：中国武器 | 无人机 | 轰炸机 | 预警机 | 运输机 | 直升机 | 战斗机 | 六代机 | 网络武器 | 激光武器 | 电磁炮 | 高超声速武器 | 反无人机 | 防空反导 | 潜航器 | ||
| 未来战争：未来战争 | 抵消战略 | 水下战 | 网络空间战 | 分布式杀伤 | 无人机蜂群 | 太空战 | 反卫星 | ||
| 领先国家：美国 | 俄罗斯 | 英国 | 德国 | 法国 | 日本 | 以色列 | 印度 | ||
| 前沿机构：战略能力办公室 | DARPA | 快响小组 | Gartner | 硅谷 | 谷歌 | 华为 | 阿里 | 俄先期研究基金会 | 军工百强 | ||
| 前沿人物：钱学森 | 马斯克 | 凯文凯利 | 任正非 | 马云 | 奥巴马 | 特朗普 | ||
| 专家专栏：黄志澄 | 许得君 | 施一公 | 王喜文 | 贺飞 | 李萍 | 刘锋 | 王煜全 | 易本胜 | 李德毅 | 游光荣 | 刘亚威 | 赵文银 | 廖孟豪 | 谭铁牛 | 于川信 | 邬贺铨 | ||
| 全文收录：2018文章全收录 | 2017文章全收录 | 2016文章全收录 | 2015文章全收录 | 2014文章全收录 | ||
| 其他主题系列陆续整理中，敬请期待…… |