网络防御的未来：自愈型人工智能系统

人工智能（AI）可以分析大量信息，以远超人类能力的速度和规模对模式和异常情况进行识别。为了使人工智能在国防领域发挥关键作用，美军将建立能够预测国家安全威胁的赛博安全系统。一旦这些系统能够自动完成重新配置和安全控制，达到阻止任何可能的破坏行为的效果，即进入下一工作阶段——开发具有自主决策能力的机器。

如今，人工智能主要通过高速数据分析来增强人类的决策。图像识别算法与音频分析系统是人工智能技术应用的两个典型案例。图像识别算法能够对自主导航与敌方目标的实时识别提供帮助；而音频分析系统可以对枪击进行探测。人工智能还可用于自动驾驶军用车辆的开发，并为虚拟边境安全亭提供测谎功能。

图为美国海军水面战中心达尔格伦分部的“狡狐任务”23小队对战术级多域远程自主交战智能车辆群（ARTEMIS）进行演示。这些无人车辆使用人工智能和机器学习技术开发，主要用于抵御无人系统蜂群的威胁。

随着自动化赛博攻击逐步升级，自主自愈系统可能是唯一可行的防御措施。然而，人工智能系统完全依赖于其接收的数据质量。自愈网络和系统之所以能够运转，是因为机器能够生成可信、准确和可靠的赛博安全数据，并将这些数据提供给安全信息和事件管理（SIEM）平台，再由SIEM对各个来源的数据进行集中、组合和优化。如果这些数据源不准确或存在缺陷，人工智能平台将做出同样有缺陷的决定，加上采取的纠正措施，可能会对网络防御造成毁灭性后果。

在任何情况下，缺乏数据准确性和完整性都不会产生预期的结果。这里分享几个案例。微软公司开发的自学社交媒体聊天机器人Tay，展示了人工智能驱动的决策可能会迅速受到不良数据的影响。由于收到了足够多的不良数据，Tay在启动后的16个小时内，其人工智能驱动的“人格”就变成了煽动仇恨者、种族主义者、支持希特勒的新纳粹分子；军用无人机已经有数百英里的不受控飞行记录；亚马逊公司的Rekognition面部身份识别摄像机将国会议员误认为犯罪分子；基于人工智能的无人驾驶车辆造成多起事故。之所以出现这些问题，是因为在许多情况下，用于教育人工智能的训练数据集未得到正确的情境化或监管，或者提供给算法的多传感器数据不可靠。

美军正利用人工智能技术打造统一的未来赛博防御平台，总投资达2980万美元。它将为各军种的国际赛博安全风险预测和作战行动提供 24小时的实时服务，使美国赛博司令部能够在防御和进攻能力之间无缝切换。该平台甚至可以在赛博空间中将防线前移到敌方阵线之后。通过提供指挥控制、决策支持、战役到战术级赛博任务规划、大数据获取与增强分析，统一平台将显著提高司令部的能力，使司令部具备抵御威胁所需的速度、敏捷性和精确性。

赛博安全SIEM和人工智能平台将高度依赖于一系列自动化赛博安全工具的性能。以自动驾驶汽车为例，其安全性在很大程度上取决于车载传感器输入的数据。而在赛博安全领域，机器可能会根据不准确或故意操纵的数据做出错误的安全决策。来自这些工具的任何不准确的信息都可能对基于人工智能的未来基础设施保护工具造成毁灭性的多米诺效应。例如，如果操纵电力智能电网监控设备产生欺骗结果，则可能导致人工智能关闭电网，从而导致停电。同样，一些赛博安全工具容易产生错误的判断，并且可能会导致人工智能驱动的系统认为实际上易受攻击的网络是安全的。

虽然许多传统的自动化赛博安全工具缺乏足够的准确性和可靠性来生成真正值得信赖的自愈系统，但仍有一部分可能会继续作为未来解决方案的组成部分，如目前使用的网络扫描器和监控系统。

扫描器一般通过模拟赛博攻击并利用外部网络流量冲击系统来查找漏洞。这相当于炮轰友军的前线以找到弱点。这种方法由于能够广泛分布，因此是获得鹰眼视图的好方法，但通常准确率较低。某市场畅销的扫描器在实验室中进行了一系列专项测试，在评估安全技术实施准则的合规性时仅获得了16.4％的准确率。因此，仅将扫描器作为人工智能驱动的可信安全系统的基础是远远不够的。

网络监控工具部署在网络上，通过监控实时流量来侦测恶意行为，对于实时识别和防范赛博攻击非常有用。这些监控工具与某个地点的监控报警系统的作用相似。例如，闭路电视系统或防盗报警系统可以使用户意识到有人即将对该地点实施抢劫或破坏，但却无法起到防御和保护的作用，并且有可能受到虚假数据的误导。

在赛博战中，攻击的速度、规模甚至敌人可能都是未知的，但必须奠定的基础与传统战争并无二致。组织需要一个深思熟虑的战斗计划，明确交战区域，在某种程度上确切地知晓防御起到了什么样的作用，对预期攻击的韧性响应，并能快速防御新形式的攻击。

安全专家通过配置网络基础设施和防御措施来确定交战区域并准备对该区域进行保护的工具。防火墙、交换机、路由器、服务器和其他网络基础设施都有各自的战斗计划，包括确定这些设备受攻击行动的配置或操作系统。然而，目前的网络防御平台缺乏准确且大规模地独立查询这些战斗计划的能力。

赛博安全防御必须从扫描、监控和推断等所有规模型工作方法，转变为对传统意义上不能很好扩展的技术进行整合。其中包括对内部数据进行高度微粒化和高精确度审核的技术。这种数据审核方案具有挑战性，但并非无法实现。

对于许多企业级供应商而言，配置和操作系统审计可能处于相对初级的阶段，但赛博安全防御小组正在大规模使用至少一种成熟且安全的解决方案来自动审计合规性并发现漏洞。系统中部署的自动审计程序能够使设备的配置和操作规程（即其战斗计划）可视化。然后，审计程序将深度分析与智能建模相结合，以创建有关结构漏洞、安全漏洞以及补救建议的准确信息。预先获取这类信息对未来人工智能驱动的自愈系统至关重要。

未来的安全和网络运营中心可以确保部署安全并快速建立虚拟化的智能安全审计模型，以确保从发电厂到军事基地的诸多系统始终做好防御准备，使重要的网络或系统免遭破坏。

自动扫描器和实时监控系统与配置审计工具的结合是人工智能平台的基础。人工智能平台能够通过模拟攻击并确定交战区域，借助扫描和压力测试系统实时获取外部数据；能够对网络流量进行实时监控以发现攻击；并作为当前防御措施及其弹性、战备状态和响应性等精确系统信息的统一平台。

随着自愈型基础设施的能力不断加强，可以对人工智能进行训练以使其预测和预防各种可能的赛博攻击，这类似于自动驾驶的车辆每次遇到新物体和环境时学会如何改进导航性能。凭借准确的数据和自愈能力，美国军方的统一平台可以提供快速、敏捷和精确的威胁检测和消解，从而打破与自主攻击者之间的均势状态并保持赛博空间的优势。

统一平台及其他类似的工作将需要赛博安全领域的用户、厂商和创新者之间进行通力合作。厂商需要制作具备互操作性的工具，以支持系统灵活性并新增更准确的数据源。用户也应该清楚共同的黄金标准，以便对赛博安全数据的可信度、可追溯性和准确性做出公正的评估。

一网打尽系列文章，请回复以下关键词查看：
创新发展：习近平 | 创新中国 | 创新创业 | 科技体制改革 | 科技创新政策 | 协同创新 | 科研管理 | 成果转化 | 新科技革命 | 基础研究 | 产学研 | 供给侧
热点专题：军民融合 | 民参军 | 工业4.0 | 商业航天 | 智库 | 国家重点研发计划 | 基金 | 装备采办 | 博士 | 摩尔定律 | 诺贝尔奖 | 国家实验室 | 国防工业 | 十三五 | 创新教育 | 军工百强 | 试验鉴定 | 影响因子 | 双一流 | 净评估
预见未来：预见2016 |预见2020  | 预见2025 | 预见2030  | 预见2035 | 预见2045  | 预见2050
前沿科技：颠覆性技术 | 生物 | 仿生 | 脑科学 | 精准医学 | 基因 |  基因编辑 | 虚拟现实 | 增强现实 | 纳米 | 人工智能 | 机器人 | 3D打印 | 4D打印 | 太赫兹 | 云计算 | 物联网 | 互联网+ | 大数据 | 石墨烯 | 能源 | 电池 | 量子 | 超材料 | 超级计算机 | 卫星 | 北斗 | 智能制造 | 不依赖GPS导航 | 通信 | 5G | MIT技术评论 | 航空发动机 | 可穿戴 | 氮化镓 | 隐身 | 半导体 | 脑机接口 | 传感器
先进武器：中国武器 | 无人机 | 轰炸机 | 预警机 | 运输机 | 直升机 | 战斗机 | 六代机 | 网络武器 | 激光武器 | 电磁炮 | 高超声速武器 | 反无人机 | 防空反导 | 潜航器
未来战争：未来战争 | 抵消战略 | 水下战 | 网络空间战 | 分布式杀伤 | 无人机蜂群 | 太空战 | 反卫星
领先国家：美国 | 俄罗斯 | 英国 | 德国 | 法国 | 日本 | 以色列 | 印度
前沿机构：战略能力办公室 | DARPA | 快响小组 | Gartner | 硅谷 | 谷歌 | 华为 | 阿里 | 俄先期研究基金会 | 军工百强
前沿人物：钱学森 | 马斯克 | 凯文凯利 | 任正非 | 马云 | 奥巴马 | 特朗普
专家专栏：黄志澄 | 许得君 | 施一公 | 王喜文 | 贺飞 | 李萍 | 刘锋 | 王煜全 | 易本胜 | 李德毅 | 游光荣 | 刘亚威 | 赵文银 | 廖孟豪 | 谭铁牛 | 于川信 | 邬贺铨
全文收录：2018文章全收录 | 2017文章全收录 | 2016文章全收录 | 2015文章全收录 | 2014文章全收录
其他主题系列陆续整理中，敬请期待……