人工智能与国家安全——构建人工智能生态系统
人工智能与国家安全
——人工智能生态系统的重要性
远望智库技术预警中心 申元璋 王璐菲
2018年11月2日，美国智库战略与国际研究中心（CSIS）发布题为《人工智能与国家安全——人工智能生态系统的重要性》的报告（全文78页），阐释了人工智能（AI）生态系统的组成、当前人工智能投资情况、人工智能在国家安全领域中的应用等，并在分析人工智能生态系统构建必要性的基础上，为美国打造强健的人工智能生态系统提出了具体建议。
人工智能拥有影响全球经济和军事竞争的巨大潜力，但这一潜力尚未充分发挥出来。过去10年间，人工智能领域已初见成果，特别是快速发展的机器学习能力，以及日益经济可承受的计算能力。这些成果固然有其积极意义，但也使人们的注意力集中在了如何控制相关技术上，而掩盖了人工智能正处于早期发展阶段、只能解决特定问题等事实；它强调了私营企业推动人工智能领域发展的巨大能力，掩盖了政府投资和参与人工智能未来成功及其国家安全应用的重要性；它也掩盖了建立强健的人工智能生态系统的重要性。
人工智能生态系统对于人工智能的成功应用至关重要，指的是使用和管理人工智能的配套能力，包括：人工智能技术人才和管理人才；获取、处理和利用数据的数字能力；人工智能相关信任、安全性、可靠性的技术基础；人工智能技术蓬勃发展所需要的投资环境和政策框架。
2010年以来，人工智能研究投资呈爆炸式增长。这些投资主要来自私营部门，特别是美国和中国的技术巨头。虽然人工智能的整体发展仍处于初级阶段，但相关投资热潮已在语音识别、图像识别、翻译、复杂游戏等领域收获了极大的回报，也促进了生产力提高从而给经济领域带来了变化。不过，当前的人工智能仍然只能解决特定问题，并具有背景依赖性；人们很难将一些领域的人工智能进步转化到其他领域。
商业公司可以通过重点投资于进步最快、忽略进步较慢的人工智能技术和问题，实现其商业目标。因此，商业投资将继续推动人工智能领域向前发展，但这些投资却远远不够。
政府在人工智能投资中仍将发挥重要作用，包括：投资于对私营领域而言不具备快速投资回报率的技术领域；为关键的政府和国家安全应用开发确立人工智能可靠性（包括信任、可解释性、检验、认证和安全）的工具；构建和加强人工智能生态系统。
如今，人工智能已成为一个热词，各方都宣称自己正在发展和使用人工智能。然而，鉴于人工智能对人类及其生活的潜在影响这一问题日益敏感，人们很难就商业部门和公共部门在多大程度上真正实现了人工智能应用达成一致。事实上，成功应用人工智能需解决人才和技术基础设施短缺、技术难题、管理问题， 为克服这些挑战，美国开始必要的投资、重点管理和政策工作。
人才和技术基础设施短缺
对于很多潜在的人工智能用户而言，要想实现人工智能的成功应用，必须首先解决两方面突出问题：一是人才短缺问题，即无法吸引和留住人工智能技术开发方面和相关管理方面的人才；二是技术基础设施短缺问题，即数据能力、运算网络能力等数字能力薄弱。这两方面正是美国政府及美国防部实现人工智能应用需跨越的障碍。
技术难题
人工智能仍然仅能解决特定问题并具有严重的背景依赖性，这意味着，人工智能当前执行的是有限的任务，通过嵌入到较大型系统来发挥作用。作为一种处于早期发展阶段的技术，人工智能促成的能力提高微不足道，这意味着，迫切将人工智能投入使用的当前用户面临着巨大的前期成本，效益不大。
管理问题
许多用户所执行的任务涉及人类生命或高昂设备风险，因此在依靠人工智能来执行任务之前要首先解决人工智能可靠性问题。在私营领域，许多责任和知识产权相关法律问题尚未得到充分研究；在公共部门，大量关键任务尚无明确途径确保人工智能的可靠性。以上都是人工智能管理挑战，只有建立了配套的人工智能生态系统，人工智能用户才能在这些 方面得到满足。虽然人工智能生态系统的大部分可以也将在私营部门中发展起来，但这对很多政府用户特别是国家安全用户来说，只是必要因素而非充分因素。
信任方面，人工智能透明度的重要性和必要性因具体的人工智能应用而定；人工智能的算法、数据和结果都必须可信；用户必须能理解人工智能系统可能被愚弄的机制。
安全性方面，为打造强大且富有弹性的数字化能力，需要在研发、操作和安全之间进行平衡；在各机构中树立网络风险管理文化与网络安全负责制至关重要。
人员与文化方面，使用人工智能需要具备相关领域专业知识、接受过技术训练且拥有合适工具的工作人员；各机构必须培养数据卓越文化。
数字能力方面，为了成功运用人工智能技术，各机构必须打造基本的数字能力；通过信息和分析获得竞争优势，需要包括上至总部下至部署作战人员在内的整个系统的全力投入。
政策方面，一是必须制定伦理方面的政策和标准，指导人工智能技术的应用。二是美国政府必须通过一系列政策措施来加强自己的人工智能生态系统：改革人员雇用权限和安全许可流程，以更好地招募和利用人才；改变软件开发方面的预算措施，以提升政府采购和迭代开发软件的能力；与业界进行全面接触与合作，除了利用技术巨头和国防工业巨头外，还要利用中小型数据科学公司；投资于处在早期阶段的研发工作，尤其是那些需要联邦政府支持的领域；开发可解决人工智能可靠性问题的工具。三是美国政府必须认识到国际社会在人工智能方面的活动，并采取措施：保护美国及伙伴国的私营部门人工智能生态环境，使其免遭攻击，免受有害投资的影响；利用伙伴国的资源，主要手段包括：与拥有共同目标、设备和数据共享协议的伙伴合作，同时在与拓展新伙伴时，也要注意打造这些共同性。
在理解人工智能对国家安全的影响方面，我们仍处于早期阶段。本报告的主要目标之一正是，在准确了解人工智能领域发展现状、人工智能使用和管理所涉关键因素的基础上，确定国家安全应用集成人工智能技术需采取的关键措施。为实现这一目标，未来需围绕以下问题开展分析：
如何更好地打造强健的人工智能生态系统
构建强健的人工智能生态系统以解决人力和技术基础设施两方面短缺问题非常重要。《约翰·麦凯恩2019财年国防授权法案》提出对国防部人事管理系统进行重大改革，从而为招募和留住人工智能技术人才提供了人事工具，进一步的研究可指导国防部使用这些工具，提出对招募对象最具价值的刺激措施；并有助于发现并有效解决推进政府人工智能生态系统所必须解决的关键基础设施短缺。
如何改进软件采购方法
这方面的研究已在开展中。美国防科学委员会近期完成了一项相关研究，国防创新委员会正在进行进一步的研究。在此方面，未来仍有研究空间的潜在方面是：如何为迭代软件开发确定一套成功且持久的商业模式，使政府及其私营部门软件开发伙伴均能获得激励。对于成功的人工智能采购而言，理解人工智能非常重要，检验和认证人工智能的性能也非常重要，国防分析研究所已在相关方面开展了重要研究，后续还要开展很多理论层面和实践层面的工作。
如何解决人工智能相关法律问题
关于如何问责人工智能性能故障和使用人工智能带来的负面效果，目前的研究尚少；关于人工智能所创造知识产权的所有权问题，目前也缺乏明确的法律规定。此外，人工智能相关伦理问题也是未来需要研究的一个重要问题，包括如何确保人工智能的使用不违反战争法、尊重人权，还包括如何保护个人隐私及人的自主权。
| 一网打尽系列文章，请回复以下关键词查看： | ||
|---|---|---|
| 创新发展：习近平 | 创新中国 | 创新创业 | 科技体制改革 | 科技创新政策 | 协同创新 | 科研管理 | 成果转化 | 新科技革命 | 基础研究 | 产学研 | 供给侧 | ||
| 热点专题：军民融合 | 民参军 | 工业4.0 | 商业航天 | 智库 | 国家重点研发计划 | 基金 | 装备采办 | 博士 | 摩尔定律 | 诺贝尔奖 | 国家实验室 | 国防工业 | 十三五 | 创新教育 | 军工百强 | 试验鉴定 | 影响因子 | 双一流 | 净评估 | ||
| 预见未来：预见2016 |预见2020 | 预见2025 | 预见2030 | 预见2035 | 预见2045 | 预见2050 | ||
| 前沿科技：颠覆性技术 | 生物 | 仿生 | 脑科学 | 精准医学 | 基因 | 基因编辑 | 虚拟现实 | 增强现实 | 纳米 | 人工智能 | 机器人 | 3D打印 | 4D打印 | 太赫兹 | 云计算 | 物联网 | 互联网+ | 大数据 | 石墨烯 | 能源 | 电池 | 量子 | 超材料 | 超级计算机 | 卫星 | 北斗 | 智能制造 | 不依赖GPS导航 | 通信 | 5G | MIT技术评论 | 航空发动机 | 可穿戴 | 氮化镓 | 隐身 | 半导体 | 脑机接口 | 传感器 | ||
| 先进武器：中国武器 | 无人机 | 轰炸机 | 预警机 | 运输机 | 直升机 | 战斗机 | 六代机 | 网络武器 | 激光武器 | 电磁炮 | 高超声速武器 | 反无人机 | 防空反导 | 潜航器 | ||
| 未来战争：未来战争 | 抵消战略 | 水下战 | 网络空间战 | 分布式杀伤 | 无人机蜂群 | 太空战 | 反卫星 | ||
| 领先国家：美国 | 俄罗斯 | 英国 | 德国 | 法国 | 日本 | 以色列 | 印度 | ||
| 前沿机构：战略能力办公室 | DARPA | 快响小组 | Gartner | 硅谷 | 谷歌 | 华为 | 阿里 | 俄先期研究基金会 | 军工百强 | ||
| 前沿人物：钱学森 | 马斯克 | 凯文凯利 | 任正非 | 马云 | 奥巴马 | 特朗普 | ||
| 专家专栏：黄志澄 | 许得君 | 施一公 | 王喜文 | 贺飞 | 李萍 | 刘锋 | 王煜全 | 易本胜 | 李德毅 | 游光荣 | 刘亚威 | 赵文银 | 廖孟豪 | 谭铁牛 | 于川信 | 邬贺铨 | ||
| 全文收录：2018文章全收录 | 2017文章全收录 | 2016文章全收录 | 2015文章全收录 | 2014文章全收录 | ||
| 其他主题系列陆续整理中，敬请期待…… |