美国国防部宣布正式采纳五项人工智能伦理原则

战略前沿技术

电话：010-58330898 手机：18501361766

微信：tech99999 邮箱：qianyanjun@techxcope.com

来源：从心推送的防务菌

作者：防务菌

2月24日，也就是昨天，美国国防部召开新闻发布会，首席信息官达纳·迪西（Dana Deasy）和国防部联合人工智能中心（Joint Artificial Intelligence Center，JAIC）主任杰克·沙纳汉（Jack Shanahan）中将联合对外宣布，国防部长马克·埃斯珀（Mark Esper）已指示正式采纳国防创新委员会（Defense Innovation Board，DIB）推荐的五项人工智能伦理原则。

这五项原则概述了美国在军事上使用人工智能将遵循的伦理情况，将适用于作战和非作战职能，并协助美军在人工智能领域履行法律、伦理和政策承诺，概括如下：

负责任的。国防部人员将保持适当级别的判断和关注水平，同时继续负责人工智能能力的开发、部署和使用。
公平的。国防部将采取深思熟虑的措施，最大限度地减少人工智能能力方面的意外偏差。
可追溯的。国防部的人工智能能力将得到开发和部署，以便工作人员对适用于人工智能的技术、开发过程和操作方法有适当的了解，包括透明和可审计的方法、数据源、设计过程和文档。
可靠的。国防部的人工智能能力将有明确、清晰的用途，这些能力的安全性、保障性和有效性将接受测试。
可控的。国防部将设计、策划人工智能能力，以实现其预期功能，同时具备检测和避免意外后果的能力，以及将表现出意外行为的已部署系统进行分离或停用的能力。

国防部联合人工智能中心将是协调国防部实施人工智能伦理原则的协调中心，中心目前领导并推动了一系列工作组，这些工作组向整个国防部的军种、人工智能和技术专家征求意见。沙纳汉在发布会上表示，采纳这些原则的决定将美国及其盟国与使用人工智能的对手区分开来。他说：“我与我们在欧洲的盟国和伙伴的对话表明，我们在有关在军事行动中道德和安全使用人工智能能力的原则方面有很多共同点。这与俄罗斯和中国形成鲜明对比，俄罗斯和中国将人工智能技术用于军事目的引起了对人权、道德和国际准则的严重关切”。同时，沙纳汉表示他已经履行了先前的承诺，在JAIC中聘用一名人工智能伦理学家，和其他JAIC工作人员请来国防部各人工智能负责人，一起制定实施方案。“这将是一个严格的过程，旨在建立一个持续的反馈循环，以确保国防部始终掌握人工智能领域的新技术和创新。我们的团队还将制定采购指导、技术保障、组织控制、风险缓解战略和培训措施”，沙纳汉表示。

这五条原则遵循了国防创新委员会在去年10月向国防部长马克·埃斯珀提出的建议。此前该委员会利用15个月的时间与商业界、政府、学术界和美国公众顶尖AI专家进行了多轮磋商后，提出了这些建议，在全美领先的AI专家中进行了严格的反馈和分析，并设有多个场所供公众发表意见。

沙纳汉将此前提交国防部的建议和国防部最终发布版本之间的大部分措辞差异描述为律师为确保文本适合国防部所做的修改，但他坚持认为，最终措辞保留了提交国防部建议的“精神和意图”。但是，对于那些关注军事人工智能发展的人来说，这些变化中的一些可能是有争议的。

例如，在国防创新委员会制定的“可控”原则中，是否包括明确要求人工智能系统有一种方式让人类去激活或脱离该系统。国防创新委员会的最终建议包括一个折衷方案，要求“手动或自动脱离、停用表现出意外升级或其他行为的已部署系统”能力。然而，最终的国防部发布版本里删除了这一措辞，并要求人工智能系统具有“脱离或停用表现出意外行为的已部署系统的能力。”

不过，沙纳汉强调，国防部的最终措辞有些部分比国防创新委员会的建议更进一步。他指出了“可追溯”原则，即所采用的措辞适用于所有“相关人员”，他说，这比董事会使用的“技术专家”的措辞范围限定要宽泛。

国防创新委员会主席、谷歌前董事长埃里克•施密特（Eric Schmidt）在一份声明中对此举表示赞赏。他说：“埃斯珀部长对人工智能的领导以及他为国防部发布人工智能原则的决定，不仅向国防部，而且向世界各国表明，美国和国防部致力于伦理操守，并将在确保民主国家负责任地采用新兴技术方面发挥领导作用。我也赞赏达纳·迪西和沙纳汉中将的领导，他们通过联合人工智能中心的工作来展示他们一直是这项工作的拥护者。”

达纳·迪西在新闻发布会上表示，这五条原则“为国防部的（人工智能）伦理设计、开发、部署和使用奠定了基础。我们感谢国防创新委员会提出的详尽而有见地的建议，这些建议在国防部人工智能伦理原则的采纳上起到了主导作用。在国防部使用人工智能技术所做的一切工作中，伦理仍然是最重要的，我们的团队将利用这些原则指导整个国防部人工智能能力的测试、部署和扩展。”

对于本次人工智能在军事上的应用伦理原则发布，国防部长马克·埃斯珀表示：“美国必须与我们的盟友和伙伴一道，加速采用人工智能，并在国家安全应用方面发挥领导作用，以维持我们的战略地位，在未来的战场上占上风，维护以规则为基础的国际秩序。人工智能技术将在未来战场上发生很大变化，但没有什么能改变美国对负责任和合法行为的坚定承诺。人工智能伦理原则的采用将增强国防部坚持《国防部人工智能战略》中所述最高伦理标准的承诺，同时也体现了美国军方在技术创新方面应用严格测试和部署标准的悠久历史。”

这些原则与特朗普政府推进可信赖人工智能技术的持续工作紧密结合。去年，特朗普发起了“美国人工智能计划”（American AI Initiative），这是美国人工智能领导国家战略，在保护公民自由、隐私和美国价值观的同时，促进人工智能的创新应用。

美国防部明确其人工智能伦理原则将以美国宪法、美国法典第10章、战争法、现有国际条约以及长期规范和价值观为基础，建立在美军现有伦理框架的基础上。虽然现有的框架提供了技术中立和持久的道德行为基础，使用人工智能提出了新的道德歧义和风险。这些原则解决了这些新挑战，并确保国防部负责任地使用人工智能。

一网打尽系列文章，请回复以下关键词查看：
创新发展：习近平 \| 创新中国 \| 创新创业 \| 科技体制改革 \| 科技创新政策 \| 协同创新 \| 科研管理 \| 成果转化 \| 新科技革命 \| 基础研究 \| 产学研 \| 供给侧
热点专题：军民融合 \| 民参军 \| 工业4.0 \| 商业航天 \| 智库 \| 国家重点研发计划 \| 基金 \| 装备采办 \| 博士 \| 摩尔定律 \| 诺贝尔奖 \| 国家实验室 \| 国防工业 \| 十三五 \| 创新教育 \| 军工百强 \| 试验鉴定 \| 影响因子 \| 双一流 \| 净评估
预见未来：预见2016 \|预见2020 \| 预见2025 \| 预见2030 \| 预见2035 \| 预见2045 \| 预见2050
前沿科技：颠覆性技术 \| 生物 \| 仿生 \| 脑科学 \| 精准医学 \| 基因 \| 基因编辑 \| 虚拟现实 \| 增强现实 \| 纳米 \| 人工智能 \| 机器人 \| 3D打印 \| 4D打印 \| 太赫兹 \| 云计算 \| 物联网 \| 互联网+ \| 大数据 \| 石墨烯 \| 能源 \| 电池 \| 量子 \| 超材料 \| 超级计算机 \| 卫星 \| 北斗 \| 智能制造 \| 不依赖GPS导航 \| 通信 \| 5G \| MIT技术评论 \| 航空发动机 \| 可穿戴 \| 氮化镓 \| 隐身 \| 半导体 \| 脑机接口 \| 传感器
先进武器：中国武器 \| 无人机 \| 轰炸机 \| 预警机 \| 运输机 \| 直升机 \| 战斗机 \| 六代机 \| 网络武器 \| 激光武器 \| 电磁炮 \| 高超声速武器 \| 反无人机 \| 防空反导 \| 潜航器
未来战争：未来战争 \| 抵消战略 \| 水下战 \| 网络空间战 \| 分布式杀伤 \| 无人机蜂群 \| 太空战 \| 反卫星
领先国家：美国 \| 俄罗斯 \| 英国 \| 德国 \| 法国 \| 日本 \| 以色列 \| 印度
前沿机构：战略能力办公室 \| DARPA \| 快响小组 \| Gartner \| 硅谷 \| 谷歌 \| 华为 \| 阿里 \| 俄先期研究基金会 \| 军工百强
前沿人物：钱学森 \| 马斯克 \| 凯文凯利 \| 任正非 \| 马云 \| 奥巴马 \| 特朗普
专家专栏：黄志澄 \| 许得君 \| 施一公 \| 王喜文 \| 贺飞 \| 李萍 \| 刘锋 \| 王煜全 \| 易本胜 \| 李德毅 \| 游光荣 \| 刘亚威 \| 赵文银 \| 廖孟豪 \| 谭铁牛 \| 于川信 \| 邬贺铨
全文收录：2017文章全收录 \| 2016文章全收录 \| 2015文章全收录 \| 2014文章全收录
其他主题系列陆续整理中，敬请期待……

一网打尽系列文章，请回复以下关键词查看：
创新发展：习近平 \| 创新中国 \| 创新创业 \| 科技体制改革 \| 科技创新政策 \| 协同创新 \| 科研管理 \| 成果转化 \| 新科技革命 \| 基础研究 \| 产学研 \| 供给侧
热点专题：军民融合 \| 民参军 \| 工业4.0 \| 商业航天 \| 智库 \| 国家重点研发计划 \| 基金 \| 装备采办 \| 博士 \| 摩尔定律 \| 诺贝尔奖 \| 国家实验室 \| 国防工业 \| 十三五 \| 创新教育 \| 军工百强 \| 试验鉴定 \| 影响因子 \| 双一流 \| 净评估
预见未来：预见2016 \|预见2020 \| 预见2025 \| 预见2030 \| 预见2035 \| 预见2045 \| 预见2050
前沿科技：颠覆性技术 \| 生物 \| 仿生 \| 脑科学 \| 精准医学 \| 基因 \| 基因编辑 \| 虚拟现实 \| 增强现实 \| 纳米 \| 人工智能 \| 机器人 \| 3D打印 \| 4D打印 \| 太赫兹 \| 云计算 \| 物联网 \| 互联网+ \| 大数据 \| 石墨烯 \| 能源 \| 电池 \| 量子 \| 超材料 \| 超级计算机 \| 卫星 \| 北斗 \| 智能制造 \| 不依赖GPS导航 \| 通信 \| 5G \| MIT技术评论 \| 航空发动机 \| 可穿戴 \| 氮化镓 \| 隐身 \| 半导体 \| 脑机接口 \| 传感器
先进武器：中国武器 \| 无人机 \| 轰炸机 \| 预警机 \| 运输机 \| 直升机 \| 战斗机 \| 六代机 \| 网络武器 \| 激光武器 \| 电磁炮 \| 高超声速武器 \| 反无人机 \| 防空反导 \| 潜航器
未来战争：未来战争 \| 抵消战略 \| 水下战 \| 网络空间战 \| 分布式杀伤 \| 无人机蜂群 \| 太空战 \| 反卫星
领先国家：美国 \| 俄罗斯 \| 英国 \| 德国 \| 法国 \| 日本 \| 以色列 \| 印度
前沿机构：战略能力办公室 \| DARPA \| 快响小组 \| Gartner \| 硅谷 \| 谷歌 \| 华为 \| 阿里 \| 俄先期研究基金会 \| 军工百强
前沿人物：钱学森 \| 马斯克 \| 凯文凯利 \| 任正非 \| 马云 \| 奥巴马 \| 特朗普
专家专栏：黄志澄 \| 许得君 \| 施一公 \| 王喜文 \| 贺飞 \| 李萍 \| 刘锋 \| 王煜全 \| 易本胜 \| 李德毅 \| 游光荣 \| 刘亚威 \| 赵文银 \| 廖孟豪 \| 谭铁牛 \| 于川信 \| 邬贺铨
全文收录：2017文章全收录 \| 2016文章全收录 \| 2015文章全收录 \| 2014文章全收录
其他主题系列陆续整理中，敬请期待……