美国国防创新委员会提出人工智能（AI）应用五项原则

2019年10月31日，国防创新委员会发布一项研究报告，向美国国防部提出了采用人工智能的原则清单，这有助于就在战斗和非战斗目的对AI和AI技术的道德使用进行持续的讨论。

“我们确实需要向将要使用这些系统的人们提供清晰的信息，我们需要向公众提供清晰的信息，以便他们理解我们在前进的过程中希望部门如何在世界范围内使用AI的情况”，Michael McQuade表示，他是卡内基·梅隆大学（Carnegie Mellon University）的研究员，也是国防创新委员会的成员，他主持了有关AI伦理学的讨论。

美国国防创新委员会是一个独立的联邦委员会，由学术界和工业界人士组成，负责向国防部领导层提供政策建议和意见。五角大楼不一定都采纳DIB的建议。

Michael McQuade表示：“我们只负责提供建议，是否采纳这些原则是国防部长的事情。”

这五项道德原则是该创新委员会进行的为期15个月的研究的结果，其中包括收集公众评论，举行听证会以及促进与AI专家的圆桌讨论。国防部还成立了国防部原则和道德工作组，以促进DIB的努力。

这些原则包括在机密环境中进行的压力测试，涉及使用红队，以了解它们如何与军方认为的AI在战场上的当前应用相抗衡。

在该报告中，人工智能被定义为“各种信息处理技术和用于执行面向目标任务的技术，以及在执行该任务时进行推理的手段”。

以下是该委员会确立的五项原则：

1. 负责任。人类应该行使适当的判断力，并对AI系统的开发、部署、使用和结果负责。

2. 公平。国防部应采取有步骤的措施，避免在战斗或非战斗AI系统的开发和部署中出现意料之外的偏差，这些偏差会无意对人员造成伤害。

3.可追溯。国防部的AI工程学科应足够先进，以使技术专家对其AI系统的技术、开发过程和操作方法有适当的了解，包括透明和可审核的方法、数据源以及设计过程和文档。

4. 可靠。人工智能系统应具有明确定义的使用范围，并且应在该使用范围内的整个生命周期内测试和确保此类系统的安全性、保密性和鲁棒性。

5.可管理。国防部AI系统的设计和工程设计应能够实现其预期功能，同时具有检测和避免意外伤害或破坏的能力，并能对显示出意外升级或其他行为的已部署系统进行人为或自动脱离或停用。

最终原则的文本在最后一刻进行了修改，以强调在造成意外伤害或其他不良行为的情况下，必须拥有让人类停用系统的方法的重要性。

Michael McQuade认为，人工智能伦理建议是建立在国防部已经采用的其他伦理标准之上的。

“我们有一定的基础，”麦奎德说。

他继续说道：“看到一个部门……对它如此认真地对待，真是令人振奋。” “这是一个领导全球对话的机会，这建立在我们是谁以及我们作为一个国家和部门如何运作的基础上。”

国防创新委员会建议五角大楼的联合人工智能中心应努力在国防部内部将这些原则正式化，并应建立AI指导委员会以确保任何军事AI项目均符合该道德标准。

除了这些建议之外，该委员会的报告还呼吁国防部增加对AI研究、培训、道德和评估的投入。

在过去的一年中，人工智能道德伦理已经成为军事和情报界越来越热门的话题。6月，情报界的监察长在一份报告中强调指出，没有足够的投资用于AI问责制。而且，在五角大楼，新成立的JAIC宣布将聘请AI伦理学家。

一网打尽系列文章，请回复以下关键词查看：
创新发展：习近平 \| 创新中国 \| 创新创业 \| 科技体制改革 \| 科技创新政策 \| 协同创新 \| 科研管理 \| 成果转化 \| 新科技革命 \| 基础研究 \| 产学研 \| 供给侧
热点专题：军民融合 \| 民参军 \| 工业4.0 \| 商业航天 \| 智库 \| 国家重点研发计划 \| 基金 \| 装备采办 \| 博士 \| 摩尔定律 \| 诺贝尔奖 \| 国家实验室 \| 国防工业 \| 十三五 \| 创新教育 \| 军工百强 \| 试验鉴定 \| 影响因子 \| 双一流 \| 净评估
预见未来：预见2016 \|预见2020 \| 预见2025 \| 预见2030 \| 预见2035 \| 预见2045 \| 预见2050
前沿科技：颠覆性技术 \| 生物 \| 仿生 \| 脑科学 \| 精准医学 \| 基因 \| 基因编辑 \| 虚拟现实 \| 增强现实 \| 纳米 \| 人工智能 \| 机器人 \| 3D打印 \| 4D打印 \| 太赫兹 \| 云计算 \| 物联网 \| 互联网+ \| 大数据 \| 石墨烯 \| 能源 \| 电池 \| 量子 \| 超材料 \| 超级计算机 \| 卫星 \| 北斗 \| 智能制造 \| 不依赖GPS导航 \| 通信 \| 5G \| MIT技术评论 \| 航空发动机 \| 可穿戴 \| 氮化镓 \| 隐身 \| 半导体 \| 脑机接口 \| 传感器
先进武器：中国武器 \| 无人机 \| 轰炸机 \| 预警机 \| 运输机 \| 直升机 \| 战斗机 \| 六代机 \| 网络武器 \| 激光武器 \| 电磁炮 \| 高超声速武器 \| 反无人机 \| 防空反导 \| 潜航器
未来战争：未来战争 \| 抵消战略 \| 水下战 \| 网络空间战 \| 分布式杀伤 \| 无人机蜂群 \| 太空战 \| 反卫星
领先国家：美国 \| 俄罗斯 \| 英国 \| 德国 \| 法国 \| 日本 \| 以色列 \| 印度
前沿机构：战略能力办公室 \| DARPA \| 快响小组 \| Gartner \| 硅谷 \| 谷歌 \| 华为 \| 阿里 \| 俄先期研究基金会 \| 军工百强
前沿人物：钱学森 \| 马斯克 \| 凯文凯利 \| 任正非 \| 马云 \| 奥巴马 \| 特朗普
专家专栏：黄志澄 \| 许得君 \| 施一公 \| 王喜文 \| 贺飞 \| 李萍 \| 刘锋 \| 王煜全 \| 易本胜 \| 李德毅 \| 游光荣 \| 刘亚威 \| 赵文银 \| 廖孟豪 \| 谭铁牛 \| 于川信 \| 邬贺铨
全文收录：2017文章全收录 \| 2016文章全收录 \| 2015文章全收录 \| 2014文章全收录
其他主题系列陆续整理中，敬请期待……

一网打尽系列文章，请回复以下关键词查看：
创新发展：习近平 \| 创新中国 \| 创新创业 \| 科技体制改革 \| 科技创新政策 \| 协同创新 \| 科研管理 \| 成果转化 \| 新科技革命 \| 基础研究 \| 产学研 \| 供给侧
热点专题：军民融合 \| 民参军 \| 工业4.0 \| 商业航天 \| 智库 \| 国家重点研发计划 \| 基金 \| 装备采办 \| 博士 \| 摩尔定律 \| 诺贝尔奖 \| 国家实验室 \| 国防工业 \| 十三五 \| 创新教育 \| 军工百强 \| 试验鉴定 \| 影响因子 \| 双一流 \| 净评估
预见未来：预见2016 \|预见2020 \| 预见2025 \| 预见2030 \| 预见2035 \| 预见2045 \| 预见2050
前沿科技：颠覆性技术 \| 生物 \| 仿生 \| 脑科学 \| 精准医学 \| 基因 \| 基因编辑 \| 虚拟现实 \| 增强现实 \| 纳米 \| 人工智能 \| 机器人 \| 3D打印 \| 4D打印 \| 太赫兹 \| 云计算 \| 物联网 \| 互联网+ \| 大数据 \| 石墨烯 \| 能源 \| 电池 \| 量子 \| 超材料 \| 超级计算机 \| 卫星 \| 北斗 \| 智能制造 \| 不依赖GPS导航 \| 通信 \| 5G \| MIT技术评论 \| 航空发动机 \| 可穿戴 \| 氮化镓 \| 隐身 \| 半导体 \| 脑机接口 \| 传感器
先进武器：中国武器 \| 无人机 \| 轰炸机 \| 预警机 \| 运输机 \| 直升机 \| 战斗机 \| 六代机 \| 网络武器 \| 激光武器 \| 电磁炮 \| 高超声速武器 \| 反无人机 \| 防空反导 \| 潜航器
未来战争：未来战争 \| 抵消战略 \| 水下战 \| 网络空间战 \| 分布式杀伤 \| 无人机蜂群 \| 太空战 \| 反卫星
领先国家：美国 \| 俄罗斯 \| 英国 \| 德国 \| 法国 \| 日本 \| 以色列 \| 印度
前沿机构：战略能力办公室 \| DARPA \| 快响小组 \| Gartner \| 硅谷 \| 谷歌 \| 华为 \| 阿里 \| 俄先期研究基金会 \| 军工百强
前沿人物：钱学森 \| 马斯克 \| 凯文凯利 \| 任正非 \| 马云 \| 奥巴马 \| 特朗普
专家专栏：黄志澄 \| 许得君 \| 施一公 \| 王喜文 \| 贺飞 \| 李萍 \| 刘锋 \| 王煜全 \| 易本胜 \| 李德毅 \| 游光荣 \| 刘亚威 \| 赵文银 \| 廖孟豪 \| 谭铁牛 \| 于川信 \| 邬贺铨
全文收录：2017文章全收录 \| 2016文章全收录 \| 2015文章全收录 \| 2014文章全收录
其他主题系列陆续整理中，敬请期待……