人工智能对情报分析的影响

ZJQ 情报分析师

【摘要】本文是节选自《Intelligence and National Security》杂志，

迄今为止，大多数关于情报技术的文章都集中在情报收集方面:这些技术将如何导致对外部世界加强监视。在本文的重点是情报的分析方面。具体来说，我们感兴趣的是工作情报从业者对于这些技术未来在他们工作场所的潜在使用的看法。我们的目标有三个方面:(1)研究工作情报从业者如何看待这些用于情报分析的大数据/人工智能技术;(2)探索情报分析人员对这些技术的关注;(3)询问我们现在如何将这些观点作为未来规划、开发和部署这些技术的一个新的设计过程的一部分。

一、数据来源

我们对有使用这些正在开发中的大数据/人工智能原型经验的情报从业者进行了半结构化的采访(n = 12)，这些人是我们通过专业关系认识的。我们的数据是通过为期两周的访谈(长达2.5小时)收集的。在我们的受访者中，目前被确定为分析师的有6人(网络、语言、情报、威胁和问题);然而，所有人都有分析IC经验和其他专业领域包括管理、研究、经验科学、教育和情报处理/编辑。总的来说，他们之前在美国情报界的工作经验为10-40年(平均23年)，并将可观察到的技术变革作为他们情报工作生涯的一部分。

二、合作共享存在的问题

本节将探讨我们访谈中强调的一种持续的紧张关系——合作的需要，以及保护和控制信息的需要。目前正在开发的几个新的大数据/人工智能平台旨在通过增加信息处理和传输，实现协同工作，从而更好地实现情报从业者之间的协作——无论是在一个单位或机构内，还是跨机构。

9/11委员会得出结论说，如果当初来自各个机构的数据能够迅速地整合和分析的话，9/11悲剧也许就可以避免了而且，在2003年伊拉克战争之前，由于缺乏信息整合，情报委员会对伊拉克所谓的大规模杀伤性武器做出了一系列错误的评估。

2007年，ODNI发布了情报共同体指令(ICD) 651，随后在2008年发布了ICD 656，该指令将协作描述为IC从业者的关键优先事项和能力ODNI指出，情报集成机构必须“发展成为一个真正的情报企业，建立在共享服务、以任务为中心的行动和综合任务管理的协作基础上，所有这一切都是通过人员、思想和活动的顺畅流动，跨越情报社区成员的边界实现的”因此，15年来，美国情报领导人一直呼吁所有情报机构内部和各机构之间加强合作，采取更加一体化的行动;在此期间，一些情报学者也指出了这种需要新的计算技术被视为实现更好的协作和信息共享的重要组成部分。

虽然大多数受访者称赞情报合作的改善是积极和必要的，以及新技术是如何帮助实现这一点的，但大多数人也谈到了阻碍合作和开放的文化和制度力量。情报委员会为确保保密、保护信息来源和方法而制定的完善的结构化机制，创造了不利于公开和合作的固有条件。例如，拥有绝密权限的分析师可以拥有特定于某个程序或问题的额外码字权限，这可能会妨碍与没有类似权限的其他分析师共享信息。

对于情报合作来说，更难以解决的问题是存在的社会障碍。我们的采访和其他发表的工作强调的是，技术本身并不能解决情报领域的合作和信息共享问题。这些文化和规范可能会成为在情报工作中采用大数据/人工智能协作特性的重大障碍。

三、算法如何做出决策和问责制度

人们希望更好地了解人工智能系统中的算法是如何做出决策的，以及在出现错误时如何被追究责任。在本节中，我们将讨论算法透明度和问责制，它们是不同但相互关联的术语。我们借鉴了美国计算机协会(U.S. Association for Computing Machinery)对这些原则的定义，将其统称为一组七个原则:

(1)意识到算法中的潜在偏见;(2)采用能够通过算法对不利影响进行质询和纠正的机制;(3)由托管机构对算法做出的决策负责;(四)对算法所遵循的程序和作出的具体决策作出说明;(5)包括训练数据收集方式的描述，同时探索由人类或算法数据收集过程引起的潜在偏差;(6)允许对模型、算法、数据和决策进行审计;并且(7)使用严格的方法来验证模型并记录这些方法和结果

因而需要一个“releasability”或“草案”功能在这些类型的技术来帮助沟通材料的准备和控制谁可以看到,当从notes /数据集仅作者可见,团队成员,同辈群体,或以适当的访问更广泛的受众。

分析人士还担心，在不了解工具的假设和算法的情况下，过分相信这些技术可能会导致分析错误。情报分析员想要确保错误和偏差不会被引入到数据输出中，包括这些算法是如何构造的，所使用的训练数据的种类，以及在整个过程中可能引入的各种技术限制本质上，Jennifer和我们采访过的其他分析师希望这些新的计算系统具有某种算法透明度和问责性，这样他们就可以相信自己的输出和输入是准确和可解释的。

四、结论

随着技术的变化，如何处理规范将随着时间的推移而演变，并涉及各种技术、社会和组织干预。这些干预措施必须灵活，以适应智能分析中不同类型的工作环境和工作流程，因为它们随着技术和分析工作的共同构建而经历变革。

本期编辑：ZJQ

如有侵权，请联系管理员删除

有更多内容在“情报学院”知识星球👇