摘要

拒绝和欺骗（D&D）技术利用错误信息和对手的认知偏差，长期以来一直是混合作战的一部分。这种战术给传统上由人类分析员制作的情报、监视和侦察（ISR）产品带来了不确定性和怀疑。在一个由人工智能（AI）扩散主导的未来战斗空间中，算法生成的ISR产品数量可能会增加。因此，D&D战术将越来越多地被颠覆人类而非机器推理的需要所驱动。对抗性机器学习（AML）的发展，即对欺骗性人工智能的研究，对未来混合作战空间中的实践状态有重大影响。**本文回顾了对抗性机器学习技术之间的关键区别，以及它们对敌方对作战人工智能的了解和访问做出的假设。然后，我们总结了我们团队最近与混合作战有关的几个对抗机器学习研究方向：对成像系统的物理对抗性攻击，数据中毒攻击，以及AML与设计强大的人工智能系统的相关性。

引言

混合战争指的是使用颠覆性的、非军事的手段来推进民族国家的利益，特别是俄罗斯近年来采用的技术，在不诉诸公开的、常规的军事行动的情况下占领领土并影响各国的政治和政策[1]。所采用的混合战术包括网络攻击、动员智能体团体采取行动、施加经济影响以及其他秘密措施。由于混合作战存在于常规军事冲突和平民生活之间的 "灰色地带"，因此战术上采用了拒绝和欺骗（D&D），通过利用民众或敌对势力的认知偏差来迷惑、威慑或影响理想的行为。D&D战术在常规战场上的历史使用是有据可查的[3]。有效的D&D技术通过对依赖人类专家分析的军事情报、监视和侦察（ISR）产品产生怀疑而获得成功。在混合军事行动中，情况不一定如此，在混合军事行动中，D&D也可能试图影响平民的看法。此外，随着人工智能（AI）成为国家军事投资战略的重点（如[4]和[5]），以及商业信息技术部门越来越多地采用人工智能[6]，人工智能在未来的 "灰色地带 "可能会无处不在。因此，我们必须考虑在未来由人工智能的使用主导的混合战斗空间中可能存在的D&D威胁。

当前的人工智能能力是由机器学习的进步所带来的，特别是在深度学习这个子领域，在过去的10年里。机器学习（ML）涉及将系统的输入映射到预测结果的问题，例如，将车辆的图像映射到一个类别的标签。通常情况下，这是在大型数据集中通过统计模式识别实现的。深度学习具体涉及到多层神经网络的使用，它是具有数百万自由参数的高度非线性回归模型，作为模式识别的统计模型。虽然深度网络在各种任务上的表现优于人类（最著名的是图像分类[7]），但在诸如[8]和[9]等作品中观察到它们容易被愚弄之后，对抗性机器学习（AML）领域作为一个活跃的研究领域出现了。许多作者指出，ML算法所犯的错误可能会在民用领域产生严重后果[10]-[15]。我们也认为必须提出类似的担忧，即军事人工智能系统在常规战场和混合战斗空间中的脆弱性。

本文的其余部分组织如下：第2.0节将提供关于对抗性机器学习的进一步背景介绍，以及我们认为目前在解决其与混合军事行动的相关性方面存在的差距。在第3.0节中，我们描述了约翰霍普金斯大学应用物理实验室（JHU/APL）目前正在进行的三项研究工作，以解决这些知识差距。最后，我们在第4.0节中做了总结性发言，并总结了我们到目前为止的发现。

图 6. AI 开发周期（圆形流程图）和采用机器学习的典型算法步骤（橙色大框）。

专知便捷查看

便捷下载，请关注专知人工智能公众号（点击上方蓝色专知关注）

• 后台回复“AML6” 就可以获取 《对抗性机器学习和未来混合作战空间》美国约翰霍普金斯大学应用物理实验室 专知下载链接

• 
  

• 欢迎微信扫一扫加专知助手，咨询使用专知，定制服务合作！

•