当我们谈论让人联想到暴力极端主义组织的非国家行为者时，它应该包括大型跨国公司，它们非常处于开发这项技术的最前沿。

国防和安全研究组织兰德欧洲助理主任詹姆斯·布莱克（James Black）在向委员会发表讲话时表示：“从不扩散的角度来看，很多东西都很难控制，因为它固有的基于软件的性质。我们现有的许多出口管制和不扩散制度都非常关注老式的传统硬件：导弹，发动机，核材料。

(相关资料图)

一个额外的不确定性是，对于敌对的非国家行为者如何使用基于人工智能的武器，没有既定的“战争游戏”理论。

兰德公司于1945年根据与道格拉斯飞机公司签订的特殊合同，最初是美国政府的一个单位，但很快就发展成为一家独立的非营利性公司，旨在以科学严谨的态度改善政策制定。它是将博弈论应用于冷战核武器扩散的领导者之一。

布莱克说：“关于升级的问题：总的来说，我们没有特别好的理论来理解如何阻止非国家行为者。许多威慑理论是从冷战时期苏联、美国和西方的核威慑演变而来的。考虑非国家行为者的方式并不相同，特别是那些拥有非常分散、松散的非等级网络指挥结构的行为者，这些结构不适合以与传统的自上而下的军事对手相同的方式产生影响。

他说，人工智能增强武器的情况与早期的军事分析不同，因为私营部门远远领先于政府研究，而物理威胁并非如此。

“国防领域的创新中心，特别是在这一领域，已经从公共部门转移到私营部门。当我们谈论非国家行为者时，它们让人联想到暴力极端主义组织的形象，但它应该包括大型跨国公司，它们非常处于开发这项技术的最前沿。这不像早期的计算或喷气发动机，后者在很大程度上来自政府资助的实验室。这是私营部门正在引领潮流的地方，因此正在塑造关于治理类型以及可用实际能力的辩论。

即使政府能够制定旨在遏制人工智能增强武器扩散的立法，也会有巨大的动机作弊，伦敦国王学院战略教授肯尼斯佩恩告诉委员会。

“如果你有军备控制，你需要有一些验证过程，”他说。“但开发人工智能的签名很小。例如，你不需要这些铀浓缩设施。你说的是有计算机和科学家的仓库。你如何监测可能背离军备控制制度的情况？如果你认为这些技术赋予了深远的军事优势，那么在监管上作弊的动机就会有很大的动力。这让我有点不舒服...我对监管的前景持怀疑态度。

上个月，数百名计算机科学家、科技行业领导者和人工智能专家签署了一封公开信，呼吁暂停至少六个月的人工智能系统训练，训练比GPT-4更强大。签署者包括苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、SpaceX首席执行官埃隆·马斯克（Elon Musk）和IEEE计算先驱格雷迪·布奇（Grady Booch）。

但暂停的前景是完全不现实的，佩恩说。“这反映了社会对人们认为正在向他们走来的快速变化步伐的不安程度。但我不认为这是一个现实的主张。 ®

关键词：