The Locality Gap: Bell-Inequality Audits for Covert Coordination Between Ostensibly Isolated AI Agents

在人工智能领域，一种日益增长的担忧让监管机构和安全专家彻夜难眠：那就是计算机程序在设计之初被赋予独立行动的能力后，可能会在暗中学会协同工作。想象一下，由竞争对手运行的两个定价算法。它们理应仅根据自身数据设定价格，但如果它们找到了某种相互传递信号的方法呢？例如，通过微妙地调整价格来发送隐藏信息。这被称为“算法共谋”（algorithmic collusion），且极难被察觉。传统的检测方法侧重于寻找代理输出中的统计模式，但这些方法往往会失效。如果两个代理是在同一个大规模数据集上训练的，或者从相同的随机数开始，即使它们从未交谈过，也会自然而然地产生相似的结果。这为审计人员制造了一个盲点：他们无法区分两个代理是因为共同的历史而思维趋同，还是在实时进行秘密串通。

为了解决这个问题，研究员阿尔弗雷多·梅雷特（Alfredo Merlet）提出了一种新的测试方法，借鉴了物理学中最深奥的理念之一。这个想法源于20世纪30年代阿尔伯特·爱因斯坦与量子物理学家之间的一场著名辩论。爱因斯坦不喜欢两个遥远的物体在没有任何物理连接的情况下可以瞬间相互影响的想法，称之为“远距离的幽灵作用”。后来，物理学家约翰·贝尔（John Bell）通过数学证明，如果两个系统是真正孤立的，且仅共享来自过去的信息，那么它们在回答随机问题时的协调程度存在一个严格的极限。如果它们超过了这个极限，就说明它们不可能在没有通信的情况下做到这一点。梅雷特意识到，这一物理定律可以转化为审计人工智能的工具。通过向两个AI代理询问一系列随机且私密的问题，并检查它们的答案是否过于完美地协调，审计员可以在不需要了解AI内部运作机制的情况下，检测出秘密通信。

该研究通过一系列计算机实验对这一想法进行了测试。首先，研究者创建了人工神经网络对，这是现代人工智能的构建模块。这些代理被赋予了共同的历史：它们在相同的数据上进行训练，使用相同的随机种子启动，并被允许共享一个充当共同记忆的隐藏变量。然而，它们在测试期间被严禁进行通信。随后，审计员向每个代理发送一个随机问题并要求其给出简单的回答。目标是观察这些代理是否能实现比物理定律所允许的孤立系统更高的协调性。结果非常明确，有力地支持了该理论：无论代理多么复杂，或者它们如何努力最大化协调性，它们都从未突破那个极限。即使这些代理经过专门训练以模仿量子粒子的行为（量子粒子以其“幽灵”连接而闻名），它们仍然无法超越该界限。这证实了该测试是一个可靠的过滤器：如果代理确实是孤立的，它们就会保持在极限之内，无论它们拥有多少共同的训练背景。

接着，研究者引入了一个受控的缺陷，以观察测试对秘密通道的反应。在这些实验中，代理之间开启了一条微小的隐藏通信线路，允许它们在极小比例的回合中共享单一信息。随着这种秘密泄露频率的增加，代理协调答案的能力以一种完全可预测的方式提升。然而，研究发现了一个关键的细微差别：对于低于某个阈值（约41.4%）的泄露，产生的协调得分会产生与量子纠缠无法区分的值，这意味着它们超过了经典极限，但在理论上可以被解释为由共享的量子资源而非仅仅是泄露所致。只有当泄露率超过这个阈值时，得分才会明显超越量子界限。研究还计算了捕捉不同规模泄露所需的询问轮数。为了以高置信度检测到仅发生一次百分比的泄露，审计需要运行大约185,000轮。虽然这是一个庞大的数字，但对于每秒能运行数千次测试的自动化系统来说是可行的。

然而，研究也揭示了一个关键弱点，这个弱点不在于代理本身，而在于执行测试的人。整个审计逻辑取决于问题是否具有真正的随机性和不可预测性。如果执行测试的人使用可预测的方法生成问题——例如一个重复模式的简单计算机程序或固定时间表——代理就能学会预判问题。在实验中，当审计员使用可预测的生成器时，代理能够完美地协调它们的答案，从而突破极限并触发虚假警报，尽管它们从未进行过实际通信。这是因为代理可以利用问题的模式来协调它们的响应，从而有效地绕过了测试，而并未违反隔离规则。研究表明，使用高质量的加密随机数生成器至关重要。如果没有它，测试将变得毫无意义，因为它无法区分一场秘密的阴谋与基于可预测模式的聪明猜测。

这些发现为监管人工智能提供了一条新路径，特别是在定价或竞争性市场等领域。该测试提供了一种方法，可以将“默契并行”（即代理因学习相同数据而表现相似）与实际的“共谋”（即通过通信来协调行动）区分开来。需要注意的是，这项研究完全是在使用简单神经网络的模拟环境中进行的，而非针对现实世界的大型语言模型或已部署的商业系统。研究结果证明了该概念在受控环境下是有效的，但将其应用于复杂的互联网现实世界则需要谨慎的适配。该研究并不声称已经解决了算法共谋的问题，但它提供了一个严谨的数学工具，可用于审计疑似存在通信行为的系统。

最终，这项研究强调，此类审计的可靠性完全取决于审计者的诚信。研究中的代理并非失败者；当问题的随机性受到损害时，测试才宣告失败。这反映了数十年前物理学中吸取的教训：要证明两件事物没有联系，你必须确保测试它们的方式完全不存在隐藏模式。如果问题是真正随机且私密的，测试就能揭示出任何共同训练都无法掩盖的秘密通道。如果问题是可预测的，测试就会变成一面镜子，将审计者自身缺乏随机性的特征反射回来。研究结论指出，为了使这一工具在现实世界中发挥作用，探测代理时所使用的随机性必须与其试图寻找的秘密一样安全。