How to Catch a GPU: A Taxonomy of Verification and Enforcement Mechanisms for International AI Agreements

想象一下，人工智能的世界就像一个规模宏大、赌注极高的建筑工地，工程师们正在那里建造数字巨人。这些被称为“前沿人工智能模型”的巨人力量如此强大，以至于如果落入坏人之手或失控运行，可能会造成灾难性的后果。为了确保每个人都安全，各国正试图编写一本全球性的规则手册，上面写着：“任何人都不允许建造超过一定尺寸的巨人。”但棘手之处在于：你如何实际检查某人是否遵守了规则？你不能只是礼貌地询问，也不能窥视世界上每一台计算机。你需要一种方法来抓住那些试图将一台巨大的机器偷偷藏进一个小小的、隐蔽的棚屋里的坏人。这就是“验证与执行”的挑战：确保规则不仅仅是纸上的文字，而是能在现实世界中真正发挥作用的东西。

这篇题为《如何捕捉一块 GPU》（How to Catch a GPU）的论文，扮演着这些国际人工智能协议的“侦探指南”。作者 Raymond Koopmanschap 和 Otto Barten 将“抓捕违规者”这一宏大问题分解成了三个更小、更易处理的任务。他们认为，要阻止违规行为，你必须做三件事：阻止人们偷窃建筑材料（计算机芯片）；确保那些正在遵守规则的人不会秘密开始建造一个巨人；以及——最重要的一点——找到坏人隐藏机器的秘密棚屋。

作者提出了一种看待这些问题的新方式，建议随着技术变得更好、更便宜，那些“巨人”机器会变得越来越小。最终，一个危险的人工智能可以装进一个集装箱，甚至是一个小房间里。论文分析了专家的各种提议，并发现虽然我们在阻止人们偷窃芯片和监视那些本应守规矩的人方面有很好的想法，但我们在寻找坏人隐藏机器的秘密棚屋方面却表现得很糟糕。作者指出，随着所需计算能力的下降，寻找这些隐藏设施将变得几乎不可能。他们定义了一个“临界点”——即我们目前的寻找秘密的方法停止起作用时的特定规模。他们发现，虽然我们可能能够追踪大型工厂，但一旦秘密实验室缩小到大约一个小型仓库的大小（约 1 万块高端显卡），它就很难与普通建筑区分开来，而且如果坏人努力隐藏，我们可能永远也找不到它。

三部分侦探游戏

为了理解作者是如何解决这个问题的，请想象你正试图阻止某人在车库里制造一辆超高速赛车。论文将“交通警察”的工作分解为三个截然不同的游戏：

1. “不要偷零件”游戏（防止不受控制的资源获取）
这是关于阻止坏人获得他们所需的特殊发动机零件。在人工智能领域，这些“零件”是训练人工智能所需的强大计算机芯片（GPU）。作者指出，目前制造这些芯片就像烘焙一种非常特殊且复杂的蛋糕；世界上只有少数几家烘焙坊拥有合适的烤箱。因为制造这些芯片的地方很少，所以追踪它们其实相当容易。如果你盯着这些烘焙坊，你就知道每块“蛋糕”去了哪里。论文建议，只要供应链保持这种集中状态，我们很可能阻止人们从工厂偷运芯片。即使“赛车”变得更小，这些零件依然难以在不引起世界注意的情况下获取。

2. “不要在车库里作弊”游戏（防止脱离控制机制）
这个游戏是针对那些正在遵守规则的人。想象一个被允许制造小型汽车的工厂。警察想要确保他们不会在同一个工厂内秘密开始制造被禁止的超级赛车。论文建议，如果我们在这类获准运营的工厂内部安装摄像头、传感器和检查员，我们就能在他们试图作弊时抓住他们。作者认为这实际上是最容易解决的部分。如果一个工厂试图建造禁忌机器，我们只需切断整个建筑的电源。这就像有一个总开关可以关掉房间里的灯；如果有人在做不该做的事情，你只需按下开关。无论机器是大是小，只要它还在我们监控的房间内，这套方法都有效。

3. “寻找秘密棚屋”游戏（检测隐藏容量）
这是最难的游戏，也是论文中提到的事情开始崩溃的地方。这是关于寻找那些在警察甚至不知道存在的棚屋里制造超级赛车的坏人。作者解释说，目前的大型人工智能工厂很容易被发现。它们规模巨大，消耗大量电力，并且拥有看起来像工业烟囱的巨大冷却塔。你甚至能从太空看到它们！

然而，论文警告说，随着人工智能变得更加聪明，它将需要更少的功率来完成同样危险的任务。以前需要整个仓库才能运行的机器，很快可能就能装进一个集装箱里。

• 临界点： 作者计算出，一旦设施缩小到大约 10,000 块高端芯片（具体为 H100 等效芯片），它就不再看起来像一个秘密工厂，而开始看起来像一栋普通的办公楼或仓库。
• 消失术： 在这个规模下，冷却系统会变得足够小，从而融入普通的空调系统中；其用电量看起来也就像大型超市或医院一样正常。
• 主动隐藏者： 如果坏人试图故意隐藏（使用“主动隐匿”手段），论文指出，在 10,000 到 100,000 块芯片的规模区间内，我们可能无法找到这些设施。它们可能位于地下室、仓库或集装箱中，而我们的卫星和电力监测设备只会看到一栋正常的建筑。

为什么这很重要

论文总结道，虽然我们在监视已知工厂和阻止人们偷窃芯片方面有很好的计划，但我们缺少一个寻找秘密设施的计划。作者建议，如果我们不设法找到这些更小的、隐藏的实验室，整个国际人工智能规则体系可能会失败。这就像是一个限速标志对大型卡车非常管用，但如果一辆微型快速摩托车可以溜过摄像头，那么规则并不能真正保障道路安全。

作者并不是说我们要放弃，而是说我们需要把精力集中在“寻找秘密棚屋”的问题上。他们指出，随着技术的进步，所需的“禁忌机器”的体积会变得越来越小，这会让“躲藏游戏”变得更加困难。他们建议，研究人员需要发明新的方法，在技术变得过于微小而无法察觉之前，先识别出这些微小的、隐藏的实验室。在此之前，论文认为，“寻找秘密棚屋”部分的计划是最薄弱的一环，也是最有可能首先崩溃的一环。