Bit-Exact AI Inference Verification Without Performance Tradeoffs
本文表明，通过利用仅软件实现的仿真来重新计算确定性输出，可以将累积的舍入误差转化为可审计的签名，从而防止隐蔽对手利用 GPU 的非确定性，从而可以在不牺牲性能的情况下实现位精确（bit-exact）的 AI 推理验证。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图验证一位魔术师是否完全按照他所声称的方式表演了一个特定的戏法，且没有作弊。问题在于，这位魔术师正在使用一台非常快速且复杂的机器（GPU），而这台机器有时会产生微小的、肉眼不可见的舍入误差。因为这些微小的误差，即使魔术师每次做的动作完全一样，结果看起来也会略有不同。这给了魔术师一个借口说：“嘿，结果之所以不同，是因为机器有噪声，而不是因为我改变了戏法！”这被称为“合理的推诿”（plausible deniability）。
这篇论文认为，我们实际上可以在不降低机器速度的情况下抓到这些魔术师。以下是使用简单类比进行的详细拆解：
1. 问题所在：“有噪声”的计算器
现代人工智能计算机就像是能够同时进行数百万个数学问题的超级快速计算器。当它们进行加法运算时，并不总是以相同的顺序进行相加。
- 类比： 想象你和朋友正在数一堆硬币。如果你先加大的硬币，再加小的硬币，你得到的总数可能与先加小的硬币再加大的总数略有不同，这是因为数学在处理数字时会进行“舍入”。
- 问题： 由于计算机根据情况以不同的顺序进行加法运算，最终答案中会包含微小的“噪声”。作弊者（隐蔽的对手）可以利用这些噪声来隐藏秘密信息（隐写术）或偷偷进行未经批准的额外计算。
2. 发现：它并非随机，只是不同
研究人员发现，计算机实际上并不是在进行随机运算。它是在进行确定性（predictable）但非不变性（non-invariant，即结果会随设置的变化而变化）的运算。
- 类比： 想想食谱。如果你用木勺，汤的味道会是一种样；如果你用金属勺，味道会略有不同。但如果你使用完全相同的木勺、完全相同的食材以及完全相同的搅拌顺序，你每次都会得到完全相同的汤。
- 发现： 这种“噪声”并不是随机的静电噪声；它是一个指纹。它能准确告诉你使用了哪种硬件（勺子）和哪种软件（食谱）。如果你知道食谱和勺子，你就能完美地预测出汤的味道。
3. 解决方案：“数字孪生”
研究人员构建了一个特殊的软件程序（模拟器），它充当了人工智能计算机的“数字孪生体”。
- 工作原理： 你不需要使用实际的物理计算机来检查工作，这个软件可以模拟计算机的大脑，精确到最小的比特位。它知道计算机如何舍入数字、如何处理内存以及如何进行加法运算。
- 神奇之处： 你可以在普通计算机（CPU）上运行这个模拟，它会吐出与高端人工智能计算机（GPU）完全相同的结果，甚至连每一个比特位都分毫不差。
- 难点： 只有当计算机使用特定的“原子级”（atomic）函数时（例如两个人在同一时间试图在同一张纸上写字），这种方法才会失效。研究人员发现，现代人工智能软件很少再使用这些函数，因此“数字孪生体”几乎在所有情况下都有效。
4. 结果：没有速度惩罚
通常，为了让事情变得完全可预测，你必须放慢计算机的速度（比如强迫汽车只能走直线而不是走捷径）。
- 突破点： 本文表明，你不需要放慢计算机的速度。你只需要记录一些额外的细节（例如正在处理的数据批次大小和软件版本）。
- 结果： 有了这些细节，“数字孪生体”就可以完美地重现结果。如果一家人工智能公司声称他们运行了某项特定的计算，你可以运行你的模拟并说：“是的，这完全匹配，”或者“不，你的数字不对，你作弊了。”
总结
本文证明了人工智能的结果本质上并不是“模糊”或无法检查的。它们是精确的，但取决于所使用的特定工具。通过构建一个能完美模仿这些工具的软件模型，我们可以在不降低任何速度的情况下，以 100% 的准确度验证人工智能的工作。它将舍入误差产生的“噪声”转化为了一个独特的指纹，从而证明了究竟发生了什么。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。