💻 computer science

Cryptographic certificates of validity for trustworthy AI

本文提出了一种构建可信智能体 AI 的框架，通过生成简洁的密码学证书，从数学上证明智能体的行为符合形式化指定的策略，从而实现无需重新执行或信任智能体即可进行独立验证。

原作者： Murdoch J. Gabbay

发布于 2026-06-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Murdoch J. Gabbay

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是该论文的通俗易懂且富有创意的类比说明。

核心理念：信任证明，而非信任人

想象一下，你正在雇佣一个机器人为你预订机票。在过去，我们信任机器人（或 AI 智能体）是因为我们知道谁制造了它们，或者因为它们有一个数字签名，上面写着“我来自 X 公司”。

但如果这个机器人有 Bug，或者它是一个“拜占庭”机器人（这是一个高级术语，指那些可能行为异常或具有恶意倾向的机器人）呢？签名只能证明是谁发送了消息，但不能证明这条消息是否正确或安全。

Murdoch Gabbay 的论文提出了一种信任 AI 的新方法： 我们不再信任机器人的身份，而是信任一份密码学证书，它能证明机器人的行为符合规则。

可以这样理解：

旧方式： 你信任一位厨师，因为他戴着特定的帽子并持有执照。你只能希望他没有在汤里下毒。
新方式： 厨师递给你一张密封且不可破解的收据。这张收据从数学上证明了汤是在正确的温度下烹饪的，使用了正确的食材，且没有添加毒药。你不需要知道厨师的名字，也不需要盯着他做菜；你只需要检查收据即可。

工作原理：“神奇翻译器”

论文描述了创建这些收据的三个步骤。

1. 编写规则（“法律”）

首先，我们将希望 AI 遵循的规则（例如：“绝不消费超过 500 美元”或“仅限飞往没有旅行警告的国家”）用一种称为逻辑的严格数学语言写下来。

类比： 想象一下用一种计算机能完美理解的语言来编写棋类游戏的规则，不留任何“也许”或“我觉得”的空间。

2. 转换（“编译器”）

接下来，我们使用一个特殊的工具（编译器）将这些逻辑规则转换成一个数学谜题。

神奇之处： 论文解释了一个聪明的技巧，即“真（True）”变为数字 0，“假（False）”变为一个正数。
类比： 想象一个天平。如果 AI 遵守了规则，天平会在零点完美平衡。如果 AI 违反了规则，天平就会倾斜并显示出一个沉重的正数。目标是证明天平处于零点。

3. 证书（“收据”）

AI（或辅助程序）解开这个数学谜题并生成一个微小的密码学证明。这个证明在说：“我拥有一个秘密解法，能让天平在零点平衡。”

酷炫的部分： 验证者（检查 AI 的人）可以通过查看这个微小的证明，瞬间得知规则是否被遵守。他们不需要看到 AI 的私密想法，不需要重新运行整个计算过程，也不需要信任 AI。他们只需检查数学。

一个具体的例子：2 的幂次方

论文使用计算 $2^2$ （2 的方）的简单例子来展示其工作原理。

假设 AI 声称：“我计算出 $2^2 = 4$ 。”
为了证明这不是谎言，AI 不仅仅是说出“4”。它还会提供一个推导树（分步历史记录）：

第一步： $2^0 = 1$ （起点）。
第二步： $2^1 = 2$ （基于第一步）。
第三步： $2^2 = 4$ （基于第二步）。

密码学证书证明了这些步骤是正确链接的。如果 AI 试图跳过步骤或更改数字，数学谜题就会失败，证书也将失效。

为什么这对 AI 智能体至关重要

论文认为，随着 AI 智能体开始执行实际操作（如预订机票、批准发票、部署代码），我们需要一种在行动发生之前就能验证其行为的方法，而不仅仅是在事后查看日志。

无需重跑： 检查证书非常快。你不需要重新做一遍 AI 的工作。
隐私保护： 利用“零知识（Zero-Knowledge）”特性，AI 可以证明自己遵守了规则，而无需泄露其私密数据（如你的信用卡号或秘密策略）。
拒绝盲目信任： 你不必信任 AI 的开发者。你只需信任数学。

这篇论文没有做的事情（重要的局限性）

作者非常谨慎地指出，这项技术不能做什么：

它不会为你编写规则。 证书证明的是 AI 遵循了你给它的规则。如果你写了一个糟糕的规则（例如：“花光所有的钱”），证书会完美地证明 AI 遵循了那个糟糕的规则。
它不保证安全性。 它仅保证特定的数学条件得到了满足。它并不能证明该条件本身是明智、伦理或安全的。
它不能取代人工监督。 人类仍然需要决定规则应该是怎样的，并对系统进行审计。

总结

这篇论文为 AI 提出了一个“携带证明的行为（Proof-Carrying Action）”系统。正如驾驶员可能携带驾照来证明其驾驶资格一样，AI 智能体将携带一份密码学证书来证明其行为是正确的。

它架起了形式逻辑（规则）与密码学（证明）之间的桥梁，使我们能够在无需信任 AI 或查看其私密数据的情况下，验证其行为是否正确。这是一种表达方式：“我不信任你，但我信任你递给我的数学。”

基于提供的文本，以下是 Murdoch J. Gabbay 的论文《用于可信 AI 的密码学有效性证书》（Cryptographic certificates of validity for trustworthy AI）的详细技术摘要。

问题陈述

随着 AI 系统从生成建议转向执行自主行动（例如：预订机票、批准发票、部署代码），传统的保障机制已不再充分。密码学签名可以验证消息的来源，但无法预先证明某个行动是否满足特定的正确性、安全性或合规性条件。同样，回顾性的日志记录无法在违规发生前阻止政策违反。本文旨在解决一种机制需求，即在行动被接受之前，提供可独立检查的证据，证明代理人的行动满足了约定的形式化策略，且无需要求验证者信任代理人的内部实现或重新执行其计算过程。

方法论

本文提出了一个通过桥接形式逻辑与简洁密码学证明来生成密码学有效性证书的框架。该方法遵循一个三步流水线：

形式化规范： 将相关的策略或正确性条件表示为特定一阶逻辑中的逻辑谓词。
算术化： 该谓词被编译为一个基于多项式约束的见证检查问题。其核心数学贡献是将一阶逻辑的有效性转化为对多项式约束的判断，其中：
- 真（有效性）由数值 0 表示。
- 假（无效性）由严格正值表示。
- 逻辑连接词被映射为代数运算：
  - 相等（ $t=t'$ ）映射为 $(t-t')^2$ 。
  - 合取（ $\phi \land \psi$ ）映射为 $[\phi] + [\psi]$ 。
  - 析取（ $\phi \lor \psi$ ）映射为 $[\phi] \times [\psi]$ 。
  - 对范围内的全称量化被映射为该范围内的求和。
- 递归和归纳定义（例如：指数运算）通过将见证数据结构化为矩阵进行编码，其中列代表推导步骤，专门的一行包含指针以确保递归结构是良构的。
密码学认证： 代理人（或相关的证明者）生成一个简洁的密码学证明（可能是零知识证明），用以证明从策略中导出的多项式约束被特定的行动数据所满足。

验证过程涉及验证者根据公钥和参数检查证明。如果证明通过，系统则接受该行动满足形式化谓词，而无需检查代理人的私有见证数据或重新运行其计算。

核心贡献

数学转换： 本文提供了一种紧凑的、与应用无关的方法，将一阶逻辑的有效性算术化为多项式约束（定义 2.3–2.7，定理 2.9）。它展示了如何将复杂的逻辑结构（包括递归和归纳推导）编码为适用于密码学后端的代数关系。
携带证明的代理行动： 它将代理人的行动概念化为特定密码学意义上的“携带证明”（proof-carrying）。与通常需要检查源代码的携带证明代码（PCC）不同，这种方法允许不可信的、潜在的黑盒代理提供关于合规性的简洁证据。
与现有技术的集成： 该框架旨在与现有的简洁论证系统（例如：SNARC、zkVM 如 Cairo 或 RISC0）以及多项式承诺方案（例如：Halo2、Zinc）对接。它将提出的逻辑定位为一个高层规范层，可编译至这些密码学原语。
与运行时验证的区别： 该方法通过提供预见性的、简洁的证书，而非回顾性的追踪，从而区别于运行时验证；并通过不需要代理人的内部设计是开放或可信的，从而区别于标准的 PCC。

结果与示例

本文通过理论示例而非经验基准来验证该方法：

基础逻辑： 它演示了真值、相等、合取、析取和范围检查如何被编码为仅当条件成立时才评估为零的多项式。
递归计算： 一个详细的示例对指数运算（ $a^b$ ）的归纳定义进行了编码。论文展示了如何通过一个见证数据矩阵来编码推导树，其中第 1–3 行存储输入/输出样本，第 4 行存储指向先前步骤的指针。有效性谓词确保这些指针构成了一个良构的递归结构。
鲁棒性： 论文指出，如果“携带证明”的结构（即指针）缺失或畸形，即使矩阵包含正确的输入/输出值，也会导致有效性谓词失败，这说明证书验证的是结果的推导过程，而非仅仅是结果本身。

意义与范围

本文将此工作定位为形式化验证源代码与密码学身份验证之间的“中间地带”。其主要意义在于为智能体 AI 系统提供了一种密码学意义上的携带证明代码（Proof-Carrying Code）的类比。

作者明确指出了该提议的局限性和范围：

范围： 该数学架构是通用的，适用于任何需要不可信方提供可检查正确性证据的领域。选择将其应用于 AI 代理是因为自主行动创造了对预见性保障的迫切需求。
局限性： 有效性证书证明了某个形式化规范已被满足。它并不能证明该形式化规范本身是“正确”的（即：它是否准确捕捉了安全性、法律或伦理要求）。论文强调，缩小形式化谓词与现实世界安全性之间差距的过程需要治理、审计和风险管理流程（参考 NIST 框架），这些是无法仅靠数学或密码学解决的。
未来工作： 论文指出了对实际实现细节的需求，包括编译器设计、证明成本的基准测试，以及用于政策编写和审计的治理机制。

总之，本文提出了一个理论和数学基础，旨在为 AI 代理行动附加简洁的、可经密码学验证的政策合规证明，从而将信任模型从“信任来源”转向“信任证据”。