📊 statistics

E-valuator: Reliable Agent Verifiers with Sequential Hypothesis Testing

本文介绍了 E-valuator，这是一个轻量级且与模型无关的框架，它利用序贯假设检验和 e-过程，将黑盒验证器分数转化为统计上有效的决策规则，以可靠地监控代理 AI 轨迹、控制误报率并实现失败序列的早期终止。

原作者： Shuvom Sadhuka, Drew Prinster, Clara Fannjiang, Gabriele Scalia, Bonnie Berger, Aviv Regev, Hanchen Wang

发布于 2026-05-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Shuvom Sadhuka, Drew Prinster, Clara Fannjiang, Gabriele Scalia, Bonnie Berger, Aviv Regev, Hanchen Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在雇佣一支自主机器人团队来解决复杂谜题、编写代码，甚至协助医院工作。这些机器人（称为“智能体”）不会只给你一个最终答案；它们会采取一系列步骤，就像侦探搜集线索一样。有时，机器人会在早期就走上错误的轨道。如果你任由它继续运行，它会在最终失败之前浪费大量时间、金钱和计算资源（tokens）。

问题是：你如何知道在机器人浪费资源之前何时停止它？

目前，我们有“验证器”——小型 AI 裁判，它们观察机器人的步骤并给出评分（类似成绩）。但这些评分只是猜测。它们可能会说：“这看起来不妙”，但无法保证它真的会失败。如果你基于糟糕的猜测停止机器人，可能会误杀一个原本会成功的机器人。这是一种“误报”。

现在出现了e-valuator。把它想象成一条统计安全 harness，它将那些不稳定的猜测转化为坚如磐石的决策规则。

以下是其工作原理，分解为简单概念：

1. 问题：“狼来了”困境

想象一名保安（验证器）正在监视机器人工作。保安凭直觉大喊：“那看起来很可疑！”

如果你每次保安大喊就停止机器人，你可能会停止一个实际上表现出色的机器人（误报）。
如果你从不阻止机器人，你将在失败上浪费资源。

该论文指出，以往的方法无法保证保安犯错频率。e-valuator 改变了游戏规则，它承诺：“我保证我们只会在 5% 的情况下（或你设定的任何限制）停止一个成功的机器人。”

2. 解决方案：时间线上的“假设检验”

e-valuator 不只是看一个分数，它将机器人的旅程视为随时间展开的故事。它在每一步提出一个具体问题：

假设 A： 该机器人处于“成功路径”上。
假设 B： 该机器人处于“失败路径”上。

它不仅仅查看当前分数，而是查看迄今为止分数的模式。它使用一种巧妙的数学技巧，称为序贯假设检验。

3. 魔法工具：“密度比”（速度计）

为了决定机器人处于哪条路径，e-valuator 构建了一个特殊的“速度计”，称为密度比。

想象你有两张地图：一张用于成功旅程，一张用于失败旅程。
速度计将机器人当前的路径与这两张地图进行比较。
如果机器人的路径更像“失败地图”，速度计指针就会飙升。
如果它看起来像“成功地图”，指针则保持低位。

该论文声称，这种特定的速度计是检测失败最快的方法。它比其他任何方法都能更快地积累针对失败机器人的证据。

4. 安全网："PAC 阈值”

这里是棘手之处：机器人的路径是随机的，我们不知道它确切需要多长时间。如果我们设定一条固定的线来停止机器人，可能会停止太多好的机器人。

e-valuator 使用一种称为PAC（概率近似正确）阈值的方法。

类比： 想象你在校准一个新的测速摄像头。你拍摄了 100 张合法驾驶汽车（成功机器人）的照片。你查看这 100 辆合法汽车中记录的最高速度。
然后，你将“停止”线设定在略高于该最高合法速度的位置。
保证： 因为你是基于真实数据计算这条线的，所以你可以从数学上承诺：“我永远不会将合法驾驶员标记为超速，频率超过 5%。”

这是该论文最大的主张：它提供了一个数学保证，确保你不会意外停止一个优秀的机器人。

5. 结果：节省金钱和时间

作者在六个不同的数据集（如数学问题和医疗问题）上，使用三种不同类型的机器人测试了 e-valuator。

更好的控制： 与其他有时会意外停止好机器人（高误报率）的方法不同，e-valuator 每次都严格遵守规则。
更快的检测： 由于其“速度计”如此高效，它比其他方法更早地发现了失败的机器人。
Token 节省： 通过更早停止失败的机器人，它节省了海量的计算机 tokens（运行这些 AI 模型的燃料）。在一次测试中，它在仅使用 80% tokens 的情况下，恢复了 90% 的原始准确率。

总结

e-valuator 是一个轻量级软件包装器，位于任何现有 AI 裁判之上。它将裁判不稳定的评分转化为严格且经过数学保证的规则。它确保：

你很少停止一个原本会成功的机器人。
你尽可能快地捕捉失败的机器人以节省资金。

它并没有让机器人变得更聪明；它只是让停止机器人的决定变得可靠且值得信赖。

技术摘要：E-valuator：基于序贯假设检验的可靠智能体验证器

问题陈述

智能体 AI 系统执行一系列动作（轨迹）以解决用户提示。尽管验证器模型（如过程奖励模型或裁判大语言模型）提供启发式分数来评估这些轨迹的质量，但它们缺乏严格的统计保证。具体而言，利用验证器分数来决定是否将轨迹标记为不成功，无法控制误报率（FAR）——即错误地拒绝成功轨迹的概率。这在高风险领域（如自主实验室、基因编辑）中至关重要，因为错误的拒绝代价高昂。此外，现有方法通常需要对验证器进行昂贵的微调，或需要白盒访问模型权重，并且难以在不产生过高计算成本的情况下，在长且长度可变的轨迹早期检测失败。

方法论

作者引入了e-valuator，这是一个轻量级的统计封装器，可将任何黑盒验证器分数转化为具有可证明误报率控制能力的决策规则。该方法将问题框架化为序贯假设检验任务：

零假设（ $H_N$ ）： 轨迹是成功的（ $Y=1$ ）。
备择假设（ $H_A$ ）： 轨迹是不成功的（ $Y=0$ ）。

该方法主要在三个阶段运行：

1. 序贯假设检验框架

目标是构建基于截至步骤 $t$ 观测到的验证器分数 $S_{[1:t]}$ 的检验统计量序列 $(M_t)_{t=1}^T$ 。如果在任意时刻 $t$ ， $M_t$ 超过阈值 $c_\alpha$ ，则拒绝该轨迹（标记为不成功）。主要目标是确保：
$\Pr_{H_N} [\exists t \in [T] : M_t > c_\alpha] \leq \alpha$
其中 $\alpha$ 是用户指定的误差水平。

2. 对数最优检验统计量（密度比）

为了最大化检验功效（快速检测失败），作者将 $M_t$ 构建为不成功轨迹的分数分布（ $p_0$ ）与成功轨迹的分数分布（ $p_1$ ）之间的密度比：
$M_t = \frac{p_0(S_{[1:t]})}{p_1(S_{[1:t]})}$
该过程是一个e-过程（具体而言，是在 $H_N$ 下的检验鞅）。作者证明，该密度比过程是对数最优的，意味着它在期望上比其他任何 e-过程更快地积累反对零假设的证据。由于 $p_0$ 和 $p_1$ 未知，e-valuator 使用校准集学习估计值 $\hat{M}_t$ 。这是通过基于分类器的密度比估计实现的，其中分类器 $\hat{g}_t$ 预测成功概率 $P(Y=1|S_{[1:t]})$ ，并利用贝叶斯规则推导比率。

3. 用于误报率控制的 PAC 阈值化

由于密度比是估计得出的（引入潜在误差）且轨迹长度是随机的，标准阈值（如 $1/\alpha$ ）可能无法保证误报率控制。作者提出了一种概率近似正确（PAC）阈值化程序：

使用成功轨迹的校准集来计算每条轨迹的最大统计量 $M^{(i)} = \max_t M_t$ 。
阈值 $c_\alpha$ 被设定为这些最大值的 $(1-\alpha)$ 分位数的高概率上界，该上界通过二项式尾部界限确定。
这确保了以至少 $1-\delta$ 的概率，即使使用估计的密度比，经验误报率也能控制在水平 $\alpha$ 以内。

主要贡献

可证明的误报率控制： 本文提供了一个框架，可将任何黑盒验证器转化为具有严格误报率保证的决策规则，解决了部署可靠智能体方面的一个关键缺口。
对数最优序贯检验： 通过利用密度比作为 e-过程，该方法实现了对不成功轨迹证据的最快积累，从而能够更早地终止失败路径。
用于估计过程的 PAC 阈值化： 作者开发了一种阈值化程序，即使底层密度比是从数据中学习而非解析已知的，该程序依然有效。
轻量级实现： 该方法所需的计算量极小（可在标准笔记本电脑上运行），既不需要对智能体或验证器进行微调，也不需要白盒访问模型权重。

实验结果

作者使用各种验证器，在六个数据集（GSM8k、MATH、AIME、HotpotQA、MedQA、MMLU-Pro）和三个智能体（Aviary、OctoTools、Claude Sonnet 4）上评估了 e-valuator。

误报率控制： 与原始验证器、校准验证器或随机 Ville 基线不同，e-valuator 在所有数据集上始终将经验误报率保持在所需阈值 $\alpha$ 以下。其他方法经常违反误报率约束。
统计功效： 在成功控制误报率的方法中，e-valuator 实现了最高的功效（正确标记不成功轨迹的比率）。例如，在 MATH 数据集上，当 $\alpha=0.4$ 时，e-valuator 在将误报率控制在 0.31 的同时实现了 0.78 的功效，而原始验证器虽然实现了 0.84 的功效，但将误报率膨胀至 0.60。
Token 效率： 通过更早地检测失败（在 $H_A$ 下平均运行长度更短），e-valuator 显著减少了 Token 使用量。在 MATH 数据集上，它仅使用 84% 的 Token 就恢复了 86% 的原始准确率，而基线方法需要超过 98% 的 Token 才能达到相当的准确率。

意义与主张

本文主张，e-valuator 提供了一个轻量级框架，以弥合启发式验证器分数与统计上可信的决策规则之间的差距。其意义在于使得在必须严格控制误报的高风险环境中部署可靠智能体成为可能。作者强调，e-valuator补充了未来验证器的改进；随着验证器质量的提升，e-valuator 的决策规则将自然产生更高的功效，同时保持同样严格的误报率保证。这项工作并不声称解决生成正确轨迹的问题，而是提供了一种在轨迹可能失败时对其进行监控和终止的稳健机制。