🤖 AI

Knowing When to Stop: Bayesian Optimal Stopping for LLM Evaluations

本文介绍了 **optstop**，这是一个贝叶斯自适应停止框架，它根据不确定性而非固定计数来动态分配采样预算，使大语言模型（LLM）评估在保持结论一致的同时，能够降低 57%–97% 的计算成本。

原作者： Toby D. Pilditch

发布于 2026-08-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Toby D. Pilditch

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名正在试图破解谜题的侦探，但你的调查对象不是犯罪现场，而是一个被称为“大语言模型”（LLM）的超级聪明的人工智能大脑。这些机器人非常了不起，它们能写故事、解数学题，甚至编写代码。但为了知道它们是真的聪明还是仅仅在瞎猜，人类必须对它们进行成千上万个不同问题的测试。这被称为“评估”。

问题在于，测试的过程极其昂贵且缓慢。每当你问机器人一个问题，获取答案都需要花费金钱和时间。传统上，科学家们使用一种“暴力破解”的方法：他们把同一个问题问机器人 10 次，然后是下一个问题 10 次，以此类推，直到为所有问题都获得固定数量的答案。这就像是问你的朋友：“你喜欢吃披萨吗？”连续问 100 次，仅仅是为了绝对确定他们是否喜欢，即便他们在前三次尝试中就已经以 100% 的信心回答了“喜欢”。这极大地浪费了资源。

你即将阅读的这篇论文介绍了一种更聪明的调查方法。它使用了一种叫做“贝叶斯推断”（Bayesian inference，这只是一个高级说法，意为“随着获得新线索来更新你的猜测”）的数学技巧，来确定何时应该停止提问。它不再使用固定的次数，而是询问：“我们现在掌握的信息足够了吗？”如果答案是肯定的，它就立即停止；如果答案仍然模糊不清，它就会继续。这节省了时间、金物力和能源，让我们能够测试更多的模型和更困难的问题，而不至于破产。

AI 大脑的“停止信号”

认识一下 optstop。你可以把它想象成一个非常聪明、非常有耐心的 AI 测试交通警察。

目前，当科学家们测试 AI 模型时，通常遵循一套死板的规则手册：“对每一个问题进行恰好 10 次测试。”无论 AI 是瞬间答对了前 10 个问题，还是在挣扎着答错，规则手册都说：“继续，必须做 10 次尝试。”这就像一位厨师在尝汤时，决定无论汤是否已经完美，都要搅拌整整 10 次。这是极其低效的。

这篇论文的作者 Toby D. Pilditch 提出了一个简单的问题：为什么我们不在已经知道答案的时候停下来呢？

他们构建了一个名为 optstop 的新系统，将测试视为一场“猜热猜冷”的游戏。随着 AI 回答问题，该系统会观察“不确定性”。

如果 AI 在做一道数学题并连续答对了 10 次，系统会说：“好吧，我们 99% 确定它掌握了数学。让我们停止针对这个特定问题的测试，然后进入下一个。”
如果 AI 在回答一个棘手的安全问题，答错了 5 次但对了一次，系统会说：“等等，那一次‘正确’的回答很重要！我们还不确定，请继续测试这个题目。”

这不仅仅是为了节省几分钟时间。论文表明，通过使用这种“在确定时停止”的方法，他们在实验中可以减少 57% 到 97% 的测试量。这就像是在完成一场 100 英里的比赛时，因为意识到自己已经到达终点，所以只跑了 30 英里就结束了。

它是如何运作的：三层蛋糕

要理解 optstop 为什么如此出色，请将测试过程想象成一个三层蛋糕：

底层（项目/Items）： 这些是单个问题。有些很简单（AI 每次都能答对），有些很难（AI 会挣扎）。
中间层（任务/Tasks）： 这些是问题的分组，比如“数学”或“写作”。
顶层（模型/Model）：这就是 AI 本身。

旧方法对每个问题一视同仁。而 optstop 观察的是整个蛋糕。它意识到，如果 AI 非常擅长“简单的数学”，那么它不需要把每一个简单的数学题都测试 10 次。它可以针对简单的题目提前停止，并将精力投入到 AI 感到困惑的难题上。

该系统使用一种特殊的数学方法（层次贝叶斯推断）来同时追踪两件事：

精确度（Precision）： 我们有多确定？如果“置信区间”（一个高级说法，指可能答案的范围）变得足够窄，我们就停止。
稳定性（Stability）： 答案是否趋于稳定？如果 AI 的回答不再发生太大变化，我们就停止。

“保守主义”安全网

这里有一个棘手的部分。如果 AI 在某方面表现得非常糟糕怎么办？想象一个 AI，它在 100 个问题中只能答对 1 个。如果你停止测试得太早，你可能会认为它的正确率是 0%，但实际上它确实可以做对，只是频率很低。

为了解决这个问题，optstop 拥有一个“保守性”设置。如果 AI 表现得很差，系统会变得格外谨慎。它会说：“嘿，我们可能会错过一个罕见的成功案例！即使数据看起来很糟，我们也得继续测试。”这就像家长检查孩子的作业：如果孩子每道题都做对了，你就停止检查；但如果他们每道题都做错了，你会检查得更加仔细，以确保他们不是仅仅因为今天状态不好或漏掉了一个微小的细节。

结果：效率的大幅提升

作者通过一个大型实验测试了这个想法。他们选取了 200 个不同的问题，并进行了 10 轮测试（10 个 epoch）。他们将传统的“每项必做 10 次”的方法与新的 optstop 方法进行了对比。

以下是他们的发现：

巨大的节省： 在测试中，optstop 跳过了 57% 到 97% 的计划测试。在某些情况下，他们只需要运行极小比例的测试就能获得相同的结果。
相同的准确度： 尽管我们提前停止了，但给出的 AI 最终得分与运行所有测试得到的得分几乎完全一致。两者的差异非常小（在 0 到 1 的量表中小于 0.01），以至于可以忽略不计。
不同的得分，不同的节省： 该系统在连续型评分（如 0 到 100 分的成绩）上节省的时间最多，在简单的“对/错”评分上节省最少，但在所有情况下都节省了时间。

为什么这很重要

这不仅仅是一个数学技巧；它是 AI 安全领域的一个游戏规则改变者。目前，由于测试 AI 的成本太高，实验室只能测试少数模型或少数类型的题目。如果我们能将测试时间减半甚至更多，我们就可以测试更多的模型、更多的危险场景以及更复杂的任务。

这篇论文证明了，我们不需要在已经掌握答案的问题上浪费精力。通过让数据告诉我们何时停止，我们可以让 AI 测试变得更快、更便宜、更集中于真正重要的事情。这就像是与其盲目地敲击钉子直到它断裂，不如使用一把知道钉子何时被敲进去的锤子。

简而言之，optstop 教会我们，知道何时停止与知道如何开始同样重要。对于 AI 的未来，这是我们迫切需要学习的一课。

技术摘要：何时停止：用于 LLM 评估的贝叶斯最优停止策略

1. 问题陈述

当前的语言大模型（LLM）评估实践主要依赖于固定的采样预算，即无论结果性能估计的精确度如何，每个基准测试项都会进行预定次数的测试。这种“次数越高越好”的方法往往在估计已经足够精确的项目上浪费了大量的计算资源，同时可能在面对高方差或稀有事件场景时，无法分配足够的资源。

本文解决的核心方法论问题是：现有的实践是否存在系统性的失准，导致了计算资源的浪费，或者在得出可靠结论之前过早终止。现有的自适应策略（例如基于项目反应理论 IRT 的策略）通常需要预先校准的项目库，并且往往会通过仅选择最具信息量的项目来减少评估的广度。此外，标准的频率派方法（例如基于样本均值的置信区间）在处理具有稀疏性、非连续性或层级嵌套结构的评估数据时，往往表现不佳。

2. 方法论：optstop 框架

本文引入了 optstop，这是一个基于精度的自适应停止框架，它将 LLM 评估视为一个序列测量问题。该框架实现为一个与 inspect_ai 评估生态系统兼容的 Python 库，可以运行在实时模式或回顾模式下。

核心原则

基于精度的停止： 主要的停止准则在于性能参数后验置信区间（CI）的宽度。当特定项目或分组的 CI 宽度 ( $W$ ) 低于用户指定的阈值 ( $\delta$ ) 时，该项采样即告终止。二级“稳定性”准则作为一种兜底机制，通过监测 CI 宽度缩减的斜率，来检测进一步的数据收集是否已产生收益递减的情况。
层级贝叶斯推理： 该框架显式地对评估数据的嵌套结构（响应 $\to$ 项目 $\to$ 分组）进行建模。它采用部分汇集（partial pooling）技术在分组内的不同项目间共享信息，从而在单个项目由于不同停止点而产生差异时，仍能提供稳定的估计。
非对称保守性： 为了应对在观察到稀有但关键的成功案例（例如模型仅在 1% 的尝试中成功）之前发生过早终止的风险，框架应用了一种非对称调整。当估计性能低于低阈值（默认 1%）时，有效的 CI 宽度会被放大，且稳定性阈值会变得更加严格，从而延迟停止，以便观察到稀有的成功案例。

推理路径

该框架支持三种针对不同评分类型定制的推理路径：

二元（0/1）： 在分组层面使用对数正态层级模型，并在项目层面使用自适应 Beta 模型。其估计量为总体平均成功概率。
序数（有序类别）： 使用层级有序逻辑（累积链路）模型及 Dirichlet-Multinomial 备选方案。它采用混合停止准则：路径 1 要求窄模态 CI 和低熵（分布尖锐）；路径 2 则在熵的 CI 宽度收敛时（分布弥散）触发。
连续（有界）： 使用在项目级统计量（均值）而非单个观测值上运行的层级对数正态模型，从而实现显著的计算加速。

分组与路由

分组是用户定义的划分（例如：模型 $\times$ 任务），并保持独立的推理状态。框架根据配置（例如任务名称模式或评分聚合设置）将数据路由至相应的路径，无需预先校准项目参数。

3. 核心贡献

无需预校准的自适应停止： 与需要预先校准项目库的自适应测试方法不同，optstop 使每个基准测试项都保持采样资格，仅在达到统计精度时才停止。
统一的多元数据类型框架： 它为二元、序数和连续结果提供了一套统一机制，处理了每种类型特有的统计挑战（例如序数数据的熵验证）。
面向安全的保守性： 引入的非对称保守性机制专门解决了 “pass@k” 问题，确保低性能估计不会在检测到稀有能力之前触发过早停止。
实时与回顾实用性： 该工具既可以作为评估运行过程中的实时早期停止协议，也可以作为已完成数据集的回顾性分析工具。

4. 实验结果

该框架通过一个 $3 \times 3$ 矩阵实验进行了验证，该实验交叉了三种推理路径（二元、序数、连续）与三种性能水平（低、中、高）。实验采用了影子模式（shadow mode），在执行每个单元格计划的 2,000 次试验的同时，追踪何时会满足停止准则。

效率提升： 在九个验证设置中，该框架消除了 57.2% 至 97.3% 的计划试验。
- 连续路径实现了最高的效率（平均 95.1%），其次是序数路径（75.0%）和二元路径（73.3%）。
- 极端性能水平（接近底端或顶端）比中等水平产生了更大的节省，归功于更快的后验收敛。
评分保真度： 尽管大幅减少了试验次数，截断后的估计值仍与全量运行的结果高度一致。在归一化 [0, 1] 尺度上，所有单元格的平均绝对评分偏差为 0.006。最大的单单元格偏差（0.022）仍处于精度阈值 ( $\delta = 0.05$ ) 之内。
统计等效性： 贝叶斯等效性检验（HDI + ROPE）证实，截断引入的系统性偏差可以忽略不计。对所有单元格截断效应进行的层级元分析显示，总平均差值为 $\hat{\mu} = +0.0003$ ，其 97% HDI 为 $[-0.002, +0.003]$ ，完全包含在实际等效区域（ROPE）内。
排名保持： 在序数和连续列中，不同条件下（如变化的 max_tokens）模型的相对性能排名在全量运行和截断条件下均得到了保留。

5. 意义与主张

本文声称 optstop 将 LLM 评估从一项固定预算的任务转变为一种针对性的资源重新分配策略。通过基于不确定性而非固定重复次数来分配计算资源，该框架使从业者能够：

降低成本： 显著降低全面评估的计算和财务负担。
增强可持续性： 减少评估活动对环境的影响。
提高严谨性： 将资源集中在不确定性最高的边界能力和稀有事件场景上，而不是在特征明确的模型-任务组合上浪费精力。

作者强调，该框架的有效性取决于分组内观测值的可交换性以及项目呈现顺序的随机性。虽然目前的验证涵盖了多种路径和基准测试，但作者也谦虚地指出，在不同的评估背景和规模下进行更广泛的复制验证，将进一步增强对该框架泛化能力的信心。该方法不仅被视为一种优化，更被视为旨在实现既严谨又可持续的评估体系中不可或缺的组成部分。