💬 NLP

Uncertainty Quantification for Language Models: A Suite of Black-Box, White-Box, LLM Judge, and Ensemble Scorers

本文介绍了 UQLM，这是一个通用的 Python 工具包和可调优集成框架，它整合了黑盒、白盒以及 LLM-as-a-Judge 不确定性量化技术，旨在为检测大语言模型中的幻觉提供标准化的置信度评分，并证明了其在各种基准测试中相较于现有方法的卓越性能。

原作者： Dylan Bouchard, Mohit Singh Chauhan

发布于 2026-01-29

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Dylan Bouchard, Mohit Singh Chauhan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你有一个非常聪明但偶尔会过度自信的机器人助手。你向它提问，它会给出听起来完美的答案。但有时，它会完全凭空捏造事实——这被称为“幻觉”。在医疗或金融等高风险行业，一个编造的事实不仅仅是一个错误，更是危险的。

这篇论文介绍了一个名为“真理测量仪”（truth-o-meter）的工具包，旨在帮助人类判断那个机器人助手何时在对他们撒谎，而无需先查阅参考书（这被称为“闭卷”场景）。

以下是该论文框架的工作原理，通过简单的类比进行解释：

1. 三种类型的“真相侦探”

作者构建了一套不同的方法来检查一个答案是否真实。可以将这些视为三种不同类型的侦探：

“群体思维”侦探 (Black-Box UQ - 黑盒不确定性量化)：
想象一下，如果你向机器人询问同一个问题 15 次。如果机器人很有信心并且知道答案，它每次给出的答案都会大致相同，只是措辞略有不同。如果机器人在产生幻觉，它的答案会天差地别——每次讲的故事都完全不同。
- 论文观点： 他们使用数学方法来衡量这 15 个答案之间的相似度。如果它们非常相似，则“置信度得分”很高。如果它们很混乱，得分就很低。他们使用不同的方式来衡量这种相似性，比如检查句子是否相互矛盾（就像事实核查员一样），或者它们在含义上有多少重叠。
“内心独白”侦探 (White-Box UQ - 白盒不确定性量化)：
想象一下，机器人正在逐字逐句地写出一个答案。当它选择每个词时，它都有一个微小的“直觉”（概率），来判断这个词是否正确。
- 论文观点： 如果机器人对它挑选的每一个词都非常有把握，那么它的内部“直觉”得分就会很高，答案很可能是真实的。如果机器人在犹豫并挑选低置信度的词，那么答案很可能是幻觉。这需要访问机器人的内部“想法”（Token 概率）。
“同行评审”侦探 (LLM-as-a-Judge - 大模型作为评委)：
想象一下，要求第二个同样聪明的机器人阅读第一个机器人的答案，并对其进行评分。
- 论文观点： 他们将问题和答案输入到另一个 AI 中，并询问：“你有多确定这是正确的？”第二个 AI 会给出一个 0 到 100 的分数，然后将其转换为 0 到 1 之间的置信度得分。有趣的是，论文发现最好的“评委”通常是那些本身也非常擅长回答此类特定问题的机器人。

2. “混搭”超级团队 (The Ensemble - 集成)

该论文最大的创新在于意识到没有任何一种单一的侦探是完美的。有时“群体思维”侦探是对的；其他时候，“同行评审”侦探可能更好。

因此，他们创建了一个 可调优的集成系统 (Tunable Ensemble)。可以把它想象成一位教练，可以调整每位侦探意见的权重。

如果你在问数学问题，教练可能会更多地听从“内心独白”侦探。
如果你在问历史问题，教练可能会更多地听从“同行评审”侦探。
工作原理： 你给系统一些你已经知道正确答案的问题示例。系统会“学习”如何混合所有侦探的分数，以最符合你特定需求的方式获得最准确的结果。

3. 结果：为什么这很重要

作者在四种不同的 AI 模型上，针对六种不同类型的问题（如数学题、多选题常识和开放式事实）测试了这个工具包。

团队协作获胜： “混搭”超级团队几乎总是比任何单一侦探单独工作时表现得更好。
过滤机制有效： 他们展示了如果利用这些分数来拦截低置信度的答案，剩余的答案会变得更加准确。例如，如果他们根据得分拦截了底部的 40% 答案，剩余答案的准确率会显著提升。
收益递减： 他们发现，向机器人索要 15 个不同的答案效果很好，但索要 30 或 50 个并没有带来多少额外的帮助。这就像向 15 个朋友征求建议一样；询问 50 个朋友只会耗费更多时间，而不会提供更好的建议。

4. 工具包：`uqlm`

为了让任何人都能轻松使用，作者发布了一个免费的软件包，名为 uqlm。它就像一个预构建的工具箱，让开发者可以接入这些不同的“侦探”和“教练”（集成系统），而无需从头开始构建数学模型。

核心结论

论文得出结论，不存在一种“一劳永逸”的方法来捕捉 AI 的谎言。最好的方法是使用一个灵活的系统，结合不同的方法，并针对你所提问的问题类型进行专门调优。这有助于确保当 AI 发言时，我们知道该在多大程度上信任它。

来自论文的重要提示： 作者警告说，高置信度得分并不保证答案在现实世界中是“真实”的；它仅仅意味着 AI 对自己的答案“很确定”。因此，在医疗或法律等关键领域，人类仍然应该对工作进行复核。

技术摘要：语言模型的确定性量化

问题陈述
大型语言模型（LLMs）正越来越多地部署在医疗保健和金融等高风险领域，在这些领域中，事实准确性至关重要。这些应用中的一个主要风险是“幻觉”，此处将其定义为生成听起来合理但事实错误的内容。虽然在部署前通过将生成的文本与基准真相进行对比来进行评估是很常见的做法，但这并不支持对已部署系统的实时监控。此外，许多现有的检测方法依赖于对源内容或基准真相数据库的访问，而这在“闭卷”设置中是无法实现的。本文旨在解决一种通用的、闭卷框架的需求，该框架能够在生成时计算响应级的置信度分数，从而在无需访问参考答案或外部数据库的情况下检测幻觉。

方法论
作者提出了一个统一的框架，将现有的确定性量化（Uncertainty Quantification, UQ）技术适配为范围在 0 到 1 之间的标准化置信度分数（其中 1 表示高置信度）。该框架将评分器分为三种不同类型，并引入了一种可调优的集成方法：

黑盒 UQ 评分器： 这些方法利用 LLM 的随机性质，从同一个提示词生成多个候选响应（ $m$ ），并将它们与原始响应进行比较。本文实现并归一化了以下几种方法：
- 精确匹配率 (Exact Match Rate, EMR)： 衡量与原始响应完全相同的候选响应比例。
- 非矛盾概率 (Non-Contradiction Probability, NCP)： 使用自然语言推理（NLI）模型来计算候选响应不与原始响应相矛盾的概率。
- BERTScore (BSC)： 基于原始响应与候选响应之间的上下文相关词嵌入，计算平均 F1 分数。
- 归一化余弦相似度 (Normalized Cosine Similarity, NCS)： 使用句子转换器（sentence transformers）测量语义相似度，并将其归一化至 [0, 1] 范围。
- 归一化语义负熵 (Normalized Semantic Negentropy, NSN)： 语义熵（Semantic Entropy）的一个归一化版本，通过基于相互蕴含关系对响应进行聚类来衡量响应的波动性。
白盒 UQ 评分器： 这些方法利用 LLM 生成过程中的内部标记（token）概率：
- 长度归一化标记概率 (Length-Normalized Token Probability, LNTP)： 几何平均标记概率，并针对响应长度进行了归一化。
- 最小标记概率 (Minimum Token Probability, MTP)： 生成响应中所有标记中的最低概率。
LLM-as-a-Judge 评分器： 使用另一个 LLM 被提示去评估问题-响应对的事实正确性，输出一个 0–100 规模的分数，随后将其归一化至 [0, 1]。
可调优集成方法： 其核心贡献是上述单个评分器的加权平均。权重 ( $w$ ) 使用用户提供的带有等级划分的 LLM 响应（其中已知基准真相标签）并通过分类目标函数（例如 AUROC 或 F1 分数）进行优化。这使得集成方案可以针对特定的用例、LLM 和数据集进行定制。

核心贡献

标准化框架： 本文概述了一种将多样化的 UQ 技术转化为一致的、响应级置信度指标的方法，适用于实时的、闭卷的幻觉检测。
开源工具包： 作者发布了 uqlm，这是一个提供所有提议评分器及集成调优机制的 Python 包。
可扩展性： 集成设计具有模块化特征，允许从业者随着研究的发展引入新的评分方法。
经验洞察： 研究提供了关于评分器选择的数据驱动指导，例如采样额外候选响应带来的收益递减现象，以及模型的生成准确性与其作为评判者有效性之间的相关性。

实验结果
作者在六个基准测试（GSM8K, SVAMP, CSQA, AI2-ARC, PopQA, NQ-Open）上评估了该框架，并使用了四种 LLM（GPT-4o, GPT-4o-mini, Gemini-2.5-Flash, Gemini-2.5-Flash-Lite）。

集成性能： 在 24 个 LLM-数据集场景中，可调优集成在 20 个场景中表现出优于单个组件的 AUROC，并在 17 个场景中表现出优于单个组件的 F1 分数。
评分器变异性： 单个评分器的性能因数据集而异。基于 NLI 的黑盒评分器（NSN 和 NCP）通常优于其他黑盒方法。
评判者选择： 模型在特定数据集上的准确性与其作为该数据集评判者的表现呈正相关。例如，Gemini-2.5-Flash 在数学基准测试中表现出色，而 GPT-4o 在短答类基准测试中表现最佳。
白盒 vs. 黑盒： 白盒评分器（LNTP, MTP）的表现大致相当，但在许多场景下，其表现普遍逊于表现最好的黑盒或集成方法，尤其是在标记概率并非主要不确定性信号的情况下。
过滤功效： 通过应用置信度阈值来过滤低置信度响应，可以导致模型准确性的单调提升。例如，使用集成评分器对 GSM8K 上的 GPT-4o 响应进行过滤，在 0.6 的阈值下，将准确性从 0.55 的基准提升至 0.93。

意义与主张
本文声称，定制化的幻觉检测策略（特别是通过可调优集成）为提高生产环境中 LLM 的可靠性提供了一种切实有效的解决方案。作者强调不存在“一劳永逸”的方案；相反，最优方法取决于特定的 LLM、数据集以及操作约束（例如延迟、访问标记概率的 API 权限）。

作者对其局限性持谨慎态度，指出其发现可能需要修改才能推广到长文本生成或代码生成。他们还提醒，置信度分数反映的是模型的不确定性而非基准真相的正确性，因此建议不要在没有人工审查的情况下将其作为高风险领域的绝对决策保证。这项工作为从业者实现模型无关的、实时的幻觉检测提供了一个实用的工具包。

1. 三种类型的“真相侦探”

2. “混搭”超级团队 (The Ensemble - 集成)

3. 结果：为什么这很重要

4. 工具包：uqlm

核心结论

类似论文

4. 工具包：`uqlm`