💬 NLP

Clustered Self-Assessment: A Simple yet Effective Method for Uncertainty Quantification in Large Language Models

该论文提出了“聚类自评估”（Clustered Self-Assessment），这是一种简单且高效的方法，通过将采样的生成内容聚类为语义选项以进行自评估，从而提升了大型语言模型的不确定性量化能力，且即使在仅进行极少量额外采样的情况下，也能持续优于现有的基准方法。

原作者： Qi Cao, Takeshi Kojima, Andrew Gambardella, Helinyi Peng, Yutaka Matsuo, Yusuke Iwasawa

发布于 2026-06-03

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Qi Cao, Takeshi Kojima, Andrew Gambardella, Helinyi Peng, Yutaka Matsuo, Yusuke Iwasawa

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在向一位非常聪明、博学的朋友（一个大语言模型，或称 LLM）提问。他们瞬间给出回答，语法完美，语气极其自信。但问题在于，有时候他们会错得理直气壮。他们可能会告诉你埃菲尔铁塔在柏林，听起来就像告诉你在巴黎一样笃定。

问题是，你无法判断他们是在陈述事实，还是仅仅在进行一种听起来很有道理的“幻觉”式谎言。

这篇论文介绍了一个简单的技巧，叫做聚类自我评估（Clustered Self-Assessment），旨在帮助你判断该在多大程度上信任你的 AI 朋友给出的答案。

问题所在：“自信的骗子”

目前的 AI 模型擅长交谈，但不擅长承认自己不知道某些事情。如果你问它们：“你有多确定？”它们通常会说：“100% 确定！”即便它们其实错了。其他方法试图通过观察如果问同一个问题十次，AI 会给出多少种不同的答案来猜测其置信度，但这些方法往往难以理解，且未能有效地利用 AI 自身的“大脑”。

解决方案：“多选题测试”

作者提出了一个巧妙的两步游戏，让 AI 检查自己的工作。

第一步：“头脑风暴”环节
首先，你多次询问 AI 同一个问题（只需多问几次即可）。

类比： 想象你连续五次问你的朋友：“埃菲尔铁塔在哪里？”他们可能会回答“巴黎”、“法国巴黎”、“法国首都”、“柏林”和“罗马”。

第二步：“分组”游戏
接下来，你将这些答案进行分组，把意思相同的答案归为一类。

类比： 你意识到“巴黎”、“法国巴黎”和“法国首都”表达的是同一件事。于是你把它们放进一个堆里。“柏林”和“罗马”则不同，所以它们各占一个堆。现在你有了三个截然不同的组：巴黎组、柏林组和罗马组。

第三步：“问答秀”
现在，你把这个过程反转过来，把问题抛回给 AI。你向它展示原始问题，但这次你给它一份多选题，选项就是你刚刚创建的那些组。

问题： “埃菲尔铁塔在哪里？”
选项：
- A) 巴黎组
- B) 柏林组
- C) 罗马组
- D) 以上皆非

第四步：“置信度评分”
最后，你要求 AI 选出一个答案。奇迹发生在这里：我们观察 AI 为它选择的选项所分配的数学概率。

如果 AI 选择了“A”（巴黎）并给出了 95% 的概率，这意味着它在说：“我非常有信心这个组是正确的。”
如果它选择了“A”，但只给了 40% 的概率（并且在 A、B、C 之间犹豫不决），这意味着它在说：“我不太确定哪个组才是正确的。”

为什么这很重要

论文声称这种方法之所以胜出，主要有三个原因：

快速且廉价： 你不需要询问 AI 16 次才能得到好的结果。只需额外采样两次（即多问两次问题）就足以获得优于那些询问 16 次的方法的结果。这就像是在喝杯咖啡的间隙就能得到一个好答案，而不是要吃顿长午餐。
易于理解： 它不会给你一个像“熵：0.84”这样令人困惑的数学分数，而是给你一个简单的百分比（例如“85% 置信度”）。这是一个普通人类可以实际使用的指标，用来决定是否应该相信这个答案。
效果更好： 当研究人员在不同的 AI 模型和不同类型的问题（从百科知识到新闻摘要）上测试该方法时，该方法在预测 AI 置信度方面始终比所有其他流行方法更准确。

局限性（不足之处）

作者诚实地指出了其中的缺陷：

“黑盒”问题： 要实现这一点，你需要看到 AI 的内部数学逻辑（其“logits”）。如果你使用的是闭源 AI（例如你无法看到其内部运作机制的付费 API），则无法使用此方法。
“裁判”成本： 为了在第二步中对答案进行分组，该方法使用了一个单独的、较小的 AI 模型来充当裁判。这增加了一点额外的计算工作量。
缺乏“校准”步骤： 该方法直接使用 AI 给出的原始数值。虽然这些数值表现良好，但作者承认，如果增加一个最终的“微调”步骤，可能会使其更加完美。

总结

简而言之，这篇论文建议，与其去猜测 AI 有多确定，不如让 AI 根据其之前的回答进行一场多选题测试。通过观察 AI 选择某个选项的强度，我们得到了一个清晰、简单且高度准确的“置信度计”，它能告诉我们何时该信任 AI，以及何时该去核实它的工作。

技术摘要：用于大语言模型不确定性量化的聚类自评估

问题陈述

大语言模型（LLMs）在多种任务中表现出卓越的性能，但经常生成看似流畅且合理、实则事实错误的响应。这种“幻觉”问题在医疗、法律和科学研究等高风险领域尤为关键。缓解这些风险的一个重大障碍是缺乏显式、可靠的不确定性估计。现有的不确定性量化方法通常依赖于间接信号，例如跨采样生成的熵或语义差异度量。这些方法存在两个主要局性：

可解释性： 间接评分（如基于熵的度量）难以被最终用户理解，限制了其实际效用。
内部知识利用不足： 许多方法通过测量输出差异来工作，却未能利用 LLM 对自身知识的内部理解。此外，试图让 LLM 直接将不确定性语言化的方法往往会失败，因为模型过度自信的问题已被广泛记录。

方法论：聚类自评估

作者提出了聚类自评估（Clustered Self-Assessment），这是一种两阶段方法，旨在通过提示 LLM 评估其生成的答案来诱导并量化不确定性。该过程将不确定性估计问题转化为一个结构化的多选题（MCQ）任务。

第一阶段：答案聚类

对于给定的输入问题，LLM 生成多个响应（样本）。为了在保持多样性的同时减少语义冗余，这些样本被分组为语义截然不同的簇：

语义关系估计： 使用外部自然语言推理（NLI）模型（具体为 deberta-large-mnli）来估计采样答案之间的成对语义关系。对于每一对 $(a_i, a_j)$ ，NLI 模型会预测标签，如蕴含（entailment）、中性（neutral）或矛盾（contradiction）。
聚类逻辑： 该方法对双向 NLI 标签采用基于规则的过滤器。如果两个答案的双向关系不包含矛盾且在任一方向包含至少一个蕴含，则将它们归入同一个簇。
代表性选择： 每个簇由单个答案（通常是分配给该簇的第一个答案）表示。这一过程确保了最终的选项集代表的是语义上截然不同的候选答案，而非同一响应的微小变体。

第二阶段：通过 MCQ 进行自评估

聚类后的答案被用于构建结构化的 MCQ：

问题构建： 将原始问题与来自每个簇的代表性答案（例如选项 A、选项 B、选项 C）一同呈现。
安全选项： 加入了一个额外的选项“以上皆非（None of the above）”，以应对所有生成的簇均错误或模型高度不确定的情况。
置信度评分： 构建好的 MCQ 被反馈给原始 LLM。该模型分配给特定选项（即其主要的贪婪解码答案）的 Token 概率作为置信度评分。
- 形式化地，如果 $c_{i^*}$ 是正确选项的 token 标签，则置信度评分 $S$ 为 $P(c_{i^*})$ 。

核心贡献

诱导自评估： 该方法通过将采样的生成内容构建为 MCQ 格式，利用了 LLM 的内部不确定性表示。这促使模型显式地评估其答案的正确性，而不是依赖间接的统计代理。
卓越的性能与效率： 该方法在多种模型和数据集上始终优于现有基准方法（包括语义熵 Semantic Entropy、EigenScore 和 SAR）。值得注意的是，它仅需两个额外的样本即可达到具有竞争力的性能，而某些基准方法则需要多达 16 个样本，这显著降低了计算开销。
人类可解释性： 通过使用特定选项的 token 概率作为置信度评分，该方法提供了一个直观的度量指标，可以直接映射为答案正确的可能性，便于用户理解。

实验结果

该方法在七种最先进的开源模型（Qwen-2.5、Qwen-3 和 Gemma-3 系列）和三个数据集（TriviaQA (TQA)、Natural Questions (NQ) 和 XSum（摘要））上进行了评估。

准确率 (AUROC)： 该方法在所有模型和数据集上均取得了最高的受试者工作特征曲线下面积（AUROC）。例如，在 Qwen2.5-32B 的 TQA 数据集上，它达到了 0.940 的 AUROC，超过了表现次优的基准方法 Deg（得分为 0.848）。
样本效率： 即使在极少量的采样下，性能依然稳健。仅使用两个额外样本时，该方法的表现就优于使用 8 个或 16 个样本的基准方法。
校准度： 使用 Brier 分数，该方法展示了比基于概率的基准方法（P(True) 和原始概率）更优越的校准能力，表明其置信度评分与经验正确性高度一致。
探测器训练： 当作为从 LLM 隐藏状态预测不确定性的探测器训练信号时，该方法的评分使得探测器在无需推理阶段正确性标签的情况下，也能在分布外（OOD）设置中超越基准方法。

重要性与局限性

论文认为，聚类自评估提供了一种实用、有效且计算高效的解决方案，用于实现不确定性量化。通过将问题转化为自我评估任务，它弥合了模型的内部知识与用户可解释的置信度度量之间的鸿沟。

作者也承认了特定的局限性：

Logit 获取： 该方法需要获取输出的 logits，这在闭源模型中可能无法实现。
外部依赖： 它依赖外部 NLI 模型进行聚类，这引入了计算开销和潜在的语义失配问题。作者建议未来的工作可以利用 LLM 自身的内部表示来进行聚类。
校准： 该方法使用的是原始 softmax 概率，未进行后验校准，尽管它已经展示了强大的性能。

总之，本文提出了一个简单且鲁棒的框架，通过使模型能够通过结构化自我反思来评估自身的不确定性，从而增强了 LLM 输出的可靠性。