🤖 machine learning

Integrating Local and Global Entropy for Uncertainty Quantification in LLMs

本文提出了全局-局部不确定性（Global-Local Uncertainty, GLU），这是一种无监督、单次通过的方法，它将标记级熵（token-level entropy）与隐藏状态几何熵（hidden-state geometric entropy）相融合，以有效地捕捉不同的失效模式，特别是局部信号本身无法捕捉到的“自信却错误”的幻觉现象。

原作者： Johanne Medina, Tianyi Zhou, Keivin Isufaj, Aristides Gionis, Sanjay Chawla

发布于 2026-06-10

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Johanne Medina, Tianyi Zhou, Keivin Isufaj, Aristides Gionis, Sanjay Chawla

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是对论文《Integrating Local and Global Entropy for Uncertainty Quantification in LLMs》的解释，采用了通俗易懂的语言和创意类比。

核心问题：自信的骗子

想象一下，你问一位非常有自信、谈吐得体的朋友一个问题。他们立即回答，语法完美，语气平稳。但他们完全错了。

这就是当今大语言模型（LLMs）面临的最大问题。它们经常在表现得百分之百确定的同时“幻觉”（编造事实）。目前的工具试图通过监听模型逐个单词的输出内容来检测这一点。如果模型对下一个词显得不确定，工具就会将其标记为高风险。

缺陷在于： 有时，模型对自己说的每一个单词都非常确定，但它讲述的整个故事却是一个谎言。目前的工具会漏掉这些“自信的骗子”。

新型解决方案：GLU（全局-局部不确定性）

该论文的作者提出了一种检查 AI 是否在说实话的新方法。他们将这种方法称为 GLU。

将 AI 的大脑想象成一个拥有两个不同部门的工厂：

“选词员”（局部）： 这个部门决定下一个词是什么。
“故事架构师”（全局）： 这个部门掌握着正在构建的故事的整体蓝图。

论文指出，要抓住一个骗子，你需要同时检查这两个部门，而不仅仅是选词员。

1. 局部检查（选词员）

工作原理： 这观察模型对每个单个单词的信心。如果模型在“猫”和“狗”之间犹豫不决，它在局部是不确定的。
类比： 想象一位厨师在品尝汤的味道。如果他不确定是否加了足够的盐，他会停顿一下。这就是“局部”不确定性。
问题： 一个自信的骗子就像一位厨师，他在品尝每一种食材时都说“完美！”，即使整道菜都被下了毒。局部检查会漏掉这种情况，因为每一个单词看起来都很正常。

2. 全局检查（故事架构师）

工作原理： 这观察模型的“隐藏状态”。这些是模型用来理解概念的内部数学地图。作者测量了这些地图的“几何复杂度”。
类比： 想象厨师正在厨房里走动。
- 连贯（真相）： 如果厨师在做一道真正的汤，他会从冰箱到炉灶再到锅之间走一条笔直、紧凑的路径。他的路径是高效且专注的。
- 不连贯（幻觉）： 如果厨师在编造一个虚假的食谱，他可能会漫无目的地游荡。他去了冰箱，然后去了花园，接着又去了车库，最后又回到了冰箱。他在很多不同的方向上同时移动。
洞察： 即使厨师在每一步都说“完美！”（局部），如果他在厨房里到处乱逛（全局），那么事情就不对了。论文称之为“几何漂移”。

GLU 如何运作： “乘法门控”

该论文的主要创新在于如何结合这两项检查。

旧方法（加法）： 想象一名保安在累加分数。“单词信心：9/10。厨房游荡度：2/10。总分：11/20。” 如果单词信心足够高，保安就会放行，忽略掉游荡的情况。
GLU 方法（乘法）： 作者使用了一个“门控”来将分数相乘。
- 如果厨房游荡度（全局）很高，它就像一个音量旋钮，会调大单词信心的警报声。
- 结果： 即使模型对每个单词都很有信心，如果它的内部“路径”在游荡，GLU 分数就会飙升，从而标记该答案为不可靠。

研究发现

研究人员在三个不同的 AI 模型和六种不同类型的任务（如常识问答、数学和阿拉伯语任务）上测试了该方法。

捕捉“自信但错误”： 他们发现标准方法（仅限局部）漏掉了大量错误的答案，因为这些答案听起来非常有信心。GLU 抓住了它们，因为它看到了模型大脑中的“游荡路径”。
优于其他方法： GLU 的表现优于所有其他“无监督”方法（即不需要人类预先标注数据的检测方法）。它能更好地识别错误，并提示 AI 在给出坏答案之前“停下来思考”。
高效： 它不需要 AI 生成多次答案，也不需要额外的计算能力。它只需观察一次答案，同时检查单词和内部路径。

总结

论文声称，要信任一个 AI，你不能只听它的语言，还要观察它是如何思考的。通过将单词级信心检查与概念级游荡检查相结合，GLU 创建了一个安全网，能够捕捉到 AI 在自信地撒谎时的特定类型错误。它实现这一目标无需额外的训练数据，也不会减慢 AI 的速度。

技术摘要：集成局部与全局熵用于大语言模型的确定性量化

问题陈述

大语言模型（LLMs）经常表现出“自信的幻觉”（confident hallucinations），即生成流畅、具体但事实错误的响应。现有的确定性量化（Uncertainty Quantification, UQ）方法主要依赖于标记级（token-level）信号（例如对数概率或采样一致性）。虽然这些方法在检测局部歧义方面有效，但往往无法识别“自信但错误”的失效模式，即模型以极高的标记级置信度生成错误答案的情况。此外，许多现有方法存在实际应用障碍，例如需要多次生成过程、依赖特定任务的监督、对响应长度敏感，或具有特定的架构假设。因此，需要一种无监督、可在单次前向传播中计算、经过长度归一化、并能够捕捉模型内部轨迹几何结构的 UQ 方法。

方法论

本文提出了**全局-局部不确定性（Global-Local Uncertainty, GLU）**框架，该框架整合了源自 LLM 不同表示层的两种截然不同的不确定性信号：

局部不确定性（标记级）：
- 源自解嵌入层（unembedding layer）（下一标记预测）。
- 基于证据深度学习（evidential deep learning）框架，将不确定性分解为偶然不确定性（Aleatoric Uncertainty, AU）（分布歧义）和认知不确定性（Epistemic Uncertainty, EU）（缺乏证据）。
- AU 通过对前 $k$ 个标记的截断预测分布计算香农熵（Shannon entropy）得出。
- EU 通过将 Logits 映射到狄利克雷浓度参数（使用 softplus 变换）并计算逆狄利克雷强度（inverse Dirichlet strength）来估计。
- 局部得分 ( $\bar{R}$ ) 是响应中 $m$ 个最不确定标记的乘性交互项的平均值。
全局不确定性（几何复杂度）：
- 源自嵌入层（embedding layer）（隐藏状态空间）。
- 基于以下假设：可靠的事实检索对应于隐藏状态在紧凑且一致的方向上移动，而幻觉则对应于在松散相关的方向中游走。
- 该方法通过构建来自所有生成步骤的隐藏状态轨迹 $H$ 的格拉姆矩阵（Gram matrix） ( $K = HH^\top$ ) 来进行量化。
- 全局不确定性通过归一化后的特征谱（eigenvalue spectrum）的 Rényi-2 熵（碰撞熵）来量化。高熵表示轨迹弥散、不连贯（高不确定性），低熵则表示轨迹连贯且低秩。
- 为了确保在不同响应长度和模型之间的可比性，该熵值通过 $\log T$ 进行归一化，并在所有 Transformer 层上取平均值。
融合策略（GLU）：
- 通过**乘性门控（multiplicative gate）**融合这两个信号： $GLU = (1 + \tilde{S}) \cdot \bar{R person}$ ，其中 $\tilde{S}$ 是归一化的全局几何熵， $\bar{R}$ 是聚合的局部不确定性。
- 这种乘性设计起到了几何放大器的作用：如果轨迹是弥散的（高全局不确定性），局部不确定性得分会被加权放大。这专门针对了“自信但错误”的情景，即在这种情景下，标记熵较低但几何连贯性缺失。
- 该方法仅需单次前向传播，无需标注数据，且与架构无关。

核心贡献

多视图不确定性提取： 本文从两个不同的层提取互补信号：来自隐藏状态轨迹的全局几何熵和来自输出 Logits 的局部标记熵。
统计正交性： 实证分析表明，全局信号与局部信号在统计上接近正交。全局信号能够恢复局部信号系统性遗漏的“自信但错误”失效模式。
GLU 框架： 引入了一种轻量级的无监督评分方法，通过乘性方式融合这些信号，避免了重新训练、伪标签或多次采样过程的需求。
全面验证： 在三个模型家族（Qwen2.5, Gemma3, Fanar1）和六个多样化基准测试（包括事实性、数学和阿拉伯语问答）上进行了广泛评估，并进行了严格的消融实验。

实验结果

性能： 在 18 个模型-数据集设置中，GLU 在 13 个案例中取得了最佳的 AUROC（受试者工作特征曲线下面积），并在 12 个案例中取得了最佳的预测拒绝率（PRR）。它始终优于仅局部基准（如 LogTokU）和仅全局基准（如 RAUQ）。
消融研究：
- 乘性 vs. 加性： 乘性融合策略至关重要。加性变体（ $Add\text{-}\tilde{S}$ ）的性能显著下降（在 14 种方法中排名第 13），证实了全局信号必须作为调节器而非固定偏移量。
- 鲁棒性： 性能增益在不同局部和全局估计器的选择下均表现稳健，表明这种互补性是 LLM 的结构属性，而非特定超参数的人为产物。
校准： 在 TriviaQA 基准测试上，GLU 展示了不确定性得分与经验错误率之间的单调关系，有效地将正确响应与错误响应在置信度十分位数中区分开来。

意义与主张

本文主张，嵌入层（语义方向）与解嵌入层（标记概率）之间的结构性区别，为为什么标记级信号与几何信号测量的是不确定性的不同方面提供了原则性的依据。通过整合这些视角，GLU 提供了一种实用的无监督解决方案，用于预测可靠性，解决了当前 UQ 方法的一个关键盲点：自信的幻觉。作者断言，GLU 在保持长度归一化和架构无关的同时，达到了或超过了所有无监督基准方法的水平，使其适用于对计算效率和缺乏监督要求极高的实际部署场景。这项工作表明，局部与全局不确定性之间的互补性是 LLM 的一项基本结构属性。