💬 NLP

Uncertainty Quantification for Large Language Diffusion Models

本文首次系统研究了大型语言扩散模型的不确定性量化问题，提出了一种源自去噪过程的轻量级零样本信号，该方法能够实现可靠的幻觉检测，且相较于现有的基于采样的方法，计算开销降低了高达 100 倍。

原作者： Artem Vazhentsev, Vladislav Smirnov, David Li, Maxim Panov, Timothy Baldwin, Artem Shelmanov

发布于 2026-05-15

📖 1 分钟阅读☕ 轻松阅读

原作者： Artem Vazhentsev, Vladislav Smirnov, David Li, Maxim Panov, Timothy Baldwin, Artem Shelmanov

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和创意类比对这篇论文的解读。

全局概览：一种新型写手

想象你拥有一种新型写手，我们称其为“扩散写手”。

当今大多数 AI 写手（就像你正在对话的那些）像是一个人从左到右逐字逐句地写句子。如果他们在早期犯了错，就必须继续写下去覆盖错误，这可能会很慢。

而本文中的扩散写手则不同。想象他们从一张布满静态噪点的空白页开始（就像没有信号的电视）。他们不是逐字书写，而是同时审视整页内容，逐步“清理”噪点，通过并行步骤精炼文本，直到清晰的句子浮现。这使得他们极其快速。

问题所在： 就像旧式写手一样，这些新的扩散写手有时也会“产生幻觉”。他们可能会写出听起来完美流畅、但实际上完全杜撰或事实错误的句子。我们需要一种方法来识别他们何时在撒谎或猜测，但我们过去用来检测谎言的工具并不适用于这些新型写手。

旧工具与新问题

为了检测普通 AI 是否在撒谎，研究人员通常做以下两件事之一：

“数学检查”：他们查看 AI 选择每个单词背后的数学逻辑。但扩散写手不是逐个选择单词的，因此这种数学逻辑对他们来说并不存在。
“再问一次”测试：他们让 AI 重复写出同一个答案 50 次，看看这些答案是否一致。如果答案各不相同，说明 AI 不确定。
- 弊端：让 AI 重复 50 次既慢又昂贵。这完全违背了使用扩散写手的初衷，因为扩散写手的优势正是快速！

解决方案：聆听“排练”

本文的作者意识到，扩散写手拥有一个秘密超能力：排练。

当扩散写手清理噪点时，它会经历许多中间步骤。这就像雕塑家在一块大理石上凿刻。在雕像完成之前，雕塑家已经有许多粗糙的形态版本。

旧方法：让雕塑家重新开始 50 次，看看他们是否雕刻出相同的雕像。
新方法：只需观察雕塑家雕刻一座雕像的过程。看看他们在过程中制作的粗糙版本。

本文介绍了一种名为D-CoCoA的方法。它就像一个聪明的观察者，注视着雕塑家的排练过程。它在清理过程中寻找三种特定的“麻烦迹象”：

“摇摆的路径”（轨迹不稳定性）：如果雕塑家在一秒到下一秒之间不断改变对雕像样貌的想法，这意味着他们不确定。本文测量了“草稿”与最终结果之间的变化程度。如果草稿杂乱无章，最终答案很可能就是幻觉。
“挣扎计数”（复杂度）：如果雕塑家需要花费很长时间凿刻石头，或者不得不反复重新遮盖（掩蔽）石头的某些部分，这意味着这项任务对他们来说很困难。本文将这些额外步骤计为不确定性的标志。
“信心检查”（似然度）：它检查模型在过程结束时对其最终确定的特定单词有多大的把握。

结果：快速且可靠

研究人员在两个不同的扩散写手上，针对八项不同的任务（如回答常识问题、总结新闻和翻译语言）测试了这一新方法。

发现：

有效：新方法非常擅长识别 AI 何时在编造内容。
低成本：它不需要让 AI 重复写出答案 50 次，只需观察 AI 书写的那一次过程。
权衡：本文声称，他们的方法比旧的“再问一次”方法快 100 倍，同时准确率几乎相当。

核心结论

这篇论文证明，你不必在速度和安全性之间做选择。你可以使用这些超快的新型扩散写手，同时仍然拥有一个可靠的“测谎仪”附加在他们身上，只需观察他们如何清理自己的工作，而不必让他们反复重复工作。

简而言之：与其让一名快跑者跑 100 次比赛以判断他是否疲惫，我们只需在单次比赛中观察他的呼吸和步态。如果他气喘吁吁、步履蹒跚，我们就知道他没有把握能强劲地跑完全程。

技术摘要：大型语言扩散模型的不确定性量化

问题陈述

大型语言扩散模型（LLDMs）已成为自回归大型语言模型（LLMs）的有力竞争替代方案，通过半自回归解码和并行令牌生成提供更快的推理速度。然而，与其自回归对应物一样，LLDMs 容易产生幻觉，因此需要可靠的不确定性量化（UQ）以确保安全部署。

现有的 UQ 方法与扩散范式存在根本性的错位：

因子化不匹配：标准的白盒方法依赖于从左到右的自回归因子化（ $p(y_l | y_{<l}, x)$ ），而 LLDMs 中并不原生具备该特性。
效率不匹配：黑盒方法通常依赖重复采样来估计一致性（例如语义熵、CoCoA）。由于 LLDMs 的设计初衷是追求效率，通过重复采样倍增推理成本将抵消其主要优势。

目前尚缺乏针对 LLDMs 的系统性 UQ 框架，能够在不产生过高计算开销的情况下利用其独特的迭代去噪过程。

方法论

作者提出了 D-CoCoA，这是一系列感知扩散的 UQ 方法族，直接从迭代去噪轨迹中推导不确定性信号，无需重复采样。该方法整合了三种特定的扩散专用信号类别：

1. 扩散专用不确定性信号

本文引入了几种从生成过程中推导出的零样本信号：

掩码扩散似然：作者利用蒙特卡洛估计器（MCNLL）基于掩码扩散目标近似负对数似然，作为原则性的似然代理。
轨迹统计：信号包括函数评估次数（NFE）作为去噪复杂度的代理、重掩码行为（令牌被重新掩码的频率）以及令牌级预测不稳定性（轨迹中令牌翻转的频率）。
轨迹语义不稳定性（AD）：一种新颖的信号，用于衡量中间去噪状态（ $\tilde{y}_t$ ）与最终输出（ $y$ ）之间的语义差异。这捕捉了收敛前的语义漂移。

2. 理论依据

本文为使用轨迹差异作为不确定性评分提供了理论依据。定理 1 证明了期望轨迹差异（ $u_{AD}$ ）是掩码扩散训练目标（损失）的下界。因此，较高的 $u_{AD}$ 值表明较高的预期预测误差，这促使其作为幻觉风险代理的使用。

3. D-CoCoA 框架

基于最先进的 CoCoA 方法（该方法结合了基于信息的评分与基于一致性的评分），作者将其适配于 LLDMs：

信息组件：替换为感知扩散的似然估计（例如 MCNLL 或 CommitNLL）。
一致性组件：替换为基于轨迹的语义差异（AD），利用单次去噪轨迹中的中间状态，而非多次采样的生成结果。

提出了两种具体配置：

D-CoCoA-L（局部）：结合 CommitNLL（令牌承诺时的置信度）与块级轨迹差异。
D-CoCoA-G（全局）：结合归一化的 MCNLL 与全轨迹差异及 NFE 复杂度惩罚。

主要贡献

首次系统性研究：本工作呈现了首个专门针对 LLDMs 的 UQ 全面调查。
新颖信号：引入了扩散专用不确定性信号，包括轨迹语义不稳定性、重掩码动态和去噪复杂度。
理论证明：形式化证明了期望轨迹差异是掩码扩散训练目标的下界。
D-CoCoA 方法：一种统一且高效的 UQ 方法，将 CoCoA 适配至扩散环境，用单次通过轨迹分析替代昂贵的采样。
实证验证：在八个数据集和两个模型（LLaDA-1.5 和 Dream）上的大规模研究证明了所提方法的有效性。

实验结果

评估在八个数据集上进行，涵盖问答（MMLU, TriviaQA, CoQA, GSM8k）、摘要（SamSum, XSum）和机器翻译（WMT14, WMT19）。性能使用预测拒绝率（PRR）和计算开销进行衡量。

性能与效率：D-CoCoA 方法实现了优越的性能 - 效率权衡。它们接近最强采样基线（例如 CoCoA-MCNLL, KLE）的性能，同时计算开销降低了高达 100 倍。
基线比较：
- 标准自回归 UQ 方法（例如 MSP, Perplexity, SAR）应用于 LLDMs 时表现不佳，或仅略优于随机，这是由于因子化不匹配所致。
- 纯扩散专用信号（例如 NFE, Remask）提供了有用信息，但单独使用时通常不足以实现高质量的 UQ。
- 混合 D-CoCoA 方法显著优于标准基线和独立的扩散信号。
消融研究：结果证实，使用完整生成轨迹和 MCNLL 似然能产生最一致的性能。将 NFE 作为复杂度惩罚纳入其中，进一步提升了全局变体（D-CoCoA-G）的表现。

意义与主张

本文主张，LLDMs 能够同时提供快速推理和可靠的幻觉检测，无需自回归 UQ 方法所需的昂贵采样过程。

通过利用迭代去噪过程的独特属性——特别是中间状态的轨迹和掩码动态——作者证明了可以在几乎不增加额外计算成本的情况下实现有效的不确定性估计。这项工作解决了基于扩散的语言模型部署中的关键缺口，使其能够应用于可靠性至关重要的安全关键场景。作者强调，他们的方法不需要特定任务的标签或重复采样，使其成为新兴扩散语言模型类别的一种实用的无监督解决方案。