💬 NLP

DynHD: Hallucination Detection for Diffusion Large Language Models via Denoising Dynamics Deviation Learning

本文提出了 DynHD 框架，通过语义感知证据构建模块筛选关键信息 token，并结合参考证据生成器与偏差检测器来建模去噪动力学轨迹，从而在空间和时间维度上有效检测扩散大语言模型中的幻觉问题。

原作者： Yanyu Qian, Yue Tan, Yixin Liu, Wang Yu, Shirui Pan

发布于 2026-03-18

📖 1 分钟阅读☕ 轻松阅读

原作者： Yanyu Qian, Yue Tan, Yixin Liu, Wang Yu, Shirui Pan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一种名为 DynHD 的新方法，用来给一种新型的人工智能（AI）模型“体检”，专门用来揪出它们**胡说八道（幻觉）**的时候。

为了让你更容易理解，我们可以把整个过程想象成**“观察一个正在画画的学徒”**。

1. 背景：新型 AI 是怎么画画的？

以前的 AI（像传统的聊天机器人）画画时，是一笔一划按顺序写的。写错了一个字，后面可能全得重来，或者它根本不知道自己写错了。

而这篇论文研究的扩散大语言模型（D-LLMs），画画方式完全不同：

它像是一个先画满全图，然后不断修改的画家。
一开始，它画出来的是一团乱糟糟的“噪点”（全是乱码）。
然后，它分很多步，一步步把乱码擦掉，把正确的内容填进去，直到最后变成一幅清晰的画。
优点：它能顾全大局，画出来的图整体很协调。
缺点：在这个过程中，它偶尔会“鬼迷心窍”，在某个地方画错了（比如把猫画成了狗），而且它自己可能都没发现，直到最后交卷。

2. 问题：以前的“体检”为什么不管用？

以前检测 AI 是否胡说八道，主要看两个地方：

看最后交卷时的自信程度：如果 AI 最后说“我很确定”，我们就觉得它是对的。但有时候，AI 即使胡说八道，语气也很自信（就像那个画错了还觉得自己画得很好的学徒）。
看每一个字的“犹豫程度”：以前的方法会计算 AI 在写每个字时有多犹豫（熵值）。

这篇论文发现，以前的方法有两个大漏洞：

漏洞一（空间问题）：噪音太多。
想象一下，学徒在画画时，有些笔触是画背景的（比如天空、草地），有些是画关键人物的（比如猫的眼睛）。以前的方法把背景笔触和关键笔触混在一起看，结果关键的错误信号被淹没在了一大堆无关紧要的笔触里。就像在一堆垃圾邮件里找那封重要的辞职信，很难找。
漏洞二（时间问题）：只看结果，不看过程。
以前的方法只盯着最后那一步。但这篇论文发现，真正的破绽往往藏在“修改过程”中。
- 正常的画：随着修改次数增加，画面越来越清晰，犹豫程度越来越低，像一条平滑下降的曲线。
- 胡说的画：在快要画完的时候，突然发现自己画错了，于是开始反复修改、犹豫不决，甚至越改越乱（曲线突然反弹）。

3. 解决方案：DynHD（动态偏差学习）

DynHD 就像是一个经验丰富的老画师导师，它不只看最后画得怎么样，而是拿着放大镜观察学徒的整个修改过程。它分两步走：

第一步：去伪存真（语义感知证据构建）

比喻：导师先把学徒画布上那些无关紧要的笔触（比如标点符号、填充的空白、无意义的连接词）全部擦掉，只留下真正表达意思的关键部分（比如名词、动词）。
作用：这样就能把“猫画成狗”这种关键错误信号，从背景噪音中清晰地提取出来。

第二步：对比“标准动作”（动态偏差学习）

这是 DynHD 最核心的绝活。

建立“标准参考线”：导师心里有一张**“完美学徒的修改轨迹图”**。他知道，对于一个正常的问题，学徒的犹豫程度应该像滑梯一样，顺滑地、持续地下降。
实时对比：在学徒修改的过程中，导师会实时拿他的实际修改轨迹和标准参考线做对比。
- 如果学徒的轨迹和标准线差不多，那就是真话。
- 如果学徒的轨迹在快结束时突然停滞不前（卡住了），或者突然反弹（越改越乱），导师立刻就会报警：“停！这里有问题，他在胡说八道！”

4. 结果：为什么它这么厉害？

更准：因为它抓住了“过程”中的异常（比如最后的犹豫反弹），而不是只看最后的自信程度。实验证明，它比目前最先进的方法准确率高出很多。
更快：它不需要让 AI 重复画很多遍图来对比（那样太慢了），只需要观察它画这一遍的过程，就能得出结论。
更通用：不管 AI 是用什么策略去修改画面的，这个方法都能适应。

总结

简单来说，DynHD 就是给 AI 装了一个**“过程监控器”**。

它不再问 AI：“你最后确定吗？”（因为 AI 可能会撒谎），而是问：“你在修改的过程中，是不是在某个地方突然卡住了或者越改越乱？”

通过观察 AI 从“混乱”到“清晰”的动态变化轨迹，DynHD 能像老练的侦探一样，精准地揪出那些在最后一刻才暴露出来的谎言。

1. 研究背景与问题 (Problem)

背景：
扩散大语言模型（D-LLMs）作为一种新兴的生成范式，通过多步迭代去噪（iterative denoising）生成固定长度的序列，相比传统的自回归模型（AR-LLMs）具有更好的全局一致性和内容逐步优化能力。然而，D-LLMs 同样面临**幻觉（Hallucination）**问题，即生成事实错误或无依据的内容，这严重限制了其在现实应用中的可靠性。

现有挑战：
现有的幻觉检测方法大多针对 AR-LLMs 设计（如基于最终 token 概率、熵或多次采样的方法），直接应用于 D-LLMs 时存在以下核心缺陷：

空间信息密度不平衡（Spatial Imbalance）： D-LLMs 生成固定长度序列，其中包含大量非信息性的结构填充 token（如结束符、占位符）和中间猜测 token。这些 token 对幻觉检测贡献甚微，甚至产生噪声。现有方法（如 TraceDet）往往对所有 token 的熵进行简单聚合，导致关键幻觉信号被淹没。
忽视去噪动力学（Temporal Dynamics）： D-LLMs 的幻觉线索分布在从初始噪声到最终输出的整个去噪轨迹中，而非仅存在于最终状态。事实样本和幻觉样本在去噪过程中的**不确定性演化趋势（如收敛速度、是否出现反弹）**存在显著差异，但现有方法未能有效建模这种动态过程。
计算效率低： 基于多次采样的验证方法在 D-LLMs 上计算成本极高，因为需要重复执行去噪过程。

2. 方法论 (Methodology)

作者提出了 DynHD，一种基于去噪动力学偏差学习的幻觉检测框架。该方法从**空间（Token 序列）和时间（去噪动力学）**两个维度解决上述问题。

2.1 语义感知证据构建模块 (Semantic-aware Evidence Construction)

旨在解决空间上的信息密度不平衡问题。

基于规则的 Token 过滤： 首先定义一个忽略集合 $I_{ignore}$ ，过滤掉五类非信息性 Token：控制/边界标记（如 <|endoftext|>）、词汇噪声（标点、空格）、任务模板（如"Answer:"）、停用词以及受前缀约束的子词片段。
统计证据构建： 对过滤后剩余的语义 Token 的熵（不确定性）进行统计聚合，构建一个包含三个维度的证据向量 $a_t \in \mathbb{R}^3$ $a_{t} \in R^{3}$ ：
1. 全局不确定性 ( $\mu_{avg}$ )：反映宏观层面的收敛状态。
2. 峰值不确定性 ( $s_{max}$ )：捕捉微观层面的事实错误（如错误实体），避免被全局平均掩盖。
3. 区域不确定性 ( $\mu_{top-k}$ )：捕捉语义片段层面的不确定性。
  通过这种方式，将原始的去噪轨迹 $T$ 转化为紧凑的语义证据轨迹 $E$ 。

2.2 动力学偏差学习模块 (Dynamical Deviation Learning)

旨在建模时间维度上的去噪动力学，识别异常演化模式。

参考证据动力学生成器 (Reference Evidence Dynamics Generator)：
- 由于不同问答场景的去噪动力学差异巨大，直接预测幻觉不可靠。
- 设计了一个生成器 $g_\theta$ ，仅使用事实样本（无幻觉）进行训练。它根据输入问题 $q$ 和时间步嵌入 $e_t$ ，预测预期的参考轨迹 $\hat{a}_t$ 。该轨迹代表了正常、事实正确的去噪演化模式。
基于偏差的幻觉检测器 (Deviation-based Hallucination Detector)：
- 将实际观测到的证据轨迹 $a_t$ 与参考轨迹 $\hat{a}_t$ 进行对比。
- 构建复合特征向量 $x_t = [a_t; \hat{a}_t; \Delta a_t]$ （包含当前状态、参考状态及变化速度）。
- 利用可学习的注意力权重 $\omega_t$ 对不同时间步的重要性进行加权，重点关注去噪后期（Late-stage）的偏差。
- 最终通过 MLP 分类器输出幻觉概率。
正则化损失 (Regularization Losses)：
为了强化对特定幻觉模式的识别，引入了两个正则项：
1. 停滞惩罚 ( $L_{path}$ )：惩罚那些未能收敛（与参考轨迹偏离过大）的样本。
2. 反弹惩罚 ( $L_{reb}$ )：专门捕捉去噪后期不确定性异常**反弹（Rebound）**的现象（即事实样本应单调下降，而幻觉样本常在后期出现不确定性回升）。

3. 主要贡献 (Key Contributions)

提出了首个针对 D-LLMs 的去噪动力学偏差检测框架 DynHD，填补了扩散模型幻觉检测领域的空白。
解决了空间信息密度不平衡问题：通过语义感知的 Token 过滤和多粒度统计建模，有效提取了关键的幻觉信号，避免了噪声干扰。
创新性地建模了时间动力学：提出了“参考轨迹 + 偏差检测”的机制，不仅关注最终状态，更关注去噪过程中的演化形态（如收敛平滑度、后期反弹），显著提升了检测的鲁棒性。
实现了高效检测：该方法无需外部检索或重复采样，仅利用单次推理的去噪轨迹即可工作，计算开销极低。

4. 实验结果 (Results)

实验在三个主流 QA 数据集（TriviaQA, HotpotQA, CommonsenseQA）和两个 D-LLM 骨干模型（LLaDA-8B, Dream-7B）上进行。

性能表现 (SOTA)：
- DynHD 在所有设置下均显著优于现有基线。
- 在 LLaDA-8B 上，平均 AUROC 比最强的基线 TraceDet 高出 12.2%。
- 在 Dream-7B 上，平均 AUROC 达到 84.3%，同样大幅领先。
效率优势：
- 如图 4 所示，DynHD 在性能 - 效率帕累托前沿的左上角，实现了高精度与低延迟的完美平衡。相比基于多次采样的方法（如 Semantic Entropy），其推理速度极快。
泛化能力：
- 在零样本跨数据集测试中（例如在 TriviaQA 训练，在 HotpotQA 测试），DynHD 表现出极强的泛化性（平均 AUROC 72.9%），证明其捕捉到了跨领域的通用去噪规律。
消融实验：
- 移除 Token 过滤会导致性能大幅下降，证明去噪噪声的重要性。
- 移除正则化项（停滞和反弹惩罚）也会降低性能，证实了捕捉特定动力学形态（如后期反弹）对检测幻觉至关重要。
- 可视化显示，模型自动赋予去噪后期步骤更高的注意力权重，这与幻觉常表现为后期不确定性反弹的假设一致。

5. 意义与总结 (Significance)

理论意义： 该工作首次系统性地揭示了 D-LLMs 幻觉在去噪动力学层面的表现（如收敛停滞、不确定性反弹），将幻觉检测从静态的“结果评估”推进到了动态的“过程监控”。
应用价值： DynHD 提供了一种轻量级、无需额外训练数据（仅需事实样本训练参考生成器）且无需重复采样的解决方案，非常适合在资源受限或实时性要求高的场景下部署，用于保障 D-LLMs 的生成可靠性。
未来方向： 该研究为理解扩散语言模型的内部工作机制提供了新视角，未来可进一步探索如何利用这些动力学信号来主动修正（Correct）生成过程中的幻觉，而不仅仅是检测。

总结： DynHD 通过“去噪动力学偏差学习”，巧妙地利用扩散模型特有的迭代过程信息，解决了 D-LLMs 幻觉检测中信号稀疏和动态建模缺失的难题，是目前该领域性能最强、效率最高的解决方案。