📊 statistics

MMD-Flagger: Leveraging Maximum Mean Discrepancy to Detect Hallucinations

本文介绍了 MMD-Flagger，这是一种用于大型语言模型测试时幻觉检测的方法，它利用最大均值差异（Maximum Mean Discrepancy）来分析输出在不同解码温度下的稳定性，从而能够在无需地面真值标签的情况下实现对事实错误的可靠识别。

原作者： Kensuke Mitsuzawa, Damien Garreau

发布于 2026-08-20

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Kensuke Mitsuzawa, Damien Garreau

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在快速演进的人工智能领域，大语言模型已成为强大的工具，能够生成类人文本、回答复杂问题，甚至辅助自主决策。然而，这些系统存在一个持久的缺陷：它们有时会产生听起来流畅且自信，但事实完全错误的陈述。这种被称为“幻觉”的现象构成了显著的安全风险，尤其是在这些模型被部署在法律、医学或自动驾驶等关键领域时，因为一个错误的步骤就可能导致灾难性的后果。研究人员面临的核心挑战在于，如何在没有“金标准”答案库的情况下实时检测这些错误。由于这些模型在实际使用过程中无法进行外部验证，科学家们必须找到一种方法，仅根据模型自身的行为来判断其答案的可靠性。其中的关键在于理解模型对其内部设置微小变化的反应；如果一个模型是真正自信且基于事实的，那么即使其生成的条件发生轻微变化，其答案也应保持一致。然而，如果答案是捏造的，模型的输出在同样的变换下往往会变得不稳定且反复无常。

基于这一原则，来自法国和德国的一个研究小组开发了一种名为 MMD-Flagger 的新方法来捕捉这些幻觉。他们的方法并不依赖于将事实与数据库进行比对，也不依赖于训练一个专门识别错误的新模型。相反，它作为一个稳定性监测器，观察语言模型输出在调整其生成过程中的“温度”时如何发生变化。在这些模型的语境中，“温度”是一个控制模型在选择下一个词时引入多少随机性的设置。低温度使模型非常可预测且具有重复性，而高温度则允许更具创意和多样化的响应。研究人员假设，一个真实的答案在这些不同的设置下会保持相对稳定，而一个幻觉式的答案则会在温度变化时剧烈地摇摆并改变形态。

为了测试这一想法，研究人员创建了一个系统，为同一个问题生成多个版本的答案，每次使用不同的温度设置。然后，他们使用一种称为“最大均差异”（Maximum Mean Discrepancy）的统计工具将原始答案与这些变体进行比较。该工具用于衡量两组数据之间的差异程度。通过在一定范围的温度内绘制这些差异，系统会创建一个视觉路径，即“轨迹”。研究人员发现，当模型在说实话时，这条路径是平滑且可预测的，通常随着随机性的增加而稳步上升。然而，当模型产生幻觉时，路径会呈现出独特的、尖锐的 U 形。曲线中间的这个凹陷是一个明确的信号，表明模型难以维持一致的含义，从而有效地将该响应标记为不可信。

该团队使用包括 Llama-3 和 Gemma-3 系列在内的现代语言模型，在一个旨在测试多语言事实准确性的基准数据集上评估了这种方法。他们将这种新方法与几种依赖于文本相似度或模型内部状态的现有技术进行了对比。结果显示，幻觉检测的有效性高度依赖于特定的模型架构；虽然 MMD-Flagger (Ensemble) 在 Llama-3.1-8B 和 Gemma-3-4B 上取得了最佳性能，但其他估算器在 Llama-3.2-3B 上表现更好。该系统证明了其灵活性，可以处理从模型中提取的各种类型的数据，例如单词的原始含义或神经网络的隐藏层。在一个涉及关于电视节目中一只猫的具体测试案例中，该系统成功识别出了一个被其他方法漏掉的幻觉答案，捕捉到了模型输出随着温度变化而开始偏离逻辑的瞬间。相反，在另一个关于格拉斯哥音乐团体的案例研究中，分析显示 MMD-Flagger 未能检测出一个被另一种方法 (KLE) 正确识别出的幻觉，这凸显出模型的输出轨迹有时即使在内容错误时也能保持极具欺骗性的平滑。

尽管取得了这些令人鼓舞的成果，研究人员也承认该方法存在局限性。由于它需要生成许多个答案的变体来构建可靠的稳定性剖面，因此计算成本可能较高，且比单纯请求模型给出一次答案要慢。这使得它不太适合需要瞬时响应的应用场景，但对于准确性至关重要的安全关键型系统来说，它仍然是一个强大的工具。这项研究表明，通过监测模型输出在不同条件下的稳定性，我们可以为人工智能构建一个更值得信赖的监督层。这种方法提供了一种在无需预先知道正确答案的情况下，审计自主智能体可靠性的途径，为构建更安全、更可靠的 AI 系统迈出了关键一步。

技术摘要：MMD-Flagger

问题陈述

尽管大语言模型（LLMs）正越来越多地被部署在对安全性要求极高的智能体系统中，但其产生幻觉（即流畅但事实错误的文本）的倾向仍然是建立信任的重要障碍。在自主智能体中，顺序决策过程中哪怕只有一个步骤出现幻觉，都可能导致灾难性的失败。缓解这一风险的一个关键挑战在于，如何在没有访问地面真值标签或外部知识库的情况下，在测试阶段检测这些事实错误。现有的基于一致性的不确定性量化（UQ）方法通常通过比较多个输出序列来工作，但它们往往局限于词元级（token-level）的语义相似度，而忽略了模型的内部表示。相反，利用内部状态的方法通常需要监督训练或依赖于特定的模型架构，从而限制了其泛化能力和部署灵活性。

方法论

作者提出了 MMD-Flagger，这是一个无监督、无需训练的幻觉检测框架，它利用 最大均差异（Maximum Mean Discrepancy, MMD） 来监测 LLM 输出在不同解码温度下的稳定性。

核心假设

该方法的操作前提是：忠实的 LLM 生成在不同的解码路径下表现出语义一致性，而幻觉生成则对解码配置高度敏感，导致语义含义不稳定且不一致。具体而言，作者假设高不确定性（幻觉）会体现为 U 型 MMD 轨迹，其特征是出现剧烈的非单调凹陷；而忠实的输出则表现出 MMD 值的稳定、单调增长。

算法框架

随机采样（Stochastic Sampling）： 对于给定的提示词 $x$ 和目标假设生成 $h_{hyp}$ （由特定解码策略 $\theta_{hyp}$ 产生），该方法会在一系列解码温度 $\tau \in \mathcal{T}$ 下生成一组随机样本集 $S_{sto}^{\tau}$ 。
特征表示（Feature Representation）： 该方法与特征空间无关，能够利用多样化的表示，如词嵌入、隐藏状态（最后一个词元或平均值）、注意力图或谱特征（拉普拉斯矩阵的特征值）。
MMD 轨迹构建（MMD Trajectory Construction）： 计算假设集 $S_{hyp}$ 与各温度下的随机样本集 $S_{sto}^{\tau}$ 之间的平方 MMD 距离。这创建了一个代表分布距离随温度变化的轨迹 $D(\theta_{hyp})$ 。
不确定性评分（Uncertainty Scoring）： 不确定性得分 $\delta$ 源自该轨迹的非单调性。算法识别 MMD 的最小值，并计算该最小值与最近的前后温度处的局部最大值（ $\delta_{prev}$ 和 $\delta_{post}$ ）之间的绝对差值。最终得分计算为： $\delta = \delta_{prev} + \delta_{post}$ 。越深、越尖锐的 U 型曲线，其不确定性得分越高。
集成策略（Ensemble Strategy）： 为了利用多个特征域的互补信息，集成版本通过结合变异系数（CV）和基于熵的启发式方法，对活跃领域（通过轨迹方差进行过滤）的得分进行加权组合。

核心贡献

无监督、无需训练的检测： MMD-Flagger 引入了一个无需监督训练或地面真值标签的框架，使其适用于实时部署场景。
灵活的特征无关性： 不同于受限于文本嵌入或特定层的现有方法，MMD-Flagger 可以审计包括内部隐藏状态和注意力机制在内的多种特征空间的稳定性。
基于轨迹的指标： 本文识别出 MMD 轨迹中的“U 型”特征是幻觉的一种特定签名，将其与忠实生成的单调行为区分开来。
全面的基准测试： 该方法在多语言 MUCH（多语言断言幻觉）基准测试上进行了评估，涵盖了现代模型家族（Llama-3.1、Llama-3.2 和 Gemma-3）。

实证结果

在 MUCH 数据集上的评估显示：

模型依赖性： 最优的幻觉检测估计器高度依赖于具体的 LLM 架构。
性能表现： MMD-Flagger（集成版）在 Llama-3.1-8B 和 Gemma-3-4B 上取得了最佳的 ROC-AUC 分数。在 Llama-3.2-3B 上，单一特征配置的表现优于集成版本，这表明不同的架构可能受益于不同的特征选择或集成策略。
对比分析： 在各种特征类型下，该方法通常优于或与黑盒基线（KLE、LexSim、Ecc）以及白盒基线（EigenScore、LapEigvals）持平。
局限性： 在针对 TriviaQA 数据集的二次评估中，MMD-Flagger 的表现逊于 Kernel Language Entropy (KLE)，这表明该方法的有效性可能随数据集特征和幻觉性质（例如，单调发散型 vs. 鞍点动力学型）的变化而变化。

重要性与主张

作者声称，MMD-Flagger 提供了一种稳健、灵活的机制，可以在无需外部参考的情况下，在测试时审计智能体的输出。通过利用最大均差异来追踪内部和外部表示随解码温度的变化稳定性，该方法提供了一种非参数化的不确定性量化手段。本文将这项工作定位为构建可信自主智能体的关键一步，因为它能够通过生成过程本身的内在不稳定性来检测幻觉。作者承认，虽然该方法前景广阔，但每个提示词都需要进行多次随机生成，这带来了计算开销，对于实时应用而言是一个挑战，未来的工作将侧重于降低这种采样成本。