🤖 AI

Disentangling Hallucinations: Orthogonal Semantic Projection for Robust Interpretability

本文引入了一个统一的理论框架和一种被称为正交语义投影（OSP）的几何干预方法，通过将查询向量与干扰概念进行正交化处理，以确保稳健的可解释性，从而在数学层面解释并缓解视觉语言模型解释中的语义幻觉问题。

原作者： Emirhan Bilgiç, Baptiste Caramiaux, Zhi Yan, Gianni Franchi

发布于 2026-06-16

📖 1 分钟阅读☕ 轻松阅读

原作者： Emirhan Bilgiç, Baptiste Caramiaux, Zhi Yan, Gianni Franchi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

论文解析：《解构幻觉：用于鲁棒可解释性的正交语义投影》

这里使用简单的语言和富有创意的类比来解释这篇论文。

问题所在：“混乱的手电筒”

想象你有一个智能摄像头系统（视觉语言模型），它能够观察图片并告诉你其中有什么。为了确保我们信任这个摄像头，我们会使用一种叫做 XAI（可解释人工智能） 的特殊工具。这个工具就像一个手电筒或热力图，照亮图像中摄像头在做决策时所“注视”的部分。

问题在于： 有时这个手电筒会感到困惑。
如果你问摄像头：“猫在哪里？”而照片里实际是一只狗，手电筒可能仍然会明亮地照在狗身上。这就像是手电筒在想：“好吧，狗和猫都是长着毛且有四条腿的动物，所以即使你问的是猫，我也会把光照在狗身上。”

论文将这种现象称为 “语义幻觉”（Semantic Hallucination）。这种解释看起来很有说服力，但它在撒谎。它在错误的对象上高亮显示，因为计算机大脑中的概念过于“粘稠”且混杂在一起。

成因：“拥挤的思想之屋”

为什么会发生这种情况？论文认为，在计算机的大脑内部，所有的词汇和图像都生活在一个巨大的、高维度的房间里。

在这个房间里，“猫”的概念和“狗”的概念并不是各自独立的角落。
相反，它们站得很近，共享着一部分空间，因为它们拥有共同的特征（比如“毛发”或“爪子”）。

当计算机试图寻找“猫”时，它抓取了整个“猫性”的集群。但由于“狗”就站在旁边并共享了部分空间，计算机不小心也把“狗”的部分给抓了过来。这被称为 “线性语义泄漏”（Linear Semantic Leakage）。这些想法因为没有被完美分离而相互“泄漏”了。

解决方案：“降噪”过滤器

作者提出了一种名为 正交语义投影（Orthogonal Semantic Projection, OSP） 的新方法。你可以把它想象成计算机思维中的一个智能降噪过滤器。

以下是它的工作步骤：

干扰项词典： 在计算机观察图像之前，OSP 会创建一个“干扰项”列表。如果你正在寻找“猫”，系统知道“狗”、“狮子”和“老虎”是近亲。它会收集这些干扰项的数学“特征”。
几何清理： OSP 获取计算机的“猫”概念，并在数学上将其推离“狗”、“狮子”和“老虎”的概念。
- 类比： 想象你试图在一个嘈anda的房间里听一首特定的歌（“猫”），而周围的人都在唱着类似的曲调。OSP 就像是戴上了一副主动降噪耳机，专门抵消掉那些正在唱关于狗和狮子歌曲的人的声音。
纯净信号： 剩下的就是一个“纯净化”版本的“猫”概念。它已经剥离了所有与其他动物共有的特征。它现在与干扰项是 正交的（Orthogonal）（即处于完美的 90 度角）。
结果： 当计算机使用这个纯净的“猫”概念来投射它的手电筒时，它会完全忽略那只狗。热力图现在只会照亮真正的猫，或者如果根本没有猫，则什么都不照亮。

为什么这很重要

论文证明了这不仅仅是针对某一种特定摄像机的技巧；它适用于许多不同的 AI 模型（如 CLIP、SigLIP 和 Stable Diffusion）以及许多不同的热力图生成方式。

它停止了谎言： 计算机不再仅仅因为某些物体看起来相似就去高亮显示并不存在的物体。
它保留了真相： 它不会降低计算机寻找“正确”物体的能力；事实上，它通常会让“正确”的高亮变得更加精准。
它是一个即插即用的工具： 你不需要重新训练整个 AI。你只需要在生成解释之前添加这个“过滤器”步骤。

证明过程

研究人员在数千张图像上进行了测试。

定量证明： 他们测量了 AI 正确识别目标对象并忽略错误对象的频率。这个“过滤器”（OSP）显著提高了这些得分。
人类实验证明： 他们向 200 名真实的人展示了热力图。当使用旧方法生成热力图时，人们经常会被错误的亮点所迷惑或误导。当他们看到由新方法 OSP 生成的热力图时，人们能更好地猜出 AI 正在看什么，并且对答案感到更加自信。

总结

简而言之，这篇论文介绍了一种在 AI 尝试自我解释之前，先清理其词汇表的方法。通过在数学上分离相似的概念（如猫和狗），使它们不再互相渗透，AI 终于可以精准地指向你所要求的确切事物，而不会意外地照亮旁边的错误物体。

技术摘要：通过正交语义投影消除幻觉

问题陈述

随着视觉语言模型（VLMs）和多模态扩散模型在安全敏感型应用中的部署，其解释的可信度变得至关重要。然而，现有的针对这些模型的可解释人工智能（XAI）方法经常受到**语义幻觉（semantic hallucination）**的影响。在这种现象中，当使用特定的文本描述进行提示时，归因图（显著性图）会高亮显示图像中并不存在的物体区域。例如，当提示词为“猫”时，模型可能会高亮显示一只“狗”；或者当提示词为“猫”且图中不存在“羊”时，模型可能会高亮显示一只“羊”。

本文认为，这一问题不仅仅是特定架构的缺陷，而是高维嵌入空间中**线性语义泄漏（Linear Semantic Leakage）**的一个根本性后果。在 CLIP 和 SigLIP 等模型中，文本和图像嵌入存在于一个共享空间内，其中语义相关但不同的概念（例如“猫”和“狗”）并不是正交的。它们共享共同的方向分量。当显著性方法基于这些非正交的嵌入计算归因时，共享的分量会导致方法高亮显示无关区域，从而产生“幽灵信号（ghost signals）”或幻觉解释。本文指出，模型可能表现得正确，但实际上是“因错误的原因而显得正确”。

方法论：正交语义投影 (OSP)

为了解决这个问题，作者提出了正交语义投影（Orthogonal Semantic Projection, OSP），这是一种几何干预手段，旨在计算显著性图之前，将独特的语义信号从共享概念中解耦出来。

理论框架

作者通过**线性语义归因（Linear Semantic Attribution, LSA）**框架对该问题进行了形式化。他们证明了大多数多模态显著性方法（包括 GradCAM、LeGrad、CheferCAM 和 DAAM）都可以表示为文本嵌入的线性（或局部线性）函数。

引理 1（线性语义泄漏）： 如果目标类别 $A$ 的文本嵌入与干扰类别 $B$ 的文本嵌入之间的夹角不为零（即它们不是正交的），那么 $B$ 的显著性图将包含一个与 $A$ 的真实显著性图成比例的分量。这种“幽灵信号”直接受嵌入之间余弦相似度的控制。

OSP 算法

OSP 利用**正交匹配追踪（Orthogonal Matching Pursuit, OMP）**对文本嵌入进行稀疏分解。该过程包括：

字典构建： 创建一个语义字典 ( $\mathbf{D}$ )，该字典由与目标相关的“干扰”概念组成。作者探索了四种策略：ImageNet 类别、ImageNet + WordNet 关系，以及由大语言模型（Gemini 3 Flash 和 GPT-OSS 120B）生成的字典。
稀疏分解： 将目标文本嵌入 ( $\mathbf{a}^{\text{txt}}_{\text{target}}$ ) 视为待用字典原子进行近似的信号。
残差提取： 算法迭代地选择与当前残差相关性最高的原子，并更新激活集。至关重要的是，最终的残差 ( $\mathbf{r}$ ) 严格正交于所有选定的干扰原子。
投影： 残差 $\mathbf{r}$ 代表了目标概念的“独特语义方向”，它剥离了与干扰项共享的分量。
应用： 该纯化的残差取代原始文本嵌入进行显著性计算。对于判别式模型，这是直接在查询嵌入上进行的。对于扩散模型（如 Stable Diffusion），OSP 应用于交叉注意力机制中的 key 向量，并在 softmax 操作之前进行。

该方法是即插即用的，不需要对底层的 VLM 或扩散模型进行重新训练。

核心贡献

幻觉的几何分析： 本文提供了一个将接地失败（grounding failures）与语义嵌入方向的非正交性联系起来的正式数学框架。它将幻觉表征为线性语义泄漏的函数，并提供了如何传播这些错误的几何解释。
一种通用的 XAI 技术： OSP 被呈现为一个通用的框架，兼容多种架构（CLIP、SigLIP、扩散模型）和多种显著性方法（GradCAM、LeGrad、CheferCAM、AttentionCAM、DAAM）。
广泛的验证： 该方法在三个基础模型、五种 XAI 方法和多个数据集（ImageNet-Segmentation、MS COCO）上进行了评估。
以人为中心的评估： 一项涉及 200 名参与者的用户研究表明，OSP 提高了人类识别准确性、置信度和对模型解释的信任度。

实验结果

作者在 ImageNet-Segmentation 和 MS COCO 数据集上使用 mIoU、mAP 和 AUROC 等指标对 OSP 进行了评估。

幻觉抑制： OSP 一致地扩大了正向提示（目标存在）与负向提示（目标不存在）之间的差距。具体而言，它显著提高了 AUROC，表明在区分存在与不存在的概念方面具有更好的辨别力。
定位保真度： 该方法在提高正向提示的定位性能（mIoU）的同时，抑制了负向提示的不准确热图。
鲁棒性： 这些改进在不同的字典构建策略下依然成立，包括由 LLM 生成的字典以及基于 ImageNet 和 WordNet 的静态数据集。
效率： OSP 的计算开销微乎其微（小于一秒），使其在推理时干预中具有实用性。
用户研究： 与基准方法相比，使用 OSP 增强的热图的参与者在识别模型关注点方面表现出更高的准确性、更高的置信度和更高的解释信任度。

重要性与主张

本文声称 OSP 代表了一种全新的可解释性范式。以往的方法试图通过分解图像嵌入来寻找视觉概念，而 OSP 则通过数学手段分解文本嵌入空间，以隔离纯粹的语义方向。

作者断言，通过解决幻觉的根源——即表示空间中嵌入的非正交性——他们提供了一个在理论上成立且经过经验验证的解决方案。他们强调，这种几何干预使归因图对最终用户而言更加可靠，将理论上的接地转化为人类可解释性的可衡量提升。这项工作表明，几何视角为将鲁棒的可解释性扩展到更大规模的生成式架构和更广泛的可信 AI 应用开辟了充满希望的方向。