技术摘要：视觉机械可解释性的分布视角

1. 问题陈述

当前视觉机械可解释性（MI）的范式难以在忠实性（准确反映模型如何激活特定特征）与可解释性（生成人类可理解的可视化）之间取得平衡。现有方法通常依赖启发式方法，面临根本性的权衡：

• 数据集搜索：从有限数据集中检索高激活样本。虽然视觉上看似合理，但该方法受边界偏差和阈值不稳定性影响，往往无法捕捉特征语义的完整分布。
• 带正则化的优化（激活最大化）：合成输入以最大化特征激活。虽然对激活分数高度忠实，但这些方法常产生“超刺激”或高频伪影，显著偏离自然图像分布，导致其在感知上不可解释。
• 代理引导生成（例如基于提示的扩散）：使用文本提示引导扩散模型。这引入了信息瓶颈和语义鸿沟，因为文本提示无法完全捕捉细粒度的、非语言的或多语义的内部特征（例如 SAE 特征）。

核心问题在于，这些方法将特征解释视为样本级的模式识别任务，而非分布推断问题，从而导致解释要么在机制上不忠实，要么在感知上不可解释。

2. 方法论

2.1 分布视角

作者提出将视觉 MI 重构为一个Kullback-Leibler (KL) 最小化优化问题。目标不是寻找单一的“最佳”图像，而是识别一个诱导分布 $q$，使其满足两个相互竞争的目标：

1. 忠实性：$q$ 必须集中在能强烈激活内在分数 $s(x)$（例如 SAE 特征激活）的输入上。
2. 可解释性：$q$ 必须保持接近自然图像先验 $p(x)$，以确保人类可感知性。

该视角将 MI 范式分解为三个正交维度：

• 研究对象：被解释的对象是什么（例如神经元与 SAE 特征）。
• 约束形式：如何强制执行忠实性（硬约束与软约束）。
• 采样方法：如何实例化诱导分布（检索、优化或扩散）。

2.2 KL 最小化软约束（KLSC）原则

为了解决先前方法的偏差，本文引入了KLSC 原则。与硬约束方法（在阈值 $m$ 处截断分布，即 $s(x) > m$）不同，KLSC 采用软约束，要求期望激活达到目标水平：$\mathbb{E}_{q}[s(X)] \geq m$。

理论上，在此软约束下最小化 $KL(q \| p)$ 的唯一解是指数倾斜分布：
$$q_{\beta}(x) \propto p(x) \exp(\beta s(x))$$
其中 $\beta$ 是控制引导强度的拉格朗日乘子。

KLSC 相对于硬约束的理论优势：

• 降低边界偏差：硬约束将概率质量集中在阈值附近的薄壳中（即“勉强激活”区域），而 KLSC 更平滑地分布质量，降低了对微小阈值变化的敏感性。
• 阈值稳定性：硬约束在阈值受到扰动时，会导致 KL 散度和总变差（TV）距离出现不连续的跳跃。KLSC 形成平滑的指数族，确保局部连续性。
• 可解释性差距：即使在期望忠实性相匹配的情况下，KLSC 解也比硬截断解更有效地最小化与自然图像先验 $p$ 的偏差。

2.3 避免任务注入与代理瓶颈

本文反对将外部任务目标（例如分类标签或文本提示）注入解释过程。

• 对象漂移：注入任务分数 $f_c(x)$（例如 CLIP 对齐）会扭曲内在诱导分布。本文证明，实现任务需求会产生严格为正的 KL 成本，导致解释反映的是任务而非内在机制。
• 提示瓶颈：代理引导方法将搜索空间限制在提示参数化的族 $Q_{prompt}$ 中。本文表明，该族通常无法表示细粒度或多语义特征，导致不忠实的样本。

2.4 能量引导扩散后验采样（EnergyDPS）

为了在实践中实现 KLSC 原则，作者提出了EnergyDPS。

• 机制：它将内在分数 $s(x)$（例如 SAE 特征激活）视为能量函数。
• 过程：它利用扩散后验采样（DPS）。EnergyDPS 不是优化文本提示，而是将内在分数的梯度 $\nabla_x s(\hat{x}_0)$ 直接注入到每一步的逆向扩散过程中。
• 优势：这使得能够直接从 KLSC 诱导分布中采样，避免了与文本提示相关的信息损失或点对点优化的模式寻求偏差。该方法无需训练，且适用于任何可微的内在分数。

3. 主要贡献

1. 视觉 MI 的分布视角：本文建立了一个理论框架，将特征解释建模为 KL 最小化分布推断问题，识别了现有范式中系统性的统计偏差（边界偏差、阈值不稳定性和可解释性差距）。
2. KL 最小化软约束（KLSC）原则：一种新的约束形式，通过在满足期望激活约束的同时寻找最接近自然先验的分布，从理论上平衡忠实性与可解释性。
3. EnergyDPS 算法：一种实用的、无需训练的采样器，利用扩散模型实现 KLSC 原则。它避免了基于提示方法的信息瓶颈和基于优化方法的伪影。
4. 统一分类法：基于研究对象、约束形式和采样方法对视觉 MI 方法进行了系统分类，阐明了为何先前方法无法同时实现忠实性与可解释性。

4. 实验结果

作者在 DINOv3 ResNeXt Large 特征上使用转码器（SAE 变体）评估了 EnergyDPS。

• 定量指标：
  • 忠实性：校准后，EnergyDPS 达到了与基线（MACO, DiffExplainer）相当的激活水平。
  • 可解释性：EnergyDPS 在QualiCLIP（感知可解释性）和NRQM（无参考质量指标）上显著优于基线。例如，在随机特征上，EnergyDPS 的 QualiCLIP 得分为 0.5791，而 MACO 为 0.4228，DiffExplainer 为 0.3259。
• 盲测可解释性研究：
  • 人类和 AI 评分员（GPT-5.4, Gemini-3-flash-lite）评估了生成图像集以识别共享语义概念。
  • EnergyDPS 获得了最高的可解释性分数（例如人类评分为 2.92，而 MACO 为 1.92），且语义描述的加权方差最低，表明其共享概念更一致、更清晰。
• 玩具模型验证：
  • 在二维高斯混合模型（GMM）上的实验证实了理论预测：与平滑的 KLSC 路径相比，硬约束表现出更高的边界质量和 TV 不稳定性。
• 消融研究：
  • 层鲁棒性：EnergyDPS 在不同网络层中均保持有效。
  • 先验依赖性：使用有偏先验（FFHQ 人脸）导致结果退化，证实了与模型训练分布对齐的自然图像先验的重要性。
  • 对象漂移：实验表明，即使内在激活相匹配，添加任务注入（CLIP 提示或像素级参考）也会导致显著的语义偏移，验证了仅使用内在目标的必要性。

5. 意义与主张

本文主张其主要贡献是从启发式可视化到分布推断的根本性视角转变。

• 理论严谨性：作者认为，视觉 MI 的先前失败源于约束形式（硬约束与软约束）和采样（检索/优化与分布采样）中的结构性偏差。KLSC 原则为平衡忠实性与可解释性提供了严格的数学基础。
• 实际有效性：EnergyDPS 证明了可以生成既高度忠实于模型内部机制又在感知上自然的可视化，在 DINOv3 特征上优于最先进的方法。
• 局限性：作者谦逊地承认，虽然自然图像提供了一个最小损耗的参考空间，但它们可能无法完全捕捉所有人类可理解的概念（例如非自然但与模型相关的证据）。此外，由于扩散采样过程，EnergyDPS 会产生计算成本，使其速度慢于基于优化的基线。

总之，本文提出，理解视觉特征需要建模它们如何重塑自然图像分布，而结合 EnergyDPS 的 KLSC 原则为解决这一挑战提供了理论扎实且实际有效的方案。