Attribution via Distributional Paths for Information Revelation

技术摘要：通过分布路径进行信息揭示的归因研究

问题陈述
特征归因方法旨在通过为输入特征分配重要性得分来解释模型的预测。两种主流方法——SHAP（Shapley 加性解释）和集成梯度（Integrated Gradients, IG）——都满足“完备性”（completeness）属性，即确保归因之和等于模型输出在参考状态与输入之间的变化。然而，两者都存在明显的局限性：

• SHAP 依赖于离散的、组合式的特征揭示操作。它将特征视为完全未知或完全观测的状态，这种不连续的干预缺乏渐进式的信息揭示过程。
• IG 在输入空间中定义了一条连续路径（例如，从基准到输入的直线）。这种方法在输入空间的轨迹上对模型进行逐点评估，而该轨迹可能会经过在语义上毫无意义的区域。因此，IG 容易受到“路径伪影”（如“阴影”效应）的影响，即在轨迹早期（靠近基准处）遇到的特征会对最终输入的归因产生不成比例的影响，即使这些特征与特定的预测无关。

核心问题在于，标准的路径方法是在没有控制查询特征时的分辨率或不确定性的情况下，对模型在输入空间中特定点的原始响应进行积分。

方法论：Reveal-IG
作者提出了 Reveal-IG，该方法将路径归因框架从输入空间提升到了结构化探针分布（structured probe distributions）的空间。Reveal-IG 不再遍历原始输入值的轨迹，而是遍历一组逐渐向感兴趣的输入 $x^\star$ 凝聚的概率分布轨迹。

1. 分布路径公式化：
   该方法定义了在参数化为 $\theta$ 的探针分布空间 $q_\theta(z | x^\star)$ 中的路径。被分解的量是期望模型响应：
   $$G(\theta; x^\star) = \mathbb{E}_{z \sim q_\theta(\cdot|x^\star)}[f(z)]$$
   归因是通过沿分布路径对该期望响应的梯度进行积分获得的：
   $$\Delta G = \int_S \nabla_\theta \mathbb{E}_{z \sim q_\theta(z|x^\star)}[f(z)] \cdot d\theta$$
   这保留了路径积分的完备性属性，但将其应用于期望响应而非原始输出。

2. 探针设计：

   • 图像数据： 探针是像素通道上的因子化高斯分布。路径从一个宽泛的参考状态（高不确定性，例如 $\mu=0, \sigma=1$）开始，到围绕观测图像集中的探针结束。终点方差 ($\sigma_{final}$) 可以固定，也可以根据目标逻辑值保持稳定的噪声尺度进行自适应选择。
   • 表格数据： 由于在表格空间进行线性插值通常在语义上是无效的，因此探针被定义在来自训练数据的经验边缘分布之上。通过一个受温度控制的相似性核（similarity kernel），使分布从经验边缘分布过渡到围绕观测特征值 $x^\star_i$ 的集中分布。路径通过降低温度来定义，从而有效地实现特征信息的渐进式揭示。

3. 梯度估计：
   梯度是针对探针参数 $\theta$ 而非输入值计算的。

   • 对于可微模型和高斯探针，重参数化技巧（$z = \mu + \sigma\epsilon$）允许通过自动微分进行高效的梯度估计。
   • 对于不可微模型（如树集成模型）或具有经验探针的表格数据，该方法使用黑盒估计器。它从训练集中采样特征值，并根据探针分布进行加权，从而在不需要模型可微性的情况下实现梯度估计。

核心贡献

• 提升路径积分（Lifted Path Integration）： 论文引入了一个框架，在该框架中，路径积分是在结构化分布空间而非原始输入点空间进行的。这实现了对查询特征时的“分辨率”控制。
• 连续信息揭示： Reveal-IG 提供了一种连续的 SHAP 离散特征揭示的模拟，用从高不确定性探针到集中探针的可微路径，取代了突发的特征包含。
• 领域适应性： 该框架被实例化用于图像分类（使用高斯探针）和表格回归（使用经验边缘探针），证明了“提升”后的视角为具有不同几何结构的领域提供了一种通用的语言。
• 伪影缓解： 通过在路径早期阶段对宽泛分布下的模型响应进行平均，该方法稀释了在标准 IG 中通常会导致“阴影”伪影的远端或靠近基准的结构的影响。

实验结果

• 合成诊断： 在二维受控实验中，Reveal-IG 避免了 IG 中观察到的“阴影”伪影（即归因受远离感兴趣特征的影响），也避免了 SHAP 中的轴对齐结构偏差。它产生的归因场可以在改变揭示路径粒度的情况下，在 SHAP 和 IG 的极端情况之间进行插值。
• 图像分类 (ImageNet)： 在 ResNet-50 和 ViT-B/16 上进行评估，Reveal-IG 达到了最先进或接近最先进的性能。
  • 它在利用归因符号（sign）的指标（如正向证据插入/删除和敏感度-n）上显著优于基准方法，表明其能更好地区分支持或抑制目标类别的特征。
  • 在基于幅值的指标（如 RMA）上保持竞争力，尽管在无符号显著性任务中，Blur-IG 和 IDG 是强有力的竞争对手。
  • 对沿路径归因累积的分析表明，Reveal-IG 在轨迹后期（当探针趋于集中时）分配大部分归因，而 IG 则在轨迹早期（靠近基准处）分配大量归因。
• 表格回归： 在 Bike Sharing、California Housing 和 Wine Quality 数据集上进行评估。
  • Reveal-IG 在方向性插入（符号归因一致性）和敏感度-最大（稳定性）指标上表现持续强劲。
  • 虽然 KernelSHAP 和特征消融法在充分性/完备性（属于扰动类方法的原生指标）方面具有竞争力，但 Reveal-IG 提供了一个有利的权衡：它提供了接近扰动原生方法的性能，同时具有显著更高的稳定性，并且为表格数据提供了一个更自然的路径，避免了无效的线性插值。

意义与主张
论文声称 Reveal-IG 将路径归因重新定义为一个平滑问题。虽然像 Blur-IG 这样的方法是在平滑输入空间（由粗到精），但 Reveal-IG 通过对具有递减不确定性的分布进行积分，实现了对模型响应的平滑。

作者认为，路径空间的选择决定了哪些部分的模型输入输出行为会被纳入解释中。通过从输入空间转向分布空间，Reveal-IG 实现了：

1. 受控的分辨率： 能够在不同信息尺度上查询模型的能力。
2. 领域特定的探针： 定义尊重数据结构（例如，使用经验边缘分布处理表格数据）的探针的灵活性，而不必强加任意的几何插值。
3. 鲁棒性： 减少了路径依赖的伪影，从而产生更稳定、更具语义意义的归因，特别是在涉及特征重要性符号的任务中。

论文承认了其局限性，包括计算成本的增加（对于图像而言比 IG 慢约 7 倍，对于表格数据由于蒙特卡洛采样可能慢达 1000 倍）以及假设因子化分布会忽略特征间的相关性。然而，作者认为这种权衡带来了更稳健且更具解释性的归因框架，特别是对于那些特征符号至关重要的任务。