Joint Distribution-Informed Shapley Values for Sparse Counterfactual Explanations

本文提出了名为 COLA 的模型无关后处理框架，通过结合最优传输与 Shapley 值归因，在确保反事实解释有效性的同时，将所需的特征编辑数量显著减少至原始方法的 26% 至 45%，从而生成更稀疏、更具可操作性的解释。

要点

这篇论文介绍了一种名为 COLA 的新方法，旨在让人工智能的“解释”变得更清晰、更实用。

为了让你轻松理解，我们可以把这篇论文的核心思想想象成**“如何用最少的改动，让一个迷路的人到达目的地”**。

1. 背景：为什么我们需要“反事实解释”？

想象你申请贷款被银行拒绝了（这是事实）。你想知道：“我到底要怎么做才能被批准？”

• 传统的解释方法（Feature Attribution）：就像告诉你：“你的年龄、收入和信用分都很重要。”但这只是告诉你什么重要，没告诉你具体要改多少。
• 传统的“反事实解释”（Counterfactual Explanations, CE）：就像告诉你：“如果你把年龄改成 25 岁，把收入改成 100 万，把信用分改成 800，你就能获批。”
  • 问题出在哪？ 这种建议往往太夸张了！把你从 45 岁改成 25 岁？这根本做不到（不可行）。而且，它可能让你改动了太多不必要的特征（比如把头发颜色也改了），导致建议模糊不清，让人不知道到底该先改哪一步。

2. 核心问题：如何“少改多效”？

论文提出了一个核心问题：给定一个被拒绝的申请，我们如何制定一个行动计划，只改动最少数量的特征，就能让结果变成“批准”？

这就好比：

• 现状：你在 A 点，想去 B 点。
• 旧方法：给你一张地图，上面画了一条路，但这条路绕了大弯，甚至让你去爬一座不存在的山（改动了太多不相关的特征）。
• COLA 的目标：帮你找到一条最短、最直接的路，只走必要的几步就能到达 B 点。

3. COLA 是怎么工作的？（三个关键步骤）

COLA 就像一个**“精明的导航员”**，它不直接发明新路，而是优化别人已经画好的路。它分三步走：

第一步：先不管路，先找“配对”（最优传输 OT）

假设银行给了你一份“理想客户名单”（反事实数据），名单上有 100 个被批准的人。你的任务是把自己变成名单里的某一个人。

• 旧方法：随机挑一个人，或者按顺序挑。这可能导致你为了匹配一个“亿万富翁”而拼命改收入，却忽略了其实只要匹配一个“普通中产”就能获批。
• COLA 的做法（OT - 最优传输）：它像玩**“连连看”或“配对舞”。它计算你和名单上每个人之间的“距离”，然后把你和最像你、改动成本最低**的那个人配对。
  • 比喻：就像在舞会上，它不是随便拉一个陌生人跳舞，而是帮你找到那个身高、步调最合拍的人，这样你们跳舞（修改特征）时最省力。

第二步：用“谢普利值”算出谁最重要（p-SHAP）

一旦配好了对，COLA 就要决定：具体要改哪些特征？

• 它使用了一种叫**“谢普利值”（Shapley Value）**的数学工具。这就像分蛋糕：如果我们要把“从被拒到获批”的功劳分给各个特征（年龄、收入、信用分），谁贡献最大？
• 创新点：普通的谢普利值是随机抓一个背景人来对比。但 COLA 利用第一步的“配对”结果，只和**那个最匹配的“理想客户”**对比。
  • 比喻：如果你要减肥，普通的教练会拿奥运冠军跟你比（太难了）；但 COLA 会拿一个和你身材相似、只胖了一点点的人跟你比，这样它就能精准告诉你：“你只需要减掉这 2 斤腰上的肉，而不是去练腹肌。”

第三步：只动“关键部位”

根据第二步的计算，COLA 只选择那些贡献最大的特征进行修改，其他的特征保持原样。

• 结果：原本可能需要改 10 个地方才能获批，现在可能只需要改 3 个地方，而且这 3 个地方是最容易改、最可行的。

4. 论文证明了什么？

作者在 4 个不同的数据集（如信用评分、酒店预订等）和 12 种不同的模型上进行了测试，发现：

1. 省事儿：要达到同样的“获批”效果，COLA 只需要原来方法 26% 到 45% 的改动量。也就是说，原本要改 10 个地方，现在改 3-4 个就够了。
2. 更靠谱：它保证修改后的方案不会比原来的方案离“事实”更远（理论保证）。
3. 通用性强：不管原来的解释算法是谁生成的（DiCE, AReS 等），COLA 都能拿来“精修”，不需要重新训练模型。

5. 总结：COLA 是什么？

COLA 是一个“反事实解释的修图师”。

• 别人生成的解释可能像一张过度 PS 的照片（改得面目全非，不真实）。
• COLA 利用**“配对舞”（最优传输）找到最合适的参照物，再用“精准分蛋糕”**（改进的谢普利值）找出最关键的那几笔。
• 最后，它给你一张**“微调版”**的照片：只动了最必要的地方，既达到了目的，又保留了你的本来面目。

一句话总结：
COLA 帮你把 AI 给出的“改变建议”从**“大刀阔斧的改造”变成了“四两拨千斤的精准调整”**，让你更容易听懂，也更容易执行。

技术摘要

这是一篇发表于 ICLR 2026 的会议论文，题为《基于联合分布信息的 Shapley 值用于稀疏反事实解释》（JOINT DISTRIBUTION-INFORMED SHAPLEY VALUES FOR SPARSE COUNTERFACTUAL EXPLANATIONS）。

以下是该论文的详细技术总结：

1. 研究背景与问题定义 (Problem & Background)

• 背景：可解释人工智能（XAI）中的特征归因（FA，如 Shapley 值）和反事实解释（CE）是提升模型透明度的两大支柱。FA 指出哪些特征重要，CE 展示如何修改输入以改变模型预测。
• 现有挑战：
  1. 冗余修改：现有的 CE 方法往往修改过多的特征，导致解释不够清晰，且缺乏可操作性（Actionability）。
  2. 方法局限性：没有一种单一的 CE 算法能适用于所有场景（如个体实例、群体分布、不同模型结构等）。
  3. 归因与行动脱节：单独使用 FA 选出的“重要特征”并不一定是最优的修改路径。FA 分数与实现反事实效果所需的特征修改之间缺乏连贯性，导致“重要特征”的修改可能无法有效达成目标，或者引入了不必要的改动。
• 核心问题：给定一组事实实例（Factual instances），如何设计一个行动计划，以最少的特征修改（稀疏性）来实现期望的反事实结果（Counterfactual outcome）？

2. 方法论：COLA 框架 (Methodology: COLA)

作者提出了 COLA (COunterfactuals with Limited Actions)，这是一个模型无关（Model-agnostic）且生成器无关（Generator-agnostic）的后处理框架。其核心思想是利用最优传输（Optimal Transport, OT）构建事实集与反事实集之间的耦合，进而指导Shapley 归因，以筛选出最小特征子集。

核心组件：

1. **反事实生成 **(Line 1)：
   • 使用任意现有的 CE 算法（$A_{CE}$）生成初始的反事实集合 $r$，使其满足目标输出 $y^*$ 且与事实 $x$ 距离在容忍度 $\epsilon$ 内。
2. **联合分布构建 **(Line 2)：
   • 引入算法 $A_{Prob}$ 计算事实 $x$ 和反事实 $r$ 之间的联合分布（耦合矩阵 $p$）。
   • 创新点：使用最优传输（OT）来求解 $p$。OT 旨在最小化将 $x$ 传输到 $r$ 的代价（即特征修改成本）。这解决了事实与反事实之间“谁对应谁”的排列问题，找到了成本最低的匹配路径。
3. **p-SHAP 归因 **(Line 3-4)：
   • 提出 p-SHAP（Joint-Probability-Informed Shapley）。
   • 定义特征值函数 $v(S)$ 时，利用 OT 得到的联合分布 $p$ 来对齐事实 $x$ 和反事实 $r$。
   • 公式：$v^{(i)}(S) = E_{r \sim p(r|x_i)}[f(x_{i,S}; r_{F\setminus S})] - E_{r \sim p(r)}[f(r)]$。
   • 通过 $p$ 的引导，p-SHAP 能够更准确地识别出哪些特征的修改对达成目标最“高效”，从而生成特征重要性矩阵 $\phi$。
4. **行动选择与精炼 **(Line 5-16)：
   • 特征值确定：根据 $p$ 和 $r$ 确定每个特征修改后的目标值 $q$（通过 $A_{Value}$，如取概率最大的对应行或加权平均）。
   • 稀疏选择：根据归因矩阵 $\phi$ 的概率分布，采样选择 $C$ 个最重要的特征进行修改（$c_{ik}=1$）。
   • 生成精炼解释：将选中的特征值替换为 $q$，生成最终的反事实实例 $z$。

3. 理论贡献 (Theoretical Contributions)

• 上界最小化：证明了在 Lipschitz 连续假设下，OT 生成的耦合计划 $p_{OT}$ 能够最小化事实输出 $f(x)$ 与目标 $y^*$ 之间 $W_1$ 散度的上界。这意味着 p-SHAP 找到的修改路径在理论上是最优的“成本 - 效果”路径。
• 干预效应：证明了 p-SHAP 的值函数代表了在干预特征子集 $S$ 后，模型输出的因果效应（Interventional Effect）。
• 距离保证：证明了经过 COLA 精炼后的反事实 $z$，其与原始事实 $x$ 的距离（Frobenius 范数）严格小于或等于原始对齐的反事实 $q$ 与 $x$ 的距离。即精炼过程不会引入额外的发散。
• NP-hard 性：证明了该稀疏优化问题即使在 $d=1$ 的线性模型下也是 NP-hard 的，因此 COLA 作为一种启发式/后处理框架的必要性。

4. 实验结果 (Numerical Results)

实验在 4 个数据集（HELOC, German Credit, Hotel Bookings, COMPAS）、12 种模型（包括树模型、神经网络等）和 5 种不同的 CE 生成器上进行了验证。

• **显著的特征减少 **(Result I)：
  • COLA 能够在保持相同反事实效果（80% 或 100%）的前提下，将原始特征修改数量减少 55% - 74%。
  • 具体而言，仅使用原始特征修改量的 26% - 45% 即可达到 100% 的反事实效果。
• **p-SHAP 的优越性 **(Result II)：
  • 对比实验表明，使用 OT 耦合的 **p-SHAP **(CF-pOT) 显著优于其他 Shapley 变体（如基于随机基线的 RB-SHAP、基于均匀分布的 CF-pUni 等）。
  • 这证明了事实与反事实之间的正确对齐（Alignment）对于特征归因至关重要，而 OT 是解决这一对齐问题的最佳手段。
• **接近最优解 **(Result III)：
  • 在小型基准测试（German Credit 数据集）中，将 COLA 与混合整数线性规划（MILP）求得的全局最优解进行对比。
  • 结果显示 COLA 的表现接近最优（Near-optimal），证明了该方法在计算效率和解的质量之间取得了很好的平衡。

5. 意义与结论 (Significance & Conclusion)

• 通用性：COLA 不依赖于特定的 CE 算法或模型结构，可以作为一个“插件”优化任何现有的反事实解释生成器。
• 可解释性与可操作性：通过大幅减少不必要的特征修改，COLA 生成的解释更加简洁、清晰，更易于用户理解和执行（Actionable）。
• 理论结合实践：首次系统地将最优传输（OT）与 Shapley 值结合，用于解决反事实解释中的稀疏性问题，为特征归因与行动规划的统一提供了新的理论视角。
• 开源：作者提供了完整的代码库（XAI-COLA）和软件包，促进了该方法的复现和应用。

总结：这篇论文提出了一种名为 COLA 的框架，通过利用最优传输技术构建事实与反事实之间的最优耦合，进而指导 Shapley 值计算，成功地在保证反事实效果的同时，大幅减少了所需的特征修改数量，解决了现有反事实解释方法中“修改过多”和“归因与行动脱节”的关键痛点。