技术摘要：因果算法救济：基础与方法

问题定义与动机

本文探讨了算法救济（algorithmic recourse）的挑战，即为个人提供可操作的建议，以逆转自动化系统做出的负面决策（例如贷款被拒、医疗治疗被拒）。尽管现有文献提供了反事实解释，但作者认为，标准方法往往未能捕捉现实世界救济中固有的不确定性。

具体而言，传统方法将救济结果视为固定单元的确切反事实，假设潜在变量（例如能力、压力、睡眠）在干预前后保持不变。作者指出，在现实中，救济涉及对同一人在不同潜在条件下的重复决策。例如，一名学生在参加办公时间后重考，其潜在能力可能相同，但压力或睡眠水平可能不同。这引入了一种结构性不确定性，即干预前和干预后的潜在变量（$u_T$和$u^*_T$）相关但不相同。

此外，本文强调，标准的因果救济公式通常依赖于**独立可操纵特征（IMF）**假设，该假设忽略了协变量之间的因果依赖关系。作者通过示例证明，忽略这些依赖关系（例如收入影响支出）可能导致次优或不可行的建议。最后，他们指出，推断救济效应通常需要对联合反事实分布进行推理，而在没有强假设的情况下，仅凭观测数据通常无法识别这些分布。

方法论与框架

作者提出了一个基于结构因果模型（SCMs）的因果框架，该框架明确建模了救济过程中潜在变量的重采样。

1. 救济 SCM 与救济后稳定性（PRS）

该方法的核心是救济 SCM，定义为元组 $\langle F, P(u), R=r, P(u^*|u) \rangle$，其中 $P(u^*|u)$ 表示在采取救济行动 $do(R=r)$ 后潜在变量的分布。

• 潜在分解：单元被分解为固定部分（$u^{(f)}$）和可变部分（$u^{(v)}$）。固定部分（例如内在能力）保持不变，而可变部分（例如压力）可能会被重采样。
• 救济后稳定性（PRS）：作者将 PRS 定义为一种条件，即救济行动的非后代的潜在变量分布保持不变，而对于后代，固定部分保持不变，而可变部分则根据给定固定部分的相同条件分布进行重采样。
• 推论：在 PRS 下，给定其父节点的后救济变量的边际分布与观测分布相同（边际稳定性）。这使得仅从观测数据中进行推断成为可能。

2. 推断策略

本文根据数据可用性和 PRS 的有效性开发了三种不同的算法：

• 算法 1（观测数据 + PRS）：

  • 假设 PRS 成立，且仅有观测数据可用。
  • 使用Frank copula来建模救济前分位数（$q_i$）与救济后分位数（$q^*_i$）之间的耦合。
  • 由于 copula 参数 $\tau$（Kendall's $\tau$）无法仅从观测数据中识别，该算法通过改变 $\tau$ 进行敏感性分析，以生成一系列可能的救济结果。

• 算法 2（观测数据 + 救济数据 + PRS）：

  • 假设 PRS 成立，且拥有配对数据（同一人的救济前和救济后数据）。
  • 利用配对数据通过最大似然估计推断 copula 参数 $\tau$。
  • 包括拟合优度检验（使用 Bootstrap 程序和 Cramer-von Mises 统计量），以验证 Frank copula 是否为合适的模型。这解决了救济数据中固有的选择偏差问题（仅对最初失败的个人可用）。

• 算法 3（观测数据 + 救济数据 + 无 PRS）：

  • 解决 PRS 不成立（边际稳定性被违反）的情况。
  • 不依赖特定的 copula，而是直接从组合的观测和救济数据中学习非参数分位数函数 $Q(v^*_i | v_i, pa_i, pa^*_i)$。
  • 这种方法利用救济前残差与救济后噪声之间的相关性来提高预测精度，理论上相比仅对救济父节点进行标准回归，降低了预期的平均平方预测误差（EMSPE）。

主要贡献

1. 救济的因果公式化：本文提出了一种算法救济的公式化方法，该方法考虑了潜在变量的重采样，超越了固定单元的假设。它定义了**救济后稳定性（PRS）**作为推断的关键条件。
2. 理论保证：
   • 定理 1：证明 PRS 蕴含边际稳定性，使得从观测数据中识别救济效应成为可能。
   • 定理 2：在线性高斯设置下为“增强”回归方法（算法 3）提供理论保证，表明当救济前和救济后噪声项相关时，该方法相比标准方法降低了预测风险。
3. 算法套件：
   • 开发算法 1，用于使用观测数据进行敏感性分析。
   • 开发算法 2，用于使用救济数据学习 copula 参数并测试模型拟合度。
   • 开发算法 3，用于在稳定性假设失效时进行无分布推断。
4. 救济数据概念：作者正式定义了救济数据（同一人的干预前和干预后配对样本）及相关学习问题，将其与标准的观测或实验数据组合区分开来。

实验结果

作者使用**HELOC（房屋净值信贷额度）**数据集及其半合成变体验证了他们的方法：

• 敏感性分析（算法 1）：应用于真实的 HELOC 数据，该算法展示了改变 copula 参数 $\tau$ 如何影响预测救济结果的分布，说明了在缺乏救济数据时固有的不确定性。
• 拟合优度（算法 2）：使用半合成数据，作者表明所提出的 Bootstrap 检验能正确识别 Frank copula 何时有效（均匀 p 值分布）以及何时被违反（p 值偏向 0 的偏斜分布）。
• 无 Copula 学习（算法 3）：在 PRS 被违反的场景（SeS-HELOC B）中，算法 3 的表现优于标准回归方法和基于 copula 的方法。Kolmogorov-Smirnov 统计量显示，算法 3 的预测更接近真实的潜在分布，实证验证了即使在边际稳定性不成立的情况下，利用救济前信息的理论优势。

意义与主张

本文声称是首个形式化推断问题的研究，该问题在算法救济背景下结合了对应于同一人的观测数据和实验数据。通过摆脱固定反事实单元的假设，该框架提供了更现实的模型，以描述个人如何随时间对干预做出反应。

作者强调，他们的工作弥合了理论因果推断与实际救济应用之间的差距。他们认为，虽然标准的因果救济方法通常需要完整的结构知识或严格的假设（如 IMF），但他们的框架提供了一个灵活的方法层级：

1. 当仅有观测数据可用时，进行敏感性分析。
2. 当救济数据可用时，进行参数推断和模型测试。
3. 当稳定性假设被违反时，进行无分布学习。

其意义在于为理解救济结果的变异性提供了严谨的因果基础，并提供了实用的算法，这些算法能够适应特定应用的数据可用性和稳定性条件。