技术摘要：基于最优传输的反事实公平回归

问题陈述

本文探讨了在高风险领域（如学生录取）中学习反事实公平回归器的挑战，在这些领域中，预测结果必须对敏感属性（如性别、种族）的干预保持不变。与仅要求群体间边际分布相等的标准公平性概念（如人口统计平等，DP）不同，反事实公平（CF）要求：在保持个体潜在“能力”不变的情况下，如果敏感属性发生改变，预测结果应保持不变。

部署 CF 的一个主要障碍是要求具备完整的结构因果模型（SCM），而这在实践中很少可用。作者采用了“因果不确定性”视角（具体为 Kusner 等人定义的 Level-2 设定），即完整的因果图未知，但可观测到潜在能力变量 $V$ 的一个可测量代理变量（记为 $\psi(X, S)$）。目标是构建一个后处理估计量，在不重新训练的情况下对预训练的“黑盒”预测器进行重新校准，并提供严格的有限样本统计保证。

方法论

1. 理论归约：从 CF 到条件 DP

核心理论见解是，在带有重采样噪声的因果不确定性设定下，反事实公平等价于关于潜在变量 $V$ 的条件人口统计平等。

• 定义：若对于任意固定的潜在能力 $v$，预测分布在所有敏感群体 $s$ 中均相同，则该预测器是反事实公平的。
• 推论：这将复杂的反事实问题简化为条件最优传输问题。作者表明，最优公平预测器在满足条件预测分布 $\mu_{f|v,s}$ 对所有 $s$ 一致的约束下，最小化风险。

2. 通过最优传输获得的闭式解

利用最优传输（OT）理论，作者推导出了最优公平回归器 $f^*_0$ 的闭式表达式。

• 重心分位数映射：最优预测器将原始预测 $f^*(x, s)$ 映射为群体条件分布的Wasserstein-2 重心。
• 公式：
  $$f^*_0(x, s) = \left( \sum_{s'=1}^K w_{s'} F^{-1}_{f^*|v, s'} \right) \circ F_{f^*|v, s}(f^*(x, s))$$
  其中 $v = \psi(x, s)$，$w_s$ 为群体权重，$F^{-1}$ 表示分位数函数。该操作有效地对齐了同一潜在能力水平内不同群体的预测分布。

3. 离散化后处理估计量

由于 $V$ 是连续的，作者提出了一种实用的离散化后处理算法：

• 离散化：将潜在空间 $V$ 划分为 $L$ 个区间。
• 局部估计：在每个区间内，从数据中估计条件累积分布函数（CDF）和分位数函数。
• 代入估计量：在每个区间内利用经验估计值局部应用闭式重心映射。
• 样本分割：为确保 CDF 估计与传输映射应用之间的统计独立性，对数据进行分割（折叠）。

4. 松弛反事实公平

认识到精确公平可能无法实现或不受欢迎，本文将该框架扩展至松弛 CF。

• 权衡：作者定义了一个松弛问题，其中不公平性被限制在预算 $\alpha U(f^*)$ 内。
• 凸组合：最优松弛预测器被证明是原始黑盒预测器与最优公平预测器的凸组合：
  $$f^*_\alpha = \sqrt{\alpha} f^* + (1-\sqrt{\alpha}) f^*_0$$
• 调节：提供了一个明确的规则来选择 $\alpha$，以在考虑估计误差的同时满足指定的不公平性预算。

主要贡献

1. CF 归约：本文确立了在因果不确定性和感知条件下，反事实公平等价于关于潜在能力 $V$ 的条件人口统计平等。这将 CF 与现有的 DP 方法论联系起来。
2. 闭式最优回归器：利用重心分位数构造推导出了最优公平预测器的确切形式，提供了一种构造性解法，而非抽象的存在性证明。
3. 有限样本保证：作者提出了一种模型无关的后处理方法，并证明了高概率有限样本保证。
   • 不公平性和超额风险均以 $\tilde{O}(n^{-1/3})$ 的速率衰减。
   • 他们建立了匹配的下界，证明该速率是在这些条件下估计公平回归器问题的固有特性，而不仅仅是离散化的产物。
4. 带调节的松弛公平性：该工作扩展至松弛 CF，提供了明确的调节规则以驾驭风险与不公平性之间的权衡。

结果

合成数据

• 理论验证：实验证实，随着离散化水平 $L$ 的增加，不公平性降低，并在理论最优值 $L^*$ 附近趋于稳定。
• 权衡：该方法在 CF 前沿上优于基线。虽然严格的因果方法（Fair K）通过丢弃可观测特征实现了完美的公平性（导致高误差），而全局 DP 方法（WFR）实现了低误差但未能满足 CF，但所提出的方法在显著低于 Fair K 的误差下实现了近乎完美的 CF。

真实世界数据（法学院数据集）

• 性能：应用于 LSAC 数据集（预测一年级成绩），该方法弥合了准确性与公平性之间的差距。
  • 与 Fair K（因果基线）相比，所提方法保持了相似的准确性（RMSE $\approx$ 1.054 对比 1.086），同时将条件不公平性降低了一个数量级。
  • 与 WFR（全局 DP 基线）相比，它实现了显著更低的条件不公平性（0.009 对比 0.088），同时保持了相当的准确性。
• 对代理估计的鲁棒性：本文评估了使用结构因果模型（SCM）与变分自编码器（VAE）估计潜在代理 $V$ 的影响。研究强调，“代理泄露”（即 $V$ 保留了关于 $S$ 的信息）会损害公平性，但当使用显式解耦 $V$ 与 $S$ 的“公平 VAE"时，该方法仍保持鲁棒。

意义与主张

本文声称提供了首个模型无关的反事实公平后处理框架，无需重新训练或访问完整因果图即可提供严格的有限样本统计保证。

• 理论深度：通过证明 $n^{-1/3}$ 收敛率是一个基本下界（通过 Assouad 引理），作者认为这种缓慢的收敛是非参数设置中公平的固有“代价”，而非其特定算法的局限性。
• 实用价值：该方法专为模型属于专有或第三方、或训练数据不可用的场景而设计，使其高度适用于现实世界的部署。
• 细致的公平性：这项工作超越了“全局 DP 是否足以满足 CF"的争论，通过表明条件 DP（关于潜在变量）是正确的结构归约，为这些公平性概念之间的关系提供了新视角。

作者总结道，他们的方法成功平衡了预测效用与反事实公平之间的权衡，提供了一种校准方法，可在保持统计有效性的同时满足特定的公平性预算。