🤖 machine learning

Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing

本文通过区分标准的“其他条件不变”方法与一种新颖的“相应变更”框架（该框架考量受保护属性如何因果性地影响非受保护特征），重新审视了歧视测试中比较器的作用，从而为基于机器学习的歧视检测提供了一种更为复杂但更具影响力的替代方案。

原作者： Jose M. Alvarez, Salvatore Ruggieri

发布于 2026-05-04

📖 1 分钟阅读☕ 轻松阅读

原作者： Jose M. Alvarez, Salvatore Ruggieri

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你是一位法官，正在裁定一名招聘经理是否歧视了一位名叫克拉拉的求职者。克拉拉是一名女性，她遭到了拒绝。她声称自己是因为性别而被拒。

要证明这一点，你需要将她与另一个人进行比较。但这个人是谁？这正是本文要解决的核心谜题。

作者何塞·M·阿尔瓦雷斯（José M. Álvarez）和萨尔瓦多·鲁吉耶里（Salvatore Ruggieri）认为，我们如何选择这个“比较对象”（称为对照者），会彻底改变测试的结果。他们提出了两种选择此人的不同方法：“其他条件相同”（All Else Equal）法和“进行调整”（Make Adjustments）法。

以下是他们论点的一个简单分解，使用了日常类比。

1. 标准方法：“其他条件相同”（Ceteris Paribus）

这是歧视测试的传统运作方式。想象你想看一辆赛车是否比一辆卡车快。你把它们放在完全相同的赛道上，使用完全相同的燃料，在完全相同的天气条件下。你改变的唯一因素是车辆类型。

用本文的术语来说，这就是CP 对照者。

场景：克拉拉（女性）申请了一份工作。为了测试她的说法，我们找到一位迈克（男性），他拥有完全相同的简历、完全相同的工作年限和完全相同的成绩。
逻辑：如果迈克得到了这份工作而克拉拉没有，尽管他们的简历完全相同，那么克拉拉就受到了歧视。
问题：作者认为这是一种“理想化”的幻想。在现实世界中，作为一名女性（或受保护群体的成员）往往会在你申请工作之前就改变你的人生。也许克拉拉为了抚养孩子而休了假，或者因为社会期望而被引导远离某些课程。如果你找到一个拥有完全相同简历的迈克，你就忽略了这样一个事实：在简历写出来之前，社会对待他们的方式就已经不同了。你是在假装过去不存在。

2. 新方法：“进行调整”（Mutatis Mutandis）

作者提出了一种更聪明、更复杂的选择比较对象的方法。这就是MM 对照者。

把这想象成一次时间旅行模拟。

场景：我们仍然有克拉拉。但与其寻找一个拥有完全相同简历的迈克，不如问：“如果克拉拉出生时是男性，她的人生轨迹会有何不同？”
调整：如果身为女性意味着克拉拉学习时间更少或人脉机会更少，那么 MM 方法会说：“让我们调整迈克的简历，以匹配克拉拉如果身为男性本会拥有的人生。”
结果：也许迈克最终会拥有比我们要看到的克拉拉更多的经验或更好的成绩，因为他没有面临同样的社会障碍。
逻辑：我们将真实的克拉拉与这个经过调整的迈克进行比较。如果经过调整的迈克得到了工作，而真实的克拉拉没有，我们就有了歧视的有力证据。这种方法承认“赛场”从一开始就不是公平的。

“终身教职”示例

本文用一位名叫克拉拉的大学教授的故事来说明这一点：

克拉拉（女性）发表了 12 篇论文，但被拒绝授予终身教职。
迈克（男性）发表了 12 篇论文，也被拒绝授予终身教职。
文森特（男性）发表了 18 篇论文，并且获得了终身教职。

使用“其他条件相同”（CP）方法：
你将克拉拉与迈克进行比较。他们都有 12 篇论文。既然迈克也被拒绝了，你可能会说：“看吧？这不是因为她是个女人；她只是论文不够多。”你可能会驳回她的主张。

使用“进行调整”（MM）方法：
你问：“如果克拉拉是男性，她会拥有 12 篇论文，还是 18 篇？”作者认为，由于女性往往面临男性所没有的额外负担（如育儿），处于克拉拉位置的男性可能会有更多时间写论文。因此，克拉拉的“调整后”版本（我们称其为“男性版克拉拉”）可能拥有 18 篇论文。
然后，你将真实的克拉拉（12 篇论文）与文森特（18 篇论文，获得了终身教职）进行比较。如果大学拒绝了拥有 12 篇论文的申请人，却接受了拥有 18 篇论文的申请人，而且我们知道拥有 12 篇论文的申请人是因为性别化的社会角色而受到阻碍，那么歧视就更为清晰了。

这为什么重要？

作者表示，目前大多数用于发现歧视的工具都使用CP（其他条件相同） 方法。它们就像一台只拍摄当下瞬间、忽略导致这一结果的历史的相机。

MM（进行调整） 方法则像是一台带有“倒带和编辑”按钮的相机。它试图重构如果受保护属性（如种族或性别）没有影响此人的生命轨迹，世界本会是什么样子。

难点在于：
作者承认，MM 方法要构建起来难得多。它需要复杂的机器学习模型来模拟这些“如果……会怎样”的场景。这就像试图写一部完美的架空历史小说。CP 方法很简单（只需找到一个双胞胎），但它可能会错过真正的不公。MM 方法很复杂，需要更多的想象力，但它可能会揭示系统实际运作的真相。

核心结论

这篇文章并没有说旧的方法是“错误”的，或者说新方法是“完美”的。相反，它指出：“我们需要停止假装只有一种比较人的方式。”

当我们测试歧视时，我们实际上是在选择“公平”看起来是什么样子的。

如果我们想看看拥有相同简历的两个人是否受到不同对待，请使用旧方法。
如果我们想看看因身份不同而面临不同人生轨迹的两个人是否受到公平对待，我们需要新方法。

作者认为，既然我们现在拥有了强大的人工智能工具，我们就应该开始使用“进行调整”方法，以获得更清晰、更诚实的歧视图景。

以下是 José M. Álvarez 和 Salvatore Ruggieri 所著论文《Mutatis Mutandis：重新审视歧视测试中的比较对象》的详细技术总结。

1. 问题陈述

本文探讨了当前歧视测试方法学中的一个根本性局限，特别是关于比较对象（comparator）的构建。

背景：歧视测试依赖于将“申诉人”（声称基于受保护属性 $A$ ，如种族或性别受到歧视的个人）与“比较对象”（来自非受保护群体的类似个人）进行比较。
标准方法（Ceteris Paribus - CP）：大多数现有工具（包括法律和算法工具）均采用Ceteris Paribus（“其他条件不变”）比较对象。该方法假设比较对象在所有非受保护属性（ $X$ ）上与申诉人完全相同，仅受保护属性（ $A$ ）不同。
缺陷：作者认为，CP 方法是一种理想化的比较，未能考虑到受保护属性往往会影响非受保护属性的因果现实（例如，系统性种族主义影响教育水平或收入）。通过强制在 $A$ 变化时 $X$ 保持不变，CP 比较对象忽略了歧视的下游效应，可能会掩盖间接歧视，或无法捕捉到真正的“原本会怎样”的情景。
核心问题：我们如何推导出一个比较对象，使其能够考虑受保护属性对其他特征的因果影响，而不是假设一个仅受保护属性发生变化的静态、理想化世界？

2. 方法论

作者提出了一个因果建模框架来重新定义比较对象，从静态的距离度量转向生成式的反事实方法。

A. 因果框架

本文利用结构因果模型（SCM）（Pearl 的框架）来形式化歧视测试。

变量： $A$ （受保护属性）， $X$ （非受保护属性）， $Y$ （决策结果）。
反事实推理：比较对象的推导被框架化为回答一个反事实问题：“如果申诉人拥有不同的受保护属性，结果会是什么？”
过程：作者采用标准的反事实推断 - 干预 - 预测步骤：
1. 推断（Abduction）：从观测数据中推断潜在的外生变量（ $U$ ）。
2. 干预（Action）：对 $A$ 进行干预（设定 $A := \alpha$ ）。
3. 预测（Prediction）：通过结构方程传播变化，生成 $X$ 和 $Y$ 的反事实分布。

B. 两种比较对象类型

本文提出了比较对象的形式化分类：

Ceteris Paribus（CP）比较对象：
- 定义：寻找一个个体 $i'$ ，使得 $d(x_i, x_{i'}) \leq \epsilon$ 且 $a_i \neq a_{i'}$ 。
- 机制：在翻转 $A$ 的同时，最小化非受保护属性 $X$ 上的距离。
- 局限性：假设在反事实世界中 $X$ 独立于 $A$ ，忽略了历史或系统性的因果联系。
Mutatis Mutandis（MM）比较对象：
- 定义：寻找一个个体 $i'$ ，使得 $\tilde{d}((x_i, a_i), (x_{i'}, a_{i'})) \leq \epsilon$ 且 $a_i \neq a_{i'}$ 。
- 机制：使用感知受保护属性的距离函数 $\tilde{d}$ 。关键在于，它允许 $x_i \neq x_{i'}$ 。
- 实现：MM 比较对象需要生成申诉人非受保护属性的反事实表示 $\tilde{X}$ 。这个 $\tilde{X}$ 代表了如果申诉人属于非受保护群体，其属性原本会是什么样子，从而有效地对 $A$ 对 $X$ 的下游影响进行“调整”。
- 数学表述：作者提出使用生成模型 $g(\cdot)$ （例如基于 SCM）来学习 $\tilde{X} = g(X, A)$ ，使得 $\tilde{X} \perp A$ （公平表示）。然后通过最小化 $\tilde{X}$ 与非受保护群体的实际 $X$ 之间的距离来找到比较对象。

C. 实验设置

为了验证这一区别，作者在法学院录取数据集上比较了两种工具：

情境测试（ST）：实现了CP比较对象。它在翻转受保护属性后，基于 $X$ （GPA、LSAT 分数）在数据集中寻找最近邻。
反事实情境测试（CST）：实现了MM比较对象。它使用 SCM 生成反事实档案（根据种族/性别的因果影响调整 GPA/LSAT 分数），然后再寻找最近邻。

3. 主要贡献

因果重构：作者认为，推导比较对象本质上是一个因果建模问题，而不仅仅是相似性搜索。比较对象是事实申诉人的反事实表示。
MM 比较对象概念：他们引入了Mutatis Mutandis比较对象作为标准 CP 比较对象的可行替代方案。这将目标从“同等对待相似的人”（形式平等）转变为“实现实质性平等”，即通过考虑系统性劣势来达成。
形式化区分：本文提供了 CP 和 MM 比较对象之间严格的数学区分，强调如果非受保护属性的差异是由受保护属性引起的，MM 允许这些属性存在差异。
机器学习整合：作者将机器学习（特别是生成模型和 SCM）定位为实施 MM 比较对象的关键，这与那些在歧视测试中拒绝因果建模的观点形成对比。

4. 结果

法学院录取数据集上的说明性实验得出了显著发现：

检测率：**CST（MM）工具检测到的表面歧视案件数量显著多于ST（CP）**工具。
- 种族：CST 检测到的案件数量约为 ST 的 3 倍（例如，在 $k=500$ 时，17.26% 对比 3.08%）。
- 性别：CST 检测到的案件数量略多，但差距较小，表明在该数据集中，性别对特定特征（GPA/LSAT 分数）的因果影响不如种族显著。
分布偏移：可视化分析（箱线图）显示，在 ST 下，测试组（比较对象）的 GPA/LSAT 分布与控制组几乎完全相同。而在 CST 下，测试组分布发生了偏移，反映了反事实调整，即消除了受保护属性对特征的影响。
启示：CP 方法（ST）往往无法检测间接歧视，因为它假设如果少数族裔申请人与白人申请人具有相同的 GPA/LSAT 分数，他们就是“相似”的。MM 方法（CST）认识到，达到该 GPA/LSAT 分数可能需要克服系统性障碍，因此“公平”的比较对象应具有不同的特征值。

5. 意义与结论

实质性平等与形式平等：本文认为，仅依赖 CP 比较对象会强化形式平等（即对待当前统计数据完全相同的人一视同仁），这可能会延续现有的不平等。MM 比较对象旨在通过构想一个消除了系统性障碍的世界来实现实质性平等。
规范影响：比较对象的选择不仅仅是一个技术参数；它是关于什么构成“公平”比较的规范性声明。MM 比较对象迫使利益相关者直面歧视的因果机制。
未来方向：作者建议，未来的歧视测试工具应超越简单的距离度量，并整合生成模型（如 SCM 或公平表示学习）来推导 MM 比较对象。这使得该领域能够从检测直接歧视转向揭示根植于系统性偏见的复杂、间接歧视模式。

总之，本文提出，要在一个复杂且充满偏见社会中真正测试歧视，我们必须停止问“谁与这个人完全一样，只是种族/性别不同？”，转而开始问“如果消除了其种族/性别的系统性影响，这个人原本会是谁？”Mutatis Mutandis比较对象提供了回答后者的技术框架。