💻 computer science

Proxy Discrimination After Students for Fair Admissions

本文针对“学生公平录取案”后缺乏明确法律标准来规制种族等受保护类别代理变量的问题，提出了一套基于比较的“最弱代理权力”审查测试，并建议通过设定代理权力上限及由原告在数据可得前提下承担提出替代方案的责任，来推动算法决策的公平性。

原作者： Frank Fagan

发布于 2026-04-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Frank Fagan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇文章探讨了一个非常现代且棘手的问题：当法律禁止直接歧视时，算法（电脑程序）是如何通过“打擦边球”来继续歧视的，以及我们该如何用新的规则来阻止它。

想象一下，你正在玩一个非常复杂的“找茬”游戏。

1. 核心问题：看不见的“替罪羊” (Proxy Discrimination)

以前，如果一家银行说：“我们不给黑人贷款”，这是违法的（直接歧视）。
现在，银行不敢这么说了。他们换了一种聪明的做法：

比喻：用“鞋码”代替“种族”
假设银行说：“我们不根据种族决定贷款，我们只看鞋码。”
表面上看，这很公平，没人被直接针对。
但问题是，因为历史原因，某些种族的平均鞋码可能偏大或偏小。如果银行只给特定鞋码的人贷款，结果就是：某个种族的人被系统性拒之门外。

这里的“鞋码”就是代理变量 (Proxy Variable)。它本身看起来无害（中立），但实际上它是种族、性别或收入的“替身”。算法就像个精明的魔术师，它不看“种族”这张牌，却通过看“鞋码”、“高中学校”、“邮政编码”或“父母收入”这些牌，达到了和直接看“种族”一模一样的效果。

2. 文章提出的解决方案：比谁更“干净” (Comparative Minimum Proxy Power)

既然完全禁止使用这些变量很难（因为有些变量确实能预测还款能力或学术成绩），作者提出了一个**“比一比”**的测试标准。

比喻：两辆赛车，谁更“省油”？
想象有两辆赛车（两个算法），它们都要跑完同样的赛道（达成同样的目标，比如预测谁还得起钱，或者谁适合上大学）。

赛车 A：用了 10 个零件，跑得很稳，但其中 5 个零件是“种族替身”（比如邮政编码）。

赛车 B：也用了 10 个零件，跑得一样稳，但只用了 2 个“种族替身”，其他零件都是真正有用的（比如真实的考试成绩）。

作者的观点是： 如果两辆车跑得一样快（预测准确率一样高），法律应该强制要求使用赛车 B。因为赛车 B 在达成目标时，依赖“歧视性替身”的程度更低。

这就是**“最小代理权力标准”：在能达到同样效果的前提下，你必须选择那个最少依赖“替身变量”**的方案。

3. 如果很难比怎么办？设定“天花板” (Capped Proxy Power)

有时候，很难说哪个算法更好，或者两个算法差别很小。这时候怎么办？

比喻：给“替身”设个上限
就像给汽车排放设个标准一样。法律可以规定：你的算法里，由“替身变量”带来的影响，不能超过 5%。
如果你的算法里，邮政编码对贷款决定的影响超过了 5%，哪怕它很准，你也得改，或者被禁止使用。

这个“上限”会随着时间调整。刚开始大家不懂，上限可以设高一点；等大家技术成熟了，上限就降下来，逼着大家发明更公平的新方法。

4. 谁来负责找更好的方法？(谁该背锅？)

这是一个大难题。

旧规则：原告（被歧视的人）必须自己证明：“嘿，我有更好的方法，不用歧视也能达到同样效果！”
- 问题：这太难了！普通老百姓哪有能力去破解大公司的复杂算法？
新建议：作者认为，原告（被歧视者）仍然应该负责提出“更好的方案”，但前提是被告（大公司）必须交出数据。
- 比喻：公开考试
  想象一个考试。大公司（被告）出题，说“我的算法最准”。
  原告（挑战者）可以说：“我不信，我也能出题，而且我的题更公平。”
  为了公平，大公司必须把它的“题库”（数据）给原告看（在保护隐私的前提下）。然后，双方各自写一个程序（算法），在同样的数据上跑分。
  - 如果原告的程序跑得一样快，但“替身变量”更少，那原告赢，大公司的算法必须改。
  - 这就像**“算法竞赛”**。通过竞争，逼着大公司不断升级，把那些隐藏的歧视性“替身”剔除掉。

5. 最大的挑战：黑箱与伪装 (Opaque Decision-Making)

最坏的情况是，大公司根本不说他们用什么规则，或者规则是黑箱（人类委员会在脑子里想，或者代码是加密的）。

比喻：变魔术
如果魔术师（大学或公司）说：“我选人是靠直觉，你们看不透。”
然后被起诉时，他们临时编造一套理由：“其实我是看‘勇气’的。”（就像文章开头说的，哈佛说他们看的是“克服种族歧视带来的勇气”，而不是种族本身）。

作者的对策：

目标必须清晰：你不能只说“我们要多样性”，你得说清楚“多样性”具体怎么衡量（比如：我们要让 30% 的学生来自低收入家庭）。目标越模糊，越容易作弊。

提前承诺：学校或公司必须在年初就公布：“今年我们就用这套算法，中途不改。”这样他们就没法事后“洗白”（Retrofitting），临时编造一个看起来公平的理由来掩盖之前的歧视。

总结

这篇文章的核心思想是：
在这个算法时代，我们不能只盯着“有没有直接歧视”，更要盯着“有没有用替身变量搞歧视”。

解决办法不是禁止所有变量，而是**“货比三家”**：

如果你有两个能达到同样好结果的方法，必须选那个更干净、更少依赖替身的。
如果差别不大，就设定一个**“替身影响上限”**。
通过**“数据公开 + 算法竞赛”**，让被歧视者有机会挑战大公司，逼着大公司不断进化出更公平的系统。

这就好比在体育比赛中，不仅要看谁跑得快，还要看谁用的“兴奋剂”（替身变量）最少。如果两人都跑得快，但一个人靠的是真本事，另一个人靠的是兴奋剂，那我们必须选那个靠真本事的。

1. 问题背景 (The Problem)

核心挑战：在 Students for Fair Admissions v. Harvard (SFFA) 案判决后，基于种族的直接歧视（Disparate Treatment）在高校招生中已被禁止。然而，算法和决策工具可以通过使用**代理变量（Proxy Variables）**来规避法律。
代理变量的隐蔽性：算法可以忽略受保护类别（如种族、性别），但使用高度相关的变量（如邮政编码、高中学校、父母收入、口音等）来达到相同的歧视性结果。
法律困境：
- 现有的反歧视法（如《民权法案》、《公平信贷机会法》）主要针对“表面中立但产生不同影响”（Disparate Impact）的政策，要求证明存在“合法的商业必要性”且没有“歧视性更小的替代方案”。
- 目前缺乏明确的法律测试标准来界定何时代理变量的使用构成了非法的间接歧视，特别是当这些变量在统计上能预测结果（如贷款违约率或学术表现）时。
- 决策者（银行、大学、雇主）可能利用相关性而非因果性，通过精心挑选的变量组合来间接实现基于种族的筛选，同时声称其目标是合法的（如降低信贷风险或提高多样性）。

2. 方法论与核心概念 (Methodology & Key Concepts)

文章提出了一套基于统计学的法律测试框架，核心概念是代理权力（Proxy Power）。

A. 代理权力的定义与测量

定义：代理权力是指一个表面中立的变量在多大程度上间接解释了受保护类别（如种族）对结果（如录取、贷款批准）的影响。
测量方法：
- 利用回归分析（Regression Analysis）和 $R^2$ （决定系数）来量化变量解释结果变异的能力。
- 累积 $R^2$ 分析：比较包含受保护变量（如种族）的模型与不包含该变量的模型。如果加入受保护变量后， $R^2$ 显著增加，说明之前的表面中立变量实际上充当了该受保护类别的代理。
- 总代理权力：模型中所有代理变量对受保护类别解释力的总和。

B. 替代方案的比较逻辑

文章主张通过**比较性最小化（Comparative Minimization）**来解决歧视问题：

如果存在两个算法能达到相同的预测精度（Accuracy）或实现相同的合法目标（如利润最大化、学术成功），但其中一个使用的代理权力更低，那么法律应强制要求使用代理权力更低的那个算法。
这类似于侵权法中的“合理注意义务”：如果存在更安全且成本相当的方法，选择高风险方法即为过失。

3. 关键贡献与提出的法律测试标准 (Key Contributions & Legal Tests)

文章提出了三种具体的法律测试标准，按严格程度递增：

A. 禁止代理规则 (The No Proxy Rule)

适用场景：当表面中立变量是受保护类别的完美或近乎完美的替代品时（例如，某些高度隔离的高中几乎完全对应特定种族）。
逻辑：如果变量 $X$ 能 100% 预测变量 $Y$ （受保护类别），使用 $X$ 在统计上等同于使用 $Y$ 。在这种情况下，无论意图如何，使用 $X$ 都应被视为直接的歧视（Disparate Treatment），应被严格禁止。

B. 比较最小代理权力标准 (The Comparative Minimum Proxy Power Standard)

适用场景：大多数现实情况，其中代理变量是不完美的（Imperfect Substitutes）。
核心原则：决策者必须选择总代理权力最小的模型，前提是该模型能实现相同的合法目标（如相同的预测准确率）。
操作：
- 原告需提出一个替代算法，该算法在预测结果上与原算法表现相当（Mean Accuracy 相同），但代理权力更低。
- 如果被告拒绝采用该替代方案，则构成非法歧视。
- 示例：在招聘中，如果移除“本科专业”变量（与性别高度相关）不会降低预测员工利润的准确率，则该变量必须被移除。

C. 代理权力上限规则 (The Capped Proxy Power Rule)

适用场景：当区分两个模型的代理权力差异非常微小，且统计测量存在误差或不确定性时。
机制：设定一个阈值（Cap）（例如，加入种族变量后 $R^2$ $R^{2}$ 增加不超过 5%）。
- 如果两个模型的代理权力差异在阈值范围内，法律允许使用其中任何一个（避免过度监管成本）。
- 如果差异超过阈值，则必须选择代理权力更低的模型。
意义：这是一种“规则（Rule）”而非“标准（Standard）”，旨在降低行政和司法执行成本，特别是在环境稳定的领域（如信贷、招生）。

D. 目标的可测量性 (Unmeasured Goals)

文章强调，要最小化代理权力，必须首先明确目标函数（Objective Function）。
如果目标模糊（如“培养领导者”），则无法比较不同算法的优劣。法律应要求决策者设定可量化、可测量的目标（如“贷款违约率”、“通过率”），以便进行客观的代理权力比较。

4. 结果与实施机制 (Results & Implementation)

A. 举证责任的分配 (Burdens of Production)

现状：目前法律通常要求原告（Plaintiff）提供“歧视性更小的替代方案”。
文章观点：尽管算法复杂，但原告仍应保留举证责任，但前提是必须提供测试数据（Testing Data）。
算法竞争机制 (Algorithmic Competition)：
- 建立一种机制，原告和被告在相同的测试数据集上构建各自的算法。
- 获胜者是那个能以最低代理权力实现相同目标的算法。
- 这种竞争机制比强制被告进行内部搜索更有效、成本更低，且能防止被告利用信息不对称隐瞒歧视性变量。

B. 应对不透明决策 (Opaque Decision-Making)

针对人类委员会或“黑盒”算法的决策，文章指出原告可以通过构建透明算法来竞争。
即使被告的决策过程不透明，只要原告能证明存在一个透明算法，能以相同的商业效益（如利润）产生更低的代理权力，原告即可胜诉。这迫使被告要么公开其逻辑，要么接受更优的替代方案。

5. 意义与影响 (Significance)

填补法律空白：在 SFFA 判决后，为监管间接歧视提供了具体的、可操作的统计学法律测试标准，解决了“相关性不等于因果性”但在法律上却构成歧视的难题。
技术中立与实质正义：将法律焦点从“意图”转移到“结果”和“替代方案的可获得性”上。即使没有歧视意图，如果存在更公平的算法而未被采用，仍构成违法。
降低合规与执法成本：通过引入“代理权力上限”和“算法竞争”机制，避免了法院对每一个复杂算法进行详尽的微观审查，提高了司法效率。
推动算法透明度：鼓励决策者公开其目标函数和变量选择，并推动建立公开的数据集和合成数据，以便外部监督。
跨领域适用性：该框架不仅适用于高校招生，同样适用于信贷审批（Fair Lending）和雇佣决策（Employment Discrimination），具有广泛的普适性。

总结：Frank Fagan 的文章主张，在算法时代，反歧视法应从关注“是否使用了受保护类别”转向关注“是否使用了不必要的代理变量”。通过最小化总代理权力和比较替代方案，可以在不牺牲合法商业目标的前提下，有效遏制算法时代的隐蔽歧视。