What Is the Point of Equality in Machine Learning Fairness? Beyond Equality of Opportunity

该论文批判了机器学习公平性研究过度依赖分配平等的局限，指出其无法解释代表性伤害的伦理问题，进而提出一种融合分配与关系平等的多元平等主义框架，以通过挑战结构性不平等来更全面地应对算法系统带来的各类伤害。

要点

这篇文章探讨了一个核心问题：为什么人工智能（AI）中的“不公平”是错的？我们到底应该追求什么样的公平？

作者认为，目前大多数关于"AI 公平”的研究，就像是在玩一个**“分蛋糕”**的游戏。他们只关心蛋糕（机会、资源、工作）是不是分得一样多。但作者指出，这种想法太片面了，特别是对于现在的生成式 AI（比如能画图、写故事的模型）。

为了让你更容易理解，我们可以把 AI 系统想象成**“一个巨大的、不知疲倦的餐厅服务员”**。

1. 旧观念：只关心“分蛋糕”（分配公平）

目前的公平研究主要关注分配公平（Distributive Equality）。

• 比喻：想象餐厅里有一堆蛋糕（工作机会、贷款、广告位）。如果服务员把蛋糕分给白人时多，分给黑人时少，大家就会说：“这不公平！蛋糕没分匀！”
• 做法：为了公平，我们调整算法，确保每个人得到的蛋糕数量一样多，或者确保每个人拿到蛋糕的“概率”一样。
• 局限：这就像只关心**“谁吃到了多少”**。但如果服务员在分蛋糕的同时，还对着某些客人做鬼脸、贴标签，甚至把某些客人当成隐形人呢？光分匀蛋糕，解决不了这个问题。

2. 新发现：除了蛋糕，还有“眼神”和“标签”（代表性伤害）

作者指出，AI 造成的伤害有两种：

1. 分配性伤害（Allocative Harm）：就是上面说的，没分到蛋糕（比如被拒绝贷款、看不到招聘广告）。
2. 代表性伤害（Representational Harm）：这是旧理论忽略的。它是指 AI 在**“怎么描述你”**。
   • 刻板印象（Stereotyping）：比如 AI 画“医生”全是男的，画“护士”全是女的。这就像服务员一边给你蛋糕，一边大声说：“哦，你这种人不适合当医生，你只配当护士。”
   • 贬低（Demeaning）：比如 AI 把黑人画成大猩猩，或者把某些族裔总是画成罪犯。这就像服务员在给你蛋糕时，还往你脸上抹灰，让你看起来低人一等。
   • 抹除（Erasing）：比如人脸识别系统认不出黑人的脸，或者搜“同性恋婚礼”只出异性恋婚礼。这就像服务员直接把你当成空气，仿佛你根本不存在。
   • 固化（Reifying）：比如机场安检系统只认“男”和“女”，非二元性别的人怎么都过不了安检。这就像服务员强行把你塞进一个不合适的盒子里，告诉你：“你只能是这样，不能是那样。”

核心观点：这些伤害之所以可怕，不是因为大家分到的蛋糕少了，而是因为AI 在告诉社会：有些人是“高等”的，有些人是“低等”的。 它把社会分成了“主人”和“奴隶”，这违背了“人人生而平等”的道德底线。

3. 新方案：不仅要分蛋糕，还要平视彼此（关系公平）

为了解决这个问题，作者提出了一个**“双管齐下”**的新框架，结合了两种公平观：

• 左手：分配公平（DE）
  • 任务：确保蛋糕分得匀。
  • 作用：解决“没机会”、“没钱”的问题。
• 右手：关系公平（Relational Equality, RE）
  • 任务：确保大家平视彼此，没有谁比谁高贵。
  • 作用：解决“被歧视”、“被羞辱”、“被无视”的问题。
  • 比喻：这不仅仅是分蛋糕，而是要确保服务员在端盘子时，眼神是尊重的，态度是平等的。不能一边给你蛋糕，一边把你当小丑看。

4. 为什么现在的“技术修补”不够用？

作者批评了目前很多试图修复 AI 的技术手段，它们往往只是**“换汤不换药”**：

• 简单的“平均化”：比如为了让 AI 画出的“医生”男女各半，就强行把一半的男性医生改成女性。这就像为了分蛋糕均匀，强行把蛋糕切得一样大，但没解决服务员心里觉得“女性不适合当医生”的偏见。
• 简单的“删除”：比如把 AI 输出的所有负面词汇都删掉。但这就像把“罪犯”这个词删了，AI 却可能用更隐晦的方式继续歧视。
• 简单的“增加”：比如强行让 AI 多画一些少数族裔。但如果背景还是充满刻板印象（比如把黑人画成超级英雄但背景是贫民窟），这反而可能强化偏见。

比喻：这就像给一个有种族歧视的餐厅换了一个更漂亮的菜单（技术修复），但服务员（社会结构）的脑子里还是觉得某些客人低人一等。如果不改变服务员的心态和餐厅的规矩，光改菜单没用。

5. 我们该怎么做？（从“修机器”到“改生态”）

作者认为，要真正解决问题，不能只盯着代码（技术），要盯着整个流程：

1. 大家一起做饭（参与式数据收集）：

   • 不要只让大公司在办公室里决定数据怎么来。要让被歧视的群体（比如少数族裔、LGBTQ 群体）亲自参与数据的收集和标注。
   • 比喻：以前是“我替你做主”，现在是“你自己来切菜、摆盘”。

2. 大家都要懂行（批判性思维教育）：

   • 不仅要教开发者，也要教用户。让大家知道 AI 也是有偏见的，学会识别和质疑 AI 输出的内容。
   • 比喻：教会顾客识别服务员在搞鬼，而不是盲目相信服务员端上来的东西。

3. 把“裂缝”露出来（透明化设计）：

   • 不要假装 AI 是完美的、客观的。要在界面上告诉用户：“这个结果可能是有偏见的，因为数据里包含了这些历史偏见。”
   • 比喻：服务员端菜时，主动说：“这道菜是根据老菜谱做的，可能有点咸，您尝尝看。”而不是假装它是完美的。

4. 这是个长跑（迭代与社会变革）：

   • 公平不是一次性修好就能解决的。需要不断收集反馈，并且要意识到，AI 的问题本质上是社会的问题。如果社会本身就不平等，AI 很难独自变得公平。

总结

这篇文章告诉我们：
真正的 AI 公平，不仅仅是把资源（蛋糕）分得一样多，更是要确保每个人在 AI 面前都能挺直腰杆，被当作一个有尊严的“人”来对待。

我们需要一种**“双核驱动”的公平观：一手抓“分蛋糕”（分配公平），一手抓“平视彼此”**（关系公平）。只有这样，我们才能构建一个既没有资源匮乏，也没有尊严缺失的 AI 世界。

技术摘要

这是一份关于论文《机器学习中平等的意义是什么？超越机会平等》（What Is the Point of Equality in Machine Learning Fairness? Beyond Equality of Opportunity）的详细技术总结。

1. 研究问题 (Problem)

当前机器学习（ML）公平性研究主要存在以下核心问题：

• 规范性基础的缺失与局限：现有的公平性研究大多关注统计指标（如人口统计parity、误差率parity）的“如何”测量，而缺乏对“为何”不公平是错误的深层伦理辩护。
• 过度依赖分配平等（Distributive Equality, DE）：主流文献（如 Barocas, Hardt, Narayanan 的著作）倾向于将公平性建立在机会平等（Equality of Opportunity, EOP）和分配平等的基础上。这种观点认为，只要机会或资源（如贷款、工作、教育）被平等分配，系统就是公平的。
• 无法解释“表征伤害”（Representational Harms）：分配平等框架擅长解决分配性伤害（如资源获取受阻、经济损失），但无法充分解释表征性伤害（如刻板印象、贬低、抹除、本质化）为何在道德上是错误的。仅仅关注资源的分配，忽视了 ML 系统如何通过强化社会等级（将人群分为优越与低劣）来破坏人与人之间的平等关系。
• 技术修正的局限性：现有的技术干预措施（如通过提示词工程或微调来实现“代表性平衡”）往往将表征问题简化为分布问题，试图通过重新分配输出来解决深层的权力结构和不平等，这往往治标不治本，甚至可能产生反效果。

2. 方法论 (Methodology)

本文采用规范伦理学与批判社会政治哲学相结合的分析方法，而非传统的实证或纯技术实验方法：

• 理论框架整合：
  • 批判性地审视了现有的**分配平等（DE）**理论（特别是机会平等 EOP 的三种观点：狭隘、中等、广泛）。
  • 引入**关系平等（Relational Equality, RE）**理论，主要基于 Elizabeth Anderson、Iris Marion Young 和 Nancy Fraser 的哲学著作。
  • 利用 Young 的“压迫的五张面孔”（剥削、边缘化、无权、文化帝国主义、暴力）和 Anderson 的“社会等级”（声望、地位、支配）概念来分析 ML 伤害。
• 伤害分类分析：
  • 将 ML 伤害分为分配性伤害（Allocative Harms，如机会丧失、经济损失）和表征性伤害（Representational Harms，如刻板印象、贬低、抹除、本质化）。
  • 论证 DE 仅能解决前者，而 RE 是解决后者的必要条件。
• 案例研究：
  • 分析 COMPAS 再犯预测算法、Uber 性别薪酬差距、翻译模型中的性别偏见、图像生成模型（T2I）中的职业刻板印象、面部识别对黑人女性的失败等案例。
  • 评估现有的技术干预措施（如提示词工程、对抗性数据增强、移除负面词汇等）在解决表征伤害方面的局限性。
• 构建综合框架：提出一个整合 DE 和 RE 的“多面平等主义框架”（Multifaceted Egalitarian Framework），并据此提出贯穿 ML 全生命周期的实施路径。

3. 关键贡献 (Key Contributions)

1. 提出“多面平等主义框架”（Multifaceted Egalitarian Framework）：

   • 主张 ML 公平性的规范性基础不能仅依赖分配平等（DE），必须整合关系平等（RE）。
   • DE 的作用：解决分配性伤害，确保资源和机会的公平分配（反对机会丧失和经济损失）。
   • RE 的作用：解决表征性伤害，确保人与人之间作为“平等者”的关系，反对将某些群体置于从属、被贬低或被支配的地位（反对刻板印象、抹除和本质化）。
   • 该框架认为，ML 系统既是社会不平等的反映，也是其再生产机制，因此必须同时挑战分配不公和关系等级。

2. 重新定义表征性伤害的伦理本质：

   • 论证表征性伤害不仅仅是“信息分布不均”，而是文化帝国主义（Cultural Imperialism）的体现。
   • 指出刻板印象、贬低、抹除和本质化不仅仅是分配问题，而是破坏了声望（Esteem）、**地位（Standing）和支配（Domination）**的平等关系。例如，将黑人女性从面部识别中“抹除”，不仅是数据缺失，更是对其社会地位和道德价值的否定。

3. 批判现有技术修正方案：

   • 指出当前的“代表性平衡”技术（如强制生成 50:50 的性别比例）是将关系问题错误地简化为分配问题。
   • 列举了四种技术修正的失败案例：
     • 简单的群体属性替换（如将“罪犯”从黑人换成白人）无法解决种族化的社会结构问题。
     • 移除负面描述（Removal-based）可能强化隐性偏见（如只拒绝穆斯林名字相关的暴力描述，却允许白人名字）。
     • 增加正面描述可能强化新自由主义叙事（如将女性成功归因于个人努力，忽视结构性障碍）。
     • 脱离历史语境的多样化（如生成“黑人教皇”或“亚洲纳粹”）会破坏历史准确性并冒犯群体。

4. 提出全生命周期的实施路径：
   为了落实该框架，作者提出了四个超越单纯模型修正的路径：

   • 参与式数据收集：采用社区主导的数据构建（如 Masakhane 项目），让边缘群体参与数据创建，既改善数据多样性，又增强其主体性。
   • 批判性反思：在开发前进行危害预测（Anticipatory Harm Assessment），并提升用户（特别是边缘群体）的数字素养，使其能识别和抵抗系统偏见。
   • 增强用户能动性的模型设计：采用“有缝设计”（Seamful Design）暴露系统的不确定性，并提供“反叙事”（Counter-narratives），帮助用户理解输出背后的权力结构。
   • 迭代与迭代的社会变革：将减害视为迭代过程，并承认技术无法脱离社会背景，需要结合更广泛的社会变革来消除结构性不平等。

4. 结果 (Results)

• 理论结果：证明了单一的分配平等视角在伦理上是不足的。如果不引入关系平等，ML 公平性研究将无法解释为何“刻板印象”或“文化抹除”是错误的，也无法指导如何构建真正尊重人类道德价值的系统。
• 实践结果：揭示了当前基于统计指标（如 Demographic Parity）的公平性技术干预在解决表征伤害时的局限性。简单的“重新分配”输出无法消除深层的权力不对称和结构性压迫。
• 案例应用：以 YouTube 算法对 LGBTQ+ 内容的误判为例，展示了该框架如何同时分析其造成的分配性伤害（广告收入损失）和表征性伤害（抹除群体声音、强化异性恋规范），并提出了结合社区参与和透明设计的综合解决方案。

5. 意义 (Significance)

• 伦理基础的深化：本文将 ML 公平性的讨论从“技术指标优化”提升到了“社会正义与道德哲学”的高度，为公平性研究提供了更坚实的规范性基础。
• 超越技术决定论：强调了 ML 系统是“社会 - 技术”系统，公平性不能仅靠算法调整实现，必须结合数据治理、人机交互设计以及社会结构的变革。
• 指导未来研究：为未来的公平性研究指明了方向，即不能仅关注“谁得到了什么”（分配），还必须关注“人们如何相互对待”（关系）。这要求研究者、开发者和政策制定者关注边缘群体的主体性、参与权以及系统对社会等级的强化作用。
• 政策与实践启示：呼吁在 ML 开发生命周期中引入参与式设计、批判性反思和迭代反馈机制，推动从“技术修补”向“系统性正义”的转变。

总结：这篇文章主张，要实现真正的机器学习公平，必须超越单纯的机会平等和分配正义，采纳一种包含分配平等（解决资源获取）和关系平等（解决社会地位与尊严）的综合框架。只有同时解决分配性伤害和表征性伤害，才能挑战 ML 系统中根深蒂固的结构性不平等。