Position: Beyond Sensitive Attributes, ML Fairness Should Quantify Structural Injustice via Social Determinants
本立场论文认为，算法公平性研究必须超越仅关注敏感属性的局限，转而通过社会决定因素来量化结构性不公正，从而证明目前的缓解策略往往无法解决系统性不平等，甚至可能加剧这些不平等。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
核心理念：观察全局，而非仅仅关注个人
想象你是一位法官，正在决定谁能加入一个特别的俱乐部。长期以来，关于“公平”的规则手册一直要求你只关注坐在你面前的那个人。你会检查他们的种族、性别或年龄。如果你看到两个人的种族和性别相同，规则手册就会要求你必须平等对待他们。
本文的作者认为，这种方法就像是在用衡量鱼是否会爬树的标准来评判鱼。它忽略了故事中最关键的部分：环境。
他们认为，我们不应只盯着“敏感属性”（如种族或性别）看，而应该开始测量社会决定因素（Social Determinants）。把这些想象成一个人成长的“土壤”。这片土壤是肥沃且营养丰富的（拥有好的学校、洁净的空气、安全的街道）？还是贫瘠且干旱的（学校简陋、环境污染、缺乏医生）？
本文指出，不公平不仅仅在于个人如何被对待，更在于构建在人们所居住的社区和系统之中的结构性不公。
问题所在：“噪声” vs. “信号”
在目前的机器学习（AI）公平性研究中，当数据科学家看到与一个人的社区或环境相关的变量时，他们通常将其视为**“噪声”**——即试图过滤掉或忽略掉的静态背景杂音，以使模型变得“干净”。
作者认为这是一个错误。他们主张，这些环境因素实际上是**“信号”**。它们才是真实的故事。
类比：
想象你正在参加一场比赛。
- 现状做法： 你观察两名跑步者。一名穿着红衣服，另一名穿着蓝衣服。你看到穿红衣服的跑者速度较慢。你假设红衣服是问题所在，并试图通过更换跑者的鞋子来解决问题。
- 本文做法： 你意识到穿红衣服的跑者正跑在泥泞且上坡的路上，而穿蓝衣服的跑者跑在平坦光滑的跑道上。所谓的“红衣服”（敏感属性）并不是变慢的原因；泥泞和斜坡（社会决定因素）才是。如果你只修好鞋子却留下了泥泞，跑者依然会输。
为什么旧的方法会失效（“配额”陷阱）
论文通过一个关于大学录取的思想实验，展示了为什么仅仅关注敏感属性反而可能让情况变得更糟。
场景：
假设一所大学希望对“代表性不足的少数群体”（URMs）保持公平。他们决定为 URM 学生预留特定数量的席位（配额）。
- 初衷： 这看起来很公平。它帮助了那些在历史上被忽视的群体。
- 意外后果： 作者指出，这种策略往往对那些较富裕的 URM 学生帮助最大，同时却伤害了那些较贫穷的非 URM 学生。
隐喻：
想象一艘救生艇只能容纳 10 人。
- 旧有的公平观： “我们要救 A 组的 5 个人和 B 组的 5 个人。”
- 现实情况： A 组有 5 个人在一艘正在沉没的船上（富裕地区），另有 5 个人在沼泽里（贫困地区）。B 组也有 5 个人在一艘沉没的船上，以及 5 个人在沼泽里。
- 如果你只看“群体”标签，你可能会救起 A 组中那 5 个在沉船上的成员。但你会留下 B 组中那 5 个在沼泽里的人，任由他们溺亡，尽管他们同样处于危险之中。
- 结果： 通过仅仅关注“群体”标签，你无意中忽略了事实：无论属于哪个群体，生活在沼泽里的人最需要帮助。你创造了一种新型的不公平。
现实世界的证据：“黑人女性”案例
作者不仅使用了理论，还查看了真实数据。
- 收入： 他们观察了不同社区的黑人女性。尽管她们都是“黑人女性”（具有相同的敏感属性），但由于居住地的不同，她们的收入水平差异巨大。在贫困社区（高“区域匮乏度”），她们的收入远低于富裕社区。仅仅用“黑人女性”这个标签并不能说明全部情况；社区才是关键。
- 医疗保健： 他们研究了乳腺癌筛查。即使是在同一个医疗系统中，居住在贫困社区的白人女性等待首次筛查的时间，也比居住在富裕社区的白人女性要长得多。医生对每个人都遵循同样的规则，但环境（交通工具、请假时间、医疗获取途径）造成了这种差距。
解决方案：一套新的工具包
论文呼吁在构建和测试 AI 时进行三大转变：
- 数据治理（地图）： 我们需要开始绘制“土壤”的图谱。我们不应仅仅收集关于人的数据，还需要收集关于其社区、学校资金和污染水平的数据。我们需要将这些数据视为拼图的关键部分，而不是要删除的“噪声”。
- 新指标（尺子）： 我们需要新的衡量公平性的方式。我们不应只问：“A 组和 B 组的结果是否相等？”，而应该问：“生活在肥沃土壤的人与生活在贫瘠土壤的人相比，其结果是否相等？”
- 因果模型（机械师）： 我们需要构建能够理解因果关系的 AI。它不应仅仅看到“居住在贫困地区”会导致“较差的结果”，它需要理解其中的原因（例如：缺乏医生、道路状况差），这样我们才能解决根源问题，而不仅仅是处理症状。
总结
论文得出结论：我们无法仅仅通过忽略敏感属性或试图完美平衡它们来实现真正的公平。我们必须首先审计结构性不公。
这就像修理漏水的屋顶。如果你只是不断地擦地板（解决个体歧视），房子最终还是会腐烂。你必须修复屋顶（社会决定因素），才能从源头上阻止水流进来。作者希望机器学习不再只是在“擦地板”，而是开始“修屋顶”。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。