💻 computer science

Whose fairness? Structural concentration in AI bias research

本文揭示了人工智能偏见研究在结构上高度集中于少数由美国主导的机构和作者，这引发了人们对于由此产生的公平性定义及缓解方法可能缺乏对全球多样化人口和语境之普适性的担忧。

原作者： Abhash Shrestha, Subigya Gautam, Anu Sapkota, Sanju Tiwari, Tek Raj Chhetri

发布于 2026-07-08

📖 1 分钟阅读☕ 轻松阅读

原作者： Abhash Shrestha, Subigya Gautam, Anu Sapkota, Sanju Tiwari, Tek Raj Chhetri

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，人工智能（AI）的世界就像一个繁忙、热闹的大厨房，厨师们正在不断发明新的食谱，以解决医疗、法律和日常生活中的问题。但在他们开始烹饪之前，他们需要就什么是“公平”的味道达成一致。这篇论文是对幕后情况的观察：究竟是谁站在厨房里，谁有权编写食谱，以及这些食谱是否对每个人都有效。

以下是这篇论文的故事，分为几个简单的部分：

1. 问题所在：谁在厨房里？

作者想知道：我们谈论的是谁的公平？
多年来，研究人员一直试图修复 AI 偏见（即计算机做出不公平决策的情况）。他们建立了工具和规则来衡量这种偏见。但他们从未停下来问过：是谁在制定这些规则？

这篇论文就像是对整个“AI 公平性”研究社区的一次人口普查。他们研究了 2015 年至 2025 年间发表的 692 篇研究论文。他们将这些论文视为一张地图，用以观察研究人员居住在哪里、他们在哪些学校或公司工作，以及他们在与谁交流。

2. 主要发现：极少数群体掌控全局

结果显示，“AI 公平性”厨房的高度集中在少数几个地方。

美国是主厨： 美国在这一领域占据主导地位。他们编写了近一半关于公平性“规则”的论文。如果观察谁领导着研究团队（第一作者），美国负责了近 50% 的份额。
“全球南方”缺席： 南亚、非洲和拉丁美洲的国家几乎不在场。即使是拥有庞大技术劳动力的印度，在这一特定对话中也出奇地沉默。
“核心圈子”： 研究人员主要在由美国、英国、加拿大、德国组成的西方小圈子内进行交流。这就像一场晚宴，每个人都互相认识，但世界其他地方的人并未受邀。

3. “基础”层：最重要的房间也是最排外的

研究人员将论文分为五个不同的“房间”或主题：

通用公平性与偏见缓解（规则手册）
医疗 AI
大语言模型 (LLMs)
推荐系统（如 Netflix 或 YouTube 的建议）
基于图的公平性

这里有一个关键的转折： 最重要的房间是**“通用公平性”**房间。这是定义、基准和基本规则被发明的地方。这些规则随后会被复制并应用到其他四个房间（如医疗或 LLM）中。

危险之处： “通用公平性”房间是所有房间中最集中的一个。美国在这一领域的领先程度超过其他任何地方。
隐喻： 想象一家公司，设计所有建筑蓝图的人都住在特定的社区。他们根据自己社区的情况来设计门和窗户。然后，他们将这些蓝图发送到丛林、沙漠和北极去盖房子。由于最初的设计者从未去过那些地方，门可能装不上，或者窗户可能会让雨水灌进来。

4. “人气竞赛”（引用）

作者还观察了谁获得的“击掌”（引用）最多。

少数论文获得了数千次引用，而大多数论文获得的引用很少。
有趣的是，仅仅因为一个国家写了更多论文（如中国或印度），并不意味着这些论文能获得最多的“击掌”。
然而，那些获得最多关注的论文仍然主要来自美国和英国，且大多关于“通用公平性”规则。

5. 为什么这很重要

论文认为，由于“规则制定者”大多来自美国和西欧，他们制定的规则可能并不适用于所有人。

文化盲点： 在纽约看起来“公平”的东西，在加德满都或内罗毕可能看起来是不公平的。例如，论文提到，在某些文化中，避免眼神接触是尊重的表现，而在西方，这可能被视为缺乏自信。如果一个 AI 仅基于西方的规则进行训练，它可能会误判来自其他文化的人。
风险： 我们正在为全世界构建 AI 系统，但“安全手册”却是由一个微小且缺乏代表性的群体编写的。这意味着解决方案可能无法服务于那些最需要它们的人。

6. 他们做了什么来提供帮助

作者不仅指出了问题，还建立了一个实时地图（交互式地图集），任何人都可以使用它来观察这个领域的发展。这使得社区可以实时观察这个厨房是否变得更加多元化，还是依然由同一个小群体在掌控。

总结

这篇论文是针对 AI 行业的一张警告标签。它说：“我们正试图为所有人构建公平的 AI，但设计‘公平’概念的人大多来自世界的一个角落。在我们将更多不同文化和国家的声音邀请到桌前之前，我们的公平定义将始终是不完整的，并且可能对‘核心圈子’之外的人造成伤害。”

技术摘要：“谁的公平？AI 偏见研究中的结构性集中”

问题陈述
尽管人工智能（AI）领域已在衡量和缓解具有重要影响力的领域（医疗、法律、公共服务）中的偏见方面开发了广泛的方法论，但产生这些公平性定义、基准和去偏框架的研究群体从未被进行过实证特征化。研究社区的结构组成存在一个关键性的认知空白。作者认为，如果研究景观在地理和机构上高度集中，那么由此产生的“通用”公平标准可能会编码局部假设，从而无法推广到多样化的群体和文化社会背景中。这带来了风险：在狭窄语境下验证的缓解策略可能会被不恰当地应用于全球，从而可能在代表性不足的地区造成持续性的伤害。

研究方法
本研究对涵盖十一年（2015–2025年）的 692 篇出版物（保留了一篇 2012 年的开创性论文以评估影响力）进行了混合方法的文献计量学和语义分析。

语料库构建： 从主要数据库（IEEE Xplore, ACM Digital Library, Scopus, ScienceDirect, Engineering Village）以及 ACM FAccT 会议论文集中系统地检索论文。搜索使用了以“偏见（Bias）”、“决策（Decision-making）”和“人工智能（AI）”为核心的关键词字符串。通过引用滚雪球法和人工相关性筛选对语料库进行了补充。
主题分类： 论文被手动分配到五个主题领域：
- 通用公平性与偏见缓解 (46.1%)
- 大语言模型 (LLMs) 与自然语言处理 (NLP) (21.8%)
- 健康与临床 AI (16.6%)
- 推荐系统 (10.0%)
- 基于图的公平性与偏见缓解 (5.5%)
定量分析：
- 地理/机构指标： 作者计算了唯一作者数量（全体作者和第一作者）以及机构隶属关系。他们计算了基尼系数来衡量国家和机构的集中度（0 = 完全平等，1 = 最大化集中）。
- 协作网络： 重建了包含 2,502 名作者的共同作者网络，以分析区域协作模式。
- 引用动态： 分析了全球引用计数（来自 OpenAlex）和内部语料库引用。由于引用分布呈偏态，使用了非参数统计检验（Kruskal-Wallis、Dunn's 后验检验、Spearman 秩相关）。
语义聚类：
- 使用 Sentence-BERT 对摘要进行编码（评估了 MPNet、MiniLM 和 SPECTER 模型）。基于最高的轮廓系数 (0.2564)，选择了 MPNet。
- 通过 UMAP（均匀流形近似与投影）进行降维。
- 在 2D UMAP 投影上使用 HDBSCAN（基于密度的层次空间聚类应用）执行聚类。配置参数为 (min_cluster_size=20, min_samples=10)，产生了四个语义连贯的簇。
- 使用调整兰德指数 (ARI) 和归一化互信息 (NMI) 验证了自动化聚类与人工领域标签之间的一致性。

关键结果

结构性集中： 该领域高度集中。美国在产出方面占据主导地位，贡献了 48.7% 的第一作者论文，并在所有领域处于领先地位。52 个国家的第一作者论文基尼系数为 0.7842，表明存在极度的不平等。
领域特定领导力：
- 通用公平性与偏见缓解： 这一基础领域最为集中，美国占第一作者出版物的 58.3%。这一点至关重要，因为该领域提供了被其他应用领域采用的定义和基准。
- 健康与临床 AI： 这是国际化程度最高的领域，除了美国外，加拿大、英国、德国和中国也做出了显著贡献。
- LLMs 与 NLP： 中国是该领域的第二大贡献者（第一作者占比 17.2%），反映了其侧重于技术和生成式 AI 而非基础公平性理论。
- 基于图的公平性： 高度集中在两个机构内（弗吉尼亚大学和牛津大学），占第一作者产出的 75%。
协作网络： 协作主要是在西方内部（美国、英国、加拿大、德国）。全球南方（包括南亚、非洲和拉丁美洲）在共同作者网络中基本缺失。尽管印度拥有庞大的技术劳动力，但在协作结构中仍处于代表性不足的状态。
引用动态： 引用影响力高度偏斜（中位数 = 9；平均值 = 93.5）。国家间的出版量与中位数引用影响力之间没有显著相关性 ( $\rho = 0.073$ )。虽然美国在出版量上领先，但加拿大和英国等国的每篇论文中位数引用量更高。
语义结构： 语义聚类 (HDBSCAN) 生成了四个与人工领域标签基本一致的簇。“通用公平性”出现在所有四个簇中，证实了其跨学科的特性。“基于图的公平性”散布在各个簇中，作为一种方法论视角而非独立的应用领域。

核心贡献

实证特征化： 本文提供了对 AI 偏见研究社区首次全面的结构化分析，将“谁在塑造 AI 偏见研究”的问题从假设转向了测量。
识别认识论风险： 研究表明，该领域的“基础层”（通用公平性）在地理上最为集中。这表明，在全球范围内使用的公平性定义和缓解框架，不成比例地受到以美国为中心的机构的影响。
交互式地图集： 作者发布了一个动态的交互式地图集 (https://biasatlas.cair-nepal.org)，以便持续监测该领域的结构演变、地理参与度和引用模式。
方法论框架： 本研究建立了一个结合文献计量学与语义聚类（UMAP + HDBSCAN）的、可复现的流程，用于绘制研究景观。

意义与主张
本文认为，AI 偏见研究的结构性集中不仅是一个代表性问题，更是一个认识论问题。由于基础性的定义和基准是在狭窄的西方语境下产生的，因此存在风险，即这些“通用”标准会编码局部文化和制度假设。

作者主张：

在集中型环境中开发和验证的缓解方法可能无法推广到所有人群，特别是全球南方的群体。
美国机构在“通用公平性”领域的统治地位意味着，该领域的方法论基础是由一组有限的优先级所塑造的，这可能会忽视与代表性不足的社会文化环境相关的危害。
出版量与引用影响力之间的脱节表明，影响力不仅仅是产出数量的问题，高产出的生产者（如美国）通过设定议程和机构中心地位来施加影响。

文章得出结论，解决 AI 偏见问题不仅需要扩大技术方法，更需要扩大产生这些方法的社区。作者呼吁加强在目前研究话语权较弱的地区进行外部验证，并提升这些地区的协作能力。作者明确指出了局限性，承认其语料库取自以英语为媒介、且由全球北方索引的数据库，这可能导致对其他语言或区域性刊物的研究代表性不足，但他们认为这反映了失衡的程度，而非改变了失衡的方向。