🤖 machine learning

Fairness in Link Prediction Beyond Demographic Parity: A Reproducibility Study

这项复现性研究表明，所提出的秩感知 NDKL 指标和 MORAL 后处理方法能够有效地发现并缓解传统人口统计学平价所忽视的链路预测中的暴露偏差，同时在多种设定下保持具有竞争力的效用。

原作者： Valentijn Oldenburg, Floris de Kam, Stef de Wildt, Jarno Nilson Balk

发布于 2026-08-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Valentijn Oldenburg, Floris de Kam, Stef de Wildt, Jarno Nilson Balk

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一位庞大数字飞船的船长，在互联网的浩瀚海洋中驾驶着一支推荐舰队。每当你建议一个新的朋友、一个求职者或一项服务时，你本质上是在两个人之间建立一条纽带。在机器学习的世界里，这被称为链路预测（link prediction）。但问题在于，仅仅因为你能预测出一条链路，并不意味着你应该平等地对待每个人。如果你的船只指南针稍微偏了一点，你可能会一直引导同一群人相互连接，而让其他人困在黑暗之中。这就是**公平性（fairness）**的问题。

长期以来，科学家们使用一个简单的规则，叫做人口统计学平权（Demographic Parity），来检查你的船是否公平。这就像是在清点甲板上有多少 A 组和 B 组的乘客。如果数字大致相等，船长就会假设每个人都受到了公平对待。但本文认为，这个规则就像是在不看乘客坐在哪里的情况下只进行人数清点。如果 A 组的人都在船头的 VIP 休息室（获得所有的关注），而 B 组的人被挤在船尾的货舱里（被忽视），那么总人数看起来可能仍然平衡，但体验却是极度不公平的。这就是“仅仅存在”与获得曝光（exposure）——即被看见和被选择的机会——之间的区别。

这项研究的研究人员（来自阿姆斯特丹大学的一个学生团队）决定测试一个关于这种“曝光偏差”的新理论。他们想看看旧的规则（人口统计学平权）是否掩盖了真实的问题，以及一个新的、更敏感的标尺是否能解决问题。他们并没有盲目接受原有的想法；他们从头开始重建了实验，修复了途中发现的一些损坏工具，甚至创造了自己的风暴海域，以测试新的指南针是否依然有效。他们的发现表明，要实现真正的公平，我们不仅要看谁获得了链接，还要看那个链接出现在建议列表中的什么位置。

这篇论文的故事

这篇题为**《超越人口统计学平权的链路预测公平性：一项可复现性研究》的论文，本质上是一个关于算法公平性的侦探故事。作者 Valentijn Oldenburg、Floris de Kam、Stef de Wildt 和 Jarno Balk 旨在验证另一组研究人员（Mattos 等人，2025）提出的主张。原研究团队认为，衡量公平性的标准方法存在缺陷，因为它忽略了链路的排名（ranking）**。

为了理解这个问题，请想象一个音乐播放列表。如果一个播放列表应该是公平的，它不应该只是播放相同数量的歌手 A 和歌手 B 的歌曲。关键在于它们播放的时间。如果歌手 A 的歌曲总是排在顶部（人们实际会听的位置），而歌手 B 的歌曲被埋在底部（没人会向下滚动），那么即使歌曲总数相同，这个播放列表也是有偏见的。在链路预测的世界里，这个“列表顶部”就是曝光发生的地方。旧规则——人口统计学平权——就像是统计总歌曲数并说：“嘿，我们有 50 首来自 A 的，50 首来自 B 的，所以我们很公平！”而新规则，被称为 NDKL，则会观察播放列表的顺序，并问道：“等等，为什么 A 的所有歌曲都在前十首里？”

本文作者主要做了三件事：

他们重建了实验： 他们采用了 2025 年原始研究的代码和方法，并尝试复现其结果。他们发现原始代码存在一些漏洞和不一致之处。在修复这些问题后，他们证实了原团队的主要发现：旧规则（人口统计学平权）确实隐藏了不公平，而新规则（NDKL）确实能捕捉到它。
他们测试了“修复方案”： 原研究提出了一种名为 MORAL 的方法来解决问题。MORAL 就像一个聪明的 DJ，在歌曲被挑选出来后重新排列它们。它会对初始建议进行重新排序，使不同的群体都有机会获得顶部的席位，同时不会破坏音乐的质量。作者发现，MORal 成功减少了不公平的曝光偏差，同时保持了推荐的实用性。
他们对系统进行了压力测试： 为了确保这不仅仅是偶然现象，他们创建了自己的“压力测试”。他们构建了具有不同同质性（homophily）（即人们倾向于与自身相似的人建立联系）水平的虚构社交网络。他们发现，即使在网络环境非常复杂或群体规模很小时，MORAL 仍然能够保持公平。他们还测试了当存在超过两个群体时（例如增加第三个或第四个类别）的情况，系统表现良好，尽管随着群体变小，平衡难度会增加。

他们的发现

研究证实，在处理排名列表时，人口统计学平权是一个糟糕的公平性代理指标。这表明依赖它就像是通过统计有多少人完赛来评判一场比赛，却忽略了谁真正赢得了金牌。新的指标 NDKL 在识别一个群体是否被系统性地推向列表底部方面要出色得多。

作为一种后处理“重排序”方法的 MORAL 被证明是非常有效的。在对六个不同现实世界数据集（包括社交网络和信用数据）的实验中，MORAL 一致地减少了曝光偏差。例如，在“Facebook”数据集中，这种新方法在保持预测准确性的同时，将公平性得分降低到了接近于零（意味着极少的偏差）。

作者还发现该系统具有鲁棒性。即使在他们模拟了一个其中一个群体规模很小或人们只喜欢与同类建立联系（高同质性）的网络时，MORAL 仍然能够公平地分配曝光。然而，他们也指出了一种权衡：随着不同群体的数量增加，要完美平衡每个人会变得稍微困难一些，且系统需要更多的计算能力。但即便如此，顶层的推荐仍然保持了准确性。

核心结论

本文并不声称已经解决了 AI 公平性的所有问题，但它强烈建议我们需要改变衡量公平性的方式。如果我们关心谁被看见以及谁被忽视，我们就不能只靠数人头；我们必须查看座位表。这项研究表明，通过使用尊重列表顺序的指标（如 NDKL）和一种能够主动重新排列列表以实现公平的方法（如 MORAL），我们可以构建出不仅准确而且对所有群体都真正公平的系统，无论这些群体多么微小或隐蔽。作者甚至发布了他们修正后的代码，以便他人可以检查其工作并在此基础上进行构建，从而确保通往公平 AI 的道路对每个人都是开放的。

问题陈述
链路预测中的公平性旨在减少不同群体间预测链路概率的差异。在社交网络推荐中，链路预测器决定了可见性和连通性，可能诱发反馈循环，从而强化组内连接并使少数群体处于不利地位。一个关键问题在于，当这些模型在历史图数据上进行训练时，可能会继承并放大现有的结构性偏差。

虽然人口统计学平价（ $\Delta$ DP）是排序链路预测中一种常见的公平性指标，但它将链路聚合为粗略的类别（同组 vs. 跨组）。Mattos 等人 (2025) 指出，这种二元视角无法检测到曝光偏差，因为它忽略了链路在排序中的具体位置。因此，即使特定的子群对链路（例如，女性-女性链路）在排名中被系统性地排在较低位置，聚合平价仍可能成立，从而掩盖了组内差异。

方法论
本研究是对 Mattos 等人 (2025) 的复现与扩展。作者将链路预测形式化为一个排序问题，其中敏感属性定义了子群对类型（例如， $E_{0-0}, E_{1-1}, E_{0-1}$ ）。

指标：
- 人口统计学平价 ( $\Delta$ DP)： 衡量组内链路 ( $E_{intra}$ ) 与组间链路 ( $E_{inter}$ ) 之间平均预测得分的差异。它是关于排序顺序的置换不变的。
- 归一化折扣 KL 散度 (NDKL)： 一种感知排名的、非二元的指标，它将所有子群对类型进行区分对待。它通过累积预测曝光分布与目标分布之间的 Kullback-Leibler 散度，并在不同排名前缀上进行加权，利用对数衰减因子来更严厉地惩罚高排名的偏差。
- 效用： 通过 Precision@1000 和 NDCG@1000 进行衡量。
MORAL (多输出排序聚合链路公平性)：
一种后处理算法，用于对解耦链路预测器（每个子群对类型训练一个模型）的输出进行重排序。MORAL 采用贪心 KL 引导的聚合策略：在每个排名位置，它从每个子群对池中选择剩余的最优边，以最小化更新后的曝光分布与目标分布 $\pi$ （源自原始图）之间的 KL 散度。
实验设置：
- 数据集： 六个社交网络数据集（Credit, Facebook, German, NBA, Pokec-n, Pokec-z）以及两个用于拓扑验证的额外数据集（全球机场航线网络, Chameleon）。
- 复现： 作者使用 GCN 编码器和点积解码器复现了核心设置，并修正了原代码库中关于目标分布计算和 KL 聚合的不一致之处。
- 扩展：
  - 非对称同质性压力测试： 通过定向偏好依附同质性 (DPAH) 模型生成的合成图，以测试在不同程度组内连通性下的性能。
  - 指标鲁棒性： 使用注意力权重排名公平性 (AWRF) 和 NDCG 进行评估，以确保结果并非仅针对 NDKL 聚合机制。
  - 类别属性： 将框架扩展到基数 $m > 2$ 的敏感属性。

核心贡献

复现与修正： 本研究成功复现了 Mattos 等人 (2025) 的核心主张，同时发布了一个修正后的、可复现的实现。它识别并修复了原代码中关于目标分布计算和 KL 散度归一化方面的不一致问题。
验证主张：
- C1： 证实了 $\Delta$ DP 可以在存在显著的子群对内（如 $E_{intra}$ 内）曝光差异的情况下，依然显示出聚合平价。
- C2： 证明了 NDKL 由于其感知排名和非二元的特性，能有效检测这些隐藏的差异。
- C3： 表明 MORAL 能持续缓解曝光偏差（低 NDKL），同时保持具有竞争力的效用（Precision/NDCG），且适用于多种数据集。
鲁棒性分析：
- 研究通过测试非对称同质性扩展了原工作，表明 MORAL 表现稳健，尽管在中间绝对同质性水平下曝光差异最为显著。
- 它验证了该框架对类别敏感属性（高达 $m=10$ ）和不同图拓扑（核心-边缘、异质性）的泛化能力。
- 它确认了公平性的提升并非仅仅是优化 NDKL 的人工产物，因为在 AWRF 中也观察到了类似的趋势。

结果

公平性 vs. 效用： MORAL 在所有数据集上均实现了接近于零的 NDKL，显著优于基准模型 (FairAdj, FairWalk, DetConstSort)。这种曝光偏差的减少是以极小的效用损失为代价的；MORAL 保持了高水平的 Precision@1000，通常能达到或超过基准模型。
指标敏感性： $\Delta$ DP 在很大程度上对组内曝光分配的变化保持不变，而 NDKL 和 AWRF 对这些变化高度敏感。
同质性： 在合成设置中，基于曝光的指标在中间绝对同质性 ( $\approx 0.6$ ) 处达到峰值，此时组内边频繁出现但排名保持多样性。在高同质性下，由于解耦预测器接收到的训练信号较弱，效用略有下降。
类别属性： 随着子群对类型 ( $T$ ) 的增加，NDKL 和 AWRF 呈单调下降趋势，表明使曝光与目标分布对齐变得越来越困难。然而，效用保持在高位，这表明即使较低排名变得不太稳定，顶部的排名边仍然是准确的。
消融实验： 重排序前与重排序后的得分对比显示，贪心 KL 聚合步骤本身是导致曝光偏差大幅降低的主要原因（NDKL 降低了 66.9%，AWRF 降低了 92.6%）。

意义与主张
本文得出结论，由于二元人口统计学平价可能会掩盖子群对的曝光差异，因此它对于排序链路预测是不充分的。作者认为，当链路预测输出作为排名被消费时，曝光应作为公平性的相关衡量标准。

该研究支持使用基于曝光的、感知排名的指标（如 NDKL 和 AWRF）以及 MORAL 后处理方法作为缓解排序链路预测偏差的有效工具。它强调了一个实际的权衡：虽然 MORAL 可以扩展到更高基数的设置，但随着子群对类型数量的增加，计算成本和曝光对齐的难度也会随之增加。作者强调，保留原始图的分布 ( $\pi$ ) 是一个设计选择，旨在防止算法放大偏差，而非声称原始分布本质上是“公平”的。

这篇论文的故事

他们的发现

核心结论

类似论文