🤖 machine learning

GESD: Beyond Outcome-Oriented Fairness

本文介绍了 GESD，这是一种面向过程的公平性指标，用于量化模型解释在不同子群之间的稳定性和鲁棒性差异，并将其整合到一个名为 FEU 的多目标框架中，以联合优化效用、基于结果的公平性和基于解释的公平性。

原作者： Gideon Popoola, John Sheppard

发布于 2026-05-18

📖 1 分钟阅读☕ 轻松阅读

原作者： Gideon Popoola, John Sheppard

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你正在申请一笔贷款。一个计算机算法决定你是否获批。长期以来，专家们只检查最终结果：“与 B 组相比，计算机是否拒绝了过多 A 组的人？”如果拒绝率相似，他们就会说：“太好了，系统是公平的！”

但本文认为，仅检查最终结果，就像只凭食物味道好坏来评判一位厨师，却从未看过他们如何烹饪。如果这位厨师使用一种秘密且不稳定的食谱，每次为特定人群烹饪时都会变化呢？食物味道或许尚可，但过程却混乱且不公平。

作者吉迪恩·波普拉（Gideon Popoola）和约翰·谢泼德（John Sheppard）提出了一种新的公平性检验方法，它关注的是烹饪过程，而不仅仅是菜肴本身。

新指标：GESD（“稳定性测试”）

他们开发了一种名为GESD（群体层面解释稳定性差异）的工具。其工作原理可通过一个简单的类比来说明：

假设你问计算机：“你为何拒绝我的贷款？”

旧方法：计算机给你一个理由，例如“你的收入太低”。
GESD 测试：研究人员对计算机进行“试探”。他们对你的申请进行微小且无害的改动（例如添加一点“噪声”或隐藏某个数字），然后再次要求计算机解释。
- 稳定的解释：即使经过试探，计算机仍说“我仍然因你的收入低而拒绝你”，那么该解释就是稳定的。
- 不稳定的解释：如果你只是进行了试探，计算机却突然说“实际上，我拒绝你是因为你的职业”，那么该解释就是不稳定且不可靠的。

GESD 衡量的是不同群体之间稳定性的差异。
如果 A 组获得的决策理由坚如磐石、始终一致，而 B 组每次询问时得到的理由却摇摆不定、不断变化，那么该系统在程序上就是不公平的。GESD 能够捕捉到传统公平性指标所忽略的这种“摇摆性”。

解决方案：FEU（“三方平衡术”）

作者意识到，要使一个系统兼具公平性、实用性和可解释性，就像试图在跷跷板上平衡三个沉重的砝码：

效用（Utility）：系统必须准确（善于预测谁会偿还贷款）。
结果公平性（Outcome Fairness）：最终决策必须在统计上公平（没有哪个群体被过度拒绝）。
解释公平性（GESD）：给出的理由必须对所有人而言都是稳定且一致的。

他们构建了一个名为FEU（公平性–可解释性–效用）的框架。可以将 FEU 想象为一位聪明的教练，致力于寻找完美的“甜蜜点”，使系统既准确，又在最终决策中公平对待每个人，同时为每个人提供稳定可靠的决策理由。他们采用了一种受进化（如自然选择）启发的方法，不断微调系统，直至找到最佳平衡点。

他们的发现

他们在真实世界数据（如贷款审批和刑事司法记录）上测试了该方法，并将其与其他流行的公平性工具进行了比较。

“隐藏”的偏见：他们发现，某些系统在表面上看起来是公平的（拒绝率相似），但一旦应用 GESD 测试，就发现给予某一组的理由比给予另一组的理由要“摇摆”得多。
权衡：有时，使系统在最终决策上达到完美公平（结果公平性），会导致解释的稳定性下降。
胜出者：他们的 FEU 系统能够比其他方法找到更好的平衡。它没有为了公平而牺牲准确性，也没有忽视解释的稳定性。

核心启示

本文提出了一种审计人工智能的新方法。它指出：“不要只检查人工智能是否做出了公平的决策；还要检查人工智能是否为所有人以一致且稳定的方式解释了这些决策。”

通过运用 GESD 和 FEU 框架，我们可以构建出不仅准确且在统计上公平的人工智能系统，而且因其推理在仔细审视时不会摇摆不定而更具可信度。

技术摘要：GESD——超越结果导向的公平性

问题陈述

机器学习（ML）算法正日益被部署于招聘、贷款审批和刑事司法等高风险领域。尽管现有的公平性指标（如统计 parity、均衡 odds）能有效量化模型结果中的差异，但它们未能解决决策过程中固有的偏见或模型解释的稳定性问题。当前方法严重依赖预测统计量，可能会忽视模型产生公平结果却依赖歧视性或内部推理不稳定的情况。在衡量不同受保护子群体是否获得质量、稳定性和鲁棒性相当的解释方面，存在关键缺口。

方法论

1. 群体级解释稳定性差异（GESD）

作者提出了 GESD，这是一种面向过程的公平性指标，旨在量化不同受保护子群体之间模型解释的稳定性、鲁棒性和敏感性差异。与以往比较平均特征重要性的指标不同，GESD 评估的是解释在输入扰动下的可靠性。

计算涉及五个步骤：

解释聚合：为确保对单个解释器不一致性的鲁棒性，该方法将 SHAP 和 LIME 解释聚合为单一向量： $E_{agg}(f, x) = \frac{1}{2}(E_{SHAP} + E_{LIME})$ 。
扰动：对于每个数据点，使用高斯噪声和特征掩码（用基线值替换特征）生成扰动版本。这模拟了自然输入波动和缺失数据。
稳定性测量：使用 $L_1$ 范数计算原始解释与扰动输入解释之间的距离。距离越低表示稳定性越高。这被转换为稳定性分数 $S(x)$ （例如， $1/(1+\Delta(x))$ ）。
群体级聚合：计算每个敏感群体（如性别、种族）的平均稳定性分数。
差异计算：
- 对于两个群体（ $K=2$ ），GESD 是群体平均稳定性分数之间的绝对差： $|S_0 - S_1|$ 。
- 对于 $K > 2$ 个群体，它是群体稳定性分数围绕全局均值的方差。

2. FEU 优化框架

为了解决平衡效用、结果公平性和解释公平性的多目标性质，作者引入了**公平性–可解释性–效用（FEU）**框架。

目标函数：问题被表述为无约束的三目标最小化：
1. 公平性（ $L_f$ ）：最小化人口统计 parity（DP）差异。
2. 可解释性（ $L_e$ ）：最小化 GESD。
3. 效用（ $L_u$ ）：最大化曲线下面积（AUC），通过取负值转换为最小化。
算法：该框架利用非支配排序遗传算法 II（NSGA-II）来演化模型配置群体（超参数如学习率、epoch 数和决策阈值）。
选择：从生成的帕累托最优集中，使用切比雪夫标量化选择最终模型，以确保在所有三个目标上实现平衡性能，同时避免任何单一指标的极端退化。

主要贡献

GESD 的构建：本文定义了一种新的面向过程指标，用于量化群体级在解释鲁棒性、稳定性和敏感性方面的差异，且独立于模型结果。
FEU 框架：作者提出了一种进化多目标优化框架，联合优化效用、基于结果的公平性和基于解释的公平性。
实证验证：研究表明，GESD 能够检测线性和非线性模型中基于结果的指标所遗漏的隐藏群体级解释偏见。
性能权衡：该工作表明，与最先进基线（对抗学习、降维和重加权）相比，FEU 在效用和公平性之间实现了更优越的权衡。

实验结果

实验在四个基准数据集上进行：德国信用、累犯、数学和葡萄牙。将提出的 FEU 方法与对抗学习（ADL）、降维（Red）和重加权（RW）进行了比较。

效用与结果公平性：在 AUC 和 F1 分数方面，FEU 通常优于或与基线具有竞争力。它在基于结果的公平性指标（DP 和 EOD）上也取得了具有竞争力的结果，通常在德国信用和累犯数据集上优于基线。
过程公平性（GESD）：虽然在某些数据集上，FEU 显示的 GESD 值略高于线性基线（Red, RW），但这归因于所使用的神经网络模型的复杂性。关键在于，结果强调，具有高效用和结果公平性的模型仍可能表现出显著的解释差异。
模型敏感性：研究发现，非线性模型（如 FEU 和 ADL）倾向于在不同子群体间生成比线性模型更不稳定的解释。此外，解释器的选择（SHAP 与 LIME）显著影响偏见的检测；聚合两种解释器（如 GESD 中所做）对于稳健地捕捉单一解释器可能遗漏的差异是必要的。
帕累托最优性：在德国信用数据集上，FEU 生成了非支配解，有效地平衡了三个目标，而线性基线往往为了微小的公平性收益而牺牲显著的效用。

意义与主张

本文声称，GESD 通过弥合基于结果的公平性与基于解释的公平性之间的差距，提供了一种诊断偏见的综合工具。其主要意义在于：

过程洞察：它揭示了传统指标所忽视的过程偏见，确保决策背后的推理与结果一样公平。
模型无关的效用：GESD 兼容各种学习算法和事后解释方法。
整体优化：FEU 框架证明了同时优化效用、公平性和可解释性是可行的，从而提供了更全面的公平建模视角。

作者指出，虽然 FEU 表现良好，但目前它缺乏针对极度偏见数据集的特定偏见缓解干预措施（如对抗去偏），这被确定为未来的工作方向。此外，他们提议扩展 GESD 以处理多个受保护类别（交叉性），并转向多目标优化算法（如 NSGA-III）以管理增加的复杂性。