📊 statistics

How Reliable are Fairness Audits with Unreliable Data?

本文引入了一种基于种子校准的压力测试，旨在证明在公平性审计中，受保护标签的缺失通常不会导致缓解结果超出自然种子变异性的显著变化，尽管它可能会暴露诸如阈值优化期间的交叉性伤害等特定失效模式，从而表明缺失效应应当在经过仔细校准和结合上下文的情况下进行报告，而非被视为审计脆弱性而予以忽视。

原作者： Yash Vardhan Tomar

发布于 2026-06-09

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yash Vardhan Tomar

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一位法官，正试图决定五种不同的“公平配方”中哪一种最适合机器学习模型。你的目标是确保模型对待不同群体（如不同的种族或性别）是公平的。

为了实现这一目标，你需要进行一次公平性审计（Fairness Audit）。这就像是一场味觉测试，通过检查模型的预测结果与真实数据之间的差异，来观察是否存在偏见。但问题在于，有时数据会缺失掉一些必要的“食材”，即你用来识别某人属于哪个群体的标签。也许是因为人们没有填写表格，或者记录丢失了。

这篇论文提出了一个简单但至关重要的问题：如果我们丢失了一些群体标签，我们还能信任我们的审计结果吗？还是说，因为数据变得混乱，审计过程已经失效了？

以下是研究人员的发现，采用了日常生活的类比进行说明。

1. “噪声”问题：是数据缺失导致的，还是仅仅是随机性？

想象一下你正在试图选出比赛中的最佳跑者。

问题所在： 有时秒表稍微有点误差，或者跑者起跑时晚了几秒。即使你有完美的数据，如果你运行两次比赛且随机初始条件（在论文中称为“种子”）不同，你每次可能会选出略有不同的获胜者。
论文的洞察： 研究人员意识到，当我们看到审计结果因为数据缺失而改变主意时，我们往往会惊慌失措，认为：“噢不，缺失的数据把一切都搞砸了！”
现实检验： 他们发现，缺失数据实际上并没有像我们想象的那样破坏审计。 事实上，即使拥有完美的数据，审计也会因为随机噪声的原因而频繁改变主意（甚至更频繁）。
类比： 这就像一位法官仅仅因为眨眼的时机不对，就改变了对最佳跑者的判断。论文指出：“先别急着责怪缺失的数据。首先，检查一下是不是法官自己太‘反复无常’了。”他们创建了一个“校准”工具，用来区分“反复无常的法官”产生的噪声与缺失数据造成的实际损害。

2. “零数据”悬崖边缘

存在一个特定的点，审计会变得混乱：那就是当零个群体标签可用时。

发生的情况： 如果你完全不知道谁属于哪个群体，几种不同的公平配方最终都会表现得完全一样（它们都会表现得像标准的、非公平的版本）。
结果： 当审计必须在这些完全相同的配方中选出一个赢家时，它只是随机选择一个（比如抛硬币或者按字母顺序选择第一个）。这使得审计看起来很不稳定，但实际上这只是一个平局决胜的问题，而不是方法的根本性失败。

3. “隐藏陷阱”：交集风险

这是最重要的发现。想象一下你正在检查一所学校是否公平。

陷阱： 你分别检查了对“男孩”是否公平，以及对“女孩”是否公平。你发现某种配方能让这两个群体各自都显得很公平。你为此感到庆幸！
现实情况： 但是，那“黑人女孩”呢？或者是“年长男性”呢？论文发现，某些方法（特别是被称为阈值优化/Threshold Optimization的方法）可以使单一群体看起来表现出色，却在暗中让特定组合群体（即交集群体）的情况变得更糟。
类比： 这就像一种减肥计划，它能帮你减掉手臂和腿部的脂肪，但却让你腹部的脂肪悄悄增加到了危险的程度。这种“单维度”审计会说：“做得好！”但“交集”审计会说：“你实际上正在伤害最脆弱的群体。”
发现： 研究人员发现，这种“隐藏的伤害”主要发生在采用阈值优化方法时。即使审计显示模型是公平的，这种特定方法也经常会掩盖针对最脆弱子群体的准确率大幅下降。

4. “压力测试”结果

研究人员在真实世界的数据（如预测收入或就业情况）上运行了他们的审计，并模拟了两种缺失数据的方式：

随机缺失： 就像信件在邮寄过程中丢失了一样（与你是谁无关）。
系统性缺失： 就像特定群体的人拒绝回答问题一样。

结论：

好消息： 只要你拥有一些数据（即使只有 20% 或 40%），审计的建议通常保持稳定。它们不会仅仅因为数据缺失就发生剧烈的反复跳变。
坏消息： 真正的危险不在于缺失数据本身，而在于选择了错误的公平配方。如果你选择了“阈值优化”配方，你可能认为你解决了公平问题，但你实际上制造了一个隐藏的陷阱，针对的是交集群体。

总结：你应该从中汲取什么？

如果你正在进行公平性审计：

不要立即对缺失数据感到恐慌。 首先，检查你的审计是否仅仅是“有噪声的”（即随机地改变主意）。
警惕“隐藏陷阱”。 仅仅因为一个模型对“种族 A”和“性别 B”是公平的，并不意味着它对“种族 A + 性别 B”也是公平的。
谨慎使用“阈值优化”。 这种特定方法在解决单一群体问题时非常有效，但它也非常擅长掩盖对复杂交集群体的伤害。
报告全貌。 不要只说“我们选择了方法 X”。你需要报告该方法在数据缺失时是如何表现的，并检查它是否正在伤害那些最脆弱的子群体。

简而言之：缺失数据虽然令人恼火，但选错公平工具却是极其危险的。 这篇论文为我们提供了一种更好地分辨两者的手段。

技术摘要：缺失数据下的公平性审计是否可靠？

问题陈述

公平性审计对于负责任的机器学习部署至关重要，然而在**受保护标签缺失（protected-label missingness）**情况下的可靠性仍未得到充分理解。在实践中，由于未收集、用户拒绝或记录不一致，人口统计属性（如种族、性别）往往是缺失的。当这些标签缺失时，审计人员无法准确计算群体层面的差异，也无法选择合适的缓解方法。

本文解决的核心挑战在于：如何区分由数据缺失导致的审计不稳定性与审计过程本身固有的不稳定性（例如：种子到种子的变异、近乎等效的候选方法以及确定性平局决胜机制）。如果没有对“普通”审计噪声建立基准，由于标签缺失导致的推荐变更可能会被误解为审计框架的严重失效，而非标准随机方差的体现。

方法论

作者提出了一种基于种子校准的压力测试（seed-calibrated stress test），旨在将缺失效应从固有的审计噪声中分离出来。该方法包括：

实验设置：
- 任务： 来自 ACS/Folktables 数据集的四个二分类任务（收入、就业、公共保障、流动性）。
- 受保护视图： 种族（RAC1P）、性别（SEX）及其交集（RAC1P×SEX）。
- 候选方法： 经验风险最小化（ERM）、特征混合（Feature Mixing）、重加权法（Reweighing）、受保护组混合法（Protected-Group Mixing）以及等化赔率阈值优化法（Equalized-Odds Threshold Optimization）。
- 选择标准： 受准确率约束的等化赔率（EO）、人口统计学平价（DP）、最差组准确率（WGA）以及交集等化赔率（Intersectional EO）。
缺失机制：
- 完全标签先验（Complete-Label Oracle, $r_0$ ）： 所有受保护标签均可用。
- 完全随机缺失（MCAR）： 标签隐藏率分别为 80%、60%、50%、40%、20%、10% 和 0%。
- 非随机缺失（MNAR）： 与特定的 MCAR 目标匹配（50%、20%、10%），并采用非对称标签访问（多数群体保留较高的可用性）。
- 评估： 标签在评估阶段始终保留，以确保指标是针对地面真值（ground truth）计算的；缺失仅影响训练和后处理缓解过程。
校准机制：
- 种子对空值（Seed-Pair Null）： 使用不同的随机种子（ $s, s'$ ）在具有完全标签的情况下重新运行审计。在这些种子之间发生的推荐翻转频率建立了基准“噪声底线”。
- 匹配过度翻转率（Matched Excess Flip Rate, $\Delta_c(r)$ ）： 观察到的缺失情况下的翻转率与种子对空值之间的差值。正 $\Delta$ 表示缺失导致的不稳定性超过了标准的审计方差。
- 隐藏回归筛选（Hidden-Regression Screen）： 检查一种方法是否在改善单轴公平性（如种族或性别）的同时，恶化了交集结果（如种族×性别）或最差组准确率（WGA）。
验证： 第二个实验使用随机森林作为基础学习器重复审计，以测试对高方差模型的鲁棒性。

关键结果

1. 缺失情况通常低于种子空值

与直觉相反，研究发现正可用性缺失情况下的缺失通常不会使所选的缓解方法超出完全标签下的种子底线。

原始翻转率： 37.3% 的缺失标签比较导致了不同的方法选择。
种子空值基准： 53.8% 的完全标签种子对比较导致了翻转。
校准发现： 在校准后，大多数缺失机制（MCAR 和具有 >0% 可用性的 MNAR）都低于种子噪声底线。只有 0%（无标签）端点超过了种子底线（+6.3 个百分点），这主要是由于在 ERM 等效候选方法中的确定性平局决胜机制导致的。

2. 候选集构成至关重要

“翻转率”对候选集非常敏感。当审计被限制在 {ERM, Reweighing, Threshold Optimization} 时，原始翻转率相对于 39.8% 的种子空值降至 33.8%。这表明，明显的脆弱性往往是由于包含了触发平局决胜规则的近乎等效的方法，而非审计逻辑本身的根本失败。

3. 阈值优化驱动交集损害

识别出的最显著的可靠性失效是隐藏的交集回归（hidden intersectional regression），即单轴公平性的提升掩盖了子群体的损害。

整体隐藏回归率： 69.9%（已针对 55.0% 的种子空值进行校准）。
驱动因素： 阈值优化（Threshold Optimization） 是主要的驱动因素，其隐藏回归率高达 94.2%。它经常在改善单轴 EO 指标的同时，导致最差组准确率（WGA）严重下降（中位数下降 12.34 个百分点）。
其他方法： 重加权法和特征混合法的隐藏回归率较低（分别为 29.6% 和 36.2%），并且在排除阈值优化后，其表现仍低于种子空值。

4. 对基础学习器方差的鲁棒性

使用随机森林（比逻辑回归具有更高的方差）进行的验证证实了主要发现：

严格翻转率略有增加（从 37.3% 增至 41.1%），但缺失效应的相对排序保持一致。
由阈值优化驱动的隐藏回归模式依然存在（93.5% 的速率），证实了这种失效模式是特定于方法的，而非特定于模型的。

意义与主张

本文认为，在没有进行适当校准的情况下，不应将受保护标签缺失视为审计脆弱性的证据。 作者主张：

需要种子空值校准： 原始敏感性分析（例如，“当标签隐藏时方法发生了变化”）具有误导性。审计必须报告变化是否超过了在完全标签下审计过程固有的变异。
上下文报告： 审计报告必须包含：
- 种子空值校准： 以区分缺失效应与噪声。
- 候选集上下文： 以解释平局决胜产生的伪影。
- 交集后果： 以检测单轴收益掩盖交集损害的隐藏回归现象。
特定失效模式： 研究确定了阈值优化是一种高风险方法，它可能产生“高于空值”的隐藏回归，尤其是在标签稀疏的情况下。
可操作的可用性曲线： 审计应可视化方法在不同标签可用性谱系下的行为，将推荐变更与指标退化区分开来。

总之，这项工作提供了一个诊断框架，以防止对缺失数据效应的误读，强调许多观察到的不稳定性是标准审计方差或特定方法行为（如阈值优化）的产物，而非由于缺失数据导致的普遍审计能力不足。