A Geometric Theory of Robust Fairness Audits
本文引入了一个几何框架，用于分析并量化基于邻域的公平性审计在特征扰动下的鲁棒性，建立了稳定性条件，并提出了一个名为“审计挥发性”的新指标来衡量其敏感性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代世界中，算法正日益深入地参与决策，塑造着人类的生活，从批准贷款、诊断疾病到决定假释资格。随着这些系统变得愈发强大，社会产生了一种迫切的需求，即确保它们能够公平地对待人类。一种检查公平性的主要方法聚焦于这样一个理念：相似的个体应当获得相似的结果。为了测试这一点，审计人员通常会查看一个人的数据，并将其结果与数据集中与其最接近的“邻居”的结果进行比较。如果两个人在特征上几乎完全相同，却得到了截然不同的评分，该系统就会被标记为可能存在不公平。这种被称为“基于邻域的审计”（neighborhood-based audit）的方法已成为评估机器学习模型的标准工具，因为它具有灵活性，能够发现宏观统计数据可能忽略的局部不公。
然而，关于这些审计本身可靠性的新担忧已经出现。寻找一个人“邻居”的过程取决于数据点在数学空间中的精确位置。在现实世界中，数据很少是完美的；它包含微小的误差、缺失值，或由于信息记录或清洗方式不同而产生的轻微偏差。这些微小的偏移可能会稍微推动一个人，从而改变其最近的邻居。如果邻居发生了变化，公平性得分也会随之改变，即便该系统对这个人的预测结果本身保持完全不变。这提出了一个令人不安的问题：一项不公平的判定究竟是系统本身的缺陷，还是仅仅由于测量过程的不稳固而产生的伪影？
印度理工学院甘地纳加尔分校的研究人员开发了一种理解这一问题的新方法。他们不仅将审计过程视为一种统计检查，还将其视为一种几何学上的检查，通过映射出数据的小幅变化如何影响这些邻域群体的稳定性来开展研究。他们的工作证实，公平性审计的稳定性完全取决于一个人的邻居与数据集中的其他人之间分离得有多清晰。他们发现，如果一个人的邻居明显比其他任何非邻居都更接近他，那么即使数据受到轻微扰动，审计结果也将保持稳定。但如果邻居与其余人群挤在一起，即使是极小的推动也会导致邻居被替换，从而导致公平性得分剧烈波动。
该团队引入了一个名为“审计挥发性”（audit volatility）的概念，用以衡量当数据受到重复且微小的扰动时，公平性得分预期会发生多大的波动。通过在涉及收入、银行营销和刑事司法记录的真实数据集上测试其理论，他们证实了数据的几何结构是稳定性的主要驱动力。在个体与其真实同类清晰分组的数据集中，审计保持了稳健和一致。相比之下，在个体混合程度较高的数据集中，表现出了高挥发性，这意味着公平性判定对微小的数据偏移高度敏感。研究人员还表明，如何对结果进行平均处理也至关重要；使用对极端值不那么敏感的方法可以进一步降低这种不稳定性。
至关重要的是，这项研究表明，公平性审计的不可预测性并非一个谜团，而是一个可计算的几何属性。研究人员证明，公平性得分的变化量直接与在扰动过程中被替换掉的邻居数量相关。他们发现，任意两点之间距离的最大变化量受限于扰动的大小，而这个限制决定了局部邻域可以发生多大的偏移。当他们将这些发现应用于标准数据集时，观察到的行为与他们的预测完美吻合。在“局部分离裕度”（local separation margin）——即一个人的最近邻居与下一组人之间的间隙——较大的区域，审计最为稳定。
这项工作将焦点从单纯构建更好的模型，转向理解用于衡量模型的工具的可靠性。它表明，在宣布一个系统不公平之前，审计人员必须首先验证其邻域结构是否足够稳定，以支持得出此类结论。如果数据的几何结构过于松散，审计本身就会变成一种不可靠的工具，无法区分真正的偏见与随机噪声。研究人员提供了一个框架，用于根据底层数据结构精确计算人们可以对公平性评估投入多少信心。通过量化这种脆弱性，他们提供了一种设计更稳健的审计程序的方法，使这些程序能够抵御现实世界数据中不可避免的不完美，从而确保公平性的判断与其赖以存在的底层数据一样坚实可靠。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。