技术摘要：在硬性资源限制下实现公平性的操作化

问题陈述

机器学习在高风险领域（如临床风险分层、刑事司法、信贷承销）的部署面临着理论公平性定义与操作现实之间的严重脱节。现有的公平性干预措施通常假设资源是无约束的，采用特定于群体的决策阈值，这违反了反歧视法规（如《公平信贷机会法》），或者建议的干预量超过了可行的预算。

在现实场景中，资源是有限的（例如有限的 ICU 床位、固定的面试流程）。当预测的高风险病例数超过可用容量时，标准的公平性启发式算法往往会崩溃，导致效用趋近于零或导致系统被弃用。当前的方法难以在硬性容量约束下同时满足三个相互竞争的操作优先级：

1. 安全性 (Safety)： 最小化假阴性（漏掉高风险病例）。
2. 效率 (Efficiency)： 最小化假阳性（浪费稀缺资源）。
3. 公平性 (Equity)： 确保在不同人口统计学子群体之间公平分配有限的干预预算，同时不违反关于差别对待（群体特定阈值）的法律禁令。

方法论

作者提出了一种事后、模型无关的阈值优化框架，该框架明确地将预测评分与政策评估解耦。其核心机制强制执行单一的全局决策阈值，以确保法律合规性并严格限制干预率。

公式化

令 $f(x)$ 为一个固定的、经过良好校准的风险评分函数，产生概率 $p(x) \in [0, 1]$。决策规则定义为 $d_\tau(x) = \mathbb{I}\{p(x) \geq \tau\}$。该框架旨在寻找一个最优阈值 $\tau^*$，以最小化参数化的伦理损失函数 $L(\tau)$，并受限于硬性容量约束 $C$：

$$\tau^* = \arg \min_{\tau \in [0,1]} L(\tau) \quad \text{subject to} \quad P(d_\tau(x) = 1) \leq C$$

其中伦理损失为：
$$L(\tau; \alpha, \beta, \gamma) = \alpha \cdot \text{FNR}(\tau) + \beta \cdot \text{FPR}(\tau) + \gamma \cdot \Delta(\tau)$$

• $\alpha, \beta, \gamma$：上下文权重，分别代表安全性（假阴性率）、效率（假阳性率）和公平性（子群体差异，操作化为真阳性率绝对差的最大值）。
• $C$：最大允许的干预比例。

决策规则

该框架定义了两个关键阈值：

1. $\tau_{free}$：最小化 $L(\tau)$ 的无约束伦理最优值。
2. $\tau(C)$：受容量限制的阈值，定义为预测风险评分的 $(1-C)$ 分位数（即 $F_p^{-1}(1-C)$）。

最终部署的阈值由下式确定：
$$\tau^* = \max(\tau(C), \tau_{free})$$

操作逻辑：

• 如果容量充足（$\tau(C) \leq \tau_{free}$），则由伦理优先级（$\alpha, \beta, \gamma$）决定运行点。
• 如果容量受限（$\tau(C) > \tau_{free}$），系统将默认采用基于容量的更严格阈值 $\tau(C)$，无论伦理权重如何，均确保可行性。

理论特性

作者证明了 $\tau^*$ 的若干解析特性：

• 单调性 (Monotonicity)： $\tau^*$ 关于安全性权重 $\alpha$ 是非增的，关于效率权重 $\beta$ 是非减的。
• 临界容量 (Critical Capacity)： 存在一个临界容量 $C^*$，当 $C < C^*$ 时，阈值完全由资源限制决定，使得伦理权重失效。
• 饱和性 (Saturation)： 当约束生效时，增加安全性权重不会产生额外的操作变化。

实验评估

该框架在三个高风险数据集上进行了评估：ACS Income（机会预测）、COMPAS（再犯风险）以及一个临床糖尿病代理数据集（再入院风险）。实验使用了逻辑回归、梯度提升树和随机森林模型，并设定了固定的容量约束 $C=0.25$（25% 干预率）。

关键结果

1. 资源约束的主导地位： 在所有测试配置中（共 9,000 种因子组合），80.8% 的情况下，部署的阈值 $\tau^*$ 完全由容量约束 $\tau(C)$ 决定，而非由伦理最优值 $\tau_{free}$ 决定。这表明在资源受限的环境中，操作可行性高于细粒度的伦理微调。
2. 性能对比基准：
   • 无约束优化： 实现了高召回率（~0.99），但违反预算近 4 倍，导致无法部署。
   • 标准公平性启发式算法（人口统计学平价/等化赔率）： 虽然满足了预算，但效用几乎坍塌至零（在临床糖尿病数据集中召回率低至 0.006），表现并不比随机分配好。
   • 提出的框架： 在严格遵守 25% 预算的同时，成功维持了高风险识别能力（召回率范围在 0.409 至 0.702 之间），达到了随机猜测召回率的 1.6 到 2.8 倍。
3. 敏感性分析：
   • 安全性饱和： 当安全性权重 $\alpha$ 超过 ~2.0 时，会出现 100% 的约束激活，且不再产生进一步的操作变化。
   • 公平性权衡： 增加公平性权重 $\gamma$ 会减少差异，但也会系统性地降低整体召回率。
   • 容量影响： 召回率与容量 $C$ 呈现近似线性依赖关系。扩大预算是提高安全性的最有效机制，其效果远超伦理权重微调。

意义与主张

本文声称通过提供一种法律合规且实用的机制，弥合了理论公平性与在资源受限环境下进行操作部署之间的鸿沟。

• 操作现实主义： 研究表明，理论上的公平性目标必须明确从属于操作容量限制。否则，在涉及高风险分诊的场景中，公平性干预往往会变得毫无实际用途。
• 法律合规性： 通过强制执行单一的全局阈值，该框架避免了与群体特定阈值相关的差别对待所带来的法律风险，使其适用于信贷和就业等受监管领域。
• 解耦： 该框架允许利益相关者进行系统的场景分析，并在不重新训练底层预测模型的情况下调整政策优先级（安全性、效率、公平性）。
• 行动指南： 对“临界容量区间”和“饱和点”的识别，为从业者提供了原则性的工具，以了解何时增加对安全性或公平性的强调会产生边际收益递减。

作者得出结论：虽然伦理微调具有价值，但它仅在由资源限制定义的狭窄可行区域内才有效。所提出的框架通过确保决策边界保持可行、可解释且法律合规，实现了公平性的操作化。