📊 statistics

Maximin Relative Improvement: Fair Learning as a Bargaining Problem

本文提出了一种用于群体公平性的博弈论框架，该框架将子群体解释为议价主体，并引入了一种“最大化最小相对提升”目标，从而通过恢复卡莱-斯莫罗迪斯迪解（Kalai-Smorodinsky solution）来确保在具有不同可预测性的群体之间实现尺度不变且单调公平的学习。

原作者： Jiwoo Han, Moulinath Banerjee, Yuekai Sun

发布于 2026-06-17

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Jiwoo Han, Moulinath Banerjee, Yuekai Sun

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名教练，正试图为一个由两类截然不同的运动员组成的团队设计一份单一的训练计划：A组（天生体能极佳，通过练习可以大幅提升速度）和B组（天生体能较弱，无论如何训练，进步都非常困难）。

这篇论文提出了一个简单但棘手的问题：我们如何制定一个对两组人都“公平”的训练计划？

旧方法：“绝对值”法

目前大多数方法试图通过观察绝对数值来实现公平。它们说：“我们要确保两组人的速度提升量完全相同，比如都是5秒。”

论文指出，这种做法就像是试图强迫一名马拉松选手和一名蹒跚学步的幼儿跑完完全相同的距离。

A组（马拉松选手）可能只需要跑一小段路就能获得5秒的提升。
B组（幼儿）可能需要跑到虚脱才能获得同样的5秒。

在最坏的情况下，“绝对值”法可能会为了满足“A组也必须提升5秒”这一规则，而过度压榨B组，导致B组甚至比开始时变得更慢。论文称之为：在“榨取”容易提升组的所有可用信号的同时，“忽视”了难以提升组的需求。

新思路：“相对值”法

作者提出了一种新的思考公平的方式，使用了博弈论中的一个概念——讨价还价（Bargaining）。

想象这两个小组正坐在桌子旁进行谈判。

分歧点（Disagreement Point）： 如果双方无法达成协议，他们将维持各自的“默认”方案（即不做任何特殊训练）。这是他们的基准线。
理想点（Ideal Point）： 如果他们各自都能拥有定制的完美计划，他们将达到各自的最大可能提升。
协议（The Deal）： 他们需要就一个共同的计划达成一致。

与其询问“谁在秒数上进步更多？”，这篇论文问的是：“每个小组捕捉到了自身潜力的百分之多少？”

如果A组有潜力提升10秒，而共享计划给了他们5秒，那么他们捕捉到了**50%**的潜力。
如果B组的潜力仅为2秒，而共享计划给了他们1秒，那么他们也捕捉到了**50%**的潜力。

这被称为相对提升（Relative Improvement）。论文的目标是找到这样一个计划：使其中捕捉到最低百分比潜力的那一组，其比例尽可能高。这就像是在说：“我们要确保那个获得最差待遇的组，相对于其自身的极限而言，依然能获得其自身可能性的公平份额。”

“讨价还价”的比喻

论文将这种数学逻辑与经济学中一个著名的解法——**卡莱-斯莫迪斯基解（Kalai–Smorodinsky solution）**联系起来。

想象一下在分披萨，因为大家的胃口（不同的潜力）不同，所以切片的大小也不同。

旧方法试图给每个人同样大小的切片（绝对公平）。如果一个人饥肠辘辘而另一个人已经饱了，这并不奏效。
新方法关注的是每个人满足了多少自己的饥饿感。它确保如果一个人是50%饱，那么另一个人也是50%饱，而不论他们的胃有多大。

为什么这很重要

论文证明了三点主要内容：

更公平： 它防止了为了帮助容易提升的组而“碾压”困难组的情况。它保证了没有任何一组在谈判后会比开始前更糟（这是一个被称为“个体理性”的规则）。
数学逻辑严密： 作者展示了这种方法是唯一满足一系列符合逻辑的规则（公理）的方法，这些规则使谈判变得合理，例如“尺度不变性”（无论你用秒还是分钟来衡量速度，公平性保持不变）。
在现实中有效： 他们在真实数据上测试了这一点（预测基于年龄、教育程度等因素的收入，并跨越美国不同州和种族群体）。他们发现，在许多现实场景中，不同群体的“潜力”差异巨大。旧方法在这里失效了，往往会伤害那些难以预测的群体，而新的“相对提升”法则实现了平衡的成功。

总结

简而言之，论文建议在为多样化群体构建AI模型时，我们不应只看谁在原始数值上进步更多。相反，我们应该看每个群体利用了自身潜力的多少。通过将公平视为一场每个人都能获得其自身可能成功之“百分比”的谈判，我们可以避免让最脆弱的群体掉队。

技术摘要：作为博弈问题的最大化最小相对改进（Maximin Relative Improvement）

1. 问题定义

本文探讨了在多个子群体（组）上部署单一统一预测器时面临的挑战，即优化某一组的表现往往会损害其他组的表现。现有的方法，如最小化最差组损失（Group DRO）或最小化最差组遗憾（Minimax Regret），依赖于对风险或遗憾进行绝对比较。

作者认为，当各组之间存在内在可预测性（即从基准预测器到最优预测器可获得的“潜在改进”）差异时，绝对标准会失效。如果 A 组具有巨大的潜在改进空间，而 B 组的潜在改进空间很小，那么一个绝对最小化遗憾的方法可能会将几乎所有的模型容量分配给 A 组以最小化其绝对遗憾，从而导致 B 组的表现甚至差于基准水平。这是因为在具有不同信噪比的组别之间，单位绝对风险的降低并不具有同等的意义。

2. 方法论：作为博弈问题的公平学习

博弈框架

作者将组公平性重新定义为子群体之间的合作博弈问题。

参与者： 子群体（组）。
分歧点 ( $d$ )： 基准预测器 $f_0$ （例如回归中的无条件均值或分类中的多数类）所产生的风险。这代表了各组未能达成合作时的结果。
理想点 ( $u^{max}$ )： 每个组对应的组最优预测器 $f^*_g$ 所产生的风险。
可行集： 由函数类 $\mathcal{F}$ 诱导的可实现的风险向量集合 $\mathcal{R}(\mathcal{F})$ 。

优化目标是在各组牺牲部分个体最优性能的基础上，寻求一个相互接受的折中方案。

相对改进准则

论文提出了相对改进 ( $\rho_g$ ) 作为公平性度量指标。对于一个组 $g$ ，其定义为实际实现的风险降低量与最大可能风险降低量（即基准与组最优之间的差距）的比值：

$\rho_g(f) = \frac{R_g(f_0) - R_g(f)}{R_g(f_0) - R_g(f^*_g)}$

提出的学习目标是最大化最小相对改进 (MMRI)：
$f_{RI} = \arg \max_{f \in \mathcal{F}} \min_{g \in \mathcal{G}} \rho_g(f)$

与 Kalai–Smorodinsky 解决方案的理论联系

作者建立并证明了 MMRI 准则与 Kalai–Smorodinsky (KS) 博弈解（Kalai & Smorodinsky, 1975）完全对应。

几何解释： 在效用空间（其中效用为负风险）中，KS 解是使所有参与者从分歧点出发的相对收益相等的一条帕累托前沿上的唯一点。
公理化证明： KS 解由四个公理唯一表征：
1. 帕累托最优 (PO)： 不损害另一方，无法改进任何一组。
2. 对称性 (SYM)： 具有相同可行集和分歧点的组被平等对待。
3. 尺度不变性 (SI)： 解对于效用尺度的仿射变换具有不变性（这在各组基准可预测性不同时至关重要）。
4. 个体单调性 (IM)： 如果可行集在其他组最优值保持不变的情况下扩大，则任何组都不应受到损害。

论文证明了对于 $m=2$ 个组的情况，MMRI 满足所有四个公理。对于 $m > 2$ 的情况，它利用 leximin 精炼（字典序最大化最小）来确保唯一性和帕累托最优性，从而满足修正后的公理版本。

与现有方法的比较

论文将现有的鲁棒优化方法映射到其他经典的博弈解：

Group DRO (最小化最大风险)： 对应于 Rawlsian 解决方案（最大化最小绝对效用）。
最大化解释方差： 对应于平等主义（Egalitarian）解决方案（使来自分歧点的绝对收益相等）。
最小化遗憾 (Minimax Regret)： 对应于等损失（Equal Loss）解（使相对于理想点的绝对偏差相等）。

与 MMRI 不同，这些方法通常缺乏尺度不变性，导致在具有异质可预测性的组别中出现失效模式。

良定性与收敛性

作者通过建立使可行风险集 $\mathcal{R}(\mathcal{F})$ 为紧集且其凸包不包含非实现帕累托最优点的条件，验证了该学习问题是一个良定的博弈问题。这些条件在以下情况下成立：

参数化设置（凸紧参数空间、凸连续损失）。
非参数化 RKHS 设置（凸紧函数类、连续评估映射）。

此外，论文为经验最大化最小相对改进估计量建立了 $O(1/\sqrt{n})$ 的有限样本收敛保证，在标准正则性条件（Lipschitz 损失、熵条件）下，其收敛速率与基于遗憾的方法一致。

3. 核心贡献

将相对改进作为公平性准则： 提出了一种通过将风险降低归一化为组特有的潜在改进量，从而实现跨不同固有可预测性组别的可比性的度量方法。
统一的博弈框架： 证明了现有的鲁棒公平方法（Group DRO、Minimax Regret 等）等价于特定的经典博弈解，从而允许对其规范性承诺进行公理化比较。
公理化表征： 证明了最大化最小相对改进是满足帕累托最优、对称性、尺度不变性和个体单调性（或针对 $m>2$ 的 leximin 精炼）的唯一解。
无害保证： 表明如果基准预测器在函数类内（ $f_0 \in \mathcal{F}$ ），则 MMRI 方案保证没有任何组的表现会差于基准（个体理性），这是 Minimax Regret 所违反的性质。
有限样本保证： 提供了经验估计器的收敛速率。

4. 实证结果

作者使用 2018 年美国社区调查 (ACS) 数据对对数转换后的收入进行评估，涵盖了全美 50 个州，并使用了多种二元划分（性别、种族）及特征（年龄、教育、婚姻状况、住户身份）。

不对称性的观察： 研究发现，差异化的可预测性普遍存在。“差距比”（潜在改进之间的比例）范围从 0.04 到 3.48。在 73% 的配置中，不对称性表现为中度到极端；在种族划分中，86% 的州在住户身份特征上表现出极端不对称。
性能比较：
- 最小化遗憾 (MMR)： 在高不对称性情况下（例如北达科他州，种族划分，年龄特征），MMR 将几乎所有的模型容量分配给具有较高潜在改进能力的组，导致另一组的表现甚至差于基准（例如相对改进为 -74%）。
- 最大化最小相对改进 (MMRI)： 一致地使各组的相对改进相等（例如在北达科他州的例子中，两组均达到 57%），避免了对可预测性较低组别的“伤害”。
- 其他方法： Group DRO 和最大化解释方差在不对称设置中也会偏离等相对改进线。

5. 意义与主张

论文声称，将公平性解释为博弈问题，为选择公平性准则提供了原则性的公理化基础。

尺度不变性至关重要： 作者认为，当各组在固有可预测性方面存在差异时，尺度不变的准则（如 KS/相对改进）是必要的，以避免不平等地提取可用的信号份额。
决策指南： 该框架并不声称某种准则在所有情况下都优越。相反，它作为一个决策指南：从业者应识别哪些公理（例如尺度不变性 vs. 强单调性）在各自的语境中最相关。如果各组具有异质的可预测性，MMRI 的公理属性使其成为自然之选。
理论桥梁： 这项工作连接了合作博弈论与公平学习，证明了标准的学习假设（紧性、凸性）足以将经典的博弈解引入机器学习，而无需采用权宜的惩罚项。

作者也指出了局限性，包括寻找多组 leximin 解的计算复杂度，以及将该框架扩展到严格凸性和标准复杂度控制可能失效的过度参数化机制中所面临的挑战。