技術要約：最大最小相対改善（Maximin Relative Improvement）としての交渉問題

1. 問題の定式化

本論文は、単一の統一された予測器を複数のサブポピュレーション（グループ）にわたってデプロイする際の課題に取り組んでいる。そこでは、あるグループに対して最適化を行うと、他のグループの性能が低下するという問題が生じる。Group DRO（グループ・ドロップアウト）やMinimax Regret（最小最大後悔）といった既存のアプローチは、リスクや後悔のグループ間における絶対的な比較に依存している。

著者らは、グループ間で固有の予測可能性（ベースラインから最適予測器への潜在的な改善幅）が異なる場合、絶対的な基準は機能しないと主張している。もしグループAに大きな改善の潜在性があり、グループBには小さな潜在性がある場合、絶対的な後悔を最小化しようとする最小最大後悔アプローチは、モデルの容量のほぼすべてをグループAの絶対的な後悔を減らすために割り当ててしまい、その結果、グループBの性能がベースラインよりも悪化する可能性がある。これは、信号対雑音比（SNR）が異なるグループ間では、絶対的なリスク削減の1単位が等しく意味を持つわけではないために起こる。

2. 手法：交渉問題としての公平学習

交渉フレームワーク

著者らは、グループの公平性を、サブポピュレーション間の**協調的交渉問題（cooperative bargaining problem）**として再定義している。

• プレイヤー: サブポピュレーション（グループ）。
• 不一致点 ($d$): ベースラインとなる予測器 $f_0$（回帰における無条件平均や、分類における多数派クラスなど）によって生じるリスク。これは、グループが協調に失敗した場合の結果を表す。
• 理想点 ($u^{max}$): 各グループに対するグループ最適予測器 $f^*_g$ によって生じるリスク。
• 実行可能集合: 関数族 $\mathcal{F}$ によって誘導される達成可能なリスクベクトルの集合 $\mathcal{R}(\mathcal{F})$。

最適化は、各グループが個々の最適解から性能を犠牲にして、相互に受け入れ可能な解決策に到達することを目指す。

相対改善基準

本論文では、公平性の指標として**相対改善（Relative Improvement, $\rho_g$）**を提案している。グループ $g$ について、これは予測器 $f$ によって達成される実際のリスク削減量を、最大可能なリスク削減量（ベースラインとグループ最適値の差）で除した比として定義される：

$$\rho_g(f) = \frac{R_g(f_0) - R_g(f)}{R_g(f_0) - R_g(f^*_g)}$$

提案される学習目的関数は、**最大最小相対改善（Maximin Relative Improvement, MMRI）**である：
$$f_{RI} = \arg \max_{f \in \mathcal{F}} \min_{g \in \mathcal{G}} \rho_g(f)$$

理論的接続：カライ・スモロディンスキー解

著者らは、MMRI基準がカライ・スモロディンスキー（Kalai–Smorodinsky, KS）交渉解（Kalai & Smorodinsky, 1975）と正確に一致することを確立している。

• 幾何学的解釈: 効用空間（効用は負のリスクである）において、KS解は、すべてのプレイヤーの不一致点からの相対的な利得を等しくするパレート境界上の唯一の点である。
• 公理的正当化: KS解は、以下の4つの公理によって一意に特徴付けられる：
  1. パレート最適性 (Pareto Optimality, PO): あるグループを改善しようとすると、他のグループを損なうことになる。
  2. 対称性 (Symmetry, SYM): 同一の実行可能集合と不一致点を持つグループは等しく扱われる。
  3. スケール不変性 (Scale Invariance, SI): 効用のスケールのアフィン変換に対して不変である（異なるベースライン予測可能性を持つグループ間で極めて重要）。
  4. 個別単調性 (Individual Monotonicity, IM): 他のグループの最適値が固定されたまま実行可能集合が拡大した場合、どのグループも損害を受けない。

本論文は、プレイヤー数が $m=2$ の場合、MMRIがこれら4つの公理をすべて満たすことを証明している。$m > 2$ の場合は、一意性とパレート最適性を確保するために**レキシミン（leximin）**による精緻化（辞書式最大最小）を利用し、修正されたバージョンの公理を満たす。

既存手法との比較

本論文は、既存のロバスト最適化手法を他の古典的な交渉解へとマッピングしている：

• Group DRO (Minimax Risk): ロールズ的解（最小絶対効用を最大化する）に対応。
• Maximin Explained Variance: エガリタリアン（平等主義的）解（不一致点からの絶対的な利得を等しくする）に対応。
• Minimax Regret: 等損失（Equal Loss）解（理想点からの絶対的な偏差を等しくする）に対応。

MMRIとは異なり、これらの手法は一般にスケール不変性を欠いており、異なる予測可能性を持つグループが存在する場合に失敗モードを引き起こす。

ウェルポーズド性と収束性

著者らは、実行可能リスク集合 $\mathcal{R}(\mathcal{F})$ がコンパクトであり、その凸包に非実現的なパレート最適点が含まれない条件を確立することで、学習問題がウェルポーズド（well-posed）な交渉問題を誘導することを検証している。これらの条件は以下の場合に成立する：

• パラメトリック設定（凸コンパクトなパラメータ空間、凸連続損失）。
• 非パラメトリックRKHS設定（凸コンパクトな関数クラス、連続評価写像）。

さらに、本論文は、標準的な正則条件（リプシッツ連続な損失、エントロピー条件）の下で、経験的最大最小相対改善推定量の有限サンプル収束率が $O(1/\sqrt{n})$ であることを確立している。これは後悔ベースの手法と同等のレートである。

3. 主な貢献

1. 公平性基準としての相対改善: リスク削減をグループ固有の潜在的改善量で正規化することで、異なる固有の予測可能性を持つグループ間での比較可能性を確保する指標を提案した。
2. 統一された交渉フレームワーク: 既存のロバストな公平性手法（Group DRO、Minimax Regretなど）が特定の古典的な交渉解に相当することを示し、それらの規範的なコミットメントに対する公理的な比較を可能にした。
3. 公理的特徴付け: MMRIが、パレート最適性、対称性、スケール不変性、および個別単調性（または $m>2$ の場合のレキシミン精緻化）を満たす唯一の解であることを証明した。
4. 「害を与えない」保証: ベースライン予測器が関数族に含まれる場合（$f_0 \in \mathcal{F}$）、MMRI解はどのグループもベースラインより悪化しないこと（個別合理性）を保証する。これはMinimax Regretが違反する特性である。
5. 有限サンプル保証: 経験的推定量の収束率を提供した。

4. 実証結果

著者らは、2018年のアメリカン・コミュニティ・サーベイ（ACS）データを用い、50の米国州における、性別・人種による二値分割および様々な特徴量（年齢、教育、婚姻状況、世帯主のステータス）を含む対数変換された所得を予測する評価を行った。

• 非対称性の観察: 予測可能性の差異は広範囲にわたって存在することが研究で示された。「ギャップ比（潜在的改善の比）」は0.04から3.48の範囲にある。73%の設定において、非対称性は中程度から極端であった。人種の分割においては、世帯主ステータスに関して86%の州で極端な非対称性が見られた。
• 性能比較:
  • Minimax Regret (MMR): 高い非対称性がある場合（例：ノースダコタ州、人種分割、年齢特徴量）、MMRは高い潜在性を持つグループにほぼすべてのモデル容量を割り当てるため、もう一方のグループの性能がベースラインよりも悪化する（例：相対改善率 -74%）。
  • Maximin Relative Improvement (MMRI): グループ間の相対改善を一貫して等しくする（例：上記のノースダコタ州の例では、両グループで57%を達成する）。これにより、予測可能性の低いグループへの「害」を回避する。
  • その他の手法: Group DROやMaximin Explained Varianceも、非対称な設定では相対改善の等値線から逸脱する。

5. 意義と主張

本論文は、公平性を交渉問題として解釈することが、公平性の基準を選択するための原理的かつ公理的な基礎を提供すると主張している。

• スケール不変性の重要性: 著者らは、グループ間で予測可能性が異なる場合、利用可能な信号の不等分な割合の抽出を避けるために、スケール不変な基準（KS/相対改善のようなもの）が必要であると論じている。
• 意思決定ガイド: 本フレームワークは、一つの基準が普遍的に優れていると主張するものではない。むしろ、それは意思決定ガイドとして機能する。実務家は、どの公理（例：スケール不変性 vs 強単調性）が自身のコンテキストにおいて最も関連しているかを特定すべきである。グループ間で予測可能性が異なる場合、MMRIの公理的特性が自然な選択となる。
• 理論的架け橋: 本研究は、協調ゲーム理論と公平学習を橋渡しし、標準的な学習仮定（コンパクト性、凸性）が、アドホックなペナルティの選択なしに古典的な交渉解を機械学習に導入するのに十分であることを証明している。

著者らは、多くのグループに対するレキシミン解の計算複雑性と、厳密な凸性や標準的な複雑性制御が崩れる可能性があるオーバーパラメトリゼーション領域への拡張における課題についても言及している。