技術的概要：緩和された公平回帰の幾何学

問題定義

本論文は、推論時に敏感属性（$S$）が利用できない「非認識（unaware）設定」において、回帰タスクで*人口統計的独立性（Demographic Parity: DP）*を強制する課題に取り組んでいる。「認識（aware）設定」（$S$ が観測される場合）では厳密な*公平性を実現する事後処理手法が存在するが、非認識設定において緩和された*公平性（精度と公平性のバランス）を達成するための原理的な手法は、ほぼ存在しない。既存のアプローチは、しばしばノイズの多い代理分類器やグリッドベースの離散化に依存しており、問題の連続的な幾何学的構造を捉えきれず、精度と公平性のトレードオフが最適化されていない。

手法

著者らは、緩和された公平回帰を**最適輸送（Optimal Transport: OT）**問題として定式化する統合フレームワークを提案する。核心的な洞察は、ベース予測器の条件付き分布を共通の目標分布へ輸送する OT マップを通じて、最適予測関数を特徴づけることである。これにより、不公平性に対するペナルティを最小化しつつ、予測を行う。

1. 統合フレームワーク

このフレームワークは、正グループと負グループの特性の法則の差である符号付き測度 $\chi_+ - \chi_-$ として回帰問題を定義することで、認識設定と非認識設定の両方を統合する。

• 非認識設定: 最適予測器は、符号付きグループ確率 $\Delta(x) = \frac{P(S=+|X=x)}{p_+} - \frac{P(S=-|X=x)}{p_-}$ に依存する。問題は、ベース予測 $\eta(x)$ と $\Delta(x)$ の空間で定義された 2 次元測度 $\mu^{\pm}_{\eta, \Delta}$ を、1 次元の予測空間へ輸送する問題に帰着する。
• 認識設定: これは、観測された $S$ に基づいて $\Delta(x)$ が決定論的になる特別な場合として回収され、問題は 1 次元輸送に簡略化される。

2. ペナルティによる緩和された公平性

厳密な DP（$\lambda \to \infty$）を強制する代わりに、著者らはペナルティ付きリスクを最小化する：
$$\min_f \mathbb{E}[(f(X) - \eta(X))^2] + \lambda m U_D(f)$$
ここで、$U_D(f)$ は、符号付き測度の正負の変動のプッシュフォワード間の不一致尺度である。本論文は 2 つの特定のペナルティを分析する：

• 二乗ワッサーシュタイン距離（$W_2^2$）: ラベル空間における変位の大きさにペナルティを課す。
• 全変動（TV）: 異なる値間の距離を無視し、重なり合わない確率質量にペナルティを課す。

3. 閉形式解

重要な理論的貢献として、最適なほぼ公平な予測関数に対する正確な閉形式式の導出がある。

• $W_2^2$ 緩和: 解は、ベース予測と目標との間の重み付き補間を含む。最適輸送計画は特定の費用関数 $C_{\lambda, c_2}$ によって特徴づけられ、予測マップ $T^\pm$ は、局所密度比で重み付けされた入力の線形結合となる。
• TV 緩和: 解はハードスレッショルディングの挙動を示す。2 つの予測を統合するコストが閾値 $\lambda$ 未満であれば、それらは重み付き重心に統合される。それ以外の場合は変更されない。これにより、区分的に定義されたマップが得られる。

4. アルゴリズム的実装

著者らは、以下の手順を実践的なアルゴリズム（アルゴリズム 1）として提案する：

1. ベース回帰器 $\hat{\eta}$ と事後確率を推定し、$\hat{\Delta}$ を計算する。
2. 訓練データから経験的 2 次元測度を構築する。
3. 導出された閉形式の費用行列を用いて、離散 OT 問題を解く。
4. **重心射影（barycentric projection）**を使用して、訓練セットの疑似ラベルを生成する。
5. 疑似ラベル上で連続回帰器（例：ランダムフォレスト）を適合させ、サンプル外推論を可能にする。

主要な貢献

1. 統合フレームワーク: 認識および非認識の緩和された公平回帰を統合し、$W_2^2$ と TV の両方のペナルティを許容する、一般的なペナルティ付き OT 目的関数。
2. 閉形式特徴づけ: 緩和された非認識公平性に対する、最初の正確な連続幾何学的帰着。本論文は、先行研究（例：FairReg）のグリッドベース近似を超え、最適予測マップの明示的な式を提供する。
3. 哲学的相違: 本論文は、ペナルティの選択が根本的に異なる公平性の哲学を反映することを明らかにする：
   • $W_2^2$ は、すべての個人をわずかに公平な中心へシフトさせる**滑らかで人口全体にわたる妥協（平等主義的見解）**を誘発する。
   • TV は、「手頃な」場合にのみ完全に統合し、極端な予測は変更したままにする**個人のサブセットに対する厳密な同等性（十分主義的見解）**を強制する。
4. 効率的アルゴリズム: 確率的勾配降下を回避する、決定論的で計算効率の高い事後処理アルゴリズム。

実験結果

このフレームワークは、合成データと実世界のベンチマーク（法科大学院入試、コミュニティと犯罪、成人国勢調査収入）で評価された。

• 性能: 提案された「OT 非認識」手法は、すべての公平性指標（$W_2$、TV、コルモゴロフ・スミルノフ距離）において、最先端のベースラインFairReg（Taturyan et al., 2024）と一貫して同等かそれ以上の性能を発揮し、かつ競争力のある平均二乗誤差（MSE）を維持する。
• 代理手法との比較: 代理分類器を通じて $S$ を推定し、認識 OT マッピングを適用する単純なアプローチ（プラグイン推定量）は、分類エラーにより公平性を達成できないことが多く、著しく劣る。提案された 2 次元フレームワークは、この不確実性を効果的に吸収する。
• 効率性: OT 非認識手法は、反復的な確率的最適化ではなく正確な離散 OT ソルバーに依存するため、FairReg よりも著しく高速である（例：コミュニティデータセットで約 26 倍の高速化）。
• 頑健性: 本手法は、異なるベース推定量（線形、ランダムフォレスト、勾配ブースティング）に対して頑健であることを示した。

意義と主張

本論文は、非認識設定における緩和された公平回帰のための理論的根拠に基づいた連続幾何学的解を提供することで、文献における重要なギャップを埋めると主張している。

• 理論的厳密性: 離散化に依存する先行手法とは異なり、この研究は正確な閉形式帰着を提供し、公平性制約の幾何学的性質を明確にする。
• 実用性: 導出されたアルゴリズムは実装が容易で計算効率が良く、モデルがブラックボックスであり、推論時に敏感属性が欠落しているような実世界での展開に適している。
• 哲学的洞察: $W_2$ と TV ペナルティを対比させることで、この研究は「緩和された公平性」が単一概念ではなく、実務家が選択する特定のトレードオフ哲学（グローバルな平滑化対ローカルな厳密性）に依存することを浮き彫りにする。

著者らは、バイナリ敏感属性および特定のペナルティタイプ（$W_2^2$ と TV）への制限、および性能がベース推定量 $\hat{\eta}$ と $\hat{\Delta}$ の品質に依存する点などの限界を指摘している。しかし、既存の最先端手法と比較して、精度と公平性のトレードオフに対する優れたベースラインを提供すると主張している。