Tuning Derivatives for Causal Fairness in Machine Learning

技術的概要：機械学習における因果的公平性のための導関数チューニング

問題定義
人工知能システムは、人種、性別、年齢などの保護属性に関する社会的バイアスを頻繁に継承する。統計的公平性（SP）のような古典的な公平性指標は、予測が保護属性から独立であることを要求するが、これはしばしば過度に制限的である。特に、保護属性が「事業上の必要性」や「解決変数」（例えば、再犯リスク評価における前科）に影響を与え、予測に正当に必要とされる場合、この傾向は顕著である。最近の因果的定式化は、「許可されていない経路」（保護属性の直接効果）と「許可された経路」（事業上の必要性を介した間接効果）を区別することでこれに対処し、正当な影響を保持するために予測的公平性（PP）をしばしば組み込んでいる。しかし、既存の因果的対比に依存する経路ベースの定義は、主にカテゴリカルな属性向けに設計されている。連続的な保護属性（例えば、年齢）に適用される場合、無限の点での対比評価が必要となるため、これらの方法は非現実的となる。

手法
著者らは、連続的な保護属性に特化した構造的因果モデル（SCM）内での因果的公平性の枠組みを提案する。

1. 導関数ベースの定義:

   • 導関数における統計的公平性（SPD）: 対比を使用する代わりに、著者らは経路$\pi$に沿ったSPを、その経路に沿った構造的メカニズムの偏導関数の積がゼロであることとして定義する。これにより、予測器が許可されていない経路に沿って保護属性に対して一定であることが保証される。
   • 導関数における予測的公平性（PPD）: PPは、許可された経路に沿った変数に対する予測器の偏導関数を、データ生成過程（DGP）における真の目的変数の偏導関数と等置することで定義される。これにより、予測器が事業上の必要性の正当な影響を複製することが保証される。

2. 存在条件:
   本論文は、SPDとPPDを同時に満たす予測器が存在するための必要十分条件を確立する。直接の許可されていない経路（$X \to Y$）と許可された経路（$W \to Y$）に対して、公平な予測器が存在するのは、期待される結果の混合偏導関数がゼロである場合に限られる：$\frac{\partial^2}{\partial w \partial x} E[Y | P_A^Y = p] = 0$。この条件が満たされない場合、SPDとPPDの間のトレードオフは避けられない。

3. 公平チューニングアルゴリズム:
   このような予測器を構築するために、著者らはニューラルネットワーク向けの「公平チューニング」アルゴリズムを提案する：

   • ステップ 1: 予測損失（例えば、MSE）を最小化するように制約のない予測器（$\hat{Y}_{\theta_U}$）を適合させる。
   • ステップ 2: 制約のないパラメータを用いて公平な予測器を初期化する。
   • ステップ 3: 以下の構成要素からなる複合損失関数（$L_{FT}$）を最適化する：
     • 予測損失（チューニングされた予測器と制約のない予測器間の MSE）。
     • SPD 損失（許可されていない経路に沿った偏導関数の L1 ノルム）。
     • PPD 損失（許可された経路に沿った予測器の導関数と制約のない予測器の導関数の差の L1 ノルム）。
   • ハイパーパラメータ $\lambda_{SPD}$ と $\lambda_{PPD}$ は、互換性条件が満たされない場合に、ユーザーが一方の公平性基準を他方よりも優先することを可能にする。

主要な貢献

• 定式化: 本論文は、経路固有の偏導関数を用いて SP と PP を定式化し、無限の対比を評価する計算上の負担なしに、連続的な保護属性に因果的公平性の定義を適用可能にする。
• 理論的特徴付け: これらの導関数ベースの定義が以前の対比ベースの因果的定義と一致する条件を導き出し、公平な予測器の同時存在のための互換性基準（定理 1）を確立する。
• アルゴリズム的解決策: 互換性基準が満たされるときに公平な予測器を構築し、満たされない場合には柔軟なトレードオフメカニズムを提供する実用的なチューニングアルゴリズムを導入する。
• 実証的検証: この手法は、シミュレーションデータ（線形および乗法的 DGP）および実世界の COMPAS データセットで評価され、SP のみに焦点を当てた手法（SPT）および周辺化スキームとの性能を比較した。

結果

• シミュレーションデータ: SPD と PPD が互換性のある線形設定において、公平チューニング（FT）アルゴリズムは両方の損失を同時に最小化することに成功した。互換性のない非線形（乗法的）設定において、アルゴリズムは期待されるトレードオフを示す：一方の指標への制約を強化すると他方が劣化する。FT 手法は、特に PPD を考慮する際に、公平性制約を遵守しつつ予測性能を維持する点で、周辺化および SPT のみのアプローチを上回る。
• COMPAS データセット: 再犯予測に適用された際、FT アルゴリズム（特にバランスの取れた重みを使用する場合）は、SPT および Marginalize 手法と比較して、SPD と PPD の間で優れた妥協点を実現した。すべての制約付きモデルは、制約のないベースラインと比較して予測性能が低下したが、FT 10 は PPD 損失を大幅に削減しつつ、より高い精度と F1 スコアを維持した。
• 導関数対対比: COMPAS データセットの二値特徴に適用された場合、導関数ベースの損失（SPD/PPD）を最小化することは、一般的に対比ベースの損失（CSP/CPP）を削減したが、いくつかの高制約シナリオでは不一致が観察された。

意義と主張
本論文は、その導関数ベースの枠組みが、既存の対比ベースの手法が残したギャップである連続領域における因果的公平性に対する実用的かつ理論的に裏付けられた解決策を提供すると主張する。偏導関数を通じて統計的公平性と予測的公平性の間のトレードオフを明示的にモデル化することで、実務家は差別を緩和しつつ事業上の必要性を尊重する予測器を構築できると論じている。著者らは、この手法が DGP の構造的方程式に関する仮定を必要とせず、因果図のみを必要とするため、実世界のシナリオに適用可能であることを強調している。この研究は、導関数ベースの公平性が二値属性に対して対比ベースの公平性と常に完全に一致するわけではないが、連続属性に対しては堅牢で柔軟なアプローチを提供し、統計的独立性と予測有用性の間の緊張を処理するための実現可能な道筋を提供すると結論付けている。