Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review

技術要約：機械学習における個別的公平性と集団的公平性のトレードオフ

問題提起
アルゴリズムの公平性は、高リスクな意思決定システム（例：刑事司法、採用、ヘルスケア）において極めて重要な懸念事項となっている。既存の文献は、伝統的に、互いに相反することの多い2つの異なる公平性の概念、すなわち集団的公平性 (Group Fairness: GF) と 個別的公平性 (Individual Fairness: IF) に二分されてきた。

• 集団的公平性は、センシティブな属性によって定義されるデモグラフィックなサブグループ間における、結果やエラー率のパリティ（等価性）に焦も焦点を当てる（例：デモグラフィック・パリティ、等価機会）。
• 個別的公平性は、グループへの所属に関わらず、類似した個人に対する一貫した扱いを強調し、通常、リプシッツ連続性や類似度指標を通じて定式化される。

両者はともに公平な扱いを目指しているが、数学的に互いに両立しないことが多い。厳格な集団的パリティを強制することは、分布の不均衡を是正するために、類似した個人をグループのメンバーシップに基づいて異なって扱うことを必要とする場合があり、それによって個別的公平性を損なう。逆に、厳格な個別の整合性を強制することは、グループレベルの格差を維持、あるいは再現してしまう可能性がある。既存のサーベイは、主にこれらの概念を単独で扱っているか、あるいは（前処理・中処理・後処理といった）MLパイプラインの段階ごとに分類しているが、GFとIFの間のトレードオフを明示的に分析しているものは少ない。本論文は、これら競合する目的を統合的に管理する手法を体系的にレビューするという空白を埋めるものである。

手法
著者らは、GFとIFを統一されたフレームワーク内で明示的に統合している研究を特定するために、系統的な文献レビューを実施した。

• 検索戦略: Web of Science、IEEE、arXivに対して、個別的公平性に関連する用語（例：「一貫性」、「リプシッツ」）と集団的公平性に関連する用語（例：「デモグラフィック・パリティ」、「等価機会」）を組み合わせたブールクエリを実行した。
• フィルタリング基準: 両方の公平性の概念を、結合最適化、制約集合、または評価フレームワークとして同時に考慮している論文のみを選定した。動機付けとして両方の概念に言及しているものの、技術的な統合が行われていない論文は除外した。
• タクソノミー（分類学）の構築: 標準的なパイプライン段階による分類（前処理/中処理/後処理）にのみ依存するのではなく、著者らは公平性のメカニズムに基づいた詳細なタクソノミーを開発した。このアプローチは、特定のパイプラインの段階に関わらず、どのようにGFとIFのトレードオフを定式化し、管理するかによって手法をグループ化するものである。

主要な貢献とタクソノミー
本論文は、ハイブリッドな公平性アプローチを包括的にレビューし、それらを以下の3つの主要なメカニズム的ファミリーに整理している。

1. 表現またはデータ修正に基づく戦略:

   • データ変換 (Data Transformation): 局所的な近傍構造を維持しながら、センシティブなグループと結果の結合分布をバランスさせるために、入力データを修正する（例：ラベル補正、特徴量編集）。
   • 再重み付けおよびリサンプリング (Reweighting and Resampling): センシティブな属性と結果が独立となるターゲット分布に近似するために、インスタンス固有の重みを調整する。この際、格差への個別の寄与を評価するためにシャプレー値が用いられることもある。
   • 表現および埋め込み (Representation and Embedding): 個人を潜在空間へと写像し、類似した観測値をグループ化する。これは、クラスター内での区別不能性によってIFを強制すると同時に、表現の復元可能性やクラスター構成に対する制約を通じてGFを促進する。
   • 拡張および対照 (Augmentation and Contrastive): 予測における不変性や滑らかさを強制するために、合成された反事実的または対照的なサンプル（センシティブ属性を変化させたもの）を生成し、局所的な一貫性とグループ間の格差の両方に対処する。

2. 正則化または最適化目的関数に基づく戦略:

   • 正則化 (Regularization): グループおよび個別レベルの両方における不公平な挙動にペナルティを与える項（例：$\lambda_{GF}\Phi_{group} + \lambda_{IF}\Psi_{individual}$）を損失関数に加える。これにより、精度、GF、およびIFの間のパレート・フロンティアをナビゲートすることが可能になる。
   • メトリックベースのアプローチ (Metric-based Approaches): 事前に定義された指標によって類似しているとされる個人のペア間の予測の不一致にペナルティを課すことで、幾何学的構造を損失関数に直接組み込む。これはリプシッツ連続性を強制し、特定の条件下では間接的に集団的公平性を満たすことができる。
   • 敵対的学習 (Adversarial Learning): 予測器が予測誤差を最小化するように訓練される一方で、敵対者がセンシティブな属性を復元しようと試みる。拡張版では、グループの不変性に加えて局所的な一貫性を確保するために、ペアワイズの類似性ペナルティや反事実的損失が組み込まれる。

3. 局所的または事後的な調整に基づく戦略:

   • 閾値設定 (Thresholding): 等価機会などの基準に適合するように、グループ固有の決定閾値を導入する。拡張版では、IFに部分的に適合させるために類似度指標が組み込まれる。
   • リジェクトオプション (Reject-option): 決定境界付近の「曖昧領域」において動作し、格差を軽減し、局所的な不整合を同時に修正するために予測を選択的に修正する。

結果と経験的観察
本レビューは、選択された文献を実装とベンチマークングに関して分析した。

• パイプラインの分布: 中処理（in-processing）の手法が最も一般的であり（60%）、次いで前処理（25%）、後処理（19%）の順であった。
• 支配的なメカニズム: 正則化が最も一般的なサブ・タクソノミーであり、次いでメトリックベースのアプローチ、表現学習が続く。
• ベンチマーキング: 非常に限定されたデータセット（Adult, COMPAS, German Credit）への強い依存が見られ、これらは研究の約20%に登場する。これは、コンピュータビジョンやNLPのような高次元ドメインへの汎用性に懸念を抱かせるものである。
• 計算コスト: 計算効率はほとんど主要な焦点となっていない。一部の手法（数時間のトレーニングや反復的な再学習を必要とするものなど）が計算負荷が高いことは指摘されているが、公平性の目的、精度、および計算コストの間のトレードオフを体系的に分析しているものはほとんどない。
• 再現性: レビューされた手法のわずか56%しか公開されているコードを提供しておらず、独立した検証や実用的な採用を制限している。

意義と主張
本論文は、定義、アルゴリズム、および評価設定を横断して、GFとIFのトレードオフを管理する手法を明示的に分析した最初の系統的レビューであると主張している。その意義は以下の点にある。

1. ハイブリッド・アプローチの統合: GFとIFを個別に研究するのではなく、それらがどのように共同で運用可能かを明らかにしている。
2. トレードオフの明確化: これらの概念間の衝突は単なる技術的な副産物ではなく、より深い規範的な緊張を反映していること、そして既存の手法がその間のパレート・フロンティアをナビゲートするための異なる方法を提供していることを強調している。
3. ギャップの特定: 著者らは、この分野が成熟の初期段階にあることを控えめに述べている。彼らは、計算コストの体系的な評価の欠如、多様なドメインにおける研究の不足、現実世界の制約下でのパラメータ選択に関するガイダンスの不在、および学習中の完全にラベル付けされたセンシティブ属性の強力な仮定といった、決定的なギャップを特定している。
4. 今後の方向性: 本論文は、今後の研究が、より柔軟なフレームワーク（硬直したパリティを超えたもの）、因果的および法的視点との統合、および現実的な制約（例：検閲されたデータ、交差性）の下で動作する手法に焦点を当てるべきであることを示唆している。

著者らは、GFとIFはしばしば数学的に両立しないものの、これらのトレードオフを明示的に管理する手法は、より責任ある透明性の高いアルゴリズムの意思決定に向けた重要なステップであり、個別および集団の両レベルにおいて信頼性を提供するアルゴリズムを設計するための基礎となるものであると結論付けている。