Counterfactually Fair Conformal Prediction

この論文は、不確実性下での公平な意思決定を可能にするため、対称化手法を用いて保護属性への介入を考慮した予測集合を生成し、反事実的公平性と marginal 被覆性を両立させる「反事実的公平な適合予測（CF-CP）」という新しい枠組みを提案し、その有効性を理論的および実証的に示しています。

要約

この論文は、**「AI の予測が、人々の属性（性別や人種など）によって不公平に偏らないようにする新しい方法」**について書かれています。

専門用語を避け、身近な例え話を使って解説します。

🎯 核心となる問題：AI は「確実な答え」だけでなく「不確実さ」も伝えるべき

まず、AI が医療や裁判、就職活動などで使われる場面を想像してください。
例えば、AI が「この患者は病気 A と B のどちらかかもしれません」と予測したとします。

• 従来の AI（点予測）： 「病気 A です！」と1 つの答えだけを出します。
• 新しい AI（集合予測）： 「病気 A か、あるいは B の可能性があります」と複数の候補を提示します。これにより、「どれくらい確実かわからない」という不確実さを表現できます。

しかし、ここに**「不公平」という問題が潜んでいます。
もし AI が「男性なら病気 A だけ」と言い、「女性なら病気 A と B の両方」と言ってしまうと、女性はより多くの検査を受けさせられ、負担が増えます。これは「性別によって、提示される『可能性の範囲』が不公平に違う」**状態です。

🛠️ 解決策：CF-CP（反事実的公平な予測）

この論文の著者たちは、**「CF-CP」**という新しい仕組みを開発しました。

1. 「もしも」の世界をシミュレートする（反事実）

この方法は、**「もしも、この人が性別（や人種）が違っていたら、AI はどう答える？」**という「もしも（反事実）」のシミュレーションを行います。

• 例え話：
  ある学生に「将来の成績」を予測させます。
  • 事実： その学生は「男子」です。AI は「成績は 80 点〜90 点の範囲でしょう」と言います。
  • もしも： その学生が「女子」だったとしたらどうなる？AI は「70 点〜85 点の範囲でしょう」と言います。
  • 問題点： 範囲（予測セット）が性別で変わってしまっています。これは不公平です。

2. 「鏡合わせ」で公平にする（対称化）

CF-CP は、この「もしも」の答えをすべて集めて、「鏡合わせ」のようにバランスを取ります。

• 仕組み：
  「男子だった場合の予測」と「女子だった場合の予測」を両方計算し、それらを**「平均」や「最大値」などで混ぜ合わせます。
  その結果、「性別がどう変わっても、提示される『成績の範囲』は同じになる」**ように調整します。

  • イメージ：
    2 人の異なる画家（男子用と女子用）に絵を描かせ、その 2 枚の絵を**「重ね合わせ」**て、どちらの性別でも同じように見える「1 枚の完成された絵（予測セット）」を作ります。

✨ この方法のすごいところ

1. AI を作り直す必要がない（トレーニング不要）：
   既存の AI を捨てて、公平な AI をゼロから作る必要はありません。すでに出来上がった AI に、この「鏡合わせの調整」を後から施すだけで済みます。まるで、既存の車を改造して、どんな道でも公平に走れるようにする「サスペンション」を後付けする感じです。

2. 精度は落ちない：
   公平にするために、AI の予測精度を犠牲にする必要がありません。むしろ、不確実さを正しく表現しながら公平を実現します。

3. 「可能性の範囲」が小さくて済む：
   以前の方法だと、「公平にするために」と、不必要に広い範囲（「1 点から 100 点まで全てあり得る」など）を提示してしまいがちでした。しかし、CF-CP は**「必要な範囲だけ」**を提示し、無駄に広い範囲にしないため、実用的です。

📊 結果：実際に効果があったか？

著者たちは、合成データ（人工的に作ったデータ）と、実際のデータ（法科大学院の成績予測や、職業予測など）で実験しました。

• 結果： 従来の方法に比べ、性別や人種による「予測範囲の差」が劇的に減りました。
• 代償： 予測の範囲（セットの大きさ）が少し大きくなる程度で、大きな精度の低下はありませんでした。

🏁 まとめ

この論文は、**「AI に『もしも』の世界を考えさせ、その答えをバランスよく混ぜ合わせることで、性別や人種に関係なく、すべての人に『公平な可能性の提示』ができる」**という画期的な方法を提案しています。

一言で言うと：

「AI に『もしあなたが違う属性だったらどうなる？』と考えさせ、その答えを『平均化』して、誰に対しても同じ公平な『可能性の箱』を渡す技術」です。

これにより、医療や司法など、人生に大きな影響を与える AI の判断において、より公平で信頼性の高いシステムが作れるようになるでしょう。

技術概要

論文「Counterfactually Fair Conformal Prediction」の技術的サマリー

この論文は、不確実性下での公平な意思決定において重要な役割を果たす**予測セット（Prediction Sets）**に、**反事実的公平性（Counterfactual Fairness）の概念を拡張し、それを保証する新しい手法CF-CP（Counterfactually Fair Conformal Prediction）**を提案するものです。

以下に、問題設定、手法、主要な貢献、実験結果、および意義について詳細にまとめます。

1. 問題設定と背景

背景

機械学習モデルは医療や刑事司法など高リスクな分野で広く利用されていますが、これらのモデルにはバイアスが含まれるリスクがあります。従来の公平性手法は主に「点予測（Point Predictors）」に焦点を当てており、モデルの不確実性を考慮していません。一方、**共形予測（Conformal Prediction, CP）**は分布仮定なしに有限サンプルで有効な予測セットを提供しますが、既存の CP 手法はグループ間の公平性（Group Fairness）に限定されており、**反事実的公平性（個々の個人が保護属性を変えた場合に予測結果がどうなるか）**を保証するものではありません。

課題

• 既存の公平性予測セットの限界: 従来の公平な予測セット手法は「グループ公平性（例：デモグラフィック・パラリティ）」に依存しており、特定の個人レベルでのバイアス（反事実的不公平）を解決できない。
• 反事実的公平性の欠如: 保護属性（性別、人種など）を仮想的に変更した際（反事実的介入）、同じ個人に対して異なる予測セットが生成される可能性がある。これは、医療など「個人の推奨治療が保護属性に系統的に影響されない」ことが求められる分野では望ましくない。
• 既存手法のトレードオフ: 反事実的公平な点予測器を再学習させる手法は存在するが、予測精度の低下や再学習の必要性、保護属性の事前分布への依存などの課題がある。

2. 提案手法：CF-CP (Counterfactually Fair Conformal Prediction)

CF-CP は、事前学習済み（反事実的公平でない可能性のある）予測器を再利用し、追加の学習なしに反事実的公平な予測セットを生成するポストトレーニング手法です。

核心的なアイデア：スコアの対称化（Score Symmetrization）

標準的な共形予測では、適合度スコア（Conformity Score）$s(x, a, y)$ を計算し、閾値を超えないラベルを予測セットに含めます。CF-CP はこのスコアを以下のように修正します。

1. 反事実的介入の計算: 対象となる個人 $(x, a)$ に対して、保護属性 $A$ をすべての可能な値 $a' \in \mathcal{A}$ に変更した際の反事実的特徴 $x_{A \leftarrow a'}$ を推定します（構造的因果モデル SCM を仮定）。
2. スコアの対称化: 各介入 $a'$ に対する適合度スコア $s(x_{A \leftarrow a'}, a', y)$ を計算し、これらを対称な演算子（Aggregator）で集約します。
   $$s_{cf}(x, a, y) = \text{Agg} \{ s(x_{A \leftarrow a'}, a', y) : a' \in \mathcal{A} \}$$
   ここで、$\text{Agg}$ として平均（Mean）、最大値（Max）、最小値（Min）などが使用可能です。これにより、スコア自体が保護属性の値に依存しなくなる（不変になる）ようにします。
3. 予測セットの生成: 対称化されたスコア $s_{cf}$ を用いて、標準的なスプリット共形予測の手順（閾値の決定とセットの構築）を適用します。

理論的保証

• 反事実的不変性: 可逆な構造的因果モデル（SCM）と交換可能性の仮定の下で、対称化されたスコア $s_{cf}$ は反事実的介入に対して不変になります。したがって、生成される予測セットも反事実的介入に対して不変となり、セットレベルの反事実的公平性が保証されます。
• マージナルカバレッジ: 対称化されたスコアは依然として交換可能性を維持するため、標準的な共形予測と同様に、真のラベルが予測セットに含まれる確率が $1-\alpha$ 以上であるというマージナルカバレッジ保証も維持されます。

3. 主要な貢献

1. 概念の拡張: 反事実的公平性の概念を点予測から**セット値予測（Prediction Sets）**へ拡張しました。
2. 新しいアルゴリズムの提案: 再学習を必要とせず、保護属性の事前分布へのアクセスも不要な、ポストトレーニング型の共形予測手法（CF-CP）を提案しました。
3. 理論的証明: 可逆な SCM と交換可能性の仮定の下で、CF-CP がマージナルカバレッジとセットレベルの反事実的公平性の両方を保証することを証明しました。
4. 実証的評価: 合成データおよび実世界データ（法科大学院データ、Bios データセット）を用いた実験で、標準的な CP に比べて不公平性を大幅に削減しつつ、予測セットのサイズを最小限に抑えていることを示しました。

4. 実験結果

評価指標

• カバレッジ (Coverage): 真のラベルが予測セットに含まれる割合。
• 平均セットサイズ (Avg. Set Size): 予測セットの大きさ（小さければ効率的）。
• 反事実的セットの偏り (CSD, Counterfactual Set Disparity): 保護属性を変えた場合の予測セットの変化度（0 で公平）。

結果の要点

• 公平性と精度の両立: 標準的な CP（Split CP）はカバレッジを満たすが、CSD が非常に高い（不公平）。一方、CF-CP は CSD をほぼ 0 に近づけながら、ベースモデルの精度（MSE/Accuracy）を維持し、予測セットのサイズも反事実的公平な再学習手法（CFU, CFR, PCF）と同等かそれ以下に抑えています。
• 再学習不要: 既存の公平性手法（CFU, CFR, PCF）はモデルの再学習や保護属性の分布推定が必要ですが、CF-CP はそれらを不要とし、実用的です。
• ノイズへの頑健性: 反事実的推定にノイズが含まれる場合（現実的なシナリオ）でも、CF-CP は他の公平性手法と同程度の頑健性を示し、標準 CP よりも大幅に CSD を低減します。
• アグリゲータの選択: 平均（Mean）、最大（Max）、最小（Min）のいずれのアグリゲータでも効果的ですが、平均（Mean）が多くのケースで最も小さな平均セットサイズを実現しました。

5. 意義と結論

この研究は、高リスクな意思決定において、**「不確実性を考慮しつつ、個人の保護属性に依存しない公平な予測セット」**を提供する実用的な枠組みを確立しました。

• 実用性: 既存のモデルを再学習させることなく、事後処理として公平性を付与できるため、導入コストが低く、実社会での適用が容易です。
• 理論的厳密性: 因果推論の枠組みに基づき、数学的に公平性とカバレッジを保証しています。
• 将来の展望: 経路依存の反事実的公平性への拡張や、時変する共変量を持つ動的環境への適用が今後の課題として挙げられています。

総じて、CF-CP は、機械学習の公平性と不確実性定量化を統合する重要なステップであり、医療や司法などの分野における信頼性の高い AI 導入に寄与する可能性があります。