Mitigating the Multiplicity Burden: The Role of Calibration in Reducing Predictive Multiplicity of Classifiers

この論文は、クレジットリスク予測における予測多重性の負担を軽減するため、特にプラットスケーリングやアイソトニック回帰などの事後校正手法が、ラシュモネ集合内のモデル間不一致を低減し手続き的公平性を支援し得ることを示しています。

要約

🏠 論文の核心：「AI の判断は、誰が選ぶかで変わる？」

1. 問題：「ラシュモンの効果」という名の「運の差」

この論文では、**「ラシュモンの効果（Rashomon effect）」という現象に注目しています。
これは、「同じデータを見て、同じくらい上手に正解を導き出せる AI モデルが、実は何十種類も存在する」**という状態を指します。

• 例え話：
  Imagine 100 人の天才的な料理人がいます。彼らは全員、同じ材料（データ）を使って、同じくらい美味しい料理（正解）を作ることができます。しかし、「トマトを切るタイミング」や「スパイスの量」が微妙に違うため、100 人の料理人が同じ客（申請者）に同じメニューを頼んでも、**「味付けが少し違う」**という結果になります。

  銀行のローン審査で言えば、「同じ条件の A さん」に対して、100 人の AI 料理人のうち 1 人を選んだら「OK」、別の 1 人を選んだら「NG」という**「運の差（アルゴリズムの恣意性）」が生まれてしまうのです。これを論文では「予測の多重性（Predictive Multiplicity）」**と呼びます。

2. 発見：「マイノリティ」ほど「運の差」を被っている

研究者は 9 つの信用リスク（ローン審査など）のデータを使って実験しました。すると、驚くべき事実が分かりました。

• 多数派（メインストリーム）： 多くの人が属するグループは、どの AI モデルを選んでも「OK」か「NG」の判断がほぼ一致していました。

• 少数派（マイノリティ）： 少数のグループ（例えば、特定の職業や属性を持つ人）は、**「どの AI モデルを選ぶかで、結果がコロコロ変わる」**という状態にありました。

• 例え話：
  多数派の人は「安定した料理人」に当たることが多く、どんな料理人が担当しても「美味しい（OK）」と判断されます。
  しかし、少数派の人は**「料理の好みが分かれる料理人」**に当たってしまう確率が高く、担当する料理人によって「美味しい（OK）」になったり「まずい（NG）」になったりと、自分の人生の行方が「どの AI が担当するか」という偶然に左右されてしまうのです。

  さらに、AI が「自信がない（確信度が低い）」と判断する領域ほど、この「結果がバラバラになる」現象が起きやすいことも分かりました。

3. 解決策：「調整（キャリブレーション）」で合意形成

では、どうすればこの「運の差」を減らせるのでしょうか？論文は**「キャリブレーション（調整）」**という技術が鍵だと提案しています。

• キャリブレーションとは？
  AI が「80% の確率で OK」と言ったとき、それが本当に 80% の確率なのか、それとも AI が「自信過剰」で言っているだけなのかを校正（調整）する作業です。

• 例え話：
  100 人の料理人が「この料理は 8 割美味しい」と言っていたとします。しかし、実際には 6 割しか美味しくない場合、彼らは「自信過剰」です。
  キャリブレーションは、彼らに「君たちの評価を少し冷静に直して、本当の美味しさに合わせなさい」と指導する役割を果たします。

  論文の実験では、**「プラットスケーリング（Platt Scaling）」や「アイソトニック回帰（Isotonic Regression）」という 2 つの調整テクニックを使うと、100 人の料理人（AI モデル）の意見が「おおよそ同じ方向に収束」**することが分かりました。

  • 効果： 調整を施すことで、少数派の人々が「担当する料理人によって結果が変わる」という不安定さを大幅に減らすことができました。つまり、**「AI の判断が、誰が担当しても一貫したものになる」**のです。

📝 まとめ：何が重要なのか？

1. AI は「完璧な一人」ではなく、「複数の候補」がある： 同じ性能の AI が何種類も存在し、それぞれが異なる判断を下す可能性があります。
2. 弱い立場の人が一番損をしている： 少数派の人は、この「どの AI が担当するか」という偶然によって、最も不公平な扱いを受けやすいことが分かりました。
3. 「調整」が公平性を守る： 単に「正解率が高い」だけでなく、AI の出力を「現実的に調整（キャリブレーション）」することで、AI 同士の意見の相違を減らし、**「誰が担当しても同じような公平な判断」**が下せるようになります。

結論：
AI を使うとき、単に「精度が高いから OK」とするのではなく、**「その判断が、担当する AI モデルによって大きく揺らがないか（安定しているか）」をチェックし、必要に応じて「調整（キャリブレーション）」**を行うことが、公平で信頼できる社会を作るための重要なステップだ、というのがこの論文のメッセージです。

技術概要

論文要約：分類器の予測多重性を軽減するための較正の役割

「Multiplicty Burden（多重性の負担）の軽減：分類器の予測多重性を削減するにおける較正の役割」

この論文は、機械学習モデルが高リスクな意思決定（特に信用リスク評価）において展開される際、確率的な信頼性と予測の安定性の両方を確保する重要性に焦点を当てています。著者は、**分類較正（Classification Calibration）と予測多重性（Predictive Multiplicity）**の相互作用を調査し、事後較正（Post-hoc Calibration）がアルゴリズム的な恣意性をどのように軽減できるかを検証しています。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細にまとめます。

---

1. 問題定義 (Problem)

• 予測多重性とラシュモーン効果:
  近年の研究では、同じデータに対してほぼ同等の予測性能を持つ複数のモデルが存在する「ラシュモーン効果（Rashomon effect）」が指摘されています。これにより、同じ個人（例えば、同じ信用申請者）に対して、同等に有効な異なるモデルが矛盾する結論（承認/拒否など）を導き出す「予測多重性」が発生します。これはアルゴリズム的な意思決定における恣意性（Arbitrariness）や不安定性の根源となります。
• 較正の不足:
  多くの現代の分類器（特に深層学習モデル）は、高い精度を達成する一方で、予測確率が実際の発生頻度を反映していない（過信傾向など）「較正不良」を起こしやすいことが知られています。
• 未解決の課題:
  従来の研究では、確率的な信頼性（較正）と予測の一意性（多重性）が別々の問題として扱われてきました。しかし、「較正が不十分な領域で予測多重性が集中しているのか」、そして**「事後較正がラシュモーンセット内のモデル間の合意を形成し、恣意的な決定を減らすことができるのか」**という点については、十分に解明されていませんでした。
• 社会的背景:
  EU の AI 法（AI Act）など、高リスク AI システムにおける個人の決定の透明性と安定性が規制される中、特定の個人に対する決定がデータの必然性なのか、単なるモデル選択の偶然（ラッキー・オブ・ザ・ドロー）に過ぎないかを判断する指標が必要です。

2. 手法 (Methodology)

著者は、9 つの多様な信用リスクベンチマークデータセットを用いた実証分析を行いました。

• ラシュモーンセットの構築:
  AutoML（h2o AutoML）を使用して、多様なアーキテクチャ（勾配ブースティング、ランダムフォレスト、DNN、GLM など）からモデルを生成し、AUC 値が最良モデルの 5% 以内（$\epsilon = 0.05$）のモデルを「ラシュモーンセット」として定義しました。
• 評価指標:
  予測多重性を定量化するために、以下の指標を使用しました。
  • Ambiguity（曖昧さ）: 特定の観測値に対して、セット内のモデルが異なるラベルを出力するかどうか（二値）。
  • Discrepancy（不一致）: データセット全体でのモデル間の最大不一致率。
  • Obscurity（不明瞭さ）: 本研究で主たる指標として使用。最良モデルに対する他のモデルの不一致率の平均値。個々の観測値レベルで、モデル選択によって結果がどの程度不安定かを連続的に評価します。
• 事後較正手法の適用:
  ラシュモーンセット内の各モデルに対して、以下の 3 つの事後較正手法を独立して適用し、較正前後の Obscurity と予測信頼度（Confidence）を比較しました。
  1. Platt Scaling: パラメトリックなロジスティック変換。
  2. Isotonic Regression: 非パラメトリックな単調増加関数の適合。
  3. Temperature Scaling: ロジットに対するスカラー温度パラメータの調整（主にニューラルネットワーク向け）。
• 統計的検証:
  多数派クラスと少数派クラス（高リスク層など）の間で、多重性や信頼度に系統的な偏りがあるかを検定（Wilcoxon 順位和検定、Dunn 検定、カイ二乗検定）により検証しました。

3. 主要な貢献 (Key Contributions)

1. 較正と多重性の相互作用の解明:
   予測多重性が「予測信頼度が低い領域（決定境界付近）」および「較正が不十分な領域」に集中していることを実証しました。
2. 少数派への不均衡な負担の発見:
   信用リスク評価において、少数派クラス（例：高リスク層や特定の属性を持つ層）が、多数派クラスに比べてはるかに高い「多重性の負担（Multiplicity Burden）」を負っていることを統計的に証明しました。彼らは、モデル選択によって結果が左右されやすい（高 Obscurity）かつ、モデルの予測信頼度が低い領域に集中しています。
3. 較正による合意形成メカニズムの提案:
   事後較正が、単なる確率値の補正を超えて、ラシュモーンセット内の多様なモデルを「合意（Consensus）」へと収束させる役割を果たすことを示しました。これにより、アルゴリズム的な恣意性が軽減されます。
4. 手法ごとの性能差の明確化:
   どの較正手法が最も効果的かを実証的に比較し、特にパラメトリックな手法（Platt Scaling）が少数派クラスにおいて、より頑健な信頼性向上と多重性削減をもたらす可能性を示唆しました。

4. 結果 (Results)

• 予測信頼度と多重性の逆相関:
  高い予測信頼度（> 0.90）を持つ領域ではモデル間の合意が高く（Obscurity が低い）、決定境界付近（中程度の信頼度）ではモデル間の不一致が急増しました。
• 少数派クラスへの偏り:
  • 少数派の観測値は、多数派に比べて有意に高い Obscurity スコアを示しました（$p < .001$）。
  • 少数派は、モデルが予測に自信を持っていない（低信頼度）領域に多く存在し、その結果、モデル選択による恣意的な決定に晒されやすくなっています。
• 較正手法の効果:
  • 全体的な効果: 3 つの較正手法すべてが、較正前のモデルに比べて Obscurity を有意に減少させました。
  • Platt Scaling と Isotonic Regression: 最も強力な効果を示し、多数派クラスではほぼ Obscurity をゼロに近づけ、少数派クラスでも平均 Obscurity を約 0.14 から 0.10 未満に削減しました。
  • 少数派への影響: 較正により、少数派クラスの予測信頼度が向上し、モデル間のばらつきが減少しました。特に Platt Scaling は、少数派の信頼度スコアを統計的に有意に改善し、他の手法（Isotonic Regression や Temperature Scaling は少数派の信頼度改善において有意差がなかった）よりも優れていることが示されました。
• 統計的有意性:
  Dunn 検定により、較正が多重性を軽減する効果は統計的に有意であることが確認されましたが、その効果の大きさはクラス（多数派 vs 少数派）によって異なり、少数派に対する効果はより複雑であることが示唆されました。

5. 意義と結論 (Significance and Conclusion)

• 手続的公平性への貢献:
  較正は、単に確率値を修正するだけでなく、異なるモデルが同じ個人に対して矛盾する結論を出さないようにする「合意形成層（Consensus-enforcing layer）」として機能します。これは、EU AI 法などで求められる「個人のレベルでの決定の安定性」を担保する実用的なアプローチとなります。
• 実務への示唆:
  信用リスクスコアリングなどの高リスク分野では、集計的な精度だけでなく、個々の予測の安定性（多重性の低さ）と確率的な信頼性を同時に評価する必要があります。特に、少数派グループに対しては、較正手法の選択（パラメトリック手法の採用など）が公平性の実現に重要である可能性があります。
• 今後の展望:
  本研究は二値分類に焦点を当てていましたが、多クラス分類や、多重性制約を直接モデル最適化に組み込む「多重性を意識した学習（Calibration-aware training）」への展開が期待されます。また、データ前処理（バランス調整など）と較正を組み合わせることで、さらに効果的な軽減が可能であると考えられます。

総括:
この論文は、機械学習モデルの「信頼性（較正）」と「安定性（多重性の低さ）」が密接に関連しており、事後較正を適切に適用することで、特に社会的に脆弱な少数派グループに対するアルゴリズム的な恣意性を軽減し、より公平で信頼性の高い意思決定システムを構築できることを実証的に示しました。