Not Just How Much, But Where: Decomposing Epistemic Uncertainty into Per-Class Contributions

本論文は、安全クリティカルな分類タスクにおいてモデルの無知がどのクラスに起因するかを特定できるよう、相互情報量をクラスごとの寄与に分解する新たな指標を提案し、選択的予測や分布外検出などのタスクで既存手法を上回る性能を実証するとともに、不確実性の測定方法そのものよりも、ネットワーク内での不確実性の伝播方法が重要であることを示しています。

要約

この論文は、「AI が『どれくらい』自信がないか」だけでなく、「どの部分で自信がないか」を詳しく見極める新しい方法を提案したものです。

安全が重要な分野（医療診断や自動運転など）では、AI が「自信がない」と言っても、それが「 harmless な間違い（ benign）」なのか、「命に関わる重大な間違い（ safety-critical）」なのかを見分けることが極めて重要です。

これまでの AI は、自信のなさを「1 つの数字（スカラー値）」だけで表していました。しかし、これでは「どこが危ないのか」がわかりません。この論文は、その「1 つの数字」を**「クラスごとの貢献度」というベクトル（リスト）に分解**する新しい指標「Ck」を考案しました。

以下に、難しい数式を使わずに、日常の例え話で解説します。

---

1. 従来の問題：「不安の総量」だけでは不十分

Imagine you are a doctor looking at a patient's report card.
（想像してください。あなたが医師で、患者のレポートカードを見ているとします。）

• 従来の AI（MI）：
  「この患者の病状について、私は**『不安度 30』**です」と言います。

  • 問題点： 「不安度 30」が、単なる風邪（ benign）なのか、心臓発作（ critical）なのか、それとも両方の区別がつきません。もし「心臓発作」のリスクを「風邪」と同じ「30」として扱ってしまえば、命取りになるかもしれません。

• この論文の提案（Ck）：
  「不安度 30」を内訳に分解します。

  • 「風邪の疑い」への不安：2
  • 「心臓発作」への不安：28
  • 結果： 「あ、心臓発作のリスクが圧倒的に高い！だから即座に専門医に回す必要がある！」と判断できます。

2. 新しい指標「Ck」の仕組み：「小さな声」を大きく聞く

この新しい指標のすごいところは、「確率が低い（珍しい）病気」に対する不安を、正当に評価してくれる点です。

• 従来の方法（分散だけを使う）の弱点：
  確率が低い病気（例：ある病気の発生率が 1%）について、AI が「100% 自信がない」と言っても、数学的な計算上、その「不安の値」は小さく抑えられてしまいます。

  • 例え： 小さな子供が「助けて！」と叫んでも、その声の音量（確率）が小さいため、大人（AI）は「あ、小さな声だから大したことない」と聞き流してしまうようなものです。これを**「境界抑制（Boundary Suppression）」**と呼びます。

• この論文の解決策（1/μk による正規化）：
  論文では、確率が低いクラス（珍しい病気）ほど、その「不安の値」を大きく補正する計算式を使います。

  • 例え： 小さな子供が「助けて！」と叫んだら、「声の大きさは小さいけど、この子は普段は元気だから、この叫び声は重大なサインだ！」と、その声を増幅して聞き取るような仕組みです。
  • これにより、稀な病気（Grade 3 の網膜症など）に対する AI の「本当の困惑」を、よくある病気と同じ土俵で評価できるようになります。

3. 具体的な実験結果：糖尿病網膜症の診断

論文では、この方法を「糖尿病網膜症（目の病気）」の診断に適用しました。

• 設定：
  • 安全なクラス： 病気なし、軽度（放っておいても大丈夫）。
  • 危険なクラス： 中度、重度（すぐに治療が必要）。
• 結果：
  • 従来の「不安度 1 つの数字」を使うと、危険な病気を「安全」と見間違えてしまうミス（見逃し）が多発しました。
  • しかし、この新しい「クラスごとの不安」を使うと、「危険な病気」に対する見逃しを 34.7% 減らすことができました。
  • 重要な発見： AI が「重度（Grade 3）」を「軽度（Grade 2）」と間違える場合と、「重度」を「病気なし（Grade 0）」と間違える場合では、「不安の総量」は同じでしたが、「どの病気と混同しているか」の顔ぶれ（シグナル）が全く違いました。
    • 従来の方法なら「どちらも同じ不安度だから同じ対応」ですが、新しい方法なら「重度→軽度」なら「中度の区別を強化すればいい」「重度→病気なし」なら「健康と重症の区別を強化すればいい」と、具体的な対策が立てられるようになります。

4. 意外な発見：「計算の精度」が「指標」より重要

論文のもう一つの重要なメッセージは、「どんな指標を使うか」よりも、「AI がどうやって学習しているか」の方が重要だということです。

• 例え：
  • 良い学習（End-to-End）： 最初から最後まで AI が自分で勉強した場合、新しい指標は非常に正確に働きます。
  • 悪い学習（Transfer Learning）： すでに他の分野で勉強した AI（予備知識）を、新しい分野で少しだけ修正しただけの場合、どんなに素晴らしい指標を使っても、AI の「不安の感じ方」自体が歪んでしまい、指標は機能しなくなります。
  • 結論： 指標（ものさし）を工夫するだけでなく、AI の「学習の質（ものさしを正しく使える土台）」を高めることが、最も重要だという教訓です。

まとめ

この論文は、AI の「自信のなさ」を、「全体像」だけでなく「内訳」で見るように提案しました。

• 従来の AI： 「不安です！」（どこが？わからない）
• 新しい AI： 「風邪は少し不安ですが、心臓発作のリスクが非常に高いので、優先的に確認してください！」

これにより、医療や自動運転など、**「失敗が許されない場面」**で、AI が人間に「どこを注意すべきか」をより正確に伝えられるようになります。また、稀なケース（珍しい病気）を見逃さないよう、その声を大きく拾う計算式も工夫されています。

これは、AI の「ブラックボックス」な判断を、人間が理解しやすく、安全に活用するための重要な一歩です。

技術概要

論文要約：「Not Just How Much, But Where: Decomposing Epistemic Uncertainty into Per-Class Contributions」

この論文は、安全クリティカルな分類タスクにおいて、モデルの「無知（Epistemic Uncertainty）」を単一のスカラー値としてではなく、クラスごとのベクトルとして分解・定量化する新しい手法を提案しています。

1. 背景と問題設定

深層学習を医療診断や自動運転などの安全クリティカルな分野に適用する際、失敗のコストは非対称です。例えば、糖尿病網膜症の重症例を見逃すこと（偽陰性）は、良性の画像を誤って重症と判断すること（偽陽性）よりもはるかに深刻な結果を招きます。

従来のベイズ深層学習では、エピステミック不確実性（モデルの無知）を**相互情報量（Mutual Information: MI）**という単一のスカラー値で要約してきました。しかし、MI には以下の重大な欠点があります。

• クラス識別性の欠如: MI が高いという事実は「モデルが不確実である」ことを示すだけで、どのクラスに対して不確実なのか（良性クラス間での混乱か、それとも安全なクラスと危険なクラスの間での混乱か）を区別できません。
• 境界抑制（Boundary Suppression）の問題: 既存のクラス別分散（Variance）ベースの指標は、確率の単純な分散（$\text{Var}[p_k]$）を使用します。しかし、確率 $p_k$ は $[0, 1]$ に制限されているため、平均確率 $\mu_k$ が 0 に近い（稀なクラス）場合、分散は強制的に 0 に近づいてしまいます。これにより、稀だが重要なクラス（例：重症疾患）に対するモデルの無知が過小評価されてしまいます。

2. 提案手法：クラス別エピステミック不確実性ベクトル $C_k(x)$

著者らは、エントロピーの 2 次テイラー展開を用いて、MI をクラスごとの和として近似する新しい指標 $C_k(x)$ を導出しました。

2.1 定式化

入力 $x$ に対して、$S$ 回の確率的フォワードパス（MC ドロップアウトやアンサンブルなど）から得られる確率分布の平均 $\mu_k$ と分散 $\text{Var}[p_k]$ を用いて、クラス $k$ に対するエピステミック不確実性 $C_k(x)$ を以下のように定義します。

$$C_k(x) = \frac{1}{2} \frac{\text{Var}[p_k](x)}{\mu_k(x)}$$

ここで、$\mu_k = E[p_k]$、$\text{Var}[p_k] = \text{Var}(p_k)$ です。

2.2 理論的根拠と特徴

• テイラー展開からの導出: エントロピー $H(p)$ を平均 $\mu$ 周りで 2 次まで展開すると、MI は $\sum_k \frac{\text{Var}[p_k]}{2\mu_k}$ で近似されることが示されます。これにより、$\sum_k C_k(x) \approx I(y; \omega | x)$ となり、各 $C_k$ が全体の不確実性の寄与分を意味します。
• 境界抑制の解消: 分母に $\mu_k$ を持つことで、稀なクラス（$\mu_k \to 0$）における分散の過小評価を補正します。$\mu_k$ が小さい場合、エントロピーの曲率（Hessian）が大きくなるため、同じ分散量でもより大きな情報理論的ウェイトを持つことを反映しています。
• 歪度診断（Skewness Diagnostic）: 2 次近似が破綻する領域（特に稀なクラスで $\mu_k$ が極端に小さい場合）を特定するために、3 次項に基づく歪度指標 $\rho_k$ を提案しています。$\rho_k$ が大きい場合は近似が信頼できないことを示し、代替指標（CBEC）の使用を促します。

3. 主要な貢献

1. 理論的導出と公理的性質の分析: MI のテイラー展開から $C_k$ を導出し、既存の不確実性測度（Wimmer et al., 2023）の公理との関係を分析しました。特に、境界抑制を回避するために公理 A5（位置シフト不変性）を意図的に破棄するトレードオフを明確にしました。
2. 3 つのタスクでの検証:
   • 糖尿病網膜症の選択的予測: 重症クラス（C）の $C_k$ を利用して、安全なクラスを優先的に除外する「遅延（Deferral）」ポリシーを構築しました。
   • 分布外（OoD）検出: クラスごとの分解により、分布シフトが特定のクラスに偏っているか、均一かを見極めることを可能にしました。
   • ラベルノイズと学習レジームの影響: エピステミック不確実性とアレイトリアック不確実性（データノイズ）の分離（Disentanglement）について、エンドツーエンド学習と転移学習の違いを分析しました。

4. 実験結果

4.1 糖尿病網膜症（選択的予測）

• 結果: 提案手法の $C_{crit\_max}$（重症クラスの最大 $C_k$）は、従来の MI や分散ベースの手法と比較して、選択的リスク（AUSC）を 34.7% 削減しました。
• 意義: 単なるスカラー値の MI では見逃されていた「重症例を見逃す（Grade 3 を Grade 0 と誤認する）」ような致命的なエラーと、「重症度を過小評価する（Grade 3 を Grade 2 と誤認する）」エラーを、$C_k$ のパターン（それぞれ $C_2$ と $C_0$ に集中）で明確に区別できました。

4.2 分布外（OoD）検出

• 結果: FashionMNIST や MIMIC-III などのベンチマークにおいて、$\sum C_k$ は MI や未正規化分散よりも高い AUROC を達成しました。
• 発見: OoD データは ID データよりも歪度（$\rho_k$）が高く、2 次近似からの乖離を示す傾向がありました。また、MIMIC-III では分布シフトが「生存クラス」と「死亡クラス」で非対称に現れることが $C_k$ の分解によって可視化されました。

4.3 データ品質と学習レジームの影響

• 重要な発見: 不確実性の分解精度は、指標そのものよりも、事後分布の近似品質（学習レジーム）に強く依存することが判明しました。
  • エンドツーエンド学習: 低ランク変分推論を用いた場合、$C_k$ と MI はほぼ完全に分離（Disentangled）し、ラベルノイズに対して頑健でした。
  • 転移学習（Frozen Backbone）: 事前学習済みモデルの頭部のみをベイズ化する手法では、不確実性の分離が著しく劣化し、$C_k$ の近似精度も低下しました。
  • MC ドロップアウト: 稀なクラスにおいて事後分布の歪度が大きくなり、$C_k$ の近似が不安定になる傾向があり、その場合は相関ゲートを用いた代替指標 $CBEC$ が有効でした。

5. 結論と意義

この論文は、不確実性の「量（How much）」だけでなく、「場所（Where）」を特定することの重要性を浮き彫りにしました。

• 安全クリティカルな意思決定: 単一のスコアでは見えない「どのクラスが混乱しているか」を特定できるため、医療診断などでは、危険なクラスに対する不確実性を優先的に検知し、人間のレビューに委ねる戦略が最適化できます。
• モデル評価の指針: 不確実性測定の有効性は、単にアルゴリズムの選択だけでなく、モデルがどのように学習され、事後分布がどのように近似されているかに大きく依存することを示しました。特に転移学習や事後ベイズ的手法（Post-hoc Bayesian methods）において、不確実性の出力が信頼できるかどうかを慎重に検証する必要があることを警告しています。
• 実用性: 計算コストは既存の MC サンプリングパイプラインにほぼ追加せず、既存のベイズ深層学習フレームワークに容易に統合可能です。

総じて、この研究は安全クリティカルな AI システムにおいて、不確実性をより構造的に理解し、リスク管理に活用するための重要な基盤を提供しています。