技術要約：医療画像分類器の局所的感度分析のための入力依存型フィッシャー情報量

問題提起

深層ニューラルネットワークは医療画像分類において高い性能を達成しているが、しばしば「ブラックボックス」として機能する。Grad-CAMやIntegrated Gradientsなどの事後的な解釈手法（post-hoc interpretation methods）は、モデルの出力に関連する領域を可視化するために広く用いられているが、これらはアーキテクチャや実装によって異なるヒューリスティックな量に依存していることが多い。決定的なことに、これらのアトリビューション・マップは、入力の摂動に対して分類器の予測分布がどのように応答するかについて、原理的な特徴付けを必ずしも提供するものではない。アーキテクチャの再設計や追加の教師信号を必要とせずに、局所的な決定感度を分析するための、モデル固有のツールが必要とされている。

手法

著者らは、**入力依存型フィッシャー情報行列（iFIM）**に基づく局所感度分析フレームワークを提案する。このアプローチは、入力画像の微小な摂動に対する分類器の予測分布の局所的な感度を定量化するものである。

コアフレームワーク

1. iFIMの定義: 学習済み分類器 $f_\theta$ と入力画像 $x$ に対して、iFIM $F(x)$ は、入力に関する対数予測分布の勾配の期待外積として以下のように定義される：
   $$F(x) = \mathbb{E}_{y \sim p_\theta(\cdot|x)} [\nabla_x \log p_\theta(y|x) \nabla_x \log p_\theta(y|x)^\top]$$
   この行列は、$x$ の周囲における予測分布の局所的な変化を特徴付ける。

2. グラム行列による因数分解: 画像スケールの入力に対して、フルサイズの $d \times d$ フィッシャー行列（ここで $d$ はピクセル数）を直接構築することは計算上不可能である。著者らは、非ゼロの固有スペクトルを効率的に回収するために、グラム行列の定式化を利用している。重み付きクラス勾配を含む行列 $G(x)$ を定義することで、iFIMは $F(x) = G(x)G(x)^\top$ と表される。$C \times C$ のグラム行列 $K(x) = G(x)^\top G(x)$（ここで $C$ はクラス数）の非ゼロ固有値は、$F(x)$ の固有値と一致する。これにより、主要な固有ベクトルを扱いやすい形で計算することが可能となる。

3. 画像の分解: 入力画像は、iFIMのスペクトル構造に基づいて、以下の2つの直交する成分に分解される：

   • タスク感受性成分 ($x_{sens}$): iFIMの主要な固有ベクトルによって張られる部分空間への投影（最大の固有値に関連するもの）。この成分は、高い局所的予測感度を持つ方向に対応する。
   • タスク非感受性成分 ($x_{comp}$): その直交補空間であり、低感度の方向および零空間の成分を含む。

   分解は $x = x_{sens} + x_{comp}$ と定義される。著者らは、これらは感度方向への投影であり、必ずしも解剖学的構造のセマンティックなセグメンテーションではないことを強調している。

主な貢献

• 定式化: 学習済み医療画像分類器の予測分布が入力の摂動に対してどのように反応するかを特徴付けるために、iFIMを用いた情報理論的フレームワークを提示した。
• 計算効率: 高次元の画像データへの適用を可能にするため、フルサイズの画像次元のフィッシャー行列を構築することなく、非ゼロのiFIM固有スペクトルを回収するグラム行列の因数分解法を用いた。
• 分解の定義: 入力画像を、高感度成分と直交する低感度成分へと投影ベースで分解する手法を定義し、低ランク設定（例：二値分類）における解釈を明確化した。
• 評価: 制御された環境および臨床的な医療画像分類タスクにおいて、摂動ベースの分析および複数のアーキテクチャ間での比較を通じて包括的な評価を行った。

実験結果

本フレームワークは、以下の3つのタスクで評価された：

1. 網膜OCT: 3クラス分類（正常、ドルーゼン、CNV）。
2. 胸部X線: 心拡大の検出。
3. 様式化されたMRI: 信号既知／背景既知の統計的タスク（SKS/BKSタスク）。

知見:

• 可視化: 制御されたMRI設定において、タスク感受性成分は既知の信号領域の周囲に集中していた。臨床タスク（OCTおよびX線）において、タスク感受性マップは病理を伴う領域（例：ドルーゼン/CNVにおける網膜層、心拡大における心影）と一致しており、一方で非感受性成分は背景の変化を捉えていた。
• アーキテクチャ依存性: VGG16とResNet18の両方が同等の予測性能を達成している場合でも、高感度成分の空間分布はアーキテクチャ間で異なっていた。これは、iFIMがアーキテクチャ固有の局所的な決定幾何学を明らかにしていることを示唆している。
• 摂動分析:
  • 対照的摂動（Contrastive Perturbation）: タスク感受性iFIMマップにおいて値が大きいピクセルを摂動（ノイズに置換）させた際、タスク非感受性マップのピクセルを摂動させた場合よりも、分類器のF1スコアが著しく低下した。iFIMベースの手法は、他のアトリビューション手法（DeepSHAP、Grad-CAMのバリアントなど）と比較して、より高い性能低下率を示した。
  • 敵対的堅牢性: タスク感受性iFIMマップは、クリーンな入力と敵対的に摂動された入力との間の相関が最も低く（OCTおよびX線タスクではゼロに近づく）、この表現が決定を変化させる摂動に対して非常に敏感であることを示した。

意義と主張

本論文は、iFIMフレームワークが、医療画像分類器における局所的な決定感度を分析するための原理的なツールとして機能すると主張している。ピクセルごとの重要度スコアを提供する従来のアトリビューション・ヒートマップとは異なり、iFIMは、ある入力近傍の摂動が予測分布にどのように影響するかについてのモデル固有の幾何学的記述を提供する。

著者らは以下のことを主張している：

1. 高感度のiFIM成分は、低感度成分よりも予測の確信度や分類性能の変化と強く結合している。
2. 本フレームワークは、既存のアトリビューションに基づく解釈可能性手法を置き換えるものではなく、予測分布の局所的な感度構造に焦点を当てた異なる視点を提供することで、それらを補完するものである。
3. 本手法は、モデルのアーキテクチャを変更することなく、標準的な学習済み分類器の分析を可能にする。

著者らは、セマンティックな、あるいは因果的な主張については慎重な姿勢を保っており、分解が制御された設定での既知の信号構造や臨床設定での病理と一致しているものの、独立した参照基準（例：専門家によるアノテーション）に対する検証なしには、強力なセマンティックまたは因果的なタスク関連性の主張はできないと述べている。主な貢献は、局所的な予測感度の特性評価である。