Neuron Incidence Redistribution for Fairness in Medical Image Classification

技術的概要：医療画像分類における公平性のためのニューロン発生頻度再分配

問題提起
医療画像分類のための深層学習モデルは、しばしば人口統計学的サブグループ（年齢、性別、人種など）間で体系的な性能格差を示す。既存の公平性介入手法は、前処理、敵対的訓練、または事後処理による較正を通じて、出力レベルの指標（感度や偽陽性率など）を標的にすることが一般的であるが、これらの格差を駆動する内部メカニズムを説明することは頻繁に失敗している。著者らは、転移学習モデルの最終層（penultimate layer）における「特徴の絡み合い（feature entanglement）」（または多義性）という特定の潜在メカニズムを特定した。

実証分析により、標準的な微調整モデル（例：ResNet-18）において、支配的な活性化チャネルは疾患特異的ではないことが明らかになった。むしろ：

• 陽性予測における支配的チャネルは、疾患陽性のサンプルと「特権的」な人口統計学的グループ（例：男性、高齢患者）の両方によって共活性化される。これにより、これらのグループに対して予測確率が過大評価され、過剰診断を引き起こす。
• 陰性予測における支配的チャネルは、「不利な」グループ（例：女性、若年患者）によって優先的に共活性化され、そのスコアを抑制して体系的な過少診断を引き起こす。

この絡み合いは、単一の特徴チャネルが臨床的形態と人口統計学的相関を同時に符号化することを意味し、真陽性率（TPR）と偽陽性率（FPR）の格差を直接引き起こす。

手法：ニューロン発生頻度再分配（NIR）
これに対処するため、著者らはトレーニング中に人口統計学的ラベルを必要としない、軽量かつ微分可能な正則化手法である**ニューロン発生頻度再分配（Neuron Incidence Redistribution: NIR）**を提案する。

1. ニューロン発生頻度の定義：ミニバッチにおいて、特定のニューロン $j$ の「発生頻度（incidence）」は、予測確率で重み付けされた平均活性化として定義される：
   $$\phi_j = \frac{\sum_{i=1}^{B} \hat{p}_i z_{ij}}{\sum_{i=1}^{B} \hat{p}_i + \epsilon}$$
   ここで、$\hat{p}_i$ は陽性クラスの予測確率、$z_{ij}$ はサンプル $i$ に対するニューロン $j$ の活性化である。この重み付けにより、この指標はモデルがすでに陽性とみなしているサンプルの表現構造に焦点を当てることを保証する。

2. 再分配損失：この手法は、最終層のすべてのニューロンにわたるこれらの発生頻度値の分散にペナルティを課す。陽性クラスの証拠が少数のニューロンに集中している場合（分散が高い）、損失は増加する。目的は、陽性予測の「発生頻度」を層全体に均一に分配することである：
   $$\mathcal{L}_{IR} = \frac{1}{d} \sum_{j=1}^{d} (\phi_j - \bar{\phi})^2$$

3. トレーニング目的：総損失は、標準的な二値交差エントロピー（BCE）と NIR 正則化項を組み合わせる：
   $$\mathcal{L}_{total} = \mathcal{L}_{BCE} + \lambda \mathcal{L}_{IR}$$
   著者らは実験全体で固定の $\lambda = 0.1$ を使用し、この手法がデータセット固有のハイパーパラメータ調整なしに一貫した改善をもたらすことを示した。

主要な貢献

1. メカニズム的洞察：「支配的チャネルの絡み合い」と非対称な過剰診断および過少診断を結びつける実証分析。著者らは、上位の陽性クラスニューロンが疾患ラベルとは無関係に、特権的な人口統計グループによって優先的に共活性化されることを実証した。
2. NIR アルゴリズム：疾患信号と人口統計学的相関との間の絡み合いを解きほぐすために、最終層全体にわたって分散した陽性クラス表現を促進する、微分可能でラベル不要の正則化項。
3. 実証的検証：感度属性の監督なしに、皮膚病変データセット HAM10000 において公平性の大幅な改善、および緑内障データセット Harvard OCT-RNFL において概ね肯定的（ただし混合した）な結果を達成した。

実験結果
この手法は、微調整された ResNet-18 構造を用いて 2 つのデータセットで評価された。

• HAM10000（皮膚病変）：

  • 公平性：NIR は、年齢グループ間の TR 格差を**10.81% から 0.93%へ、性別間の格差を12.04% から 0.74%**へ削減した（90% 以上の削減）。FPR 格差も大幅に改善された。
  • 精度：この手法は、AUC を0.51 ポイント（89.74% から 90.25%）わずかに改善し、分散表現が識別性能を損なわないことを示した。

• Harvard OCT-RNFL（緑内障）：

  • 公平性：NIR は、人種（15.68% から 10.66%）および年齢（12.69% から 1.80%）に対する FPR 格差を大幅に削減した。TPR 格差は人種および性別に対して modest な改善が見られた。
  • 精度：AUC は3.03 ポイント（84.71% から 81.68）低下した。著者らはこれを、データセットのサイズが小さくクラス不均衡があることに起因すると帰属している。均一な発生頻度を強制することが、人口統計と絡み合った真の疾患情報を運ぶ高発生頻度ニューロンを部分的に抑制するためである。これは、制約されたデータ環境における精度と公平性のトレードオフの存在を浮き彫りにしている。

意義と主張
本論文は、ニューロン発生頻度再分配が、転移学習モデルにおける支配的ニューロンの多義性という格差の根本原因を標的にすることで、医療 AI における人口統計学的公平性を改善するための原理的な戦略を提供すると主張している。

• 実用性：多くの公平性介入とは異なり、NIR はトレーニング時に人口統計学的ラベルを必要としないため、感度属性が利用できない、または保護されている臨床現場での展開に極めて実用的である。
• 解釈可能性：この研究は、抽象的な表現学習の概念（多義性、ニューロンの崩壊）を観察可能な人口統計学的格差と結びつけ、モデルがなぜ特定のサブグループに失敗するのかというメカニズム的説明を提供する。
• トレードオフの認識：著者らは控えめに、NIR は大規模なデータセット（HAM10000）では非常に効果的であるが、小規模で不均衡なデータセット（OCT-RNFL）では精度コストを伴う可能性があることを認めている。彼らはこれを失敗としてではなく、精度と公平性のトレードオフに関する重要な考慮事項として位置づけ、より広範な特徴利用を強制することが、最も識別力が高いが人口統計学的に絡み合ったニューロンへの依存を減らす可能性があることを示唆している。

著者らは、潜在疾患証拠を最終層全体に再分配することが、サブグループ格差を緩和するための効果的でラベル不要のアプローチであると結論付けているが、今後の研究では、特徴をさらに分離するためにこれを明示的な分離や因果的制約と組み合わせることを検討すべきであると述べている。