Bayesian uncertainty-aware deep learning with noisy labels: Tackling annotation ambiguity in EEG seizure detection

技術要約：ノイズの多いEEGにおける脳波発作ラベルのためのベイズ不確実性認識型ディープラーニング

問題提起
ディープラーニングは、自動化されたてんかん発作検出および発作起始領域（SOZ）の局在化を進展させてきたが、その有効性は高品質なアノテーション付き訓練データに大きく依存している。頭皮EEG信号は本質的にノイズが多くアーチファクトが生じやすいため、臨床医による発作のタイミングや特性の精緻な手動アノテーションは困難を伴う。研究によれば、EEGデータを解釈する臨床医間の合意形成（一致率）は低く（約60%程度）、その結果、「ラベルノイズ」が発生することが示されている。つまり、提供されたアノテーションは近似的に正しい程度のものである。このノイズは重大な課題を提示する。標準的な教師あり学習モデルは、正確な「グラウンドトゥルース（正解）」ラベルを前提としているため、誤った特徴量を学習してしまう可能性があり、その結果、不均質な患者コホート間での汎化性能が低下する。ラベルノイズを扱う既存の手法は、複雑なアーキテクチャの変更、追加の学習可能パラメータ、多段階の訓練、あるいは貴重なデータサンプルを除去するリスクのある「ハード・プルーニング（硬い剪定）」戦略を必要とすることが多い。

手法：BUNDL
著者らは、既存のアーキテクチャを変更したりパラメータを追加したりすることなく、ディープニューラルネットワークにラベルの曖昧性を知らせるためのモデル非依存型の訓練フレームワークであるBUNDL (Bayesian Uncertainty-aware Deep Learning) を提案する。

• 確率的フレームワーク: BUNDLは、ベイズグラフモデルを用いて、観測されたEEGデータ（$x$）、観測されない「クリーンな」ラベル（$y_c$）、および観測されたノイズを含むラベル（$y_n$）の関係をモデル化する。これは、ノイズを含むラベルを、真の発作状態と観測されたデータの両方に影響を受ける確率変数として扱う。
• 不確実性駆動型ラベル補正: コアとなる革新技術は、ラベルの信頼性を推定するための**モンテカルロ・ドロップアウト（MCD）**の使用である。訓練中、モデルはドロップアウトを有効にした状態で複数のフォワードパスを実行し、予測の経験的分布を生成する。これらの予測のエントロピーは、ラベルノイズのプロキシ（代理指標）として機能する。エントロピーが高いことは、モデルがサンプルに対して不確実であることを示しており、提供されたラベルがノイズを含んでいる可能性を示唆する。
• 新規の損失関数: 標準的なクロスエントロピー（予測とノイズを含むラベルとの間の誤差）を最小化する代わりに、BUNDLは、ネットワークの予測と、導出された「クリーンな」ラベルの後験分布（$p(y_c|x)$）との間のKLダイバージェンスを最小化する。この後験分布は、臨床医のラベルとモデル自身の予測を組み合わせた加重平均であり、その重みは不確実性の尺度 $z_{x,y_n}$ によって決定される。
  • 不確実性が低い場合、モデルは臨床医のラベルを信頼する。
  • 不確実性が高い場合、モデルは自身の学習された予測により多く依存し、効果的にノイズを含む可能性のあるアノテーションの重みを下げる。
• 訓練戦略: フレームワークは、高信頼度のサンプル（例：明確なベースラインおよび発作領域）を用いた事前学習フェイズを採用し、堅牢な初期状態を確立する。その後の訓練では、BUNDL損失関数を利用する。この手法は、ドロップアウトをサポートするあらゆるディープネットワークアーキテクチャ（CNN、Transformer、RNNなど）と互換性がある。

主な貢献

1. 不確実性駆動型ラベル補正: 訓練中にクリーンなグラウンドトゥルース・ラベルを必要とせずに、複数の形態のラベルノイズ（対称ノイズ、過剰セグメンテーション、過小セグメンテーション）を扱うための、確率的訓練フレームワークを導入した。
2. モデル非依存の効率性: 既存のディープネットワークにパラメータを追加したり、計算負荷の高い多段階訓練を必要としたりすることなく、統合可能な訓練アルゴリズムである。これは、効率化のためにMCサンプルの並列バッチ処理を活用している。
3. 標準化されたベンチマーク: 制御されたノイズラベルシナリオ（対称ノイズ、10%/30%の過剰セグメンテーション、10%/30%の過小セグメンテーション）を生成するために、SEREEGAフレームワークを用いたシミュレーションEEGデータセットを開発した。
4. 包括的な評価: 3つのディープネットワークアーキテクチャ（DeepSOZ、TGCN、CNN）と4つのデータセット（シミュレーションデータセット、Temple University Hospital (TUH) データセット、CHB-MITデータセット、およびアウトオブディストリビューション・テスト用のSienaデータセット）にわたる検証を行った。
5. ダウンストリームへの影響: BUNDLによる発作検出の改善が、重要な臨床タスクである発作起始領域（SOZ）の局在化の精度も向上させることを示した。

結果

• シミュレーションデータ: BUNDLは、すべてのノイズタイプにおいて、ベースライン手法（標準クロスエントロピー、自己適応学習、およびノイズ適応層）を一貫して上回った。AUROCおよびAUPRCにおいて最高の性能を達成し、過剰セグメンテーションのシナリオでは偽陽性率（FPR）を大幅に減少させ、過小セグメンテーションのシナリオでは感度を維持した。
• 実世界のデータ (TUH & CHB-MIT):
  • TUHデータセットにおいて、BUNDLは（DeepSOZを用いて）ベースラインと比較して最も低いFPR（2.3 min/hour）を達成した。
  • CHB-MITデータセットにおいて、BUNDLは（CNNを用いて）最も低いFPR（0.8 min/hour）を達成し、ベースラインと比較してレイテンシを大幅に改善した。
  • 一部の構成ではAUROCの改善はわずかであったが、偽陽性とレイテンシの減少は統計的に有意であった。
• 汎用性: 未知のSienaデータセット（クロスサイト汎化）でテストした際、BUNDLはすべての手法の中で最も低いF理（FPR）を維持したが、ドメインシフトとターゲットデータセットにおける潜在的な過剰セグメンテーションにより、感度は低下した。
• アブレーション研究: MCDに基づく不確実性推定が、入力依存のラベルノイズを検出する上で、アンサンブル法、テスト時拡張（TTA）、および固定された損失値よりも優れていることが確認された。
• 計算コスト: 複数のフォワードパスを行うため訓練中の計算オーバーヘッドは増加するが、過去の予測を保存するための追加パラメータやメモリは必要ない（Self-Adaptとは異なる）。推論時には、標準的なモデルと同じ効率で動作する。

意義と主張
本論文は、BUNDLが、ノイズを含む臨床ラベルを用いてディープニューラルネットワークを訓練するための、簡便でリソース効率が高く、信頼できる手法を提供すると主張している。その主な意義は以下の通りである：

• 臨床現場で使用されている既存のディープモデルに、アーキテクチャの変更なしにシームレスに統合できること。
• ベイズフレームワークを介してドメイン知識を活用し、真の発作特性とアノテーションエラーを区別できること。
• 偽陽性とレイテンシを減少させることで、臨床的な信頼性を向上させ（自動発作モニタリングシステムにとって極めて重要）、ダウンストリームタスク（特にSOZ局在化）を強化すること。

著者らは、BUNDLが、競合する手法のような重い計算やパラメータのオーバーヘッドなしに、EEGにおける蔓延するラベルノイズの問題に対する堅牢なソリューションを提供すると結論付けている。また、事前学習の必要性とクロスサイト汎化における感度の低下という限界を認め、今後の課題としてテスト時適応および自己教師あり学習を挙げている。