技術要約: 3D CT-GraphEdgeMAE

問題提起

コンピュータ断層撮影（CT）における異常検知は、悪性腫瘍の早期診断において極めて重要であるが、現在のアプローチは大きな障壁に直面している。教師あり深層学習手法（例：3D U-Netの派生形）は、労働集約的なボクセルレベルのアノテーションに大きく依存しており、臨床現場ではそれらは希少である。Masked Autoencoders (MAE) や Vision Transformers (ViT) のような自己教師あり学習手法はアノテーションの必要性を軽減するものの、3D CTデータに適用する場合、高い計算コストとメモリ要件に苦しむ。具体的には、ViTやMAEにおけるアテンションメカニズムは、パッチ数に対して二次関数的（$O(N^2)$）にスケールするため、高解像度の3Dボリュームに対して「計算量の爆発」を引き起こす。さらに、これらのパッチベースのアプローチは、結節（ノジュール）に固有の、エッジ浸潤や腫瘍と周辺組織間の空間的連続性といった、明示的な局所関係やトポロジー構造を捉えることに失敗することが多い。著者は、既存のグラフベースの手法（例：GraphMAE）は、ノードではなくエッジをマスクしており、結節の検出に不可欠なボクセルブロック間の関係を明示的にモデル化できていないと主張している。

手法

本論文では、小規模なデータセットおよびリソース制約のある環境向けに設計された、エンドツーエンドの自己教師ありフレームワークである 3D CT-GraphEdgeMAE を提案する。この手法は、3D CTボリュームを、ボクセルをノードとし、空間的・特徴的な類似性をエッジとして定義するグラフへと変換する。フレームワークは以下の5つのコアコンポーネントで構成される：

1. 3D CT グラフ構築:

   • ノード: 2Dパッチや事前セグメント化された解剖学的構造を使用する代わりに、本手法では3Dボクセルをノードとして扱う。
   • 特徴量: ノード特徴量は、統計的、位置的、テクスチャ、トポロジー、学習可能、およびスケーラブルな特徴を組み合わせたハイブリッド戦略によって初期化される。
   • エッジ: エッジは空間距離と特徴の類似性に基づいて構築され、CTスキャンの空間ボリューム構造を保持する。

2. エッジマスキング戦略:

   • GraphMAEがノードをマスクするのに対し、3D CT-GraphEdgeMAEはエッジをマスクする。これは、結節が空間勾配特徴を持つ複数のボクセルにまたがっているという観察に基づいている。エッジをマスクすることで、モデルに単なるブロックそのものではなく、ボクセルブロック間の関係を明示的に学習させる。

3. エンコーダ (GCN):

   • エンコーダにはグラフ畳み込みネットワーク（GCN）が使用される。著者が動的な隣接行列計算に伴う計算オーバーヘッドや過学習のリスクを避けるために、Graph Attention Networks (GAT) ではなくGCNを選択した理由は、GCNが複数ホップにわたって緩やかかつ暗黙的な特徴を学習し、エッジ予測のための文脈的関係を提供するためである。

4. デコーダ:

   • デコーダは、2つのノード（$v_i, v_j$）間のマスクされたエッジの存在を予測する。
   • これは、アダマール積（Hadamard product）とサブグラフ類似性を用いた結合メカニズムを採用している。マスクされたノード周辺のサブグラフを抽出し、その類似性を計算し、アダマール積を適用することで、全レイヤーからのマルチグラニュラリティ（多粒度）情報をデノイズ（ノイズ除去）し統合する。これは、CT画像に特有のノイズやぼけに対処することを目的としている。

5. 損失関数:

   • 学習目的関数は、2つの損失を組み合わせる：
     • トポロジー認識型対照学習損失 (Topology-aware Contrastive Loss): マスクされたエッジの両端点を含む連結サブグラフ内のノードをポジティブサンプルとし、それ以外のノードをネガティブサンプルとして扱う。これにより、類似したトポロジー構造を引き寄せる。
     • トポロジー一貫性再構成損失 (Topology-consistence Reconstruction Loss): 0次元パーシステンス図（persistence diagrams）を使用して、元のグラフとマスクされたグラフの間のトポロジー的距離を測定し、再構成が病変のグローバルなトポロジー構造を保持するようにする。

主な貢献

• エッジ中心のマスキング: グラフオートエンコーダにおいてノードではなくエッジをマスクすることを提案し、局所的な病理学的特徴を捉える上でのノードマスキング手法の限界に対処し、ボクセルブロック間の関係を明示的にモデル化する。
• 効率的なアーキテクチャ: GCNエンコーダと特化したデコーダ（アダマール積 + サブグラフ類似性）の統合により、アテンションベースのトランスフォーマーの二次関数的な複雑さに対し、線形な複雑さ（$O(|E|)$）を実現し、計算オーバーヘッドを大幅に削減する。
• 小規模データでの有効性: 本手法は（88症例などの）小規模なデータセットでの訓練に特化して設計されており、大規模な事前学習データセットやハイエンドのGPUクラスターなしでも、高性能な異常検知が可能であることを実証している。
• 新規の損失関数: サブグラフの連結性とパーシステントホモロジーを活用して、病変の特徴の明瞭さと境界定義を向上させる、結合トポロジー認識型対照・再構成損失を導入した。

実験結果

本手法は、LUNA16 データセット（888例の低線量肺CTスキャンを含むLIDC-IDRIのサブセット）を用いて評価された。

• 訓練効率:

  • Apple M2 (8GB RAM) を使用した88症例の小規模サブセットにおいて、提案手法の訓練には25分しかかからなかった。
    着想に基づき、ベースラインのMAEは30時間、DrasCLRは35時間を要した。
  • フルデータセット（888症例）において、提案手法はベースラインと比較して30倍の訓練時間の短縮を実現し、計算コストを68%削減した。

• 性能 (結節検知):

  • 提案手法は、88症例のサブセットで0.779のCPM (Detection Score) を、888症例のフルデータセットで0.822を達成した。
  • これらの結果は、以下の最先端のベースラインと比較して競争力がある：
    • DeepLung (3D CNN): 0.819 (88症例) / 0.958 (888症例)
    • GraphMAE: 0.755 (88症例) / 0.793 (888症例)
    • DrasCLR: 0.682 (88症例) / 0.762 (888症例)
  • 著者は、提案手法が大幅に少ないリソースと小さな訓練セットを使用しているにもかかわらず、ベースラインの中で第2位であり、シングルステージの結節検知モデルに匹敵すると述べている。

• アブレーション研究:

  • マスキング戦略: エッジマスキングは、アンマスキングおよびノードマスキングの両方の戦略よりも優れた性能を示した。
  • デコーダ: 結合デコーダ（アダマール積 + サブグラフ類似性）は、MLP、アダマール積、またはサブグラフ類似性のいずれか単独を用いたバリアントよりも大幅に優れた性能を示した。
  • 損失関数: 結合された対照・再構成損失は、どちらか一方の損失のみを使用した場合よりも優れた結果をもたらした。
  • データスケール: 小規模（88症例）と大規模（888症例）の訓練間の性能差は無視できるほど小さく、限定されたデータから効果的に学習する本手法の能力を裏付けている。

意義と主張

本論文は、3D CT-GraphEdgeMAE がリソース制約のある環境における3D CT異常検知の実行可能なソリューションを提供すると主張している。アテンション重視のパッチベースのトランスフォーマーから、グラフベースのエッジマスキング手法へと移行することで、本手法は高いパフォーマンスを大規模なデータセットやハイエンドのコンピューティングハードウェアの必要性から切り離すことに成功した。

著者は、自身のアプローチが以下の点において優れていることを強調している：

1. アクセスの民主化: 高価なA100やRTX4090クラスターを欠く環境でも、消費者向けのハードウェア（例：Apple M2）や小規模な臨床データセットを用いた効果的な訓練を可能にし、高度な異常検知へのアクセスを容易にする。
2. トポロジーの保持: 2Dパッチベースやノードマスキングのアプローチで失われがちな、3D結節の空間的およびトポロジー的な関係を明示的にモデル化する。
3. 二次的被害の軽減: 再検査（それに伴う追加の放射線被曝）を必要とせずに、ぼけやノイズのある画像に対する検知精度を向上させることで、重要な臨床的ニーズに対処する。

本研究は、トポロジー認識型のグラフ構造と組み合わせた小規模データセットでの自己教師あり学習が、大規模な事前学習パラダイムに匹敵する性能を達成できることを示しており、効率的な医療画像解析における一歩前進を記している。