FedCC: A Low-Resource Federated Adaptation of Foundation Models for Robust Corpus Callosum localization in Fetal Ultrasound Images

技術要約: FedCC – 強固な脳梁局在化のための、基盤モデルを用いた低リソース・フェデレーテッド適応

問題提起
胎児超音波（US）画像における脳梁（CC）の正確な局在化は、神経発達異常の早期発見において極めて重要である。しかし、このタスクは、低コントラスト、スペックルノイズ、および大幅な解剖学的変動を含む超音波画像の固有の制限 due to 困難に直面している。さらに、ヘテロな取得プロトコルや撮像装置による施設間の差異（インターサイト・バリアビリティ）が、強固な自動化システムの開発を阻害している。従来のディープラーニングのアプローチは、大規模かつ中央集約的なデータセットを必要とすることが多いが、これは機関間のデータ共有を制限するプライバシー規制や倫理的制約と相反する。加えて、大規模な基盤モデル（FM）を特定の医療タスクに適応させる際、通常はフルファインチューニングが必要となり、これはリソースが制限された臨床環境において、計算および通信コストを過度に増大させる。

手法
著者らは、生患者データを交換することなく動作する、マルチセンターかつリソース制約のある設定向けに設計されたフェデレーテッド学習（FL）フレームワークである FedCC を提案する。このフレームワークは、以下の3つのコアコンポーネントを統合している：

1. 凍結された基盤バックボーン: システムは、大規模な自然画像を用いて自己教師あり学習により事前学習された Vision Transformer (ViT) である DINOv2 を利用する。極めて重要な点は、バックボーンの重み ($\omega$) は学習プロセス全体を通じて凍結され、クライアントとサーバー間で送信されることはないということである。これにより、事前学習中に学習された豊かで汎用的な表現が保持される。
2. パラメータ効率の高い適応 (LoRA): 凍結されたバックボーンを特定のタスクである脳梁の局在化に適応させるため、著者らは Low-Rank Adaptation (LoRA) モジュールを組み込んでいる。これらのモジュールは、トランスフォーマーのアテンションブロック内のクエリおよびバリュー投影行列に挿入される。重み行列 $W$ 全体を更新する代わりに、LoRA は更新を低ランクの残差 ($\Delta W = BA$, ここで $r \ll \min(d, k)$) に制約する。これにより、学習可能なパラメータ数を劇的に削減できる。
3. 軽量な検出ヘッド: バックボーンからの潜在表現は、YOLOv8 アーキテクチャから派生したコンパクトなシングルスケール検出ヘッドによって処理される。このブランチには、特徴量を精緻化し、バウンディングボックスと信頼度スコアを直接予測するための SPPF (Spatial Pyramid Pooling–Fast) および C3f ブロックが含まれており、マルチステージの領域提案ネットワークの複雑さを回避している。

フェデレーテッド学習戦略
本フレームワークは、$N$ 個の臨床センター（クライアント）が共有モデルを共同で学習する標準的な FL プロトコルを採用している。

• ローカル学習: 各クライアントは、ローカルデータに対して $E$ エポックの間、LoRA アダプタ ($\alpha_i$) と検出ヘッドのパラメータ ($\phi_i$) のみを学習する。バックボーンはローカルで固定されたままである。
• 通信: 軽量な学習可能パラメータ $\theta_i = \{\alpha_i, \phi_i\}$ のみが中央サーバーに送信される。
• 集約: サーバーは、標準的な戦略（FedAvg または FedProx）を用いてこれらのパラメータを集約し、更新されたグローバルパラメータを次のラウンドのためにクライアントへ再配布する。
• プライバシーと効率性: 生の画像、アノテーション、およびバックボーンの重みは決して交換されないため、このアプローチはデータのプライバシーを確保する。送信されるパラメータの削減は、通信オーバーヘッドを大幅に軽減する。

主な貢献

1. FedCC フレームワーク: 凍結された DINOv2 バックボーンと LoRA アダプタ、および YOLO ベースの検出ヘッドを組み合わせた、脳梁局在化のための新しい FL フレームワーク。この設計により、プライバシーを維持しながら、分散型の臨床設定において大規模な基盤モデルを実用的に適応させることが可能となる。
2. 堅牢性の体系的な評価: 本研究では、スキャナーの種類、解像度、および画質における顕著なドメインシフトを特徴とする、現実的なマルチセンターおよびマルチデバイスのシナリオ下でフレームワークを評価している。フルファインチューニング、エンコーダー凍結、および様々な集約手法との比較により、提案された LoRA ベースのフェデレーテッド適応がクロスクライアントの汎化性能を向上させることが示された。
3. 新規データセット: 著者らは、3 つのイタリアの臨床センター（Chieti, Foggia, Verona）における 58 名の妊婦から得られた 10,970 フレームの胎児超音波データセットを用いて、脳梁検出のための新しいデータセットを導入している。これには、ヘテロな撮像装置（GE Voluson E10, Samsung HERA W9/W10/Z20）が使用されている。

結果
提案されたフレームワークは、mAP@50、Precision、Recall、および F1 スコアを含む指標を用いて、マルチセンターデータセット上で評価された。

• パフォーマンス: DINOv2base（自然画像事前学習）と 提案された LoRA 戦略 の組み合わせを FedAvg 下で用いた場合、最高の性能を示し、平均 mAP@50 は 0.857、F1 スコアは 0.803 に達した。これは、フルファインチューニングおよびエンコーダー凍結のベースラインの両方を上回った。
• 汎化性能: フェデレーテッド・アプローチは、ヘテロなドメイン間において優れた汎化性能を示した。特に最も困難なクライアント（Client 3）においては、プールされたデータによる中央集約型学習では性能が著しく低下した（当該クライアントでの mAP@50 は 0.422 に低下）。
• 効率性: 提案手法は、学習可能なパラメータ数を 2.9M に削減し（フルファインチューニングの 24.4M に対比）、通信コストを約 8.5 倍 削減した。
• 比較: 提案手法は、フェデレーテッド設定において他の基盤モデル（SAM, UltraSAM, UltraFedFM）および CNN ベースの YOLO バリアント（YOLO26 変種）を上回った。特筆すべきは、この文脈において自然画像事前学習（DINOv2base）が胎児特化型事前学習（DINOv2fetal）よりも効果的であったことである。

意義と主張
本論文は、FedCC が、プライバシー保護、インタースキャナー・ドメインシフト、および通信効率という 3 つの課題に対処する、スケーラブルでプライバシーを保護し、臨床的に展開可能な AI システムへの有望な一歩であることを主張している。フェデレーテッド学習、基盤モデル、およびパラメータ効率の高いファインチューニング（PEFT）を統合することで、本フレームワークはこれらの課題を解決している。

著者らは、結果は強力であるものの、臨床応用への移行前に、より大規模で多様なコホートでのさらなる検証が必要であることを謙虚に述べている。また、データセットに脳梁の奇形が含まれていないこと（正常な妊娠における局在化に焦に特化していること）や、制御された条件下（同期更新）での FL 環境のシミュレーションといった限界も認めている。今後の展望として、バイオメトリック定量化のための自動的な脳梁セグメンテーション、および他の解剖学的サブリージョンの検出へとフレームワークを拡張することが提案されている。