技術概要：MedCRP-CL

問題定義

医療画像セグメンテーションは、**継続学習（CL）**において決定的な課題に直面しています。データは救急 X 線、心臓超音波、消化器内視鏡など、多様な臨床ソースから逐次的に到着しますが、効果的な学習には、どのタスクが十分な構造を共有し、共同トレーニングの恩恵を受けられるかを特定する必要があります。

既存のアプローチは、パラメータ共有とパラメータ隔離の間の根本的な緊張関係に直面しています：

• 均一な制約（例：標準的な EWC）はグローバルな正則化を適用するため、タスクが類似していない場合、破滅的な忘却を引き起こします。
• **Mixture-of-Experts（MoE）**のアプローチは、多くの場合、事前定義されたエキスパート数やタスクのグループ化を必要とし、将来のタスクの多様性を予測できません。
• 物理的モダリティラベル（例：「超音波」）は、グループ化には不十分な粒度です。例えば、心臓超音波と乳房超音波は取得原理を共有しますが、本質的に異なる解剖学的構造と病理所見を伴います。
• リプレイベースの手法は、HIPAA や GDPR などのプライバシー規制により生患者データの保存が禁止されているため、医療現場では実用的でないことが多くあります。

核心的な問題は、事前定義されたラベルなしでタスク構造を動的に発見する（類似タスクをグループ化する）メカニズムが欠如しており、プライバシー規制を遵守しつつ、有益な場合のみ知識転移を可能にする仕組みがないことです。

手法：MedCRP-CL

著者は、オンラインタスク構造発見と構造認識型継続学習を行う継続的医療画像セグメンテーションのフレームワークであるMedCRP-CLを提案します。この手法は、生患者データを保存することなく（リプレイフリーで）動作します。

1. ベイズ非パラメトリクスによる意味的モダリティ発見

物理的イメージングラベルに依存するのではなく、このフレームワークは臨床テキストプロンプトにエンコードされた解剖学的領域と病理所見の組み合わせに基づいたタスクグループ化である**「意味的モダリティ」**を発見します。

• 入力：タスクの系列 $T = \{T_1, \dots, T_N\}$。各タスクには画像、マスク、臨床テキストプロンプトが含まれます。
• 埋め込み：臨床プロンプトを凍結された CLIP テキストエンコーダでエンコードし、タスク埋め込み ($e_t$) を生成します。
• チャイニーズレストランプロセス（CRP）：フレームワークは、タスクが到着するにつれてクラスタ数（意味的モダリティ）を動的に推論する非パラメトリックな事前分布として CRP を採用します。
  • 事前分布：$P(z_t = k | z_{1:t-1}) \propto n_k$（既存クラスタの大きさに比例する確率）または $\alpha$（新しいクラスタの確率）。
  • 尤度：割り当ては、新しいタスクのプロンプト埋め込みと既存の意味的モダリティの走行重心 ($\mu_k$) との類似性によって調整されます。
  • 適応分布：システムは、Welford 法を用いてオンラインでモダリティ内およびモダリティ間の類似性分布（ガウス分布としてモデル化）を学習します。これにより、同じ物理的イメージングモダリティを共有する場合でも（例：心臓超音波と乳房超音波の分離）、同じ意味グループに属するタスクと異なるタスクを区別できます。
• 割り当て：タスクは、CRP 事前分布と学習されたプロンプト類似性の尤度をバランスさせる最大事後確率（MAP）推論を通じて、意味的モダリティに割り当てられます。

2. 構造認識型継続学習アーキテクチャ

タスクが意味的モダリティ $k$ に割り当てられると、フレームワークは特定のパラメータ戦略を利用します：

• モダリティ固有の LoRA：バックボーン（CLIPSeg）は凍結されます。各意味的モダリティ $k$ は、独自の低ランク適応（LoRA）アダプタ ($A_k, B_k$) を維持します。
  • 隔離：異なる意味的モダリティは非重複パラメータを使用し、類似しないタスク間（例：X 線対内視鏡）での負の転移を防ぎます。
  • 共有：同じ意味的モダリティ内のタスクは同じ LoRA アダプタを共有し、正の知識転移を可能にします。
• モダリティ内 EWC：同じクラスタ内で新しいタスクが到着する際に、意味的モダリティ内での忘却を防ぐため、フレームワークは弾性重み統合（EWC）を適用します。
  • 各モダリティに対して、統合されたフィッシャー情報行列 ($\bar{F}_k$) が維持されます。
  • 正則化項 $\Omega_k(\theta_k)$ は、その特定のモダリティ内の過去のタスクにとって重要なパラメータの変化にペナルティを課します。
• リプレイフリー動作：フレームワークは、生患者データではなく、集計統計量（重心、フィッシャー行列、LoRA パラメータ）のみを保存し、プライバシー規制への準拠を確保します。

主要な貢献

1. ベイズ非パラメトリック意味的モダリティ発見：本論文は、事前定義されたクラスタ数や専門家の知識を必要とせず、臨床テキストプロンプトからタスクグループ化を自動的に推論する CRP ベースのメカニズムを導入します。「意味的モダリティ」を、物理的イメージングモダリティよりも微細な構造として定義します。
2. 意味的モダリティ認識型アーキテクチャ：モダリティ固有の LoRA アダプタとモダリティ内 EWC を組み合わせた新しい学習アーキテクチャです。これは、異なるグループ間でのパラメータ隔離を実現しつつ、類似グループ内での知識転移を促進し、すべてをリプレイフリーで達成します。
3. 最先端のパフォーマンス：この手法は、4 つのイメージングモダリティにわたる 16 の医療セグメンテーションタスクにおいて優れたパフォーマンスを示し、最小限の忘却と、ベースラインよりもはるかに少ないパラメータ数で高い精度を達成しました。

実験結果

このフレームワークは、4 つのイメージングタイプ（内視鏡、皮膚鏡、超音波、胸部 X 線）および 5 つの解剖学的領域にわたる16 の医療セグメンテーションタスクで評価されました。

• パフォーマンス：MedCRP-CL は、**平均 Dice スコア 73.3%**を達成し、**忘却率はわずか 4.1%**でした。
• 比較：Dice スコアにおいて、最良のベースライン（MoE-Adapters）を**8.0%**上回りました。
• 効率性：この手法は、MoE-Adapters（51.9M）と比較して6 倍少ないパラメータ（8.6M）で済み、タスクごとに個別にトレーニングされたモデルよりも低いメモリ使用量を維持しました。
• ロバスト性：この手法は、4 つの異なるタスク順序戦略（グループ化、インターリーブ、混合、逆順）全体で一貫したパフォーマンスを示し、CRP ベースの発見が特定のタスク系列に依存しないことを実証しました。
• アブレーション研究：
  • CRP を除去（単一の共有アダプタを強制）すると、忘却は 15.55% に増加しました。
  • EWC を除去すると、忘却は 5.41% に増加しました。
  • LoRA を除去（凍結されたバックボーンに依存）すると、忘却はゼロでしたが、Dice スコアは低く（45.39%）、不十分でした。
• 意味的グループ化対物理的グループ化：物理的モダリティによるグループ化（K=4）は、9.23% の忘却と 65.75% の Dice となりました。CRP によって発見された意味的グループ化（K=5、心臓超音波と乳房超音波を正しく分離）は、Dice を 73.33% に向上させ、忘却を 4.09% に削減しました。

意義と主張

本論文は、MedCRP-CLが、臨床テキストプロンプトからの意味情報を活用して潜在的なタスク構造を発見することにより、医療画像における継続学習の根本的な緊張関係を解決すると主張しています。

• プライバシー保護：生患者データではなく集計統計量のみを保存することで、このフレームワークは厳格な医療プライバシー規制（HIPAA、GDPR）に準拠し、プライバシーに敏感な臨床環境での展開に適しています。
• 粒度：「意味的モダリティ」という概念は、物理的イメージングラベルが見逃す微細な臨床的区別（解剖学＋病理所見）を捉え、より効果的な知識転移と隔離を可能にします。
• 実用性：この手法は、事前定義されたエキスパート数やリプレイバッファの必要性を排除し、動的な臨床ワークフローにおける継続学習に対する原理的かつ適応的なアプローチを提供します。

著者らは、臨床テキストからの意味情報の活用が、継続学習における構造発見のための堅牢で原理的なアプローチを提供し、精度とパラメータ効率の両面で既存の手法を上回る結果を示すことを結論付けています。