技術概要：CRAFT – 医用画像合成のための臨床報酬整合ファインチューニング

1. 問題提起

基盤拡散モデルは、写実的な自然画像の生成において驚異的な成功を収めています。しかし、これらのモデルを医用画像へ適応させることは依然として困難です。医用分野では、限られたラベル付きデータが、視覚的には妥当に見えるが病理学的所見を欠く、または臨床的に不自然な特徴を含む「幻覚に似た」合成を悪化させる傾向があります。

既存の評価指標である Frechet Inception Distance (FID) や Inception Score (IS) は、分布レベルの視覚的忠実度を測定しますが、画像ごとの病理関連基準との整合性を定量化することはできません。同様に、CLIPScore などの指標はテキストと画像の整合性を測定しますが、生成された画像が特定の診断に必要な臨床基準を満たしているかを直接評価するものではありません。その結果、臨床的に有用な合成データの生成と、専門家によって定義された医療基準に対するその評価の両方にギャップが存在します。

2. 手法

著者は、汎用拡散モデルを臨床整合性の高い医用画像合成へと適応させるためのフレームワークであるCRAFT (Clinical Reward-Aligned Finetuning) を提案します。この手法は、2 つの明確な段階で動作します。

段階 1：LLM 駆動のセマンティック強化

臨床ラベルの希薄さに対処するため、このフレームワークはマルチモーダル大規模言語モデル (MLLM) を利用して、各画像 - ラベルペア $(x_i, y_i)$ に対して 2 つの補完的なテキストアーティファクトを生成します。

1. 強化プロンプト ($t_{ep}$)：MLLM によって生成されたインスタンス固有の視覚記述であり、特定のトレーニング画像 $x_i$ に基づく微細な属性（形態、色、境界など）を捉えます。診断幻覚を防ぐため、真のラベル $y_i$ がハード制約として提供されます。
2. 自然言語チェックリスト ($t_c$)：疾患 $y$ に共有される臨床基準（必要な形状、質感、色など）をエンコードしたクラスレベルの構造化チェックリストです。これは生成全体にわたる一貫性を強制するための安定した臨床制約として機能します。

段階 2：臨床報酬整合ファインチューニング

拡散モデルは、標準的な拡散再構成損失と、凍結されたビジョン - ランゲージモデル (VLM) クリティックによって計算される微分可能な臨床報酬を組み合わせた報酬ベースの目的関数を用いてファインチューニングされます。学習目的は以下の通りです。
$$\mathcal{L}(\theta) = \mathbb{E}[\lambda_{diff}\|\epsilon - \epsilon_\theta(z_t, t, c)\|_2^2 - \lambda_{cam} r_{cam}(\hat{x}_0, x_r, c, t_c, y)]$$
ここで、$r_{cam}$ は臨床整合スコア (CAS) であり、4 つの微分可能な報酬成分の和として計算されます。

1. 視覚記述の一貫性 (VDC)：生成された画像の埋め込みと強化プロンプトの埋め込み ($t_{ep}$) 間のコサイン類似度を最大化し、インスタンス固有の視覚的忠実度を確保します。
2. 臨床基準の充足 (CCS)：生成された画像と疾患固有のチェックリスト ($t_c$) 間のコサイン類似度を最大化し、クラスレベルの臨床的一貫性を強制します。
3. 診断識別性 (DD)：凍結された VLM 埋め込み上で訓練された線形プローブを用いて、正しい疾患クラスに対する対数尤度を最大化し、生成された特徴が診断にとって識別可能であることを保証します。
4. セマンティック特徴の類似性 (SFS)：埋め込み空間において、生成された画像とそのペアの実際の参照画像 ($x_r$) 間のコサイン類似度を最大化し、生成を現実の医用表現に固定してセマンティックなドリフトを防ぎます。

最適化：このフレームワークは、メモリコストを削減するために、最終的な $K$ 段階のノイズ除去ステップのみを通じて報酬勾配を逆伝播させるDRaFT-Kを採用しています。低ランク適応 (LoRA) パラメータのみが更新され、VLM エンコーダは凍結されたままです。

3. 主要な貢献

1. 臨床整合スコア (CAS)：VDC、CCS、DD、SFS の 4 つのプリミティブに評価を分解する、臨床整合性のための基盤モデルベースの代理指標の導入。汎用的な指標とは異なり、CAS は手動の好みをラベル付けすることなく、臨床的に意味のある失敗モードを対象とします。
2. CRAFT フレームワーク：プロンプト強化と微分可能な報酬最適化を通じて、構造化された医療知識を MLLM や VLM から拡散モデルへ転送する、報酬整合ファインチューニング手法。
3. 包括的な評価：このフレームワークは、4 つの多様な医用画像モダリティ（皮膚科、放射線科、組織病理学、網膜眼底画像）で検証され、平均 CAS の向上、下流の分類性能の向上、および低整合性の「失敗テール」の減少を実証しました。

4. 実験結果

著者は、CRAFT を 4 つのデータセットで評価しました。Fitzpatrick17k（皮膚科）、CheXpert（胸部 X 線）、BreakHis（組織病理学）、ORIGA（網膜眼底）。

• 定量的性能：CRAFT は、強力なベースライン（ゼロショット、テキストインバージョン、TI+LoRA、DPO）と比較して、すべての 4 つのデータセットで最高 CAS を達成しました。例えば、Fitzpatrick17k において、CAS は TI+LoRA の 0.376 から 0.417 に向上しました。
• 低整合テールの削減：重要なことに、CRAFT は、実画像 CAS 分布の 25 パーセンタイル未満に落ちるサンプルの割合を大幅に削減しました。最も強力なベースラインと比較して、CRAFT はデータセット全体で低整合率を5.5–34.7 パーセントポイント削減し、これは平均して**20.4%**の相対削減に相当します。これは、幻覚に似た生成の大幅な減少を示しています。
• 下流の有用性：実データと合成データの拡張設定（合成データ 20%）において、CRAFT はすべてのデータセットとデータスケール（10 ショット、20 ショット、全データ）で、一貫して最高の下流分類精度をもたらしました。
• 検証：
  • 評価者の頑健性：ファミリー外のエンコーダ（MetaCLIP2）で評価した場合でも、結果は維持されました。
  • チェックリスト監査：外部の医療評価者（Lingshu）を用いた構造化された臨床チェックリストにおいて、CRAFT は最高通過率を達成しました。
  • 医師の好み：CheXpert に関する 2 人の医師によるブラインド研究において、CRAFT のサンプルは**67%**のケースで 1 位にランクされ、すべてのベースラインを上回りました。
  • 記憶化分析：SSIM、pHash、DINOv2 最隣接者分析を用いたテストでは、トレーニング画像のピクセルレベルまたは特徴空間レベルでの記憶化の証拠は見つかりませんでした。

5. 意義と主張

本論文は、臨床的に動機付けられた報酬成分を最適化することが、信頼性の高い医用画像生成への生産的な道であると主張しています。CRAFT の意義は、単なる視覚的リアリズムを超えて臨床的妥当性を確保する能力にあります。

• 平均指標を超えて：著者は、平均性能指標が臨床的に重要な失敗を隠蔽する可能性があると強調しています。低整合テールを明示的に分析・削減することで、CRAFT は下流の学習に誤った病理の手がかりを注入するリスクに対処します。
• 代理指標と真値：著者は慎重な立場を維持し、CAS は臨床整合性のための代理指標であり、専門家によるレビューの代わりにはならないと明言しています。医師の好みの結果は、決定的な臨床検証ではなく、支持する証拠として位置づけられています。
• 一般化可能性：医用画像に焦点を当てていますが、このフレームワークは、衛星画像や工業検査など、専門家によって定義されたセマンティック基準を持つ他の分野にも拡張可能として提示されています。

この研究は、合成データ生成が医療データ不足に対する部分的な解決策ではあるが、生成されたデータが視覚的にリアルであるだけでなく、臨床的に妥当であり、下流タスクに有用であることを保証するためには、CRAFT のような手法が必要であると結論付けています。