技術概要：ChronoMedicalWorld（CMWM）

問題定義

長期的な臨床シミュレーション、すなわち特定の介入下で患者の生理機能が数年にわたってどのように変化するかを予測することは、慢性疾患管理において不可欠であるが、現在のモデルでは十分に扱われていない。既存の電子健康記録（EHR）モデル（例：RETAIN、BEHRT、Med-BERT）は主に判別モデルであり、将来の出来事を予測するものであって、閉ループの生理学的軌跡をシミュレートするものではない。さらに、臨床的文脈でプロンプトされた汎用大規模言語モデル（LLM）は、反復的な介入ステップの後、持続的な潜在状態を欠き、多段階ロールアウト誤差に対して訓練されていないため、「ドリフト」する傾向がある。

現在の医療世界モデルの文献には、以下の 3 つの具体的なギャップが存在する：

1. アーキテクチャのミスマッチ：既存のモデルは、構造化された介入が自由テキストのコミュニケーションと同時発生する、慢性ケアに典型的な定期的観測レジームに特化していない。
2. アクションインターフェースの制限：介入は通常、構造化された出来事として扱われ、患者と健康コーチ間のテキスト交換に見られる豊かな意味的シグナルが無視されている。
3. 訓練と評価のミスマッチ：モデルは多くの場合、次のステップの予測（教師強制）で訓練されるが、展開時には多段階ロールアウトで用いられる。これは誤差の蓄積とドリフトの既知の原因である。

手法：ChronoMedicalWorld モデル（CMWM）

著者は、縦断的ケアデータから患者の軌跡を学習するために設計された、一般的なアクション条件付き潜在世界モデルフレームワークである CMWM を提案する。

1. アーキテクチャ

CMWM は、4 つの主要コンポーネントからなる再帰的潜在遷移モジュールである：

• 状態エンコーダ（$E_s$）：定期的な臨床状態ベクトル（$x_t$）と静的な患者コンテキスト（$b_i$）を潜在状態（$z_t$）にマッピングする。
• 広幅アクションエンコーダ（$E_a$）：構造化された介入インジケータ（$a^m_t$）と自由テキストコミュニケーションのセマンティック埋め込み（$a^c_t$）を単一のアクション埋め込み（$u_t$）に共同でエンコードする新規コンポーネントである。これは、コミュニケーションを補助的なメタデータではなく、「ファーストクラス」のアクション入力として扱う。
• 再帰的遷移（$G$）：結合ストリーム $[z_t; u_t]$ を隠れ状態（$h_t$）へ伝播させるゲート付き再帰ユニット（GRU）。
• 予測ヘッド（$H$）：2 つの出力を生成する。教師あり予測のための明示的な次の観測予測（$\hat{y}_{t+1}$）と、閉ループダイナミクスのための次の潜在予測（$\hat{z}_{t+1}$）である。

2. 訓練目的

モデルは、生理学的妥当性を確保し、表現の崩壊を防ぐために、6 項の目的関数（$L$）の下で訓練される：

• 次の観測の教師あり学習（$L_y$）：対象観測量（例：eGFR）に対する SmoothL1 損失。
• 次の潜在予測（$L_z$）：予測された潜在状態をエンコードされた観測状態と整合させる JEPA 風の損失。
• SIGReg 正則化（$L_{SIGReg}$）：補助的教師あり学習なしで潜在状態の崩壊を防ぐために、特性関数に基づく等方性ガウス正則化子。
• 生理学的意識形状事前分布：
  • 傾きの一貫性（$L_{slope}$）：予測された 1 期間の変化を観測された変化と整合させる。
  • 局所連続性（$L_{cont}$）：小さく持続的なバイアスを抑制する Huber 損失。
  • 大ジャンプペナルティ（$L_{jump}$）：臨床的に非現実的な単一期間ジャンプに対するヒンジ型ペナルティ。

3. 訓練プロトコル

訓練と評価のミスマッチに対処するため、CMWM はロールアウトプレフィックス訓練プロトコルを利用する。標準的な教師強制訓練の代わりに、モデルは予測された対象観測量が次のステップの臨床状態にフィードバックされる軌跡（自己回帰的アンローリング）で訓練される。これにより、モデルは展開時に発生するのと同じ多段階誤差に対して最適化されることを保証する。

4. 推論の安定化

推論時には、オプションの「最初のステップアンカー」を適用し、最初の予測を最近のトレンド外挿と凸結合し、変化を臨床的に妥当な大きさにクリップすることで、初期の境界ジャンプを防止する。

ケーススタディ：慢性腎臓病（CKD）

フレームワークを検証するために、著者は 2,232 人の患者（15,070 患者年）のコホートにおける年間推定糸球体濾過量（eGFR）軌跡予測のために CMWM を実装した。

• 入力：年間臨床状態（eGFR、バイタル、検査データ）、構造化された介入（62 個のバイタル薬物特徴）、およびコミュニケーションアクション（患者と健康コーチのチャット記録の 256 次元セマンティック埋め込み）。
• ベースライン：同じ履歴と介入記述を用いた構造化プロンプトを使用した調整済み GPT-5.5 モデル。

結果

動的 50% 履歴ロールアウトテスト（患者の履歴の 50% をコンテキストとして使用し、モデルが残りの未来を予測するもの）において：

• 性能：CMWM は平均絶対誤差（MAE）が7.384、二乗平均平方根誤差（RMSE）が10.256を達成した。
• 比較：GPT-5.5 ベースラインは MAE 7.964、RMSE 11.069 を達成した。
• 改善：CMWM はベースラインに対して**MAE で−7.28%、RMSE で−7.35%**上回った。
• アブレーション：性能向上は主にコミュニケーションアクションチャネルの組み込みによって引き起こされた。セマンティック埋め込みを生のコミュニケーション量統計に置き換えても向上を取り戻せなかったことは、予測シグナルがセマンティック内容にあることを示している。さらに、構造化されたアクションとテキストアクションを分離した分割エンコーダは長期的なパフォーマンスを低下させ、閉ループロールアウトには「広幅」の共同エンコーディングの方が安定していることを示唆している。
• 効率：CMWM インスタンスの学習可能パラメータ数は約79 万であり、GPT-5.5 ベースラインよりも数桁小さいが、長期的な一貫性においてそれを上回る。

意義と主張

本論文は、CMWM が以下の点で医療世界モデルにおいて重要な前進を表すと主張している：

1. コミュニケーションのアクションとしての形式化：患者と健康コーチ間のテキスト交換を補助的コンテキストではなく、主要な介入シグナルとして扱う初の医療世界モデルである。
2. 訓練と評価のギャップの橋渡し：ロールアウトプレフィックスプロトコルは、自己の予測誤差に対して堅牢な自己回帰的臨床モデルを訓練するための具体的なレシピを提供する。
3. 生理学的妥当性：形状事前分布（傾き、連続性、ジャンプペナルティ）の統合により、長期的なロールアウトが臨床的に現実的であり、LLM のみのシミュレータに共通するドリフトを回避することを保証する。
4. ドメイン非依存性：CKD で実証されたが、このフレームワークは構造化された介入と会話的介入が交互に現れる任意の慢性疾患（例：糖尿病における HbA1c、高血圧における血圧）に適用可能な一般的なテンプレートとして提示されている。

著者は、CKD の実装が価値を示す一方で、このフレームワークは因果推定器ではなく、臨床展開前に多様で高齢の集団におけるさらなる外部検証が必要であると強調している。主な貢献は、混合介入タイプ下で安定した長期的な患者軌跡を学習するためのアーキテクチャと訓練レシピである。