CARE: Privacy-Compliant Agentic Reasoning with Evidence Discordance

1. 問題定義：証拠の不一致とプライバシー制約

背景と課題:

• 証拠の不一致 (Evidence Discordance): 集中治療室（ICU）などの高リスク医療現場では、患者が「痛みがない」「落ち着いている」と訴える（主観的証拠）一方で、血圧や心拍数などの生理学的データが「悪化のリスク」を示している（客観的証拠）という矛盾した状況が発生します。従来の単一パス（一度きり）の LLM や既存のモデルは、こうした矛盾する信号を統合して判断することが難しく、しばしば一方の信号（特に主観的な安心感）に偏って誤った判断を下します。
• プライバシー制約: 医療データは機密性が高いため、強力なクローズドソースの LLM（例：GPT-5 など）に生データを直接送信することはできません。一方で、ローカルで実行可能なオープンソース LLM はプライバシーを守れますが、複雑な臨床推論においては性能が不足する傾向があります。
• 既存手法の限界: 単一パス推論や、単純なマルチエージェント議論（Debate）では、矛盾する証拠を段階的に処理できず、特定のクラスに偏った予測（One-class collapse）を起こしやすいことが示されています。

2. 提案手法：CARE (Privacy-Compliant Agentic Reasoning)

CARE は、**「強力なモデルによる構造化ガイダンス」と「ローカルモデルによる患者固有の推論」**を分離・連携させる多段階の代理（Agentic）フレームワークです。

アーキテクチャの核心:

• プライバシー保護: 生患者データ（Raw Patient Values）はローカル環境に留まり、外部のクローズドソースモデルには送信されません。外部モデルがアクセスするのは、タスク定義、特徴量の意味、カテゴリ定義などの「メタデータ」のみです。
• 4 段階の推論プロセス:
  1. ルブリック生成と初期状態割り当て (Rubric Generation & Initial State Assignment):
     • 外部モデル（Proprietary LLM）が、タスク情報に基づいて「患者の状態カテゴリ（例：安定、潜在的なショック、悪化など）」の定義（ルブリック）を生成します。
     • ローカルモデルがこのルブリックを適用し、利用可能な生データから初期状態を割り当てます。
  2. カテゴリ感知データ収集 (Category-Aware Data Acquisition):
     • ローカルモデルが、現在の状態カテゴリに基づいて「追加で必要な証拠（特徴量）」を特定します。
     • 単なるランダムな検索ではなく、現在の状態が示唆するリスクに基づいて、乳酸値や尿量など特定のデータをローカルから取得します。
  3. 遷移推論 (Transition Reasoning):
     • 外部モデルは、生データではなく「現在の状態カテゴリ」と「取得済みの特徴量の種類」のみを受け取り、状態遷移のガイダンス（例：「血圧異常があれば、他の臓器機能の証拠も確認すべき」）を生成します。
     • ローカル側は、このガイダンスと実際の生データを組み合わせて、状態の更新（遷移）をローカルで計算・決定します。
  4. 最終意思決定 (Final Decision-Making):
     • ローカルモデルが、初期状態、収集された証拠、遷移の履歴を統合し、最終的な臨床判断（例：「観察」「治療開始」「調査」）を出力します。

3. データセット：MIMIC-DOS

• 目的: 主観的証拠と客観的証拠が矛盾するケースに特化したベンチマークの構築。
• 構成: 広く利用されている MIMIC-IV データセットから、以下の条件を満たす症例のみを抽出して構築されました。
  • 過去 1 時間の痛みスコアが 0（痛みなし）。
  • RASS（鎮静・興奮スケール）が 0 付近（冷静）。
  • 平均動脈圧（MAP）が 65 mmHg 未満の時間が 5 分以上（低血圧の兆候）。
• 特徴: 患者は「落ち着いているように見える」が「生理学的には不安定」という、臨床的に最も判断が難しい「隠性ショック（Occult Shock）」のような状態をシミュレートしています。

4. 実験結果

評価設定:

• ベースライン: 単一パス推論、多数決（3 モデル）、同期型マルチエージェント議論（RSMAD）、自信度考慮型逐次議論（ConfMAD）など。
• 指標: 真陽性率（TPR）、真陰性率（TNR）、バランス精度（BA）、G-mean、MCC。特に、片方のクラスに偏らないバランスの取れた性能が重視されました。

主要な結果:

• CARE の優位性: CARE（ローカルに GPT-OSS-120B、外部に GPT-5 を使用）は、すべてのベースラインを上回る性能を示しました。
  • バランスの取れた性能: TPR (0.5220) と TNR (0.5700) の両方が 0.5 を超えた唯一の手法でした。
  • ベースラインの失敗: 単一パスや議論ベースの手法は、特定のクラス（主に陰性）に偏った予測（One-class collapse）を起こし、実用的なバランス精度（BA）や MCC が低くなりました。
• アブレーション研究:
  • ステージ 3（遷移推論）を削除すると、システムが過度に保守的になり、TPR が低下しました。これは、矛盾する証拠を統合してリスク判断を行う段階が重要であることを示しています。
  • ステージ 1（ルブリック生成）も、推論の事前知識として有効であることが示されました。

5. 貢献と意義

1. 新たな課題の特定: 医療 AI において、主観的・客観的証拠の不一致が重要な未解決課題であることを明らかにし、これを評価するためのベンチマーク「MIMIC-DOS」を提案しました。
2. プライバシーと性能の両立: 生データを外部に送信せずに、強力なモデルの推論能力を活用する「CARE」フレームワークを提案しました。これは、プライバシー制約下での高度な意思決定支援の実現可能性を示しました。
3. 構造化推論の重要性: 単なる「入力→出力」ではなく、状態の定義、証拠の収集、状態遷移の推論という多段階の構造化プロセスが、矛盾する証拠を扱う際に不可欠であることを実証しました。

結論:
CARE は、医療現場のような高リスクかつプライバシー制約の厳しい環境において、矛盾する情報を統合し、偏りのない正確な意思決定を行うための新しいパラダイムを提供します。特に、単一モデルや単純な議論では解決できない「証拠の不一致」に対するロバストな解決策として、臨床 AI の実用化に向けた重要な一歩となります。