CARE-Bench: Benchmarking Patient-Facing LLM Triage

CARE-BENCHの技術要約：患者向けLLMトリアージのベンチマーク

問題定義
患者向けの医療用大規模言語モデル（LLM）やエージェントは、患者が臨床医に到達する前の症状クエリに回答するために、ますます多く導入されています。この文脈における主要な安全上の課題は、単なる診断の正確性や回答の質ではなく、ユーザーが取るべき「次のアクション」を正しく決定することです。現在の評価ベンチマークは、静的な臨床ヴィネット（症例提示）や広範なヘルスケアQAタスクに依存することが多く、患者向けトリアージの動的な性質を捉えきれていません。現実世界のインタラクションにおいて、適切なアクション（例：情報の明確化を求める、セルフケアを推奨する、あるいは救急医療へのエスカレーションを行うなど）は、各ターンで開示される情報に依存します。時期尚早な助言は、アンダートリアージ（必要なケアの遅延）やオーバートリアージ（不必要な需要の創出）を招く可能性があり、一方で曖昧な回答はヘルスケア・リテラシーの低いユーザーを混乱させる可能性があります。既存の研究は、現在のモデルがキャリブレーションに苦慮しており、緊急事態のアンダートリアージや非緊急事態のオーバートリアージ、あるいは即時の次のステップを不明瞭にする混合的なアクション信号を提供してしまう傾向があることを示しています。

手法
著者らは、逐次的な患者向けトリアージを「ターンごとの現時点のアクション（per-turn current-action）」タスクとして評価するために設計された、ソースに基づいたベンチマークであるCARE-BENCHを導入します。

• タスク定式化: 本ベンチマークは、トリアージを分類問題として扱います。システムは「患者の開示プレフィックス（現在のターンまでに蓄積された患者のテキスト）」を受け取り、応答を出力しなければなりません。この応答は、以下の4つのアクションラベルのいずれかにマッピングされます。
  1. INFONEEDED（情報不足）: ケアのレベルを選択する前に、的を絞った情報の明確化が必要である。
  2. SELFCARE/MONITOR（セルフケア/経過観察）: 現在の情報は、セルフケア、経過観察、または将来的な安全策（safety-netting）を支持している。
  3. NONURGENTCARE（非緊急ケア）: 緊急性のない臨床評価が求められる。
  4. URGENTCARE（緊急ケア）: 当日診療、救急、または遅延が安全を損なうケアが求められる。
• データセット構築: データセットは、医療対話、コンサルテーション、およびフォローアップ質問のソース（MedDialog/OpenMed, ChatDoctor, PriMock57, Followup-Q）から再構成された500のケースと1,059の評価ラウンドで構成されています。GPT-5.5と人間によるレビュー（公衆衛生学の博士候補生および研修医を含む）を用いた反復的なワークフローにより、ソースの事実を逐次的な患者の開示へと抽象化しています。各ラウンドは、その時点での情報状態に基づいた、正当な現時点のアクションと共にラベル付けされています。
• 評価プロトコル: 著者らは、11のモデル（クローズド、オープンウェイトの汎用モデル、およびオープンなヘルスケアモデルにわたる）を、2つのプロトコルの下で評価しました。
  1. Unprompted（プロンプトなし）: モデルは特定の指示なしに、一般的なユーザーのクエリをシミュレートした患者テキストのみを受け取ります。
  2. Prompted（プロンプトあり）: 「簡潔、安全、かつアクション指向」であるという最小限の指示が追加されますが、例示やラベル名は提供されません。
• スコアリング: 応答は、固定されたgpt-5.5マッパーを使用して4つのラベル空間にマッピングされます。主要な指標はマクロF1であり、精度（accuracy）、過剰/不足トリアージの順序、および閾値特有のエラー率（見逃されたケア、不要なケア、緊急事態の偽陰性、および偽の緊急エスカレーション）によって補完されます。

主な貢献

1. トリアージの操作化: 本論文は、静的なヴィネット分類を超え、制御された患者開示プレフィックスを用いた、逐次的な患者向けトリアージを「ターンごとの現時点のアクション」評価タスクとして操作化しました。
2. ソースに基づいたベンチマーク: 開発、検証、およびホールドアウトテスト分割をカバーする、監査可能なソース・グラウンディングを備えた500のケースと1,059のラウンドのデータセットを公開します。
3. 実証的評価: 11のLLMを包括的に評価し、単純なプロンプティングでは解決されない、アクションのタイミングとキャリブレーションにおける持続的な失敗を明らかにしました。

結果

• パフォーマンス: UnpromptedでのマクロF1スコアは低く、31.2%から50.4%の範囲でした。プロンプティングは11モデル中10モデルのパフォーマンスを向上させ、マクロF1は46.9%から63.4%の範囲となりましたが、大幅な閾値エラーが依然として残りました。
• 明確化の失敗: 主要なエラーモードは、情報が不十分であることを認識できないことです。正しいアクションがINFONEEDEDであった場合、Unpromptedでは19.0%、Promptedでは33.5%の出力のみが、情報の明確化を求めるステップを正しく維持できました。大多数（Unpromptedで81.0%、Promptedで66.5%）は、時期尚早にケアを推奨していました。
• 閾値のトレードオフ: プロンプティングは、しばしばモデルの挙動を専門的なケアの推奨へとシフトさせます。これは、見逃された専門的ケア（偽陰性）を減少させますが、同時に不要なケア（偽陽性）やオーバートリアージを頻繁に増加させます。例えば、GPT-5.5は低い緊急偽陰性率（9.8%）を達成しましたが、高い不要なケア率（56.9%）を示しました。
• 感度分析: すべての患者の開示が一度に利用可能であった場合（終端プレフィックス）、パフォーマンスは向上しました。これは、モデルは最終的な推奨事項についてはより優れた判断ができるものの、情報収集フェーズにおけるアクションのタイミングについては苦慮していることを示唆しています。軌跡の完全一致（すべてのターンで正しいアクションをとること）は、依然として低い値（Unpromptedで22.0%、Promptedで34.9%）でした。
• モデルの多様性: すべての安全性次元において明確なリーダーとなる単一のモデルは現れませんでした。オープンなヘルスケアモデルが汎用モデルを一様に上回ることもありませんでした。例えば、HuatuoGPT-o1は、医療チューニングされたモデルであるにもかかわらず、高い緊急偽陰性率を示しました。

意義と主張
本論文は、患者向けトリアージは単純なプロンプティングの問題ではないと結論付けています。エラー（特に、十分な情報が集まるまでケアの助言を遅らせることができないという点）の持続性は、現在のモデルが進化する情報状態に基づいてアクションのタイミングを適切に調整する能力を欠いていることを示唆しています。

著者らは、CARE-BENCHが、患者向けの医療用LLMがケアを求める助言を適切なタイミングとキャリブレーションで伝達できているかどうかを研究するための制御されたリソースを提供すると主張しています。彼らは、本ベンチマークが「ケアシステム内での臨床的意思決定」ではなく、「患者に伝えられる現時点のアクション」を評価していることを明示しています。結果は、現在のモデルが、明確化が必要な場合に特に、大幅な閾値エラーを起こしているという主張を支持しています。本論文は、これらの知見が、集計された正確性や広範なヘルスケアQAベンチマークだけに頼るのではなく、アクションのタイミングを明示的に評価する必要性を支持していることを強調しています。また、著者らは、本ベンチマークが臨床的安全、診断の正確性、または自律的なルーティングへの準備完了を証明するものではないことを注意喚起しています。