ClinicBot: A Guideline-Grounded Clinical Chatbot with Prioritized Evidence RAG and Verifiable Citations

ClinicBot は、医療ガイドラインを構造的に抽出し、テキストの類似性ではなく臨床的意義に基づいてエビデンスを優先し、高リスクの医療状況における幻覚を防止するために検証可能な引用を提供することで、診断精度と信頼性を向上させる、ガイドラインに基づく臨床チャットボットである。

要約

あなたは複雑な医療パズルを解こうとしている医師だと想像してください。あなたの手元には、何をすべきかを正確に示す、100 ページにも及ぶ膨大な規則書（公式の医療ガイドライン）があります。問題は、標準的な AI アシスタントにその本を読んで質問に答えさせると、混乱したり、規則を混同したり、本には載っていないがそれらしく聞こえる事実を捏造したりする可能性があることです。これを「幻覚（ハルシネーション）」と呼び、医療においては危険です。

この論文は、この事態を防ぐために設計された新しい AI アシスタント「ClinicBot」を紹介しています。ClinicBot を一般的な百科事典ではなく、公式の医療規則書を丸暗記し、必要なページを瞬時に見つけ出す方法を知っている、極めて整理整頓され、規則を厳格に守る図書館司書だと考えてください。

以下に、ClinicBot の仕組みを簡単なステップに分解して示します。

1. 「スマートな文書管理システム」（構造化抽出）

ほとんどの AI システムは、人間が小説を読むように、行ごと、単語ごとに文書を読み進めます。ClinicBot は異なります。質問に答える前に、公式の医療ガイドラインを取り出し、構造化された文書管理システムに分解します。

• 「黄金の規則（公式の推奨事項）」を「支持事実（数値を含む表）」や「背景説明（解説）」から分離します。
• アナロジー： 散らかった書類の山を想像してください。通常の AI は、その山全体を検索して答えを見つけようとします。一方、ClinicBot はまず、書類を「必須の規則」、「重要な数値」、「追加の文脈」というラベルの付いた 3 つのフォルダに分類します。そして、「必須の規則」が最も重要であることを知っています。

2. 「VIP 列」（優先順位付けされた証拠）

医師が質問をすると、ClinicBot は似ている最初の数文を単に拾ってくるわけではありません。重要性に基づいた厳格なVIP 列に従います。

• ステップ 1： まず公式の「黄金の規則」を探します。
• ステップ 2： さらに詳細が必要な場合、「重要な数値」（血糖値の閾値など）を確認します。
• ステップ 3： 必要に迫られた場合のみ、「背景説明」を参照します。
• アナロジー： コンサート会場にいると想像してください。通常のシステムは、全員が一度にステージに殺到することを許します。ClinicBot には、VIP（公式の規則）をまずステージに通し、次にスタッフ（数値）を通し、一般大衆（背景テキスト）を後ろに留める、用心棒がいます。これにより、最も重要な助言が常に最初に聞かれることが保証されます。

3. 「事実確認者」（検証）

ClinicBot が回答を出す前に、厳格な事実確認テストを実行します。

• AI に「規則書の正確な行を指し示すことができる場合のみ、これを言える」と言わせます。
• 数値が規則書と完全に一致しない場合（例：「100–125」の代わりに「100」と言うなど）、回答を拒否します。
• 規則書に答えがない場合、何かを捏造するのではなく、「これには十分な証拠がありません」と丁寧に伝えます。
• アナロジー： 法廷にいる弁護士だと考えてください。彼らは単に「被告は有罪だと思います」とは言えません。それを証明する特定の法律とページ番号を提示しなければならないのです。法律が見つからない場合、知らないことを認めます。

何ができるのか？（デモンストレーション）

論文は、ClinicBot が以下の 2 つの具体的な方法で機能することを示しています。

1. 患者の質問への回答： 医師が患者の病歴を入力します（例：「高血糖の 45 歳男性...」）。ClinicBot は正確な規則を見つけ、明確で簡潔な回答を提供し、使用した特定のページと規則番号を医師に示します。
2. リスク評価ツール： 糖尿病のリスクを計算する電卓のように機能します。ユーザーは年齢、体重、家族歴などの詳細を入力します。ClinicBot は、厳密に米国糖尿病協会の公式規則に基づいてポイントを合計し、ユーザーにリスクレベルと次に何をすべきかを正確に伝えます。

結果

著者らは、30 の実世界の医療質問を用いて ClinicBot をテストしました。

• 96% の場合、回答は正確か、ほぼ完璧でした。
• 少数の誤りは、単に小さな詳細の欠落であり、誤った助言ではありませんでした。
• 重要なのは、すべての回答に、公式ガイドラインのどこから情報が得られたかを示す「領収書（引用）」が添えられていたことです。

要約すると： ClinicBot は推測を拒否する医療用チャットボットです。それは公式ガイドラインを聖なる規則書として扱い、最も重要な規則を優先し、言うすべてのことに対して証明を要求することで、医師が信頼でき、検証可能な回答を得られるようにします。

技術概要

技術概要：ClinicBot

問題提起

大規模言語モデル（LLM）の高リスク臨床領域への導入は、その幻覚（ハルシネーション）の傾向と、権威あるガイドラインへの明示的な根拠付けの欠如によって阻害されている。標準的な検索拡張生成（RAG）システムは外部ソースにアクセスできるが、それらはしばしばテキストの類似性に基づいてすべての証拠を無差別に扱う。このアプローチは、臨床的証拠の階層を尊重しないノイズの多い文脈と一般的な回答を生み出し、特定の推奨事項とその支持データの間の関係を不明瞭にする。その結果、臨床家は回答が公式ガイドラインを忠実に反映しているかを確認することが困難となり、医療意思決定支援における信頼性と有用性が損なわれる。

手法

ClinicBot は、検索を「意味的知識抽出」と「優先順位付けされた証拠検索」の 2 つの相補的段階に分離する、構造化されたガイドライン根拠型アーキテクチャを通じて、これらの限界に対処する。

1. 構造化知識ベースの構築

PubMed 抄録などの非構造化テキストを処理する一般的な RAG システムとは異なり、ClinicBot はその操作を単一の権威あるソース、すなわち『米国糖尿病協会（ADA）糖尿病ケア基準（2025 年版）』に根ざしている。システムは、この文書を半自動的な解析と手動検証を用いて構造化された JSON 知識ベースに変換する。コンテンツは明確に 3 つの異なるタイプに分類され、それぞれに特定の検索優先度が割り当てられる。

• 推奨事項（Recommendations）： ID と証拠グレード（例：Grade A）を含む構造化レコード。
• 基準表（Criteria Tables）： 数値しきい値と分類範囲を備えた診断およびスクリーニング基準。
• 叙述的コンテキスト（Narrative Context）： 根拠、集団固有のガイダンス、および定義。

2. 2 段階検索パイプライン

検索プロセスは、臨床的関連性と権威を確保するために「ルーティング後検索」戦略を採用する。

• ルーティング： LLM ベースの少数ショット分類器が、臨床家のクエリをガイドラインの特定のセクションおよびサブセクション（例：「診断とスクリーニング」）にマッピングする。これにより、検索範囲が概念的に整合したセグメントに絞り込まれ、全文検索よりも特異性が向上する。
• 優先順位付けされた検索： ルーティングされたセクション内では、システムは意味的類似性ではなく臨床的権威に基づいて厳格な検索順序を強制する。
  1. 推奨事項（最高優先度）
  2. 診断/スクリーニング基準表
  3. 支持となる叙述
     この構造的フィルタリングにより、実行可能で引用可能なコンテンツが生成器に渡される文脈を支配する。

3. 回答生成と検証

生成フェーズでは、外部の医学知識の注入を禁止するプロンプトテンプレートによって制約された LLM が使用される。出力は以下の構成で構造化される。

• 直接的で実行可能な簡潔な回答（2〜3 文）。
• 主張を特定の推奨事項 ID または表の行にリンクする検証可能な引用。
• 正確な数値しきい値を含む証拠の詳細。

重要なのは、回答が提示される前に検証モジュールが機能することである。これは幻覚を防ぐために 3 つの制約を強制する。

1. 引用要件： すべての主張は、特定の引用を伴う検索された証拠によって支持されなければならない。引用のない主張は却下される。
2. 数値完全性： 数値しきい値（例：mg/dL 値）は、ドリフトを防ぐために文字列一致を通じて検索された値と正確に一致しなければならない。
3. ** graceful 拒否：** ルーティングされたセクションに十分な証拠がない場合、システムは幻覚を起こすのではなく、回答の生成を拒否する。

主要な貢献

• ガイドライン根拠型アーキテクチャ： 権威あるガイドラインを無差別なテキストとして扱うのではなく、構造化され優先順位付けされた知識ベースに変換するシステム。
• 証拠の優先順位付け： テキストの類似性ではなく、臨床的重要性（推奨事項 > 表 > 叙述）によってコンテンツをランク付けする検索メカニズム。これは臨床的証拠の階層と整合する。
• 検証可能な引用と追跡可能性： 回答からソース資料までの完全な追跡可能性を強制する設計。これには、支持されない主張を却下し数値の正確性を確保する検証レイヤーが含まれる。
• デュアルモードインターフェース： ガイドライン根拠型の質問応答インターフェースと、ADA フレームワークに忠実な糖尿病リスク評価ツールの両方を備えた Web ベースの実演。

評価結果

システムは、Hugging Face の糖尿病 QA データセットと diabetes.co.uk の医療 Web ボードから収集された、30 の手動キュレーションされた糖尿病関連の質問に対して評価された。評価対象には、診断基準、薬物管理、生活習慣介入、患者教育が含まれた。

• 全体の精度： ClinicBot は96% の総合精度を達成した。
• 内訳：
  • 63%（19/30）： 完全に正しい回答。
  • 33%（10/30）： 二次的な薬物選択肢などの非重要な詳細の軽微な欠落を除き、理解は正しい。
  • 3%（1/30）： 誤った回答。
• パフォーマンス： 結果は、ガイドライン根拠型アーキテクチャが、複雑な ADA 推奨事項を実践中の臨床家向けに臨床的に正確かつ実行可能な回答へと効果的に実装していることを示している。

意義

本論文は、生来の生成能力よりも説明可能性と証拠の正当化を優先する、信頼性の高い臨床 AI への一歩として ClinicBot を位置づけている。意味的知識抽出と階層的証拠ランキングを組み合わせることで、このシステムは、権威あるソースへの厳格な順守を維持しながら、複雑な臨床ガイドラインをマルチエージェント環境で大規模に処理できることを実証している。この研究は、医療のような高保証ドメインにおいて、特定のガイドラインセクションや証拠グレードに対する意思決定を検証する能力は、回答そのものの正確性と同じくらい重要であることを浮き彫りにしている。このシステムは、透明性があり、追跡可能で、ガイドラインに忠実な支援を提供することによって、臨床家を置き換えるのではなく、支援するように設計されている。