ChatIBD: design, safeguards, and early international use of a guideline-grounded generative AI tool for inflammatory bowel disease (IBD) professionals

インターネットを、あらゆる本が異なる著者によって書かれ、中には適当なことを書き連ねる悪名高い著者もいる、巨大で混沌とした図書館だと想像してみてください。これが、汎用人工知能（AI）の世界です。これらのデジタル脳は驚くほど賢く、ほとんどあらゆることについてチャットできますが、「ハルシネーション（幻覚）」と呼ばれる厄介な癖を持っています。それは、歴史上の出来事について具体的な質問を受けた学生が、実際には起こらなかった物語を、さも事実であるかのように自信満々に作り上げてしまうようなものです。誤った事実が危険を招きかねない医療の世界において、これは大きな問題です。医師が必要としているのは、単に巧妙な答えではなく、厳格に真実であり、信頼できる情報源に基づいた答えなのです。

これを解決するために、科学者たちは「専門の司書」を構築しています。AIを図書館全体に放浪させるのではなく、最も信頼できる医学教科書や規則書だけが入った、厳選された小さな部屋の中に閉じ込めるのです。この手法は「検索拡張生成（RAG）」と呼ばれます。これは、AIに、承認された本のページだけを見ることができる眼鏡を与えるようなものだと考えてください。質問を受けると、AIはそのページの中から答えを見つけ出し、その答えをどのページから見つけたのかを正確に示さなければなりません。もし答えが本の中にない場合は、何かをでっち上げるのではなく、「分かりません」と言うようにプログラムされています。この論文は、腸の痛みを引き起こす炎症性腸疾患（IBD）を治療する医師のために特別に設計された、新しい専門司書についての研究です。

論文：ChatIBDの最初の6ヶ月間

この研究の背後にいる研究者たち（ChatIBDというツールを作成した医師でもあるチーム）は、彼らの新しいAI司書が実世界でどのように機能するかを確認したいと考えました。彼らは単にラボでテストしたのではなく、医師たちが実際にどのようにツールを使用しているかを見るために、6ヶ月間インターネット上に放しました。

セットアップ：ガードの固いチャットボット
ChatIBBは、医師がIBDに関する質問ができるウェブサイトです。しかし、推測を行う一般的なチャットボットとは異なり、これは厳格な安全ルールに基づいて構築されています。これは「キュレートされたコーパス（精選された文書群）」、つまり、トップ組織による32から35の公式な医学的ガイドラインの特定のコレクションに基づいています。医師が質問をすると、システムは単に答えを「考える」のではなく、まずそれらの特定のガイドラインの中を探り、関連するテキストを見つけ出します。そして、そのテキストを要約するためにAIを使用し、極めて重要な点として、その答えの出典となった正確なページへのクリック可能なリンクを提供しなければなりません。

さらに安全性を高めるため、システムには特別な「投与量カード」機能があります。医師が患者にどの程度の薬を投与すべきかを尋ねた場合、AIは数値を推測しません。代わりに、公式の欧州規制に基づき、手動でチェックされた別のデータベースから投与量を引き出し、明確なカードとして表示します。AIは、どの薬について尋ねられているかを特定することのみが許可されており、数値自体は固定された変更不可能なリストから取得されます。

実験：誰がどのように使用したか？
この研究は、2025年10月1日から2026年4月1日までの間に収集されたデータを調査しました。この期間中、913人がこのツールに登録しました。そのうち、684人（約75%）が少なくとも1回のメッセージを送信しており、349人（約38%）が「アクティブユーザー」、つまり3回以上のメッセージを送信したユーザーでした。

ツールは69カ国、28の言語の医師によって使用されました。最も活発なユーザーはイギリスとスペインからでした。興味深いことに、ツールは主に平日（85.1%の時間）に使用されており、これは医師が夜遅くに勉強するための相棒としてではなく、仕事中のクイックリファレンスとして使用していたことを示唆しています。

何が見つかったのか？
最も一般的な質問は薬物療法に関するものでした。全メッセージのほぼ半分（46.6%）が薬物治療に関するものでした。システムは、特別な「投与量カード」を1,332回正常に起動させており、医師が迅速かつ安全な投与量の確認のためにこれを利用していたことを示しています。

研究者たちは、医師が何をしようとしていたのかについても調査しました。最も一般的な目的は「ガイドラインの合成」であり、これは医師が特定のトピックについて規則が何を定めているかをAIに要約させるものです。その他の一般的なリクエストには、定義の確認、安全性警告のチェック、または治療の順序の確認などが含まれていました。

安全性チェック：ミスはあったか？
チームはツールのパフォーマンスを注意深く監視しました。ユーザーが明示的なフィードバックを行ったケースを記録しましたが、16件のうち15件は肯定的な評価でした。しかし、1件の否定的な評価があり、それが安全レビューをトリガーしました。ある医師が、リスキズマブ（Risankizumab）という薬に関する回答についてフラグを立てました。AIの文章がわずかに曖昧であり、その薬が特定の患者にとって実際よりも悪いものであると誤解される可能性がありました。チームはこれを検討し、その言い回しにリスクがあることを認識し、将来的にそのような種類の混乱を防ぐためにシステムを変更しました。

これが意味すること（および意味しないこと）
この研究は、ChatIBDが国際的に利用されており、複雑な医学的規則をナビゲートするために医師たちが繰り返し利用していることを示しています。これは、ガイドラインに基づいた特化型のAIが、専門家にとって実用的なツールになり得ることを示唆しています。

しかし、著者たちは結果を過大評価しないよう細心の注意を払っています。彼らは、この研究は、このツールが医学的に正確であること、安全であること、または患者の治療に有効であることを証明するものではないと明示しています。彼らは、患者が改善したか、あるいは医師がミスを減らしたかを測定したのではなく、どれだけの人がツールを使用し、どのように使用したかを測定したに過ぎません。フラグが立てられた唯一のエラーは、厳格な保護策があっても、人間のレビューがいまだに必要であることを思い出させるものです。

要約すると、ChatIBDは、利用され、使用され、そして指摘された際に自らの間違いを捉えることで、最初の実世界テストを通過しました。しかし、研究者たちは、これは始まりに過ぎないと強調しています。このツールは有望な「専門の司書」ですが、患者ケアという極めて重要な世界において完全に信頼できることを証明するためには、さらなる厳格なテストが必要です。