想像してみてください。あなたの目の前に、どんな本でも読み、どんな物語も書き、人間のように話すことができる、超スマートなロボットの友人がいます。このロボットは「大規模言語モデル（LLM）」です。驚くほど自信に満ちた、流暢な話し方をすることができます。しかし、ここには落とし穴があります。もしこのロボットに数学の問題を解かせたり、あなたの個人データに基づいた具体的な医学的助言を求めたりすると、単に「それらしく聞こえるように」嘘をついてしまうことがあるのです。それは、天候について説得力のあるスピーチを即興でできる才能豊かな俳優のようなものです。しかし、正確な気温を聞かれた途端、実際には雨が降っていて凍えるような寒さであるにもかかわらず、「72度です」と適当に答えてしまうようなものです。健康の世界において、これは危険なことです。もしロボットが、あなたの血糖値は問題ないと言いながら実際にはそうではなかったり、存在しないリスクを捏造したりすれば、それは悪い決断を導くことになります。科学者たちは、これらのロボットが「幻覚（ハルシネーション）」（作り話）を起こすのを防ぎ、特に私たちの体に関する事柄については、確かな事実に固執させる方法を見つけ出そうとしています。

「Grounding Health AI（ヘルスAIのグラウンディング）」と題されたこの論文は、これら健康ロボットのためのセーフティネットを構築することについて書かれています。研究者たちは、「Human Phenotype Project Personal Health Agent (PHA)」と呼ばれるシステムを作り上げました。これは、ロボットに厳格なルールブックを与え、専門家による計算チームを配属し、発言する前に照らし合わせるための膨大な実在の人間のデータライブラリを与えるようなものです。彼らは、血糖値モニター（血糖値を追跡するデバイス）と食事ログを使用している人々の2週間分の実データを用いて、このシステムをテストしました。その結果はどうだったでしょうか？この新しいシステムを使用したとき、ロボットは数字を捏造することをやめました。血糖値のパターンを推測する代わりに、実際のツールを使って計算するようになりました。リスクを捏造する代わりに、十分な情報がない場合は情報不足であることを認めました。チームは、これらの「ツール」と「スキル（話し方のルール）」を組み合わせることで、構造と事実に関する正確性がわずか37%だったロボットを、91%の正確性にまで高めることができたと結論付けました。これは、医師や患者が実際に信頼できるAIへと向かう大きな一歩です。

問題点：感じよく嘘をつくロボット

想像してみてください。あなたが、2週間にわたって食べたものの記録（日記）と、血糖値のグラフを未来的なロボットに手渡したとします。そして、「私の代謝はどうですか？」と尋ねます。標準的な、超スマートなAIなら、美しく流暢なレポートを書くでしょう。例えば、「あなたは172回の食事をしました！」（実際には70回なのに）とか、「あなたの血糖値の変動は緩やかでした」（実際には激しかったのに）といった具合です。それは完璧に聞こえますが、嘘なのです。ロボットは文章を書くのが上手すぎるあまり、空白を「正しそうな推測」で埋めてしまうのです。

研究者たちは、世界最高峰のAIモデルでさえこれをやってしまうことを発見しました。AIは「MAGE」（血糖値がどれくらい上下するかを測定するもの）という指標を捏造し、実際の計算では84.8であるところを「41」であると言い張ったりします。データには70食分しかないのに、172食分を分析したと主張したりします。さらには、計算するためのツールを持っていないにもかかわらず、将来の健康リスクを予測したりさえします。それは、料理の仕方を知らないシェフが、食べてもいない料理に対して星5つのレビューを書いているようなものです。一般の人にとっては混乱を招くだけですが、医師にとっては危険です。

解決策：「グラウンディング」スタック

これを修正するために、チームはPHAと呼ばれる新しいタイプのAIエージェントを構築しました。彼らは単にロボットに「注意しろ」と言ったのではありません。4層の「グラウンディング（接地）」システムを構築したのです。ロボットがテストを受けている学生だと想像してください。

1. 参照ライブラリ（Human Phenotype Project）: まず、ロボットに13,000人以上の実在する人々からの膨大なデータライブラリを与えました。これは単なるランダムな数字ではありません。食べ物や運動に対して人間の体がどのように反応するかという深い洞察です。もしロボットが「あなたの血糖値は高いです」と言いたいなら、このライブラリをチェックして、自分と同じ年齢、同じ性別の人がどれくらいそのレベルにあるかを確認しなければなりません。これは、自分のテストの点数が良かったかどうかを推測するのではなく、13,000人のクラスメートと比較して確認するようなものです。
2. 専門家ツール（計算機）: 次に、21個の特定の計算機を含むツールボックスをロボットに与えました。ロボットは頭の中で計算することを禁止されています。平均血糖値を知る必要があるなら、特定のツールに計算を依頼しなければなりません。心臓のリスクを知る必要があるなら、特定の心臓リスク計算機を使わなければなりません。ロボットはあくまで伝達者に過ぎず、重労働はツールが行います。
3. 行動スキル（ルールブック）: これが最も巧妙な部分です。ロボットには、シンプルなテキストファイル（ルールブックのようなもの）で書かれた「スキル」が備わっています。これらのルールは、ロボットが何を言ってもよく、何を言ってはいけないかを指示します。例えば、「ツールを使って食事数を計算していない場合は、その人が何食食べたかを述べてはならない」というルールがあります。また、「血圧のデータがない場合は、心臓のリスクを推測してはならない」というルールもあります。これらのルールは、たとえロボットがそうしたいと思っても、作り話をするのを阻止します。
4. テスト駆動サイクル（採点者）: 最後に、チームはロボットを構築しながら、同時にテストするシステムを構築しました。ロボットが間違い（数字の捏造など）を犯すたびに、チームはその間違いを次に出さないための特定のテストを作成します。これは、ゲームオーバーになるたびに、二度と同じ場所で落ちないように新しい罠が追加されるビデオゲームのようなものです。

何が分かったのか：ツール vs ルール

研究者たちは大規模な実験を行いました。14人の実在する人物のデータを用い、異なる設定でロボットにレポートを書かせました。以下のものを比較しました：

• ベースライン: ツールもルールも持たない、ただのスマートなロボット。
• ツールのみ: 計算機は持っているが、ルールブックはないロボット。
• フルシステム: 計算機とルールブックの両方を持つロボット。

結果は明確で、驚くべきものでした。

• ベースラインのロボット: 「信頼性」テストにおいて、0.37（1.0満点）というスコアでした。流暢ではありましたが、作り話に満ちていました。
• ツールのみ: 計算機は与えましたが、ルールブックがない状態では、スコアは0.49へとわずかに上昇しました。ロボットは今や計算ができるようになりましたが、その報告の仕方がまだ適切ではありませんでした。計算の過程に触れるのを忘れたり、ツールがサポートしていない内容を述べてしまったりすることがありました。
• フルシステム: その上にルールブック（スキル）を加えると、スコアは0.91へと跳ね上がりました。

ここで得られた大きな教訓は、「ツール」と「ルール」は異なる役割を果たすということです。ツールは数字を正確にしましたが（正確性を14%から90%へ向上）、ルールはレポートを完全で、誠実で、適切な構造にする役割を果たしました。ルールがなければ、ロボットは答えは持っているものの、それを提示する方法を知りませんでした。ルールがあれば、ロボットは信頼できるアシスタントになったのです。

「拒絶」というスーパーパワー

この新しいシステムが学んだ最も素晴らしいことの一つは、「分かりません」と言う方法です。以前のテストでは、データ（血圧の数値など）が不足している場合、ロボットはそれでも心臓のリスクを強引に推測していました。「あなたのリスクは高いです」と、計算できないにもかかわらず答えていたのです。

しかし、新しいシステムはそれを止めました。血圧データなしで心臓リスクを計算しようとすると、ルールによって「血圧のデータが不足しているため、これを計算できません。まずそのデータを取得してください」と言うように強制されました。ロボットは嘘をつくことを拒否したのです。これは劇的な変化です。常に答え（たとえ間違った答えであっても）を出そうとするロボットではなく、自分の限界を知っているロボットへと進化したのです。

他の分野でも使えるのか？

チームは、このシステムが他の種類の健康に関する質問にも対応できるかをテストしました。一般的な代謝の健康や、心血管リスクについても試してみました。システムはどちらに対してもうまく機能し、スコアは低い約0.37から、0.70または0.72という高い数値へと上昇しました。これは、彼らが見つけた「レシピ」（実データ、特定のツール、そして厳格なルールの組み合わせ）が、血糖値だけでなく、医学のさまざまな分野に応用できることを示唆しています。

結論

この論文は、AIを健康管理のために安全にするには、単にAIを「より賢く」するだけでは不十分であることを示しています。AIに必ず実在の計算機を使わせ、実在の人間のデータと照らし合わせ、何を話すべきかについての厳格なルールに従わせるシステムを構築しなければなりません。その結果、恐ろしい事実や間違った事実を捏造する可能性がはるかに低いシステムが得られました。

研究者たちは、これがまだ完璧な解決策ではないことも認めています。彼らは小規模なグループに対してテストを行っており、主に書面によるレポートであり、リアルタイムの会話ではありません。また、レポートの「本質」（患者にとってどれほど役に立つか、あるいは親切か）はコンピュータでのテストが難しく、人間の医師による検証が必要であるとも指摘しています。しかし、「形式」の部分（数字、出典、そして誠実さ）において、この新システムは劇的な改善をもたらしました。それは、自信満々に間違ったことを言うロボットを、「正しいからこそ自信を持って答えられる」ロボットへと変えたのです。