あなたは、超スマートなロボットに医者としてのやり方を教えていると想像してください。あなたは数千冊の医学教科書を見せ、クイズ形式で練習させます。ロボットは完璧なスコアを叩き出し、あらゆるテストを鮮やかにパスしました。しかし、ここには落とし穴があります。ほとんどのテストは、問題を一つずつ、独立して解くように求めているのです。それは、見た目がほぼ同一だが全く異なる治療が必要な二人の患者を、ロボットが区別できるかどうかをチェックしていません。これは、数学のテストで答えの鍵を暗記しているものの、問題の中の数字を一つ変えただけで失敗してしまう学生のようなものです。現実の世界、特に母子保健においては、症状のわずかな違いが生死を分けることがあります。もしロボットが最初の推測に固執し、新しい手がかりが現れても考えを変えることを拒んだら、危険な間違いを犯す可能性があります。これが「診断固着（diagnostic fixation）」の問題です。システムが最初の答えに自信を持ちすぎて、診断を変化させる微妙な変化を無視してしまう現象です。

そこで、この「賢いが頑固な」ロボットを見つけ出すために設計された、新しいトリッキーなテスト、MamaBenchが登場しました。この研究の背後にある研究者たちは、最新のAIモデルが「反事実的（counterfactual）」なシナリオ、つまり、最初の患者については正解するが、その後に直面する二人目の患者が、決定的な細部が一つだけ異なり、それによって正しい診断が逆転してしまうようなケースを扱えるかどうかを確かめたいと考えました。これは、AIにとっての「間違い探し」ゲームのようなものです。チームは、標準的なテストでは非常に高いスコアを出すはずの最高峰のモデルであっても、この新しい挑戦には失敗することが多いことを発見しました。彼らは簡単なバージョンには正解しますが、少し変更されたバージョンでは「罠」に陥り、元の間違った答えに固執してしまうのです。これを解決するために、研究者たちはEA-RAGと呼ばれる特別なツールを構築しました。単に最も類似したテキストを検索するのではなく、このツールは証拠を再確認する探偵のように振る舞い、二人の患者を区別する欠落した手がかりを見つけるために特定の質問を投げかけます。この新しいツールによって、ロボットが違いを見分ける能力が向上した一方で、本研究は、アップグレード後であってもロボットが5回に1回は間違いを犯すことを示しています。AIに、極めて重要な局面において真に柔軟かつ慎重に行動させることは、依然として巨大で未解決のパズルであることが判明しました。

問題点：「頑固な天才」の罠

論文は、現在の医療AIのテスト方法における隠れた欠陥を指摘することから始まります。標準的なベンチマークは、すべての質問が独立している多肢選択式のクイズのようなものです。AIはパターンを暗記しているためにクイズを完璧にこなすかもしれませんが、実際には「ニュアンス」を理解していません。研究者たちはこれを**診断固着（Diagnostic Fixation）**と呼んでいます。例えば、ある容疑者が午後5時に公園にいたという事件を解決した探偵を想像してください。次に、その容疑者が午後5時5分に公園にいたという別の事件を見せます。しかし、午後5時5分の目撃情報は、その容疑者が実は別の場所にいたことを証明しています。人間の探偵なら、時間のズレに気づき、考えを変えるでしょう。しかし、「固着した」AIは、その5分間の違いを無視し、慣れ親しんだ「午後5時の公園」というパターンに囚われて、容疑者は同じ場所にいると主張し続けるかもしれません。

母子保健の世界において、これは恐ろしいことです。赤ちゃんの食欲不振は、年齢や発熱レベルといった一つの詳細によって、単なるお腹の調子が悪い状態であることもあれば、深刻な感染症の兆候であることもあります。もしAIが固着していたら、誤ったアドバイスを与えてしまうかもしれません。研究者たちは、この状況を暴くためにMamaBenchを作成しました。彼らは217組のストーリーを作成しました。各ペアには、「ベースケース（元のストーリー）」と「反事実的ケース（一つの決定的な変更を加えたストーリー）」が含まれています。彼らはAIに両方の診断を下すよう求めました。もしAIが最初のケースには正解したが、二つ目のケースに失敗した場合、それは「バイアストラップ（Bias Trap）」に陥ったとみなされます。

解決策：「証拠の探偵」

研究者たちは、単にAIに多くの情報を与えること（RAG、すなわち検索拡張生成と呼ばれる標準的な手法）では役に立たないことを発見しました。なぜでしょうか？ 二つのストーリーがあまりにも似ている場合、AIの検索エンジンは両方に対して全く同じ背景情報を引き出してしまうからです。それは、司書に「猫」についての本を頼み、次に「青い目の猫」についての本を頼んだとき、司書がどちらの場合も全く同じ「猫入門」の本を渡してくるようなものです。AIは、その違いを目にすることさえできません。

これを解決するために、彼らは**EA-RAG（Evidence-Anchored RAG：証拠に基づくRAG）**を発明しました。単に最も類似したテキストを掴むのではなく、EA-RAGは以下の3ステップを踏む探偵のように振る舞います。

1. 抽出（Extraction）： 患者のストーリーを、特定の型に基づいた事実（例：「赤ちゃんは生後10日」「熱が高い」など）へと分解します。
2. カバレッジ監査（Coverage Auditing）： 取得された情報が、それらの特定の事実を実際にカバーしているかを確認します。もしAIの検索が「生後10日」という詳細を見逃していたら、そこにギャップがあることを認識します。
3. 対照的なサブクエリ（Contrastive Sub-queries）： ギャップが見つかった場合、AIは「生後10日であることが治療にどう影響するか？」といった、新しく具体的な質問を投げ、それを埋めるようにします。これにより、システムは二つのケースを区別するための具体的な証拠を見つけ出すことが強制されます。

分かったこと：進歩ではあるが、万能薬ではない

チームは、世界で最も高度な4つのAIモデルをこの新しいベンチマークでテストしました。その結果は驚くべきものでした。

• 過信のギャップ： すべてのモデルにおいて、「ベース精度（元のストーリーに対する正解率）」は、「堅牢精度（トリッキーに変更されたストーリーに対する正解率）」よりも16〜28パーセントポイント高い結果となりました。これは、標準的なテストが私たちを欺いており、AIを実際よりも賢く見せていたことを意味します。
• 標準的なRAGの失敗： 単に標準的な検索ツールを追加しただけでは、全く効果がありませんでした。AIは依然として同じバイアスに囚われていました。
• EA-RAGによる改善、しかし勝利には至らず： 新しいEA-RAGツールを使用した際、AIの成績は大幅に向上しました。最強のモデル（Claude Sonnet 4.6）において、「バイアストラップ率」は25.8%から20.3%へと低下しました。これは、AIが頑固な間違いを犯す頻度が約5.5%減少したことを意味します。
• 厳しい現実： 最良のツールと最もスマートなモデルを用いたとしても、AIはカウンターファクチュアル（反事実的）なペアの5回に1回は失敗しました。残る20%の失敗率は、これらの微妙な変化に対して臨床AIを真に堅牢にすることは、依然として未解決の課題であることを裏付けています。

論文は、より優れた検索手法によって一歩前進はしたものの、まだ問題は解決していないと結論づけています。詳細が変化したときに、AIは依然として第一印象に固執しすぎる傾向があります。二つの命が懸かっている分野において、残された20%のエラーは、研究者たちが今なお乗り越えようとしている大きな障壁なのです。