技術要約：Hearsay（伝聞）：画像なしでの視覚・言語的医学的診断

問題提起

本論文は、臨床パイプラインにおける最先端の視覚・言語モデル（VLM）における重大な失敗モードである「ミラージュ効果（蜃気楼効果）」を調査している。この現象は、画像が添付されていないにもかかわらず、VLMが視覚的な記述と医学的診断を生成してしまう状況で発生する。先行研究（Asadiら [1]）は、VLMがこのような条件下で棄却（abstain）に失敗することが多いことを確立したが、本研究は、これらの幻覚の「構造」を理解するという空白を埋めるものである。具体的には、画像が存在しない場合、生成された診断はランダムなのか、それともプロンプトに含まれる人口統計学的記述（年齢、性別、人種など）によって系統的に影響を受けるのかという問いを立てている。著者らは、画像の取得に失敗した場合や、エージェントが患者の記述のみを渡す場合がある臨床現場において、幻覚された出力における人口統計学的バイアスが深刻な環境を生み出す可能性があると主張している。

手法

本研究では、3つの最先端VLM（Claude Opus 4.7、GPT-5.4、Gemini 3.1 Pro）を用いた制御された実験デザインを採用している。

• プロンプト設計: 著者らは、Asadiら [1] に由来する修正されたミラージュ・モード・プロンプト・テンプレートを使用している。プロンプトには、第一人者の人口統計学的前文（例：「私は{年齢}歳の{人種}の{性別}です」）が含まれ、その後に画像の記述と診断の要求が続く。テスト対象のモダリティは、胸部X線、脳MRI、および皮膚科（具体的には「皮膚のほくろ」）である。
• 実験条件: $2 \times 2 \times 3$ の要因デザインを用い、年齢（32歳、65歳）、性別（男性、女性）、人種（白人、黒人、褐色人種）を変化させた。これにより、12の人口統計学的セルと、人口統計学的テキストのない中立的なベースライン（D0）が作成された。
• 出力スキーマ: レスポンスは、画像の有無、診断能力、主要な診断、鑑別診断、確信度、および根拠を含む厳格なJSONスキーマに強制された。これにより、「散文（推論）」と「構造化（診断フィールド）」の出力を分離することが可能となった。
• 指標: 主要な指標は、人口統計学的セルにおける診断の分布と、中立的なベースラインとの間の**イェンセン・シャノン・ダイバージェンス（JSD）**である。二次的な分析には、「ヘッジされたミラージュ（hedged mirage）」の検出（プローズ（散文）は欠落した画像を認めているが、構造化フィールドが入力されている状態）および「プローブ名詞の堅牢性（probe-noun robustness）」（「皮膚のほくろ」を「皮膚の病変」に入れ替える等）が含まれる。
• 規模: 主要な実験（E1）では、11,700回のAPIコール（3モデル $\times$ 3ドメイン $\times$ 13条件 $\times$ 100シード）を実施した。

主な貢献

本論文は、主に4つの貢献を提示している：

1. 構造化された人口統計学的バイアス: ミラージュ・モードの出力はランダムではなく、人口統計学的テキストによって系統的に構造化されているという証拠。セルごとのJSDは最大0.83に達し、上位の診断は文書化された臨床的バイアスパターン（例：黒人患者に対するサルコイドーシス、高齢の白人男性に対するメラノーマ）と一致していた。
2. ヘッジされたミラージュ・レジーム（Hedged Mirage Regime）の特定: モデルのプローズ（推論）は欠落した画像を認めている（拒絶を示唆）一方で、構造化された診断フィールドには特定の疾患が入力されているという、解離現象の特定。この「ヘッジされた」状態は、高JSDセルにおけるClaudeの捏造の**66%**を占めており、プローズのみの監査では検知できない。
3. 多様な失敗モード: ミラージュは一連の異なる失敗モードの集合であることを示すプローブ名詞の堅牢性分析。Claudeの皮膚科における効果は単語によってトリガーされるものであった（「皮膚のほけろ」を「皮膚の病変」に入れ替えると、メラノーマの診断が94%減少して拒絶へと転じた）のに対し、GPT-5.4の効果はカテゴリ保持型であった（名詞の入れ替えにかかわらず診断は安定していた）。
4. デュアルチャネル測定: ネイティブのJSONスキーマを散文分析と共に抽出するパイラインにより、「ヘッジされたレジーム」を直接観察し、定量化することを可能にした。

結果

• 人口統計学的構造化: すべてのモデルが人口統計学的バイアスを示したが、その大きさは異なっていた。
  • GPT-5.4は、36個すべての要因セルにおいて診断を捏造した。そのバイアスは広範であり、若い黒人患者の胸部X線に対するサルコイドーシスへの強いシフトや、年齢と性別に基づくMRIの特定の疾患へのシフトが見られた（例：高齢女性に対する髄膜腫、高齢男性に対するグリオーマ）。
  • Claude Opus 4.7は、「拒絶から捏造への移行」を示した。中立的なプロンプトのほとんどは拒絶したが、特定のセル（例：「皮膚のほくろ」を持つ65歳の白人男性に対して94%のメラノーマ）では激しく捏造した。JSDは、この拒絶から捏造への移行によってほぼ完全に駆動されていた。
  • Gemini 3.1 Proは最も低いマグニチュードを示し（中央値JSD 0.010）、ほとんどのセルで捏造率は0%であった。
• ヘッジされたレジーム: 「ヘッジされた」条件下において、モデルは「人口統計学および典型的なパターンに基づき、疑われる」といった推論を書きながら、依然として構造化された診断フィールドを埋めていた。プローズのみの監査ではこれらを拒絶や安全な回答としてフラグ立てするが、構造化データパイプラインはバイアスのある診断を受け取ることになる。
• 堅牢性: 「皮膚のほくろ」と「皮膚の病変」の入れ替えは、Claudeのバイアスが脆弱であり、特定のトリガーワードに依存していることを示した一方で、GPT-5.4のバイアスは言い換えに対して堅牢であった。
• 信号とノイズ: 人口統計学的シグナル（JSD）は、言い換えによるノイズフロア（比率10.5倍から13.9倍）を大幅に上回っており、バイアスが表面的な言い換えのバリエーションではなく、人口統計学的記述によって駆動されていることを裏付けている。

重要性と主張

本論文は、信頼できるVLMの臨床展開には、監査手法の根本的な転換が必要であると主張している。

• 監査の限界: 自然言語（プローズ）のみによる監査は、構造化フィールドがテキストによる免責事項にもかかわらず入力されている「ヘッジされたレジーム」を見逃すため、不十分である。
• 評価の次元: プローブ単語の感度は、「第一級の評価次元」として扱う必要がある。モデルは単一のプローブ単語でテストされた場合には堅牢に見えるかもしれないが、わずかな変異（Claudeで見られたようなケース）によって壊滅的に失敗する場合がある。
• エラーの性質: 著者らは2つのエラーを区別している：(1) 認識論的な較正不全（Epistemic miscalibration）（証拠なしに診断を出すこと）と、(2) 人口統計学的シフト（Demographic shifting）（人口統計学に基づいて特定の診断を出すこと）。本論文は、これらのシフトが事前学習のバイアスに起因するのか、あるいは較正された有病率の事前分布（例：高齢の白人男性におけるメラノーマの発生率の高さ）に起因するのかを切り分けてはいないが、プローズと構造化出力の間の「解離」は、事前分布の起源に関わらず、極めて重要な失敗モードであると断言している。

本研究は、ミラージュの軽減には、スキーマレベルの制約（例：image_present=falseの時に診断をnullにする強制）、推論時のプロービング、および画像がない場合に拒絶するように微調整（ファインチューニング）することが必要であると結論付けている。これらの知見は、ミラージュが一枚岩の現象ではなく、個別の緩和戦略を必要とする一連の失敗モードであることを示唆している。