Precision, Physics, and Confabulation: Softmax Temperature as an Analog of Dopaminergic Precision-Weighting in LLM Hallucination

技術的要約：精密性、物理学、および空想（Confabulation）

問題提起
大規模言語モデル（LLM）は、正しい回答と同じ流暢で自信に満ちたトーンで、捏造された事実を述べる「ハルシネーション（幻覚）」を頻繁に引き起こす。この現象は、計算精神医学において記述される精神病の核心的な特徴である**「異常な精密性重み付け（aberrant precision-weighting）」**を反映している。自由エネルギー原理および予測符号化の枠組みにおいて、知覚は、事前分布（prior）と感覚証拠（sensory evidence）をそれぞれの精密性（逆分散）によって組み合わせるベイズ推論プロセスである。精神病は、ドーパミンが感覚証拠に対して事前分布やノイズに過剰な精密性を割り当てることで、自信に満ちているが誤った推論（ハルシネーション）を導くことで生じると理論化されている。

LLMのソフトマックス温度（softmax temperature） ($T$) は、ベイズ推論における精密性パラメータの逆数であり、これら二つの分野の数学的メカニズムは同一であるが、これまでの研究では、温度 $T$ を操作することで、計算精神医学が予測する異常な精密性重み付けの定性的徴候を再現できるかどうかを直接検証した例はない。具体的には、低温度（高精密性）は、自信に満ちた根拠のない捏造を引き起こし、高温度（低精密性）は、より誠実でヘッジ（含みを持たせた表現）のある誤りを生成させるのだろうか？

方法論
著者は、25個の医学的質問と、先行するMedRAG研究から派生した5,025個の文書からなる固定コーパスを用い、LLaMA 3.2 (3B) を用いたパイロット研究を実施した。実験デザインでは、以下の2つの変数を操作した：

1. 条件（Condition）： パラメトリックな事前分布のみに依存する「Base（根拠なし）」条件と、検索された証拠（「感覚証拠」項として機能）に基づいた「RAG（検索拡張生成）」条件。
2. 温度（Temperature, $T$）： 3つのサンプリング温度をテストした：$T=0.0$（決定論的に近い／高精密性）、$T=0.7$（標準／中程度の精密性）、$T=1.3$（拡散／低精密性）。

研究では、計150通りの組み合わせ（$3 \text{ 温度} \times 2 \text{ 条件} \times 25 \text{ 質問}$）を評価した。

• 正確性（Accuracy）： 95%のWilsonスコア信頼区間を用いたゴールドキーワード基準を用いて測定。
• 自信の徴候（ヘッジング/Hedging）： 不正解に対して、固定された15語のヘッジ・レキシコン（例：「〜かもしれない」、「〜を示唆する」、「不確かである」など）の出現回数をカウント。
• 統計分析： 温度グループ間でのヘッジ数の比較には、非パラメトリックなMann-Whitney U検定を用いた。

主な貢献

1. 形式的な対応関係： 本論文は、計算精神医学におけるドーパミンによる精密性重み付け、統計力学における逆温度、およびLLMにおけるソフトマックス温度パラメータの関係を明示的にマッピングし、$precision \propto 1/T$ であることを確立した。
2. 操作化された仮説： この数学的対応関係を、テスト可能な仮説へと翻訳した。すなわち、低温度は根拠のない条件下で「自信に満ちた捏造（低ヘッジ）」を誘発し、この効果は検索によるグラウンディング（RAG）によって緩和されるはずである、という仮説である。
3. パイロットデータの誠実な報告： 著者は、厳密な数学的対応関係と生物学的主張を区別し、統計的検出力およびサンプルサイズに関する適切な留保事項を付して結果を報告している。

結果

• H1（RAGは温度感受性を除去する）： **Base（根拠なし）**条件では、正確性は温度に対して非単調に変化した（$T=0.0$ で0.72、$T=0.7$ で0.64、$T=1.3$ で0.68）。ただし、信頼区間は大きく重複していた。対照的に、RAG（グラウンディングあり）条件の正確性は、すべての温度において1.000で完全に一定であった。これは、検索によるグラウンディングが高精密な証拠として機能し、事前分布の精密性設定の影響を上書きするという理論的予測を支持している。
• H2（自信に満ちた捏造の徴候）： Base条件において、不正解は $T=0.0$ の場合（平均 = 0.14）と比較して、$T=0.7/1.3$ の場合（平均 = 0.89）に有意に少ないヘッジ語を含んでいた。これは、高温度におけるヘッジの6倍の増加を意味する。しかし、$T=0.0$ における不正解のサンプルサイズが小さいため（$n=7$）、この差は統計的有意には達しなかった（$p=0.16$）。
• H3（特異性のコントロール）： 同様の分析を正解に対して適用したところ、温度とヘッジの間に相関は見られなかった（$p=0.90$）。この解離は、観察された効果が一般的なスタイルの変化ではなく、誤り（ハルシネーション）の生成に特有のものであることを示唆している。

意義と主張
本論文は、本パイロット研究は、異常な精密性による説明を正式に確認するには検出力が不足しているものの、観察されたパターンは理論と定性的に一致していると結論付けている。

• 数学的対応関係（ソフトマックス温度とドーパミンによる精密性）は厳密である。
• 理論が予測する定性的パターン（低温度での自信に満ちた捏造、高温度での誠実な不確実性）は、誤答においてのみ現れ、正答には見られなかった。
• RAGの結果は、グラウンディングが高精密な証拠として機能し、モデル内部の精密性設定に関わらず正確性を安定させることを強力に示している。

著者は、LLMが生物学的なドーパミンを保有している、あるいはメカニズムとしてベイズ推論を実装していると主張しているのではないことを明言している。代わりに、共有された数学が、ハルシネーションを理解するための精密かつテスト可能なフレームワークを提供することを提案している。本研究の主な価値は、特定の反証可能な予測を特定し、「証拠の精密性が事前分布の精密性を上書きする」ことと、RAGベンチマークにおける単純な天井効果（ceiling effect）を区別するために、より大規模で十分な検出力を持つ研究の必要性を強調した点にある。