論文要約：LLM を信号検出器として：感度、バイアス、および温度 - 基準の類推

著者: Jon-Paul Cacioli (独立研究者、オーストラリア・メルボルン)
概要: 本論文は、大規模言語モデル（LLM）の校正（Calibration）評価において、従来の指標が「識別能力（感度）」と「回答の慎重さ/自信度（バイアス）」を混同している問題を指摘し、信号検出理論（SDT: Signal Detection Theory）の完全なパラメトリック枠組みを LLM 評価に適用した研究です。特に、温度パラメータ（Temperature）が人間の心理物理学における「報酬操作」に相当する「基準（Criterion）のシフト」として機能するかどうかを検証しました。

1. 背景と問題提起

LLM の評価において、期待校正誤差（Expected Calibration Error: ECE）などの指標が広く用いられています。しかし、ECE はモデルが「正解と不正解を区別できるか（感度）」と「その自信度が実際の精度と一致しているか（バイアス）」を区別できません。

• 既存の課題: ECE が低いモデルは、単に自信と精度のバランスが取れているだけであり、識別能力そのものが低い可能性もあります。逆に、識別能力が高くても、自信の表現が不適切な場合、再トレーニングではなく校正が必要ですが、現在の評価手法ではこの区別が困難です。
• 信号検出理論（SDT）の適用: SDT は、感度（$d'$ または $d_a$）と基準（$c$）を数学的に独立したパラメータとして分解します。人間の実験では、報酬構造を変化させることで基準をシフトさせますが、感度は変化しません。
• 仮説と疑問: LLM において、生成の温度（Temperature）を調整することは、この「報酬操作」に相当する「基準のシフト」とみなせるでしょうか？しかし、LLM では温度が生成される「答えそのもの」を変化させるため、人間の心理物理学における「刺激は一定」という前提が崩れる可能性があります。

2. 研究方法

本研究は事前登録（Pre-registered）された実験であり、以下の構成で行われました。

• 対象モデル: 3 つの LLM（Llama-3-8B-Instruct, Mistral-7B-Instruct-v0.3, Llama-3-8B-Base）。
• データセット: TriviaQA（5,000 問、5 つの分野）と Natural Questions（3,000 問）。
• 実験条件: 7 種類の温度設定（$T \in \{0.1, 0.3, 0.5, 0.7, 1.0, 1.5, 2.0\}$）。
• 試行回数: 信頼性評価（Confidence-Rating）で 168,000 回、4 択強制選択（4AFC）で 6,000 回。
• 証拠変数（Evidence Variable）: 生成された回答の正規化された対数確率（NLP: Normalized Log-Probability）。これは人間の感覚証拠に相当します。
• 分析手法:
  • 不変分散モデル（Unequal-Variance SDT: UVSD）の適合。
  • z-ROC 曲線の傾きによる分散比（$s$）の推定。
  • 感度（$d_a$）と基準（$c$）の独立した推定。
  • 温度変化に対する ROC 曲線の挙動分析。

3. 主要な発見と結果

3.1 仮説 H1 の否定：温度は純粋な基準シフトではない

• 結果: 温度を上げると、基準（$c$）が予測通りシフトしましたが、感度（AUC および $d_a$）も同時に増加しました。
• 意味: 温度変化は「報酬操作」の類推が崩れています。温度を上げると、正解と不正解の NLP 分布の分離が良くなり（感度向上）、同時にモデルはより楽観的（リベラル）な回答をするようになります。
• 重要な点: 感度の向上はモデルの事実知識が向上したことを示すものではなく、温度が確率分布をどのように変形させるかという分布的な効果です。実際、精度（Accuracy）は温度上昇とともに低下しました。

3.2 不均一分散の存在（仮説 H4）

• 結果: すべてのモデルで z-ROC 曲線の傾きが 1.0 未満（0.52〜0.84）となりました。これは、正解の証拠分布の分散が、不正解の証拠分布の分散よりも大きい（$\sigma_{signal} > \sigma_{noise}$）ことを示しています。
• 特徴: 指示調整済みモデル（Instruct）は、ベースモデルや人間の記憶研究（通常 $s \approx 0.80$）よりも極端な不均一分散（傾き 0.52〜0.63）を示しました。これは、指示調整が「よく知っている事柄」と「知識の境界にある事柄」の区別を強調している可能性を示唆します。

3.3 校正指標（ECE）では見えない構造（仮説 H2）

• 結果: ECE が類似しているモデルでも、SDT 空間（感度 vs 基準）では全く異なる位置に分布していました。
  • 例：Mistral は Llama-3-Instruct よりも高い感度（$d_a$）を持ちながら、よりリベラルな基準（$c$）を持っていました。
• 意義: ECE だけでは「識別能力が低いのか（再トレーニングが必要）」か「基準設定が悪いのか（校正のみで改善可能）」を区別できません。SDT 分解により、モデルごとの適切な介入策（再学習かパラメータ調整か）を特定できます。

3.4 ドメインごとの感度差（仮説 H5）

• 結果: 分野によって感度（$d_a$）に明確な差がありました（例：科学・技術分野が最も困難）。これは集計された ECE からは見えません。

4. 考察と意義

4.1 温度と生成の依存関係

本研究の最大の知見は、LLM における温度パラメータが、人間の心理物理学における「基準シフト」として機能しないことです。人間の実験では刺激（信号）は一定ですが、LLM では温度がサンプリングプロセスを通じて「生成される答え（刺激）」そのものを変化させます。この「刺激が基準設定に依存する」という構造的不一致により、温度上昇は感度と基準の両方に影響を与えます。

4.2 流暢さと正解性の分離（Fluency-Accuracy Dissociation）

NLP（証拠変数）は、回答の「流暢さ（Fluency）」と「正解性」を混同する傾向があります。モデルは自信を持って誤った回答を生成することがあり、その方が外部の正解よりも流暢である場合、NLP は正解性を過小評価します。しかし、強制デコード分析により、モデルには真の正解シグナルが存在し、NLP がそれを部分的に捉えていることが確認されました。

4.3 実用的な価値

• 診断ツール: SDT 分解は、モデルが「識別できない」のか「自信の出し方が悪い」のかを区別し、具体的な改善策（再学習 vs 温度調整）を提案できます。
• 選択的予測（Selective Prediction）: 特定のドメインの感度（$d_a$）に基づき、最適な棄却閾値（基準）を設定することで、信頼性の高い回答のみを出力するシステム設計が可能になります。

5. 結論

本論文は、LLM の評価に古典的な心理物理学の枠組み（SDT）を適用することで、従来の校正指標（ECE, Brier Score）では見逃されていた重要な構造（感度とバイアスの分離、不均一分散、温度の影響）を明らかにしました。特に、温度パラメータが単純な基準シフトではなく、感度にも影響を与えるという発見は、LLM の挙動理解と制御において重要な示唆を与えます。今後の研究では、より純粋な証拠変数（例：最初のトークンのロジット）を用いた分析や、より大規模モデルへの一般化が期待されます。