技術要約：推論の熱力学的シグネチャ

問題提起

大規模言語モデル（LLM）におけるハルシネーション（幻覚）は、依然として実用化における重大な障壁となっている。近年の研究により、アテンション由来のグラフ・ラプラシアンのスペクトルには推論の質に関する信号が含まれていることが特定されているが、既存のスペクトル診断法には限界がある。従来の手法は、高解像度のラプラシアン・スペクトルを、わずか数個の上位$K$個の固有値や、手選定されたスカラー量（例：フィードラー値、スペクトルエントロピー）のみで要約する傾向がある。著者らは、このアプローチでは重要な構造情報が破棄されており、「信号を台の上に残したまま（活用できていない）」状態であると主張している。本研究の目的は、学習を必要とせず（あるいは最小限のキャリブレーションで動作し）、単一の推論パスで動作し、基礎となるLLMの再学習を行うことなく、アテンション・マップのスペクトル構造を完全に活用できる検出メカニズムを開発することである。

手法：自由エネルギー・シグネチャ（FES）

本論文は、各層のアテンション・ラプラシアンを仮想的な量子系のハミルトニアンとして扱うスペクトル記述子、**自由エネルギー・シグネチャ（Free-Energy Signatures: FES）**を提案する。この手法は、スペクトルから熱力学的ポテンシャルおよびランダム行列理論（RMT）の統計量を抽出する。

1. アテンション・ラプラシアンの構築

$L$層および$H$個のアテンション・ヘッドを持つ凍結されたLLMに対し、層$\ell$におけるポストソフトマックス・アテンション行列$A^{(\ell,h)}$を対称化し、ヘッド間で平均化することで$\tilde{A}^{(\ell)}$を形成する。その後、組合せ論的グラフ・ラプラシアンを以下のように構築する：
$$L^{(\ell)} = D^{(\ell)} - \tilde{A}^{(\ell)}$$
ここで、$D^{(\ell)}$は次数行列である。$L^{(\ell)}$の固有値 $\{\lambda_k\}$ が経験的スペクトル測度を形成する。

2. 熱力学的汎関数

スペクトルは、逆温度パラメータ$\beta$を用いた平衡熱力学の観点から分析される。以下のポテンシャルが各層に対して計算される：

• 分配関数 ($Z$): $Z(\beta) = \text{Tr}(e^{-\beta L}) = \sum e^{-\beta \lambda_k}$
• 自由エネルギー ($F$): $F(\beta) = -\frac{1}{\beta} \log Z(\beta)$
• スペクトルエントロピー ($S$): ボルツマン分布 $p_k = e^{-\beta \lambda_k}/Z(\beta)$ を通じて算出。
• 熱容量 ($C$): $C(\beta) = \beta^2 \text{Var}_p[\lambda]$

これらの汎関数は、$m$個の対数グリッド上の逆温度に対して評価され、スペクトルのマルチスケールな視点（高$\beta$では小さな固有値に集中し、低$\beta$ではバルクを平均化する）を提供する。

3. スペクトル形式因子（SFF）とRMT

レベル間相関を捉えるために、手法は**スペクトル形式因子（Spectral Form Factor: SFF）**を計算する：
$$g(t) = \frac{1}{n^2} \left| \sum_k e^{-it \hat{\lambda}_k} \right|^2$$
ここで、$\hat{\lambda}_k$は展開された固有値（単位平均局所密度にマッピングされたもの）である。SFFは、ランダム行列理論（RMT）の予測と比較・分析される：

• ウィグナー・ディソン（GOE）: 特徴的な「ディップ・ランプ・プラトー」構造を示し、カオス的でよく混合された系であることを示す。
• ポアソン: 滑らかな単調減少を示し、可積分または局在化した系であることを示す。

4. FES記述子と検出器

層ごとの記述子 $\Phi^{(\ell)}$ は、$\beta$ および $t$ のグリッド上の熱力学的汎関数とSFFを結合したものである。全層にわたってこれらを結合することで、最終的な特徴ベクトル $\Phi(x)$ が得られる。
2つの検出戦略が実装されている：

1. 教師ありプローブ: 小規模なラベル付きキャリブレーション・セットで訓練された軽量なロジスティック回帰。
2. 非教師ありRMT偏差スコア: 実験的なSFFと、サイズが一致するGOE参照曲線との間の$L_2$距離を測定する、ラベルフリーのスコア $D(x)$。

主な貢献

1. 理論的結果

本論文は、以下の3つの形式的な証明を提供している：

• リプシッツ安定性: FESは、アテンション・ラプラシアンの演算子ノルム摂動に対してリプシッツ安定であることが証明されており、数値ノイズや小さなアテンションの摂動に対する堅牢性を保証している。
• 表現力: 分配関数成分は、スペクトル測度のラプラス変換である。著者らは、理想的な厳密変換極限において、分配関数がスペクトルを特定する（すべてのモーメントを復元する）ことを証明している。実際には、有限グリッドのFESは、コンパクトな要約（トップ$K$固有値など）に対してマルチスケールな拡充を提供し、グリッド密度によって制御される精度でモーメント由来の汎関数を近似する。
• 有限サンプルPAC境界: 非教師ありRMT偏差検出器のAUROCに関する境界が導出されており、妥当な推論とハルシネーションの間におけるスペクトル形式因子の測定可能なギャップが、非自明な性能保証に十分であることを示している。

2. 実証的知見

• 推論のスペクトル・シグネチャ: 本論文は、LLMのアテンション・スペクトルが、妥当な推論中にはウィグナー・ディソン統計（GOE様）を示し、ハルシネーション中にはポアソン統計を示すという最初の証拠を提示している。これは、平均レベル間隔比 $\langle r \rangle$ を通じて定量化され、妥当な生成では約0.536、ハルシネーションでは約0.386となる。
• 性能: 6つのオープンウェイトLLM（7B–14B）および6つのベンチマーク（TruthfulQA、HaluEval、GSM8K、MATH-500を含む）において、FESはアテンション・スペクトルに基づくベースラインの中で最高の集計AUROCを達成した。
  • LAPEIG（トップ$K$固有値）を**+6.5 AUROCポイント**上回る。
  • GOR-4（手選定のスペクトルスカラー）を**+2.4 AUROCポイント**上回る。
• ラベル効率: 教師ありプローブは、タスクごとに数百のラベル付きサンプルのみで、漸近的な性能に近いレベルに到達する。
• アーキテクチャ横断転移: Llama-3-8Bで訓練されたプローブは、他のアーキテクチャ（Mistral、Qwen、Gemma、Phi-3）に対しても、平均AUROC > 0.82で効果的に転移する。

意義と主張

本論文は、FESが、生の固有値やコンパクトなスペクトル要約を超えて事実性を捉える、学習不要かつ単一サンプルでの診断を提供すると主張している。アテンション・マップを熱力学およびRMTを通じて再構成することにより、本手法は以下のを実現している：

1. マルチスケール情報の保持: スペクトルを切り捨てる手法とは異なり、FESは複数のスケールにわたるスペクトル全体の形状を捉える。
2. 理論的根拠の提供: ハルシネーション検出をランダム行列の基本特性（レベル反発 vs 可積分性）に結びつけ、「健全な」推論と「壊れた」推論に対する物理的な解釈を提供する。
3. 運用効率: 基礎となるLLMの更新を必要とせず、計算オーバーヘッドも極めて小さい（512トークンのシーケンスに対し、A6000上で約0.4秒）。

著者らは、制限事項についても言及している。具体的には、$O(n^3)$の密な固有値分解のコスト（非常に長いコンテキストには近似が必要）、およびアテンション重みへのホワイトボックス・アクセスが必要な点である。また、非教師あり偏差スコアの符号がタスク（例：数学的推論 vs 開放型QA）によって反転する場合があるため、非教師ありモードではタスクごとのキャリブレーションが必要であることも認めている。しかし、教師ありプローブはこれらの変動に対して堅牢である。