技術要約: HalluTracer

1. 問題提起

大規模言語モデル（LLM）は、適切にアライメントされていても、流暢ではあるが事実とは異なるテキスト（ハルシネーション）を生成することが頻繁にあり、安全性に敏感なデプロイメントにおいて重大な信頼性のリスクをもたらします。メカニスティックな研究によれば、LLMは内部的に真実に関連する構造をエンコードしており、それは隠れ層の活性化からの線形プローブによって回収可能であることが示されていますが、既存の検出手法はこの内部証拠を十分に活用できていません。

現在のホワイトボックス型検出器は、内部証拠を単一のアテンションヘッド、特定のレイヤー、あるいは最終的な隠れ状態といった孤立したコンポーネントへと集約してしまいます。このアプローチは、真実性がレイヤー局所的な特性であるという仮定を暗黙のうちに置いています。しかし、残差ストリームとフィードフォワード層は、予測を階層的に洗練させる分散型のメカニズムとして機能しています。すなわち、真実性はフォワードパス全体を通じて漸進的に構築されるものであり、瞬時にエンコードされるものではありません。その結果、既存の手法はモデルの全深度に分散している識別情報を破棄してしまっています。

2. メソドロジー: HalluTracer

著者らは、真実性の信号をTransformerの深さにわたって進化する量として扱う、デコーディング前（pre-decoding）の検出フレームワークである HalluTracer を提案しています。この手法は、モデルが回答トークンを出力する前に動作します。

コアアーキテクチャ

1. レイヤーごとの読み出し（Layer-wise Readout）: 各Transformerレイヤー $l$ において、回答開始位置（生成直前の最終プロンプトトークン）におけるモデルの内部状態を抽出します。
2. レイヤー別プロービング（Per-Layer Probing）: 教師ありのレイヤー固有線形プローブを用いて、この読み出された表現をスカラーの真実性ロジット（$L_l$）にマッピングします。これにより、**ロジット軌跡（logit trajectory）**と呼ばれる一連のロジット $\tau = [L_0, L_1, \dots, L_{m-1}]^\top$ が生成されます。
3. 深度集約（Depth Aggregation）: 本フレームワークは、これらのレイヤーごとのスコアを**深度平均（depth averaging）**によって単一のスカラー・リスク信号へと集約します：$\bar{L} = \frac{1}{m} \sum L_l$。このスカラー値は、ハルシネーションを検出するためのロジスティック回帰分類器に入力されます。

幾何学的分析と理論的正当化

本論文では、単純な深度平均がなぜ最適に近いのかを説明する幾何学的分析を提供しています。

• 信号の疎性と等方性（Signal Sparsity & Isotropy）: 著者らは、真実性プローブが低エネルギー（表現の分散の1%未満しか捉えていない）であり、隣接するプローブの方向がレイヤー間でほぼ直交していることを示しました。これは、レイヤー固有のノイズが互いに弱く相関していることを意味します。
• レベル形状分解（Level-Shape Decomposition）: ロジット軌跡は、「レベル」成分（サンプル固有の共通モードおよびクラス条件付き平均を共有するもの）と「形状」成分（レイヤー固有の残差）に分解されます。
• SNRの優位性（SNR Dominance）: S/N比（SNR）分析により、軌跡の平均 $\bar{L}$ が支配的なクラス条件付き信号を捉えることが示されました。隣接するプローブはほぼ直交しているため、平均化によってレイヤー固有のノイズ（$\epsilon_{i,l}$）を抑制しつつ、共有された信号を保持することができます。
• フィッシャー最適性（Fisher-Optimality）: 定理3.6は共分散を考慮したフィッシャー恒等性を提供し、評価された領域において、一様な平均化が**フィッシャー近傍最適（Fisher-near-optimal）**であることを証明しています。複雑な共分散重み付き線形集約から得られる潜在的な利得は微々たるもの（SNRの2〜4%の改善）であり、また、完全な $m \times m$ 共分散行列を推定するには計算コストが高く、統計的に不安定になります。

3. 主な貢献

1. 深度方向のデコーディング前検出器: HalluTracerは、回答開始位置におけるすべてのTransformerレイヤーから真実性の証拠を読み取り、それらのスコアを集約する軽量な検出器であり、レイヤー選択の問題を深度集約の問題へと置き換えます。
2. 深度平均の幾何学的説明: 本論文は、真実性の読み出しが低エネルギーであり、深さにわたって弱く整列しているという、共分散を考慮した診断を導出しています。単純な深度平均が、ほぼすべての線形的にアクセス可能な検出信号を捉え、レイヤー固有のノイズを抑制することを証明しています。
3. 実証的検証: 6つのオープンウェイトLLM（LLaMA-2, LLaMA-3.1, Qwen2.5シリーズ）および5つのハルシネーション・ベンチマークにわたる広範な実験により、一致するホワイトボックス型ベースラインに対する一貫した改善を示しました。

4. 実験結果

HalluTracerは、TruthfulQA, TrueFalse, HaluEval2, HELM, Agentic の5つのベンチマークで評価されました。

• 性能向上: HalluTracerは、AUROCおよびAUPRCの観点において、一致するデコーディング前ベースライン（Fact-Probe, ITI-Probe, IRIS）および事後生成ベースライン（HalluGuard）を一貫して上回りました。
  • AUROCの向上幅は、ベンチマークやモデルに応じて1〜14パーセントポイントに及びます。
  • 複雑な Agentic ベンチマークにおいて、Qwen2.5-72Bを用いた場合、HalluTracerは97.86%のAUROCを達成し、最高の単一レイヤー・ベースライン（ITI-Probeの86.16%）を11.7ポイント上回りました。
• アブレーション研究:
  • 平均の十分性（Mean Sufficiency）: 軌跡の平均 $\bar{L}$ 単独で、5次元の診断セット（傾きやゾーンコントラストを含む）の性能と一致しており、高次の軌跡特徴が無視できる程度の識別力をしか持たないことを確認しました。
  • 読み出しの堅牢性（Readout Robustness）: 性能は、読み出しメカニズム（パーヘッド vs フル残差ストリーム）や特定のアテンションヘッドの選択に対して堅牢であり、信号が分散しており、特定の「魔法の」ヘッドに依存していないことを示しています。
  • 深度サブサンプリング（Depth Subsampling）: 性能は、含まれるレイヤー数に伴って単調に向上し、約8〜12レイヤーで飽和します。これは、独立残差モデルによって予測される分散減少と一致しています。

5. 意義と主張

本論文は、ハルシネーション検出をレイヤー選択問題から深度集約問題へと再定義しています。主な意義は、真実性の信号がネットワークの深さ全体に分散しており、かつ疎（sparse）であるという幾何学的な洞察にあります。

• 効率性: 単純な深度平均に依存することで、HalluTracerは複雑な共分散構造の推定や、特定のレイヤーやヘッドを選択するための計算的・統計的なコストを回避しています。
• 汎用性: 本手法は、集約重みの再チューニングを行うことなく、異なるモデルアーキテクチャやパラメータスケール間で転移可能です。
• 範囲: 著者らは、HalluTracerが傾向的ハルシネーション（propensity hallucinations）、すなわち回答開始位置における内部状態にエンコードされたエラーを検出することを明示しています。これは、長いシーケンスの生成中に発生する自己回帰的な誤差の蓄積（生成的ハルシネーション）のみに起因するハルシネーションを検出すると主張するものではありませんが、生成時のモニターと組み合わせることは可能です。

本研究は、全レイヤーにわたって弱く、ほぼ直交する真実性信号を集約することが、孤立した内部状態に頼る手法よりも大幅に優れた、パラメータフリーで堅牢な検出器を生み出すことを確立しました。