技術要約: HALT (Log-probsを時系列として用いたハルシネーション評価)

1. 問題提起

大規模言語モデル（LLM）は、検証可能な誤情報や根拠のない情報を含む出力、すなわち「ハルシネーション（幻覚）」を頻繁に生成します。これは、安全性が極めて重要な領域におけるLLMの導入において大きな障壁となっています。既存の検出手法には、以下のような明確な限界が存在します：

• ホワイトボックス型アプローチは、内部状態（隠れ活性化、アテンションマップ）へのアクセスを必要としますが、プロプライエタリなクローズドソースAPIでは不可能です。
• ブラックボックス型のテキストベースのアプローチは、外部からの検索、追加のAPIコール、あるいは補助的なLLMによる一貫性の判定に依存することがよくあります。これらはレイテンシ、コスト、および「判定役」となるモデル自体がハルシネーションを起こしたり、ドメインバイアスを導入したりするリスクを生じさせます。
• 不確実性ベースのアプローチは、集計統計量（例：平均的な確信度、全体のエントロピー）に依存することが多く、モデルのキャリブレーション誤差の「時間的なダイナミクス」を捉え損ねる可能性があります。

著者らは、生のトークン確率単体では、キャリブレーションのバイアスにより真実性の信頼できる指標にはなり得ないものの、それらの「確率の時系列的な進化」には安定した不確実性の信号が含まれていると主張しています。中心となる研究課題は、「生成されたテキストを分析したり、外部のリファレンスを参照したりすることなく、トークンの対数確率（log-probabilities）のシーケンスのみをモデリングすることで、ハルシネーションを検出できるか？」という点です。

2. 手法

2.1. コア・パラダイム：時系列としてのLog-probs

HALTは、トップ-$k$のトークン対数確率のシーケンスを、時系列分類問題として扱います。確率を要約統計量へと圧縮するのではなく、この手法は各デコーディングステップにおけるモデルの確信度の順序付けられたシーケンスを保持します。

入力表現:
長さ $T$ のレスポンスに対し、モデルは各タイムステップ $t$ におけるトップ20の対数確率（$\ell_t \in \mathbb{R}^{20}$）を抽出します。これらは、設計された5つの特徴量と結合され、強化された特徴ベクトル $\tilde{\ell}_t$ を形成します。

1. 平均対数確率 (Average Log-Probability): 分布の鋭さ（sharpness）の代用指標。
2. ランク・プロキシ (Rank Proxy): 選択されたトークンのトップ20内での限定的なランクであり、非強欲的（non-greedy）または非典型的な選択を捉える。
3. 全体エントロピー ($H_{overall}$): 選択されたトークンおよび代替候補に関する不確実性。
4. 代替候補のみのエントロピー ($H_{alts}$): 競合する候補間の不一致。
5. 決定エントロピーの時間的変化 ($\Delta H_{dec}$): 選択されたトークンと最良の代替候補との間の確信度の急激な遷移を捉える。

最終的な入力は、時系列 $\tilde{\ell}_{1:T} \in \mathbb{R}^{T \times 25}$ となります。

2.2. アーキテクチャ

本モデルは、パラメータ数500万の軽量な**双方向GRU (Bidirectional Gated Recurrent Unit)**を採用しています。

• エンコーダ: 多層の双方向GRUが、順方向および逆方向の両方向からシーケンスを処理し、時間的パターンを捉えます。
• プーリング: Top-$q$ プーリングメカニタズム（ここで $q=0.15$）を用いて隠れ状態を集約します。これは、最も顕著なタイムステップ（隠れ状態のノルムが最大となるステップ）を平均化することで、すべてのトークンに信号を希釈させるのではなく、確信度の急激な変化が起きた瞬間に焦点を当てます。
• 出力: 線形層が、バイナリクロスエントロピー損失を用いて訓練された、二値分類（ハルシネーションか忠実か）のための単一のロジットを生成します。

2.3. 主要な仮説

著者らは、研究の中で検証された4つの仮説を提示しています：

1. モデル固有のバイアス: 各LLMは、そのトップ-$k$確率を支配する決定論的なキャリブレーション・バイアス関数を持っている。
2. 学習可能性: GRUは、このバイアスに起因するダイナミクスを近似することを学習でき、特定の時間的パターンをハルシネーションに関連付けることができる。
3. 非転移性: あるモデルの対数確率で訓練された検出器は、異なるモデル・アーキテクチャに対しては信頼できる形で転移しない（キャリブレーション・バイアスが異なるため）。
4. タスクの汎用性: 単一のモデル内においては、検出器は一つのタスクファミリーから別のタスクへ汎用できる。なぜなら、基礎となるキャリブレーション・バイアスはタスク間で一貫しているからである。

3. ベンチマーク: HUB (Hallucination detection Unified Benchmark)

この手法を評価するために、著者らは10のLLM能力にわたる包括的なベンチマークであるHUBを導入しています：

• 推論指向: アルゴリズム、常識、数学、記号推論、およびコード生成。
• 汎用: チャット、データ・トゥ・テキスト、質問回答、要約、およびワールド・ナレッジ（世界知識）。

HUBは、既存のデータセット（FAVA, RAGTruth, HaluEval）を拡張し、CriticBenchを統合することで、論理的な誤り（誤った推論ステップを経て、結果的に誤った答え、あるいは偶然正しい答えを導くもの）を含む論理的ハルシネーションを含めています。このデータセットは、訓練、検証、テストに分割されており、推論タスクにおけるアウト・オブ・ディストリビューション（分布外）の汎化性能を厳格にテストするため、訓練はチャット、データ・トゥ・テキスト、およびQAに限定されています。

4. 結果

4.1. HUBにおけるパフォーマンス

HALTは既存のベースラインを大幅に上回っています：

• 効率性: HALTはLettuce検出器（ModernBERT-baseエンコーダをファインチューニングしたもの）よりも30倍小さく、60倍の高速化を実現しています。
• 精度: HALTは7つのクラスターにおいて最高のMacro-F1スコアを達成しました。
  • HALT-L（LLaMA 3.1-8Bで訓練）は、全体で67.01のMacro-F1を達成し、Lettuce（64.00）や集計統計ベースライン（例：$H_{overall}$ の32.86）を凌駕しました。
  • 特に、シーケンスレベルのキャリブレーションの手がかりがテキストレベルのヒューリスティックよりも予測的となる推論タスク（アルゴリズム、常識、記号推論）において優れた性能を発揮しました。

4.2. 転移性と汎用性

• クロス・タスク: HALTは、同一モデル内での異なるタスクファミリー間での強い汎用性を示しており、キャリブレーション・バイアスがタスクに依存しないという仮説を支持しています。
• クロス・モデル: 予想通り、LLaMAの対数確率で訓練されたモデルをQwenの対数確率に適用した場合、性能は大幅に低下しました。これは、キャリブレーションのダイナミクスがモデル固有であり、アーキテクチャ間で直接転移可能ではないことを裏付けています。
• 堅牢性: HALTは、特定のチューニングを行っていないにもかかわらず、外部ベンチマーク（FAVA, RAGTruth）においても競争力のある性能を維持しています。

5. 意義と主張

本論文は、以下の貢献と意義を主張しています：

• 新しいブラックボックス・パラダイム: HALTは、表面的なテキスト解析や外部の検証器、あるいは内部モデルへのアクセスを必要とせず、純粋にトークンの対数確率のみに依存する検出手法を導入しました。これにより、プロプライエタリなAPIへの適用が極めて容易になります。
• 静的な指標に対する時間的ダイナミクス: 本研究は、対数確率を時系列として扱うことが、集計統計量が見落としてしまう不確実性のパターン（例：急激なエントロピーのスパイク、ランクの逆転）を捉えられることを示しています。
• 統一されたフレームワーク: 論理的推論の失敗をハルシネーションの定義に組み込むことで、HUBは単純な事実検証を超えた、より広範な意味論的不実実（semantic unfaithfulness）の視点を提供します。
• 実用的な効率性: この手法は、大規模なエンコーダに代わる非常に効率的な選択肢を提供します。生成中にすでに利用可能であることが多い対数確率のストリームのみを必要とするため、生成プロセスへのオーバーヘッドを最小限に抑えつつ、リアルタイムのハルシネーション検出を可能にします。

著者らは、HALTは単一のモデルに縛られるものではないものの、モデル内での汎用性を持つ転移可能な不確実性のダイナミクスを学習しており、重みや外部データへのアクセスを必要とせずにモデルの不確実性を分析するための新しいモダリティを確立したと結論付けています。