技術要約：FLaG – ハルシネーション検出のための細粒度潜在グループ化

1. 問題定式化

大規模言語モデル（LLM）は、流暢ではあるが事実としては不正確な出力である「ハルシネーション（幻覚）」を頻繁に生成する。本研究が取り組む核心的な課題は、ハルシネーションが単一の均質な失敗モードから生じるのではなく、表現レベルの信号、トークンレベルの確率トレース、および生成ダイナミクスに現れる多様なメカニズムから生じる異質なパターンとして発生するという点にある。

既存の検出手法は、単一のグローバルな不確実性スコアや、証拠の統一されたビューに基づき学習されたモノリシックな分類器に依存することが多い。著者らは、そのような手法はハルシネーションに対して均質な概念を暗黙的に仮定しており、データセットのシフトや生成レジームの変化に直面した際に脆弱な性能につながると主張している。本論文は、信頼できる検出には、ハルシネーションを単なる分類問題としてではなく、潜在的なメカニズムの不確実性下における証拠集約問題として扱う必要があると断じている。目標は、決定閾値や評価指標に対して不変でありながら、異質な証拠ソースを集約できる信頼性スコアを学習することである。

2. メソドロジー：FLaG フレームワーク

提案される FLaG (Fine-Grained Latent Grouping) フレームワークは、基礎となるLLMの変更を必要としない、軽量で凍結されたモデルヘッドである。これは主に3つの段階を経て動作する。

2.1 マルチビュー証拠表現

FLaGは、プロンプト $q$ と生成された出力 $a$ に関して、2つの異なるソースから相補的な証拠を抽出する：

1. 潜在幾何学信号 ($\psi(x)$): 連結されたシーケンス $q \oplus a$ が凍結されたLLMに入力される。フレームワークは、プロンプトの平均プーリングされた隠れ状態 ($\bar{h}_q$) と出力の平均プーリングされた隠れ状態 ($\bar{h}_a$)、および残差ドリフト ($\bar{h}_a - \bar{h}_q$)、そして最後のトークンの隠れ状態 ($h_{end}$) を計算する。これにより、意味的ドリフトと絶対的な座標情報が捉えられる。
2. 確率的トレース信号 ($\phi(x)$): トークンレベルの対数確率から、平均、最小値、標準偏差、予測エントロピー、ロジットマージン、および低確率のアウトライヤーをカウントするテール周波数関数を含む、一連のトレース関数を抽出する。

これら2種類の証拠は共有潜在空間に投影され、マルチレイヤーパーセプトロン (MLP) を介して融合され、統一された表現 $r(x)$ を形成する。

2.2 グループ認識型証拠推論

$r(x)$ を直接スコアにマッピングする代わりに、FLaGは、それぞれが特定のハルシネーション・メカニズムを表す $K$ 個の潜在証拠グループを導入する。

• プロトタイプに基づく割り当て: 各グループ $g$ は、学習可能なプロトタイプベクトル $c_g$ によって定義される。エネルギーベースのルーティングメカニズムが、証拠 $r(x)$ とプロトタイプ $c_g$ の間の適合性 $\alpha_g(x)$ を計算する。
• ソフトルーティング: ルーティング分布 $\pi_g(x)$ は、温度パラメータ $\tau$ を用いたボルツマン形式で計算され、インスタンスが複数のグループにソフトに関連付けられることを可能にする。この分布は、特定の潜在メカニズムに属するインスタンスの近似事後分布として機能する。
• グループ条件付きスコアリング: 各グループ $g$ には、関連する線形スコアリング関数 $s_g(x) = w_g^T r(x) + b_g$ が存在する。異なるグループは、異なる失敗モードを反映するように、証拠の異なる次元を強調するように訓練される。

2.3 対数周辺証拠集約

最終的な真実性スコア $s(x)$ は、対数周辺集約ルールを通じてグループ条件付き信号を集約することで得られる：
$$s(x) = \log \sum_{g=1}^{K} \pi_g(x) e^{s_g(x)}$$
この定式化は、単一の説明にコミットするのではなく、競合する潜在メカニズムを周辺化することを効果的に実現している。最終的な二値予測は、$s(x)$ の閾値処理（例：$G(x) = \mathbb{I}[s(x) \geq 0]$）によって行われる。

2.4 学習目的

本フレームワークは、教師あり学習、弱教師あり学習、および半教師あり学習をサポートする：

• 教師あり目的関数: マージンベースのランキング損失は、ラベル付きペア内において、真実のインスタンスがハルシネーションのインスタンスよりも高いスコアを受け取るように促す。
• 半教師あり目的関数: ラベルのないデータに対して、モデルは各グループの高信頼度インスタンスを特定し、それらのグループ内で一貫した相対的順序を強制する。これにより、明示的な疑似ラベルを必要とせずに潜在的なグループ構造を洗練させる。

3. 理論的分析

本論文は、FLaGを最適仮説検定に結びつける理論的正当性を提示している。

• ベイズ最適統計量: データがグループ条件付き分布の混合物から生成される混合メカニズムモデルの下で、著者らは、真実性を検出するためのベイズ最適対数尤度比 (LLR) が、メカニズム条件付き証拠に対して必然的に対数周辺形式をとることを証明している。
• 近似: FLaGは、この最適統計量の扱いやすく学習可能な近似であることが示されている。ルーティング分布 $\pi_g(x)$ は計算困難な事後分布を近似し、グループスコア $s_g(x)$ はグループごとの対数尤度比を近似する。
• 誤差界: 潜在グループの数 $K$ が増加するにつれて、近似誤差がベイズ最適統計量に対して多項式的に減少（$O(K^{-1/d})$）することを示し、制御可能な誤差界を提供している。

4. 実験結果

実験は、2つのLLMバックボーン（LLaMA-3-8B-Instruct および Qwen2.5-7B-Instruct）を用い、4つのベンチマーク（TruthfulQA, TriviaQA, CoQA, TyDiQA-GP）で実施された。

• 性能: FLaGは、17のベースライン（Semantic Entropyのような学習フリーの手法や、SAPLMAやHaloScopeのような学習ベースのプローブを含む）を上回る、SOTA（State-of-the-Art）の性能を達成した。完全な教師あり学習の下で、FLaGは2つのバックボーンにおいて、最良のベースラインに対してAUROCを3.03%および3.60%向上させた。
• 半教師あり学習の堅牢性: ラベル付きデータがわずか20%しかない場合でも、FLaGはほとんどの完全教師あり学習の競合他社を上回り、限定的な教師あり学習下での有効性を示した。
• 転移性: モデルは強力なクロスデータセットおよびクロスモデルの転移性を示した。あるデータセットまたはモデルバックボーンで訓練された検出器は、未知のターゲットに適用された場合でも高いAUROCスコアを維持しており、学習された信号がデータセット固有のアーティファクトではなく、本質的な生成の失敗を捉えていることを示唆している。
• 堅牢性: 性能は、インスタンスの複雑さ（長さ）やサンプリング温度の変化に対しても安定しており、ノイズや多様な生成レジームに対する耐性を示している。
• 解釈可能性: 潜在グループの分析により、明示的なカテゴリの監督なしに、ハルシネーションが意味的に一貫したカテゴリ（例：事実の捏造、論理的矛盾、エンティティの不一致）に自然に分割されることが明らかになった。

5. 主な貢献

1. 定式化: 本論文は、ハルシネーション検出を、異質な潜在的失敗モードを考慮したフレームワークの下で、表現レベルとトークンレベルの信号を統合する、メカニズム認識型の証拠集約問題として再定式化した。
2. フレームワーク (FLaG): 潜在グループへのソフトルーティングと、閾値に依存しないランキングを実現するための原理的な対数周辺集約を利用した、軽量で凍結されたモデルの検出ヘッドを提案した。
3. 理論と学習: ベイズ最適の対数周辺統計量への理論的な接続を、制御可能な誤差界とともに提供し、半教師あり設定へ自然に拡張できるランキングベースの目的関数を導入した。

6. 意義と限界

意義: FLaGの優れた性能は、ハルシネーション・メカニズムの異質性を明示的にモデル化していることに起因すると本論文は主張している。証拠を単一の分類器に崩壊させるのではなく、複数の潜在的な説明に対して周辺化することで、フレームワークはデータセット、モデル、および教師あり学習のレベルを超えた堅牢性を達成している。

限界:

• ブラックボックス制約: FLaGは内部の生成テレメトリ（隠れ状態およびトークンレベルの統計量）に依存している。したがって、最終的なテキスト出力のみが観測可能な、厳格なブラックボックス設定には適用できない。
• 理論的範囲: ベイズ最適集約への理論的接続は、混合メカニズムの視点の下で確立されている。著者らは、より強い分布シフトや、証拠ビュー間のより構造化された依存関係を持つ設定へとこの分析を拡張することは、今後の課題であると述べている。