技術要約：LUMINA – コンテキスト–知識信号を用いたRAGシステムにおけるハルシネーションの検出

1. 問題の定式化

Retrieval-Augmented Generation（RAG）システムは、検索された外部ドキュメントに回答を接地させることで、大規模言語モデル（LLM）のハルシネーション（幻覚）を軽減することを目的としている。しかし、正確かつ十分なコンテキストが提供されている場合でも、RAGベースのLLMは頻繁にハルシネーションを引き起こす。本論文は、これらの失敗が、モデルの外部コンテキストへの依存度と内部パラメータ知識への依存度の間の不均衡に起因していると仮定している。

既存のハルシネーション検出手法は、特定の注意ヘッド（attention heads）やトランスフォーマー層を選択して信号利用量を定量化するといった、メカニスティックな解釈可能性に基づくヒューリスティックに依存している。これらのアプローチには、主に以下の2つの制限がある：

1. 汎用性の欠如： 特定の層を選択するといった、データセット固有のハイパーパラメータ調整を大量に必要とし、異なるモデル間での転移に失敗することが多い。
2. 検証の欠如： ハルシネーションとは相関しているものの、それらのスコアが、意図した外部コンテキストの利用や内部知識の利用を真に反映しているかどうかを統計的に検証できていない。

本論文は、RAGシステムにおけるハルシネーションを、「検索されたドキュメントに正しい情報が含まれている場合でも、内部知識利用信号（$I$）が外部コンテキスト利用信号（$E$）を不当に上回っている応答」と定義する。

2. 手法：LUMINAフレームワーク

著者らは、LUMINAという、層に依存しない（layer-agnostic）フレームワークを提案する。これは、外部コンテキスト利用と内部知識利用という2つの異なる信号を通じてハルシネーションを定量化するものである。最終的なハルシネーションスコアは、これら2つの信号の加重結合である。

2.1 外部コンテキスト利用の定量化

LLMが検索されたドキュメントにどの程度依存しているかを測定するため、LUMINAは入力に対する意味的な変化へのモデルの感度を評価する。

• メカニズム： 本フレームワークは、検索されたドキュメント（$d$）に条件付けられた次トークンの確率分布と、ランダムで無関係なドキュメント（$d'$）に条件付けられた分布を比較する。
• 指標： 埋め込み空間におけるこれら2つの分布間の距離を測定するために、**最大平均偏差（Maximum Mean Discrepancy: MMD）**を採用している。
• 論理： 乖離が大きいほど、モデルの予測が特定の検索ドキュメントの内容に対して高い感度を持っていることを示し、これは高い外部コンテキスト利用を意味する。著者らはMMDの計算にコサインカーネルを使用しており、この手法はカーネルの選択に対して頑健であると述べている。

2.2 内部知識利用の定量化

内部知識への依存度を測定するため、フレームワークはトランスフォーマー層全体におけるモデルの内部状態の進化を追跡する。

• メカニズム： この手法は、Logit Lens技術を利用して、各層の隠れ状態をトークン確率空間へと投影する。そして、予測の「飽和」を観察する。具体的には、最も可能性の高いトークンの確率が、初期層から最終出力に向けてどのように進化するかを観察する。
• 指標： 情報処理率（Information Processing Rate）（$R$）を定義する。この指標は、中間層の予測が最終出力とどの程度異なるかを計算し、層の深さで重み付けを行い、予測エントロピーで正規化したものである。
• 論理： モデルの内部予測が最終出力に到達するまで、非常に最終層に近い段階まで収束しない場合、それは多大な情報処理（したがって内部知識への依存）が層ごとのプロセスを通じて行われたことを示唆する。高い情報処理率は、より強い内部知識利用を意味する。

2.3 統計的検証

先行研究とは異なり、LUMINAは、その測定値が利用の理論的定義と一致することを統計的に検証するためのフレームワークを含んでいる。著者らは、4つの検証可能な仮説（例：「検索されたドキュメントを用いた生成は、それを用いない生成よりも高い外部コンテキスト利用を示すはずである」）を定式化し、大規模なトークンセットに対して統計的仮説検定（t検定）を行い、帰無仮説を棄却することで、提案する指標の妥当性を確認している。

3. 主な貢献

1. 新規フレームワーク： 特定の層や注意ヘッドの選択を必要とせずに、外部コンテキストと内部知識の利用を定量化する手法であるLUMINAの導入。
2. 統計的検証： 提案されたスコアが実際の利用挙動に対応することを厳密に検証するフレームワークを提供し、従来の文献におけるギャップを解消した。
3. 最先端の性能： LUMINAが、既存のスコアベースおよび学習ベースのハルシネーション検出手法を凌駕することを実証する広範な実験。

4. 実験結果

著者らは、2つのベンチマーク（RAGTruthおよびHalluRAG）を用い、4つのオープンソースの指示チューニング済みLLM（Llama2-7B/13B, Llama3-8B, Mistral-7B）に対してLUMINAを評価した。

• 性能： LUMINAは一貫して高いAUROCおよびAUPRCスコアを達成した。HalluRAGデータセットにおいて、LUMINAはモデルを問わず0.9を超えるAUROCを達成し、従来の最先端手法（ReDeEP）を最大で**+13% AUROC**上回った。
• 比較： 不確実性ベースのベースライン（例：Perplexity, LN-Entropy）や、一貫性ベースの手法（例：SelfCKGPT）、および言語化手法（例：P(True)）を大幅に上回った。
• 解釈可能性： 分析により、論文の推測が裏付けられた。すなわち、ハルシネーションは低い外部コンテキストスコアと、不当に高い内部知識スコアと強く関連している。
• 頑健性：
  • ノイズ： 検索されたドキュメントまたはランダムなドキュメントにノイズ（ランダムな文章）を注入しても、軽微な性能低下のみで、手法は頑健性を維持した。
  • モデル非依存性： LUMINAは、あるモデルが生成した応答のハルシネーションを別のLLMが検出するという「プロキシ（代理）」設定においても有効性を示した。これは、検出器と生成器が必ずしも同一のモデルである必要はないことを示唆している。
• 教師あり学習との比較： 教師なしの設定において、LUMINAはラベル付きデータでの訓練を必要とする教師あり学習のベースライン（SAPLMAなど）と同等、あるいはそれ以上の性能を達成した。

5. 意義と主張

本論文は、LUMINAがRAGシステムにおけるハルシネーション検出のための、原理に基づいた、汎用性のある、実用的なソリューションを提供すると主張している。その意義は以下の点にある：

• チューニング・オーバーヘッドの削減： 特定の注意ヘッドや層を選択する必要を排除することで、モデルやデータセット間の汎用化における大きな障壁を取り除いた。
• 理論的根拠： 統計的検証により、検出スコアとモデルの振る舞いの基礎となるメカニズムとの間の、従来のヒューリスティックなアプローチよりも強力な結びつきを提供した。
• 実世界への適用可能性： 検索の品質が変動する実世界のデプロイメントや、生成モデルが未知であったりファインチューニングにアクセスできなかったりする場合でも機能する、ノイズへの頑健性とクロスモデル（プロキシ）設定での能力を備えている。

著者らは、外部のエビデンスと内部知識の信号を効果的にバランスさせることで、LUMINAがRAGシステムの信頼性を高め、誤情報のリスクを軽減すると同時に、LLMが生成中にどのように知識を利用するかを理解するための新しい視点を研究者に提供すると結論付けている。