技術サマリー: CORTEX

問題提起

Retrieval-Augmented Generation (RAG) は、LLM（大規模言語モデル）の出力を外部参照に基づいて根拠付けるために広く利用されているが、参照が提供されている場合でも、モデルが幻覚（ハルシネーション）を含む内容を生成してしまうことが頻繁にある。既存の幻覚検出手法には、主に2つの限界がある：

1. 粒度: ほとんどのアプローチは「回答レベル」で動作し、応答全体を単一のユニットとして評価する。これは、忠実な内容と幻覚を含む内容が混在するような長文のRAG出力に対しては不十分である。
2. 手法: 既存の手法の多くは、自己一貫性（複数の生成を必要とする）や、プロンプトベースの事実確認（追加の推論とプロンプトエンジニアリングを必要とする）に依存しており、これらは高い計算コストを要する。さらに、多くの表現ベースの検出器は、参照が存在する場合と存在しない場合でモデルの状態がどのように変化するかを比較するのではなく、単一の内部状態を孤立して分析している。

本論文は、混合された出力の中から根拠のない内容を特定できるトークンレベルの検出手法であり、かつオープンウェイトおよびクローズドウェイト（APIベース）の両方のLLMに対して実用的なポストホック（事後）フレームワークとしての必要性を提案している。

手法: CORTEX

CORTEX (Comparative Observed Reference-based Token-level EXpressions) は、RAGのために特別に設計されたポストホック幻覚検出フレームワークである。これは、解析モデルとしてオープンウェイトのLLM ($M_{open}$) を利用し、クローズドウェイトのLLM ($M_{close}$) によって生成された可能性のある回答の内部表現を検査する。

このフレームワークは、以下の3つのコアコンポーネントを通じて動作する：

1. 参照誘発デルタ表現 (Reference-Induced Delta Representation)

CORTEXは、同じ回答に対して、2つの条件下での対照的な反事実的ビューを構築する：

• 参照条件付き入力: $x_{ref} = \text{question} \parallel \text{references} \parallel \text{answer}$
• 参照なし入力: $x_{no-ref} = \text{question} \parallel \text{answer}$

これらの入力を $M_{open}$ を通じて処理することで、各回答トークン $t_i$ に対するトークンレベルの内部表現 ($h_i$) を抽出する。そして、参照が提供されたことによるトークンの状態の変化を表すデルタ表現 ($\Delta h_i$) を算出する：
$$\Delta h_i = h_{i}^{ref} - h_{i}^{no-ref}$$
直感的には、忠実なトークンは参照に基づいた際に一貫した表現の変化を示すが、幻覚を含むトークンは、変化が弱いか、あるいは不整合な変化を示す。

2. アテンションに基づく文脈的残差 (Attention-Based Contextual Residual)

長文生成においては、参照の影響が間接的に伝播することがある。あるトークン $t_i$ は、参照への直接的なリンクによってではなく、先行するトークン ($t_{<i}$) が根拠付けられていることによって、間接的に根拠付けられる可能性がある。単に $\Delta h_i$ にのみ依存すると、これらの中間的に根拠付けられたトークンを幻覚として誤分類する可能性がある。

これに対処するため、CORTEXは文脈的残差 ($c_i$) を計算する。これは、参照条件付き入力からのアテンション重み ($\alpha_{ij}^{ref}$) を用いて、先行するトークンを介して媒介された参照の影響を推定するものである：
$$\bar{\Delta h}_i = \sum_{j<i} \alpha_{ij}^{ref} \Delta h_j$$
$$c_i = \Delta h_i - \bar{\Delta h}_i$$
残差 $c_i$ は、文脈から伝播した影響を考慮した後に残る、トークン固有の変化を分離する。これにより、参照に間接的に根拠付けられたトークンに対する偽陽性を減少させる。

3. トークンレベルの分類と平滑化 (Token-Level Classification and Smoothing)

特徴量 $[\Delta h_i; c_i]$ は、マルチレイヤーパーセプトロン (MLP) 分類器に入力され、生の幻覚スコア $s_i$ を生成する。

人間によるアノテーションのパターン（幻覚は孤立したトークンではなく、連続したスパンとして現れる傾向がある）に合わせるため、CORTEXは後処理としてラベル永続性平滑化 (Label-Persistence Smoothing) を適用する。これは、ペアワイズの永続性項 ($\rho$) と $s_i$ から導出されるトークンレベルの信頼度を用いて、隣接するトークン間で幻覚ラベルが持続する傾向をモデル化する。最終的な平滑化スコアは前向き・後ろ向きアルゴリズムを介して計算され、トークンレベルの粒度を維持しながら局所的なノイズを低減する。

主な貢献

1. 初のトークンレベルRAG検出器: 著者らの知る限り、CORTEXはRAGのために特別に設計された初のトークンレベルの幻覚検出手法であり、根拠のない内容の微細な特定を可能にする。
2. 実用的なポストホックフレームワーク: この手法は生成器のパラメータを変更する必要がない。生成器がブラックボックスAPIである場合を含む、任意のLLMの出力を、別のオープンウェイトモデルを用いて分析できる。
3. 比較表現アプローチ: 単一の内部状態を分析する先行研究とは異なり、CORTEXは参照条件付きの内部表現と参照なしの内部表現のコントラストを利用して、参照誘発信号を分離する。
4. 文脈的およびスパン認識設計: 文脈的残差の導入は間接的な根拠付けに対処し、ラベル永続性平滑化は予測をスパンベースのアノテーション構造に適合させる。

実験結果

著者らは、2つのベンチマーク (RAGTruth および HalluRAG) において、3つのLLM (Llama-3.1-8B, Qwen3-8B, Mistral-7B) を用いてCORTEXを評価した。

• トークンレベルの性能: CORTEXは、平均適合率 (AP) および AUROC において、5つのベースライン（NLL, SAPLMA, LLM-Check, ICR Probe, RAGLensを含む）を大幅に上回った。RAGTruthにおいて、CORTEXは 0.5940 (Qwen) のAPを達成し、次点のRAGLensの 0.4575 を上回った。
• 回答レベルの性能: トークンレベルの検出用に訓練されているが、CORTEXは（最大トークンスコアを回答スコアとして使用することで）競争力のある回答レベルの性能も達成し、トークンレベルの信号がグローバルな信頼性評価においても有効であることを示した。
• アブレーション研究: 文脈的残差 ($c$) または平滑化ステップを除去すると性能が低下したことから、両方のコンポーネントが堅牢な検出に必要であることが確認された。平滑化ステップは、ベースライン手法に適用した場合でも広く有益であることが示された。

意義と主張

本論文は、条件付け（参照あり vs なし）の下での内部表現の比較が、幻覚検出の信号として有効であることをCORTEXが示していると主張している。

• 実用性: 生成器を解析器から切り離すことにより、CORTEXは生成器がブラックボックスAPIであるデプロイ済みシステムにおける信頼性評価のための実行可能なソリューションを提供する。
• 粒度: 回答レベルの検出の限界に対処し、幻覚を特定のトークンに特定するメカニメントを提供することで、必要な粒度（単語、文章、段落）への集計を可能にする。
• 範囲: 著者らは、CORTEXは参照に基づいた生成 (reference-grounded generation) のために設計されていることを明示している。これは、提供された参照によってサポートされていない内容を検出するものであり、制御されたアプリケーション（例：エンタープライズサポート）には不可欠であるが、オープンエンドなシナリオでは有用なパラメトリック知識をフラグ立てする可能性がある。本論文は、提供されたコンテキストとは独立した一般的な事実の誤りを検出することを主張していない。

著者らは、これらの比較的な内部表現の信号が、将来の幻覚緩和戦略（生成器のチューニングのための報酬モデリングなど）の基礎にもなり得ると結論づけている。