技術的サマリー：PARALLAX

問題提起

大規模言語モデル（LLM）は、流暢で権威的でありながら事実と異なる出力である「ハルシネーション」を頻繁に生成する。医療、法、科学などの高リスク領域では、これらの誤りが直接的な害を及ぼす。内部モデル状態（隠れ表現）を用いて効果的なハルシネーション検出器を開発したと主張する文献は増加しているが、分野には制御された手法間比較が欠如している。著者は、既存研究における2つの重要な交絡因子を特定した。

1. ベンチマーク構築のアーティファクト: 一般的なコーパス（HaluEval、MedHallu、TruthfulQA など）は、正解とハルシネーションの両方が入力プロンプトに直接埋め込まれる「ティーチャフォースド」構築を採用していることが多い。これにより、ラベルと表面テキストの差異との間に相関が生まれ、モデルの不確実性との相関ではなく、表面テキストの違いとの相関が生まれる。
2. 評価範囲: 多くの研究は、単一のベンチマークとモデル上で手法を評価しており、特定のデータセットとモデルの組み合わせへの過学習と、真の機械的シグナルを区別することが不可能である。

本論文は、ハルシネーション検出における報告された進歩の多くは、これらのアーティファクトによって作り出された錯覚であり、手法が実際にはモデルの不確実性の内部状態ではなく、プロンプト内の語彙的表現パターンを検出しているに過ぎないと主張する。

手法

アーティファクト制御：TXTEMB

ベンチマークのアーティファクトの影響を定量化するため、著者はTXTEMB、すなわち単純なテキスト類似性ベースラインを導入する。TXTEMB は、ハルシネーション回答と参照回答のテキスト間の TF-IDF コサイン類似度を計算する。重要なのは、これがモデル内部へのアクセスを一切必要としない点である。

• ロジック: 内部状態を用いる手法が、ティーチャフォースドコーパス上で TXTEMB と同等の性能を達成する場合、そのシグナルはモデルの不確実性ではなく、表面テキストの差異によって駆動されている可能性が高い。
• 閾値: 同一コーパス上で TXTEMB の AUROC に対して 0.05 以内の AUROC を示す手法は、アーティファクトに汚染されている可能性があるとフラグ付けされる。

実験設定

著者は、大規模かつ制御された評価を実施した。

• 22 種類の検出手法: 6 つの新しいアプローチ（A–F）と 16 の確立されたベースライン（SAPLMA、INSIDE、MIND、HalluShift、SelfCheckGPT など）を含む。
• 12 種類のモデル: 6 つのアーキテクチャファミリー（Llama、Qwen、DeepSeek-R1、Mistral、Gemma、Phi）にまたがり、パラメータ数は 38 億から 720 億まで。
• 6 つのコーパス: 2 つの領域に分類される。
  • ティーチャフォースド（TF）: HaluEval、MedHallu、TruthfulQA、Legal（回答がプロンプトに埋め込まれている）。
  • ライブ生成（LG）: RAGTruth、HaluBench（モデルが自由に生成し、ラベルは事後に適用される）。

提案手法：DRIFT

著者は、隠れ層間の遷移を分析することでハルシネーションを検出する教師ありプローブDRIFT（Detection via Inter-layer Representational Transitions）を導入する。

• アーキテクチャ: 隠れ状態は、上位層の 4 つの分数的な深さ（総深度の 60%、70%、80%、85%）から抽出される。
• 特徴量構築: 各タップされた層のペア $(l_a, l_b)$ に対して、手法は以下の要素を含む特徴量ブロック $\phi_{ab}$ を計算する。
  1. 差ベクトル: $h(l_b) - h(l_a)$
  2. コサイン類似度: $\cos(h(l_a), h(l_b))$
  3. ユークリッドノルム: $\|h(l_b) - h(l_a)\|_2$
• 分類: これらの特徴量は高次元ベクトル（700 億パラメータモデルの場合、約 49,000 次元）に連結され、L2 正則化ロジスティック回帰プローブに入力される。
• 二重の有用性: プローブの重みベクトルはハルシネーションの対照方向として機能し、個別のステアリングベクトル計算なしに「検出後に誘導」する能力を可能にする。

主要な結果

1. アーティファクト効果

ティーチャフォースドコーパス上では、多くの手法が高い AUROC スコア（0.85–1.00）を報告している。しかし、TXTEMB は表面テキストのみを使用して、これらの同じデータセットでほぼ完璧なスコア（HaluEval 上で 0.98 など）を達成する。

• 発見: アーティファクトが除去された場合（すなわち、ライブ生成コーパス上では）、ティーチャフォースドのアーティファクトに依存していた手法は、偶然に近い性能まで崩壊する。
• 例: DRIFT はティーチャフォースドの HaluEval で 0.96 のスコアを示すが、同じプロンプト構造からのライブ生成回答で再評価すると 0.62 に低下する。

2. ライブ生成ベンチマークにおける性能

アーティファクトのないRAGTruthおよびHaluBenchコーパス上では:

• 天井: 確立されたベースラインの大部分（MIND、HaloScope、ACT、SEPs、HalluShift）と教師なし手法は、RAGTruth 上で偶然に近い性能（AUROC 0.43–0.57）を示す。
• 上位パフォーマンス: ライブ生成データ上で偶然を確実に超えるのは、SAPLMA（2023 年の単一層プローブ）とDRIFTのみである。
  • HaluBenchでは、両手法とも 12 のアーキテクチャ全体で AUROC $\approx 0.91$ を達成する。
  • RAGTruthでは、すべての手法（SAPLMA と DRIFT を含む）が 0.43 から 0.57 の間にとどまり、これが活性化ベースの検出にとって困難で未解決のベンチマークであることを示している。
• SAPLMA と DRIFT の比較: TruthfulQA 上では、SAPLMA が DRIFT をわずかに上回る（0.75 対 0.73）が、HaluBench 上では統計的に区別できない。DRIFT の層間差分は、単純な上位層の連結（DRIFT-concat）を一貫して上回らないため、主要なシグナルは上位層の表現そのものにあることが示唆される。

3. 異アーキテクチャおよびスケール

• 汎化: DRIFT と SAPLMA は多様なアーキテクチャ（Llama、Qwen、Mistral など）全体で高い性能を維持するのに対し、他の手法は汎化に失敗する。
• スケール: TruthfulQA 上の検出性能はモデルサイズに比例して向上するが、HaluBench 上では性能はモデルサイズ（38 億から 720 億）全体で一貫している。
• コスト: DRIFT-logp（トークンの対数確率を用いた変種）は 10ms 未満の遅延を提供する。SAPLMA と DRIFT は、追加の推論パスを必要とせず（隠れ状態の抽出のみが必要）、10 倍の追加推論を必要とする SelfCheckGPT-NLI などのマルチサンプル手法を上回る高精度を提供する。

意義と主張

本論文は、ハルシネーション検出における分野の報告された進歩が、ベンチマーク構築のアーティファクトによって大幅に過大評価されていると主張する。著者は以下を主張する。

1. 既存の検出器の大部分は非効率的である: 制御された条件下（ライブ生成）では、確立されたベースラインの大部分は偶然の確率よりも良い結果を出さない。
2. ティーチャフォースドは重要な交絡因子である: プロンプトに正解を埋め込むことは、表面テキストベースラインが完璧なスコアを達成することを可能にし、内部状態手法を不確実性のシグナルではなく語彙的ショートカットを学習させるように誤導する。
3. SAPLMA と DRIFT は例外である: 上位層の隠れ状態に対するこれら 2 つの教師ありプローブは、ライブ生成設定でハルシネーションを確実に検出する唯一の手法であるが、より困難な RAGTruth コーパスではそれらさえも苦戦する。
4. 将来の方向性: 信頼性の高い進歩には、真の内部状態シグナルをベンチマークのアーティファクトから分離する評価プロトコルが必要である。著者は、RAGTruth を将来の研究のための具体的で未解決のベンチマークとして位置づけている。

本論文は、ハルシネーション検出はまだ解決されていないが、前進の道筋は、特定のアーティファクトに汚染されたデータセットの最適化ではなく、厳密なアーティファクト制御と、領域全体で汎化する手法への焦点にあると結論づけている。