Towards Dependable Retrieval-Augmented Generation Using Factual Confidence Prediction

技術サマリー：事実性信頼度予測を用いた信頼性の高い検索拡張生成への道

問題定義
検索拡張生成（RAG）は、大規模言語モデル（LLM）にドメイン固有の知識を付与する標準的な手法となっている。しかし、決定的な脆弱性が残されている：類似性検索によって取得されたコンテキストが、生成された事実を実際に裏付けているという保証はなく、また関連するコンテキストが存在しても LLM が情報を幻覚（ハルシネーション）させないという保証もない。現在の安全性保証手法は、しばしばヒューリスティックな改善や特定コンポーネントの修正に依存しており、RAG パイプラインに対して証明可能な保証を提供する一般化された、アーキテクチャに依存しないプロトコルが欠如している。核心的な課題は、検索プロセス（ソースの忠実性を確保）と生成プロセス（取得したコンテキストに対する事実性を確保）の両方に、意味のある信頼度指標を関連付けることである。

手法
著者は、基盤となる検索器や LLM コンポーネントを変更せずに動作する、2 段階のアーキテクチャに依存しない認証プロトコルを提案する。

1. 検索信頼度推定（ブロック 1）：

   • アプローチ： 著者は検索プロセスに**適合予測（Conformal Prediction: CP）**を適用し、正しいソースに統計的に保証された確率で由来する文書チャンクのみを選択する。
   • メカニズム： 質問・参照・回答のトリプレットの較正セットを用いて、検索スコアと類似度指標（RougeL）に基づき、非適合しきい値を計算する。正しいチャンクと誤ったチャンクを区別するためのしきい値 $s_{thres}$ が確立される。
   • 保証： サンプルの交換可能性の仮定の下で、この手法は「信頼できる」チャンクの集合に真のソースチャンクが含まれるという統計的保証（誤り率 $\alpha$ によって制御される）を提供する。
   • 診断： 著者は、特定の検索器とデータセットの組み合わせが CP の成立に必要な交換可能性仮定を満たすかどうかを診断するための 2 つの指標、$m_1$（信頼できるチャンクの二値的存在）と $m_2$（信頼できるチャンクの割合）を導入する。

2. 応答信頼度推定（ブロック 2）：

   • アプローチ： 最終的な回答における幻覚を検出するため、著者は注意機構に基づく事実性分類器を利用する。
   • メカニズム： システムは生成中に LLM から中間の注意値を抽出する。具体的には、モデルが取得した特定のコンテキストチャンクに払う平均的な注意を、コンテキストと生成された出力全体に払われた注意に対する比率として測定する**チャンク単位のリバック比（CW LR）**を計算する。
   • 分類器： これらのリバック比に基づいてロジスティック回帰ユニットを訓練し、事実性スコアを予測する。重要なのは、分類器がドメイン固有のバイアス（例：「金融の質問は難しい」）ではなく事実的な裏付けを学習することを防ぐため、システムプロンプトとユーザー質問からの注意を特徴ベクトルから除外することである。

主要な貢献

• 証明可能な RAG パイプライン： 検索のための適合予測と生成のための注意に基づく検出を統合し、各段階に対して個別の信頼度指標を提供する新規ワークフロー。
• 診断指標： RAG 設定の適切性を評価するための $m_1$ および $m_2$ 指標の導入。論文は、これらの指標が検索器の性能不良（交換可能性の違反）を示す場合、CP の統計的保証が失敗し、チャンクフィルタリングが回答の質を低下させる可能性があることを実証している。
• 洗練された幻覚検出： 完全コンテキスト注意モデル（プロンプトを含む）は交差検証においてより高い AUROC を達成する可能性があるが、分類器を誤導する可能性のある非検索注意源を除外することで、チャンク単位のリバック比がより信頼性の高い事実的裏付けを提供することを示した。

結果
この手法は、Llama-3-8B-Instruct と BM25 検索を用いて、Natural Questions (NQ) データセットおよび Ragbench (RB) コレクション（12 の多様なデータセット）で評価された。

• 検索信頼度：

  • 検索器が良好に機能するデータセット（例：NQ、RB-cuad）では、$m_1$ 指標は理論的な期待値 $1-\alpha$ と一致し、交換可能性仮定を検証した。
  • 検索タスクが困難なデータセット（例：RB-finqa、RB-tatqa）では、$m_1$ が著しく低下し、正しいチャンクがトップ K に現れていないことを示した。これらの場合、CP ベースのフィルタリングを適用すると、ソースを見つけられない検索器が統計的保証を成立させないため、回答の一貫性が最大 10% 低下した。
  • 強力な検索器の場合、信頼できないチャンクをフィルタリングすることで、回答の一貫性が最大 6% 向上した。

• 応答信頼度：

  • チャンク単位のリバック比分類器は、同一グループ内での交差検証において、最大 77% のテスト AUROC を達成した。
  • 異なるデータセットグループ間での交差検証では、最大 16% の性能低下が見られ、汎化の課題が浮き彫りになった。
  • 比較により、完全コンテキスト（FC）リバック比（プロンプトを含む）は最大 82% の AUROC を示したが、プロンプトパターンからの潜在的なバイアスにより事実的裏付けの信頼性が低いと判断された。提案されたチャンク単位（CW）アプローチは、わずかに低い AUROC であっても、信頼性の高いシステムには優先される。

意義と主張
本論文は、安全上の重要な産業用途に適した証明可能な RAG システムの基盤を確立することを主張している。その主な意義は、ヒューリスティックな頑健性から統計的認証へとパラダイムを転換することにある。著者は、このアプローチがすべての RAG 設定に対する「銀の弾丸」ではないこと、むしろ診断フレームワークを提供するものであることを強調している。論文は明示的に、検索信頼度保証の有効性はサンプルの交換可能性に依存し、これは検索器が正しいチャンクを表面化できる能力に条件付けられていると述べている。したがって、提案された指標（$m_1, m_2$）は、特定の RAG 構成がこれらの信頼度保証を用いて展開に適しているかどうかを判断するための必須の前提条件である。この研究は、パイプラインのどこが脆弱か（検索対生成）を特定し、信頼の定量化可能な尺度を提供することで、信頼性の高い RAG 応用の開発を導くことを目的としている。