Evaluating RAG Reliability under Clean, Misleading, and Mixed Retrieval

技術要約：クリーン、誤導的、および混合された検索下におけるRAGの信頼性の評価

問題提起
Retrieval-Augmented Generation（RAG）システムは、外部のエビデンスに基づいて回答を根拠付けることで、大規模言語モデル（LLM）の事実に関する信頼性を高めるよう設計されている。しかし、検索されたコンテンツが、もっともらしいが不正確な情報（誤情報）を含む異種混合のデータを含んでいることが多い現実世界の情報環境において、決定的な脆弱性が存在する。現在の評価フレームワークは、検索されたコンテキストが信頼できるものであると仮定しているか、あるいは主にセキュリティ指向の「ポイズニング（毒入れ）」攻撃に焦点を当てている。モデルがそのパラメトリック（内部）知識として正しい答えを既に持っているシナリオにおいて、誤導的なエビデンスが正しい内部知識をどの程度上書きし、モデルの確信度にどのような影響を与えるかという、体系的な分析は不足している。核心となる問題は、誤導的なエビデンスが正しい内部知識を上書きし、モデルの確信度に影響を与えるのか、そしてどのように影響を与えるのかを明らかにすることである。

手法
本研究は、以下の4つの異なるコンテキスト・シナリオを通じてRAGの堅牢性をテストするための評価プロトコルを提案する：

1. Clean（クリーン）: 正しいパッセージのみを含むコンテキスト。
2. Poisoned（ポイズン）: 不正確な（誤導的な）パッセージのみを含むコンテキスト。
3. Mixed-33（混合-33）: 1つの不正確なパッセージと2つの正しいパッセージを含むコンテキスト。
4. Mixed-67（混合-67）: 2つの不正確なパッセージと1つの正しいパッセージを含むコンテキスト。

実験設定:

• データセット: TruthfulQAデータセットから100個のファクトイド（事実に基づく）質問のサブセットをサンプリングした。極めて重要な点として、本研究では、**Parametric-Only（パラメトリックのみ）**の設定（検索なし）においてモデルが正解した質問のみをフィルタリングしており、これにより、その後のエラーが知識の欠如ではなく、コンテキストの影響に起因することを保証している。
• モデル: モデルの容量による影響を評価するため、GPT-4o（強力なクローズドウェイトモデル）とLLaMA-3.1-8B（より小規模なオープンウェイトモデル）を用いて実験を行った。
• コンテキスト構築: クリーンなコンテキストは、BM25を用いてWikipediaから取得した。誤導的な（ポイズンされた）コンテキストは、現実的な誤情報を模倣するために、LLaMA-3.1-8Bによって、もっともらしく、かつ情報量が多く、ゴールドアンサー（正解）に対して事実として矛盾するように合成生成された。これにより、生成にプロプライエタリなAPIに依存することなく実現している。
• 評価指標: 単純な正確性を超えるために、本論文では3つの特定の指標を導入している：
  1. Parametric Override Rate (POR / パラメトリック上書き率): 検索されたコンテキストによって、モデルが正しいパラメトリックな回答を放棄して不正確な回答を選択してしまう頻度を測定する。
  2. Confidence Inflation (CI / 確信度の膨張): 誤導的なコンテキストの下で不正確な回答を生成する際、モデルの断定的な姿勢（確信度）がどれだけ増加するかを定量化する。
  3. Poison Ratio Curve (PRC / ポイズン比曲線): コンテキスト内の誤ったパッセージの割合が0%から100%へと増加するにつれて、モデルの全体的な正確性がどのように推移するかを追跡する。

主な結果

• パラメトリックな上書き: 両モデルとも、正しい内部知識を上書きすることに対して顕著な脆弱性を示した。Cleanのシナリオにおいてさえ、正しいパラメトリックな回答の相当部分が上書きされており（GPT-4oで0.378、LLaMA-3.1で0.417）、これは検索されたコンテキストの存在自体が内部的な推論を妨害する可能性があることを示唆している。不正確なコンテキストの割合が増えるにつれ、PORは体系的に上昇した。Poisonedのシナリオでは、両モデルとも56%以上のケースで正しい知識を放棄した。
• モデルの感受性: LLaMA-3.1はGPT-4oよりも矛盾するエビデンスに対して高い感受性を示し、混合シナリオにおいてパフォーマンスの急激な低下が見られた（例：Mixed-67において、LLaMA-3.1のPORは0.583に跳ね上がった）。
• 確信度の膨張: 誤導的なコンテキストは、モデルが不正確な回答を非常に高い確信度を持って表明させる原因となった。完全にポイズンされたシナリオにおいて、両モデルは同様のレベルの確信度膨張（約1.6）を示し、これは誤情報に直面した際の過剰な自信が、特定のアーキテクチャの欠陥ではなく、RAGシステムの一般的な特性であることを示している。
• 正確性の低下: Poison Ratio Curveは、誤情報の量とモデルの正確性の間の明確な逆相関を明らかにした。CochranのQ検定により、コンテキストの条件による正確性の低下は、両モデルにおいて有意であることが確認された。

意義と貢献
本論文は、検索されたコンテキストの影響下で、モデルが正しいパラメトリック知識からどの程度逸脱するかを明示的に測定する、初の体系的な評価フレームワークを提供すると主張している。主な貢献は以下の通りである：

1. 行動的洞察: RAGの信頼性は単なる検索精度だけでなく、モデルが内部知識と外部エビデンスの間の衝突をどのように解決するかに大きく依存していることを実証した。
2. 新しい指標: 「上書き」効果と、不正確な回答が高い確信度を伴って提示される危険な組み合わせを定量化するためのPOR、CI、およびPRCを導入した。
3. 現実的な評価: RAGシステムは、誤情報が支配的ではない「混合」環境においても脆弱であることを強調し、コンテキスト内の正しい情報が自然に優勢になるという仮定に異を唱えた。

著者らは、誤情報が豊富な環境においては、検索されたエビデンスの「関連性」と同様に、その「信頼性」が極めて重要であると結論付けている。本研究は、将来のRAGシステムには、モデルが検証済みの知識よりも誤導的な情報を自信を持って採用してしまうことを防ぐために、信頼性を考慮した検索メカニズムと衝突検知戦略が必要であることを示唆している。