技術要約: 因果的検索拡張生成 (CR-RAG)

1. 問題提起

検索拡張生成 (RAG) は、外部知識に基づいて大規模言語モデル (LLM) を接地させるための標準的なパラダイムとして確立されています。しかし、現在の RAG システムは、質問の特徴と検索されたエビデンスとの間の偽相関 (spurious correlations) に対して脆弱であるという根本的な欠陥を抱えています。

本論文は、RAG システムが流暢でありながら事実とは異なる回答（ハルシネーション）を生成してしまう原因となる、3つの構造的なバイアスの源泉を特定しています。

1. 人気度による混同 (Popularity Confounding): 密なリトリーバー（Dense retriever）は、人気のあるエンティティを含むパッセージにバイアスがかかっています。質問が稀なエンティティを対象としている場合でも、リトリーバーは、埋め込み空間を支配している人気のある共起エンティティに関するパッセージを返してしまうことがよくあります。
2. 語彙的重複バイアス (Lexical-Overlap Bias): リトリーバーの目的関数（多くの場合、対照学習）は、たとえその単語が無関係なイディオムであっても、質問と表面的な n-gram を共有するパッセージを優先します。これにより、生成器は表面的には関連しているが事実としては誤っているテキストにアンカー（固定）されてしまいます。
3. 選択バイアス (Selection Bias): Top-K 截断メカニズムは、「検索されること」と「情報量が多いこと」を混同させます。カットオフ直下のパッセージには正しい事実が含まれている可能性がある一方で、カットオフ以上のパッセージは、質問との共通項（混同因子）を共有しているに過ぎない場合があります。

著者らは、これらの問題は単なる最適化の失敗ではなく、因果推論の問題であると主張しています。標準的な RAG は条件付き確率 $p(A|Q, R)$ を推定しますが、これには混同バイアスが吸収されてしまいます。目標は、エビデンスから回答への真の因果経路を分離し、因果効果 $p(A|do(Q), do(R))$ を推定することです。

2. メソドロジー: CR-RAG フレームワーク

本論文は、RAG パイプラインを構造的因果モデル (SCM) としてモデル化する 因果的検索拡張生成 (CR-RAG) を提案しています。これは、リトリーバーと生成器の間に、リトリーバーに依存しない軽量な因果レイヤーを導入するものです。

A. 構造的因果モデル (SCM)

パイプラインは以下のように定式化されます：

• 内生変数: 質問 ($Q$)、検索されたエビデンス ($R$)、および回答 ($A$)。
• 混同因子 (Confounders): 観測可能な混同因子 $C$（人気度、語彙的属性）および潜在的な混同因子 $U$（トピックの文脈）。
• バックドア経路: パス $Q \leftarrow C \rightarrow R \rightarrow A$ が偽相関を生み出します。CR-RAG は、このパスを遮断して真の因果効果を推定することを目指します。

B. コアコンポーネント

CR-RAG は、以下の4つの具体的な因果技術を統合しています。

1. 低ランク混同因子表現 (バックドア調整):

   • 小規模な多層パーセプトロン (MLP) が、混同因子の状態を表す低ランク埋め込み $g(Q, C)$ を学習します。
   • この埋め込みを使用してバックドア調整を行い、混同因子を条件付けることで、偽のパスを効果的に遮断します。
   • 正則化項により、埋め込みが回答情報を漏洩することなく（モデルが単に回答を暗記することを防ぐために）、混同因子を捉えることを保証します。

2. 逆確率重み付け (IPW):

   • 二値分類器が傾向スコア (propensity score) $e(R|Q, C)$ を推定します。これは、質問の内容ではなく、のみ 混同因子に基づいてパッセージが検索される確率です。
   • パッセージは $w = 1/(e + \epsilon)$ によって重み付けされます。人気度や語彙的バイアスによって主に検索されたパッセージ（高い傾向スコアを持つもの）は重みが下げられ、真の関連性によって検索されたパッセージは重みが上げられます。

3. 因果的パッセージ スコアラー:

   • 軽量な Transformer スコアラーが、do介入 ($do(R)$) の下でのパッセージの関連性を推定します。
   • これは、回答の文字列を含むパッセージをポジティブとし、n-gram は共有しているが回答を含まないパッセージをネガティブとする、弱教師あり学習（回答のオーバーラップ信号を使用）を通じて訓練されます。
   • このスコアラーは、因果的に関連のあるエビデンスのみを保持するように候補セットを削減します。

4. 反事実的データ拡張 (Counterfactual Data Augmentation):

   • 学習中、システムは、検索されたパッセージの一部を「混同因子が一致するネガティブ例」（類似の普及度や語彙的特徴を持つが、回答が異なるパッセージ）で置き換えることで、介入されたエビデンス集合 ($\tilde{R}$) を構築します。
   • 対照学習損失により、生成器に事実的なエビデンス ($R$) と反事実的なエビデンス ($\tilde{R}$) を区別させ、混同因子に駆動されたプロキシ（代理指標）を無視するように学習させます。

C. 学習目的関数

結合損失関数は、標準的な生成損失に、バックドア調整、IPW 訓練、反事実的対照、および混同因子正則化のための項を組み合わせたものです。このフレームワークはリトリーバーに依存しない (retriever-agnostic) 設計であり、推論時のレイテンシへの影響は極めて軽微（<5%）です。

3. 主な貢献

本論文は、以下の貢献を主張しています：

• 初のエンドツーエンド因果定式化: リトリーバーと生成器のフルパイプラインに対する初の統一的な因果的扱いを提供し、低ランク混同因子仮定の下での回答条件付きの識別可能性を証明しました。
• モジュール型フレームワーク (CR-RAG): 基盤となる LLM やリトリーバーを変更することなく、バックドア調整、IPW、反事実的対照学習、および因果的スコアリングを組み合わせた新しいアーキテクチャ。
• 因果的パッセージ スコアラー: $do$-介入の関連性を推定するために弱教師あり学習で訓練された新しいコンポーネントであり、手動のパッセージラベルを必要としません。
• 再現可能な評価: 人気度バイアスを直接測定するために、PopQA データセットの混同因子層別分割（confounder-stratified split）を公開しています。また、詳細なアブレーション研究も提供しています。

4. 実験結果

フレームワークは、4つの知識集約的ベンチマーク（Natural Questions (NQ)、TriviaQA、HotpotQA、PopQA）で評価されました。

• 性能向上: CR-RAG は、強力なベースライン（RAG、FiD、REPLUG、Self-RAG、Atlas を含む）を一貫して上回りました。
  • 改善幅は 1.2 ～ 3.7 Exact Match (EM) ポイントに及びました。
  • 最大の利得は、人気度による混同が最も深刻な PopQA で観察されました（3.7 EM の向上）。
• ロングテール性能: システムは、エンティティの人気度が低下するにつれて、単調な改善を示しました。PopQA の「非常に稀な (very-rare)」バケットにおいて、CR-RFA は標準的な RAG と比較してハルシネーションを 43% 相対的に減少させました。
• ハルシネーションの軽減: すべてのデータセットにおいて、フレームラーは根拠のない回答を減少させ、特にリトリーバーが重要な役割を果たす低人気エンティティにおいて最も顕著な影響を与えました。
• 効率性: 因果レイヤーはわずか 9.7M パラメータ（7B 生成器の 0.14%）を追加し、クエリあたりのレイテンシは 11ms であり、高い計算効率を示しました。
• 転移性: NQ で訓練されたモデルは、データセット固有のチューニングなしに、マルチホップ QA (2WikiMultihopQA) および事実検証 (FEVER) へと正常に転移しました。

5. 意義と主張

本論文は、CR-RAG を LLM の新しいアーキテクチャとしてではなく、推定対象を結合的 ($p(A|Q, R)$) から因果的 ($p(A|do(Q), do(R))$) へと移行させる原理的な転換として位置づけています。

• 根本原因への対処: ハルシネーションの症状（事後検証や自己反省などによる）を扱う従来の手法とは異なり、CR-RAG はハルシネーションを引き起こす上流のリトリーバー・バイアスに対処します。
• 知識の公平性: このフレームワークは「ロングテール」の失敗モードを明確にターゲットとしており、稀なエンティティや普及度の低い事実が、人気のあるものと同様に正確に検索・回答されるようにすることで、知識集約型 QA における公平性を向上させます。
• 産業的実行可能性: 因果レイヤーのモジュール的かつ軽量な性質により、既存のシステム（ブラックボックス LLM を含む）への「ドロップイン」コンポーネントとしての導入が可能であり、事実性が不可欠な領域（法務、臨床、科学分野など）のプロダクション環境において実現可能です。

著者らは、明示的な因果推論が次世代の検索拡張システムにとって不可欠であり、人間知識の分布全体に対して、より忠実で公平な LLM アプリケーションへの道を開くものであると結論付けています。