FRANQ: 検索拡張生成（RAG）の出力に対する事実性検知のための「忠実性（Faithfulness）を考慮した不確実性定量化」

本論文は、検索拡張生成（Retrieval-Augmented Generation: RAG）システムにおいて生成された出力の「幻覚（Hallucination）」を検出・定量化するための新しい手法FRANQ（Faithfulness-aware Retrieval Augmented UNcertainty Quantification）を提案し、その有効性を検証した研究です。

以下に、問題定義、手法、主要な貢献、実験結果、および意義について詳細にまとめます。

1. 背景と問題定義

RAG と幻覚の問題

大規模言語モデル（LLM）は、外部知識を検索して生成に組み込む「検索拡張生成（RAG）」により、オープンドメインの質問応答タスクで高い性能を発揮しています。しかし、RAG システムでも依然として「幻覚（事実と異なる出力）」が発生します。
幻覚の発生源は主に 2 つあります。

1. 検索コンテキストの誤り: 検索された情報が不正確、不完全、または無関係である場合。
2. モデルの内部知識の誤り: 検索された情報が正確であっても、モデルが自身の内部知識（パラメトリック知識）から誤った情報を生成する場合。

既存手法の限界と「忠実性」と「事実性」の混同

従来の幻覚検出手法は、**「検索されたコンテキストに忠実か（Faithfulness）」と「事実に基づいているか（Factuality）」**を混同する傾向があります。

• 既存の課題: 多くの手法は、生成された文が検索コンテキストに明示的に基づいていない場合、それが事実として正しいものであっても「幻覚」として誤ってラベル付けしてしまいます。
• 本論文の主張: RAG における幻覚検知において重要なのは、単に「コンテキストからの逸脱」を捉えることではなく、**「客観的な事実性（Factuality）」**を評価することです。モデルの内部知識から導き出された文であっても、それが事実であれば幻覚ではありません。

2. 提案手法：FRANQ

FRANQ は、生成された主張（Claim）の事実性を推定するために、**「忠実性（Faithfulness）」**の評価を第一ステップとし、その結果に応じて異なる不確実性定量化（UQ）手法を適用する階層的アプローチを採用しています。

2.1 基本的なアプローチ

生成された主張 $c$ が真である確率 $P(c \text{ is true})$ を、以下の式で分解して推定します。

$$P(c \text{ is true}) = P(c \text{ is faithful}) \cdot P(c \text{ is true} | \text{faithful}) + P(c \text{ is unfaithful}) \cdot P(c \text{ is true} | \text{unfaithful})$$

この式は、主張が「検索コンテキストに忠実な場合」と「忠実でない場合」の 2 つのパスに分けて事実に基づく確率を計算し、それらを重み付けして統合することを意味します。

2.2 3 つのコンポーネント

FRANQ は以下の 3 つの確率成分をそれぞれ専用の手法で近似します。

1. 忠実性の評価 ($P(c \text{ is faithful})$):

   • 主張が検索された文書 $r$ から導き出されているかを評価します。
   • 手法: AlignScore（RoBERTa ベースのファクトチェック用モデル）を使用します。これは二値分類ではなく、0 から 1 の連続値として忠実性の度合いを出力し、部分的な根拠や暗黙の推論にも対応可能です。

2. 忠実な場合の事実性 ($P(c \text{ is true} | \text{faithful})$):

   • 主張が検索コンテキストに忠実である場合、LLM がその証拠を正しく適用したかどうかが焦点です。
   • 長文 QA: Max Claim Probability（主張のトークン確率の最大値）を使用。
   • 短文 QA: Semantic Entropy（意味的な不確実性）を使用。

3. 忠実でない場合の事実性 ($P(c \text{ is true} | \text{unfaithful})$):

   • 主張が検索コンテキストに基づいていない場合、それはモデルの内部知識（パラメトリック知識）に由来します。この場合、検索コンテキストを条件としない方が分布のシフトを避けられます。
   • 長文 QA: Parametric Knowledge 法を使用。検索文書を入力から除外し、LLM の内部知識のみで主張の尤度を計算します。
   • 短文 QA: Sum of Eigenvalues 法（サンプリングに基づく分散の指標）を使用。

2.3 較正（Calibration）

異なる UQ 手法は出力の分布が異なるため、Isotonic Regression（等方回帰）を用いて較正を行います。特に、**「条件別較正（Condition-Calibrated）」**を提案しており、忠実な主張と忠実でない主張それぞれに対して異なる較正関数を適用することで、より精度の高い確率推定を実現しています。

3. 主要な貢献

1. FRANQ の提案:
   RAG 出力の事実性を評価する新しい UQ 手法。忠実性を評価した上で、忠実な場合と不忠実な場合に最適な UQ 手法を動的に選択・組み合わせることで、幻覚検知の精度を向上させました。

2. 新しいデータセットの構築:

   • 長文 QA データセット: 事実性（Factuality）と忠実性（Faithfulness）の両方を注釈した新しいデータセットを構築しました。
   • ハイブリッド注釈: 自動注釈（GPT-4o）と、特に誤りや検証不可能なケースに対する人手による検証を組み合わせ、高品質なラベルを提供しています。
   • 既存のデータセット（RAGTruth など）は「コンテキストへの忠実さ」のみを評価する傾向がありましたが、本データセットは「客観的な事実性」に焦点を当てています。

3. 広範な実験と検証:

   • 長文・短文の QA タスク、複数の LLM（Llama, Falcon, Gemma など）を用いた実験で、既存の一般 UQ 手法や RAG 固有の手法、教師あり分類器（XGBoost）と比較して、FRANQ が事実誤りの検出において一貫して優れた性能（PR-AUC, PRR）を示すことを実証しました。

4. 実験結果

• 長文 QA: 複数のモデルにおいて、条件別較正を施した FRANQ が最も高い PR-AUC（Precision-Recall Area Under Curve）と PRR（Prediction Rejection Ratio）を達成しました。特に、不忠実な主張に対する事実性評価に Parametric Knowledge を用いることが重要であることが示されました。
• 短文 QA: 4 つのデータセット（TriviaQA, SimpleQA など） across 4 モデルで平均化した場合、条件別較正 FRANQ が最良の性能を示しました。
• ロバスト性: 検索された文書が不関連（Shuffled）または事実誤りを含んでいる（Corrupted）という 2 つのノイズ条件下でも、FRANQ は他の手法よりも高いロバスト性を示しました。
• 計算効率: 較正には少量の学習データと数秒のトレーニング時間で済み、推論時のオーバーヘッドも軽微です。

5. 意義と結論

本論文の最大の意義は、RAG における「幻覚」の定義を再考し、「コンテキストへの忠実さ」と「客観的な事実性」を分離して評価する枠組みを提供した点にあります。

• 実用的価値: 事実として正しいが検索コンテキストに明示されていない情報（モデルの内部知識による正しい回答）を誤って「幻覚」として排除することを防ぎ、RAG システムの信頼性と解釈性を向上させます。
• 将来展望: FRANQ の不確実性シグナルを、生成時の制御やポストエディティングに応用することで、より安全で信頼性の高い RAG システムの構築が可能になります。

総じて、FRANQ は RAG システムの出力評価において、単なるコンテキスト整合性のチェックを超え、真の事実性を捉えるための強力な基盤技術として位置づけられます。