技術的サマリー：明確化、棄権、または回答？信念増強生成を伴う対話における戦略策定

問題定義

大規模言語モデル（LLM）は、テキスト上の確率分布を定義し、これが不確実性や「信念」の表現として機能する。既存の研究はこの分布を、デコード（例：最小ベイズリスク）や選択的予測（例：意味エントロピーによる幻覚の検出）といった狭いタスクに活用しているが、これらのアプローチは通常、手動介入、外部デコーダー、または微調整を必要とする。重要なのは、標準的な LLM には生成中に自身の確率的不確実性を「内省」したり、直接利用したりするメカニズムが欠如している点である。実証的証拠によれば、明示的なガイダンスなしには、LLM は曖昧な入力について明確化を行ったり、不確実な場合に回答を棄権したりすることは稀であり、代わりに直接回答をデフォルトとして選択し、入力の曖昧さや内部的な事実的不整合を無視しがちである。これは、多ターン曖昧質問応答（QA）設定において、幻覚や誤った回答をもたらす。

手法：信念増強生成（BAG）

著者は、LLM を自身の信念状態に根ざさせ、より豊かな対話戦略（直接回答、明確化の要求、棄権）を可能にする、トレーニング不要なフレームワーク「信念増強生成（BAG）」を提案する。

中核メカニズム

BAG は 2 段階のプロセスとして機能する：

1. 信念状態の構築：入力 $x$ が与えられたとき、モデルはモンテカルロサンプリングを通じて $K$ 個のサンプル（$Y^{(1)}, \dots, Y^{(K)}$）を生成する。これらをエントロピーや多数決などの単一の指標に集約する手法とは異なり、BAG は $K$ 個のテキスト応答の完全なセットを信念状態 $B_\theta(x)$ として保持する。この状態は、妥当な回答の多様性だけでなく、留保、拒否、文脈的変異といった言語的手がかりも捉える。
2. 戦略推論：モデルには、元のユーザー質問と $K$ 個の候補回答（信念状態）がプロンプトとして提示される。指示により、モデルはこの状態を分析し、以下の 3 つの戦略のいずれかを選択する：
   • 直接回答：信念状態が回答に関して高い一貫性（低い不確実性）を示す場合。
   • 明確化：信念状態に、質問の異なる解釈に対応する意味的に異なりつつも妥当な回答が含まれる場合（データの不確実性/曖昧性）。
   • 棄権：信念状態に、有用な明確化が存在しない知識の欠如（認識論的不確実性/幻覚）を示す矛盾する事実が含まれる場合。

プロンプト変種

著者は、指示の複雑さが増す 3 つのプロンプト変種（BAG1、BAG2、BAG3）を検討する：

• BAG1：基本的な一貫性チェック。
• BAG2：不確実性固有の言語を取り入れ、曖昧性（明確化）と幻覚（棄権）を区別する。
• BAG3：モデルに意味によって生成物をクラスタリングし、そのクラスタを解釈した上で戦略を決定することを要求する。
• BAG+：モデルが明確化を選択した場合、補助 LLM を用いてユーザー応答をシミュレートし、最終的な回答またはさらなる棄権を決定するために信念状態を再評価する拡張版。

主要な貢献

1. 信念状態への直接アクセス：モデルの不確実性の生テキスト表現をプロンプトに直接フィードする手法を導入し、外部ツールやトレーニングなしにモデルが自身の分布上で推論することを可能にする。
2. 戦略選択：単一の生成を選択するか主張を留保するかに焦点を当てた先行研究とは異なり、BAG はモデルが不確実性の性質に基づいて、回答、明確化、棄権の間で動的に選択することを可能にする。
3. トレーニング不要の適用性：このアプローチは微調整、外部データ、モデル重みへのアクセスを一切必要とせず、オープンモデルとクローズドモデルの両方に適用可能である。
4. ルーティングの実証的分析：モデルがどのように質問を異なる戦略にルーティングするかを詳細に分解し、これらの決定が基礎となる信念状態のエントロピーにどの程度忠実かを評価する。

結果

実験は、6 つのモデル（OLMo2/3、Qwen3、Gemini-2.5-Flash）を用いて、1,832 の曖昧な質問を含むAmbigQAデータセット上で実施された。

• 性能向上：BAG は、標準的な直接生成およびプロンプトのみのベースライン（戦略増強生成、SAG）と比較して、QA 精度を大幅に向上させる。多くの場合、BAG+ は正しい意図を提供する「曖昧性除去オラクル」さえも凌駕し、モデルが事実的知識の欠如を成功裏に特定し、推測するのではなく棄権できることを示している。
• 忠実性：BAG の戦略的決定は、SAG よりもモデルの内部信念状態のエントロピーに対してより忠実である。信念状態のエントロピーが増加するにつれて、BAG モデルは明確化または棄権を選択する頻度が増加するのに対し、SAG や直接生成はほとんどそうしない。
• 戦略分解：精度の向上は、モデルによって異なるメカニズムによって駆動される。例えば、Qwen モデルでは、改善は主に棄権戦略（幻覚の回避）によって引き起こされるのに対し、Gemini では明確化と直接回答の寄与がよりバランスが取れている。
• 分離の課題：BAG は性能を向上させるが、解釈のばらつき（明確化が必要）と幻覚のばらつき（棄権が必要）を区別することは依然として困難である。モデルは、事実的不整合を説明するために「知覚された曖昧性」を生成し、ユーザーを混乱させる可能性のある明確化質問を生成することがある。
• 簡潔さのトレードオフ：簡潔さを促すプロンプトを使用すると、トークンコストを大幅に（最大 10 倍まで）削減できるが、モデルが曖昧性を検出するために必要な文脈的手がかりを剥奪し、精度にわずかな悪影響を与える可能性がある。

意義と主張

この論文は、BAG がモデルに自身の確率的不確実性を活用して対話の流れを誘導させることで、より堅牢で誠実な LLM 相互作用への一歩を表すと主張する。著者は以下を強調する：

• 標準的な LLM は不確実であっても回答をデフォルトとする傾向があるが、BAG は不確実性を明示的かつ実行可能にすることでこれを修正する。
• 内部信念状態に基づいて棄権する能力は、事実 QA において重要である。なぜなら、多くの誤りは入力曖昧性ではなく知識の欠如に起因するからである。
• この手法は効果的であるが、信念状態における曖昧性と幻覚の区別は完全ではなく、将来の研究は信念状態の質の向上とルーティング論理の洗練に焦点を当てるべきである。
• このアプローチは、再トレーニングのコストなしに QA 信頼性を向上させる実用的かつ即効性のある解決策であるが、$K$ 個のサンプルと推論プロンプトの計算コストを伴う。

著者は結論として、BAG は精度と忠実性を向上させるが、「いつ明確化し、いつ棄権するか」という分離は、信念状態が保証された真実ではなくモデルの妥当な出力を反映しているという点から、特に依然として開かれた課題であると述べている。