技術的サマリー：タスク認識性が LLM の生成と不確実性を改善する

問題定義

大規模言語モデル（LLM）は、出力が自由形式のテキストだけでなく、離散ラベル、数値、エンティティの集合、またはグラフといったタスク固有の構造を持つアプリケーションにおいて、ますます展開されています。既存のデコーディング戦略（ビームサーチ、貪欲デコーディングなど）および不確実性推定手法は、主に生言語空間（$V^\infty$）で動作します。これらの手法は、タスクに内在する構造的な情報をほとんど無視しています。その結果、モデルの完全な出力分布にわたる情報を統合した最適な応答を合成できず、タスク固有の正しさや品質の概念と整合しない不確実性推定を提供することが多々あります。

手法

著者は、LLM の生成と不確実性の定量化を、生言語空間からタスク依存の潜在構造（$\mathcal{L}$）へ移行させる、意思決定理論に基づく枠組みを提案します。

1. 潜在空間マッピング

この枠組みは、自由形式の LLM 応答 $s$ を潜在表現 $\ell$ にマッピングするエンコード関数 $g_T: V^\infty \to \mathcal{L}$ を定義します。この潜在空間は特定のタスクに合わせて調整されます：

• 分類: 離散的なクラスの集合 $[K]$。
• 複数回答 QA: クラスの冪集合（バイナリベクトルとして表現）。
• セマンティック埋め込み: 単位球面上のベクトル。
• 知識グラフ: 辺/関係の集合。
• 確率的出力: 確率単体（偶然性の不確実性用）。

このマッピングは、モデルの予測分布 $p(s|x)$ から導出される、潜在空間上のプッシュフォワード分布 $p(\ell|x)$ を誘起します。

2. 構造認識最小ベイズリスク（MBR）デコーディング

単一のサンプリング生成を選択する代わりに、この枠組みは潜在空間内で直接ベイズ最適応答（$\ell_{Bayes}$）を合成します。これは、タスク依存の非類似度測度 $d_T$ に対して期待リスク（ベイズリスク）を最小化することで達成されます：
$$\ell_{Bayes} := \arg \min_{\tilde{\ell} \in \mathcal{L}} \mathbb{E}_{\ell \sim p(\ell|x)} [d_T(\tilde{\ell}, \ell)]$$
重要なのは、$\ell_{Bayes}$ が LLM によって生成された特定のテキストに対応する必要はないという点です。これは、期待誤りを最小化する合成された行動（例えば、潜在空間内の重心、多数決された要素の集合）です。多くの構造（集合、グラフ、埋め込みなど）において、この最適行動は閉形式解を持ち、または効率的に計算可能（$O(M)$）であり、生言語 MBR が必要とする $O(M^2)$ のペアワイズ比較とは対照的です。

3. ベイズリスクによる不確実性の定量化

この枠組みは、最適行動に関連するリスクとして定義される最小ベイズリスク（$R_{Bayes}$）を不確実性として定量化します：
$$R_{Bayes} := R(\ell_{Bayes}) = \min_{\tilde{\ell} \in \mathcal{L}} \mathbb{E}_{\ell \sim p(\ell|x)} [d_T(\tilde{\ell}, \ell)]$$
曖昧さのない真の正解（潜在空間内のデルタ関数）という仮定の下で、ベイズリスクは真の認識リスクの下限となります。高い $R_{Bayes}$ は、高い真のリスクを証明的に示唆します。この指標は、生テキストにおける単なる意味的変動ではなく、タスク固有の非類似度 $d_T$ における変動を捉えます。

4. 曖昧さへの対処

本質的な曖昧さ（偶然性の不確実性）を伴うタスクについては、枠組みは潜在空間を確率単体へ拡張します。ここでは、LLM は結果に対する確率分布を出力するようにプロンプトされます。ベイズ最適行動はこれらの分布の平均となり、リスクは KL 発散を通じて測定され、モデルの信念の分散を効果的に捉えます。

主要な貢献

1. 潜在空間合成: 本論文は、タスク固有の潜在空間で直接 MBR デコーディングを実行する一般的な枠組みを導入し、サンプリングされた生成の集合に制約されないベイズ最適応答の合成を可能にします。
2. 効率的な閉形式解: 著者は、多様な構造（集合、グラフ、埋め込み、単体）に対する $\ell_{Bayes}$ と $R_{Bayes}$ の閉形式式を導出し、生言語 MBR と比較して計算効率が高いことを実証しました。
3. タスク認識的不確実性: 彼らは、タスク固有のパフォーマンス指標と整合する原理的な不確実性推定器として誘起されたベイズリスクを使用することを提案し、セマンティックエントロピーやトークンレベルの確率に依存する既存の手法を上回る性能を示しました。
4. 実証的検証: この枠組みは、単一/複数回答 QA、テキスト要約（知識グラフ経由）、機械翻訳において検証され、生成品質と不確実性の較正において一貫した改善を示しました。

実験結果

著者は、Gemma 3 および Qwen 3 モデル（4B から 72B パラメータ）を使用して、複数のタスクでこの枠組みを評価しました。

• 生成品質: すべてのタスクにおいて、ベイズ最適潜在応答（$\ell_{Bayes}$）は、標準的なデコーディング手法（ビームサーチ、貪欲、自己整合性）および生言語 MBR（$\ell_{Sample}$）を常に上回りました。
  • 複数回答 QAでは、この手法は情報を集約することで回答を効果的に合成し、潜在分布が高いエントロピー（高い不確実性）を持つ場合、ビームサーチを大幅に上回ることが多々ありました。
  • 機械翻訳では、この手法はベースラインと比較して高い COMET スコアと低いコサイン距離を達成しました。
  • 要約（知識グラフとして表現）では、この手法は AlignScore を改善し、構造的ハミング距離を減少させました。
• 不確実性の定量化: ベイズリスク（$R_{Bayes}$）は、セマンティックエントロピー（SE）、最大文確率（MSP）、カーネル言語エントロピー（KLE）などのベースラインと比較して、実際の生成品質との整合性が優れていました。
  • 予測拒否率（PRR）と一致性 AUC によって測定されたところ、提案手法は 5 つのタスク構造のうち 4 つで最良または競争力のある性能を達成しました。
  • 結果は、この手法が、意味的変動だけでは不十分な複雑な構造的タスクにおいて低品質な生成を特定する際に特に効果的であることを示しています。

意義と主張

本論文は、タスク認識性が LLM の信頼性を向上させるための重要かつ未活用の次元であると主張しています。応答の潜在構造を明示的にモデル化することで、この枠組みは以下を可能にします：

1. 優れたデコーディング: LLM に直接完璧なテキストを生成させることに依存するのではなく、タスクの誤り指標に数学的に基づいた最適応答を合成する能力。
2. 信頼性の高い不確実性: 言語的変動だけでなく、実際のタスクの難易度（構造的な非類似度）を反映する原理的な不確実性指標。

著者はこれを、潜在的な応答構造を許容するあらゆる問題に適用可能な一般的なパラダイムとして位置づけています。彼らは、このアプローチが、出力の構造と正さが最重要となる重要な下流アプリケーションへの LLM の信頼性の高い統合を促進すると論じています。この研究は、タスク認識空間における LLM 出力の解釈が、生成の品質を超えて、原理的な方法で LLM 研究の未解決問題に取り組むための概念的枠組みを提供することを示唆しています。

本論文は限界を認め、効率性はベイズ最適行動の計算の扱いやすさと、言語から潜在空間（および潜在的に逆方向へ）へのマッピングの実現可能性に依存すると指摘しています。しかし、彼らは、多くの構造化タスクにおいて、具体的な潜在応答が言語的形式よりも価値があるため、この枠組みは非常に実用的であると主張しています。