🤖 machine learning

Integrating Local and Global Entropy for Uncertainty Quantification in LLMs

本論文は、トークンレベルのエントロピーと隠れ状態の幾何学的エントロピーを融合させることで、局所的な信号のみでは捉えきれない「自信満々な誤答（confident-but-wrong hallucinations）」をはじめとする明確な失敗レジームを効果的に捉える、教師なしのシングルパス手法であるGlobal-Local Uncertainty (GLU) を提案する。

原著者： Johanne Medina, Tianyi Zhou, Keivin Isufaj, Aristides Gionis, Sanjay Chawla

公開日 2026-06-10

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Johanne Medina, Tianyi Zhou, Keivin Isufaj, Aristides Gionis, Sanjay Chawla

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

大きな問題：自信満々な嘘つき

想像してみてください。あなたは、とても自信に満ち溢れ、話し方も上手い友人に質問をしました。その友人は、完璧な文法と落ち着いた声で、即座に答えを返してきます。しかし、その内容は完全に間違っていました。

これが、今日の大型言語モデル（LLM）が抱える最大の問題です。彼らは「ハルシネーション（幻覚）」、つまり作り話をしている最中であっても、まるで100%確信を持っているかのような口調で話します。現在のツールは、モデルが次にどの言葉を選ぶかという「言葉の選択」に耳を傾けることで、これを検知しようと試みています。もしモデルが次の単語に対して迷っているようであれば、それはリスクがあると判定します。

欠陥： 時として、モデルは一つ一つの単語については非常に自信を持っているのに、物語全体としては嘘をついていることがあります。現在のツールでは、こうした「自信満々な嘘つき」を見逃してしまうのです。

新しい解決策：GLU（グローバル・ローカル不確実性）

この論文の著者たちは、AIが真実を語っているかどうかを確認するための新しい方法を提案しています。彼らはこの手法を GLU と呼んでいます。

AIの脳を、2つの異なる部門を持つ工場だと考えてみてください。

「言葉選び部門」（ローカル）： 次に来る単語を決定する部門です。
「ストーリー設計部門」（グローバル）： 構築されている物語の全体的なマップを保持している部門です。

論文では、嘘つきを見つけるためには、「言葉選び部門」だけでなく、両方の部門をチェックする必要があると主張しています。

1. ローカル・チェック（言葉選び部門）

仕組み： これは、個々の単語に対するモデルの自信度を見ます。もしモデルが「猫」か「犬」かで迷っていれば、それは局所的（ローカル）に不確実であると言えます。
比喩： シェフがスープを味見している場面を想像してください。塩が足りているかどうか確信が持てず、ためらっている状態。それが「ローカル」な不確実性です。
問題点： 「自信満々な嘘つき」は、たとえ料理全体に毒が入っていたとしても、一つ一つの材料に対して「完璧だ！」と言うシェフのようなものです。ローカル・チェックでは、一つ一つの単語が完璧に見えてしまうため、この嘘を見逃してしまいます。

2. グローバル・チェック（ストーリー設計部門）

仕組み： これは、モデルの「隠れ状態（hidden states）」を見ます。これらは、モデルが概念を理解するために使用する内部的な数学的マップです。著者たちは、これらのマップの「幾何学的複雑性」を測定します。
比喩： シェフがキッチンの中を歩き回っている様子を想像してください。
- 一貫性がある（真実）： もしシェフが本物のスープを作っているなら、冷蔵庫からコンロ、そして鍋へと、効率的で集中した直線的な動きを見せます。その経路は無駄がなく、目的が明確です。
- 一貫性がない（ハルシネーション）： もしシェフが架空のレシピをでっち上げているなら、あてもなく彷徨うかもしれません。冷蔵庫へ行き、次に庭へ行き、それからガレージへ行き、また冷蔵庫へ戻ってくる……といった具合です。あちこちの方向に同時に動こうとしているのです。
洞察： たとえシェフが各ステップで「完璧だ！」と言ったとしても（ローカル）、もしキッチンの中を彷徨い歩いている（グローバル）のであれば、何かがおかしいのです。論文ではこれを「幾何学的ドリフト（geometric drift）」と呼んでいます。

GLUの仕組み：「乗算ゲート」

この論文の主な革新は、これら2つのチェックをどのように組み合わせるかという点にあります。

従来の方法（加算）： スコアを加算していくセキュリティガードを想像してください。「単語の自信度：9/10。キッチンの彷徨い度：2/10。合計：11/20」。もし単語の自信度が十分に高ければ、ガードマンは彷徨いの存在を無視して、その人を通過させてしまいます。
GLUの方法（乗算）： 著者たちは、スコアを掛け合わせる「ゲート」を使用しています。
- もしキッチンの彷徨い（グローバル）が大きい場合、それは「ボリュームノブ」のように機能し、単語の自信度に対するアラームを大きく鳴らします。
- 結果： たとえモデルがすべての単語に対して自信を持っていたとしても、その内部的な「経路」が彷徨っている場合、GLUスコアは急上昇し、その回答は信頼できないものとしてフラグが立てられます。

研究の結果

研究者たちは、3つの異なるAIモデルと、6種類の異なる質問タイプ（トリビア、数学、アラビア語のタスクなど）を用いてテストを行いました。

「自信はあるが間違い」を捉える： 標準的な手法（ローカルのみ）では、自信たっぷりに聞こえる誤答の多くを見逃してしまうことが分かりました。しかし、GLUはモデルの脳内の「彷徨う経路」を検知することで、これらを捉えることができました。
他よりも優れている： GLUは、他のすべての「教師なし（unsupervised）」手法（事前に人間によるラベル付けを必要としない手法）よりも優れた性能を示しました。GLUはエラーを特定し、AIが悪答を出す前に「立ち止まって考える」ように指示することに長けていました。
効率的： AIに回答を何度も生成させたり、余分な計算リ力を使わせたりする必要はありません。回答を一度生成する際に、言葉と内部経路の両方をチェックするだけです。

まとめ

この論文は、AIを信頼するためには、単にその言葉を聞くだけではなく、その「考え方」を見守る必要があると主張しています。単語レベルの自信度のチェックと、概念レベルの彷徨いのチェックを組み合わせることで、GLUはAIが自信満々に嘘をつくという特定のエラーを防ぐためのセーフティネットを作り出します。しかも、追加の学習データを必要とせず、AIの速度を落とすこともありません。

技術要約：LLMにおける不確実性定量化のためのローカルおよびグローバル・エントロピーの統合

問題提起

大規模言語モデル（LLM）は、流暢で具体的でありながら事実としては誤っている応答を生成する「自信に満った幻覚（confident hallucinations）」を頻繁に示します。既存の不確実性定量化（UQ）手法は、主にトークンレベルの信号（例：対数確率やサンプリングの一貫性）に依存しています。これらの手法は局所的な曖昧さを検出するには効果的ですが、トークンレベルの信頼性が高いにもかかわらず誤った回答を生成してしまう「自信はあるが間違っている」という失敗モードを特定できないことがよくあります。さらに、多くの既存アプローチは、複数回の生成パスの必要性、タスク固有の教師あり学習、応答長への敏感さ、あるいは特定のアーキテクチャ上の仮定といった、実用的な障壁を課しています。したがって、教師なしであり、単一のフォワードパスで計算可能であり、長さが正規化され、かつモデルの内部軌跡の幾何学的構造を捉えることができるUQ手法が求められています。

手法

本論文は、LLMの異なる表現層から導出される2つの異なる不確実性信号を統合するフレームワークである**Global-Local Uncertainty (GLU)**を提案しています。

ローカル不確実性（トークンレベル）:
- アンエンベディング層（unembedding layer）（次トークン予測）から導出されます。
- 証拠的ディープラーニング（evidential deep learning）の枠組みに基づき、不確実性をアレオリック不確実性（AU）（分布の曖昧さ）とエピステミック不確実性（EU）（証拠の欠如）に分解します。
- AUは、上位 $k$ 個のトークンに対する切断された予測分布のシャノン・エントロピーとして計算されます。
- EUは、ロジットをディリクレ集中パラメータにマッピングし（softplus変換を使用）、逆ディリクレ強度を計算することによって推定されます。
- ローカルスコア（ $\bar{R}$ ）は、応答内の最も不確実な $m$ 個のトークンにおける、AUとEUの乗法的相互作用の平均です。
グローバル不確実性（幾何学的複雑性）:
- エンベディング層（embedding layer）（隠れ状態空間）から導出されます。
- 信頼できる事実の検索は、隠れ状態がタイトで一貫した方向に移動することに対応し、幻覚は緩やかに関連する方向を彷らつくことに対応するという仮説に基づいています。
- この手法は、全生成ステップにわたる隠れ状態の軌跡 $H$ からグラム行列（ $K = HH^\top$ ）を構築します。
- グローバル不確実性は、 $K$ の正規化された固有値スペクトルのレニー2エントロピー（衝突エントロピー）として定量化されます。高いエントロピーは拡散した不整合な軌跡（高い不確実性）を示し、低いエントロピーは一貫した低ランクの軌跡を示します。
- 応答の長さやモデル間で比較可能性を確保するため、エントロピーは $\log T$ によって正規化され、すべてのTransformerレイヤーにわたって平均化されます。
融合戦略 (GLU):
- これら2つの信号は、乗法的ゲートを用いて融合されます： $GLU = (1 + \tilde{S}) \cdot \bar{R}$ 。ここで、 $\tilde{S}$ は正規化されたグローバル幾何学的エントロピー、 $\bar{R}$ は集計されたローカル不確実性です。
- この乗法的な設計は、幾何学的増幅器として機能します。もし軌跡が拡散している場合（高いグローバル不確実性）、ローカル不確実性のスコアは加重されます。これは、トークン・エントロピーは低いが幾何学的コヒーレンス（一貫性）が欠如しているという「自信はあるが間違っている」領域を明確にターゲットとしています。
- この手法は、単一のフォワードパスのみを必要とし、ラベル付きデータも不要で、アーキテクチャに依存しません。

主な貢献

マルチビュー不確実性抽出: 本論文は、2つの異なる層から補完的な信号を抽出します：隠れ状態の軌跡からのグローバル幾何学的エントロピーと、出力ロジットからのローカル・トークンレベル・エントロピーです。
統計的直交性: 実証的分析により、グローバル信号とローカル信号が統計的にほぼ直交していることが示されました。グローバル信号は、ローカル信号が系統的に見逃してしまう「自信はあるが間違っている」失敗モードを回収します。
GLUフレームワーク: 再学習や疑似ラベル、複数のサンプリングパスを必要としない、軽量で教師なしのスコアを導入しました。
包括的な検証: 3つのモデルファミリー（Qwen2.5, Gemma3, Fanar1）と6つの多様なベンチマーク（事実性、数学、アラビア語QAを含む）にわたる広範な評価、および厳格なアブレーション研究を実施しました。

実験結果

パフォーマンス: 18のモデル・データセット設定において、GLUは13のケースで最高のAUROC（受信者動作特性曲線の下の面積）を、12のケースで最高のPRR（予測拒絶比）を達成しました。GLUは、ローカルのみのベースライン（例：LogTokU）やグローバルのみのベースライン（例：RAUQ）を一貫して上回りました。
アブレーション研究:
- 乗法的 vs 加法的: 乗法的な融合戦略が極めて重要でした。加法的バリアント（ $Add\text{-}\tilde{S}$ ）は大幅に性能が低下し（14手法中13位）、グローバル信号は固定のオフセットではなくモジュレーター（調整器）として機能する必要があることを裏付けました。
- 堅牢性: パフォーマンスの向上は、ローカルおよびグローバル推定値の選択の違いに関わらず堅牢であり、この補完性が特定のハイパーパラメータのアーティファクトではなく、LLMの構造的な特性であることを示唆しています。
較正（キャリブレーション）: TriviaQAベンチマークにおいて、GLUは不確実性スコアと経験的エラー率の間の単調な関係を示し、信頼度デシル（10分位）間で正解と不正解の応答を効果的に分離しました。

意義と主張

本論文は、エンベディング（意味的方向）とアンエンベディング（トークン確率）の構造的な違いが、なぜトークンレベルと幾何学的信号が不確実性の異なる側面を測定するのかという問いに対し、原理的な根拠を提供すると主張しています。これら2つの視点を統合することで、GLUは現在のUQ手法の重大な盲点である「自信に満った幻覚」に対処する、実用的な教師なしソリューションを提供します。著者らは、GLUが長さ正規化されており、アーキテクチャに依存しないため、計算効率と教師なしの環境が極めて重要となる実世界のデプロイに適していると主張しています。本研究は、ローカル不確実性とグローバル不確実性の間の補完性が、LLMの根本的な構造的特性であることを示唆しています。