💬 NLP

D-Score: A Spectral Hidden-State Signal for Hallucination Detection in Large Language Models

本論文は、外部の検証器や複数回の生成を必要とせず、単一のフォワードパスにおける隠れ状態の活性化のスペクトル幾何学を分析することで、生成されたテキストとモデルの内部知識との間の不整合を特定する、大規模言語モデルのためのハルシネーション検出手法であるD-Scoreを導入するものである。

原著者： Bianca Raimondi, Davide Evangelista, Maurizio Gabbrielli, Elena Loli Piccolomini

公開日 2026-07-28

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Bianca Raimondi, Davide Evangelista, Maurizio Gabbrielli, Elena Loli Piccolomini

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、非常に有能だが、時々いたずら好きになるロボットが書いた本が並ぶ図書館に足を踏み入れたところだと想像してください。このロボットは「大規模言語モデル（LLM）」と呼ばれ、物語を書いたり、質問に答えたり、まるで人間のようにあなたとチャットしたりすることができます。しかし、ここには一つ落とし穴があります。ロボットは時々、作り話をすることがあるのです。月は緑色のチーズでできていると言ったり、有名な歴史的事件が間違った日に起こったと言ったりすることもあります。これは、ロボットが意図的に嘘をついているのではなく、単に自分自身の作り話に対して自信満々であるために起こります。私たちはこれを「ハルシネーション（幻覚）」と呼んでいます。

長い間、これらの嘘を見破る唯一の方法は、ロボットの回答を別のロボットや人間の司書に送り、事実のデータベースと照らし合わせて確認させることでした。それは、生徒にエッセイを書かせた後、別の教師を雇って採点させるようなものでした。しかし、もし生徒自身の脳が手がかりを与えてくれるとしたくはないでしょうか？もし、ロボットが何かを作り上げ始めた瞬間に、文章を書き終える前であっても、その内部的な「思考プロセス」が変化し、それが私たちに見えるとしたらどうでしょう？これが、科学者たちが問い続けている疑問です。「第二の意見を必要とせずに、目の前で嘘をついている瞬間を察知するために、ロボットの心の中を覗き見ることはできるのだろうか？」

これこそが、この論文の研究者たちが成し遂げようとしたことです。彼らは、「D-Score」と呼ばれる巧妙な新しいツールを導入しました。ロボットの心を、巨大で多次元的なダンスフロアだと考えてみてください。ロボットが言葉を処理するたびに、このフロア全体に信号が送られます。ロボットがよく知っていて確信を持っていることについて話しているとき、ダンサーたち（信号）は非常に組織化され、同期した動きを見せます。彼らは皆、同じ方向に整然と進みます。まるで、よくリハーサルされたパレードのように。これが「コヒーレント（一貫性のある）」な経路を生み出します。

しかし、ロボットが知らないことや作り話をしようとしているとき、ダンスフロアは混沌としたものになります。ロボットはあること（作り話の事実）を言おうとしていますが、その内部メモリが「待て、これは何かがおかしい」とか「これについては自信がない」と囁いています。この葛藤によって、ダンサーたちは散らばってしまうのです。一つのタイトな列で進む代わりに、彼らは一度に多くの異なる方向へと広がっていきます。混乱しているダンサーもいれば、間違いを修正しようとしているダンサーもおり、あるいは単に確信が持てないダンサーもいます。

D-Scoreは、これらダンサーたちがどれほど多くの異なる方向に動いているかを数える、単純な数学的トリックです。もしダンサーたちが皆、一つの直線に向かって行進していれば、スコアは低くなります。しかし、もし彼らが乱雑な群衆となって広がっていれば、スコアは上がります。研究者たちは、D-Scoreが高いとき、それはロボットがハルシネーションを起こしている強力なサインであることを発見しました。

チームは、3つの異なるロボットの脳（Llama-2、Llama-3、Vicunaと呼ばれます）を用い、2種類のトリッキーな質問を用いてこのアイデアをテストしました。その結果、D-Scoreは、ロボットがどれほど「驚いた」か、あるいはどれほど回答を繰り返したかといった他の手法よりも、嘘を見抜く能力においてはるかに優れていることが分かりました。実際、いくつかのテストでは、D-Scoreは従来の最高の手法よりも、ハルシネーションを捉える精度が10パーセントポイント近く高かったのです。

これがこれほどまでにエキサイティングな理由は、そのシンプルさにあります。D-Scoreは、データベースを確認する必要も、ロボットに同じ質問を5回答えさせる必要も、第二のロボットを助けとして呼ぶ必要もありません。ただ、単一の会話におけるロボットの内部信号を見るだけでよいのです。研究者たちは、これはロボット自身の「不確実性」や「葛藤」が、その思考プロセスに目に見える指紋を残すからだと示唆しています。

もちろん、この論文は、これがすべての嘘を捕まえる魔法の杖ではないという点についても慎重に述べています。もしロボットが、内部メモリに全く存在しない事実を作り上げている場合、ダンスフロアは混沌とせず、D-Scoreは低いままかもしれません。しかし、ロボットが内部的に感知している嘘に対しては、この新しい「スペクトル」信号は、ロボット自身の内部のリズムを聴き取ることで、犯行現場を押さえるための強力な手段となるのです。

技術要約：ハルシネーション検出のためのD-Score

問題提起

大規模言語モデル（LLM）は、流暢なテキストを生成する一方で、その内容が事実に基づかない、証拠に裏付けられていない、あるいはモデルの内部知識と矛盾しているという現象、すなわち「ハルシネーション（幻覚）」を引き起こすことが頻繁にあります。現在の検出手法は、外部リソース（検索ベースのシステム）や複数の生成パス（一貫性ベースの手法）に依存することが多く、これらは推論コストと複雑さを増大させます。したがって、外部の検証器を必要とせず、また繰り返しのサンプリングも行わずに、単一のフォワードパス中にモデルの内部状態に対して直接作用する検出メカニズムが求められています。

手法：D-Score

本論文では、トランスフォーマーモデル内の隠れ層の活性化（hidden activations）の幾何学的構造から導出されたスペクトル統計量であるD-Scoreを導入しています。核心となる直感は、「適切に裏付けられたテキストは、少数の支配的な方向に集中した一貫性のある隠れ軌跡を誘発する」という点にあります。逆に、モデルが自身の内部知識と矛盾する未裏付けの主張を含むテキストを処理する場合、隠れ表現は主張された内容と、反証・不確実性・支持の欠如といった痕跡の両方をエンコードする可能性があります。この衝突により、隠れ軌跡は追加の特異方向へと広がり、活性化行列の「実効的な」次元数が増加します。

数学的定式化

固定されたモデル $m$ 、特定のレイヤー $j$ 、および入力テキスト $\mathbf{x} = (x_1, \dots, x_T)$ が与えられたとき、本手法は隠れ層の活性化行列 $H^{(j)}(\mathbf{x}; m) \in \mathbb{R}^{d \times T}$ を構築します。ここで、列はレイヤー $j$ における各トークンの隠れ状態を表します。

$\sigma_1 \ge \sigma_2 \ge \dots \ge \sigma_r > 0$ を $H^{(j)}(\mathbf{x}; m)$ の非ゼロ特異値とします。D-Scoreは、この行列の相対的な数値ランクとして定義されます：
$D^{(j)}_{\tau}(\mathbf{x}; m) = \max \{ n \le r : \frac{\sigma_1(H)}{\sigma_n(H)} \le \tau \}$
ここで、 $\tau > 1$ は許容パラメータです。このスコアは、主要な特異値 $\sigma_1$ に対して、どれだけの数の特異方向が依然として有意であるかをカウントします。

検出ルール

検出器は、D-Scoreが較正された決定レベル $\bar{D}$ を超えた場合に、入力をハルシネーションであると分類します：
$\hat{Y}(\mathbf{x}) = 1 \quad \text{if} \quad D_{\tau}(\mathbf{x}) > \bar{D}$
このアプローチは、単一のフォワードパスと、主要な特異値の計算（相対的な閾値を下回るまでの範囲）のみを必要とします。これは、グラム行列 $H^\top H$ に対するパワーメソッドのような反復法を用いて効率的に推定できるため、高次元モデルにおける完全なSVD（特異値分解）の計算コストを回避できます。

理論的正当性

本論文では、モデル内部のハルシネーションを、「モデルが低い内部真実信頼度を割り当てた、支持されていない主張」と定義しています。これは、そのような主張が隠れ状態空間において「衝突方向（conflict directions）」を導入すると仮定しています。理論的な命題によれば、支持されていないコンテンツが、一貫した表現に対して十分に強い $q$ 個の方向を導入する場合、D-Scoreは少なくとも $q$ だけ増加します。したがって、高いD-Scoreは、これらの衝突方向の存在を示すプロキシ（代理指標）となります。

主な貢献

D-Scoreの導入： 隠れ層の活性化行列の相対的な数値ランクを表す、単純なスペクトル統計量を導入し、隠れ状態の軌跡の広がりを測定するように設計されました。
操作的定義： モデルがエラーを認識できないケースと区別し、支持されていない主張と低い内部真実信頼度に基づく「モデル内部のハルシネーション」の形式的な定義を提供しました。
幾何学的議論： ハルシネーションを含むテキストが、追加の衝突方向（不確実性、反証など）へと隠れ軌跡を広げることで、D-Scoreを増加させるという理論的な正当化を行いました。
実証的評価： D-Scoreが複数のモデルおよびデータセットにおいて、ハルシネーション検出のための強力な信号であることを示す包括的な評価を実施しました。

実験結果

D-Scoreは、FAVA-Annotation（オープンドメイン生成における事実誤認）およびRAGTruth（検索拡張生成におけるハルシネーション）の2つのベンチマークで評価されました。実験は、Llama-2-7B、Llama-3-8B、Vicuna-7Bの3つのオープンウェイトモデルを用いて行われました。

性能： D-Scoreは、Hidden Score（先行するスペクトル手法）、パープレキシティベースのスコア、エントロピーベースの指標を含む、最先端のベースラインを一貫して上回りました。
- FAVA-Annotationにおいて、D-Scoreはすべてのモデルで最高のAUROCを達成しました（例：Llama-3-8Bでは、Hidden Scoreの57.10%に対し、D-Scoreは66.98%）。
- RAGTruthにおいて、D-Scoreは堅牢な性能を維持しました（例：Llama-3-8Bで61.53%のAUROC）。一方、Hidden ScoreはVicuna-7Bにおいて性能が大幅に低下（ランダムチャンスに近いレベル）しましたが、D-Scoreは有効性を維持しました（60.20%）。
モデル容量との相関： D-Scoreとベースラインの性能差は、より有能なモデル（例：Llama-3-8B）においてより顕著であり、この手法が、モデルが内部的に非事実的であると認識しているハルシネーションを効果的に捉えていることを示唆しています。
サブセット分析： モデルの明示的な自己評価が人間によるアノテーションと一致したデータ（モデルが自身の誤りを認識できなかったケースを除外したもの）で評価したところ、D-Scoreはさらに高いAUROCスコア（Llama-3-8Bで最大72.51%）を達成し、この手法がモデルの内部表現に依存していることを裏付けました。

意義と主張

本論文は、D-Scoreが厳格な効率性の制約下で動作する、ハルシネーション検出のための強力な隠れ状態信号を提供すると主張しています。

シングルパスの効率性： モデルのフォワードパスを一度通るだけで済みます。
外部依存なし： 外部の検索、外部の検証器、または第2のモデルを必要としません。
複数生成なし： 一貫性ベースの手法とは異なり、複数の出力をサンプリングする必要はありません。

著者らは、D-Scoreを「普遍的な真理の特性化」ではなく、「較正されたリスクスコア」として位置付けています。これは、モデルが不一致を認識するための必要な情報を持っているにもかかわらず、最終的な出力においてそれを抑制できていないエラー、すなわち「モデル内部のハルシネーション」を検出するのに特に効果的です。この手法は、隠れ状態の軌跡のトポロジー（具体的には特異値の広がり）が、モデルの確信度や相反する内部信号の存在に関する診断情報を含んでいることを浮き彫りにしています。

限界

著者らは以下の限界を認めています。

ホワイトボックスの要件： 本手法は隠れ層の活性化へのアクセスを必要とするため、そのようなアクセスが提供されない限り、クローズドソースのモデルには適用できません。
内部的可視性： モデルの内部状態に痕跡を残すハルシネーションのみを検出できます。モデルがエラーを認識するための内部知識を持っていない場合、D-Scoreはそれをフラグ立てできない可能性があります。
複雑性の混同： 長い、多様な、あるいは意味的に複雑な（ハルシネーションではない）テキストでも高いD-Scoreが生じることがあり、注意深い較正が必要です。
パラメータへの感度： 堅牢ではあるものの、レイヤーの選択、許容パラメータ $\tau$ 、および決定閾値 $\bar{D}$ に依存します。