💬 NLP

Detecting LLM Hallucinations via Embedding Cluster Geometry: A Three-Type Taxonomy with Measurable Signatures

本論文は、11 種類のトランスフォーマーモデルのトークン埋め込みクラスタ幾何学を分析し、コンテキストの弱さや誤った局所収束、クラスタ構造の欠如という 3 種類のハルシネーションを定義するとともに、極性結合やクラスタ凝集度、半径方向情報勾配といった測定可能な幾何統計量を用いて、アーキテクチャ固有の脆弱性プロファイルを特定する手法を提案しています。

原著者： Matic Korun

公開日 2026-02-17

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Matic Korun

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

この論文は、**「AI が嘘をつく（幻覚を見る）とき、その頭の中（データ）で何が起きているのか」を、まるで「地図の地形」**を分析するように解き明かした面白い研究です。

専門用語を捨てて、日常のたとえ話で説明しましょう。

🧠 核心となるアイデア：AI の頭は「町」になっている

まず、AI（大規模言語モデル）の頭の中を想像してください。そこは**「単語でできた巨大な町」**です。

「犬」や「猫」といった意味の近い言葉は、同じ**「住宅街（クラスター）」**に住んでいます。
「暑い」と「寒い」といった反対の意味の言葉も、同じ「気候の街」に住んでいますが、通りを挟んで反対側に住んでいるような関係です。

この論文は、AI が間違った答え（幻覚）を出したとき、その「町」の中で**「どこで、どう迷子になったか」**を 3 つのタイプに分けて分類しました。

🗺️ AI の「嘘」の 3 つのタイプ

AI が嘘をつくとき、その頭の中の「地図」には 3 つのパターンがあります。

1. タイプ 1：「中心への漂流」（ぼんやりした嘘）

どんな嘘？ 「えーと、それは…まあ、一般的な話ですよね」という、具体性のない、ありきたりな嘘です。
地図での現象： AI が「どこに行けばいいか」わからなくなると、町の**「広場（中心）」**に引き寄せられてしまいます。広場には「一般的で頻繁に使われる言葉」が溢れています。
たとえ： 道に迷った旅行者が、特定の目的地が見つからず、ただ「賑やかな大通り」をうろうろしている状態です。自信満々に話していますが、中身は空洞です。

2. タイプ 2：「間違った街への確信」（自信満々な嘘）

どんな嘘？ 「実は、その事件は〇〇が犯人でした！」と詳細で、もっともらしい嘘です。
地図での現象： AI は目的地（クラスター）にちゃんと到着しています。しかし、**「犯人の街」ではなく「隣町の『犯人になりそうな街』」**に着いてしまいました。
たとえ： 目的地が「東京」なのに、地図をよく見ずに「埼玉」の同じような街に自信満々で到着してしまった状態。中身はしっかりしていますが、文脈（場所）が間違っています。これが一番危険です。

3. タイプ 3：「地図のない荒野」（意味不明な嘘）

どんな嘘？ 「青い音が鳴る」とか、意味が通じない、ぐちゃぐちゃな答えです。
地図での現象： AI が聞かれた質問は、その町の**「地図に載っていない場所（未開の荒野）」**にあります。そこには家も道もありません。
たとえ： 未知の大陸を探検しようとして、地図にない海に船を漕ぎ出し、波に揺られて意味不明なことを言い出す状態です。

📏 3 つの「測定器」で嘘を見抜く

研究者は、この「町」の形を測るための 3 つの新しい道具（数値）を発明しました。

α（アルファ）：「反対語のバランス」
- 同じ街に住む「反対語（暑い・寒いなど）」が、ちゃんと街の中心からバランスよく配置されているか？
- 結果： どの AI でも、このバランスはちゃんと取れていました（11 個中 11 個）。
β（ベータ）：「街のまとまり」
- 街（クラスター）が、他の街と混ざり合っていないか？ちゃんとまとまっているか？
- 結果： どの AI でも、街はくっきりと分かれていました（11 個中 11 個）。
λr（ラムダ・r）：「街の奥深さ（情報の濃淡）」
- 町の中心（広場）から外側（郊外）へ行くほど、言葉の「情報量」がどう変化するか？
- 結果： ほとんどの AI（9 個中 11 個）では、**「中心は情報量が少なく、外側に行くほど情報量が増える」**という規則性がありました。
- 例外： 2 つの AI（ALBERT と MiniLM）は、この規則性が崩れていました。

🏗️ なぜ例外の AI は違うのか？（建築のせい）

なぜ 2 つの AI は「奥深さ」の規則性が崩れたのでしょうか？それは**「建築設計（アーキテクチャ）」**の違いです。

ALBERT（圧縮された家）：
- 部屋数を極端に減らしてコンパクトにした家です。
- 結果： 部屋が狭すぎて、外の景色（情報の濃淡）が見えなくなりました。そのため、「中心への漂流（タイプ 1）」の嘘を見抜けません。
MiniLM（均一なコンクリート）：
- 教育（蒸留）によって、街の形を平らにしてしまった家です。
- 結果： 街全体が均一すぎて、中心と外側の区別がつかなくなりました。これも「中心への漂流」を見逃しやすくします。

💡 この研究が教えてくれること

嘘には「型」がある： AI の嘘はすべて同じではなく、「ぼんやり型」「自信過剰型」「意味不明型」の 3 つに分けられます。
地図を見ればわかる： AI が嘘をついているかどうかは、出力された文章だけを見るのではなく、**「頭の中の地図（数値）の形」**を見ることで、より早く、正確に検知できる可能性があります。
AI の弱点は設計図でわかる： 特定の設計（部屋を圧縮したり、平らにしたりした設計）の AI は、特定のタイプの嘘（特に「ぼんやりした嘘」）に弱いことが予測できます。

まとめ

この論文は、**「AI が嘘をつくのは、頭の中の『地図』が歪んでいるから」と説き、その歪みを「中心への漂流」「間違った街への着地」「地図のない荒野」**の 3 つに分類し、それを測る新しい「定規」を作りました。

これにより、AI の嘘を「後からチェックする」だけでなく、「嘘が生まれる瞬間の地形」を監視して防ぐ新しい道が開けました。

論文要約：埋め込みクラスタ幾何学による LLM 幻覚の検出

「観測可能なシグネチャに基づく 3 種類の分類体系と測定可能な指標」

この論文は、大規模言語モデル（LLM）が生成する「幻覚（Hallucination）」を、出力レベルではなく、モデル内部のトークン埋め込み空間の幾何学的構造に基づいて分類・検出する新しい枠組みを提案しています。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細にまとめます。

1. 問題定義

LLM は流暢で自信に満ちた誤ったテキストを生成する「幻覚」を起こします。既存の幻覚検出手法（自己整合性チェック、検索拡張、ログイット較正など）は、モデルの出力に焦点を当てており、幻覚を生成する根本的な原因である埋め込み空間の幾何学的構造の失敗を直接分析していません。
本研究は、「モデルが幻覚を起こしているか」ではなく、「どのような幾何学的失敗モードが幻覚を生み出したか」を特定し、異なる失敗モードが埋め込み空間に異なる測定可能なシグネチャを残すかどうかを検証することを目的としています。

2. 手法とアプローチ

2.1 データセットと対象モデル

対象モデル: 11 のトランスフォーマーモデル（エンコーダ型：BERT, RoBERTa, ELECTRA, DeBERTa, ALBERT, MiniLM, DistilBERT / デコーダ型：GPT-2）。
埋め込み空間の解析: 各モデルの語彙から部分語（subword）や特殊トークンを除外し、単語単位のトークンのみを選択。 $k=40$ 個のクラスタに $k$ -means 法（MiniBatchKMeans）でクラスタリングを適用。

2.2 3 種類の幻覚分類体系（幾何学的定義）

生成されたトークンの埋め込みと、周囲のクラスタ構造との幾何学的関係に基づき、3 種類の幻覚を定義しました。

Type 1: センター・ドリフト (Center-Drift)
- メカニズム: 文脈が弱く曖昧な場合、モデルは特定のクラスタへナビゲートできず、埋め込み空間の重心（高頻度で意味が一般的なトークンの領域）へドリフトする。
- シグネチャ: クラスタ所属度が低く、埋め込みノルムが小さい。
- 結果: 「自信に満ちた一般論」という、もっともらしいが曖昧な幻覚。
Type 2: 誤った井戸への収束 (Wrong-Well Convergence)
- メカニズム: 文脈信号が強く特定のクラスタへ到達するが、文脈的に不適切な「局所的に整合性の取れた」領域へ誤って収束する。
- シグネチャ: 局所的なクラスタ所属度が高いが、生成シーケンス内でクラスタ間を急激に移動する（軌道の不連続性）。
- 結果: 詳細で具体的だが、文脈的に誤った「捏造（Confabulation）」。最も危険なタイプ。
Type 3: カバレッジ・ギャップ (Coverage Gap)
- メカニズム: クエリが訓練データに存在しない意味的組み合わせを要求し、クラスタ構造が存在しない疎な領域に埋め込みが落ちる。
- シグネチャ: すべてのクラスタでの所属度が弱く、局所的類似性の分散が高い。
- 結果: 不安定または nonsensical（意味不明）な出力。

2.3 3 つの幾何学的統計指標

幻覚検出の前提条件を検証するために、以下の 3 つの指標を定義・計算しました。

$\alpha$ (極性結合 Polarity Coupling): クラスタ内の対義語ペアの極性軸の強さ。
$\beta$ (クラスタ凝集度 Cluster Cohesion): クラスタが背景よりも密に凝集しているか（自らの重心との類似度が他との平均類似度より高いか）。
$\lambda_r$ (放射状情報勾配 Radial Information Gradient): 埋め込みノルムと自己情報量（Self-information）の間の非線形関係（二次項係数）。

3. 主要な結果

3.1 統計的検証結果（11 モデル全体）

極性構造 ( $\alpha$ ): 全 11 モデルで有意（ $\alpha > 0.5$ ）。対義語が同じクラスタに存在し、明確な極性軸を持つことは普遍的である。
クラスタ凝集度 ( $\beta$ ): 全 11 モデルで有意に正（ $\beta > 0$ ）。クラスタ構造はアーティファクトではなく実在する。
放射状情報勾配 ( $\lambda_r$ ): 11 モデル中 9 モデルで統計的に有意（ $p < 0.05$ $p < 0.05$ ）。埋め込みノルムと情報量には非線形な関係がある。
- 7 モデルは負の値（凹型：ノルムが増えると情報量は飽和する）。
- 2 モデル（DeBERTa, RoBERTa-large）は正の値（凸型）。
- 例外: ALBERT と MiniLM は有意性がなかった。

3.2 例外モデルの分析（ALBERT と MiniLM）

有意性がなかった 2 モデルは、アーキテクチャ的な理由で説明可能であることが判明しました。

ALBERT: 因数分解された埋め込み（Factorized Embeddings）により、128 次元という狭い空間に圧縮されている。ノルムの変動係数が極めて低く、放射状構造が圧縮されているため、Type 1（センター・ドリフト）の検出が困難になる。
MiniLM: 蒸留（Distillation）による極端な等方性（Isotropy）。分散がほぼ均等に分布し、平均ペアワイズコサイン類似度がほぼゼロ。放射状構造が平坦化・反転しているが、角方向の構造（ $\alpha, \beta$ ）は維持されている。

3.3 エンコーダ vs デコーダ

GPT-2（デコーダ型）も負の $\lambda_r$ を示したが、その値は BERT（エンコーダ型）に比べて 1 桁小さかった。これは、デコーダモデルの次トークン予測という目的が、情報を角方向に均一に分散させる傾向があることを示唆している。

4. 検出アーキテクチャの提案

3 種類の幻覚タイプに対応した、段階的な検出システムを提案しています。

Tier 1 (Type 1 検出): クラスタ所属度とノルムを閾値でチェック。
Tier 2 (Type 2 検出): 生成シーケンス内のクラスタ割り当ての軌道不連続性を監視。
Tier 3 (Type 3 検出): 局所密度（k-NN 距離）を計算し、カバレッジギャップを特定。

注意点: 閾値はモデル固有の分布（百分位数ベース）で較正する必要がある。

5. 意義と貢献

理論的貢献: LLM の幻覚を、出力の真偽ではなく、生成プロセスの幾何学的失敗モードとして体系化した初の分類体系。
実用的貢献: 標準的なツール（k-means、コサイン類似度、ノルム）のみで測定可能な 3 つの新しい診断指標（ $\alpha, \beta, \lambda_r$ ）を提案し、11 のモデルで実証した。
アーキテクチャ依存性の解明: 幾何学的性質（クラスタ構造の存在）はアーキテクチャに依存しないが、その定量的シグネチャ（ $\lambda_r$ の符号や強度）はアーキテクチャ（因数分解、蒸留など）に依存して変化することを示した。
予測と将来展望:
- 圧縮された埋め込み空間を持つモデル（ALBERT 等）は Type 1 幻覚に脆弱であるという仮説を提示。
- 蒸留された等方性モデルは、放射状の検出能力が低下するが、角方向の検出は維持されるという予測を立てた。
- 今後の課題として、大規模モデルへの拡張や、既存のベンチマーク（HaluEval 等）での評価が挙げられている。

結論

この研究は、LLM の幻覚検出を「出力のチェック」から「内部表現の幾何学的構造の分析」へとパラダイムシフトさせる可能性を示しました。特に、モデルのアーキテクチャ選択が特定の幻覚タイプへの脆弱性にどう影響するかを予測可能にする点は、安全で信頼性の高い LLM 設計において重要な示唆を与えています。