💬 NLP

Per-Entity Bias Mapping for AI Visibility: Why Brand Mentions Require Entity-Specific Calibration

本論文は、AIの可視性エラーは一様ではなくエンティティ固有であることを明らかにする「パー・エンティティ・バイアス・マッピング（個体別バイアス写像）」というフレームワークを紹介し、大規模なブランドはモデルへの習熟度ゆえに皮肉にも捏造された引用の発生率が高くなる一方で、過小評価されているエンティティは構造的な不可視性に直面していることを実証的研究を通じて示している。

原著者： Zoltan Varga

公開日 2026-06-23

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Zoltan Varga

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

ゾルタン・ヴァルガ（Zoltán Varga）の論文**「AIの可視性のためのエンティティ別バイアス・マッピング（Per-Entity Bias Mapping for AI Visibility）」**の解説を、日常的な言葉と比喩を用いて翻訳しました。

全体像：「ゼロクリック」問題

かつて、あなたは地図を見て、レビューを読み、そこへ車で向かうことでレストランを探していました。それが古いやり方でした。

今は、少し頼りないけれど非常に賢い友人（AI）に、「どこで食べるのがいい？」と尋れる場面を想像してください。その友人はすぐに答えをくれます。あなたはリンクをクリックもしませんし、ウェブサイトを訪れることもありません。ただ、名前を聞くだけです。

問題点： 友人がレストランの名前を挙げたからといって、その店を本当に知っているとは限りません。友人は推測しているか、作り話をしているか、あるいは別の場所と混同している可能性があります。この論文は、単にブランドが何度言及されたかを数えるだけでは不十分であり、その言及が真実であるかを確認しなければならないと主張しています。

核となる発見：「有名人の罠」

この論文の最も驚くべき発見は、**「ブランド・ハルシネーション・パラドックス（Brand Hallucination Paradox）」**と呼ばれるものです。

比喩： AIを、あらゆる人について少しずつ知っているゴシップ・コラムニストだと考えてください。

無名のローカル： もしあなたが小さな無名のベーカリーについて尋ねたら、AIは「知りません」と言うかもしれません。（安全ですが、存在しないも同然です）。
有名なスター： もしあなたが巨大なブランド（大手銀行やテック企業など）について尋ねたら、AIは自信満々に答えます。その名前を「知っている」ため、空白を埋めようとするのです。例えば、実際には行っていなくても、「ああ、あの銀行は新しいエコフレンドリーなアプリをリリースしましたよ」などと言うかもしれません。

結果： 論文によると、有名なブランドほど、嘘をつかれる頻度が高いことが分かりました。AIは有名な名前に対して、賢く役に立つように振る舞おうとするあまり、架空のニュース、架空の文書、架空のウェブサイトを作り上げてしまうのです。

実際の統計： 有名なブランドの場合、AIは**53%の確率で偽の引用を作成しました。一方で、小規模なブランドでは38%**でした。

「ゴースト・カルトグラフィー（幽霊地図作成）」の概念

著者は、**「ゴースト・カルトグラフィー（Ghost Cartography）」**という美しいメタファーを使用しています。

比喩： AIの脳を、ある国の地図だと想像してください。

密集した都市： 一部のエリア（有名なブランド）には、建物や道路（データ）がぎっしりと詰まっています。
空っぽの野原： 他のエリア（小規模または地方のブランド）は、空っぽの野原です。
ゴースト（幽霊）： AIが空っぽの野原にある場所について尋ねられると、「ここには何もない」とは言いません。代わりに、一番近い都市を見つめて、「きっとあんな感じだろう」と答えます。そして、隣接する地域の知識に基づいて、空っぽの地図の上に「ゴースト・タウン（幽霊町）」を描き出すのです。

これが**「タイプ3のコンファビュレーション（作為的虚偽）」**です。AIは、実データが存在しない場所に「ゴースト」としての存在を作り出し、もっともらしく聞こえるが偽りの詳細で空白を埋めてしまいます。

「凍結された記憶」の問題

AIが間違えるもう一つの方法は、**「パラメトリック・リトリーバル・ラグ・アシンメトリー（学習済みパラメータと検索情報の時間差による非対称性）」**と呼ばれるものです。

比喩： AIの脳を、2つのセクションを持つ図書館だと考えてください。

ライブ・フィード（検索）： 1時間ごとに更新されるニュース速報。
教科書（パラメトリック・メモリ）： 2年前に印刷された、新版が出るまで変更できない重い本。

もし企業が今日、リブランディングしたりCEOを変更したりした場合、「ライブ・フィード」はそれを知っています。しかし、「教科書」には古い名前が残っています。もしあなたが質問すれば、AIはその両方を混ぜ合わせたり、古い事実をあたかも現在進行形で正しいかのように自信を持って述べたりすることがあります。これが**「タイプ4のコンファビュレーション」**です。AIは、記憶が時間に凍結されているために、自信を持って間違えるのです。

「規制の罠」

どのような質問をするかによって、AIが嘘をつく度合いが変わることが論文で示されました。

比喩： AIに「フランスの首都は何ですか？」と尋ねる場面を想像してください。確信が持てなければ「分かりません」と言えます。しかし、「この企業が税金を支払ったことを証明する公式政府文書を見せてください」と尋れたら、AIはプレッシャーを感じます。

質問が深刻な法的・コンプライアンス上のチェックのように聞こえるため、AIは「回答を提供しなければならない」と感じます。AIは、「誰かが文書を求めているということは、その文書は存在するはずだ」と想定します。そのため、あなたの要求を満たすために、架空の政府URLを捏造してしまうのです。

実際の統計： 規制（GDPRやAI法など）について尋ねられた際、AIは**57%**の確率で偽の文書を作成しました。

「拒絶ループ」（なぜ何度も聞き返すと悪化するのか）

人間（あるいは他のAIエージェント）がAIの回答を拒絶し、「もっと良いもの」や「より具体的な詳細」を求め続けると、恐ろしいパターンが生じることを論文は発見しました。

比喩： テストを受けている学生を想像してください。

先生： 「その主張の根拠を出しなさい。」
学生（AI）： 「こちらがリンクです。」（それは偽物です）。
先生： 「そのリンクは切れている。本物のものを出しなさい。」
学生（AI）： パニックになる。 「分かりました、では別のリンクはこちらです。」（これもまた偽物です）。

AIが「それは不十分だ」と言われるたびに、AIはより一層、相手を喜ばせようと必死になります。AIは事実を確認することをやめ、拒絶されるのを避けるために、より具体的で説得力のある「嘘」を捏造し始めます。これを論文では**「拒絶誘発型コンファビュレーション・エスカレーション（Rejection-Induced Confabulation Escalation）」**と呼んでいます。皮肉なことに、AIの品質チェックをしようとすることが、逆にAIをより多く嘘をつかせる原因になるのです。

「CEEインフラ・ギャップ」

論文では、中央・東欧（ハンガリーなど）の企業についても調査しています。

比喩： AIの地図上に表示されるためには、「デジタルIDカード」（Wikipediaのページや構造化されたデータベースのエントリなど）が必要です。

グローバルな大企業は、これらのIDカードを持っています。
小規模なローカル企業は、多くの場合持っていません。

これらのIDカードがないと、AIはその企業の存在を知らないか、あるいは他の誰かと混同してしまいます。論文によれば、ハンガリーの大企業は小規模な企業よりも、これらのデジタルIDカードを持っている確率が7倍高いことが分かりました。これがない限り、小規模な企業はAIの思考の中で、事実上「透明」であるか、容易に混乱の対象となってしまいます。

解決策：「エンティティ別バイアス・マッピング」

論文は、AIの可視性を測定する新しい方法を提案しています。ブランドが「どれくらい言及されているか」を問う（名前が何度呼ばれたかを数えるようなもの）のではなく、以下のことを問うべきです。

その言及は真実か？（検証済みか、生のデータか）
ソースは実在するか？（リンクは実際に存在したか？）
記憶は新鮮か？（古い教科書を使っているのか、ライブ・データを使っているのか？）
エラー・プロファイルはどうなっているか？（その特定のブランドは、他のブランドよりも嘘をつかれやすいのか？）

結論：
AIの時代において、ブランドとは「自らが語ること」だけではありません。それは「機械が再構築したもの」でもあります。もし機械が空白を「ゴースト（幽霊）」で埋めているとしたら、そのブランドは危険な状態にあります。論文は、自分たちのマーケティングを監査するのと同様に、これらの「ゴースト」をも厳密に監査する必要があると示唆しています。

技術要約：AIの可視性におけるエンティティ単位のバイアス・マッピング

問題提起

AIの可視性を測定する既存のフレームワークは、メンションの頻度や引用率といった集計的な指標に依存しており、ブランドへの言及はポジティブなシグナルであると仮定している。本論文は、このような集計的指標は不十分であると主張する。なぜなら、それらは検証されたメンション（正確でソースに裏付けられたもの）と、生のメンション（裏付けがなく、誤解を招く、あるいは捏造された可能性があるもの）を区別できないからである。

核心となる問題は、大規模言語モデル（LLM）は単に「知らないことを幻覚として生成する」だけでなく、彼らが「部分的に知っている」事柄についても捏造を行う点にある。この「半知（half-known）」領域が、**ゴースト・カートグラフィー（幽霊の地図作成）**を引き起こす。これは、モデルが疎な潜在領域に存在するエンティティに対し、隣接する密な領域から補間を行うことで、確信に満ちた証拠のような出力を生成してしまう現象である。本論文では、以下の3つの具体的な失敗モードを特定している。

不可視性（Invisibility）： 過小評価されているエンティティ（多くの場合、小規模な組織や特定の地域に属するもの）は、構造化データの弱さや知識グラフの欠如に苦しんでいる。
ブランド幻覚のパラドックス（The Brand Hallucination Paradox）： 大規模で知名度の高いエンティティは、その知名度が「もっともらしい補完」のための強力な表面を提供してしまうため、誤った帰属による不利益を不釣り合いに被る。
CEEエンティティ・インフラストラクチャのギャップ（The CEE Entity Infrastructure Gap）： 中央および東欧（CEE）のエンティティは、知識グラフにおける存在感、形態学的に複雑な言語に対する命名エンティティ認識（NER）、およびエンティティ・リンキングにおける構造的な欠陥に直面している。

さらに、本論文は**パラメトリック・リトリーバル・ラグ非対称性（Parametric-Retrieval Lag Asymmetry）**を導入し、検索拡張型システム（RAG）は数日以内に更新される一方で、パラメトリックメモリ（モデルの重み）は12〜24ヶ月間固定されたままとなるため、同一のエンティティに対して乖離した表現が生じることを指摘している。

メソドロジー

本研究は、これらの仮説を実証的に検証するために、二層の比較設計を採用している。

エンティティ・サンプル： 100のハンガリー系B2Bエンティティを、以下の2つの層に分けて抽出した。
- ティア1（高サリエンス、n=50）： 上場企業およびグローバル子会社（例：OTP Bank、MOL Group）。
- ティア3（低サリエンス、n=50）： 国際的なプレゼンスが最小限のハンガリーの中小企業（SME）。
- 注記： ティア2はコントラストを最大化するために除外された。
プラットフォーム： API経由の2つのパラメトリックLLMを使用：Anthropic Claude (claude-sonnet-4-6) および OpenAI GPT-4o (gpt-4o-2024-08-06)。パラメトリックメモリの影響を分離するため、検索拡張型システムは本研究の主要対象から除外した。
クエリ・インストルメント： 各エンティティに対し、ハンガリー語による7つの引用強制クエリ・テンプレート（QT01–QT07）を用いてプロンプトを実行した。これらは、規制遵守（GDPR、EU AI法）、エビデンス探索（ISO、ESG）、および事実的引用を網羅している。
データ収集： 2026年5月22日に、1,400回のプローブ実行（100エンティティ × 2プラットフォーム × 7クエリ）を実施。
検証プロトコル：
- 自動検証： URLの存在を確認するためのHTTP HEADリクエスト、およびDOI確認のためのCrossref APIルックアップを実施。ステータスが200以外、または解決できなかったソースは「捏造」と分類した。
- ヒューマン・コーディング： 捏造されたURLと、誤った（到達可能だが不正確な）ソースを区別するため、インターコーダー信頼性を考慮した層化サンプル（n=90）を用意した。
統計分析： ティア間の差異に関するカイ二乗検定、クエリクラス間の比較に関するフィッシャーの正確確率検定（ベンジャミニ・ホッホバーグによるFDR補正を含む）、およびインフラストラクチャの存在に基づく捏造の予測に関するロジスティック回帰を実施。

主要な貢献

本論文は、エンティティレベルのAI監査のための十次元診断フレームワークである**パー・エンティティ・バイアス・マッピング（PEBM）**を導入している。概念的および実証的な主な貢献は以下の通りである。

ゴースト・カートグラフィー（Ghost Cartography）： モデルが、隣接する密な領域から情報を補間することで、疎な潜在領域を自信たっぷりに埋めてしまう仕組みを記述する統一的なメカニズム。
二次元のコンファビュレーション（混同）空間：
- タイプ3（ブランド幻覚のパラドックス）： エンティティが十分に有名であるがゆえにスキーマの補完を誘発するものの、十分な証拠密度を欠いているために発生する捏造された存在。
- タイプ4（パラメトリック・リトリーバル・ラグ非対称性）： 学習時以降に変化したエンティティに対し、モデルが現在形の出力を行う「凍結された表現」。
アクティベーターとしての規制フレーム（Regulatory Framing as an Activator）： 規制およびコンプライアンスに関するクエリが、系統的な幻覚のアクティベーターとして機能し、事実に基づくクエリと比較して捏造率を+15.5〜+19.2ポイント上昇させることを特定した。これは、訓練分布パターンの活性化、n-gramの共起、「存在するはずである」という推論、RLHFによる権威への圧力、および流暢性のループという5つの収束するメカニズムによって引き起こされる。
拒絶によるコンファビュレーションの激化（Rejection-Induced Confabulation Escalation）： プロンプトチェーンにおいてAIの回答を繰り返し拒絶することが、捏造の確率を系統的に高めるという理論的モデル。これは、具体性を向上させるために設計されたエージェンティックな品質フィルターが、コンプライアンスの文脈においては、逆説的に幻覚の加速器として機能する可能性を示唆している。
URL形態学のタクソノミー（分類学）： 946の捏造されたソースの分類。その結果、50.5%が「もっともらしい蜃気儀（Plausible Mirages）」（実在するドメイン上のHTTP 404エラー）であり、かつ、これらのうち51.9%がエンティティ自身のドメインではなく、規制当局（ハンガリーの競争当局やデータ保護当局など）のドメインを標的にしていることが明らかになった。

実証結果

本研究は、ブランド幻覚のパラドックスとCEEエンティティ・インフラストラクチャのギャップを支持する統計的証拠を提供している。

ティア別の捏造率： 高サリエンス（ティア1）のエンティティは、低サリエス（ティア3）のエンティティ（37.87%）と比較して、有意に高い捏造された引用率（52.69%）を示した。
- 統計量： $\chi^2 = 45.326$ , $p = 1.67 \times 10^{-11}$ , Cohen's $h = 0.299$ 。
- 解釈： 親近感（知名度）が高まるほど、自信に満ちた誤った帰属が発生する可能性が高まる。
クエリクラスの効果： 規制コンプライアンスに関するクエリは、最も高い捏造率（56.77%）を記録し、事実のベースライン（37.59%）よりも有意に高かった。
- 統計量： FDR補正済み $q < 0.001$ 。
プラットフォーム間の差異： Anthropic Claudeは、GPT-4o（1回あたり0.13件）と比較して、ソースを引用する傾向が非常に高く（1回あたり1.34件）、その結果、絶対的な捏造率も高くなった（Claude 48.17% vs GPT-4o 22.10%）。GPT-4oは、低サリエンスのエンティティに対してソースの提供を拒否することが多かった。
インフラストラクチャの影響： ティア1のエンティティは、ティア3と比較して、オープンな知識インフラ（Wikipedia/Wikidata）に存在している確率が約7倍高かった（OR = 6.77, $p = 0.0002$ $p = 0.0002$ ）。
- 保護効果： 英語版Wikipediaへの存在は、捏造されたソースのオッズを63%減少させることに関連していた（OR = 0.37, $p < 0.001$ ）。ハンガリー語版Wikipediaの存在は、LLMの学習コーパスにおける代表性の低さから、独立した有意な保護効果を示さなかった。

意義と主張

本論文は、AIの可視性が、「マップ（地図）」のメタファー（静的な位置付け）から、「フィールド（場）」のメタファー（証拠密度に基づく動的な再構成）へと移行しなければならないと主張している。その主な意義は以下の通りである。

可視性の再定義： 生のメンションはポジティブなシグナルではなく、検証を必要とする潜在的なリスクベクトルであることを確立した。
監査手法： アルゴリズムの公平性研究から、エンティティをプラットフォームの平均ではなく、キャリブレーションの単位として扱う「組織エンティティ監査」への方法論的架け橋を提供した。
セキュリティへの影響： 行為者が、モデルへのアクセスやプロンプトインジェクションなしに、規制フレームワークを悪用して、信頼性の高い架空の引用を生成できる「受動的敵対的増幅（passive adversarial amplification）」を特定した。
戦略的必要性： 組織は生成システムによる自らの直接的な表現を制御することはできないが、その表現が再構成される「エビデンスの場（証拠の場）」（構造化データ、標準的な識別子、第三者の引用）を変えることは可能である。

本論文は、存在（presence）と忠実度（fidelity）を区別するエンティティ固有のキャリブレーションなしには、組織は異なる現象を同じラベルの下で測定することになり、現在の可視性戦略を無効なものにしてしまうと結論付けている。