Critical Confabulation: Can LLMs Hallucinate for Social Good?

この論文は、LLM の「幻覚」を歴史的記録の欠落を埋める「批判的虚構(critical confabulation)」として活用し、社会的・政治的不平等によって隠された人々の多様な物語を、歴史的正確性を損なうことなく再構築する可能性を検証したものである。

Peiqi Sui, Eamon Duede, Hoyt Long, Richard Jean So

公開日 2026-03-09
📖 1 分で読めます☕ さくっと読める

Each language version is independently generated for its own context, not a direct translation.

🕵️‍♂️ 物語の舞台:「消えたページ」の図書館

まず、歴史の記録(アーカイブ)を想像してください。それは巨大な図書館のようですね。
しかし、この図書館には**「欠けたページ」**がたくさんあります。

  • なぜ欠けているのか?
    昔、奴隷制度や差別があった時代、黒人の人々や社会的に弱い立場の人々の物語は、記録されなかったり、意図的に消されたりしました。彼らは「歴史の隠れた人物(Hidden Figures)」と呼ばれます。
  • 今の問題点:
    従来の歴史学は「記録があることだけが真実」と考えます。でも、記録がないからといって、その人たちが生きていなかったわけではありません。ただ、本に載っていなかっただけです。

🤖 登場人物:「嘘つき」な AI と「補完」の魔法

ここで、大型言語モデル(LLM、つまり高度な AI)が登場します。
通常、AI は「事実と違うことを言う(ハルシネーション)」と、バツが悪い存在として扱われます。「嘘をつくのはダメ!」と怒られます。

でも、この論文の研究者たちは言います。
「待って!その『嘘』こそが、欠けたページを埋める『魔法』になるかもしれないよ!」

彼らはこれを**「批判的虚構(Critical Confabulation)」**と呼びます。

  • 普通の嘘: 根拠もなく、ただの作り話。
  • 批判的虚構: 既存の証拠(記録)を土台にしつつ、**「もしこれが本当なら、どうなっていたはずか?」**という、もっともらしい物語を、AI に作らせること。

🧩 実験:「穴埋めクイズ」で歴史を復元する

研究者たちは、AI に以下のような実験を行いました。

  1. 準備: 黒人の歴史に関する未公開の文書(「ブラック・ライティング・アンド・ソート・コレクション」)を集めました。
  2. クイズ作成: 歴史上の人物(例えば、警察に殺されたティラゴン・ガイトンという少年)のタイムライン(年表)を作ります。
    • 「1973 年:殺された」
    • 「1974 年:警察は起訴されなかった」
    • 「1975 年:[ここが欠けている]」 ← ここを AI に埋めさせます。
  3. AI の挑戦: AI に「この欠けた部分に、ありそうな出来事を 1 つ書いて」と頼みます。
    • AI は「1975 年、彼の母親が記者会見を開き、正義を求めた」といった、**記録にはないが、当時の文脈から「あり得たはずの物語」**を生成します。

🏆 結果:AI は「歴史の補完者」になれるか?

実験の結果、いくつかの驚くべきことがわかりました。

  • AI は「嘘」を上手に使える:
    適切な指示(プロンプト)を与えると、AI は単なるデタラメではなく、**「証拠に基づいた、説得力のある物語」**を作ることができました。
  • どの AI が一番上手?
    最新のモデル(GPT-5 や Qwen など)は、特に「役割(Role)」や「人間関係(Relational)」に関する出来事を補完するのが得意でした。例えば、「誰が何の役職に就いたか」「誰と会ったか」といった、事実に近い部分です。
  • 難しいこと:
    「その人が何を考えていたか(内面的な感情)」のような、目に見えない部分は、まだ AI にとって難しいようです。

💡 この研究が意味すること:なぜ重要なのか?

この研究は、AI を「事実を記録する機械」ではなく、**「失われた物語を呼び覚ます共創者」**として捉え直しています。

  • 従来の考え方: 「記録がないから、その出来事はなかったことにする(あるいは推測しない)。」
  • 新しい考え方: 「記録がないのは、システムがそれを消したからかもしれない。AI に『もしそうだったなら』という物語を作らせ、人間の歴史学者がそれを検証する。そうすることで、消された声を再び聞こえるようにする。」

🌟 結論:嘘ではなく「復元」のツール

この論文は、「AI のハルシネーション(幻覚)」を、社会正義のために使うという新しい道を開きました。

まるで、**「壊れた陶器を、金継ぎ(きんつぎ)のように、新しい素材で美しく補修する」**ようなものです。
AI が作る「あり得たかもしれない物語」は、歴史の欠けた部分を埋め、私たちが過去の人々をより深く、人間として理解するための架け橋になる可能性があります。

「嘘をつかない AI」を目指すのではなく、「正しい嘘(証拠に基づいた物語)」を語る AI を作る。
それが、この研究が私たちに示唆する、未来の AI の姿かもしれません。