← 最新の論文
💬 NLP

TimeCapsule: Generative Hallucination as a Method for Historical Sensemaking

本論文は、ヴィクトリア朝時代のテキストのみで学習された生成モデルであるTimeCapsuleを紹介するものであり、その時間的な隔離を活用することで、現代的な幻覚を歴史的な意味付けのための解釈的プローブへと変容させ、現代的な真正性の認識に効果的に異議を唱えると同時に、当該時代の散文における優れたパープレキシティを実証している。

原著者: Hayk Grigorian, Hamed Yaghoobian

公開日 2026-07-29
📖 1 分で読めます☕ さくっと読める

原著者: Hayk Grigorian, Hamed Yaghoobian

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む

過去を理解しようとしていると想像してみてください。しかし、質問をするたびに、返ってくる答えには未来からのネタバレが含まれています。これが、今日の最も強力なコンピューターの脳、すなわち大規模言語モデル(LLM)が抱える問題です。これらのシステムは、人類の歴史という図書館にあるすべての本、さらにはまだ書かれていない本までをも読み終えたタイムトラベラーのようなものです。彼らは今日のインターネット上のあらゆるものから学習しているため、現代の知識、現代の倫理、そして現代の事実をその「精神」の中に携えています。彼らに1800年代の人物になりきってほしいと頼んでも、彼らはしばしば失敗し、誤って飛行機やインターネットといった事柄に言及したり、現代の道徳観で歴史的事象を判断したりしてしまいます。彼らは過去の「スタイル」を模倣することには長けていますが、未来を知りすぎているために、真にその時代に「身を置く」ことはできないのです。

これを解決するために、研究者たちは新しいアイデアを模索しています。もし、意図的に「無知」なAIを作ったらどうなるでしょうか? インターネット全体を学習させるのではなく、特定の時代の書籍、新聞、手紙だけを学習させ、その日付以降のことは決して学べないように電源を切ってしまったらどうなるでしょうか。「TimeCapsule」と題されたこの論文は、このコンセプトを掘り下げています。これは、「知らないこと」をバグとしてではなく、一つの機能として扱っています。コンピューターに19世紀で利用可能だった道具、言葉、概念のみを用いて考えさせることで、研究者たちは、たとえその世界が混乱していたり、コンピューターにとって理解不可能な事柄に満ちていたりしたとしても、当時の人々がどのように世界を理解していたのかを真にシミュレートできる機械を作りたいと考えています。


未来を忘れるタイムトラベル・コンピューター

TimeCapsuleをご紹介しましょう。これは12億パラメータを持つコンピューターモデル(約12億個の微細な接続を持つデジタル脳と考えてください)であり、非常に厳格なルールに基づいて構築されました。それは、1800年から1875年までのテキストのみを読むことが許されているというルールです。

開発者であるモーレンバーグ大学のHayk Grigorian氏とHamed Yaghoobian氏は、AIに「認識論的なイベントホライゾン(事象の地平線)」を持たせたらどうなるかを見たいと考えました。これは、モデルの記憶に硬い壁があることを意味する専門的な表現です。1875年以前のすべてがそのモデルの世界であり、1875年以降のすべては空白の虚無なのです。それは単に未来について「知らないふり」をしているのではなく、文字通り「知ることができない」のです。

実験:デジタルな体に宿るヴィクトリア朝の脳

これを作るために、チームは19世紀の13万6,302もの文書からなる膨大なライブラリを集めました。これには、議会の法律や医学雑誌から、詩やフィクションに至るまで、あらゆるものが含まれていました。彼らはコンピューターが読み取れる程度にテキストを整理しましたが、当時の古い綴りや癖はそのまま残しました。そして、このデータのみを用いてモデルを訓練しました。

その結果はどうでしょうか? ヴィクトリア朝のように話し、かつ、そのように考えるコンピューターが誕生しました。

「ハルシネーション(幻覚)」のひねり
通常、AIが事実を捏造したとき、私たちはそれを「ハルシネーション」と呼び、間違いとして扱います。しかし、TimeCapsuleは異なる動きを見せます。例えば、1875年には存在しなかったもの(コンピューター飛行機など)について尋ねられたとき、モデルは単に「知りません」と言うのではありません。代わりに、自分が持っている概念だけを使って、それらが「どのようなものであるはずか」を推測しようとするのです。

例えば、「コンピューター」について説明するように求められた際、TimeCapsuleは「計算を行う機械」とは答えませんでした。1875年において「コンピューター」という言葉は、保険会社のために計算を行う「人」を指しており、さらにモデルは医学文献に基づいて学習していたため、モデルはコンピューターを**「肥大化した肺」**(腫れた、あるいは病的な肺)として記述したのです。モデルは「計算」「統計」「バイタルサイン(生命兆候)」の間の点をつなぎ合わせ、奇妙ではあるものの、歴史的に論理的な説明を作り上げました。

研究者たちはこれを**「存在論的修復(ontological repair)」**と呼んでいます。失敗する代わりに、モデルは現代の物体を19世紀の世界観の中に無理やり適合させようと、創造的に試みているのです。これは、もし1800年の人にスマートフォンを見せたら、彼らが持つ語彙だけを使って、それを「死者の声を保持する魔法の鏡」と表現するようなものです。

数字による検証:どれほど優れているのか?

チームは、現代のモデルと比較して、TimeCapsらブルがどれほど1800年代の言語を理解しているかをテストしました。

  • 彼らはパープレキシティ(モデルが読んでいるテキストに対してどれほど驚いているかを示すスコア。低いほど良い)を測定しました。
  • 標準的な現代モデル(GPT-2)は、ヴィクトリア朝のテキストに対して68.83というスコアを出しました。
  • 一方、TimeCapsuleは37.59でした。
  • これは45.4%の減少を意味しており、TimeCapsuleが、より大規模でスマートな現代モデルよりも、その時代の特定の言語においてはるかに流暢であることを示しています。

しかし、論文は、もし単に最低のスコアを求めるのであれば、Mistral-7Bのような巨大な現代モデルの方がさらに低いスコア(16.50)を出せることも指摘しています。しかし、それは現代のモデルが「未来を知っている」からです。それはズルをしているのです。TimeCapsuleの「低い」スコアは、その誠実さの証です。それは単に現代の知識に基づいて推測しているのではなく、真に過去の言語を話しているのです。

歴史の「不気味の谷」

研究が最も驚くべき展開を見せたのは、文学と歴史の専門家2名に、どのテキストが人間によって書かれ、どれがTimeCapsuleによって書かれたものかを推測させたときでした。

結果は少し不気味なものでした。

  • 専門家たちは、実際のヴィクトリア朝のテキストの約**40%**を、機械が書いたものだと誤認しました。
  • ある専門家は、チャールズ・ディケンズによる実際の文章を、偽物だと判断しました。その理由は、文章の中で「brick-and-mortar(煉瓦とモルタル)」というフレーズが使われていたためですが、その専門家はそれが現代的な用語だと誤解していました(実際はそうではありませんでした)。
  • 別の専門家は、ある文章が「退屈極まりない」という理由だけで、それが本物だと判断しました。そして、それはまさにAIが生成したものと同じでした。AIは、1800年代の平凡で日常的な文章を模倣することにおいて非常に優れていたため、専門家を欺いたのです。

これは**「真正性の危機」**を生み出しました。AIがあまりにも「平均的」になることに長けていたため、人間による興味深い、あるいは退屈な本物の文章さえも、偽物のように見せてしまったのです。これは、AIの時代において、何が真の人間による歴史で、何がデジタルの模倣であるかを見分ける能力を、私たちが失いつつある可能性を示唆しています。

「悪い」AIの倫理

この論文は、厄介な倫理的問題にも取り組んでいます。現代のAIは通常、「安全」で礼儀正しく、差別的または帝国主義的な発言を拒否するように訓練されています。しかし、TimeCapsuleは「安全」になるよう訓練されていませんでした。それは、その時代に対して「誠実」であるように訓練されたのです。

1800年代は帝国や厳格なジェンダーロールの時代であったため、TimeCapsuleはそれらのバイアスを反映しています。

  • モデルの「精神」において、**「進歩(progress)」という言葉は、「帝国(empire)」「征服(conquest)」「支配(dominion)」**といった言葉と密接に結びついています。
  • 現代のモデルでは、「進歩」は「発明」や「改善」と結びついています。

研究者たちは、これが歴史学者にとってはむしろ有益であると主張しています。もしAIからこれらのバイアスを取り除くように「修正」してしまえば、当時の人々が実際にどのように考えていたかという歴史を消し去ってしまうことになるからです。バイアスを保持することで、TimeCapsuleは鏡として機能し、19世紀が世界をどのように見ていたのか、その醜い部分も含めて正確に映し出します。それは、親しみやすいヴィクトリア朝の人とチャットするためのツールではありません。欠点も含めた、ヴィクトリア朝の精神を研究するためのツールなのです。

まとめ

TimeCapsuleは、過去を真に理解するためには、制限のあるコンピューターを構築する必要があるかもしれないことを示唆しています。未来へのアクセスを遮断することで、私たちは彼らに過去の人々のように考えざるを得なくなるのです。現代のテクノロジーについて彼らが「間違った」答えを出すとき、それは失敗しているのではなく、19世紀の精神が私たちの世界をどのように理解しようとするのかを示しているのです。

論文は、この「生成的なハルシネーション」は修正すべきバグではなく、新しい歴史研究の手法であると結論づけています。それはAIの無知を「窓」へと変え、もはや存在しない時代の隠された論理を覗き見ることを可能にします。著者たちが示唆するように、このモデルは単に歴史を模倣するのではなく、一つの「肥大化した肺」を積み重ねるように、歴史を再構築しているのです。

自分の分野の論文に埋もれていませんか?

研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。

Digest を試す →