💬 NLP

From Tokens to States: LLMs as a Special Case of World Models and the Continuous Path Beyond

本論文は、大規模言語モデルを世界モデルの退化した特殊なケースであると論じることで、大規模言語モデルと世界モデルの間の二項対立的な区別に異議を唱え、トークン予測から潜在空間シミュレーションに至るアーキテクチャの連続的なスペクトラムを提示するとともに、アクションラベル付き環境へのスケーリングおよび連続状態予測のためのトランスフォーマー・アーキテクチャの適応における重要な研究課題を浮き彫りにしている。

原著者： Paul Dubois

公開日 2026-06-29

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Paul Dubois

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

大きな誤解：二つの異なる世界？

AIコミュニティでは、二種類の異なる旅行者について議論が交わされています。

グループA（LLM）： 「私たちは単なる単語予測器です。あなたが入力した最後の単語を見て、次の単語を推測しているだけです。私たちは現実世界については何も知りません。ただ、言葉がどのように組み合わさるかを知っているだけなのです」
グループ B（世界モデル）： 「私たちは現実のシミュレーターです。チェスのプレイヤーが数手先を考えるように、将来の計画を立てるために、世界がどのように機能するかというメンタルマップ（心の地図）を構築します」

この論文は、これら二つのグループは実際には異なる角度から同じものを見ているのだと主張しています。著者であるポール・デュボアはこう述べています。「あなたは二つの異なる種を見ているのではありません。あなたは子犬と成犬の狼を見ているのです。子犬は、非常に制限された状態の狼に過ぎないのです」

クレーム #1：「子犬」は実は「小さな部屋の中にいる狼」である

この論文は、大規模言語モデル（LLM）も実際には「世界モデル」であると主張していますが、それらは非常に狭くて退屈な部屋の中に閉じ込められているのだとしています。

部屋（状態）： 通常の世界モデルにおいて、「部屋」は全宇宙（車、天気、人々、物理法則）です。LLMにおける「部屋」は、単なる文字列です。
アクション（行動）： 通常の世界モデルでは、多くのことができます（運転する、跳ぶ、話すなど）。LLMにおいてできることは、「一つの単語を付け加える」ことだけです。
トリック： LLMは単語を付け加えることしか許されていませんが、その脳内（隠れ層）には、密かに世界の地図を構築しています。
- 比喩： たった一言ずつしか話すことが許されない人がいると想像してください。もしその人に、「ポーン」「キング」「チェック」といった言葉だけでチェスのゲームをするよう求めた場合、彼らは物理的に駒を動かすことはできません。しかし、彼らの頭の中では、チェス盤全体のレイアウトを完璧に可視化しています。言葉は単なるインターフェース（接点）であり、世界モデルはその精神の中に生きているのです。

論文は、テキストのみで学習されたモデルであっても、直接教えられていない概念（チェス盤の配置や時間の経過など）を実際に「見て」いることを示すことで、これを証明しています。

クレーム #2：それは断崖絶壁ではなく、緩やかなスロープである

ヤン・ルカンのような多くの専門家は、我々は単語予測モデルを完全に放棄し、JEPA（潜在的な、あるいは隠れた空間における「状態」を予測するシステム）と呼ばれる全く新しいシステムに切り替える必要があると主張しています。

この論文はこう言っています。「崖から飛び降りる必要はありません。ただスロープを歩いて上がっていけばいいのです」

著者は、単純な単語予測器と複雑な現実シミュレーターをつなぐ**連続的なスペクトラム（滑らかなスライド）**を描いています。古いモデルを捨てる必要はありません。ルールを一つずつ緩めていけばよいのです。

以下が、スロープを登る道筋です：

出発点（標準的なLLM）： 一度に一つの単語を予測します。
- メリット： 無限のデータ（インターネット全体）と、完璧なツール（Transformerアーキテクチャ）があります。
ステップ1：マルチトークン予測： 一度にいくつかの単語を予測します。
- 変化： 一文字ずつ推測することを強制するのをやめます。これにより、モデルは推論においてわずかに賢くなりますが、依然としてインターネット上のテキストと既存のツールを使用しています。
ステップ2：未来の要約： 未来の圧縮された要約を予測します。
- 変化： 次の単語を推測する代わりに、次の段落の「要旨」を推測します。依然としてインターネットのテキストを使用しています。
ステップ3：次なる潜在状態の予測： 単語ではなく、次の「思考」（隠れ状態）を予測します。
- 変化： モデルは単語を出力するのをやめ、内部的な概念を出力し始めます。これは学習がより困難になりますが、依然としてインターネットのテキストを使用できます。
スロープの頂上（JEPA）： 行動に基づいた現実世界の次の状態を予測します。
- 大きな転落： ここで、簡単な要素がすべて消え去ります。
  - データの問題： インターネットはもう使えません。ロボット、自動運転車、またはどの行動がどのような結果をもたらしたかを正確に知ることができるビデオゲームなどから得られる、特定のデータが必要です。このデータは希少で、入手が困難です。
  - ツールの問題： 言葉のために使ってきた「Transformer」というツールは、うまく機能しない可能性があります。連続的な現実を扱うには、全く新しいツールが必要になるかもしれません。

二つの大きなボトルネック

論文は、なぜ私たちがスロープの底部（LLMの段階）に留まっており、頂上（JEPAの段階）に到達できていないのか、その主な理由を二つ特定しています。

データの断崖：
- 底部では： 学習するための言葉がインターネット上に数兆語もあります。それは無料で、容易に入手できます。
- 頂上では： ロボットが壁にぶつかったときのような、ラベル付けされた特定の相互作用が数百万件必要です。これは高価で、収集が困難です。
アーキテクチャの疑問：
- 底部では： Transformerは言葉のために作られた機械です。それは、四角いボルトに完璧にフィットするレンチのようなものです。
- 頂上では： 連続的な現実（流体の動きなど）を予測する必要があります。そのレンチは適合しないかもしれません。私たちはまだ、それがどのような姿をしているのかさえ分かっていません。

結論：橋を焼き払うな

この論文は、現在のAIモデルを捨てる必要はないと結論づけています。

ルカン氏は正しい。単純な単語予測器だけでは、複雑な物理的計画を立てることはできません。
しかし、彼は間違っている。ゼロからやり直す必要はないのです。

代わりに、現在のモデルを長い旅路の第一歩として捉えるべきです。単語の予測から概念の予測へ、そして最終的には現実の予測へと、一歩ずつ、ゆっくりとアップグレードしていくことができます。目的地は明確ですが、その道筋は突然の跳躍ではなく、緩やかな登りなのです。

要約すると： LLMは「偽の」世界モデルではありません。単に、後ろ手に縛られた状態の世界モデルなのです。もし私たちがその手をゆっくりと解いてあげれば、全く新しい宇宙を発明することなく、私たちが望む強力なAIへと到達できるのです。

技術的要約：トークンから状態へ：世界モデルの特殊なケースとしてのLLMと、その先にある連続的な経路

問題提起

AIコミュニティは現在、大規模言語モデル（LLM）と世界モデルの関係を、二項対立的なものとして捉えている。すなわち、LLMは単なるトークン予測器であり、一方で世界モデルは、計画を支援するために現実をシミュレートするシステムである、という見方である。ヤン・ルカン（2022）は、汎用的な知能を実現するためには、自己回帰的なトークン予測を放棄し、潜在空間アーキテクチャ（具体的には、結合埋め込み予測アーキテクチャ、すなわちJEPA）へと移行する必要があると主張している。本論文は、この枠組みが不必要に二極化されていると指摘し、それが能力やアーキテクチャの進化における自然で連続的なスペクトラムを覆い隠していると論じることで、このフレームワークに異議を唱える。核心となる問題は、LLMと世界モデルを統一する形式的な枠組みの欠如と、LLMを可能にしてきた実用的な利点を破棄することなく、一方から他方へと移行するための明確なロードマップの不在である。

方法論と定式化

本論文は、LLMと世界モデルの関係を再定義するために形式的な数学的手法を用い、次いで既存および新興のアーキテクチャの構造的分析を行う。

1. LLMの形式的埋め込み
著者は、世界モデルをタプル $(S, A, T, \rho_0)$ として定義する。ここで、 $S$ は状態空間、 $A$ は行動空間、 $T$ は遷移関数、 $\rho_0$ は初期状態分布である。本論文は、特定の制約的な選択を行うことで、自己回帰的なLLMをこのフレームワークに形式的に埋め込む。

状態空間 ( $S$ ): すべての有限なトークン列の集合 ( $V^*$ )。
行動空間 ( $A$ ): トークンの語彙 ( $V$ )。唯一の行動はトークンの追加である。
遷移関数 ( $T$ ): 選択されたトークンをシーケンスに付加する決定論的な関数 ( $s \cdot a$ )。
方策 ( $\pi_\theta$ ): 次のトークンの確率分布を予測するLLM自体。

この定義の下では、LLMは世界シミュレータ（遷移関数を通じて）とエージェントの両方の役割を同時に果たす。本論文は、LLMを、状態空間が離散的なトークンに制限され、遷移が自明な、世界モデルの「退化した特殊なケース」であると定義する。

2. 連続的スペクトラム分析
本論文は、標準的な次トークン予測（NTP）からJEPAに至るスペクトラムを構築する。このスペクトラムを、標準的なLLMの形式における制約を正確に一つずつ緩和していくステップの連鎖として分析する。この分析では、各緩和が以下の2つの実用的な利点にどのような影響を与えるかを追跡する。

インターネット規模の自己教師ありデータへのアクセス。
トランスフォーマー・アーキテクチャとの互換性（離散トークン向けに共同設計されている）。

主な貢献

1. 包摂の主張
主要な理論的貢献は、LLM $\subset$ 世界モデル であるという証明である。本論文は、世界モデルがLLMの置き換えではなく、その厳密な一般化であることを示している。これにより、研究目標を「LLMの放棄」から「LL密なLLM制約の漸進的な緩和」へと再定義する。

2. 5つの制約の特定
本論文は、より広範な世界モデルのクラスにおけるLLMの特殊なケースを定義する5つの具体的な制約を特定した。

状態表現: 離散的なトークン列に限定されている（対、任意の連続的または潜在的な状態）。
行動の粒度: 1ステップにつき1つのマイクロトークンに限定されている（対、意味的なエージェントの行動）。
状態の持続性: 状態は毎パスごとにコンテキストから再導出されなければならない（対、明示的に保存された変数）。
学習の監督: 生のテキストに対する次トークン予測に依存している（対、ペアとなった状態・行動・次状態のタプル）。
層のアーキテクチャ: 離散トークン向けに共同設計されたトランスフォーマーに限定されている。

3. 「データの崖」と「アーキテクチャのギャップ」
スペクトラムを進むにつれて生じる2つの決定的なボトルネックを特定した。

データの問い: スペクトラムの初期段階（NTP、マルチトークン予測、将来の要約）はインターネット規模のテキストを利用できるが、JEPAへの最終ステップには、計測された環境からのペア（観測、行動、次観測）のデータが必要となる。このデータは、インターネット上のテキスト（ $\sim 10^{13}$ トークン）と比較して、オーダー単位で希少である（ $\sim 10^9$ サンプル）。
アーキテクチャの問い: トランスフォーマー・アーキテクチャは、離散トークンに対して高度に最適化されている。予測対象が連続的な潜在空間（Next-Latentなど）に移行すると、トランスフォーマーの帰納バイアスは最適ではなくなる。本論文は、テキストにおけるトランスフォーマーのような、連続状態予測のための「結晶化した」アーキテクチャが、現在の分野には欠けている可能性を示唆している。

4. 内部表現の経験的な再解釈
メカニスティック・インタープリタビリティ（機械的解釈可能性）の知見（OthelloGPT、Llama-2など）を統合し、「世界モデル」はすでにLLMの中に存在していると論じている。これらのモデルは、トークンシーケンスのみで訓練されているにもかかわらず、隠れ活性化の中に、盤面の状態、地理的空間、時間の豊かな線形表現をエンコードしている。これは、「世界モデル」は潜在的な活性化の中に存在し、トークンは単なるインターフェースに過ぎないという主張を支持している。

結果と証拠

本論文は新しい実験結果を提示するのではなく、理論的主張を支持するために既存の研究を統合している。

OthelloGPT & チェスモデル: 隠れ活性化が99%以上の精度で完全な盤面状態をエンコードしていることを示し、トークン予測アーキテクチャ内でも世界状態の表現が可能であることを証明している。
マルチトークン予測 (MTP): Gloeckleら(2024)やDeepSeek-V3を引用し、同時に $k$ 個のトークンを予測することが、データやアーキテクチャの利点を損なうことなく推論を向上させることを示している。
将来の要約 & Next-Latent: Mahajanら(2026)やTeohら(2026)を引用し、NTPとJEPAの間の架け橋となる、圧縮された未来や潜在状態を予測する中間的なアーキテクチャを示している。
思考の連鎖 (CoT): CoTを新しいパラダイムとしてではなく、既存のトークン状態の世界モデルにおけるプランニング・ホライゾン（計画の展望）を拡大するためのメカニズムとして再解釈し、効果的にスペクトラムの粒度の軸に沿って移動させている。

意義と主張

本論文の意義は、「トークン予測器」と「世界モデル」という偽の二項対立を解消することにある。LLMを制約された世界モデルの部分集合として位置づけることで、世界モデルへの道筋を、不連続な跳躍ではなく、勾配上昇のプロセスとして示唆している。

漸進的な移行: 前進への道はLLMを破棄することではなく、制約を段階的に緩和することである。中間ステップ（MTP、将来の要約、Next-Latent）は、インターネット規模のデータとトランスフォーマー・アーキテクチャの拡張性を維持しながら、世界モデルの能力を向上させる方法を提供する。
境界線の明確化: 本論文は、真の研究の最前線は、データとアーキテクチャの適合性が同時に崩壊するJEPAへの移行にあると断定している。それは、単に多くのデータが必要なのではなく、連続状態予測のための新しいアーキテクチャのプリミティブ（基本要素）が必要であることを示唆している。
ルカンの批判の再評価: 本論文は、現在のLLMが物理的世界でのクローズドループの計画を実行できないというルカンの指摘は正しいが、それがトークン予測パラダイムを完全に放棄することを必要とするという点については誤りであると論じている。むしろ、スペクトラムの視点によれば、CoTや潜在空間の予測は、同じ基礎的な形式論の自然な拡張である。

結論として、本論文は、目的地（行動条件付き潜在空間世界モデル）は明確であるが、その経路は、二つの対立するテクノロジーの間の二項選択ではなく、アーキテクチャとデータの連続的な進化のスペクトラムであると主張している。