💬 NLP

From Tokens to States: LLMs as a Special Case of World Models and the Continuous Path Beyond

本文挑战了大语言模型与世界模型之间的二元对立，认为大语言模型是世界模型的一种退化特例，提出了一个从标记预测到潜空间模拟的连续架构谱系，同时强调了在扩展至带有动作标签的环境以及使 Transformer 架构适应连续状态预测方面所面临的重大研究挑战。

原作者： Paul Dubois

发布于 2026-06-29

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Paul Dubois

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是关于论文《从 Token 到状态》（From Tokens to States）的解释，采用了通俗易懂的语言和日常类比。

巨大的误解：两个不同的世界？

想象一下，AI 社区正在为两类不同的旅行者争论不休。

A 组（LLM/大语言模型）： 声称，“我们只是词汇预测器。我们观察你输入的最后一个词，然后猜下一个词。我们对现实世界一无所知，只知道词语是如何组合在一起的。”
B 组（世界模型）： 声称，“我们是现实模拟器。我们构建了一个关于世界运作方式的心理地图，以便能够像棋手预判三步棋一样进行规划。”

这篇论文认为，这两组人实际上是从不同的角度在观察同一件事。作者 Paul Dubois 说：“你看到的不是两个不同的物种；你看到的是一只小狗和一头成年狼。小狗只是成年狼的一个高度受限的版本。”

观点 #1：“小狗”其实是在狭小房间里的“狼”

论文声称，大语言模型（LLM）实际上也是世界模型，只不过它们被困在一个非常狭小、枯燥的房间里。

房间（状态/State）： 在一个普通的“世界模型”中，“房间”是整个宇宙（汽车、天气、人类、物理规律）。在 LLM 中，“房间”仅仅是一串文字字符串。
动作（Action）： 在一个普通的“世界模型”中，你可以做很多事情（开车、跳跃、说话）。在 LLM 中，你唯一能做的就是添加一个词。
诀窍： 尽管 LLM 被允许做的仅仅是添加单词，但它在脑海中（其隐藏层中）秘密地构建了一张世界地图。
- 类比： 想象一个人被限制只能说单个词。如果你要求他玩国际象棋，而他只能使用“兵”、“王”、“将军”这样的词汇，他无法物理性地移动棋子。但在他的脑海里，他能完美地构思出整个棋盘的布局。词汇只是交互界面，但世界模型正活在他的思想之中。

论文通过展示仅在文本上训练的模型实际上可以“看见”诸如国际象棋的布局或时间的流逝，从而证明了这一点，尽管这些概念从未被直接教授过。

观点 #2：这是一条平缓的坡道，而非悬崖

许多专家（如 Yann LeCun）认为我们需要放弃词汇预测模型，转而开发一种全新的系统，称为 JEPA（一种在“潜空间”或隐藏空间中预测未来状态的系统）。

论文说：“不要跳下悬崖。只需沿着坡道向上走。”

作者描述了一个连接简单的“词汇预测器”与复杂的“现实模拟器”之间的连续谱系（一条平滑的滑梯）。你不需要扔掉旧模型，你只需要逐一放宽规则。

以下是沿着坡道上升的路径：

起点（标准 LLM）： 每次预测一个词。
- 优点： 我们拥有无限的数据（整个互联网）和完美的工具（Transformer 架构）来进行预测。
第一步：多 Token 预测： 同时预测几个词。
- 变化： 我们不再强迫模型一次只猜一个字母。它在推理能力上变得稍微聪明了一点，但我们仍然使用互联网文本和相同的工具。
第二步：未来摘要： 预测一段未来的压缩摘要。
- 变化： 它不再猜测下一个词，而是猜测下一段话的“大意”。这仍然使用的是互联网文本。
第三步：下一个潜变量预测： 预测下一个“想法”（一个隐藏状态），而不是一个词。
- 变化： 模型停止输出单词，开始输出内部概念。这更难训练，但我们仍可以使用互联网文本。
坡道的顶端（JEPA）： 根据一个动作预测现实世界的下一个状态。
- 巨大的落差： 在这里，容易的部分消失了。
  - 数据问题： 我们不能再使用互联网了。我们需要来自机器人、自动驾驶汽车或电子游戏的特定交互数据，且必须知道确切的动作导致了什么结果。这类数据稀缺且难以获取。
  - 工具问题： 我们用于处理单词的“Transformer”工具可能不再适用。对于连续的现实情况，这个工具可能无法发挥作用。我们可能需要一个全新的工具。

两个主要的瓶颈

论文指出了为什么我们被困在坡道底部（LLM 阶段）而未能到达顶端（JEPA 阶段）的两个主要原因：

数据悬崖：
- 在底部： 我们有数万亿个互联网上的词汇可以学习。它是免费且容易获取的。
- 在顶端： 我们需要数百万个特定的、带有标签的交互过程（例如机器人撞到墙壁）。这既昂贵又难以收集。
架构问题：
- 在底部： Transformer 是专门为单词构建的机器。它就像一把完美契合方头螺栓的扳手。
- 在顶端： 我们需要预测连续的现实（如流体运动）。那把扳手可能并不合适。我们可能需要一个全新的工具，但目前还不知道它长什么样。

结论：不要拆掉桥梁

论文的结论是，我们不需要抛弃现有的 AI 模型。

LeCun 是对的，即简单的词汇预测器无法独立完成复杂的物理规划。
但他也是错的，认为我们需要从零开始。

相反，我们应该将当前的模型视为一段漫长旅程中的第一步。我们可以逐步升级它们，从预测单词过渡到预测概念，最后过渡到预测现实。目的地是明确的，但这条路径是一个渐进的过程，而不是一次突然的飞跃。

简而言之： LLM 并不是“虚假”的世界模型；它们只是被反绑了双手、无法施展身手的世界模型。如果我们慢慢解开它们的手，我们就能在无需发明一个全新宇宙的情况下，抵达我们梦寐以求的强大 AI。

技术摘要：从 Token 到状态：将 LLM 视为世界模型的特例及其连续演进路径

问题陈述

当前的 AI 社区将大语言模型（LLM）与世界模型（World Models）之间的关系框架化为一种二元对立：LLM 被视为纯粹的 Token 预测器，而世界模型则被定义为通过模拟现实来支持规划的系统。Yann LeCun (2022) 曾指出，实现通用智能需要放弃自回归 Token 预测，转而采用潜空间架构（特别是联合嵌入预测架构，即 JEPA）。本文挑战了这种将两者视为非黑即白的二元论框架，认为这种观点掩盖了一个自然、连续的能力谱系与架构演进过程。核心问题在于，缺乏一个能够统一 LLM 与世界模型的正式框架，同时也缺乏一个在不丢弃已使 LLM 实现规模化扩展的实用优势的前提下，实现从两者向另一方过渡的清晰路线图。

方法论与形式化定义

本文采用形式化数学方法重新定义了 LLM 与世界模型之间的关系，随后对现有及新兴架构进行了结构化分析。

1. LLM 的形式化嵌入
作者将世界模型定义为一个元组 $(S, A, T, \rho_0)$ ，其中 $S$ 是状态空间， $A$ 是动作空间， $T$ 是转移函数， $\rho_0$ 是初始状态分布。本文通过做出特定的、限制性的选择，将自回归 LLM 正式嵌入到该框架中：

状态空间 ( $S$ )： 所有有限 Token 序列的集合 ( $V^*$ )。
动作空间 ( $A$ )： Token 词表 ( $V$ )，其中唯一的动作是追加一个 Token。
转移函数 ( $T$ )： 一个将所选 Token 追加到当前序列的确定性函数 ( $s \cdot a$ )。
策略 ( $\pi_\theta$ )： LLM 本身，它预测下一个 Token 的概率分布。

在此定义下，LLM 同时充当了世界模拟器（通过转移函数）和智能体。本文认为，LLM 是世界模型的一个“退化特例”，其状态空间被限制在离散 Token 中，且转移过程是平凡的（trivial）。

2. 连续谱系分析
本文构建了一个从标准下一 Token 预测（NTP）到 JEPA 的谱系。作者将该谱系分析为一个序列步骤，其中每一步都恰好放宽了标准 LLM 形式化定义中的一个约束。分析追踪了每一步放宽约束时，如何影响 LLм 的两个实际优势：

获取互联网规模自监督数据的能力。
与 Transformer 架构的兼容性（该架构是为离散 Token 设计的）。

核心贡献

1. 包含关系主张
主要的理论贡献是证明了 LLM $\subset$ 世界模型。本文证明了世界模型是 LLM 的严格泛化，而非替代品。这使得研究目标从“放弃 LLM”转变为“逐步放宽 LLM 的约束”。

2. 识别五项约束
本文隔离了定义 LLM 在更广泛的世界模型类中的特例属性的五项特定约束：

状态表示： 仅限于离散 Token 序列（相对于任意连续或潜在状态）。
动作粒度： 仅限于每步一个微观 Token（相对于语义层面的智能体动作）。
状态持久性： 状态必须在每次处理时从上下文重新推导（相对于显式的存储变量）。
训练监督： 依赖于原始文本上的下一 Token 预测（相对于成对的状态-动作-下一状态元组）。
层架构： 限于与离散 Token 协同设计的 Transformer。

3. “数据悬崖”与“架构鸿沟”
本文识别了在沿着谱系移动时出现的两个关键瓶颈：

数据问题： 虽然谱系早期阶段（NTP、多 Token 预测、未来摘要）可以利用互联网规模的文本，但迈向 JEPA 的最后一步需要来自受控环境的（观察、动作、下一观察）配对数据。这类数据的规模比互联网文本（ $\sim 10^{13}$ 个 Token）要小几个数量级（ $\sim 10^9$ 个样本）。
架构问题： Transformer 架构针对离散 Token 进行了高度优化。当预测目标转向连续潜空间（如 Next-Latent, JEPA）时，Transformer 的归纳偏置（inductive bias）变得不再最优。本文指出，相比于文本领域的 Transformer，领域内可能还缺乏一种针对连续状态预测的“结晶化”架构。

4. 对内部表示的经验性重新解读
本文综合了机械解释性（mechanistic interpretability）的研究结果（如 OthelloGPT, Llama-2），以论证“世界模型”已经存在于 LLM 之中。这些模型在仅接受 Token 序列训练的情况下，其隐藏层激活值仍能编码丰富的棋盘状态、地理空间和时间等的线性表示。这支持了本文的观点：即“世界模型”存在于潜层激活中，而 Token 仅仅是交互界面。

结果与证据

本文并未提出新的实验结果，而是综合了现有研究来支持其理论主张：

OthelloGPT 与国际象棋模型： 证明了隐藏激活值能以超过 99% 的准确率编码完整的棋盘状态，证明了在 Token 预测架构内实现世界状态表示是可能的。
多 Token 预测 (MTP)： 引用了 Gloeckle 等人 (2024) 和 DeepSeek-V3 的研究，表明同时预测 $k$ 个 Token 可以提高推理能力，且不会牺牲数据和架构优势。
未来摘要与下一潜变量 (Future Summary & Next-Latent)： 引用了 Mahajan 等人 (2026) 和 Teoh 等人 (2026) 的研究，展示了能够预测压缩后的未来或潜变量的中间架构，从而架起了 NTP 与 JEPA 之间的桥梁。
思维链 (CoT)： 将 CoT 重新解读为一种并非新范式、而是增加现有 Token-状态世界模型内规划时界（planning horizon）的机制，有效地在谱系的粒度轴上移动。

意义与主张

本文声称，其意义在于消解了“Token 预测器”与“世界模型”之间虚假的二元对立。通过将 LLM 框定为受限的世界模型子集，本文提出了一条通往通用智能的梯度上升路径，而非断裂式的跳跃。

增量式过渡： 前进之路不是抛弃 LLM，而是增量式地放宽约束。中间步骤（MTP、未来摘要、下一潜变量）提供了一种在保留互联网规模数据和 Transformer 架构可扩展性的同时，提升世界模型能力的方法。
明确前沿： 本文认为真正的研究前沿在于向 JEPA 的过渡，届时数据可用性和架构匹配度会同时发生坍缩。它指出，解决“动作驱动的世界模型”问题不仅需要更多数据，可能还需要一种全新的用于连续状态预测的架构原语。
对 LeCun 批判的重新评估： 本文认为 LeCun 关于当前 LLM 无法在物理世界进行闭环规划的观点是正确的，但认为其认为这需要彻底放弃 Token 预测范式的观点是不准确的。相反，谱系视角表明，CoT 和潜空间预测是同一底层形式化的自然延伸。

总之，本文断言，尽管终点（动作驱动的潜空间世界模型）是明确的，但实现路径是一个架构与数据持续演进的连续谱系，而非两种对立技术之间的二元抉择。