🤖 AI

Why We Need World Models for AGI: Where LLMs Fail and How World Models May Outperform

本文认为，大语言模型因与潜在环境动态的目标不匹配而难以进行长程规划和因果推理，并通过"Flux"环境证明，能够显式访问潜在状态转移的智能体在稳定、长期的决策中显著优于大语言模型。

原作者： Feisal Alaswad, Batoul Aljaddouh, Maher Alrahhal, Poovammal E, Talal Bonny

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Feisal Alaswad, Batoul Aljaddouh, Maher Alrahhal, Poovammal E, Talal Bonny

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和日常类比对这篇论文的解释。

核心理念：阅读剧本 vs. 参与游戏

想象一下，你正在学习如何玩一款复杂的棋盘游戏。你有两种学习方式：

“剧本朗读者”（当前的 AI/大语言模型）： 你阅读了成千上万人的游戏记录。你非常擅长猜测故事中下一个词是什么。如果有人说“我把兵移到了……"，你可以自信地预测"……中心格”。你听起来像个专家，因为你掌握了语言的规律。
“游戏主持人”（世界模型）： 你不仅仅阅读记录，而是在脑海中构建游戏棋盘。你理解规则、每个棋子的位置，以及移动棋子时确切会发生什么。你不仅仅是猜测下一个词，而是模拟游戏的下一个状态。

论文的观点：
当前的 AI（大语言模型或 LLM）是出色的“剧本朗读者”。它们能写出故事、代码和听起来完美的答案。但作者认为，当这些 AI 尝试进行需要长期规划或因果推理（弄清楚因果关系）的任务时，它们就开始失败。它们会迷失方向，因为它们只是在预测句子中的下一个词，而不是追踪世界的实际“状态”。

该论文提出，要构建真正智能的机器（通用人工智能，AGI），我们需要从仅仅预测单词转向构建“世界模型”——即追踪世界随时间变化的内部模拟。

核心问题：“幻觉”陷阱

作者解释说，LLM 遭受一种特定类型的困惑。因为它们被训练为基于概率预测下一个词，所以它们优先考虑听起来合理的内容，而不是实际上真实的内容。

类比： 想象一位朗读了图书馆里所有书籍的说书人。如果你问“如果我摔碎一个玻璃杯会发生什么？”，他可能会说“它会粉碎”，因为这在故事中通常是这样发生的。但如果你问“如果我在刚刚掉落一个沉重箱子的同时摔碎一个玻璃杯会发生什么？”，说书人可能会感到困惑。他可能会忘记三句话前他掉落了箱子，因为他只关注当下的词语，而不是整个物理情境。
结果： AI 会编造事实（产生幻觉）或失去对游戏状态的追踪（例如，忘记某个棋子已被移出棋盘），因为它没有维持一个关于其所描述现实的持久“心理模型”。

解决方案：潜在动力学推理 (LDI)

作者提出了一种名为潜在动力学推理 (LDI) 的新思维方式。

隐喻： 将语言视为真实事件的模糊、低分辨率照片。
- 照片（语言） 向你展示了一场车祸。它告诉你“汽车撞上了树”。
- 现实（潜在状态） 是实际的物理过程：汽车的速度、撞击角度、金属的扭曲。
- 当前的 AI 研究照片并试图猜测下一句话。
- LDI 试图观察照片并重建其背后的实际物理过程。它会问：“汽车的速度和位置必须是什么，才能导致这张照片？”

通过尝试重建词语背后隐藏的“物理过程”（潜在状态），AI 可以更好地进行因果推理。

实验："FLUX"游戏

为了证明这一点，作者创建了一个名为FLUX的简单游戏。

规则： 游戏规则完全用纯英语编写（例如，“如果一个单元格变为零，它将被移除”）。
设置： 他们将这些英语规则转化为一个严格的数学计算机模拟器（即“世界模型”）。
比赛： 他们让两种类型的玩家相互对抗：
1. LLM 玩家： 阅读英语规则和当前的游戏状态文本。它必须通过预测下一个词来猜测下一步。
2. RL 玩家（强化学习）： 直接在数学模拟器中进行训练。它“看到”实际的数字和状态变化，而不仅仅是文本。

结果：

RL 玩家（世界模型） 赢得了约 79% 的游戏。
LLM 玩家 仅赢得了约 11% 的游戏。

LLM 为什么会输？
论文发现了 LLM 失败的三种具体方式，这就像“剧本朗读者”中的“故障”：

求和盲区： LLM 忘记了分数的累计总和。它不断做出会将分数推过限制从而导致立即失败的移动，因为它没有在“脑海”中追踪数字，而只是在文本中追踪。
行长度计数错误： 随着棋子被移除，游戏棋盘会缩小。LLM 会尝试移动一个不再存在的棋子，因为它失去了对棋盘当前形状的追踪。
短视： LLM 做出的移动看起来对下一步很好，但对 10 步之后的游戏来说却糟糕透顶。它无法“看到”未来的后果。

结论：这对 AI 意味着什么

论文得出结论，预测下一个词不足以构建一个真正智能的代理。

当前的 AI 就像一位才华横溢的演员，可以完美地背诵剧本，但不理解剧情。
未来的 AI（世界模型） 需要像一位导演，理解剧情、角色的动机以及故事如何演变。

作者认为，要实现通用人工智能 (AGI)，我们不应该仅仅让 AI 变得更大（更多数据、更多参数）。相反，我们需要改变它学习的方式。我们需要教导 AI 停止仅仅猜测下一个词，转而推断生成这些词语的隐藏“世界”。

简而言之： 要变得聪明，AI 需要停止阅读剧本，开始参与游戏。

技术摘要：为何我们需要世界模型以实现通用人工智能（AGI）

问题陈述

尽管大语言模型（LLM）在序列预测、知识密集型任务和代码生成方面取得了显著成功，但在需要因果推理、持久状态跟踪和长视野规划（long-horizon planning）的领域，它们表现出系统性的局限。作者认为，这些局限源于根本性的目标层面不匹配：LLM 被优化为在观测空间（ $X$ ）内预测观测值（token 序列），而动态环境中的稳健智能则需要对潜在状态转移（ $S$ ）和因果动力学进行建模。

当前的自回归目标优先考虑统计似然性，而非事实基础或因果一致性。因此，尽管 LLM 可能在受限环境中近似世界模型的行为，但它们缺乏维持演化世界连贯内部模型的结构机制，从而导致幻觉、状态跟踪错误以及在长视野任务中出现“视野短视”等失败模式。

方法论：潜在动力学推断（LDI）与 FLUX

为了验证这一假设，作者引入了潜在动力学推断（Latent Dynamics Inference, LDI），这是一个概念框架，将语言和 multimodal 观测值解释为潜在环境动力学的部分且有损的证据。在 LDI 框架下，学习目标从预测下一个 token（ $P(x_t | x_{<t})$ ）转变为推断生成观测值的潜在状态轨迹（ $S$ ）和转移函数（ $f_\theta$ ）。

为了实证检验在观测空间（ $X$ ）与潜在状态空间（ $S$ ）中进行推理的区别，作者构建了FLUX，这是一个具有如下特征的新型序列推理环境：

规范：游戏规则完全用自然语言定义，代表观测空间 $X$ 。
机制：这是一个在整数单元格行上进行的双人游戏，涉及“放大”（ $\times 2$ ）和“排空”（ $\lfloor \div 2 \rfloor$ ）操作。它具有非对称的获胜条件（收缩者获胜条件是行缩减为一个单元格；放大器获胜条件是总和超过 20），并在第 15 步设有平局决胜机制。
编译：自然语言规则由 LLM 编译为一个确定性的、显式的状态转移模拟器（即世界模型），定义了潜在状态空间 $S$ 和转移函数 $f_\theta$ 。

实验设计

该研究比较了在同一 FLUX 环境中运行的两类智能体：

LLM 智能体：纯粹在 $X$ 中运行。它们接收当前状态的自然语言描述，并通过下一个 token 预测来选择动作。它们依赖对话上下文来跟踪状态。
强化学习（RL）智能体：直接在 $S$ 中运行。一个表格型 Q-learning 智能体在编译后的模拟器中进行训练，通过与显式的转移动力学交互来学习最优策略。

评估包括 1,000 个回合用于基线比较（随机策略 vs. 启发式策略 vs. RL），以及每个模型（使用 GPT-4o、DeepSeek-R1 和 Gemini 1.5 Pro）与训练有素的 RL 智能体进行 200 场对弈。

主要贡献

不匹配的形式化：本文正式区分了自回归序列建模（近似观测值的分布）与潜在状态世界建模（近似潜在状态的动态），指出这是一种结构性而非仅仅是规模层面的局限。
潜在动力学推断（LDI）：一种新视角，将语言视为潜在动力学过程的压缩观测通道，将学习重新框架化为跨空间推断问题（ $X \to S$ ）。
FLUX 环境：一个概念验证环境，用自然语言规范定义，但通过显式世界模型执行，从而实现观测空间推理与潜在状态规划之间的受控比较。
实证证据：一项受控案例研究证明，拥有显式潜在状态转移访问权的智能体，比仅依赖序列预测的智能体表现出显著更稳定的长视野行为。

结果

实验结果突显了在 $S$ 中运行与在 $X$ 中运行的智能体之间的巨大性能差距：

胜率：总体而言，世界模型（RL）智能体对 LLM 智能体的胜率达到79%，而 LLM 仅获胜11%。其余约 10% 归因于 LLM 的无效移动。
基线性能：在世界模型中训练的 RL 智能体，其胜率比随机策略提高了 46.2 个百分点（收缩者角色为 89.5% 对比 43.3%）。
失败模式：对 LLM 失败的定性分析揭示了三种一致的模式：
- 总和盲区：未能维持持久的运行总和，导致立即输掉比赛。
- 行长度计数错误：引用在行收缩后已不存在的单元格索引，表明潜在状态跟踪出现崩溃。
- 视野短视：做出局部最优的移动，但未能预见长视野的获胜条件（例如，在两步后触发收缩者的获胜条件）。
无效移动：LLM 产生无效动作（超出范围的索引、格式错误的操作）的比率约为 10%，这种行为与“潜在状态崩溃”一致，即模型从对话模式中推断，而非查询维持的世界状态。

意义与主张

作者将这项工作定位为受控案例研究，而非 LLM 劣等性的普遍证明。其主要意义在于证明：

提取的可行性：可以从纯粹的自然语言规范（ $X$ ）中提取出功能性的、显式的世界模型（ $S$ ）。
架构必要性：性能差距表明，对于需要持久状态跟踪和多步因果推理的任务，仅靠序列预测是不够的，必须包含显式状态演化的机制。
学习方向的重塑：本文主张将 AI 研究从优化下一个 token 预测转向优化潜在动力学的恢复。它提出，未来的智能系统应将语料库视为世界动力学的间接证据，利用混合架构，包括感知编码器、显式世界模型（潜在动力学）以及在状态空间中运行的规划模块。

作者总结道，虽然 LLM 是世界知识的强大编码器，但它们缺乏动态执行这些知识的“物理引擎”。他们建议，通往 AGI 的道路在于将语言的广度与世界模型的因果、有状态结构相结合。