🤖 AI

The Deterministic Horizon: When Extended Reasoning Fails and Tool Delegation Becomes Necessary

本文表明，仅解码器（decoder-only）的大语言模型面临着一个架构上的“确定性视界”（约 19–31 步），在此视界内，由于信息论层面的注意力瓶颈，长链条思维推理会失效，从而必须转向通过工具委托的混合方法，以在确定性状态追踪任务上实现高准确度。

原作者： Dongxin Guo, Jikun Wu, Siu Ming Yiu

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Dongxin Guo, Jikun Wu, Siu Ming Yiu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是使用简单语言和日常类比对论文《确定性地平线》（The Deterministic Horizon）进行的解释。

核心理念：“精神黑板”的极限

想象你正在尝试解决一个复杂的谜题，比如滑块拼图或多步骤的数学题。你有一个“精神黑板”，每完成一步，你都会在上面写下谜题当前的最新状态。

这篇论文指出，大语言模型（LLMs）拥有一块损坏的黑板。

长期以来，我们一直认为，如果我们只是告诉这些 AI 模型要“更努力地思考”并“多走几步”（这种方法被称为“思维链”，Chain-of-Thought），它们就能更好地解决难题。但这篇论文说：并非如此。

如果一项任务需要跨越许多步骤来追踪精确的细节（例如计算机程序或严格的逻辑谜题），AI 的大脑实际上会随着思考时间的增加而变得模糊不清。一旦超过某个临界点，增加思考步骤不仅没有帮助，反而会让 AI 开始产生幻觉并得出错误的答案。

“确定性地平线”

作者将这个极限称为确定性地平线（Deterministic Horizon）。把它想象成高速公路上的“雾线”。

在雾线之前（第 1–20 步）： AI 看得非常清晰。它可以完美地追踪谜题的状态。
在雾线处（第 20–30 步）： AI 开始感到困惑。它可能会弄混两个数字或忘记一条规则。
在雾线之后（第 30 步以上）： AI 正在盲目驾驶。它不再是在追踪谜题，而是在瞎猜。它试图通过思考来解决问题的过程越长，就越容易完全偏离真相。

研究发现，对于大多数模型，这个地平线出现在第 19 到 31 步左右。如果一个问题需要超过这么多步骤，AI 的内部“思考”过程就会崩溃。

为什么会发生这种情况？（注意力瓶颈）

为什么 AI 的大脑会变得模糊？论文使用了**注意力熵（Attention Entropy）**的概念。

想象 AI 是一位图书管理员，正试图在一座巨大的图书馆里寻找一本特定的书。

短时间搜索： 如果图书馆很小，管理员可以轻松记住书的位置。
长时间搜索： 随着图书馆变得巨大，管理员必须记住之前看过的每一本书的位置，他们的记忆力就会被拉得很薄。

用 AI 的术语来说，模型使用“注意力”来聚焦于正确的词汇。随着推理链条变长，模型必须记住越来越多的前序步骤。论文从数学上证明，模型的“注意力机制”无法同时承载所有这些信息。这就像试图同时在空中抛接 50 个球；最终你一定会掉下一个。一旦你掉了一个球（犯了一个小错误），整个逻辑链条就会崩塌。

“简单性偏差” vs. “退相干”

曾有一种竞争性的理论认为，AI 在处理长任务时失败是因为它很“懒”（它倾向于简短的回答）。作者称之为简单性偏差（Simplicity Bias）。

这篇论文证明了该理论是错误的。他们展示了即使你：

强迫 AI 思考得更久。
专门针对长且正确的案例对 AI 进行训练。

……一旦超过了“雾线”，AI 仍然会失败。

类比： 这不是因为 AI 很懒，而是因为 AI 在物理上无法承载这些信息。这就像要求一个只能记住 10 位电话号码的人去记住一个 100 位的数字。无论如何“努力尝试”，都无法解决硬件层面的限制。

解决方案：把笔交给计算器

如果 AI 的大脑在 30 步之后就会崩溃，我们该怎么办？

论文建议使用工具委派（Tool Delegation）。与其要求 AI 在脑子里完成整个计算，不如让 AI 扮演一名“管理者”。

AI 的工作： 理解问题并决定使用什么工具。
工具的工作： 进行实际的重体力活（如计算器、代码解释器或搜索引擎）。

研究结果：

AI 独立思考： 在困难的多步骤任务中，正确率仅为 24–42%。
AI + 工具： 正确率高达 86–94%。

这就像是人类在脑中进行 12 位数字乘法（容易出错）与使用计算器（精准无误）之间的区别。

对日常生活的启示

思考更多 ≠ 更好的答案： 对于严格的逻辑任务（如编程、数学或遵循食谱），让 AI “思考更久”往往会让结果变得更糟。
极限是真实存在的： 存在一个硬性的天花板（大约 20–30 步），超过这个范围，AI 的内部记忆就会失效。
混合模式是最佳选择： 使用 AI 最聪明的方法是让它成为决定策略的“大脑”，但让它使用外部“工具”（如代码或计算器）来进行精确的、循序渐进的工作。

简而言之：不要要求 AI 成为一台计算器。要让它成为那个知道该使用哪台计算器的人。

技术摘要：确定性视界 (The Deterministic Horizon)

1. 问题陈述

本文挑战了当前大语言模型（LLM）推理领域的主流范式，即认为长程思考（更长的思维链，或 CoT）必然会提高准确率。虽然近期的研究（例如 Wu 等人，2026）将性能下降归因于“简单性偏差”（Simplicity Bias，即一种可以通过训练纠正的对短输出的偏好），但本文认为，对于确定性状态追踪任务而言，这种失败是架构性的，而非行为性的。

在确定性领域（如软件调试、形式化验证、顺序规划），正确性是二元的；状态追踪中的任何单一偏差都会导致整体失败。作者观察到，最先进的推理模型表现出状态空间退相干（State-Space Decoherence）：随着推理深度的增加，累积误差导致模型的内部状态与地面真值（ground truth）完全偏离。与“大致正确”即可满足要求的开放式生成不同，这些任务要求精确追踪，从而暴露了仅解码器（decoder-only）注意力机制的根本局限。

2. 方法论与理论框架

2.1 理论贡献

作者建立了一个基于信息论和注意力机制的理论框架：

注意力瓶颈定理（Attention Bottleneck Theorem）： 本文推导出了仅解码器 Transformer 在状态追踪中的信息论容量界限。它假设自回归注意力在每一步都必须通过一个固定容量的信道来压缩历史状态信息。该容量受限于：
$|S_{track}| \leq c(\delta, \rho_{max}) \cdot 2^{H \cdot \log_2(L/H) \cdot d_h^{1/2}}$
其中 $H$ 是注意力头数， $L$ 是上下文长度， $d_h$ 是头维度。这表明，尽管容量随架构规模增长，但精确状态追踪所需的每步信息流会产生一个瓶颈。
上下文相关误差模型（Context-Dependent Error Model）： 与假设每步误差恒定的模型不同，作者提出了一个由于注意力熵弥散而随深度增长的误差率 $\epsilon(d)$ ：
$\epsilon(d) = \epsilon_0 + \gamma \frac{d}{L_{eff}}$
其中 $L_{eff}$ 是“有效退相干长度”（经验上 $\approx 10^2$ 步，远小于原始上下文窗口 $L$ ）。这导致了超指数级的准确率衰减：
$P(\text{correct at depth } m) \leq \exp\left(-m\epsilon_0 - \frac{\gamma m(m+1)}{2L_{eff}}\right)$
确定性视界 ( $d^*$ )： 通过求解成功概率降至目标阈值 $\alpha$ 时的深度，作者定义了一个“确定性视界”。对于主要的模型集，其 $d^* \in [19, 31]$ 。超过此深度后，纯神经推理无论模型规模如何都变得不可靠。
微调上限（Fine-Tuning Upper Bound）： 本文证明了微调无法克服这一架构天花板。如果 $d > d^*$ ，则微调模型的准确率受限于：
$Acc_{fine-tune} \leq Acc_{baseline} + O\left(\frac{d^*}{d}\right)$
这区分了作者提出的“退相干”假说与“简单性偏差”——后者预测可以通过训练实现性能的回升。

2.2 实验设计

本研究评估了 12 个模型（包括 GPT-4o, Claude-4.5, o3, DeepSeek-R1 以及开源权重 Llama/Qwen 变体），涵盖 8 个任务领域：

合成任务： 置换谜题、有限状态自动机（FSA）模拟、算术链、电路追踪和代码变量追踪。
现实世界任务： SWE-Bench（多文件状态追踪）、WebArena（会话状态导航）以及 SQL-Multi（多表连接）。

条件设置：

C1： 无约束神经 CoT。
C2： 深度受限 CoT（预设最优长度）。
C3： 工具集成推理（委托给 BFS 等精确求解器）。
C4： 显式长度鼓励（提示进行更长的链式思考）。
C5： 基于最优长度轨迹的微调。

指标：

状态空间 Jaccard 指数（SSJ）： 分解为精确率（precision）和召回率（recall），以区分是能力失败（漂移进入虚假状态，两者均下降）还是偏好失败（截断正确路径，精确率保持高位）。
注意力熵（Attention Entropy）： 直接在开源权重模型中测量，以关联熵的增长与准确率的下降。

3. 关键结果

3.1 工具委托 vs. 神经推理

工具集成推理（C3）在所有模型和领域中一致优于神经 CoT（C1）。

准确率： 工具委托实现的准确率为 86–94%，而神经 CoT 停滞在 24–42%。
效率： 与无约束 CoT 相比，工具委托在单位正确解的成本上实现了 4.2–4.7 倍 的提升。
普遍性： 这种性能差距在通用型、推理专用型和开源权重模型中均保持一致，表明这是一种架构层面的限制，而非特定于训练。

3.2 偏好操纵的失效

提示工程（C4）： 鼓励模型“尽可能多地执行步骤”几乎没有带来收益（<2%），这反驳了简单性偏差假说。
微调（C5）： 在最优长度轨迹上进行微调仅带来了 **<5%** 的提升（具体到 Llama-3.1-8B 为 3.2%），远低于基于偏好理论预测的 >30% 的恢复。在超过确定性视界（ $d^*$ ）后，这种收益完全消失。

3.3 退相干的证据

SSJ 分析： 精确率和召回率随深度增加同时下降，证实了模型会漂移进入虚假状态空间（能力失败），而非仅仅是截断了正确路径。
注意力熵： 注意力熵与准确率之间存在强负相关（ $r \approx -0.74$ ），验证了机械论假说，即注意力稀释导致了状态退相干。
跨模型相关性： 不同机构的模型在失败模式上表现出高度相关性（ $r = 0.81–0.91$ ），表明存在共同的架构约束。

3.4 缩放法则

确定性视界随架构参数缩放。对开源权重模型的实证验证显示 $d^* \propto \sqrt{d_h \cdot H}$ 。较大的模型（如 70B）将视界扩展至 $d^* \approx 28$ ，而较小的模型（如 8B）则处于 $d^* \approx 19–20$ 。

4. 重要性与主张

本文声称为智能体系统中何时应从纯神经推理转向混合方法提供了一个原则性的边界。

架构极限： 本文的核心贡献在于指出仅解码器 Transformer 在状态追踪容量上存在信息论极限。这并非训练缺陷，而是自回归注意力的基本约束。
拒绝简单性偏差： 结果反驳了认为长程推理失败仅仅是由于倾向于短输出的观点。即使强制或通过微调让模型进行更长推理，它们仍会因“状态空间退相干”而失败。
实践指南： 作者提出了部署指南：对于需要超越确定性视界（ $d^* \in [19, 31]$ ）进行精确状态追踪的任务，系统应默认采用工具委托。这适用于代码智能体、多步规划和形式化验证。
成本与安全： 在 $d^*$ 之后依赖过长的神经推理不仅无效，而且是对计算资源和碳排放的浪费。此外，在安全敏感领域，本文认为在超过此视界且缺乏工具验证的情况下进行自主决策是不安全的。

总之，本文确立了虽然长程推理对浅层确定性任务是有益的（ $d < d^*$ ），但在超过视界后，其表现会呈超指数级下降。解决方案不在于更好的训练或提示，而在于通过架构集成外部工具来处理精确的状态追踪。