💬 NLP

Capable but Unreliable: Canonical Path Deviation as a Causal Mechanism of Agent Failure in Long-Horizon Tasks

该论文通过自然实验证明，语言智能体在长程任务中的失败主要源于随机性导致的偏离“规范解路径”的可靠性问题，而非能力不足，且这种偏离具有自增强特性，而通过监控并重启偏离度较高的运行轨迹可显著提升成功率。

原作者： Wilson Y. Lee

发布于 2026-02-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Wilson Y. Lee

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文探讨了一个非常有趣的问题：为什么一个明明“很有能力”的 AI 助手，有时候能完美完成任务，有时候却会莫名其妙地搞砸？

作者发现，很多失败并不是因为 AI“太笨”（能力不足），而是因为它“太随性”（不可靠）。这就好比一个经验丰富的老厨师，明明知道怎么做菜，但有时候手一抖，盐放多了，或者步骤乱了，导致菜做坏了。

为了让你更容易理解，我们可以用几个生动的比喻来拆解这篇论文的核心发现：

1. 核心概念：什么是“标准路线”（Canonical Path）？

想象你要去一个陌生的城市，目的地是“市中心”。虽然去市中心有无数条路，但最顺畅、最不容易堵车的那几条路，就是“标准路线”。

论文发现：对于大多数复杂的任务（比如查资料、写代码、整理文件），其实存在一个隐形的“标准操作手册”。如果 AI 按照这个手册里的关键步骤（比如先查文件，再编辑，最后保存）走，它大概率能成功。
比喻：这就像玩一个迷宫游戏。虽然你可以乱走，但所有通关的人（成功的 AI）都发现，必须经过几个特定的“检查点”才能通关。这些检查点组成的路径，就是“标准路线”。

2. 失败的原因：不是“迷路”，而是“漂移”（Stochastic Drift）

现在的 AI（大语言模型）在回答问题时，带有一点“随机性”。就像你让 AI 做决定，它不像计算器那样死板，而是像掷骰子，每次都有点微小的不同。

传统观点：如果 AI 失败了，通常认为是它“不懂”这个任务，需要给它换更聪明的大脑（更强的模型）。
论文观点：很多时候，AI 其实懂怎么做，但它因为那一瞬间的“随机掷骰子”，偏离了“标准路线”。
比喻：想象你在走钢丝。
- 能力失败：是你根本不会走钢丝，一上去就掉下来。
- 可靠性失败（本文重点）：你其实是个走钢丝高手，但因为一阵微风（随机性），你稍微晃了一下。如果你立刻调整回来，没事；但如果你没调整，这一小步的晃动会让你越来越歪，最后掉下去。
- 结论：AI 的失败，往往不是因为“不会走”，而是因为“走歪了”且“没救回来”。

3. 关键发现：失败是“慢慢滑下去”的，不是一开始就错了

这是论文最精彩的部分。以前大家以为，AI 失败是因为第一步就选错了工具（比如一开始就点错了按钮），就像走错了一个路口，后面全完了。

但作者通过数据分析发现，真相是“温水煮青蛙”：

前半程（0% - 50%）：成功的 AI 和失败的 AI，走的路几乎一模一样。这时候看不出谁要失败。
后半程（50% - 100%）：失败的 AI 开始慢慢偏离“标准路线”。
恶性循环：一旦 AI 偏离了标准路线（比如用了一个不该用的工具），它接下来的步骤就更容易继续偏离。
- 比喻：就像开车。一开始你只是稍微偏了一点点方向（偏离标准路线），这时候你还能轻松修正。但如果你没修正，车子就会越来越歪，方向盘越来越难打，最后直接冲出跑道。
- 数据：论文发现，只要 AI 犯了一个“非标准”的错误，它下一个步骤再犯错的概率就会增加 22.7%。这是一个自我强化的恶性循环。

4. 解决方案：给 AI 装个“导航纠偏器”

既然知道了问题出在“慢慢走偏”，那怎么解决呢？作者提出了一个非常简单的办法：

不要只靠换更聪明的 AI：因为 AI 本身已经够聪明了，问题出在过程控制。
中途检查（Mid-trajectory Monitoring）：在 AI 完成任务的**75%**的时候，停下来检查一下：“嘿，你现在的操作符合‘标准路线’吗？”
自动重启：如果发现它偏离太远了（比如偏离了前 30% 的路线），就把它重启，让它重新来过，或者强行把它拉回正轨。
效果：作者模拟发现，只要对表现最差的那 1/3 的尝试进行这种“中途纠偏”，成功率就能直接提升 8.8%。这相当于在不升级硬件、不改变 AI 大脑的情况下，凭空多赚了近 9% 的成功率。

5. 总结：从“拼智商”到“拼稳定性”

这篇论文给整个 AI 行业提了个醒：

以前：我们总想着造更聪明的 AI（提升能力）。
现在：我们需要学会管理 AI 的“随性”（提升可靠性）。

一句话总结：
AI 失败往往不是因为“笨”，而是因为“飘”。只要我们在它“飘”得还不远的时候，给它一个温柔的提醒或者让它重新来过，就能让很多本来会失败的 AI 任务起死回生。

这就好比教孩子学骑车：有时候孩子摔倒不是因为没力气（能力问题），而是因为骑歪了（稳定性问题）。这时候，扶正车把（纠偏）比给孩子换双更有力的腿（升级模型）更管用。

1. 研究问题 (Problem)

核心问题： 为什么语言智能体（LLM Agents）会失败于它们本有能力解决的任务？
现有观点： 主流文献通常将失败归因于能力不足（缺乏知识、推理能力或工具使用技能），因此解决方案集中在提升模型能力（更大参数、更长上下文、更复杂的提示词）。
本文挑战： 作者指出，许多失败并非能力问题，而是可靠性（Reliability）问题。

现象： 同一个前沿模型在相同条件下多次尝试同一任务时，有时成功，有时失败（混合结果 Mixed-outcomes）。
假设： 这种不一致性是由 LLM 采样的随机性（Stochasticity）引起的。这种随机性导致智能体的执行轨迹（Trajectory）逐渐偏离任务的规范解路径（Canonical Solution Path），从而引发失败，而非因为模型“不知道”如何解决问题。

2. 方法论 (Methodology)

2.1 数据集与自然实验

数据来源： 使用 Toolathlon 基准测试数据。包含 22 个前沿模型，每个模型尝试 108 个真实世界的工具使用任务，每个任务运行 3 次独立实验。
样本筛选： 筛选出 515 个“混合结果单元”（Mixed-outcome units）。即：同一个模型在同一个任务上，部分运行成功，部分运行失败。
因果识别策略（自然实验）：
- 在这些单元内，模型能力（同一模型）和任务难度（同一任务）是固定的。
- 唯一的变化来源是 LLM 采样的随机性。
- 通过比较同一单元内的“成功运行”与“失败运行”，可以隔离出行为变异对结果的影响，从而建立因果关系。

2.2 核心概念定义

规范解路径 (Canonical Solution Path)： 定义为在跨模型的成功运行中，被超过 50% 的成功轨迹所使用的工具集合（Empirical Consensus Tool Set）。这代表了任务完成的结构化收敛策略。
路径 adherance (Adherence)： 使用 Jaccard 相似度 衡量单个轨迹的工具集合与规范工具集合的重合度。
- $A(\tau, j) = \frac{|T(\tau) \cap C_j|}{|T(\tau) \cup C_j|}$
- 其中 $T(\tau)$ 是轨迹使用的工具集， $C_j$ 是任务 $j$ 的规范工具集。

2.3 验证机制

交叉家族留一法 (Cross-Family Leave-One-Out, CF-LOO)： 为了防止模型家族偏差或循环论证，定义规范路径时排除当前模型所属家族的成功运行数据。
动态分析： 分析轨迹完成度（10%, 25%, 50%, 75%, 100%）时的路径偏离情况，以区分“早期分支错误”与“渐进式漂移”。
自强化机制检验： 检验“非规范工具调用”是否会增加下一次调用也是“非规范”的概率。

3. 主要贡献 (Key Contributions)

重新定义失败类型： 提出大量 Agent 失败属于可靠性失败而非能力失败。区分了“总是成功”、“总是失败”和“混合结果”三种单元类型，指出混合结果单元是提升可靠性的关键目标。
发现因果机制： 首次通过自然实验证明，**规范路径偏离（Canonical Path Deviation）**是导致混合结果单元中失败的直接因果机制。
揭示漂移特性：
- 渐进性 (Gradual)： 失败不是由早期的单一错误决定的，而是随着执行过程逐渐累积的。
- 自强化 (Self-reinforcing)： 一旦偏离规范路径，后续继续偏离的概率显著增加，形成恶性循环。
提出可操作的干预方案： 证明了通过**运行时监控（Runtime Monitoring）**并在检测到偏离时重启轨迹，可以显著提升成功率，而无需改进模型本身。

4. 关键结果 (Key Results)

4.1 规范路径与成功的相关性

在混合结果单元中，成功运行的规范路径 adherance 显著高于失败运行。
数据： 成功与失败运行之间的平均 adherance 差距为 +0.060 Jaccard ( $p < 0.0001$ , $n=488$ )。
稳健性： 该结果通过了 6 项稳健性检验（包括排除循环论证、排除家族偏差、仅使用通用工具、控制轨迹长度等）。

4.2 渐进式漂移 vs. 早期分支

早期分支假说被证伪： 在轨迹的前 50%（10%, 25%, 50%），成功与失败运行的 adherance 差距在统计上无显著差异（接近于零）。
渐进漂移证据： 差距仅在轨迹完成 75% 后变得显著，并在 100% 时达到最大。这表明失败是逐渐累积的，而非早期的一次性错误。

4.3 自强化机制

数据： 在一次“非规范”工具调用后，下一次调用也是“非规范”的概率增加了 22.7 个百分点 ( $\hat{\beta} = +0.227, p < 0.0001$ )。
结论： 偏离规范路径会改变信息状态，使得后续选择规范工具的可能性降低，导致偏差不断放大。

4.4 跨模型通用性

在测试的 11 个模型家族中，10 个显示出正向的 adherance 差距，5 个达到统计显著性。这表明该机制是任务结构的属性，而非特定模型的缺陷。

4.5 干预效果估算

模拟干预： 如果在轨迹完成 75% 时监控 adherance，并重启 adherance 最低的 1/3 运行（即那些偏离最严重的运行），预计可将干预组的成功率提升 +8.8 个百分点（从 44.9% 提升至 53.7%）。

5. 意义与影响 (Significance)

5.1 理论意义

可靠性工程视角： 将 LLM Agent 的失败类比为复杂系统中的可靠性问题（Perrow 的“正常事故理论”），即随机扰动导致系统偏离操作包络线。
失败分类学： 提供了基于方差的失败分类：
- 总是成功： 低方差，能力 + 可靠性均好。
- 总是失败： 中低方差，能力不足（路径指引无法修复）。
- 混合结果： 高方差，能力足够但随机不可靠（可靠性干预的最佳目标）。

5.2 实践意义

新的优化方向： 除了提升模型能力（Scaling），应关注执行约束（Execution Constraints）。
运行时监控与重启： 提出了一种低成本、高回报的干预策略：在任务执行中期检测是否偏离规范路径，若偏离则重启。这比单纯优化提示词（Prompting）或思维链（CoT）更有效，因为后者主要作用于初始化阶段。
基准测试设计： 现有的基准测试（如 Pass@1）混淆了能力和可靠性。建议基准测试应报告混合结果单元的比例以及跨运行方差，以区分模型是“能力不足”还是“不可靠”。

5.3 局限性

当前研究基于 3 次运行的数据，未来需要更多运行次数来细化估计。
目前使用无序工具集（Jaccard）衡量，未考虑工具调用的顺序。
对于存在多种有效解路径（多模态）的任务，规范路径的定义可能过于稀疏，导致信号减弱（保守估计）。

总结

这篇论文通过严谨的因果推断方法，揭示了 LLM 智能体在长时程任务中失败的一个关键原因：随机采样导致的渐进式规范路径偏离。它证明了对于许多“有能力但不可靠”的模型，通过运行时监控和基于路径一致性的干预，可以在不改变模型本身的情况下显著提升任务成功率。这为 Agent 系统的可靠性工程提供了新的理论依据和实用工具。