💬 NLP

Online Monitoring and Corrective Steering of Programming Agents

本文介绍了 LivePlan，这是一个高性价比的框架，它通过采用一个确定性监控器来实时检测行为漂移，并选择性地向 LLM 顾问寻求针对性的修正，从而在处理复杂的 GitHub 问题时增强编程智能体的性能，进而以极低的开销实现了解决率的显著提升。

原作者： Shuyang Liu, Saman Dehghan, Ji Young Kim, Jatin Ganhotra, Martin Hirzel, Reyhaneh Jabbarvand

发布于 2026-08-10

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Shuyang Liu, Saman Dehghan, Ji Young Kim, Jatin Ganhotra, Martin Hirzel, Reyhaneh Jabbarvand

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个计算机可以编写自身软件的世界，它们能自动修复漏洞并构建新功能。这就是“AI智能体”（AI agents）的领域——这些数字员工利用大语言模型（LLM，即聊天机器人背后的那种聪明大脑）来阅读代码、找出问题所在并尝试修复它。但问题在于：这些数字员工并不完美。有时它们会分心、偏离路径、一遍又一遍地重复同一个错误，或者在完成任务前就放弃了。这就像派一个非常聪明但容易困惑的机器人进入一座巨大的图书馆去寻找一本特定的书；它可能会开始读错区域，或者陷入试图打开一扇锁着的门的死循环中，或者在找到书之前就决定离开。研究人员对此深感关注，因为如果我们希望 AI 能处理像修复大型软件项目这样复杂的现实世界工作，我们就必须确保这些智能体不会仅仅是偏离目标或在死胡同里浪费时间和金钱。

于是有了 LIVEPLAN，一个旨在成为这些编程机器人的警觉、实时教练的新系统。研究人员刘书阳及其团队注意到，以往试图纠正这些“走神”智能体的尝试都有一个重大缺陷：它们通常试图使用同一个 AI 大脑同时进行“评判”机器人的工作和“提供建议”。这就像要求一名裁判既要吹哨判定犯规，又要立即告诉球员接下来的比赛该如何打一样。问题在于，裁判可能会感到困惑，凭空捏造一个并未发生的犯规，并给出错误的指令，反而让球员表现得更糟。

LIVEPLAN 通过将工作职责拆分为两个截然不同的角色来解决这个问题。首先，它使用了一个确定性监控器（deterministic monitor）——可以将其想象成一名严格遵守规则的交通警察。这位警察不会猜测或产生幻觉；它只是观察是否有明显的故障迹象，比如机器人连续两次采取相同的步骤、跳过了关键的安全检查，或者对着同一面墙盯着看了太久。如果交通警察看到了问题，然后它才会请出一位智能顾问（smart advisor）（一个强大的 AI）来提供关于如何重回正轨的高层级简要提示。关键在于，只有当交通警察说“嘿，这里出了问题”时，顾问才会开口说话，而不是不断地用未经请求的建议来打断机器人。

团队在真实的 GitHub 问题（GitHub issues，类似于修复大型软件项目中漏洞的任务清单）上测试了这个系统。他们发现 LIVEPLAN 改变了游戏规则。与那些只是在没有教练指导下运行的“原生”（vanilla）智能体相比，LIVEPLAN 帮助解决了显著更多的难题——在最难的任务上，成功率提升了高达 15.2%，平均提升了 9.9%。或许最令人印象深刻的是，它实现的这一目标仅增加了每次修复约 0.08 美元 的微小成本。

论文还展示了如果不采用这种谨慎方法会发生什么。他们测试了其他方法，这些方法试图重新规划机器人的整个旅程，或者进行过于频繁的检查。这些方法往往适得其反：“重新规划”型的教练有时会凭空捏造不存在的问题，并将机器人引向徒劳的追逐；而“频繁检查”型的教练则往往给出的建议为时已晚，失去了作用。LIVEPLAN 在看到明确信号后再进行干预的方法被证明是最佳平衡点。它成功地引导智能体度过了那些通常会让它们束手无策的棘手的中等和困难问题，同时又没有干扰那些它们原本擅长处理的问题。简而言之，通过让一个简单的规则检查器守住门口，并在必要时才请出“大脑袋”，研究人员找到了一种让这些数字员工保持专注、高效且更有可能完成任务的方法。

技术摘要：LIVEPLAN —— 编程智能体的在线监控与纠偏转向

问题陈述

修复大规模软件项目中的 GitHub 问题是一项长程任务，通常需要智能体遍历复杂的轨迹。目前的基于 LLM 的智能体经常遭受行为漂移（behavioral drift）和低效的问题，例如跳过关键阶段（如验证阶段）、重复失败的操作，或在思考过程中原地踏步而不取得进展。这些问题即使在智能体最终成功的情况下，也会导致任务失败或成本激增。

现有的纠正这些漂移的方法存在三个主要局限性：

判定与建议的混淆： 先前的方法通常使用单个 LLM 来同时诊断轨迹问题并推荐修正方案。这产生了一种利益冲突，即“顾问”被激励去寻找问题（谄媚偏差/sycophantic bias），从而可能生成误导性的建议，使原本处于正确轨道上的轨迹发生偏移。
触发机制低效： 依赖于定期 LLM 评估（例如每 $N$ 步一次）或事后分析的方法往往反馈过晚，导致智能体无法及时恢复，或者因为重新运行整个轨迹而产生过高的成本。
LLM 判官的可靠性： 使用 LLM 作为判官会引入不可靠性；它们可能会遗漏真实问题或因幻觉而标记虚假问题，缺乏实现稳健干预所需的确定性。

方法论：LIVEPLAN

本文提出了 LIVEPLAN，一个通过解耦判定与建议实现的在线监控与干预框架。它构建在 SWE-agent 框架之上，由三个核心组件组成：

1. 监控器（确定性判官）

不同于使用 LLM，LIVEPLAN 采用确定性的、基于规则的监控器来实时评估智能体的轨迹。

轨迹表示： 监控器利用两种抽象表示：
- GRAPHECTORY（图轨迹）： 一个增强型图结构，其中节点是不同的智能体动作，边代表执行的时间顺序。它追踪动作循环和自环。
- LANGUTORY（语言轨迹）： 将底层动作抽象为一系列问题解决阶段（例如：导航、复现、修补、验证）。
信号检测： 监控器根据一组可配置的通用信号库检查这些表示，以检测行为漂向。这些信号包括：
- 阻断型漂移（Blocking Drifts）： 关键违规行为，如跳过阶段（例如：未进行修补即提交）、过早修补或震荡（在没有进展的情况下重复推理/动作）。这些会触发立即干预。
- 非阻断型漂移（Non-Blocking Drifts）： 低效行为，如在单一阶段长时间停滞或重复动作。这些会触发转向建议，但不会阻断执行。
干预处理器： 如果检测到漂移，处理器会决定是阻断当前动作（针对阻断型漂移），还是将建议附加到历史记录中（针对非阻断型漂移），并设有可配置的上限以防止停滞。

2. 顾问（基于 LLM 的修正）

仅当监控器检测到漂移时，才会咨询基于 LLM 的顾问。

输入： 它接收问题描述、近期轨迹的一个切片（自上次建议以来）、最新的建议（如果有）以及与检测到的漂移相对应的预定义建议。
输出： 它生成一个高层级的、下一步的修正方案，而非全局重规划。这使得干预保持聚焦，并防止过度约束执行器。
冷却机制： 为了管理成本和延迟，顾问受到“冷却期”（ $\theta_c$ ）的限制，确保即使在漂移频繁的情况下，也不会在每一步都调用它。

3. 工作流

系统按循环运行：智能体提出一步 $\rightarrow$ 监控器尝试更新轨迹表示 $\rightarrow$ 检查规则。如果没有发现漂移，则执行该步骤。如果发现漂移，则在冷却期允许的情况下咨询顾问，并将生成的建议注入智能体的上下文中，以引导下一步。

核心贡献

技术： 引入了 LIVEPLAN，它将行为漂移的确定性检测与基于 LLM 的修正建议生成分离。这种架构避免了使用单个 LLM 同时承担这两项任务时固有的幻觉和偏差。
实证评估： 在两个基准测试（SWE-bench Verified 和 SWE-bench Pro）上进行了大规模评估，使用了五种不同的 LLM（三个执行器，两个顾问）。该研究生成了 7,752 条轨迹，为未来的研究提供了数据集。
以过程为中心的分析： 除了解决率之外，论文还分析了轨迹合规性、漂移普遍性和策略分歧，为干预如何提高智能体性能提供了见解。

实验结果

LIVEPLAN 与 vanilla SWE-agent、SAGE（一种重规划基线）以及消融变体（周期性顾问、预定义建议）进行了对比评估。

解决率： LIVEPLAN 始终优于所有基线。
- 在 SWE-bench Pro 上，它比 vanilla 智能体实现了高达 15.2%（平均 9.9%）的提升。
- 在 SWE-bench Verified 上，它实现了高达 11.2% 的提升。
- 在中等和困难难度的实例中，提升最为显著。
成本效率： 每个实例增加的成本极低，平均为 $0.08。在某些情况下（例如 MiniMax-M2.5），LIVEPLAN 实际上通过缩短低效轨迹降低了整体成本。
与 SAGE 的比较： LIVEPLAN 显著优于 SAGE，后者经常失败，因为其全局重规划在事实上有误（幻觉出文件路径或方法），导致智能体立即失败。LIVEPLAN 针对性的、下一步的建议证明更加稳健。
与周期性顾问的比较： 虽然周期性顾问触发频繁，但它们往往提供误导性的建议。LIVEPLAN 触发顾问的频率较低，但精度更高，从而实现了更好的解决率。
鲁棒性： 在具有确定性结果的子集实例上进行的重新评估证实，这些收益并非来自运行间的非确定性。

重要性与主张

论文声称，通过解决使用 LLM 作为判官时的根本不稳定性，LIVEPLAN 代表了编程智能体在线转向控制迈出的重要一步。通过依赖确定性规则来检测智能体何时遇到困难，并仅将 LLM 用于决定下一步该做什么，该系统实现了：

更高的可靠性： 它避免了导致智能体放弃成功轨迹的“误导性重规划”。
可扩展性： 与重新运行智能体或在每一步都调用 LLM 的方法相比，它产生的计算开销极小。
泛化性： 该方法是模型无关的，适用于不同的 LLM 架构和基准测试难度。

作者得出结论，虽然推理时的干预是有效的，但未来的工作应侧重于干预感知型后训练（intervention-aware post-training），以确保智能体能够可靠地执行由类似 LIVEPLAN 系统提供的修正建议。