🤖 machine learning

CORVUS: Context Optimization and Reduction Via Underlying Synchronization for LLM Coding Agents

CORVUS 为 LLM 编程智能体引入了一种新颖的轨迹架构，通过维护一个同步的当前文件内容注册表，将文件读取动作与其观测值解耦，从而消除陈旧快照和冗余重读，在保持性能的同时显著降低标记使用量和推理周期。

原作者： Mingwei Zheng, David OBrien, Siwei Cui, Pardis Pashakhanloo, Rajdeep Mukherjee, Myeongsoo Kim, Sachit Kuhar

发布于 2026-07-28

📖 1 分钟阅读☕ 轻松阅读

原作者： Mingwei Zheng, David OBrien, Siwei Cui, Pardis Pashakhanloo, Rajdeep Mukherjee, Myeongsoo Kim, Sachit Kuhar

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个这样的世界：你拥有一个超级聪明的机器人助手，只需通过对话，它就能编写计算机代码、修复漏洞并构建整个软件程序。这并非科幻小说，而是“LLM 编码智能体（LLM coding agents）”的现实。这些是人工智能模型，它们扮演着初级开发者的角色：思考问题、查看文件、做出更改并检查自己的工作。但问题在于：这些机器人的短期记忆力有问题。为了记住自己做过什么，它们会为每一次思考、行动和结果记录一份运行中的“日记”。随着任务变得越来越复杂，这份日记也会变得越来越长。最终，日记会变得如此庞大，以至于机器人会感到困惑，忘记最重要的细节，并因为试图在仅仅五分钟前做过的事情上阅读一本 500 页的书而开始犯傻。这种由于信息过多导致 AI 变得更笨的现象，被称为“上下文腐烂（context rot）”。

于是有了 CORVUS，一个旨在解决这个记忆混乱问题的聪明新系统。CORVUS 不会让机器人的日记无节制地增长陈旧、过时的笔记，它更像是一个神奇的、活生生的图书馆。它意识到代码是在不断变化的。如果机器人读取了一个文件，然后编辑了它，接着又再次读取，那么日记中旧的笔记就是无用的垃圾。CORVUS 阻止了机器人每次都把文件的内容写下来。相反，它保留了一个机器人需要的文件的“同步列表”。在机器人做出新的决策之前，CORVUS 会悄悄检查实际的计算机文件，抓取最新的版本，并将它交给机器人。这样，机器人始终拥有最新、最干净的信息，而不会有一个充斥着重复、陈旧页面的臃耗日记。结果是：机器人工作得更快、运行成本更低，且犯错更少，同时保持了记忆的轻量化与专注度。

问题所在：“陈旧快照”陷阱

要理解为什么 CORVUS 意义重大，我们首先需要了解这些编码智能体通常是如何工作的。想象一下，你正试图修理一个漏水的水龙头，但你是蒙着眼睛进行的，而且你只能通过之前拍的一系列照片来观察房间。

在传统方法中，每当智能体（我们的机器人）查看一个文件时，它都会对该文件进行“快照”，并将其粘贴到其历史日志中。如果文件后来发生了变化——无论是由于机器人编辑了它，还是人类开发者进场进行了微调——日志中那个旧的快照依然保持不变。它变得**陈旧（stale）**了。

论文作者发现，这造成了两个主要的头疼问题：

重复读取： 由于旧的快照被埋在冗长的历史记录深处，机器人经常忘记自己已经看过这个文件。于是它再次读取文件，拍摄另一个快照并将其粘贴进去。这就像是因为找不到位置而把同一页书读了五遍。在测试中，他们发现机器人有 26% 的时间在重复阅读已经看过的文件。
陈旧上下文错误： 更糟糕的是，机器人可能会根据一个陈旧的快照来尝试编辑文件。想象一下，机器人看到一行代码写着“第 10 行：打开灯”，但在现实世界中，那行代码在五分钟前就被删除了。机器人试图编辑“第 10 行”，结果失败了，感到困惑，并不得不花费额外的时间和精力去弄清楚到底出了什么问题。

旧的解决方法是“反应式”的。这就像是等到你的背包里装满了石头，重到你抬不起手时，才试图把石头扔出来。论文认为这太晚了。真正的解决方案是在连把石头放进背包之前就阻止这一行为。

解决方案：“实时同步”

作者提出了 CORVUS（通过底层同步实现的上下文优化与缩减）。请不要把 CORVUS 仅仅看作是一本日记，而要把它看作是一个实时馈送（live feed）。

CORVUS 不会将文件内容粘贴到历史日志中，而是使用一种名为 sync_file 的特殊工具。当机器人说“我需要查看 speech_recognition.py”时，CORVUS 不会将文本复制到日志中，而是会在日志中放入一条微小且轻量级的笔记，写着：“同步：speech_recognition.py。”

在后台，CORVUS 维护着一个同步文件集（Synced File Set）。这是一个由机器人当前正在处理的文件组成的特殊列表。在机器人做出任何新决策（每一个推理周期）之前，CORVUS 都会执行一次快速的“上下文同步（Context Sync）”。它会前往实际的计算机，抓取该列表上每个文件的当前最新版本，并将它们注入到机器人的提示词（prompt）中。

这改变了一切：

没有重复： 机器人永远不会看到两个版本的同一个文件。它只能看到一个、当前的最新版本。
没有陈旧数据： 如果文件发生了变化，下次机器人思考时，它会自动获得新版本。它永远不会尝试去编辑已经不存在的代码。
更轻量化： 历史日志保持精简，因为它只包含机器人的想法和行动，而不包含大规模的文件文本块。

研究发现：更快、更便宜、更聪明

研究人员在两个极具挑战性的编码任务上测试了 CORVUS：SWE-POLYBENCH_VERIFIED（包含 Java、JavaScript 和 TypeScript 任务）以及 SWE-BENCH PRO（以复杂的企业级问题为特色）。他们在包括 CLAUDE SONNET 4 和 QWEN3-CODER-480B 在内的四种不同的强大 AI 模型上运行了这些测试。

结果令人印象深刻，证明了保持上下文新鲜感能显著提高 AI 的效率：

减少浪费的阅读： CORVUS 将重复文件读取的情况减少了 22% 到 86%。机器人不再浪费时间去重读已经掌握的文件。
步骤更少： 由于机器人不再被旧数据干扰，它完成任务的速度更快。推理周期（步骤）的数量下降了 15% 到 37%。例如，在一个模型上，步骤从平均 45.03 降到了 28.22。
提示词更短： 最终的“提示词”（发送给 AI 以完成任务的消息）缩短了 15% 到 32%。
节省资金： 由于 AI 的成本取决于它处理的文本量，这些节省量累积起来非常可观。在某些任务中，成本降低了高达 50.28%。例如，一个花费 $5.27** 的任务降到了 **$ 2.62。
速度提升： 就总时长而言，整个过程完成了高达 40% 的加速。

至关重要的是，论文指出，机器人并没有因为阅读的文本变少而变得“更笨”。其成功率（正确修复 Bug 的频率）与旧方法相比保持在相当水平，在某些情况下甚至略有提升。

大局观

作者还检查了 CORVUS 是否能与其他试图清理混乱历史的方法协同工作。他们发现，CORVUS 与这些“反应式”清理工具是最好的搭档。CORVUS 从源头上（上游）阻止混乱发生，而其他工具则负责清理残留的杂物（下游）。当两者结合使用时，它们可以节省更多的 token 和资金。

简而言之，CORVUS 表明，对于 AI 编码智能体而言，若要实现真正的效率，它们不仅要擅长记忆过去，更要擅长与现在保持连接。通过将“读取文件”的行为与“文件内容”解耦，转而与代码库保持实时同步，我们可以构建出更快、更便宜、且不易受到“上下文腐烂”困扰的智能体。论文并未声称这解决了 AI 的所有问题，但它确实展示了：一个简单的结构性改变——将静态日记更换为实时馈送——可以极大地改变这些数字助手的工作表现。

技术摘要：CORVUS

问题：上下文腐化与仅追加式轨迹

大语言模型（LLM）编程智能体通过迭代的“思考–行动–结果”循环进行操作，并将“轨迹”（交互历史）作为工作记忆。传统的智能体采用仅追加式轨迹架构（append-only trajectory architecture），其中文件读取操作与其观察结果紧密耦合。当智能体读取一个文件时，该文件的瞬时快照会被永久性地追加到按时间顺序排列的历史记录中。

这种架构产生了两种主要的低效性，尤其是在长程软件工程任务中：

重复文件读取： 随着轨迹的增长，相关的文件内容会被埋没在上下文中（即“迷失在中部”现象）。智能体频繁重新读取文件以检索信息，从而在历史记录中追加冗余的完整文件快照。实证分析显示，基准智能体中 26% 的文件读取操作是重复的。
陈旧上下文错误： 由于快照是不可变的，它们无法反映智能体随后进行的编辑或人类进行的并发修改。智能体可能会基于过时的行号或变量名尝试编辑代码，导致编辑失败。恢复过程需要额外的诊断周期和进一步的文件读取，从而加剧了轨迹膨胀。

这些问题导致了上下文腐化（context rot），即不断增加的提示词长度会降低模型的准确性和推理可靠性，同时增加 Token 成本和推理延迟。现有的上下文管理方法大多是**响应式（reactive）**的，仅在上下文积累之后进行压缩或修剪。它们无法从源头上防止不必要或陈旧内容的引入。

方法论：CORVUS 架构

本文提出了 CORVUS（通过底层同步实现的上下文优化与缩减），这是一种主动式的轨迹架构，它将文件读取操作与其观察结果解耦。CORVUS 不再存储固定的快照，而是维护一个**同步注册表（synchronized registry）**来管理相关文件。

核心机制

同步文件集 ( $S_t$ )： CORVUS 引入了一个动态注册表，用于记录与当前任务相关的文件。当智能体需要与某个文件交互时，它会调用一个新的工具 sync_file(fj)，而不是 read_file(fj)。
- sync_file 工具将该文件注册到集合 $S_t$ 中，但仅在轨迹历史中追加一个轻量级的标记（例如 "sync: ./path/to/file"），从而避免立即包含文件的具体内容。
上下文同步阶段： 在每个推理周期之前，系统会执行一个同步步骤来刷新上下文。系统会从仓库中获取集合内所有文件的当前内容。
提示词构建： 每个推理步骤的提示词构建如下：
$P_t = M_{sys} \oplus T_{schema} \oplus H_{t-1} \oplus C_t$
其中 $C_t$ 是同步上下文（Synced Context），它包含注册文件中最多一个当前版本的版本。这确保了智能体是在最新的代码库状态上进行推理，而不会在消息历史中携带历史性的、可能陈旧的文件快照。

这种结构性的变化确保了轨迹在构建上与实际的仓库状态保持同步，消除了冗余副本，并防止了智能体基于过时信息进行推理。

主要贡献

本文做出了三个主要贡献：

识别结构性低效： 作者通过实证发现，标准的仅追加式轨迹架构会将可变的文件内容视为不可变的历史条目，从而导致重复和陈旧快照的累积。
主动式架构 (CORVUS)： 他们提出了 CORVUS，该架构通过 sync_file 机制和预周期上下文刷新取代了行内文件读取。这保证了提示词中仅包含相关文件的当前版本，从源头上防止了轨迹膨胀。
全面评估： 该系统在 STRANDS AGENTS 框架上实现，并在两个基准测试（SWE-POLYBENCH_VERIFIED 和 SWE-BENCH PRO）上对四种 LLM（三种专有模型：Claude Sonnet 3.7, 4, 4.5；一种开源模型：Qwen3-Coder-480B）进行了评估。

结果

在 573 个实例上的评估表明，CORVUS 在保持任务成功率的同时，显著提高了轨迹效率：

减少冗余： 所有模型的重复文件读取量均减少了 22–86%。
减少推理周期： 完成任务所需的推理周期减少了 9–37%，其中在 SWE-POLYBENCH_VERIFIED 上的 Claude Sonnet 4.5 观察到了最大的降幅（37.33%）。
缩短提示词： 最终请求提示词缩短了 15–32%，降低了最大上下文窗口的使用量。
Token 与成本节省： 每个任务的平均输入 Token 减少了 9–50%。总 Token 成本最高降低了 51%（例如，对于 SWE-POLYBENCH_VERIFIED 上的 Claude Sonnet 4.5，单实例成本从 \ $5.27 降至 \$ 2.62）。
运行效率： 端到端延迟降低了高达 40%。同步开销（本地文件读取）相对于减少 LLM 推理周期所带来的收益而言可以忽略不计。
任务成功率： Pass@1 率与基准智能体相当，且在四个模型中的三个模型中观察到轻微提升，这表明效率的提升并未损害正确性。

兼容性： 论文进一步证明，CORVUS 与响应式上下文管理方法（如滑动窗口、摘要）具有互补性。将 CORVUS 与响应式策略结合使用可进一步降低 Token 和成本，这表明混合方法是最优的选择。

重要性与主张

本文主张，主动式代码库-轨迹同步是长程编程智能体中一个关键但此前被忽视的优化点。通过解决上下文腐化的根源——即将可变的文件状态与不可变的历史条目耦合——CORVUS 使更高效、更可靠的智能体工作流成为可能。

作者强调，他们的方法与响应式压缩不同；它是在源头上防止陈旧数据的累积，而不是事后进行清理。结果表明，维护一个同步的仓库视图可以让智能体以更轻量级的轨迹运行，在降低成本和延迟的同时，保留解决复杂软件工程任务的能力。论文得出结论，这种架构转变对于将 LLM 编程智能体扩展到企业级、多日开发工作流至关重要。