Reducing Cost of LLM Agents with Trajectory Reduction

该论文提出了名为 AgentDiet 的推理时轨迹缩减方法,通过自动识别并移除多轮 LLM 智能体执行过程中的冗余信息,在保持性能不变的前提下显著降低了输入令牌数量和计算成本。

Yuan-An Xiao, Pengfei Gao, Chao Peng, Yingfei Xiong

发布于 2026-03-17
📖 1 分钟阅读☕ 轻松阅读

Each language version is independently generated for its own context, not a direct translation.

这篇论文讲述了一个关于如何给“超级智能助手”省钱的故事。

想象一下,你雇佣了一位非常聪明的AI 程序员助手(也就是论文里说的 LLM Agent)来帮你修电脑里的软件 bug。这位助手很能干,但它有一个大毛病:记性太好,而且有点“啰嗦”

1. 问题:助手的“记忆包袱”太重了

当这位助手开始工作时,它会像侦探一样,一步步地调查:

  • 它打开文件看代码(记下来)。
  • 它运行命令看报错(记下来)。
  • 它尝试修改代码,再运行测试(又记下来)。

问题出在哪里?
随着任务进行,助手脑子里的“记事本”(也就是论文里的Trajectory/轨迹)越来越厚。

  • 它把所有看过的文件、所有运行过的命令结果,哪怕是一些毫无用处的废话(比如“正在进入目录..."、“测试通过”这种重复信息),全都原封不动地塞进记事本里。
  • 每走一步,它都要把之前所有的记事本内容重新读一遍,才能决定下一步做什么。

这就好比你在解一道数学题,每算一步,都要把前面写满的几千页草稿纸重新抄一遍再读一遍。这不仅,而且(因为现在的 AI 是按“读过的字数”收费的)。

论文发现,这些记事本里充满了垃圾信息

  1. 没用的废话:比如列出了整个文件夹里几百个无关紧要的文件。
  2. 重复的啰嗦:比如把刚才已经说过的修改内容又重复了一遍。
  3. 过期的旧闻:比如为了找 bug 翻看了 10 个文件,结果发现第 11 个才是对的,那前 10 个文件的内容对后续步骤就没用了,但助手还死死抓着不放。

2. 解决方案:给助手请个“整理师” (AgentDiet)

为了解决这个问题,作者们设计了一个叫 AgentDiet(Agent 节食计划)的小工具。

它的核心思想是:
在助手工作的过程中,安排一个专门的“整理师”(一个更便宜、更快速的 AI),时不时地帮助手清理记事本

  • 怎么清理?
    整理师会看着助手刚才写下的步骤,问自己:“这段信息对解决现在的任务还有用吗?”

    • 如果没用(比如一堆无关的文件列表),就删掉
    • 如果太啰嗦(比如重复的测试结果),就压缩成一句简短的话(比如“测试全过,只有一个失败”)。
    • 如果信息过期了,就扔掉
  • 什么时候清理?
    不是每句话都删,而是等助手做完几个步骤,或者记事本太厚的时候,整理师再介入。这样既不会打断助手的思路,又能及时减负。

3. 效果:省钱又高效,还不影响干活

作者们把这个“整理师”装进了一个顶级的 AI 编程助手里,做了大量实验。结果非常惊人:

  • 省下的钱
    原本助手需要读很多字,现在通过“节食”,输入给 AI 的字数减少了 40% 到 60%
    换算成钱,总成本降低了 21% 到 36%
    比喻:就像你本来每天要吃 10 斤饭(虽然只消化了 1 斤),现在通过“节食”,你只吃 4 斤,而且身体(AI 性能)一点没变差,甚至因为负担轻了,跑得更快。

  • 干活的能力
    最神奇的是,虽然记事本变薄了,但助手解决问题的成功率完全没有下降,甚至有时候因为脑子更清爽了,反而更不容易出错(比如不会因为记了太多旧东西而 confused)。

4. 总结:给 AI 做“断舍离”

这篇论文告诉我们,现在的 AI 助手虽然聪明,但往往因为**“记性太好、不懂取舍”**而变得又慢又贵。

AgentDiet 就像是一个聪明的生活整理师,它教 AI 学会**“断舍离”**:

  • 扔掉没用的垃圾信息。
  • 压缩啰嗦的废话。
  • 只保留对当前任务真正重要的核心记忆。

最终结论
通过这种简单的“整理”方法,我们可以让 AI 助手花更少的钱、用更少的算力,干出同样好(甚至更好)的活。这对于未来让 AI 真正普及到每个人的日常生活中,是一个巨大的进步。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →