← 最新论文
💻 computer science

Reducing Token Usage of State-in-Context Agents using Minification

本文通过对状态上下文(state-in-context)智能体框架的复现,证明了应用代码压缩技术可以在降低 42% 输入 Token 使用量的同时,仅以分辨率率下降 12 个百分点为代价,为开发更具成本效益的软件工程智能体提供了一种极具前景的权衡方案。

原作者: Nicolas Hrubec, Jürgen Cito

发布于 2026-06-02
📖 1 分钟阅读☕ 轻松阅读

原作者: Nicolas Hrubec, Jürgen Cito

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

想象一下,你正在雇佣一位才华横溢但收费昂贵的顾问来修理一台坏掉的机器。这台机器是一个庞大且复杂的软件程序(代码库),而这位顾问是一个人工智能(AI)。

每当 AI 阅读手册的一段内容或蓝图的一页时,都会产生费用。它阅读的页面越多,账单就越高。

问题:过多的文书工作

研究人员发现,当这些 AI 智能体尝试修复软件漏洞(bug)时,它们正淹没在文书工作中。它们花费大量时间阅读实际的代码——即“蓝图”——这占据了总成本的约 90%。相比之下,指令和哪些文件需要查看的列表则微不足道。

这就像雇佣一名侦探来侦破案件,却强迫他在看一眼犯罪现场之前,先读完整本城市电话簿。他们会感到疲惫,账单会变得巨大,而且由于被海量的文本淹没,他们可能会错过关键线索。

解决方案:“压缩”(缩减射线)

论文引入了一种称为 Minification(压缩/精简) 的技术。你可以将它想象成一个针对代码的“缩减射线”。

在软件世界中,代码通常包含多余的空格、注释(给人类看的笔记)以及像 calculate_total_revenue_for_the_month 这样冗长的变量名。这些对于人类阅读很有帮助,但对于计算机来说,它们只是“废话”。

研究人员应用了一系列转换,在将代码发送给 AI 之前对其进行了“压缩”:

  1. 去除废话: 他们删除了空行、注释和文档。
  2. 紧凑处理: 他们移除了数学符号周围的多余空格(将 a + b 变为 a+b)。
  3. 缩短名称: 他们将长变量名重命名为短变量名(将 calculate_total_revenue_for_the_month 变为 x)。
    • 关键细节: 为了确保 AI 不会产生困惑,他们提供了一个“翻译字典”,这样 AI 就会知道 x 实际上代表的是 calculate_total_revenue_for_the_month

实验:缩减射线有效吗?

团队在 SWE-bench 上测试了这一方法,这是一个著名的基准测试,包含 100 个真实的软件漏洞。他们使用了一个强大的 AI 模型(GPT-5-mini)来尝试修复这些漏洞。

结果:

  • 好消息: “缩减射线”在节省成本方面表现得非常出色。它减少了 AI 需要阅读的文本量达 42%。这是一个巨大的成本削减。
  • 坏消息: AI 解决问题的能力变弱了。成功率下降了 12 个百分点(从 50% 的成功率降至 38%)。

权衡:
论文得出结论,通过压缩代码,你可以节省大量资金,但你必须接受 AI 解决问题的数量会减少。这是一个在效率(成本)与效能(成功率)之间的权衡。

一个重要的警告:“缩进”陷阱

有一种特定的压缩类型造成了很大麻烦:Dedentation(取消缩进)

Python 代码(一种流行的编程语言)依赖于缩进(行首的空格)来识别如何对指令进行分组。研究人员尝试减少空格的数量以节省 token。

  • 发生了什么: AI 产生了困惑。它写出的修复方案在 AI 看来是正确的,但实际上是错误的程序,因为空格位置不对。
  • 类比: 这就像告诉厨师“切洋葱”,却把“如何握刀”的说明给去掉了。厨师尝试着去做,但结果一团糟。
  • 解决方法: 论文建议,如果你想使用这种方法,你需要一个“安全网”,以便在 AI 写完答案后自动修复空格。如果没有这个安全网,成功率会大幅崩溃。

总结

论文表明,通过将它们的“阅读材料”精简到最基本的要素,我们可以让 AI 软件工程师变得更加廉价。

  • 成本: 大幅下降(减少了 42% 的阅读文本)。
  • 性能: 中度下降(修复的漏洞减少了 12%)。
  • 注意事项: 你必须小心,不要移除代码理解所需的“语法”(缩进)。

研究人员已在 GitHub 上公开了他们的工具,允许其他人将这种“缩减射线”应用于自己的软件项目。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →