Stop When Memory Suffices: Evidence-Conditioned Progressive Execution for LLM Agents
本文介绍了 Router-Mem，这是一个以证据为条件的渐进式执行框架，它根据证据的充分性动态决定是提前终止还是扩展记忆检索，从而在实现高质量答案的同时，显著降低了相比于全量记忆执行的推理延迟。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你正在试图破解一个庞大的、持续数日的谜团。你有一个巨大的笔记本，记录了调查过程中的每一次对话、每一个线索、使用的每一种工具以及犯下的每一个错误。为了解决一个新的谜题，你可以选择每次都从头到尾阅读整本笔记本（这既费时又令人精疲力竭），或者你可以尝试预先将整个内容总结成一张微小的参考表（这很快，但你可能会错过隐藏在细枝末节中的关键细节）。这就是人工智能（AI）智能体——那些旨在像人类一样思考、行动和记忆的计算机程序——每天面临的挣扎。随着这些 AI 智能体变得越来越聪明，并开始处理更长、更复杂的任务，它们需要一种方法来记忆信息，而不至于被海量的信息所拖累。科学家们提出的核心问题是：AI 如何准确知道它需要查看多少记忆才能解决问题，从而避免在只需要看一页纸时却浪费时间去读整本书？
这就是一个被称为 Router-Mem 的新概念。把它想象成一位超级聪明的图书管理员，他们不仅负责取书，还会决定你实际上需要访问多少图书馆。在过去，AI 记忆系统陷入了一个“两个极端”的陷za：要么速度极快但会错过重要线索（即“参考表”法），要么非常彻底但极其缓慢，因为每次都要阅读所有内容（即“阅读整本书”法）。Router-Mem 打破了这一规则，它扮演着一名循序渐进的侦探。
它是这样运作的：当你向 AI 提问时，它首先会对记忆进行一次快速、廉价的“嗅探测试”，以抓取一些相关的线索。然后，一个微型且轻量级的“交通警察”（称为路由/router）会观察这些线索和你的问题。它会问一个简单的是非题：“目前的线索足以解决这个谜团吗？”如果答案是“是”，AI 会立即给出答案并停止，从而节省大量时间。如果答案是“否”，系统不会重新开始；相反，它会利用最初的这些线索作为地图，深入挖掘记忆中需要更多关注的具体部分，在回答之前收集更多证据。
研究人员在两个具有挑战性的记忆基准测试 AMA-Bench 和 BEAM 上对它进行了测试。他们发现 Router-Mem 是一个游戏规则改变者。在 AMA-Bench 测试中，它取得了 55.17% 的得分，而在 BEAM 测试中，它得到了 38.77% 的得分。但真正的魔力在于速度。与以往每次都阅读整个记忆历史的方法相比，Router-Mem 在一项测试中减少了 27.3% 的思考时间，在另一项测试中减少了 25.5%。
论文指出，这种“在获得足够信息时停止”的方法是最佳平衡点。它证明了你不需要在速度和准确性之间做选择。通过训练一个聪明的路由程序来识别证据是否充足，该系统可以为简单问题跳过繁重的体力活，同时仍能为难题进行深度挖掘。这就像拥有一位知道何时结案、何时继续挖掘的侦探，让 AI 的长期记忆既高效又强大。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。