← 最新论文
💬 自然语言处理

The Silent Cost of Conversation History in LLM Reasoning

本文表明,在多轮大语言模型交互中累积对话历史会显著降低推理准确度,且这种下降无法被标准的连贯性与一致性指标早期预测,从而使得外部任务状态管理与跨会话监控变得必要。

原作者: Ali Şenol

发布于 2026-11-17✓ Author reviewed ⓘ
📖 1 分钟阅读☕ 轻松阅读

原作者: Ali Şenol

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

在现代数字世界中,人工智能通常扮演着不知疲倦的助手角色,进行着长达数十轮的对话。想象一下,一位物流经理要求计算机追踪仓库中的库存,或者一位财务规划师随着新账单的到来更新预算。计算机记得之前每一条消息,通过构建长期的对话历史来理解当前的问题。这种不断增长的记录本应帮助机器更好地进行推理,就像是人类与计算机之间的一个共享笔记本。然而,这种方法隐藏着一个危险。随着对话变得越来越长,计算机不仅要处理新的问题,还要处理它自己之前的回答,而这些回答可能包含错误。如果机器在早期犯了一个错误,它可能会陷入那个错误的思路中,在余下的对话中持续重复这个错误,且从未表现出任何困惑的迹象。其结果是一个听起来自信且流利,但本质上却是错误的系统;由于这些错误具有一致性,这种失败对用户而言可能是隐形的。

研究人员试图精确测量这种不断增长的对话历史究竟在多大程度上损害了计算机正确解决问题的能力。他们通过运行两种不同类型的实验来测试这一点。在第一个实验中,他们将一组数学题拆分成小块,并逐一展示信息。他们要求计算机用两种方式解决问题:一种是保留其完整的前期回答记录,另一种是使用只有新信息的“空白状态”。结果清晰且一致。当计算机被允许在记忆中保留其早期的回复时,其成功率显著下降。对于其中一个测试的模型,得到最终正确答案的机会下降了近三十个百分点。对于另一个模型,下降了约二十一个百分点。计算机不仅仅是产生了困惑,它实际上是被它本应用来辅助自己的历史记录所阻碍了。

第二个实验将这一设想推向了极端,模拟了一场持续一百轮的对话。这是一个长期且复杂的任务,计算机必须在此期间追踪预算或库存的变化。研究人员仔细确保了整个对话过程中问题的难度保持不变,因此可以确定任何性能下降都是由于对话长度而非问题变难导致的。他们发现,计算机的准确率迅速崩溃。在短短二十轮之内,给出正确答案的能力就从大约百分之六十下降到了百分之十。尽管问题本身并没有变得更难,但这台机器基本上是在回答几乎每一个问题时都在失败。这种崩溃发生,是因为计算机正在错误的前期基础之上构建新的答案,从而创造了一个由一致但错误的推理构成的链条。

至关重要的是,研究人员还寻找了一种能在失败发生前捕捉到它的方法。在现实世界的系统中,你并不总是能预先知道正确答案,因此你需要一个警告信号来告诉你计算机正在偏离航道。他们测试了几种衡量计算机思维质量的标准方法,例如检查其答案是否彼此一致,或者其逻辑是否流畅。他们曾希望随着计算机开始出错,这些质量评分会下降,从而发出警报。然而,他们发现结果恰恰相反。随着准确率骤降,衡量一致性和逻辑流程度的指标实际上保持在高位甚至有所提升。计算机变得更加固执地保持着一致性——它的回答彼此之间完全连贯,却也完全错误。用于发现问题的常规工具对此完全沉默,没有提供任何关于系统正在失效的警告。

该研究还测试了专门用于检测行为变化的计算机程序是否能发现这个问题。这些程序就像是数据的烟雾探测器,寻找指示异常的突然变化。然而,研究人员发现这些探测器反应太慢,无法发挥作用。等到探测器终于发出警报时,计算机早已失败了很长时间。性能的下降始于对话非常早期的阶段,以至于探测器无法建立起用于对比的正常行为基准。即使研究人员尝试通过同时观察许多场对话来修复这个问题,警告信号依然微弱且不可靠。唯一有效的方法是完全移除对话历史。研究人员不再向计算机喂入其冗长的对话记录,而是给它一个由独立的、可靠的系统编写的当前状态的简短且经过验证的摘要。当这样做时,计算机的准确率在整个一百轮的对话中保持在高位且稳定,这证明了问题在于历史记录本身,而非任务本身。

研究结果表明,对于任何依赖人工智能来管理复杂、长期任务的系统而言,保留完整的对话记录是一种负担。机器并不会通过记住自己的错误而变得更聪明;它会被错误所困。研究人员得出结论,最好的方法是将任务状态(如预算总额或库存计数)保存在对话之外的一个独立的、经过验证的记录中。这个记录应该在每个新问题产生时,新鲜地发送给计算机,而不是让计算机从其自身有缺陷的记忆中去重建状态。虽然计算机维持长对话的能力令人印象深刻,但这项研究表明,对于严肃的推理任务而言,较少的历史记录往往意味着更高的准确性。警告系统的沉默是一个严酷的提醒:流利且一致的回答并不总是正确的回答;而在人工智能的世界里,最可靠的记忆有时正是那个能够遗忘过去的记忆。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →