Free(): Learning to Forget in Malloc-Only Reasoning Models
本文提出了一种名为 Free()LM 的模型，通过引入可插拔的“释放模块”（Free-Module）赋予大模型主动遗忘冗余信息的能力，解决了推理模型因过度堆积无效上下文而导致的性能下降问题，并在长程推理任务中显著提升了准确率。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇文章介绍了一个非常有意思的研究，我们可以把它想象成在教 AI 如何**“断舍离”**。
核心问题：AI 的“囤积症”与“大脑过载”
想象一下，你正在参加一场超级复杂的数学马拉松考试。为了解题，你面前有一张巨大的白纸。
现在的 AI（比如普通的推理模型）就像是一个“只买不卖”的囤积狂：
每当它想到一个步骤、尝试一个公式、甚至是一个错误的思路，它都会把这些内容全部写在纸上，并且绝不擦除。随着思考的时间越来越长（比如写了几万个字），这张纸会被密密麻麻的草稿、涂改痕迹、甚至已经证明错误的废话填满。
结果就是：
当 AI 真正需要寻找关键线索时，它会被淹没在自己写的“废话”里。就像你在一个堆满垃圾的房间里找钥匙一样，最后它会彻底“宕机”——逻辑混乱、原地打转，甚至最后完全无法得出正确答案（论文中提到，有些大模型在长思考后准确率会直接掉到 0%）。
这就是论文里说的 “Malloc-only”（只申请内存，不释放内存） 模式：它只会不断地往大脑里塞东西，却不知道怎么清理。
解决方案：Free()LM —— 给 AI 装上“橡皮擦”
研究人员提出了一个叫 Free()LM 的新方法。这个名字很有趣，free() 在计算机编程里就是“释放内存”的意思。
他们给 AI 增加了一个特殊的“插件”（就像给大脑装了一个智能清理助手），让 AI 能够在这两种模式之间切换：
- 思考模式（Reasoning Mode）： 正常写草稿，尽情发挥逻辑。
- 清理模式（Cleaning Mode）： 就像考试中途停下来，拿起橡皮擦，快速扫描一下这张纸，说：“这段逻辑我已经试过了，是错的，没用；这段话太啰嗦了，删掉！”
这个“清理助手”非常聪明：
它不是盲目地乱擦，而是通过专门的训练，学会了分辨哪些是“金子”（关键逻辑），哪些是“垃圾”（冗余废话）。它会精准地划定一个范围，把没用的部分“抹掉”，让大脑重新回到一个干净、清爽的状态。
实验结果：学会遗忘，反而变得更聪明
这个研究的结果非常惊人，可以用三个词来概括：
- 更强（Stronger）： 即使是小规模的 AI，在学会了“断舍离”后，解题能力也提升了。它在数学竞赛（IMO）等高难度任务上刷新了纪录。
- 更稳（Stabler）： 以前的 AI 在思考太久后会“脑抽”（准确率归零），但有了 Free()LM，它能通过不断清理战场，在超长距离的思考中保持清醒，把原本掉到 0% 的准确率重新拉回到 50% 左右。
- 更轻（Lighter）： 因为删掉了废话，AI 占用的“内存”（KV Cache）减少了将近一半。这意味着它运行起来更省资源，速度也更快。
总结：智慧的真谛
这篇论文向我们揭示了一个深刻的道理：真正的智能，不仅在于拥有“思考”的力量，更在于拥有“遗忘”的自由。
如果一个大脑只会不断地吸收信息而不会过滤噪音，那它最终只会变成一个混乱的垃圾场。只有学会了**“断舍离”**，AI 才能在复杂的逻辑迷宫中，始终保持清醒的头脑，走向最终的答案。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。