← 最新论文
💬 NLP

CRISP: Compressing Redundancy in Chain-of-Thought via Intrinsic Saliency Pruning

CRISP 提出了一种利用模型内在显著性(特别是终止符的注意力模式)来指导原子压缩操作的框架,能够在不牺牲准确性的前提下将长思维链的 token 数量减少 50-60%,从而有效解决长上下文推理中的计算效率瓶颈。

原作者: Yangsong Lan, Hongliang Dai, Piji Li

发布于 2026-04-21
📖 1 分钟阅读☕ 轻松阅读

原作者: Yangsong Lan, Hongliang Dai, Piji Li

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

`(你可以把它想象成侦探合上笔记本、准备写结案报告的“盖章”动作**)。

  • 比喻:想象侦探在写日记时,每写一句话,都会偷偷看一眼那个“盖章”。
    • 如果这句话是关键线索(比如“张三的鞋码是 42 码”),侦探会死死盯着那个“盖章”,心里想:“这句话很重要,必须保留!”
    • 如果这句话是废话(比如“我刚才喝了一口水”),侦探看那个“盖章”时,眼神是游离的,心里想:“这个不重要,可以删掉。”

CRISP 的核心洞察就是:不需要请一个外部的“编辑”来帮侦探删减日记,侦探自己脑子里的那个“盖章”动作,就已经告诉了我们哪些是精华,哪些是垃圾。

3. CRISP 是如何工作的?(四步压缩法)

基于这个发现,CRISP 设计了一套流程,把侦探的“啰嗦日记”压缩成“精炼报告”:

  1. 扫描(寻找关键)
    利用那个“盖章”(</think>)的注意力,给日记里的每一句话打分。分数高的就是关键线索,分数低的就是废话。

  2. 手术(四大操作)
    根据分数,对日记进行“外科手术”:

    • 保留 (KEEP):关键线索,原封不动。
    • 删除 (PRUNE):废话连篇,直接删掉。
    • 重写 (REWRITE):话太啰嗦,把它改得简洁有力(比如把“我觉得可能是张三,因为他的鞋码是 42"改成“鞋码 42 指向张三”)。
    • 合并 (FUSE):把两三个碎碎念的步骤,合并成一句连贯的话。
  3. 润色(修复逻辑)
    经过上面的“手术”,日记可能变得断断续续,像是一堆碎片。这时候,CRISP 会请一位“高级编辑”(另一个 AI 模型)把这些碎片重新拼凑起来,确保逻辑通顺,读起来像一篇流畅的短文,而不是乱码。

  4. 训练(内化能力)
    最后,让侦探(AI 模型)看着这些“精炼报告”重新学习。久而久之,侦探就学会了直接写精炼报告,不再需要写那 100 页的废话日记了。

4. 效果如何?

实验结果表明,CRISP 非常成功:

  • 瘦身成功:推理过程的长度(Token 数量)减少了 50% - 60%
  • 智商在线:虽然话变少了,但解题的准确率几乎没有下降,甚至在某些难题上因为去除了干扰信息,准确率还提高了。
  • 性价比极高:就像侦探以前写 100 页报告要 10 块钱,现在写 40 页报告只要 4 块钱,而且破案速度更快了。

总结

CRISP 就像是一个聪明的“去油”大师。它不需要外部专家来教 AI 怎么说话,而是利用 AI 自己内部的“直觉”(注意力机制),识别出哪些是真正的逻辑核心,哪些是多余的自我对话。通过这种方式,它让 AI 从“啰嗦的侦探”变成了“干练的精英”,既省下了昂贵的计算资源,又保持了高超的推理能力。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →