💬 NLP

Ripple-Pivot Search: Active Parallel Decoding for Diffusion Large Language Models

本文介绍了 Ripple-Pivot Search (RPS)，一种用于扩散大语言模型（Diffusion Large Language Models）的无需训练的并行解码方法，该方法通过主动提交中熵枢轴位置以触发“涟漪效应”来降低不确定性，从而加速推理，在保持或提升生成质量的同时实现了高达 18 倍的加速。

原作者： Yushi Ye, Xu Chen, Haoyun Jiang, Jinsong Lan, Haihong Tang, Bo Han, Ivor Tsang, Yanfeng Wang, Bo Zheng, Jiangchao Yao

发布于 2026-08-13

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yushi Ye, Xu Chen, Haoyun Jiang, Jinsong Lan, Haihong Tang, Bo Han, Ivor Tsang, Yanfeng Wang, Bo Zheng, Jiangchao Yao

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个这样的世界：计算机不再像人类那样一次只能读一个词、缓慢地翻页，而是能够看向一整张空白页面，并在一瞬间完成整个故事的预测。这就是一种被称为“扩散语言模型”（diffusion language model）的新型人工智能所承诺的前景。不同于那些像“一块块垒砖”一样逐字构建句子的传统模型，这些新模型从充满“神秘盒子”（掩码标记/masked tokens）的页面开始，并尝试一次性推断出所有盒子里的内容。它们通过进行一次带有噪声的猜测，然后一点点将其清理干净，并重复这个过程，直到文本变得通顺为止。科学家们面临的核心问题是：我们如何让这个清理过程变得超级快，同时又不让计算机因为产生混乱而写出毫无意义的内容？如果我们试图过快地填满太多盒子，计算机可能会在早期犯错，而这个错误可能会毁掉整个故事。但如果我们走得太慢，又会失去速度优势。这是一种在竞速与谨慎之间进行的微妙平衡。

本文介绍了一种名为“涟漪-枢轴搜索”（Ripple-Pivot Search，简称 RPS）的巧妙新策略，用以解决这种平衡难题。研究人员发现了这些模型思考方式中一种迷人的“涟漪效应”。他们发现，如果你在神秘页面的中间选择一个特定的“枢轴”（pivot）位置——即一个模型虽有些不确定但并非完全无从下手的位置——并正确填入它，就会向页面的其余部分发送一股清晰度的冲击波。这就像解开填字游戏中的一个难点线索：一旦你解开了那个词，突然间另外三个词也变得显而易见了，你可以立即填好它们。旧方法像是试图先填入那些最简单的词（模型百分之百确定的词），但这对解决难题几乎没有帮助。然而，RPS 却像是一位侦探，知道应该先解决哪一个“中等难度”的线索，从而解锁整个谜题。

团队发现，通过主动致力于这些“中熵”（mid-entropy）枢轴位置（即模型有一定的信心但仍有多种选择的位置），并仔细挑选出该位置的“最佳”单词（而不只是最显而易见的那个），他们可以触发一种连锁反应。这使得模型可以在下一步中揭开更多的掩码，从而加速整个过程。在针对数学问题求解和代码编写等不同模型及任务的测试中，RPS 使计算机比标准方法快了 4 到 10 倍，同时仍能写出高质量的文本。事实上，在某些情况下，它编写的代码甚至比之前的快速方法更好，准确率提升了高达 5.49%。当他们将这种新方法与一种名为“KV 缓存”（KV caching）的节省内存技巧相结合时，速度提升更是达到了惊人的 18 倍。

研究人员还证明了这不仅仅是运气好，而是一个特定的、可重复的模式。他们通过证明，只要向前看一步，观察哪种单词选择能引发最大的“清晰度涟漪”，模型就能做出更明智的决策。他们排除了“仅仅挑选最自信的词就是最佳路径”的观点，转而表明“甜点位”（sweet spot）通常处于不确定性的中间地带。结果表明，通过在“在哪里投入”和“投入什么”这两个方面采取策略，我们可以释放这些下一代人工智能模型的真实速度潜力，而不牺牲它们所讲述的故事的质量。

技术摘要：用于扩散大语言模型的涟漪-枢轴搜索 (Ripple-Pivot Search, RPS)

问题陈述

扩散大语言模型 (dLLMs) 通过并行解码（即同时预测多个 token）为自回归模型提供了一种极具前景的替代方案。然而，dLLM 推理面临的一个核心挑战是如何在解码速度与生成质量之间取得平衡。现有的并行解码调度器通常仅在满足每个位置的标准（如高置信度或低熵）后，才会提交其贪婪（top-1）预测的位置。这些方法往往忽视了早期提交如何影响后续的解码步骤。此外，近期的前瞻式（lookahead-based）方法主要利用未来评估来决定“在哪里”进行提交，但在决定“提交什么”时仍局限于当前的贪婪预测。这限制了搜索空间，可能错失那些并非由模型 top-1 预测构成的、更有益的非贪婪解码轨迹。

方法论：涟漪-枢轴搜索 (RPS)

作者提出了 涟漪-枢轴搜索 (RPS)，这是一种旨在利用 dLLM 解码中被称为涟漪效应 (ripple effect) 的特定现象的无需训练的并行解码方法。

涟漪效应

通过对 Oracle（先验知识）的分析，作者发现：主动提交处于中熵状态 (mid-entropy regime) 的“枢轴 (pivot)”位置，能对剩余掩码位置产生的确定性降低作用最强。与已经确定（低熵）或高度不确定（高熵）的位置不同，中熵位置与当前的局部状态联系紧密，解决这些位置能显著澄清下游的 token。至关重要的是，分析显示在 85% 的中熵案例中，正确的 token 并不是模型当前的 top-1 预测，因此有必要进行超越贪婪解码的搜索。

算法概述

RPS 在每个解码步骤中运行两个阶段，并集成到标准的半自回归调度中：

枢轴选择 (确定在哪里提交)：
- RPS 过滤掩码位置，以识别处于中熵状态的候选位置。
- 它将每个位置的支持集截断为前 $k_{max}$ 个 token，以聚焦搜索。
- 它选择使截断熵最大化的枢轴 $i^*$ ，并受概率质量约束 ( $\mu_i \ge \tau_{pivot}$ ) 的限制。这确保了枢轴既不会过于确定，也不会过于弥散。如果没有任何位置满足标准，RPS 在该步将退回到标准解码。
前瞻评分 (确定提交什么)：
- 一旦确定了枢轴，RPS 会构建一个自适应候选集 $\mathcal{C}$ ，其中包含满足相对于 top-1 概率的可达率 (reachability ratio) 的 token，以及保留当前位置为 $[MASK]$ 的选项。
- 对于每个候选 token $c \in \mathcal{C}$ ，RPS 创建一个“分支”，在该分支中将枢轴分配为 $c$ 。
- 所有分支通过一个定制的注意力掩码进行联合评估，该掩码使各分支相互隔离，从而在单次前向传播中完成评估。
- 评分函数选择使下游平均熵最小化（最大化涟漪效应）并利用合理性权重 $\lambda$ 惩罚不合理分配的 token $c^*$ ：
  $c^* = \arg\max_{c \in \mathcal{C}} \left\{ -\frac{1}{|M|-1}\sum_{i \in M \setminus \{i^*\}} H(p^c_i) + \lambda \log p_{anchor}(c) \right\}$
- 只有当最佳候选者优于保持枢轴为掩码状态时，才会进行提交。

理论分析

论文为评分目标提供了理论依据：

熵认证的并行性 (Entropy-Certified Parallelism)： 降低平均下游熵能单调地收紧在下一步中符合提交条件的候选位置数量的下界，直接将目标与解码速度联系起来。
合理性调整的选择 (Plausibility-Adjusted Selection)： 该评分规则充当拉格朗日松弛，要求一个不太合理的候选者必须展示出比例更大的熵减，才能被选中优于一个更合理的候选者。

核心贡献

识别涟漪效应： 作者证明了主动提交中熵枢轴能产生最强的下游不确定性降低，从而实现更多的并行提交。他们强调，在这种状态下，正确的 token 经常是非贪婪的。
涟漪-枢轴搜索 (RPS)： 一种新型解码方法，通过联合优化“在哪里”提交（通过中熵枢轴选择）和“提交什么”（通过对合理候选者的前瞻评估）。它是无需训练的，且能与现有 dLLM 架构无缝集成。
实验验证： 在三个 dLLM (LLaDA-8B, Dream-v0-7B, LLaDA-1.5) 和四个基准测试 (GSM8K, MATH500, HumanEval, MBPP) 上的广泛实验证明了该方法的有效性。

实验结果

加速： RPS 在保持生成质量的同时，比标准单 token 每步解码器实现了 4–10 倍的实际运行时间 (wall-clock) 加速。当结合 KV 缓存使用时，加速比可达 18 倍。
准确率： 与以往牺牲准确率换取速度的前瞻式基线（如 LoPA）不同，RPS 在提供更高吞吐量的同时，将准确率提升了高达 5.49%（例如在 Dream 模型下的 HumanEval 任务中）。
鲁棒性： 性能增益在不同生成长度（128 到 512 个 token）下依然存在。
失效模式分析： 在代码生成任务中，RPS 避免了置信度驱动的前瞻式方法（如 LoPA）常见的“过早终止”失效模式——后者往往会错误地提交早期的 return 语句，从而截断必要的逻辑。RPS 谨慎的枢轴选择和合理性保障机制使其能够正确完成复杂的控制流。

重要性与主张

论文声称，RPS 通过将范式从“基于当前置信度进行提交”转变为“基于下游收益进行提交”，代表了 dLLM 推理领域的重大进步。通过同时解决早期提交的位置和内容问题，RPS 有效地利用了涟漪效应，在加速解码的同时，避免了与激进并行化相关的质量下降。作者强调，这种方法允许进行激进的并行提交，同时保持甚至提高生成质量，特别是在对逻辑一致性要求极高的复杂推理和代码生成任务中。该方法无需训练且兼容 KV 缓存的特性，进一步表明了其在实际部署中的可行性。