🤖 machine learning

BlockGen: Flexible Blockwise Sequence Modeling with Hybrid Samplers

本文介绍了 BlockGen，这是一个灵活的块状序列建模框架，它结合了掩码扩散与均匀态扩散以及受自回归（AR）启发的预测器-校正器采样，旨在证明虽然在少步数块对块生成中均匀扩散优于掩码扩散，但随着采样步数的增加和特定块大小的变化，这种性能差距会缩小或发生反转。

原作者： Justin Deschenaux, Caglar Gulcehre

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Justin Deschenaux, Caglar Gulcehre

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正试图写一个故事，但你有两种不同的写作方式。

旧方法（自回归/Autoregressive）： 你一次只写一个词，从左到右。一旦你写下一个词，你就把它固定下来，然后写下一个。这种方法快速且可靠，但如果你在第一句话里犯了错，你无法轻易回头修改，除非重写整个部分。此外，因为你只能一次写一个词，所以完成一个长篇故事需要很长时间。

新方法（扩散/Diffusion）： 想象你在一页满是随机乱码（比如“xkq#z@!”）的纸上开始写作。这时有一个聪明的编辑，他会同时观察整页内容，并尝试修正其中一些词，使它们变得有意义。接着他再看一次，再修正一些词。他重复这个过程，慢慢地将乱码变成一个完整的故事。这种方法很好，因为编辑可以观察全局并修正页面上的任何错误。然而，这种“一次性处理”的方法通常比较慢，而且最终生成的文章可能不如旧方法那样完美。

最近，研究人员发现了第三种方法：逐块生成（Block-by-Block）。与其一次写一个词或一次处理整页，不如以小块（比如段落）为单位来编写（或修正）故事。你完成第一段，将其固定下来，然后移动到第二段。这让你既拥有旧方法的效率，又拥有新方法的灵活性。

该论文解决的问题

作者 Justin Deschenaux 和 Caglar Gulcehre 注意到，人们在测试这些“逐块生成”模型时存在两个重大问题：

“随机猜测”问题： 当模型在某个段落中出错时，旧的修正方法只是随机挑选单词进行修复。这就像老师告诉学生：“去改一下你作文里的一个随机单词”，而不是指出哪一个具体的句子读起来不通顺。
“一刀切”问题： 之前的研究仅使用一种特定的块大小进行测试（例如，始终一次处理 16 个词）。但也许对于某些任务，4 个词一组的效果更好，而对于另一些任务，32 个词一组的效果更好。此前还没有人尝试过混合使用它们。

解决方案：BlockGen

他们构建了一个名为 BlockGen 的新系统。你可以把它想象成一个超级灵活的作家，可以处理任何长度的段落。

混合尺寸： 他们没有只训练模型编写 16 个词的块，而是让它在各种尺寸上进行训练：1 个词、2 个词、4 个词，直到 16 或 32 个词。
神奇的技巧： 因为模型学会了处理所有这些不同尺寸的块，它掌握了一个秘密：它既能像旧的“自回归”方式那样完美地写出单个词，也能像修正整个段落那样出色。这使得该模型可以充当自己的“验证器”。

新策略：ARPC（“智能编辑”）

论文介绍了一种称为 ARPC（自回归启发式预测器-修正器）的新型文本生成方式。

其工作原理如下（使用创意类比）：
想象你正在使用“逐块生成”法编写一个段落。你先生成整个段落的草稿。

第一遍处理： 模型快速写出整个段落。
“智能检查”： 在你锁定该段落之前，模型会快速审视自己的作品。它会问自己：“如果我采用那种‘一步一个脚印’的可靠写法，我会在这里写下什么词？”
修正： 如果模型的这个“逐词编写”的猜测与它刚才写下的内容差异很大，它就知道那个特定的词很可能是错的。它只会重写那些特定的错误单词。

这比旧方法聪明得多，旧方法只会随机选择单词进行重写。这就像是老师说“改一下那个随机的词”，而不是说“把那个动词用错的句子改一下”。

他们的发现

作者在数学题（GSM8K）和通用写作（OpenWebText）上进行了测试。

“掩码（Masked）”与“均匀（Uniform）”之争： 在扩散模型领域，有两种主要的“编辑”类型：
- 掩码型（Masked）： 编辑只能用一个特殊的“空白”标记来替换单词。一旦空白被填补，就锁定了。
- 均匀型（Uniform）： 编辑可以在任何时候将任何词改为任何其他词。
- 之前的发现： 当同时处理整页内容时，“均匀型”编辑表现更好。
- BlockGen 的发现： 当进行简单的单次处理时，“均匀型”编辑仍然更好。但是，当你使用新的“智能检查”（ARPC）时，“掩码型”编辑在处理高质量任务（如数学）时实际上变得略微更好，因为它更精准。
速度与质量： “智能检查”（ARPC）让模型能够非常接近那些传统的、缓慢的“逐词编写”作者的质量，但由于它是一次处理整个块，所以速度更快。
权衡： 论文承认，训练这种灵活的模型比训练标准模型更昂贵（需要更多的计算能力）。此外，他们的模型目前仍然比现在大型科技公司使用的巨型 AI 模型要小，因此目前还不能声称这适用于所有可能的任务。

总结

论文介绍了 BlockGen，这是一个能够学习以不同尺寸块进行写作的灵活 AI。通过结合这种灵活性与一种利用模型自身知识来寻找并修复特定错误的“智能检查”系统（ARPC），他们创造了一种既比逐词编写更快、又同样准确，且比以往“全盘修正”方法更聪明的方法。他们证明了虽然“均匀型”方法通常很强，但使用这种智能修正方法后，规则发生了变化，使得“掩码型”方法在处理复杂任务时展现出了惊人的竞争力。

技术摘要：BlockGen：基于混合采样器的灵活块状序列建模

问题陈述

自回归（AR）Transformer 在序列建模领域占据主导地位，但受限于顺序生成的限制（吞吐量/延迟）以及因果注意力约束，这阻碍了需要双向上下文的推理任务。离散扩散模型提供了一种替代方案，通过迭代细化噪声序列来实现并行更新。然而，最近关于**掩码扩散模型（MDMs）与均匀状态扩散模型（USDMs）**的对比研究在不同采样机制下得出了相互矛盾的结论：

祖先采样（Ancestral Sampling）： 尽管 USDMs 的困惑度（perplexity）较差，但在下游任务中通常优于 MDMs，这归功于 USDMs 具有自我纠错的能力（Token 可以转换到任何状态），而 MDMs 一旦取消掩码（unmasked）就会固定 Token。
块状生成（Blockwise Generation）： 先前的研究主要对比全序列扩散。目前尚不清楚当 Token 以逐块（半自回归）方式生成时，USDM 的优势是否依然成立，而这种设置能够实现 KV 缓存并提高推理速度。
信息感知纠错器（Informed Correctors）： 现有的对比通常使用“非信息感知型”预测器-纠错器（PC）采样器，即在随机位置重新注入噪声。目前尚不清楚“信息感知型”纠错器（针对可能出错的位置）如何影响 MDM 与 USDM 的排名，特别是在没有辅助验证器模型的情况下。

方法论：BlockGen

作者引入了 BlockGen，这是一种在多种块大小组合上训练的块状序列模型，其在块内实例化为掩码扩散或均匀扩散。

1. 混合公式与训练

BlockGen 将序列密度定义为 $M$ 个块大小 $S = \{s_1, \dots, s_M\}$ 的混合：
$p_{\theta}^{\text{BlockGen}}(x) = \sum_{i=1}^M \gamma_i p_{\theta}^{(s_i)}(x)$
其中 $p_{\theta}^{(s_i)}$ 是被分解为大小为 $s_i$ 的块的有效密度。

共享去噪器： 模型并非训练多个独立的模型，而是使用一个共享去噪器 $\hat{x}_\theta$ ，它将块大小 $L'$ 作为输入，并据此调整注意力模式。
似然界限： 论文推导了两种混合密度的界限。在评估时使用更紧致的 log-sum-exp 界限，而在训练时使用较松的 混合似然界限（对块大小求期望），以保持计算效率。
分层采样： 为了减少多 GPU 训练中的方差，块大小是通过分层采样而非独立同分布（i.i.d.）采样进行选择的。

2. AR 感知预测器-纠错器 (ARPC)

一项核心贡献是 ARPC 采样器，它利用 BlockGen 的混合特性，在无需辅助验证器的情况下执行信息感知纠错。

机制： 在生成过程中，在标准的祖先扩散步骤之后，采样器执行一个“干净提议”（clean proposal）步骤。随后，它使用相同的去噪器在 AR 模式（ $L'=1$ ）下执行第二次前向传播，以此对提议的 Token 进行评分。
评分： 被识别为“不太可能”的 Token（具有较低的 AR 对数似默度）会被重新加噪（纠正）回之前的噪声水平。
优势： 这使得模型能够利用自身的 AR 预测来引导扩散纠错，从而在单个模型内有效地交织 AR 和扩散范式。

3. 块级注意力

BlockGen 使用了块因果注意力（block-causal attention）：块内的 Token 进行双向注意力计算，而块则对所有先前块进行因果注意力计算。这使得跨解码块的 KV 缓存成为可能，保留了半自回归生成的效率优势。

关键结果

1. 数学推理 (GSM8K)

在基于 TinyGSM 训练的模型上进行 GSM8K 评估：

祖先采样： 在逐块生成的设置下，USDMs 优于 MDMs，尤其是在少步数（低 NFE）的情况下。这证实了全序列 USDM 的优势可以延续到块状生成中。
ARPC 采样： 在高 NFE 下，USDMs 与 MDMs 之间的性能差距缩小并发生反转。在使用 16 个 Token 块的 ARPC 下，MDMs 在 GSM8K 准确率上略微超过了 USDMs。
ARPC 与基准对比： 在大多数 NFE 预算下，ARPC 的表现始终优于祖先采样和熵信息感知 PC（EIPC）。使用 MDMs 的 ARPC 在 NFE 预算较高时，其性能接近于使用贪婪解码的 AR 采样。

2. 语言建模 (OpenWebText & LM1B)

似然度： 在混合块大小上进行训练显著提高了困惑度，相比于固定块模型，BlockGen 提升了性能。在 OpenWebText 上，使用掩码扩散的 BlockGen 达到了 17.5 Val. PPL（相比之下，AR 为 16.7，最佳固定块 BDM 为 21.6），缩小了扩散模型与自回归模型之间的差距。
样本质量：
- 在祖先采样下，USDMs 比 MDMs 实现了更低的生成困惑度（Gen. PPL）。
- 在 ARPC 下，该趋势在高 NFE（例如 64 NFE/块）时发生反转，此时掩码-ARPC 实现了比均匀-ARPC 更好的 Gen. PPL 前沿。
- ARPC 缩小了与 AR 的差距，但在实际的低温度区间内，并未超越 AR 的 Gen. PPL。

意义与主张

本文声称解决了关于离散扩散的两个开放性问题：

块状有效性： 在祖先采样下，观察到的全序列生成中均匀状态扩散优于掩码扩散的优势，确实可以延续到逐块生成中。
信息感知纠错： MDM 与 USDM 的排名是**依赖于计算机制（regime-dependent）的。虽然 USDMs 在简单的祖先或非信息感知采样器下表现出色，但信息感知纠错器（特别是 ARPC）**可以缩小这一差距，甚至在较高的计算预算（NFE）下实现排名反转，从而倾向于掩码扩散。

作者强调，BlockGen 提供了一个灵活的框架，可以在 AR 和纯扩散之间进行插值，使单个模型既能作为块状采样器，又能作为 AR 验证器。他们指出，尽管其经验性主张在测试的预算和采样器范围内是稳健的，但并未确定这些权衡是否会在大规模语言模型（LLM）规模下持续存在，因为其实验仅限于 1.7 亿参数的骨干网络。这项工作表明，扩散范式的选择（掩码 vs 均匀）并非普遍优劣，而是高度取决于采样策略和计算预算。