💬 NLP

VoidPadding: Let [VOID] Handle Padding in Masked Diffusion Language Models so that [EOS] Can Focus on Semantic Termination

该论文提出了 VoidPadding，一种通过引入专门用于填充的 [VOID] 标记来解耦掩码扩散语言模型中填充与终止角色的方法，该方法解决了 [EOS] 溢出问题，并显著提升了指令微调模型在性能和解码效率方面的表现。

原作者： Chunyu Liu, Zhengyang Fan, Kaisen Yang, Alex Lamb

发布于 2026-06-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Chunyu Liu, Zhengyang Fan, Kaisen Yang, Alex Lamb

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在教一个机器人写故事。在旧的方法（自回归模型）中，机器人像人类打字一样，一次写一个词，从左到右。但在这种被称为**掩码扩散（Masked Diffusion）**的新方法中，机器人从一张满是问号的白纸开始，尝试一次性猜出所有的词，通过反复完善它的猜测，直到故事变得有意义。

问题在于，当我们教这个机器人时，我们需要给它提供练习范例。为了让练习更高效，我们取一些短篇故事，并用“虚拟词”来填充它们，使它们都符合相同的页面大小。

问题所在：困惑的“停止”标志

在过去，研究人员使用一种特殊的标记叫做 [EOS]（句子结束）作为那个“虚拟词”。

它的职责 1： 告诉机器人，“在这里停止写作，故事结束了。”
它的职责 2： 填充页面上的空白空间，以便机器人进行练习。

论文认为，给 [EOS] 标记赋予这两个职责，就像要求一个交通灯既要当停止标志，又要当施工路障。

当机器人在练习时，它学到 [EOS] 意味着“填充这个空间”。但当它在编写真正的故事时，它看到了 [EOS]，于是感到困惑。它想：“哦，我需要用更多的 [EOS] 来填充这个空间！”这导致了一个被称为 [EOS] 溢出（[EOS] overflow） 的故障。机器人写了一点点文本，然后就只是在页面上不断重复填充“句子结束”标记，从而缩短了故事。

当机器人尝试用大块（大区块）编写长故事时，这个问题会变得更加严重。由于“停止”标志被过多的“虚拟”标志挤满了，机器人无法分辨真实的故事在哪里结束。

解决方案：空虚填充（VoidPadding）

作者提出了一个简单的修复方案，称为 VoidPadding。他们引入了一个新的、不可见的标记——[VOID]。

你可以这样理解：

[VOID] 是新的“虚拟词”。它填充练习页面上的空白空间，但它没有任何意义。它就像一个幽灵，占据着空间但不说话。
[EOS] 现在仅仅是“停止”标志。它被严格保留，用于专门告诉机器人故事何时真正结束。

通过分离这些角色，机器人能清晰地学习到：

[VOID] = “这只是空白空间，忽略它。”
[EOS] = “故事结束了，现在停止。”

实际运作方式

论文描述了两个在“推理”（即机器人实际执行工作时）阶段发生的聪明技巧：

“幽灵”禁令： 当机器人生成故事时，它被严格禁止编写 [VOID]。如果它试图猜测 [VOID]，系统会说：“不，那只是个幽灵。”这防止了机器人意外地在故事中填满不可见的幽灵。
提前停止： 因为 [EOS] 现在是一个纯粹的“停止”标志，机器人可以听从它的指令。一旦它看到了清晰的 [EOS] 信号，它就会立即停止写作。它不会浪费时间用垃圾信息填满整个页面。这让机器人的速度大大提升。
画布扩展器： 有时机器人开始使用的页面对于它想要讲述的故事来说太小了。论文引入了一个技巧叫做 VoidExpansion。机器人会观察它在训练期间学到的“幽灵”信号（[VOID]）。如果页面太短，[VOID] 信号看起来会显得“不舒服”（就像幽灵试图挤进一个狭小的盒子里）。机器人感知到了这一点，扩展了页面大小，然后完成故事。

结果

作者在两个机器人模型（LLaDA 和 Dream）上通过数学和编程谜题测试了该方法。

质量更好： 当机器人尝试编写长答案时，旧方法经常失败，只会不断吐出“句子结束”。新方法（VoidPadding）解决了这个问题，保持了答案的长篇且正确。
更快： 因为机器人在完成任务时会准确停止（而不是填满整个页面），它们完成任务的速度平均提高了 55%。
鲁棒性强： 无论机器人是在编写短答案还是长答案，或者是在处理小区块还是大区块时，新方法都能表现良好。

总结

这篇论文表明，通过给“停止”标志和“空白空间”填充物起两个不同的名字，我们可以防止机器人产生困惑。这使得机器人能写出更好的内容，在正确的时间停止，并且工作效率更高。这只是我们教导机器人方式的一个微小改变，却带来了性能上的巨大提升。

技术摘要：VoidPadding

问题：掩码扩散语言模型（MDLM）中的 [EOS] 溢出

掩码扩散语言模型（MDLM）通过在预分配的全掩码响应画布上进行并行去噪来生成文本，并利用双向注意力机制。这种架构与自回归语言模型（ARLM）按顺序生成 Token 的方式形成对比。在针对 MDLM 进行指令微调（IT）时，一个关键挑战在于：为了实现高效的批处理，提示词-响应对被填充到统一的序列长度。遵循从 ARLM 训练中继承的惯例，现有的 MDLM 通常使用重复的 [EOS]（序列结束）Token 作为填充。

这种做法造成了训练与推理的角色不匹配，导致了 [EOS] 溢出，尤其是在大块解码（large-block decoding）场景下：

[EOS] 的双重角色： 在训练期间，[EOS] 承担着双重功能：它既是实际响应的语义终止符，又是序列剩余部分的填充 Token。因此，模型学会了将高 [EOS] 概率与序列尾部联系起来，实际上是将 [EOS] 视为一种“长度信号”，指示响应应该在哪里结束。
推理失败： 在推理期间，MDLM 在固定画布上运行。如果模型根据学到的长度信号，在画布尾部产生了高置信度的 [EOS] Token，这些已确定的 Token 会成为后续去噪步骤的双向上下文的一部分。这会导致模型将 [EOS] 概率向左侧传播，从而导致过早终止以及出现重复的 [EOS] Token，即使语义内容尚未完成。这种现象被称为 [EOS] 溢出，它降低了生成质量并限制了大块解码策略的有效性。

方法论：VoidPadding

作者提出了 VoidPadding，这是一种将语义终止角色与填充角色解耦的训练-推理协同设计。

1. 训练设计：引入 `[VOID]`

不同于使用 [EOS] 进行填充，训练数据被格式化为 [prompt] [response] [EOS] [VOID]*。

[EOS]：专门用于语义终止。它在每个样本中仅出现一次，紧跟在响应之后。
[VOID]：引入了一种新的 Token 类型，仅用于填充序列的剩余部分。
训练目标：模型被训练以预测掩码位置上的原始 Token。至关重要的一点是，单个 [EOS] Token 在训练期间始终被掩码，从而迫使模型严格将 [EOS] 学习为稳定的语义终止符，而非填充伪影。[VOID] Token 同样被掩码，使模型学习将 [VOID] 与画布的“未使用”部分相关联。

2. 推理设计：解耦停止与扩展

VoidPadding 为推理引入了两个互补机制：

[EOS] 终止（早期停止）：
- 标准的 MDLM 停止规则（VanillaStopping）要求解码整个画布或直到所有掩码被填满，这通常会导致在语义终点之后产生冗余生成。
- VoidPadding 实现了 [EOS] 终止：一旦最左侧可见 [EOS] 左侧的所有位置都已去掩码，解码即停止。模型会丢弃剩余的画布（包括任何 [VOID] 填充）。
- 为了防止 [VOID] 出现在输出中，其 Logits 在 Token 选择过程中被设为 $-\infty$ ，确保其保持为隐藏信号。
VoidExpansion（自适应画布分配）：
- MDLM 需要预分配画布。如果初始画布过短，生成质量会下降。
- VoidExpansion 利用学习到的 [VOID] 长度信号。在解码之前，模型会对当前画布的尾部进行评估。如果尾部位置表现出对非 [VOID] Token 的强烈偏好（表明画布不足），则画布将按一个块大小（ $B$ ）进行扩展。
- 此过程重复进行，直到尾部偏好转向 [VOID]（表明长度足够）或达到最大长度。这使得模型能够自适应地分配画布空间，而不依赖于脆弱的 [EOS] 信号。

核心贡献

机制分析： 本文系统地识别了 [EOS] 溢出的根本原因，即在指令微调期间，[EOS] 被同时用于填充和终止，从而创造了一个与双向上下文冲突的学习到的长度信号。
VoidPadding 框架： 提出了一个轻量级的训练-推理协同设计，引入 [VOID] 用于填充，并将 [EOS] 保留用于终止。这实现了可靠的早期停止（[EOS] 终止）和自适应画布扩展（VoidExpansion）。
实证验证： 大量实验证明，VoidPadding 防止了 [EOS] 溢出，显著提高了数学推理和代码生成基准测试中的生成质量，并通过实现早期终止降低了解码计算成本（NFE）。

结果

实验在 LLaDA-8B-Instruct 和 Dream-7B-Instruct 上针对四个基准测试进行了评估：GSM8K、MATH500、HumanEval 和 MBPP。

对块大小（Block Size）的鲁棒性：
- 在 Dream-7B-Instruct 上，VoidPadding 比原模型提升了 17.84 分，比之前的最先进方法 RainbowPadding 提升了 6.95 分（基于块大小平均的四任务得分）。
- 在 LLaDA-8B-Instruct 上，其表现比原模型提升了 7.06 分，比 RainbowPadding 提升了 3.59 分。
- 至关重要的是，当块大小增加时，原模型性能严重下降（例如，LLaDA 在 GSM8K 上从 ~~76% 降至 ~28%），而 VoidPadding 保持了稳定的性能（~~78%）。
解码效率：
- 通过利用 [EOS] 终止，VoidPadding 显著降低了前向评估次数（NFE）。在 Dream-7B-Instruct 上，NFE 平均减少了 55.7%，其中在 GSM8K 上减少了 69.3%，在 MBPP 上减少了 84.6%（与标准的 512 步要求相比）。
变长生成：
- VoidExpansion 策略使其能够有效处理较短的初始画布（如 $L_0=64$ ）。在 LLaDA 上，完整的 VoidPadding + VoidExpansion 方法达到了 51.34 的平均分，优于仅推理的基准方法 DAEDAL (50.77) 和 $\rho\text{-}[EOS]$ (45.50)，同时运行速度快了 2.12 倍（墙钟时间）。
- 在大块压力测试（ $L_0=256, B=256$ ）下，依赖原始 [EOS] 信号的仅推理方法崩溃了（DAEDAL 平均分降至 23.46），而 VoidExpansion 保持了 50.04 的稳健平均分。

重要性与主张

本文声称，[EOS] 溢出并非模型容量的失败，而是源于学习到的长度先验、双向上下文与标准采样规则之间相互作用的结构性失败。通过将填充与终止解耦，VoidPadding 解决了这种不匹配。

作者将 VoidPadding 定位为 MDLM 的必要适配，认为从 ARLM 继承的惯例（如使用 [EOS] 进行填充）在因果掩码下是“基本无害的”，但在双向去噪下会变得“脆弱”。该方法为解锁扩散模型中大块解码的全部潜力提供了一条切实路径，不仅提高了复杂推理输出的质量，还提升了生成过程的效率。论文总结道，未来的 MDLM 设计必须在双向条件下明确考虑 Token 提交时机、画布分配和停止决策，而不是依赖自回归假设。