🤖 machine learning

Continuous Diffusion Models Can Obey Formal Syntax

本文介绍了 Diffinity，这是一种无需训练的引导方法，它通过分析性得分来引导采样，使连续扩散语言模型能够满足形式化语法约束（如正则表达式），从而在无需辅助分类器或重新训练的情况下实现高约束满足率和输出质量。

原作者： Jinwoo Kim, Taylor Berg-Kirkpatrick, Loris D'Antoni

发布于 2026-05-28

📖 1 分钟阅读☕ 轻松阅读

原作者： Jinwoo Kim, Taylor Berg-Kirkpatrick, Loris D'Antoni

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在尝试烘焙一个完美的蛋糕，但你必须遵循一份非常严格的食谱（即“形式语法”）。如果你漏掉了一种配料，或者打乱了步骤的顺序，蛋糕就会毁掉。

问题所在：“模糊”的烘焙师
当今大多数人工智能语言模型的工作方式，就像一位从左到右逐一添加配料的烘焙师。如果他们在中途意识到忘了加糖，就很难在不从头开始的情况下回头修正。这被称为“自回归”生成。

然而，一种名为扩散模型的新型人工智能工作方式则不同。想象这个模型从一个装满纯粹、混乱噪声的碗里开始（就像一碗面粉、鸡蛋和糖被随机混合在一起）。随着时间的推移，它慢慢地对混合物进行“去噪”，一步步地 refinement，直到一个清晰的蛋糕显现出来。问题在于，因为它是在处理一种“模糊”的、连续的混合物，而不是离散的配料，所以很难告诉它：“确保这个蛋糕必须是一个 JSON 文件”或者“它必须符合这个特定模式”。人工智能并不自然地理解这些严格的规则，因为它习惯于只生成“看起来不错”的文本。

解决方案：DIFFINITY（食谱指南）
这篇论文的作者创造了一种名为DIFFINITY的工具。你可以把 DIFFINITY 想象成一位站在“模糊”烘焙师身旁的超级聪明的食谱指南。

DIFFINITY 不会强迫烘焙师停下来更换配料（那会毁掉蛋糕的味道），而是在烘焙师正在混合时，轻轻地引导他的手。它会说：“嘿，目前的混合物看起来正朝着有效的 JSON 文件发展，继续朝这个方向走！”或者“哎呀，那条路通向一个破碎的句子，稍微向左转。”

工作原理（魔法技巧）
通常，要让人工智能遵循规则，你必须训练一个单独的“裁判”（分类器）来检查工作并给出“通过”或“失败”的判定。这需要大量的时间和计算能力。

DIFFINITY 的特别之处在于它是无需训练的。它不需要新的裁判。相反，它利用数学即时计算出当前的“模糊”混合物最终变成有效蛋糕的概率。

它将严格的规则（如正则表达式）翻译成一张地图（有限自动机）。
它观察人工智能“噪声”的当前状态，并计算：“如果我们继续这样走下去，我们到达终点的几率有多大？”
它利用这个计算结果，温和地将人工智能推向“有效”的路径。

结果：更好的蛋糕，更少的错误
作者在两种类型的任务上测试了这种方法：

JSON 文件：严格的结构化数据格式（如数字发票）。
自然语言：具有特定模式的句子（如“以'Hello'开头，以'World'结尾”）。

他们发现 DIFFINITY 在遵循规则方面表现出色：

高成功率：它满足严格规则的概率在 68% 到 96% 之间。
更好的质量：与其他迫使人工智能遵循规则却最终产生胡言乱语的方法不同，DIFFINITY 保持了文本听起来自然且高质量。
超越竞争对手：在遵循复杂规则而不陷入循环或犯错方面，它的表现实际上优于标准的“从左到右”烘焙师（自回归模型）。

局限性（代价）
唯一的缺点是速度。因为 DIFFINITY 必须在每一步进行繁重的数学计算（将地图与混合物进行核对），所以生成一个句子所需的时间大约是人工智能独立工作时的 2 到 3 倍。然而，作者认为，获得完美且遵循规则的结果值得额外的等待时间。

总结
DIFFINITY 教会了“模糊”的、连续的人工智能如何遵循严格的、离散的规则（如代码或特定的句子结构），而无需重新训练人工智能或牺牲文本质量。它通过使用数学“指南针”来引导人工智能的生成过程走向有效的结果。

技术摘要：连续扩散模型可遵循形式语法

问题陈述

扩散语言模型通过支持全局、非因果的生成过程，为自回归模型提供了一种极具吸引力的替代方案，这对于需要双向上下文或全局修订的任务（例如填充、长程规划）尤为有益。然而，一个显著的局限性依然存在：这些模型的连续潜在动力学使得施加离散语法约束变得困难，例如确保输出符合 JSON 模式或特定的正则表达式（regex）。

在自回归模型中，语法有效性通常通过约束解码来强制执行，即过滤下一个 token 的选择以确保最终输出格式正确。该机制依赖于维护一个显式的离散前缀。相比之下，连续扩散模型在每个时间步操作整个序列的连续潜在表示，缺乏显式的离散前缀。因此，约束解码的核心原语——屏蔽会导致前缀无法完成的下一个 token 选择——无法直接迁移。现有的针对扩散模型的适配方案通常针对专门的离散变体，或依赖于分类器引导，这需要为每个特定约束训练一个辅助模型，对于庞大的正则表达式空间而言，这是一种资源密集型且不切实际的方法。

方法论：DIFFINITY

作者提出了 DIFFINITY，一种无需训练的引导方法，旨在引导连续扩散语言模型满足以正则表达式表示的形式语法约束。该方法借鉴了分类器引导的原则，但用解析计算的分数替代了对训练有素的辅助分类器的需求。

核心机制

该方法通过修改扩散过程的去噪步骤来运作。采样轨迹不再从基础模型的预测分布中采样，而是利用源自语法有效性的概率梯度项进行偏移。

解析分数计算：
该方法构建了一个解析估计，用于计算潜在状态 $x_t$ 解码为被给定正则语言 $L$ 接受的有效字符串的概率。
- 解码器 $Dec(x_t)$ 被视为针对每个 token 位置在词汇表上发射一个一元分布（unigram distribution）。
- 正则语言 $L$ 被表示为确定性有限自动机（DFA）。
- 为了解决字符级正则定义与 token 级模型词汇表之间的不匹配问题，作者引入了词汇表对齐自动机的构建。这将 DFA 与模型的 tokenizer 对齐，确保字符串的所有有效分词都被纳入考量。
- 利用动态规划，该方法基于当前的一元分布计算加权转移矩阵（ $M_1, \dots, M_l$ ）。期望概率 $E_{s \sim Dec(x_t)}[s \in L]$ 通过将初始状态分布通过这些矩阵传播并求和到达接受状态的概率来计算。
引导采样：
去噪步骤修改如下：
$x_{t-1} = \mu_\theta(x_t, t) + \gamma \sigma_t^2 \nabla_{x_t} \log E_{s \sim Dec(x_t)}[s \in L] + \sigma_t \epsilon$
其中， $\mu_\theta(x_t, t)$ 是基础模型的预测，梯度项 $\nabla_{x_t} \log E_{s \sim Dec(x_t)}[s \in L]$ 充当引导力。该梯度将潜在轨迹推向连续空间中解码为语法有效字符串的区域。超参数 $\gamma$ 控制该约束的强度。
理论依据：
作者证明，该方法近似于在语法有效性上对扩散采样器进行条件化。通过使用精确的解析期望而非学习到的代理，该方法针对条件分布 $Pr(x_0 | L)$ ，避免了训练单独分类器的不稳定性或成本。

主要贡献

无需训练的引导： 本文提出了一种方法，引导连续扩散模型满足离散正则约束，而无需训练辅助分类器。引导分数直接从约束本身解析计算得出。
理论框架： 作者提供了形式化论证，表明所得采样器针对的是基于语法有效性条件化的基础模型，将该方法与标准的基于分数的条件生成理论联系起来。
实现与评估： 该方法作为 DIFFINITY 在 PLAID 扩散模型之上实现。其在涵盖 JSON 模式和自然语言模式的 180 个正则表达式约束上进行了评估。

结果

评估将 DIFFINITY 与自回归约束解码（使用带有 Guidance 库的 GPT-2 变体）以及带有约束解码的离散扩散模型（LLaDA + DINGO）进行了比较。

约束满足率： DIFFINITY 实现了较高的约束满足率，在基准测试中范围从 68% 到 96%。
- 在 JSON 模式基准测试中，其满足率为 68.4%（相比之下 GPT-2 Large 约为 77%，但填充约束不同），Pass@10 为 91.4%。
- 在自然语言基准测试中，其平均满足率为 92.9%，显著优于 GPT-2 Large（20.5%），并与 LLaDA+DINGO（接近 100%）相当。
质量与困惑度：
- 与经常遭受“无限重复陷阱”（在低概率区域停滞）并扭曲模型分布的自回归约束解码不同，DIFFINITY 保持了高质量的文本。
- 与无约束采样相比，DIFFINITY 仅产生很小的困惑度成本。对于自然语言基准测试，DIFFINITY 的困惑度（60.0）与无约束基础模型（61.6）相当，而受约束的自回归模型通常表现出更高的困惑度或更低的流畅性。
- 在流畅性方面，DIFFINITY（35.8）超越了 GPT-2 Small 和 Medium，并与 GPT-2 Large 相当。
与分类器引导的比较： 标准分类器引导（在噪声潜在变量上训练）表现不佳，在 JSON 基准测试中满足率为 0%，在自然语言任务中满足率极低，突显了通过辅助分类器学习这些离散约束的困难。
计算开销： DIFFINITY 的延迟约为无条件生成的 2–3 倍，主要是由于自动机转移上的密集求和计算。内存使用量随对齐自动机中的转移和状态数量而扩展。

意义与主张

本文主张，连续扩散模型可以被有效地引导以遵循形式语法，而无需训练，也无需像自回归模型中的约束解码那样通常伴随分布扭曲。

鲁棒性： 研究表明，DIFFINITY 比自回归约束解码更可靠，特别是在有限的 token 预算下，自回归模型可能无法完成有效序列。
分布保持： 该方法在强制执行约束的同时，成功保持了基础模型的底层概率分布，避免了其他约束生成方法中会降低输出质量的“权宜”启发式方法。
泛化性： 虽然目前仅限于正则约束，但该框架提供了一种原则性的、无需训练的机制来引导连续扩散模型，为结构化生成提供了一种可行的替代方案，避免了资源密集型的分类器训练或离散扩散约束解码的结构限制。

作者总结道，尽管当前的计算开销不可忽略，但能够以高保真度生成语法有效的结构化输出，表明这是扩散模型结构化生成的一个有前景的方向。未来的工作建议专注于内存高效的数据结构和内核优化，以减少延迟。