💬 NLP

Decoupling Task-Solving and Output Formatting in LLM Generation

本文介绍了 Deco-G，这是一个通过专门的格式估计模块将问题解决过程与僵化的格式要求解耦，从而在不阻碍推理的情况下确保合规性，进而提升大语言模型在复杂任务上表现的解码框架。

原作者： Haikang Deng, Po-Nien Kung, Nanyun Peng

发布于 2026-07-13

📖 1 分钟阅读☕ 轻松阅读

原作者： Haikang Deng, Po-Nien Kung, Nanyun Peng

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正要求一个超级聪明的机器人去解决一个棘手的数学难题，但你还要求它必须以一种非常特定、僵化的格式来写出答案，比如“最终答案是 42。” 通常情况下，当你把“深度思考”的部分和“完美写作”的部分混合在一个庞大的指令中时，机器人会感到困惑。这就像是在走钢丝的同时还要玩杂耍：它要么会丢掉球（数学题），要么会被绳子绊倒（格式要求）。

Haikang Deng 及其同事发表的一篇论文介绍了一种名为 DECO-G 的新系统来解决这个问题。你可以把 DECO-G 想象成两个专家之间的精妙协作：一位是问题解决者（Problem Solver），另一位是格式警察（Format Police Officer）。

问题所在：“纠缠”的混乱

在旧的方法中，你会给机器人一个巨大的提示词：“解决这个数学问题，并且确保你把答案写在一个 JSON 框里。” 这篇论文认为这种“纠缠”会损害机器人的大脑。他们指出，当机器人试图同时完成这两件事时，它为了满足格式规则而开始在数学上出错。

作者明确反对仅仅告诉机器人“要小心”，或者使用僵化的预设模板（比如强迫它按部就班地遵循严格的 JSON 模式）是最好的解决方案。他们发现，这些僵化的方法往往会在机器人思考的中途切断它的思路，导致即使格式看起来很完美，答案也会变得不连贯或数学错误。

解决方案：双团队策略

DECO-G 将工作进行了拆分：

问题解决者（LLM）： 这是主机器人。它只接收数学问题。它完全不需要担心格式问题。它只需自由地思考、推理并解决问题。
格式警察（FEM）： 这是一个独立的、较小的辅助模块。它不解决数学问题。它的唯一任务是观察机器人的输出，并轻声提醒：“嘿，你快接近结尾了，但在给出数字之前，你需要说‘最终答案是’。”

奇迹发生在它们交流的方式上。格式警察使用一种特殊的“概率前瞻”（一种窥探未来的高级方式）来猜测：“如果机器人现在说‘最终’，它能正确完成句子的概率是多少？” 如果概率很低，警察就会轻轻地引导机器人的下一个词，将其重新引回正轨，而不会强行中断它的思考过程。

秘密武器

为了让这种协作既快速又不会拖慢计算机的速度，作者引入了三个酷炫的技巧：

指令感知蒸馏（Instruction-Aware Distillation）： 他们没有在随机、枯燥的聊天数据上训练格式警察，而是专门针对机器人解决实际问题时的行为进行训练。这使得警察更聪明，能更好地预判机器人下一步可能做什么。
灵活的 Trie 树构建（Flexible Trie Building）： 想象一张关于答案可能呈现形式的所有路径的地图。通常，如果答案长度不一，这些地图会变得巨大且混乱。作者构建了一张“灵活”的地图，通过合并路径，使得计算机不会因为尝试检查每一个可能性而过载。
HMM 状态剪枝（HMM State Pruning）： 格式警察拥有一个拥有数千个隐藏状态的庞大大脑。作者意识到，大多数时候，机器人其实只关心极少数的状态。因此，他们让警察忽略其余部分，这使得每一步的计算工作量减少了约 13 倍（从大约 1.08 GFLOPs 降至 0.08 GFLOPs），同时保持了几乎相同的准确度。

数据说明

团队在三个不同的挑战中测试了该系统：

数学问题 (GSM8k)： 在解决小学数学问题时，DECO-G 始终优于其他方法。例如，在 Llama-3.1-8B 模型上，它在保持 100% 格式合规性的同时，拿到了 85.2% 的正确率。相比之下，一种被称为“Outlines”的僵化方法仅获得了 81.3% 的正确率，而标准的“仅提示词（Prompt-Only）”方法虽然达到了 82.3% 的正确率，但大多数时候都无法通过格式校验。
事件抽取（Event Extraction）： 当被要求从新闻故事中提取特定细节时，DECO-G 提高了识别谁做了什么（Argument Id 指标上升至 Llama 的 39.4）。
LLM 作为评委（LLM-as-a-Judge）： 当机器人需要对摘要进行评分时，DECO-G 帮助它更好地与人类评委保持一致，实现了最高的平均相关性得分（例如 Coherence 指标在 Llama 上达到了 0.418）。

结论

论文表明，通过将“思考”与“格式化”分离，我们可以获得两全其美的结果：既有数学上的正确性，又有完美的格式。作者通过真实数据集衡量了这一点，发现 DECO-G 始终优于试图一次性完成所有任务或使用强制约束的方法。

然而，他们也提到了一些注意事项。这个系统并不是一个能立即应用在任何机器人身上的魔杖；你必须为使用的每个特定机器人模型训练一个新的“格式警察”。此外，对于某些模型（如 Qwen 系列），机器人的大脑过于专注，因此你必须加大对格式警察的控制力度（使用控制因子 γ=2）才能让它听从指挥。

简而言之，DECO-G 建议，如果你想让一个机器人既是数学天才又是格式完美主义者，就不要让它同时做这两件事。给它一个处理规则的搭档，然后看它大放异彩。

技术摘要：解耦 LLM 生成中的任务求解与输出格式化

问题陈述

大语言模型（LLMs）在数学问题求解和自动评估等复杂推理任务中展现出了日益增强的能力。然而，当提示词（prompts）将任务指令与严格的输出格式要求结合在一起时，性能往往会下降。这种“纠缠”迫使模型同时优化推理准确性和严格的格式遵循度，这种竞争性的目标阻碍了模型的推理能力。

现有方法试图通过两个主要途径来缓解这一问题，但两者都存在局限性：

放宽约束： 移除或软化格式要求通常会导致合规率低下，使得输出无法用于结构化应用。
约束解码： 诸如 Outlines 或 Guidance 之类的框架通过强制执行严格的 Token 转移来保证格式合规。然而，这些方法往往以侵入式的方式进行干预，破坏了模型的内部推理流，导致输出出现突发中断或逻辑不连贯。

最近的研究（例如 Tam 等人，2024；Long 等人，2025）表明，更严格的约束与更大的推理退化相关联，这表明迫切需要一个能够在不牺牲 LLM 推理潜力的前提下，实现格式约束与任务求解解耦的框架。

方法论：DECO-G

作者提出了 DECO-G，这是一个显式分离任务推理与输出格式化的解码框架。其核心理念是将格式遵循的任务委派给一个辅助模块，从而允许主 LLM 仅专注于问题求解。

架构

该框架通过一个双模块系统运行：

任务求解 LLM： 仅接收特定任务的提示词（例如一个数学问题），而不包含显式的格式指令。
格式估计模块 (FEM)： 接收格式约束（例如“最终答案是...”）。FEM 进行概率前瞻，以估计未来 Token 序列满足格式约束的可能性。

在每个解码步骤中，FEM 估计的合规概率被用于重新加权 LLM 原有的 Token 分布。最终的概率分布构建如下：
$P(x_t|x_{<t}, \alpha) \propto P_{LM}(x_t|x_{<t}) [P_{FEM}(\alpha|x_{<t}, x_t)]^\gamma$
其中 $\alpha$ 代表格式约束， $\gamma$ 是转向强度超参数。

关键技术创新

为了使该方法具有实用性和高效性，作者引入了三项具体的创新：

指令感知蒸馏 (Instruction-Aware Distillation)：
以往的可控生成方法（如 GeLaTo, Ctrl-G）通过无条件随机采样来蒸馏隐马尔可夫模型 (HMM)。这无法捕捉微调后 LLM 的指令条件行为。DECO-G 通过仅在 Natural-Instructions-v2 数据集的指令-响应对上进行 HMM 蒸馏来解决这一问题。这确保了 FEM 能够准确建模 LLM 在遵循特定任务指令时的行为。
灵活的 Trie 树构建 (Flexible Trie Construction)：
现实世界的格式约束通常涉及包含固定文本（枢轴/Pivots）和变长字段（通配符/Wildcards）的复杂模板。标准的确定性有限自动机 (DFA) 构建在处理链式变长段时会导致状态空间爆炸 ( $O(K^N)$ )。DECO-G 引入了一种灵活的 Trie 算法来强制执行状态收敛 (State Convergence)。该策略将通配符段的所有有效路径合并回下一个段的单一规范入口状态，从而将复杂度降低至线性增长 ( $O(N \times K)$ )。
HMM 状态剪枝 (HMM State Pruning)：
FEM 中的概率前瞻涉及在整个词表上计算发射概率，这在计算上是非常昂贵的 ( $O(h|V|)$ )。作者观察到隐状态分布具有高度稀疏性。通过将 HMM 剪枝为仅考虑前 $k$ 个最可能的统计状态（例如前 5%），他们将复杂度降低到 $O(k|V| + h \log h)$ 。实验结果表明，仅保留 5% 的状态即可保留超过 98% 的模型性能，同时减少约 13 倍的 FLOPs。

实验结果

作者在三个不同的任务上评估了 DECO-G：数学推理 (GSM8k)、事件论元提取 (ACE05) 和 LLM-as-a-Judge (SummEval)，使用了包括 Llama-3.1-8B、Qwen2.5-7B 和 Qwen3-8B 在内的模型。

数学推理 (GSM8k)： DECO-G 持续优于基准模型。虽然标准提示词 (Prompt-Only) 实现了高准确度但格式合规度低，而结构化生成 (Outlines) 保证了合规性但降低了准确度，但 DECO-G 在保持或提高推理准确度的同时实现了 100% 的格式合规性。例如，在 Llama-3.1-8B 上，DECO-G 达到了 85.2% 的准确度，而 Outlines 为 81.3%，Prompt-Only (NL) 为 82.3%。
事件论元提取 (ACE05)： DECO-G 提高了整体提取质量，特别是在识别论元 ID (AI) 和论元附着 ID (AI+) 方面，这表明角色与提取论元之间的集成得到了更好的实现。
LLM-as-a-Judge (SummEval)： DECO-G 在连贯性、一致性、流畅度和相关性指标方面展现出与人类标注者最强的平均相关性。定性分析显示，DECO-G 允许在任意位置更自然地整合评分短语，而基准模型通常强制要求僵硬地追加评分。

意义与主张

论文声称，DECO-G 通过在推理与格式化之间实现“责任分离”，代表了可控文本生成的一种新范式。

保留推理能力： 通过将格式化的认知负担从 LLM 的即时生成过程中移除，该框架释放了模型的全部推理潜力。
保证合规性： 与无约束提示不同，DECO-G 通过 FEM 的重加权机制提供了格式遵循的数学保证。
实际效率： 通过指令感知蒸馏、灵活的 Trie 树构建和状态剪枝，作者证明了其计算开销是微不足道的（仅占 LLM 主前向传播的约 0.53%），使该框架在实际部署中变得可行。

作者总结道，这种解耦方法带来了整体性能的提升，其驱动力在于能够在不产生传统刚性解码框架所带来的推理退化的情况下，强制执行严格的约束。他们也承认了局限性，例如需要为不同的 LLM 系列蒸馏新的 HMM，以及转向超参数 $\gamma$ 对模型 Token 分布偏斜度的敏感性。