💬 NLP

Repair, Not Improvement: Decomposing Constrained Decoding in Tool-Call Abstention

本文表明，在工具调用场景中的约束解码往往无法修复弃权错误，因为强制执行停止标记带来的负面影响通常超过了限制标记选择所带来的益处，这最终揭示了先前关于语言特定性能差异的说法是缺乏依据的。

原作者： Janghoon Lee (Redrob)

发布于 2026-08-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Janghoon Lee (Redrob)

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

背景设定：AI、规则与说“不”的艺术

想象一下，你正在教一个非常勤奋、反应极快的机器人成为一名得力的助手。这个机器人擅长写故事、解数学题，甚至能假装成一名巫师。但有一个问题：有时，机器人能做的最好的事情就是承认自己不知道答案，或者承认自己不应该做任何事。在 AI 世界中，这被称为“弃权”（abstention）。如果你问机器人天气预报，但实际上你想知道的是法律机密，机器人应该说“我无法处理此请求”，而不是自信满满地编造一个虚假的法律意见。

为了防止这些机器人编造荒诞的故事或违反规则，工程师们使用了一种叫做“约束解码”（constrained decoding）的小技巧。把这想象成给机器人一本严格的涂色书。与其让机器人在页面上随处涂鸦，不如规定它只能在特定的轮廓内（比如 JSON 格式或允许使用的工具列表）进行涂色。如果机器人试图画到轮廓之外，计算机就会立即阻止它。长期以来，科学家们认为这个技巧几乎是“免费”的：它能让机器人的回答看起来完美且整洁，而不会损害其本身的脑力。但有一个疑问始终悬在头顶：当机器人需要说“我不能做这件事”时，会发生什么？那本严格的涂色书是否会强迫机器人即使在不该行动时也必须选择一个工具？这篇论文正是针对这一问题展开研究，测试了那些让回答看起来完美的规则，是否真的破坏了机器人识别何时停止的能力。

故事内容：当规则破坏了“拒绝按钮”

研究人员决定通过一个聪明的实验来验证这个想法。他们选取了几个 AI 模型（从拥有 6 亿个“脑细胞”的小型模型到稍大的 40 亿参数模型），并问了它们一个简单的问题：“我应该使用工具，还是直接说‘无’（None）？”他们使用了英语和韩语两种语言进行测试，以观察语言是否会改变结果。

为了准确理解问题出在哪里，他们并没有仅仅对比“自由回答”与“受限回答”，而是增加了一个中间步骤，就像一部三幕剧：

自由幕（The Free Act）： 机器人可以随心所欲地回答，并有充足的空间进行解释。
短促幕（The Short Act）： 机器人只用一行回答，但它仍然可以自由表达。这测试了仅仅切断机器人的解释是否会损害其准确性。
受限幕（The Restricted Act）： 机器人用一行回答，但被迫必须从一个严格的工具列表中进行选择（或选择“无”）。这是标准的“约束解码”方法。

通过对比这三幕，科学家们可以将两个不同的问题区分开来：一是缩短机器人言论所带来的代价，二是强迫其从列表中做出选择所带来的代价。

重大发现：是修复，而非提升

结果令人惊讶，甚至有些反直觉。论文发现，当你强迫机器人从一个严格的工具列表中进行选择时，它并不会变得更聪明于决定何时说“不”。事实上，对于最小的模型来说，严格的规则显著降低了它们弃权的能力。在一种特定情况下（即在韩语环境下使用 0.6B 的微型模型），与让机器人自由表达相比，严格的规则导致准确率下降了 29.5 个百分点。

然而，当你观察规则在某些情况下为何能起到作用时，故事变得更有趣了。研究人员发现，严格的规则更像是一个“修理包”，而不是“大脑升级包”。当机器人被迫从列表中选择时，它不再产生乱码或无法阅读的文本。它将“胡言乱语”转化成了“看起来正确的答案”。但它并没有将“错误的决策”转化为“正确的决策”。

这里是关键所在：研究人员查看了 698 个规则将错误答案转变为正确答案的实例。他们发现，其中 545 个案例是机器人原本完全无法生成可读的答案。而在机器人已经做出了正确决策但被格式限制住的情况下，这类案例的数量为零。这意味着规则并没有修复机器人的判断力，它们只是修复了机器人的“笔迹”。

隐藏陷阱：“停止”标记 vs. “枚举”

论文还将严格规则拆解为两个部分，以找出谁才是“罪魁祸首”：

停止标记（The Stop Token）： 这是规定“在写完一行后停止”的规则。
枚举（The Enum）： 这是规定“你只能从这个特定的工具列表中进行选择”的规则。

他们发现这两个部分正在互相冲突。“停止标记”（缩短回答长度）实际上是主要原因，它在某些情况下降低了机器人说“无”的能力，降幅约为 20.0 点。而“枚举”（工具列表）则试图通过补回约 19.5 点 的准确率来修复这一问题。当两者结合在一起时，它们几乎相互抵消，最终只留下了 0.5 点 的微小净损失。

这解释了为什么之前的研究可能会忽略这个问题。如果你只看最终的数字，看起来规则似乎没造成什么伤害。但如果你深入了解其内部机制，你会看到一个巨大的损失被一个巨大的修复所掩盖。规则并没有改善机器人的决策能力，它们只是修补了因缩短机器人言论而造成的损伤。

结论：不要期待大脑升级

论文最后向所有构建 AI 系统的人发出了明确的警告。如果你使用严格的格式化规则来让你的 AI 看起来更专业，不要指望它会变得更擅长知道何时“不作为”。这些规则会让输出看起来整洁易读，但它们无法修复一个对“是否应该行动”感到困惑的机器人。

事实上，这项研究表明，这些规则可能会促使机器人比预期更频繁地采取行动。当机器人被迫从列表中做出选择时，它往往会将自己的“决策线”向“选择工具”的方向移动，即使正确答案应该是“不做任何事”。这对安全性来说是危险的：一个被迫选择工具的机器人，在你询问法律问题时，可能会自信地调用天气 API，仅仅是因为规则没有给它一个清晰的表达“我无法处理”的方式。

研究人员在不同模型和语言（英语和韩语）中进行了测试，发现这一模式依然成立。严格的规则对于修复混乱的文本非常有效，但它们并不是提升判断力的魔杖。正如论文所言，这些规则“让不可读的输出变得可读，这虽然值得拥有，但它们仅仅是将判断力维持在了原样”。因此，如果你希望你的 AI 知道何时说“不”，你不能仅仅依靠一份严格的清单；你必须教会机器人本身如何停下来。

技术摘要：修复而非改进：分解工具调用弃权中的受限解码

问题陈述

最近关于受限解码（例如 Lee et al., 2026a）的研究表明，格式约束（如 JSON schema）会带来性能成本，但这一成本的大部分源于提示词指令（prompt instructions）而非解码器强制执行。然而，先前的研究明确将工具调用（function calling）排除在结论之外，指出在该领域，约束编码的是正确性要求（排除特定的答案），而非仅仅是呈现偏好（排除特定的书写方式）。

本文研究了**工具调用弃权（tool-call abstention）**这一特定场景：即在没有任何工具适用的情况下，模型必须正确地拒绝调用任何工具。在这种设定下，受限解码器（被限制在由工具名称和弃权标记组成的枚举集合中）面临着独特的挑战。约束不仅是在格式化输出，它还在限制可能的答案集，可能会删除正确的“无工具”决策。核心问题在于：正如先前研究在其他格式中暗示的那样，解码器对性能下降的贡献是否可以忽略不计；或者，由于约束直接干扰了模型的判断，其影响是否显著。

研究方法

本研究采用严谨的实验设计，旨在隔离解码器与提示词的影响，并将长度约束与词汇约束的效果区分开来。

实验设置

模型： 开源 Qwen3 模型（0.6B、1.7B 和 4B 参数）。
语言： 英语和韩语。
基准测试： MetaTool Task2，利用“需要工具”和“工具弃权”的匹配对。数据集包含 200 个弃权项和 200 个工具需求项，且两类情况下的查询内容完全一致。
评分： 采用 Lee et al. (2026b) 中的严格确定性规则。只有当输出包含弃权标记且不包含任何工具名称（或出现在其后的工具名称）时，才视为弃权正确。多候选输出被判定为错误。

三条件设计

为了分解“约束税（constraint tax）”，作者在字节完全相同的提示词上运行了三种条件：

contract-free（无约束）：无约束生成，带有 256 个 token 的预算（允许进行解释说明）。
contract-short（短约束）：无约束生成，但在第一个换行符处停止（移除了解释能力，从而隔离出长度限制的成本）。
constrained（受限）：生成被限制在 10 个候选工具及弃权标记的枚举集合中，并在第一个换行符处停止。

指标与分解

作者定义了三个差异值来隔离特定影响：

$\Delta_{length}$ ：acc(short) - acc(free)。衡量限制输出长度（在第一行停止）带来的成本。
$\Delta_{mask}$ ：acc(constrained) - acc(short)。在长度已受控的情况下，衡量语法（即枚举）带来的边际成本。
$\Delta_{total}$ ：acc(constrained) - acc(free)。受限解码的总成本，是上述两者的总和。

这种设计使作者能够区分“格式化”成本（提前停止）与“掩码（masking）”成本（限制 token 集）。

机制变量

研究测量了 masked_mass，定义为模型在无约束条件下分配给被枚举语法禁止的 token 的概率质量。这是 Reddy et al. (2026) 提出的“可行质量（feasible mass）”的补集。

核心贡献

约束税的分解： 本文证明，在工具弃权设定下，受限解码的总成本并非单一的负值，而是两个具有相反符号的组件之和。
- 停止标记（stop token）（长度约束）通常会导致显著的准确率下降（例如 -20.0 点）。
- 枚举约束（enum constraint）（词汇掩码）通常会回收一部分损失（例如 +19.5 点）。
- 因此，总效应 ( $\Delta_{total}$ ) 可能接近于零或为负，这掩盖了语法实际上是在“修复”由长度约束造成的损伤，而非提升模型内在判断力的事实。
修复而非改进： 作者展示了约束并不能提高模型的决策能力。在 698 个被约束“修复”的弃权案例（从错误变为正确）中，545 个案例在无约束输出中没有可读答案，且 0 个案例是模型已做出正确判断但因格式问题失败的情况。约束仅仅是强迫模型输出一个有效的 token，从而恢复了可读性，但并未增强底层的逻辑。
决策边界的偏移： 虽然约束“修复”了可读性，但它也移动了决策边界。与自由生成基准相比，约束增加了工具选择的准确率，但降低了弃权准确率。这表明语法会将模型推向命名某个工具，即使此时弃权才是正确的。
语言无关性： 与认为语言特定概率分布会改变成本的假设相反，研究发现，项内统计量（比较两种语言在均正确的情况下项的失败情况）显示，韩语和英语之间没有显著差异。然而，掩码概率质量并不能完全解释语言差异：在逻辑回归中，语言系数排除了零，表明存在掩码变量无法解释的残余语言效应。
非线性机制： masked_mass 与弃权惩罚之间的关系不是线性的。在约 0.480 处存在一个断点。在此阈值之下，质量对惩罚的预测作用很小；超过此阈值后，惩罚急剧增加。

结果

弃权性能： 相对于无约束的自由生成基准，弃权上的 $\Delta_{total}$ 为负值（表示性能下降），且在六个模型/语言单元中有四个单元的区间不包含零，最坏情况下的降幅为 -29.5 点。它从未出现过区间不包含零的正值。
分解结果： 在最小的模型（0.6B）韩语实验中，仅停止标记就造成了 -20.0 点的损失，但加入枚举后回收了 +19.5 点，净成本为 -0.5。这证实了“修复”假设：语法修复了由停止标记造成的损伤。
工具选择： 在需要工具的项上，约束一致地提高了准确率（所有单元中 $\Delta_{total}$ 均为正），证实了当确实需要工具时，约束是有帮助的。
语言主张： 关于语言差异的预注册主张均未能支持最初的假设。项内统计量显示韩语和英语之间没有显著差异，且掩码概率质量并未吸收区分两者的方差（回归中的语言系数依然显著）。

意义与主张

本文得出结论，先前研究中发现的约束“近乎免费”的现象在函数调用弃权中并不成立。其主要意义在于对约束效应的分解：

关注点分离： 停止标记（长度控制）和枚举（词汇控制）是具有相反影响的可分离组件。使用两条件设计（对比自由生成与受限生成）会将它们合并为一个数字，从而可能掩盖一个巨大的损失和一个巨大的回收过程。
收益的本质： 在此设定下，受限解码带来的收益是形式（form）而非判断（judgement）。它使不可读的输出变得可读，但并未提高模型决定何时弃权的能力。事实上，它可能通过偏向于调用工具来削弱这种决策能力。
实践启示： 从业者应当分别报告停止标记和语法的影响。依赖单一的聚合指标可能会导致错误的结论，即认为受限解码对弃权是中性或有益的，而实际上，它可能正在积极损害模型正确拒绝工具调用的能力。

本文保持了适度的研究范围，指出其发现仅针对弃权设定及所使用的特定基准（在该基准中，金标准工具始终是第一个候选，这一特性限制了泛化性，但不影响所测量的差异）。本文并未提出新的训练方法或架构，而是提供了一个测量框架，以更好地理解当前推理时约束的成本。