💻 computer science

Task Abstention for Large Language Models in Code Generation

本文提出了一种具有理论依据且无需分布假设的方法，使大语言模型能够通过评估代码执行结果的一致性，来拒绝执行可能产生幻觉的代码生成任务，从而在不依赖外部测试用例的情况下实现更安全、更稳健的自动化编码。

原作者： Yanke Zhou, Yuhao Tan, Senrong Xu, Zenan Li, Yuan Yao, Taolue Chen, Xiaoxing Ma

发布于 2026-05-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Yanke Zhou, Yuhao Tan, Senrong Xu, Zenan Li, Yuan Yao, Taolue Chen, Xiaoxing Ma

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用通俗易懂的语言和生动的类比，对论文《大语言模型在代码生成中的任务放弃》进行的解读。

核心问题：“过度自信的厨师”

想象你雇佣了一位才华横溢但过度自信的厨师（即大语言模型，LLM），让他根据一份模糊的食谱描述来烹饪一道复杂的菜肴。有时，这位厨师表现出色，能做出完美的佳肴。但更多时候，厨师过于自信，端出的菜肴看起来美味诱人，实则难以下咽，甚至有毒（这被称为“幻觉”）。

目前，大多数安全检查都是在厨师已经做完菜之后才进行的。人们通过品尝来判断食物是否合格。如果食物不好，就将其倒掉。但此时，厨师已经浪费了时间和食材，而你也被端上了一道糟糕的饭菜。

这篇论文提出了一个不同的问题：我们能否教会厨师在切菜之前就说“我不知道怎么做这道菜”？

这被称为任务放弃（Task Abstention）。其核心在于知道何时拒绝一项任务，以避免犯错。

解决方案：CODEREFUSER

作者构建了一个名为CODEREFUSER的系统。你可以把它想象成厨师的“安全经理”。这位经理不仅查看食谱，还会在放行之前进行模拟，以评估厨师成功的可能性。

以下是这位安全经理的工作原理，分为三个简单步骤：

1. “预演”（校准阶段）

在安全经理能够做出决策之前，它需要先了解厨师的极限。

类比：想象经理给厨师 100 份练习食谱。对于每一份食谱，厨师都要尝试烹饪 64 次。
转折：经理不仅查看最终的菜肴，还会要求厨师为每份食谱构思一个“味觉测试”（即测试用例）。
问题：有时，厨师在构思味觉测试方面表现得太差，导致测试本身也是错误的（例如，要求使用负数个鸡蛋）。
修正（样本 - 测试双重过滤）：经理使用一种巧妙的技巧，称为样本 - 测试双重过滤（Sample-Test Dual Filtering）。它会审视厨师的 64 次尝试。如果厨师的“味觉测试”导致了 64 种截然不同且混乱的结果（有的爆炸，有的崩溃），经理就会意识到：“嘿，这个测试有问题，而不是厨师的问题！”它会剔除错误的测试，保留有效的测试。这确保了经理不会被厨师自身的困惑所误导。

2. 制定规则（“风险容忍度”）

一旦经理完成了练习，它就会为现实世界制定规则。

目标：经理希望确保，只要它说“开始烹饪”，厨师成功的概率就非常高。
数学原理（简化版）：经理使用一种称为“多重假设检验”的统计方法。想象经理手头有一份包含 1,000 个不同“停止标志”（阈值）的清单。它利用练习数据对所有这些标志进行测试，以找出那些能保证厨师失败率不超过（例如）20% 的具体标志。
结果：经理制定了一本严格的规则手册：“如果厨师的信心低于 X，或者测试结果过于混乱，立即停止。”

3. 真实任务（测试阶段）

现在，一位真实顾客点了一道菜。

厨师尝试烹饪几次（生成代码样本）。
厨师为这道特定的菜构思一个新的味觉测试。
安全经理再次运行样本 - 测试双重过滤，以清理任何损坏的测试。
经理查阅规则手册。
- 情景 A：厨师的所有尝试都一致且通过了测试。经理说：“承认：继续吧，你可以做这道菜。”
- 情景 B：厨师的尝试杂乱无章，或者测试过于混乱。经理说：“放弃：很抱歉，我不能让你做这道菜。风险太大了。”

为什么这比其他方法更好

论文将这种方法与其他检查错误的方式进行了比较：

静态方法（“语法警察”）：这些方法只是阅读代码，看它看起来是否正确，就像检查拼写一样。论文表明，这对代码检查毫无用处，因为一个句子可以拼写完美，但仍然毫无意义（例如，“蓝色的颜色吃掉了数字”）。
旧有的执行方法：这些方法尝试运行代码，但不清理错误的测试。它们经常因厨师自己提出的糟糕测试问题而感到困惑，甚至在厨师本可以成功的情况下，也拒绝让其烹饪。

结果：CODEREFUSER 在知道何时说“我不知道”方面表现优异得多。在测试中，与现有的最佳方法相比，它识别危险任务的能力提高了约26%。

总结

这篇论文提出了一种让 AI 程序员更安全的方法。该系统不像以往那样等待 AI 犯错后再去修复，而是充当一位聪明的监督者，知道何时 AI 已经力不从心。它迫使 AI 在生成任何代码之前就说“我不知道”，从而防止生成损坏或危险的软件。

核心要点：AI 承认自己无法完成任务，总比自信地做错要好。CODEREFUSER 教会了 AI 如何安全、可靠地做出这种承认。

技术摘要：大语言模型在代码生成中的任务拒绝

问题定义

本文探讨了大语言模型（LLM）在代码生成中面临的幻觉这一关键问题。现有研究主要集中于样本级幻觉（检测无法执行或不符合要求的单个代码片段），而本研究识别出一种更根本的错误来源：任务级幻觉。当大语言模型因提示模糊或模型自身局限性而本质上不太可能解决特定编码任务时，无论生成多少样本，都会发生此类幻觉。

作者将任务拒绝问题形式化：确定大语言模型是否应拒绝回答特定的代码生成提示，以避免生成功能错误的代码。目标是定义一个拒绝函数 $r(x)$ ，用于识别生成正确解概率较低的任务，具体指当指标 $H@k$ （ $k$ 个随机生成样本全部错误的概率）超过用户定义的风险容忍度 $\alpha$ 时。

方法论：CODEREFUSER

所提出的方法 CODEREFUSER 基于**先学习后测试（Learn Then Test, LTT）**框架，利用多重假设检验提供严格的、分布无关的理论保证。该方法分为两个阶段：

1. 校准阶段

校准集构建：与标准自然语言处理任务不同，校准集由任务提示与预言机测试用例（真实情况）配对组成。
准入风险定义：风险定义为任务被接受（未被拒绝）但大语言模型在 $k$ 次尝试内未能生成正确解（ $H@k$ ）的概率。
评分函数：为处理语义等价代码的语法多样性，作者提出了基于执行结果的评分函数，而非静态语言指标。这些函数依赖于根据代码样本相对于测试用例的执行输出进行聚类：
- 聚类比率（Cluster Ratio, CR）：衡量属于主导语义簇（模型共识）的样本比例。
- 语义熵（Semantic Entropy, SE）：通过衡量结果簇分布的多样性来量化任务的不确定性。
阈值选择：利用多重假设检验，该方法识别出一组有效阈值（ $\Lambda_{valid}$ ），以高置信度（ $1-\delta$ ）保证准入风险保持在容忍度 $\alpha$ 以下。

2. 测试阶段

双重生成：对于新的测试提示，大语言模型同时生成代码解决方案和相应的测试用例。
样本 - 测试双重过滤（STDF）：一种新颖机制，旨在解决大语言模型生成的测试用例可能无效或有缺陷的问题。
- 错误率过滤：剔除导致样本群体中广泛执行失败的测试用例。
- 输出多样性过滤：剔除引发高语义熵的测试用例（表明未定义行为或无效输入），同时限制剪枝比例以避免丢弃有效的测试。
决策制定：使用精炼后的测试用例对代码样本进行聚类。通过将校准后的阈值应用于聚类比率或语义熵评分来做出拒绝决策。如果未满足标准，模型则拒绝执行。

主要贡献

任务拒绝的形式化：本文引入并形式化了代码生成中的任务级拒绝概念，将其与样本级幻觉检测区分开来。
理论保证框架：提出了一种基于多重假设检验的方法，提供了严格的、分布无关的保证，即接受“坏”任务的风险被控制在指定阈值以下。
基于执行的评分与 STDF：作者引入了一种基于运行时执行结果的评分方案，以及**样本 - 测试双重过滤（STDF）**机制。这使得系统能够在测试阶段无需依赖预言机测试用例，同时减轻模型生成测试带来的噪声。
最小化对预言机的依赖：该方法仅在校准阶段需要预言机测试用例，使其在无法为每个新任务提供真实测试的情况下具有实际部署价值。

实验结果

作者在 HumanEval 和 MBPP 基准测试上评估了 CODEREFUSER，使用了四个开源代码大语言模型（DeepSeek-Coder、Qwen2.5-Coder、CodeLlama 和 WizardCoder）。

性能：CODEREFUSER 显著优于现有基线，包括静态方法（PPL、NLI、CLM）和基于执行的检测器（CodeHalu、Execution）。平均而言，与最佳现有竞争对手相比，其拒绝精度绝对提升了 26.5%。
静态与基于执行的方法：实验表明，静态方法（即使样本量增加四倍）也无法匹配基于执行方法的性能，证实了在此领域运行代码对于准确风险评估是必要的。
可迁移性：该方法表现出稳健的可迁移性，即使在分布发生偏移的情况下（在 MBPP 上进行校准并在 HumanEval 上进行测试），仍保持了高性能。
风险控制：实证结果证实了理论保证，显示在超过 90% 的案例中，准入风险成功控制在目标容忍度 $\alpha$ 以下。此外，与 PPL 等基线方法相比，CODEREFUSER 在实现风险控制的同时，拒绝率显著更低（拒绝的有效任务更少）。

意义与主张

本文声称代表了向可证明正确的 LLM 代码生成迈出的进步。通过使模型能够对其不太可能解决的任务自信地说“我不知道”，该方法为更安全、更稳健的代码生成提供了一种可靠的机制。

作者谦逊地承认了局限性：

分布偏移：理论保证依赖于校准数据和测试数据独立同分布（i.i.d.）的假设。虽然实验显示了对适度偏移的鲁棒性，但极端的现实世界偏差可能会削弱保证。
确定性：该方法假设任务具有确定性解。它可能不直接适用于非确定性或交互式软件系统。
语言范围：当前评估仅限于 Python；在其他语言（如 C、Java）中的有效性，特别是涉及不同内存或指针特性的语言，需要进一步评估。

这项工作并未提出新的应用，而是提出了一种基础安全层，可集成到现有的代码生成工作流中，以减轻幻觉风险。