💬 NLP

CodeEvo: Interaction-Driven Synthesis of Code-centric Data through Hybrid and Iterative Feedback

本文介绍了 CodeEvo，这是一个通过迭代式混合反馈来合成高质量、逻辑复杂的指令-代码对的双智能体框架，由此产生的 CodeEvo-100K 数据集显著提升了代码生成模型的性能。

原作者： Qiushi Sun, Jinyang Gong, Lei Li, Qipeng Guo, Fei Yuan

发布于 2026-07-28

📖 1 分钟阅读☕ 轻松阅读

原作者： Qiushi Sun, Jinyang Gong, Lei Li, Qipeng Guo, Fei Yuan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人如何成为一名出色的程序员。你不能只是坐下来手写一百万个编程问题；那太慢了，而且你会枯竭。所以，科学家们开始使用其他更聪明的机器人（称为大语言模型）来为这个学生机器人编写练习题。但问题在于，当这些 AI 老师尝试编写新题目时，它们经常出错。它们可能会写出一个没有答案的数学题，或者一个一旦运行就会导致计算机崩溃的编程任务。这就像一位老师发出的试卷上，有一半的问题都是胡言乱语。这篇名为 CodeEvo 的论文解决了这个棘手的难题，它发明了一种全新的方法，让 AI 能够在不需要人类逐一检查的情况下，学会如何编写完美且可解的编程挑战。

其核心理念依赖于两个主要概念。首先是指令（instruction），即问题陈述（例如“编写一个对列表进行排序的函数”）。其次是代码（code），即解决方案。目标是生成不仅正确，而且难度和趣味性能够循序渐进提升的“指令-代码”对。作者指出，旧的方法——仅仅要求 AI “把它变难”——过于模糊，会导致结果出错。相反，他们提出了一个系统，让 AI 扮演两个角色：一个尝试解决问题的编码者（Coder），以及一个负责评分并设计下一个挑战的评审员（Reviewer）。

双智能体之舞：编码者与评审员

作者构建了一个名为 CodeEв 的框架，这本质上是一个高科技的自动化工作坊，其中两个 AI 智能体在一个循环中协同工作。你可以把它想象成一个电子游戏，其中一名玩家（编码者）试图通过关卡，而第二名玩家（评审员）既充当关卡设计师，又充当裁判。

在旧的方法中，“关卡设计师”只会大喊一声：“把这个关卡变难！”然后听天由命。结果往往是产生了一个无法通关或毫无逻辑的关卡。CodeEvo 改变了游戏规则。在评审员编写新问题之前，它会先创建一个模式（Schema）。把这想象成一份蓝图或一张食谱卡。评审员观察当前的问题，并挑选特定的“原料”（如关键词：矩阵、递归、大整数）进行混合。这个“模式”是一个计划，它会说：“好吧，我们要提取当前的逻辑，并加入一个矩阵乘法步骤来增加难度，但我们必须保证它是可解的。”这确保了新问题是基于真实逻辑的，而不是随机的词汇堆砌。

一旦评审员设计好了蓝图，编码者就会尝试编写代码来解决它。但精彩之处在于：系统并不会直接接受这段代码。它会将代码放入一个**混合反馈（Hybrid Feedback）**循环中。

双重检查系统

通常，当 AI 编写代码时，代码看起来可能正确，但在实际运行时会失败。为了解决这个问题，CodeEvo 使用了一个两步验证过程。首先，它将代码通过编译器（一种检查代码是否符合编程语言严格规则的工具）进行运行。如果代码崩溃或有语法错误，编译器会说“不”。但有时，代码运行起来没有崩溃，却给出了错误的答案。

于是，评审员再次介入。这一次，它扮演人类裁判的角色，阅读代码和问题描述，以查看逻辑是否真正匹配。它会问：“你真的解决了问题，还是只是碰巧对了？”通过将编译器的严格、无情的检查与 AI 评审员聪明、具备上下文理解能力的检查相结合，该系统过滤掉了错误数据。如果代码失败，编码者会收到一份关于哪里出错的详细报告，并尝试再次编写。这个过程会不断重复，直到代码完美无缺。

构建数据之山

利用这种方法，作者创建了一个庞大的数据集，名为 CodeEvo-100K。这不仅仅是随机堆砌的 10 万个问题，而是一个经过精心策划、具有“阶梯式难度”的收藏集。他们从简单的种子问题开始，让智能体对其进行演化。有些问题保持简单，有些变成了中等难度，而通过让智能体进行三轮或更多轮次的精炼，则创造了一个特殊的“困难”集合。

结果令人印象深刻。当他们使用这个新数据集训练其他 AI 模型时，这些模型在解决编程问题方面的表现明显优于使用其他合成数据训练的模型。事实上，使用少量高质量的 CodeEvo 数据（约 17,000 个困难问题）的效果，实际上比使用由旧方法生成的更大规模数据集（75,000 个问题）还要好。这表明，训练数据的质量比单纯拥有巨大的数量更为重要。

为什么这很重要

该论文明确反对仅仅使用简单、僵化的规则（启发式算法）来生成优质编程数据的观点。他们证明了，如果没有结构化的计划（模式）和严密的检查系统（混合反馈），生成的数据往往充满了错误或无法完成的任务。他们还发现，虽然这个过程比直接要求 AI 吐出一段代码要慢，但生成的数据质量要高得多。

简而言之，CodeEvo 表明，如果你想构建一个聪明的编程 AI，你不应该只是喂给它一百万个随机问题。相反，你应该建立一个系统，让 AI 智能体互相教学，仔细规划它们的课程，并用放大镜般细致的标准互相批改作业。其结果是一个不仅规模宏大，而且逻辑严密、可执行，并已准备好训练下一代代码生成机器人的数据集。

技术总结：CodeEvo

问题陈述

用于代码生成的语言大模型（LLMs）的训练高度依赖高质量的指令-代码对。虽然人工策划可以提供理想的数据，但其过程耗时耗力、难以规模化，且正日益枯竭。自动合成方法（如 Self-Instruct 和 Evol-Instruct）已作为替代方案出现，但通常存在显著局限性。这些方法往往依赖于僵化的、预定义的启发式规则（例如“使其更难”），导致生成的指令缺乏良好的逻辑基础、语义模糊或逻辑不一致。此外，生成的代码经常缺乏功能正确性，由于在合成过程中缺乏鲁棒的验证机制，导致无法执行或无法通过单元测试。本研究旨在解决的核心挑战是设计一个完全自动化的、无需参考（reference-free）的合成流水线，以生成既有良好逻辑基础又具备可执行性的指令-代码对。

方法论

作者提出了 CodeEvo，一个交互驱动的合成框架，通过编排双智能体架构来生成高质量的代码中心数据。该框架无需人工标注或黄金参考，而是依赖于一小组种子指令进行操作。

核心组件

双智能体架构：
- 编码器智能体 (Coder Agent)： 负责根据给定指令生成候选解决方案和测试用例。它会根据反馈迭代地优化其代码。
- 评审器智能体 (Reviewer Agent)： 充当编排者和评判者。它评估候选解决方案，提供定制化反馈，并动态构建新的指令。
模式引导的交错合成 (Schema-Guided Interleaved Synthesis)：
为了克服基于启发式的指令演化所带来的模糊性，CodeEvo 引入了一个模式驱动的过程。在生成新指令之前，评审器会制定一个 Schema（模式）——这是一个概述了逻辑、期望复杂度以及概念组合的结构化蓝图。这一过程由特定任务的关键词进行引导。随后，评审器根据该 Schema 生成新的指令。这种双向机制允许战略性地整合关键词以增加复杂度，或者在任务难以处理时选择性地省略关键词以创建简化版本，从而确保逻辑连贯性和逻辑基础。
混合反馈循环：
为了确保功能正确性，CodeEvo 采用了一种混合验证协议，该协议协同了两种不同的信号：
- 确定性编译器反馈： 编码器针对测试用例执行生成的代码，提供通过/失败信号。
- 语义评估： 评审器进行深度语义审计，审查解决方案与指令的一致性、对复杂约束的处理情况，以及测试套件可能遗漏的潜在边缘情况。
  这些信号被融合为一个综合的混合反馈 ( $f_{hybrid}$ )，用于指导代码的迭代优化。如果解决方案失败，编码器会进行优化；如果指令本身过于困难，评审器可以生成一个更简单的变体。

工作流

合成过程始于带有关键词集的种子指令（例如来自 LeetCode 或数学问题）。智能体参与协作优化循环：

评审器规划一个 Schema 并编写一条新指令。
编码器生成代码和测试用例。
系统使用混合反馈机制验证解决方案。
如果有效，则将该对加入数据集；如果无效，编码器进行代码优化或评审器调整指令难度。
该过程捕获了完整的演化轨迹，包括中间的推理和优化步骤。

核心贡献

CodeEvo 框架： 一种新型的交互驱动合成框架，能够从指令和代码两个维度系统地提高代码中心合成数据的质量。
混合反馈机制： 一种将编译器的严谨确定性与 LLM 智能体的自适应生成灵活性相结合的设计，以确保功能正确性和逻辑完整性。
CodeEvo-100K 数据集： 一个大规模的指令-代码对数据集，具有阶梯式的难度等级（简单、中等、困难），并捕获了合成过程的完整演化轨迹。
数据合成洞察： 通过广泛分析，提供了关于合成代码数据的质量、多样性、可扩展性和难度属性的见解。

实验结果

作者在多个基座模型（包括 Qwen3-8B, Qwen2.5-Coder-7B, InternLM3-8B, StarCoder2-7B, 和 DeepSeek-Coder-6.7B）和基准测试（HumanEval, MBPP, BigCodeBench, 和 LiveCodeBench）上评估了基于 CodeEvo 数据微调的模型。

性能优越性： 在大多数基准测试中，使用 CodeEvo 数据微调的模型一致优于已有的基准模型（Zero-Shot, Evol-Instruct, 和 OSS-Instruct）。
数据效率： 值得注意的是，仅由中等规模（32B）智能体生成的 17K “困难”数据，所带来的性能提升竟然超过了 75K 的 OSS-Instruct 数据集。这表明，针对性的、反馈驱动的合成算法比单纯的数据量更为关键。
泛化能力： 该框架在不同规模的智能体（中等规模 32B 对比大规模 120B）和不同基座模型上均展示了鲁棒性。
质量与难度： 人类评估表明，与 Evol-Instruct 相比，CodeEvo 生成的指令在难度上显著更高，且难度表现更加一致。多样性分析显示，CodeEvo 的指令嵌入平均余弦相似度更低，表明其具有更高的语义多样性。

重要性与主张

论文声称，CodeEvo 提供了一条在极少人工监督下推进代码智能的规模化且可验证的路径。作者强调，合成框架的设计对于性能的影响比数据量更为决定性。通过超越僵化的启发式规则，转向交互驱动、模式引导和混合验证的过程，CodeEvo 解决了以往自动化合成方法中存在的指令缺乏逻辑基础和代码不可执行的关键缺陷。这项工作证明了可以自主合成高质量、有逻辑基础的指令-代码对，从而有可能减少对昂贵人工策划的依赖。

作者也承认了局限性，包括对基座 LLM 能力的依赖、多轮交互导致的计算吞吐量限制，以及智能体生成的测试用例覆盖率可能存在缺陷的固有风险。然而，他们认为混合反馈机制在很大程度上缓解了这些问题。