QiMeng-CRUX: Narrowing the Gap Between Natural Language and Verilog via Core Refined Understanding eXpression for Circuit Design

该论文提出了名为 QiMeng-CRUX 的框架，通过引入“核心精炼理解表达”（CRUX）作为结构化中间空间，并配合两阶段训练策略，有效解决了自然语言描述模糊性问题，显著提升了大语言模型在复杂电路设计任务中生成 Verilog 代码的性能。

要点

这篇论文介绍了一个名为 QiMeng-CRUX 的新方法，旨在解决一个核心难题：如何让人工智能（AI）更准确地听懂人类关于“设计电路”的模糊描述，并写出完美的硬件代码（Verilog）。

为了让你轻松理解，我们可以把整个过程想象成**“建筑师与施工队”**的故事。

1. 核心问题：模糊的指令 vs. 严谨的图纸

• 现状（痛点）：
  想象一下，你（用户）想盖一座房子，你给施工队（AI 模型）写了一张便条：“我要一个能数数的电路，输入是 3 个开关，输出显示有几个灯亮着。”

  • 问题在于： 人类说话很随意，可能有歧义、漏掉细节（比如开关是 0 还是 1 代表开？输出是二进制还是十进制？）。
  • 后果： 施工队（AI）虽然很聪明，但面对这种“自由发挥”的便条，经常盖错房子，或者盖出来的房子根本没法住（代码无法运行）。

• Verilog 的严苛：
  硬件代码（Verilog）就像建筑图纸，必须严丝合缝。少一个标点、搞错一个逻辑门，整个电路就会短路。从“随意的便条”直接跳到“严密的图纸”，中间跨度太大，AI 容易迷路。

2. 解决方案：CRUX —— 聪明的“翻译官”

为了解决这个问题，作者发明了一个中间层，叫 CRUX（核心精炼理解表达）。

• 比喻：
  如果把 AI 比作一个天才但有点急躁的建筑师，那么 CRUX 就是一个经验丰富的“项目监理”或“翻译官”。

  • 当用户扔过来一张模糊的便条时，AI 不会直接去盖房子。
  • 而是先让“翻译官”（CRUX）把便条整理成一份标准化的任务书。这份任务书包含三个关键部分：
    1. 模块接口（Module Interface）： 明确房子的门和窗在哪里（输入输出端口、位宽）。
    2. 核心功能（Core Functions）： 明确房子要干什么（比如：数 1 的个数）。
    3. 关键考量（Key Considerations）： 提醒那些容易被忽略的细节（比如：时序逻辑、特殊状态机、边界条件）。

• 效果：
  有了这份标准化的“任务书”，AI 再写代码（盖房子）时，就像看着精准的图纸施工，不再需要猜谜，准确率大大提升。

3. 训练方法：两步走的“特训营”

作者不仅设计了“翻译官”，还设计了一套两阶段训练法来教会 AI 使用它：

• 第一阶段：联合表达建模（SFT - supervised Fine-Tuning）

  • 做法： 给 AI 看大量“模糊便条 -> 标准任务书 -> 完美代码”的配对数据。
  • 比喻： 就像让实习生先练习**“做笔记”**。老师给一段乱糟糟的会议记录，实习生先把它整理成条理清晰的会议纪要（CRUX），然后再根据纪要写出正式报告（Verilog 代码）。
  • 目的： 让 AI 学会如何把模糊的话“翻译”成结构化的任务书。

• 第二阶段：双空间优化（Dual-Space Optimization - RL）

  • 做法： 引入强化学习（RL）。不仅奖励 AI 写出正确的代码，还奖励它写出高质量的“任务书”。
  • 比喻： 以前只考核“房子盖得对不对”。现在，如果实习生写的“会议纪要”逻辑特别清晰，能帮它更快、更准地盖好房子，也会给它发奖金。
  • 目的： 强迫 AI 在生成代码前，先深思熟虑地把核心逻辑理顺，从而减少错误。

4. 实验结果：真的好用吗？

作者在多个著名的硬件设计测试集上进行了“大考”：

• 成绩： QiMeng-CRUX 模型在各项测试中几乎都拿到了第一名（SOTA），特别是在那些最难、最像真实工作场景的题目上（比如 Spec-to-RTL 任务），成绩提升非常惊人（从 49% 提升到了 64% 以上）。
• 通用性： 最有趣的是，即使把 AI 训练出来的这个“标准任务书”（CRUX）直接拿来喂给其他普通的 AI 模型，那些模型的表现也变好了。
  • 比喻： 这说明 CRUX 不仅仅是一个模型的特技，它更像是一种通用的“沟通语言”。只要把模糊需求翻译成这种语言，任何聪明的施工队都能干得更好。

总结

这篇论文的核心思想就是：不要试图让 AI 直接去猜人类模糊的意图，而是先教 AI 把模糊的意图“翻译”成结构清晰、逻辑严密的“中间语言”（CRUX），然后再去写代码。

这就好比在两个完全不懂对方语言的人之间，加了一个精通双方语言的专业翻译，不仅沟通效率高了，而且彻底消除了误解，让最终的“建筑”（硬件电路）既精准又完美。

技术摘要

QiMeng-CRUX 技术总结

1. 研究背景与问题 (Problem)

大型语言模型（LLM）在硬件描述语言（HDL，如 Verilog）生成方面展现出巨大潜力，但现有方法面临核心挑战：

• 输入模糊性：用户提供的自然语言描述通常是自由格式（Free-form），存在歧义、冗余和结构不规范的问题。
• 领域鸿沟：自然语言是开放且非结构化的，而 Verilog 是高度约束、结构严谨的形式化语言。将前者直接映射到后者极易导致模型产生设计意图偏差、语义漂移或工程实现错误。
• 现有局限：大多数现有方法仅关注代码生成阶段，依赖原始自然语言描述，缺乏对描述表达方式的优化，导致在复杂任务（如包含时序逻辑、有限状态机 FSM 的任务）中表现不佳。

2. 核心方法论 (Methodology)

为了解决上述问题，作者提出了 QiMeng-CRUX，其核心思想是引入一个结构化的中间空间 CRUX (Core Refined Understanding eXpression)，并设计了一个两阶段训练框架。

2.1 CRUX 中间空间

CRUX 作为自然语言与 Verilog 代码之间的“桥梁”，将模糊的用户意图转化为结构化的工程蓝图。它包含三个关键组件：

1. 模块接口 (Module Interface)：明确定义输入/输出端口、信号属性（位宽、方向），建立结构基础。
2. 核心功能 (Core Functions)：提取电路的核心行为逻辑，明确功能目标及控制/数据流。
3. 关键考量 (Key Considerations)：强调细微但关键的实现细节和约束（如时序、特定逻辑门连接），确保代码的可综合性和准确性。

2.2 两阶段训练框架

第一阶段：联合表达建模 (Joint Expression Modeling)

• 数据增强与重构：
  • 基于 CodeV 数据集，构建 RealSpec：模拟真实用户输入，通过接口退化（随机隐藏部分端口信息）、添加前缀/后缀等方式引入噪声和变体，提高模型鲁棒性。
  • CRUX 构建：针对不同难度任务（简单问题、特殊非文本任务如 FSM/K-Map、普通数据），利用 LLM（如 DeepSeek-R1, Qwen2.5-Coder）从描述和参考代码中提取并重构 CRUX 内容。
• 监督微调 (SFT)：
  • 构建三元组数据 (RealSpec, CRUX, Verilog Code)。
  • 训练模型先根据 RealSpec 生成 CRUX，再基于 CRUX 生成 Verilog 代码。

第二阶段：双空间优化 (Dual-Space Optimization)

• CRUX 增强型 GRPO：引入基于强化学习（RL）的优化过程，同时优化 CRUX 空间和 Verilog 代码空间。
• 复合奖励机制：
  1. 代码奖励 (Code-Reward)：通过自动化测试平台验证生成代码的功能正确性。
  2. CRUX 奖励 (CRUX-Reward)：衡量生成的 CRUX 是否有助于模型更自信地生成正确代码。通过计算参考代码在给定 RealSpec 和生成 CRUX 条件下的条件序列对数似然来量化。这迫使模型学习生成高质量的中间表达，而不仅仅是关注最终代码。

3. 主要贡献 (Key Contributions)

1. 提出 CRUX 结构化中间空间：首次系统性地定义了连接自然语言与 Verilog 的结构化中间层，显式地捕捉设计意图、接口规范和关键约束，显著降低了从模糊描述到精确代码的转换难度。
2. 设计两阶段训练框架：结合监督微调（SFT）和强化学习（GRPO），不仅提升了代码生成能力，还通过双空间优化机制增强了模型对中间表达（CRUX）的构建能力，使其成为指导生成的强先验。
3. 构建高质量训练数据：提出了 RealSpec 构建策略和针对复杂电路（如 FSM、K-Map）的 CRUX 提取流程，解决了现有数据集描述过于理想化、缺乏真实噪声的问题。
4. 验证了 CRUX 的可迁移性：实验证明，即使不重新训练，将学习到的 CRUX 作为提示（Prompt）输入给其他通用代码模型，也能显著提升其 Verilog 生成性能。

4. 实验结果 (Results)

在多个主流 Verilog 生成基准测试中，QiMeng-CRUX 取得了最先进 (SOTA) 的性能：

• VerilogEval-v2：
  • 在 Spec-to-RTL（最具挑战性的任务）上，pass@1 从基线的 49.3% 提升至 64.7% (T=0)，从 46.8% 提升至 64.4% (T=0.8)。
  • 在 Code-Completion 任务上，pass@1 从 58.3% 提升至 68.0%。
• RTLLM-v2：
  • 在包含算术、存储、控制等复杂任务的基准上，pass@1 达到 63.8%，超越了之前的 SOTA 模型（如 CodeV-Qwen2.5）约 12.8 个百分点，性能接近 Deepseek-R1 等推理模型。
• 对比优势：
  • 相比基于思维链（CoT）的推理模型，QiMeng-CRUX 无需长上下文窗口（仅需 4096 tokens），推理成本更低，且采用单步生成策略。
  • 在通用代码模型和 Verilog 专用模型中均表现最佳，且在 Code-Completion 和 Spec-to-RTL 任务间保持了更平衡的性能。

5. 意义与影响 (Significance)

• 范式转变：该工作表明，在硬件代码生成任务中，优化输入表达的结构（通过中间空间 CRUX）比单纯增加模型参数量或依赖复杂的推理链更为有效。
• 工程实用性：通过显式建模接口和关键约束，CRUX 有效解决了自然语言描述中隐含信息丢失的问题，生成的代码更具可综合性和工程可用性。
• 通用指导价值：CRUX 作为一种语义丰富的中间表示，不仅服务于特定模型，还能作为通用提示增强其他代码大模型的能力，为自动化硬件设计（EDA）提供了新的优化思路。

总结：QiMeng-CRUX 通过引入结构化的中间表达空间（CRUX）和双空间优化训练策略，成功弥合了自然语言描述与严谨 Verilog 代码之间的鸿沟，显著提升了 LLM 在复杂硬件设计任务中的准确性和鲁棒性。