⚛️ quantum physics

When Close Enough Is Not Enough: Autoregressive Drift in Quantum Circuit Synthesis

本文表明，虽然基于 Transformer 的模型在输出结果可通过后处理进行修正时能够成功优化量子电路，但其在精确离散合成方面的可靠性受限于自回归漂移（autoregressive drift）所导致的根本性限制，这种漂移会导致性能随电路长度增加而急剧下降，而推理时搜索和数据规模扩展仅能部分缓解这一问题，而非通过模型层面的调整来解决。

原作者： Mehdi Saeedi, Eddie Richter, Paul Hartke

发布于 2026-07-15

📖 1 分钟阅读🧠 深度阅读

CC BY 4.0

原作者： Mehdi Saeedi, Eddie Richter, Paul Hartke

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人搭建一座完美的乐高城堡。你向它展示了一堆乱七八糟的积木（“输入电路”），并要求它将其重建为一个精简、高效的版本，且使用的特殊“魔法”积木尽可能少。这就是量子电路优化的工作，而 AMD 的研究人员尝试教一个聪明的 AI 机器人（“Transformer”）来完成这项任务。

这里有一个转折：这个机器人在某些方面表现出色，但在另一些方面却碰了壁，其原因是一个被称为**自回归漂移（autoregressive drift）**的故障。

两个世界：“模糊”世界 vs. “像素级完美”世界

研究人员在两种不同的游戏模式下测试了该机器人。

模式 1：模糊世界（参数化电路）
在这种模式下，机器人搭建的城堡墙壁的角度可以进行微调。如果机器人搭建的城堡形状正确，但墙壁的角度稍微偏了一点点，人类（或经典计算器）稍后可以过来通过微调角度使其变得完美。

结果： 机器人在这种模式下表现得像个超级明星。它对结构的掌握如此之好，以至于经过一点点“微调”后，它在 3 到 6 个量子比特的电路中实现了 100% 的完美保真度（得分 1.000）。这就像机器人画好了蓝图，而建筑师只需修正那些微小的歪斜线条即可。

模式 2：像素级完美世界（Clifford+T 电路）
这是真正的挑战。在这里，机器人必须使用刚性的、离散的乐高积木进行搭建。这里没有可以后期“微调”的角度。每一块积木都必须处于完全正确的位置，否则整个城堡会坍塌成另一种形状。

结果： 这正是机器人开始跌跌撞撞的地方。虽然它学会了游戏的规则（语法），也大致知道要使用多少魔法积木，但它经常无法搭建出完全正确的城堡。
- 对于短城堡（9 块积木或更少），机器人的成功率约为 88%。
- 对于中等规模的城堡（15–25 块积木），使用标准训练数据时，成功率降至 8.4%；而当给予显著更多的练习数据时，成功率仅上升至 23.4%。
- 对于长城堡（26 块积木以上），使用标准数据时，机器人的成功率为 0%，即使有了额外的数据，成功率也仅为 3.7%。

罪魁祸首：“多米诺骨牌效应”引发的漂移

为什么机器人在处理长而刚性的城堡时失败了？作者发现了一个他们称为自回归漂移的问题。

想象机器人正在写一个故事，从左到右一个词一个词地书写。

它正确地写下了第一个词。
它正确地写下了第二个词。
但到了第三个词，它犯了一个小错误。也许它把一个“T”积木换成了“S”积木。

在“模糊世界”中，这个错误并不会造成影响，因为你稍后可以调整角度。但在“像素级完美世界”中，这一个错误的积木改变了后面每一个积木的上下文。机器人试图基于一个破碎的基础来搭建剩下的城堡。错误开始连锁反应，到最后，整个结构都完全错了。

研究表明，这种漂移发生得非常快。机器人通常会在前 1–2 个积木（大约在序列的 3% 处）就犯错。一旦发生这种情况，剩下的序列就注定失败了。

哪些方法不起作用（“越努力越失败”陷阱）

研究人员尝试了许多方法来修复这个问题，并且明确指出哪些方法是没有帮助的：

让机器人更聪明（增加参数）： 他们尝试了更大的大脑（1.336 亿参数对比 4480 万参数）。这有一点点帮助，但漂移问题依然存在。
微调（Fine-tuning）： 他们尝试专门针对那些困难的长城堡进行训练。这并没有帮助。
混合模型： 他们尝试结合两个不同机器人的输出。这几乎没有帮助。
仅仅是尝试更多次（推理时搜索）： 他们尝试生成 200 个不同版本的城堡并挑选最好的一个。这确实有帮助，将成功率从 7% 提升到了 22.5%，但仍然无法解决长城堡的问题。

唯一有效的方法（更多数据）

唯一能给机器人带来显著提升的方法是给它更多的练习。

当他们将训练数据增加了 2.5 倍（从 20 万个示例增加到 50 万个）时，机器人的成功率几乎翻倍。
有了更多数据，机器人完成短城堡的成功率达到了 94%，完成中等规模城堡（15–25 块积木）的成功率达到了 23.4%。
然而，漂移问题并没有消失。即便有了这么多额外的练习，对于最长的城堡（26 块积木以上），成功率仍然只有 3.7%。仅仅通过阅读更多的书，依然无法克服第一个错误所带来的“多米诺骨牌效应”。

核心结论

论文得出结论：对于那些要求每一块零件都必须完美的量子电路，“足够接近”是不够的。

如果你可以稍后修复微小的误差（如在“模糊世界”中），AI 的表现会非常好。但如果你需要一个完美的、离散的序列，其中一步错就会导致全局崩溃，那么 AI 容易在早期偏离轨道的倾向就是一个主要的瓶颈。研究人员认为，目前这种 AI 最好的用途是作为一种“窥视孔”优化器——修复那些可靠的小段代码，而不是尝试从头开始重建整个复杂的电路。

作者谨慎地表示，这并不是一个已解决的问题。他们在特定的模拟中测量了这些结果，并发现虽然更多的数据会有所帮助，但长序列中“漂移”这一根本性问题仍然是一个难以逾越的障碍，现有的方法尚未能跨越这一障碍。

技术摘要：当“足够接近”不再足够：量子电路合成中的自回归漂移

问题陈述

本文探讨了针对容错计算优化量子电路的挑战，特别侧重于最小化 T-count（非 Clifford T 和 T† 门的累计总数）。在容错架构中，T 门需要昂贵的魔术态蒸馏（magic state distillation），因此其最小化是编译过程中的关键步骤。

作者研究了学习型神经网络是否能够执行此类优化任务，以替代或增强基于手工规则库（如基于 ZX-calculus 或矩阵划分）的方法。他们将该问题建模为序列到序列（sequence-to-sequence）的翻译任务：给定一个输入电路，模型必须生成一个具有更低 T-count 的等效输出电路。研究对比了两种截然不同的设定：

参数化电路（Parameterized Circuits）： 包含连续旋转角度的电路。
Clifford+T 电路： 完全由离散门（H, S, T, CNOT 等）组成的电路，不存在连续参数，要求实现精确的函数等效性。

方法论

作者采用了一个紧凑的编码器-解码器 Transformer（4480 万参数），并在 20 万对电路数据上进行了训练。

结构化标记化（Structured Tokenization）： 不同于解析原始 QASM 字符串的文本处理方法，该模型使用一种结构化标记方案，每个 token 都携带电路语义信息（门类型、量子比特索引）。词表规模较小（约 102 个 token），对于 Clifford+T 电路，仅有 25 个活跃 token。
架构： 模型使用了前层归一化（pre-layer normalization）和因果掩码（causal masking）。对于参数化电路，一个独立的回归头用于预测旋转角度的 $(\sin \theta, \cos \theta)$ 对。对于 Clifford+T 电路，该回归头被禁用，因为所有门都是离散的。
训练数据：
- 参数化电路： 使用 Qiskit O3 优化生成。
- Clifford+T 电路： 通过创建随机电路并注入冗余（例如 $HH=I$），然后使用 PyZX（基于 ZX-calculus 的优化器）进行优化以生成基准目标（ground-truth targets）。
解码策略： 研究评估了五种策略，均采用**验证优先的重排序（verifier-first reranking）**策略。首先生成候选方案（通过贪婪搜索、束搜索或温度采样），验证其酉等效性（ $F > 0.999$ ），最后选择 T-count 最低的有效候选方案。

关键发现与结果

1. 成功与失败的二分法

论文指出了两种电路设定之间的鲜明对比：

参数化电路： 在 3–6 量子比特电路中，模型实现了 1.000 的中值保真度。Transformer 学习到了电路结构，具有近乎完美的有效性（100%）。尽管角度预测可能不够精确，但通过经典的后处理（Nelder-Mead 优化）可以成功精炼角度，从而挽救输出结果。
Clifford+T 电路： 模型学习到了有效的语法和准确的 T-count 统计特性（能预测正确的门计数分布）。然而，随着目标电路长度的增加，精确的函数等效性急剧下降。
- 在短电路（ $\le$ 9 个门）上，精确匹配率较高（束搜索下为 88%）。
- 在长电路（ $\ge$ 26 个门）上，精确匹配率降至接近于零。

2. 自回归漂移（Autoregressive Drift）

识别出的主要失效模式是自回归漂移。

机制： 模型经常在序列的前几个 token 内就偏离正确输出（中位首次错误发生在序列长度的约 3% 处）。由于解码是自左向右进行的，离散 token 的早期错误（例如将 S 门误换为 T 门）会破坏后续所有 token 的上下文环境。
不可逆性： 与可以通过重新优化角度来挽救的参数化电路不同，Clifford+T 电路中单个错误的离散门会不可逆地改变酉矩阵。其保真度分布呈双峰分布（ $F \approx 1$ 或 $F \approx 0$ ），不存在“足够接近”的中间地带。
主导预测因子： 失败是由目标电路长度驱动的，而非量子比特数量。当门计数从个位数变为两位数时，性能发生崩溃。

3. 干预措施评估

作者测试了多种缓解漂移的策略：

推理时计算（Inference-Time Compute）： 增加候选方案的数量（ $N$ ）可以改善结果。使用 $N=200$ 的温度采样将精确匹配率从 7%（贪婪搜索）提升至 22.5%。然而，这遵循一个具有收益递减效应的饱和曲线。
数据缩放（Data Scaling）： 将训练数据集增加 2.5 倍（从 20 万对增加到 50 万对）几乎使精确匹配率翻倍，达到 39.5%。这是最有效的手段。
微调与多样化： 针对长电路的定向微调、加权采样、混合搜索以及模型集成仅带来了边际收益（例如从 21.0% 提升至 24.5%），且未能改变根本性的退化模式。
漂移的持续性： 即使增加了 2.5 倍的数据，这种随长度增加而产生的退化现象依然存在。即使在增加数据后，精确等效性仍会从短电路的 94% 下降到 26 个门以上电路的不足 4%。

意义与主张

本文的核心贡献在于将自回归漂移诊断为在需要精确离散正确性的量子电路编译任务中，学习型模型面临的根本瓶颈。

“足够接近”的极限： 作者证明了虽然 Transformer 可以学习优化模式和结构有效性，但它们无法在离散领域可靠地从早期的 token 错误中恢复。与参数化电路不同，后处理无法挽救离散错误。
实际应用意义： 该模型最适合作为生产级编译器中短子电路（例如 $\le$ 14 个门）的**窥孔优化（peephole optimization）**阶段，在此阶段它可以实现高精确匹配率。对于更长的电路，目前的自回归方法是不可靠的。
缩放法则（Scaling Laws）： 研究强调，对于拥有高效验证器（如酉比较）的任务，扩展训练数据比扩展模型参数或复杂的推理时搜索策略更为有效。
未来方向： 作者建议，要克服这一瓶颈，可能需要脱离纯自回归解码，转向非自回归方法（如离散扩散模型、迭代精炼）或在模型高准确度区间内运行的子电路分解策略。

论文总结道，虽然学习型模型在理解电路结构方面展现出潜力，但自回归漂移机制目前限制了它们在复杂离散量子电路精确合成中的可靠性。