When Close Enough Is Not Enough: Autoregressive Drift in Quantum Circuit Synthesis

문제 정의

본 논문은 결함 허용 컴퓨팅(fault-tolerant computing)을 위한 양자 회로 최적화, 특히 T-count(비 클리포드(non-Clifford) T 및 T† 게이트의 총합)를 최소화하는 과제를 다룹니다. 결함 허용 아키텍처에서 T 게이트는 비용이 많이 드는 매직 상태 증류(magic state distillation) 과정을 필요로 하므로, 이를 최소화하는 것은 매우 중요한 컴파일 단계입니다.

저자들은 학습된 신경망이 이러한 최적화 작업을 수행하여 기존의 수작업 규칙 라이브러리(ZX-calculus 또는 matroid partitioning 기반)를 대체하거나 보완할 수 있는지 조사합니다. 이들은 문제를 시퀀스-투-시퀀스(sequence-to-sequence) 번역 작업으로 정식화합니다. 즉, 입력 회로가 주어지면 모델은 그와 동일하면서도 더 낮은 T-count를 가진 출력 회로를 생성해야 합니다. 연구에서는 두 가지 뚜렷한 설정을 대조합니다:

1. 매개변수화된 회로(Parameterized Circuits): 연속적인 회전 각도를 포함하는 회로.
2. Clifford+T 회로: (H, S, T, CNOT 등과 같이) 연속적인 매개변수가 없는 순수 이산 게이트로 구성된 회로이며, 정확한 기능적 동등성(functional equivalence)을 요구함.

방법론

저자들은 200,000개의 회로 쌍으로 학습된 컴팩트한 인코더-디코더 트랜스포머(파라미터 4,480만 개)를 사용합니다.

• 구조적 토큰화(Structured Tokenization): 원시 QASM 문자열을 파싱하는 텍스트 기반 방식과 달리, 모델은 모든 토큰이 회로의 의미 정보(게이트 유형, 큐비트 인덱스)를 담고 있는 구조적 토큰화 방식을 사용합니다. 어휘 사전(vocabulary)은 작으며(~102개 토큰), Clifford+T 회로의 경우 활성 토큰은 25개뿐입니다.
• 아키텍처: 모델은 프리 레이어 정규화(pre-layer normalization)와 인과적 마스킹(causal masking)을 사용합니다. 매개변수화된 회로의 경우, 별도의 회귀 헤드(regression head)가 회전 각도에 대한 $(\sin \theta, \cos \theta)$ 쌍을 예측합니다. Clifford+T의 경우 모든 게이트가 이산적이므로 이 헤드는 비활성화됩니다.
• 학습 데이터:
  • 매개변수화된 회로: Qiskit O3 최적화를 사용하여 생성되었습니다.
  • Clifford+T 회로: 무작위 회로를 생성한 후, 중복성(예: $HH=I$)을 주입하고, PyZX(ZX-calculus 기반 최적화 도구)를 사용하여 최적화함으로써 정답(ground-truth) 타겟을 생성했습니다.
• 디코딩 전략: 연구에서는 다섯 가지 전략을 평가하며, 모두 검증 우선 재순위화(verifier-first reranking) 정책을 활용합니다. 후보군을 생성(greedy, beam search, 또는 temperature sampling 활용)한 후, 유니터리 동등성($F > 0.999$)을 검증하여 가장 낮은 T-count를 가진 유효한 후보를 선택합니다.

주요 결과 및 발견

1. 성공과 실패의 이분법

논문은 두 가지 회로 설정 사이의 극명한 대조를 식별합니다:

• 매개변수화된 회로: 모델은 3~6 큐비트 회로에서 중앙값 충실도(median fidelity) 1.000을 달성합니다. 트랜스포머는 회로 구조를 거의 완벽한 유효성(100%)으로 학습합니다. 각도 예측은 부정확할 수 있지만, 클래식 사후 처리(Nelder-Mead 최적화)가 각도를 성공적으로 정교화하여 출력을 구제해 냅니다.
• Clifford+T 회로: 모델은 유효한 구문(syntax)과 정확한 T-count 통계(정확한 게이트 수 분포 예측)를 학습합니다. 그러나 정확한 기능적 동등성은 타겟 회로의 길이가 길어짐에 따라 급격히 저하됩니다.
  • 짧은 회로($\le$ 9개 게이트)의 경우, 정확히 일치하는 비율이 높습니다(beam search 사용 시 88%).
  • 긴 회로($\ge$ 26개 게이트)의 경우, 정확히 일치하는 비율이 0에 가깝게 떨어집니다.

2. 자기회귀 드리프트(Autoregressive Drift)

식별된 주요 실패 모드는 자기회귀 드리프트입니다.

• 메커니즘: 모델은 종종 처음 몇 개의 토큰 내에서 올바른 출력으로부터 벗어납나(중앙값 첫 오류 발생 지점은 시퀀스 길이의 약 3% 지점). 디코딩이 왼쪽에서 오른쪽으로 진행되기 때문에, 이산 토큰(예: S 게이트를 T 게이트로 교체)에서의 초기 오류는 이후의 모든 토큰에 대한 문맥(context)을 오염시킵니다.
• 복구 불가능성: 매개변수화된 회로에서는 각도를 재최적화할 수 있는 것과 달리, Clifford+T 회로에서 단 하나의 잘못된 이산 게이트는 유니터리를 돌이킬 수 없이 변화시킵니다. 충실도 분포는 양봉형(bimodal)($F \approx 1$ 또는 $F \approx 0$)이며, "적당히 가까운(close enough)" 중간 지점은 존재하지 않습니다.
• 지배적 예측 변수: 실패는 큐비트 수가 아니라 타겟 회로의 길이에 의해 주도됩니다. 게이트 수가 한 자릿수에서 두 자릿수로 이동함에 따라 성능이 붕괴됩니다.

3. 개입 전략의 평가

저자들은 드리프트를 완화하기 위한 다양한 전략을 테스트했습니다:

• 추론 시간 연산량(Inference-Time Compute): 후보군의 수($N$)를 늘리면 결과가 개선됩니다. $N=200$인 temperature sampling을 사용하면 정확히 일치하는 비율이 7%(greedy)에서 **22.5%**로 상승합니다. 그러나 이는 수확 체감의 법칙을 따르는 포화 곡선을 보입니다.
• 데이터 스케일링: 학습 데이터셋을 2.5배(20만 개에서 50만 개 쌍으로) 늘리면 정확히 일치하는 비율이 39.5%로 거의 두 배가 됩니다. 이것이 가장 효과적인 레버입니다.
• 미세 조정 및 다양화: 긴 회로에 대한 타겟 미세 조정, 가중 샘플링, 하이브리드 탐색, 모델 앙상블은 미미한 이득(예: 21.0%에서 24.5%)만을 제공했을 뿐, 근본적인 저하 패턴을 바꾸지는 못했습니다.
• 드리프트의 지속성: 데이터를 2.5배 더 많이 사용하더라도 길이 의존적 저하는 지속됩니다. 정확한 동등성은 짧은 회로에서의 94%에서 26개 이상의 게이트를 가진 회로에서는 4% 미만으로 떨어집니다.

의의 및 주장

이 논문의 핵심 기여는 정확한 이산적 정답이 요구되는 학습된 양자 회로 컴파일에서 자기회귀 드리프트가 근본적인 병목 현상임을 진단한 것입니다.

• "적당히 가까움(Close Enough)"의 한계: 저자들은 트랜스포머가 최적화 패턴과 구조적 유효성을 학습할 수는 있지만, 이산 도메인에서는 초기 토큰 오류로부터 안정적으로 복구할 수 없음을 입증합니다. 매개변수 최적화와 달리 사후 처리는 이산적 오류를 구제할 수 없습니다.
• 실질적 시사점: 이 모델은 생산용 컴파일러 내에서 짧은 서브회로(예: 14개 게이트 이하)를 위한 피프홀 최적화(peephole optimization) 패스로서 가장 유망합니다. 이 범위 내에서는 높은 정확한 일치율을 달 수 있습니다. 더 긴 회로의 경우, 현재의 자기회귀 방식은 신뢰할 수 없습니다.
• 스케일링 법칙: 효율적인 검증기(유니터리 비교와 같은)가 존재하는 작업의 경우, 학습 데이터를 늘리는 것이 모델 파라미터나 복잡한 추론 시간 탐색 전략을 늘리는 것보다 더 효과적임을 강조합니다.
• 향atic 방향: 저자들은 이 병목 현상을 극복하기 위해 순수 자기회귀 디코딩에서 벗어나 비자기회귀 방식(예: 이산 확산 모델, 반복적 정교화)이나 모델의 고정밀 영역 내에서 작동하는 서브회로 분해 전략으로 이동해야 한다고 제안합니다.

결론적으로, 본 논문은 학습된 모델이 회로 구조를 이해하는 데 유망함을 보여주지만, 자기회귀 드리프트 메커니즘이 복잡하고 이산적인 양자 회로의 정확한 합성을 제한하는 현재의 신뢰성 한계임을 밝히고 있습니다.