기술 요약: 양자 컴파일러 설정 선택 방식의 역전

1. 문제 정의

양자 컴파일러 구성 선택은 두 가지 밀접하게 결합된 결정 사항을 포함한다: 장치 선택(대상 양자 백엔드 선정)과 옵션 선택(레이아웃, 라우팅, 최적화 레벨과 같은 컴파일 패스 설정). 목표는 컴파일된 양자 회로의 실행 충실도(execution fidelity)를 극대화하는 것이다.

MQT Predictor와 같은 기존의 최첨단 접근 방식들은 일반적으로 **상향식 탐색 파라다임(bottom-up search paradigm)**을 채택한다. 이러한 방법들은 먼저 장치를 선택한 다음, 강화 학습(RL)이나 휴리스틱 탐색을 사용하여 컴파일 옵션을 반복적으로 미세 조정한다. 본 논문은 이 전략이 근본적인 한계가 있다고 주장하는데, 그 이유는 부적절한 초기 장치 선택이 이후의 옵션 조정을 통해서도 극복할 수 없는 "충실도 천장(fidelity ceiling)"을 형성하기 때문이다. 또한, 클래식 컴파일러 자동 튜닝은 종종 지나치게 넓은 탐색 공간에 직면하지만, 실제 양자 컴파일러 구성 공간(예: Qiskit 내)은 유한하고 이산적이어서 오프라인 전수 평가가 가능하다.

2. 방법론

저자들은 온라인 반복 검색에서 벗어나 오프라인 오라클 결과로부터 재사용 가능한 구성 지식을 도출하는 **하향식 파라다임(top-down paradigm)**을 제안한다. 이 방법론은 세 가지 주요 구성 요소로 이루어진다:

A. QuOptBench: 오라클 벤치마크

저자들은 Qiskit 컴파일러 구성을 위한 최초의 전수 조사형 벤치마크인 QuOptBench를 구축하였다.

• 범위: QASMBench 및 VeriQBench에서 추출한 268개의 양자 회로를 다룬다.
• 탐색 공간: 각 회로에 대해 네 개의 가상 백엔드(16, 27, 65, 127 큐비트)와 다양한 최적화 레벨($O0$–$O3$), 레이아웃, 라우팅 및 트랜슬레이션 방법을 걸쳐 총 960개의 장치-옵션 구성을 전수 열거하였다.
• 오라클: 각 회로에 대한 "오라클" 구성은 가장 높은 유효 추정 충실도(effective estimated fidelity, $F_{eff}$)를 생성하는 것으로 정의되며, 이는 게이트 에러와 회로 크기를 고려한 정규화된 지표이다.
• 결과: 전수 조사를 통해 213개 사례(79.5%)에서 적어도 하나 이상의 용량 확보 가능(capacity-feasible) 장치가 존재하며, 해당 장치의 최적 달성 가능 충실도가 다른 가용 장치에서의 기본 $O3$ 설정보다 낮음을 확인했다. 이는 불리한 장치 선택이 후속 옵션 선택으로 해결할 수 없는 충실도 천장을 만든다는 점을 입증한다.

B. LLM 기반 직접 선택 분석

논문에서는 자연스러운 직접 구성 선택의 구현체로서 10개의 대규모 언어 모델(LLM)을 평가하였다.

• 결과: 일반적인 LLM은 일관되게 오라클 성능에 못 미쳤으며, 단순 베이스라인(최적 장치에서의 $O3$)보다도 낮은 성능을 보이는 경우가 많았다.
• 원인: LLM은 **구성 공격성(configuration aggressiveness)**에 강한 편향을 보였다. 즉, 회로나 장치의 특성과 관계없이 복잡한 설정(예: $O3$, Sabre 라우팅, 합성 등)을 선호하는 경향을 보였다. 이들은 더 단순하고 덜 공격적인 구성이 오히려 더 높은 충실도를 제공하는 시나리오를 인식하지 못했다.

C. 규칙 증류(Rule Distillation) 및 QCompass

LLM의 한계를 극복하고 전수 조사의 비용 문제를 해결하기 위해 저자들은 규칙 기반 프레임워크를 개발하였다.

1. 규칙 증류: 저자들은 Claude-Opus-5를 활용하여 오라클과 베이스라인 간 차이가 큰 68개의 샘플 회로를 분석하였다. 이를 통해 회로 특징(예: 큐비트 수, 얽힘 비율, 병렬성)과 장치 특성(예: 연결성, 에러율)에 따른 13가지 전이 가능한 규칙을 추출하였다.
2. QCompass 프레임워크: 빠른 추론을 위해 설계된 경량 규칙 가이드 머신 러닝 프레임워크이다.
   • 예측 모델: 최적화 기회, 충실도 이득, 타임아웃 위험, 컴파일 시간을 예측하도록 훈련된 4개의 익스트림 랜덤 트리(Extremely Randomized Trees) 모델을 사용한다.
   • 정책 관문(Policy Gate): 예측된 최적화 여유분(optimization headroom)을 바탕으로 정책(KEEP: 베이스라인 유지, SAFE: 국소 수정, SEEK: 광범위한 탐색)을 선택한다.
   • 규칙 가이드 후보 생성: 증류된 규칙들이 후보 공간을 제한하여, 스코어링 전에 발생 가능성이 낮은 구성을 필터링한다.
   • 스코어링: 예측된 충실도 이득을 기준으로 하되, 타임아웃 위험과 컴파일 시간을 페널티로 부여하는 통합 목적 함수를 통해 후보들을 평가한다.

3. 핵심 기여

• QuOptBench: 268개 회로에 대한 경험적 오라클 구성을 제공함으로써, 표준 베이스라인뿐만 아니라 이론적 최적값과의 비교를 가능케 하는 최초의 전수 조사 벤치마크를 제시하였다.
• LLM에 관한 실증 연구: 범용 LLM 단독으로는 과도한 설정을 선호하는 편향 때문에 오라클 수준의 품질 있는 구성을 신뢰성 있게 재현할 수 없음을 입 виде 하였다.
• 규칙 증류 워크플로우: $O3$ 구성과 전수 조사 오라클 사이의 차이를 이용하여, 오라클 의사결정으로부터 전이 가능하고 해석 가능한 규칙을 추출하는 새로운 프로세스를 선보였다.
• QCompass: 반복적인 온라인 탐색 없이 빠르게 구성을 선택할 수 있도록 하여, 상향식 튜닝에서 하향식 선택으로의 패러다임 전환을 가져온 압축된 규칙 가이드 ML 프레임워크이다.

4. 실험 결과

평가는 난이도 단계별(최적화 여유분에 따라 구분)로 QCompass를 상향식 방법(RL, 베이지안 최적화), 최근접 이웃 검색(nearest-neighbor retrieval), 그리고 직접 LLM 선택과 비교하였다.

• 베이스라인 대비 성능:
  • 단계 1 (낮은 헤드룸): QCompass는 베이스라인(최적 장치에서의 $O3$)과 동일한 결과를 76건 중 67건에서 보여주었으며 통계적으로 유의미한 차이가 없었다. 이는 불필요한 변경을 수행하여 성능을 떨어뜨리는 상향식 방법들과 대조된다.
  • 단계 2 및 3 (높은 헤드룸): QCompass는 모든 베이스라인을 크게 앞질렀다. 특히 단계 3에서 베이스라인 대비 유효 추서 충실도가 28.56% 향상되었는데, 이는 최고 성능의 LLM(~20%) 및 공동 RL(Joint RL, ~24%) 보다 높았다.
• 효율성: Qcompass는 선택 지연 시간(latency)을 회로당 약 3.3초로 줄였다. 이는 베이지안 최적화(2,800초)보다 몇 자릿수 이상 빠르며, LLM(17–110초)보다 훨씬 빨라 우수한 솔루션 품질을 유지하면서도 월등히 효율적이다.
• 일반화 능력: 학습 과정에서 보지 못한 새로운 회로와 장치에 테스트했을 때, QCompass는 베이스라인 대비 평균 **9.06%**의 개선을 유지했으나, 상향식 RL 방법들은 음(-)의 개선 효과를 나타내어 하향식 접근법의 뛰어난 일반화 능력을 입증했다.
• 노이즈 인지 평가: 노이즈 시뮬레이션(Hellinger fidelity)을 통한 평가는 현실적인 노이즈 조건에서도 QCompass의 이점이 지속됨을 확언하였고, 5.71%의 평균 개선을 기록했다.

5. 중요성 및 주장

본 논문은 오프라인 오라클 특성화로부터 지식을 전달하는 것이 전통적인 상향식 양자 컴파일러 튜닝의 강력한 대안임을 주장한다.

• 패러다임 변화: 구성 선택에 있어 반복적인 탐색이 반드시 필요하다는 가정에 도전하며, 양자 컴파일러 공간의 유한한 성격을 이용해 고품질의 전이 가능한 규칙을 추출할 수 있음을 입증하였다.
• 실용성: 증류된 규칙과 경량 예측 모델을 결합함으로써, QCompass는 솔루션 품질과 선택 지연 시간 사이에서 최상의 균형을 달성하였다. 이는 반복 탐색이 너무 느리거나 LLM 추론이 너무 비싸고 신뢰할 수 없는 실제 배포 환경에 매우 적합하다.
• 한론점: 저자들은 자신들의 결과가 특정 벤치마크(QASMBench, VeriQBench), 가상 백엔드, 그리고 Qiskit V2.4.1에 기초하고 있다는 점을 겸허히 인정하였다. 서로 다른 작업 부하, 하드웨어 아키텍처 또는 교정 드리프트(calibration drift)가 발생하는 실제 하드웨어로의 확장성에 대해서는 향후 연구 과제로 남겨두었다.

결론적으로, 본 논문은 하향식, 규칙 가이드 접근 방식이 양자 컴파일러 구성 공간을 효과적으로 항행할 수 있으며, 충실도와 효율성 측면 모두에서 반복적 탐색 및 직접적인 LLM 추론을 능가함을 입증하였다.