QuTuner: Feature- and Learning-Guided Optimization Pass Tuning for Quantum Compilers

기술 요약: QuTuner

문제 정의
양자 컴파일러는 양자 회로를 하드웨어 실행 가능한 형태로 변환하는 데 필수적이며, 실행 충실도(fidelity)를 높이기 위해 2-큐비트(2Q) 게이트 수, 1-큐비트(1Q) 게이트 수, 회로 깊이(depth)와 같은 회로 수준의 지표를 줄이는 것을 목표로 한다. 컴파일러 패스 튜닝(compiler pass tuning)은 고전 컴퓨팅에서는 잘 확립되어 있으나, 이러한 기술을 양자 컴파일러로 이전하는 데에는 독특한 과제들이 존재한다. 기존의 양자 컴파일러 튜닝 방식은 다음과 같은 두 가지 주요 한계점을 가진다:

1. 제한된 탐색 공간: 기존 연구들은 탐색 복잡성을 관리하기 위해 가용 가능한 패스의 작은 부분 집합(예: PyTKET의 29개 패스 중 4개만 튜닝하거나, Qiskit의 23개 패스 중 9개만 튜닝)으로 최적화를 제한하는 경우가 많으며, 이로 인해 전역적으로 효과적인 시퀀스를 놓치게 된다.
2. 불완전한 특징 모델링: 현재의 방법들은 정적 회로 특징(예: 얽힘 비율, DAG 구조)에 크게 의존하는데, 이는 회로의 토폴로지를 설명할 수는 있지만 특정 회로가 개별 최적화 패스에 어떻게 반응하는지를 명시적으로 포착하지는 못한다.

방법론: QuTuner
저자들은 전체 최적화 패스 공간을 탐색하고 다양한 컴파일러 및 목적 함수에 걸쳐 일반화될 수 있도록 설계된 특징 및 학습 가이드 프레임워크인 QuTuner를 제안한다. 이 프레임워크는 두 단계로 작동한다:

1. 오프라인 단계 (데이터셋 구축 및 모델 학습):
   • 최적화 데이터셋: 저자들은 QCircuitBench에서 추출한 8,111개의 회로를 사용하여 대규모 데이터셋을 구축한다. 각 회로에 대해, 최적의 패스 시퀀스를 식별하기 위해 전체 최적화 패스 세트(Qiskit V2.2.3의 29개 패스)에 대해 베이지안 최적화(BO)를 수행한다.
   • 특징 표현: 각 회로는 두 가지 상호 보완적인 뷰(view)로 특징지어진다:
     • 정적 특징(Static Features): 규모(큐비트 수, 깊이), 구조(얽힘 비율, 병렬성), 상호작 작용 그래프(큐비트 연결성), 그리고 DAG 특징의 네 가지 범주를 포함한다.
     • 최적화 인식 패스 임베딩(Optimization-Aware Pass Embeddings): 각 최적화 패스를 회로에 개별적으로 적용하여 2Q 게이트, 1Q 게이트, 그리고 깊이의 상대적 변화를 측정하는 새로운 메커니즘이다. 이러한 변화를 결합하여 패스 임베딩을 형성하며, 이는 최적화에 대한 회로의 특정한 반응을 포착한다.
   • 모델 학습: 이 데이터셋을 바탕으로 두 가지 모델이 학습된다:
     • 프루닝 모델(Pruning Model): 정적 특징을 입력으로 받아 새로운 회로에 대한 패스 임베딩을 예측하는 그래프 트랜스포머 기반 모델이다. 이를 통해 시스템은 비용이 많이 드는 패스 프로파일링 과정 없이 유사한 회로를 검색할 수 있다.
     • 랭커 모델(Ranker Model): 입력 회로의 특징과 예측된 임베딩을 기반으로 데이터셋에서 검색된 후보 패스 시퀀스의 점수를 매겨 가장 유망한 시퀀스를 선택한다.

• 온라인 단계 (추론 및 정교화):
  • 새로운 입력 회로에 대해, QuTuner는 정적 특징을 추출하고 프루닝 모델을 사용하여 패스 임베딩을 예측한다.
  • 최적화 데이터셋에서 가장 유사한 상위-$k$(10)개의 회로와 그와 관련된 최적화된 패스 시퀀스를 검색한다.
  • 랭커 모델은 이 후보들의 점수를 매겨 최적의 초기 시퀀스를 선택한다.
  • 경량 베이지안 최적화(lightweight Bayesian Optimization) 단계가 이 시드(seed) 시퀀스를 정교화하여, 검색된 시퀀스의 즉각적인 근방을 탐색함으로써 최종 최적화된 패스 순서를 찾아낸다.

주요 기여

• 전체 패스 공간 탐색: QuTuner는 기존 연구에서 사용된 제한된 부분 집합을 넘어, 연구된 양자 컴파일러의 전체 최적화 패스 공간(예: Qiskit의 모든 29개 패스)을 튜닝하는 최초의 연구이다.
• 최적화 인식 패스 임베딩: 본 논문은 회로가 개별 패스에 어떻게 반응하는지를 반영하는 임베딩을 생성하는 패스 프로파일링 메커니즘을 도입하여, 정적 구조적 특징을 보완한다.
• 특징 가이드 프레임워크: 저자들은 검색 효율성과 최적화 효과 사이의 균슘을 맞추는 두 단계의 검색 및 랭킹 시스템(프루닝 및 랭커 모델)과 그 뒤를 잇는 경량 BO 정교화 방식을 제안한다.
• 대규모 데이터셋: BO를 통해 튜닝된 8,111개의 회로로부터 구축된 최적화 데이터셋은 향후 양자 컴파일러 최적화 연구를 위한 기초 자원을 제공한다.

실험 결과
저자들은 QASMBench 및 VeriQBench의 벤치마크(총 180개 케이스)를 사용하여 Qiskit(V2.2.3) 및 PyTKET(V2.13.0)에서 QuTuner를 평가하였다.

• 최적화 효과: Qiskit에서 QuTuner는 가장 강력한 베이스라인(베이지안 최적화) 대비 최대 **84.85%**의 지표 감소를 개선하였으며, 유전 알고리즘(Genetic Algorithms), 강화 학습(Reinforcement Learning), LLM 기반 방식보다 우수한 성능을 보였다. PyTKET에서는 BO 대비 **18.68%**의 지표 감소를 개선하였다.
• 시간 효율성: QuTuner는 BO와 비교했을 때 Qiskit에서 73.59%, PyTKET에서 **64.49%**의 튜닝 시간을 단축하였으며, 전수 조사(exhaustive search) 방식보다 현저히 빨랐다.
• 확장성 및 적응성: 이 프레임워크는 다양한 백엔드 크기(65~156 큐비트)에 걸쳐 일관된 성능을 보여주었으며, 서로 다른 컴파일러(PyTKET)와 튜닝 목적(추정 충실도 vs 회로 수준 지표)에 성공적으로 적응하였다.

의의 및 주장
본 논문은 QuTuner가 탐색 공간의 범위와 계산 비용 사이의 트레이드오프를 해결함으로써 양자 컴파일러를 위한 효과적인 적응형 패스 튜닝 접근법을 제공한다고 주장한다. 대규모 데이터셋과 학습 기반의 최적화 인식 특징 검색을 활용함으로써, QuTuner는 전통적인 휴리스틱 탐색 방법보다 훨씬 낮은 온라인 튜닝 오버헤드로 탁월한 최적화 결과를 달取得한다. 저자들은 자신들의 접근 방식이 기존 연구의 제한된 탐색 공간 때문에 접근할 수 없었던 전역적으로 효과적인 패스 시퀀스의 발견을 가능하게 한다고 강조한다.