QNAS: A Neural Architecture Search Framework for Accurate and Efficient Quantum Neural Networks

1. 문제 정의 (Problem Statement)

현재 NISQ (Noisy Intermediate-Scale Quantum) 하드웨어에서 실행 가능한 정확하고 효율적인 양자 신경망 (QNN) 을 설계하는 것은 큰 도전 과제입니다. 기존 연구의 주요 한계점은 다음과 같습니다.

• 리소스 제약과 회로 컷팅 (Circuit Cutting) 의 과소평가: 기존 양자 아키텍처 검색 (QAS) 방법들은 주로 정확도 최적화에 집중하며, 양자 자원 (큐비트 수, 게이트 수, 깊이 등) 을 휴리스틱하게만 제어합니다. 그러나 제한된 큐비트 수를 가진 하드웨어에서 대규모 회로를 실행하려면 '회로 컷팅'이 필수적입니다. 회로 컷팅은 분할된 서브회로의 실행 횟수가 컷 수 ($k$) 에 대해 지수적으로 ($O(4^k)$) 증가하는 심각한 계산 오버헤드를 초래합니다. 기존 방법들은 이 오버헤드를 고려하지 않아, 정확도는 높지만 실제 하드웨어 배포 시 실행 비용이 과도하게 높은 아키텍처를 발견할 위험이 있습니다.
• 학습 병목 현상: 손으로 설계된 Ansatz 는 표현력, 학습 가능성 (Trainability), 하드웨어 효율성 사이의 균형을 맞추기 어렵고, 'Barren Plateaus' (기울기 소실) 문제와 NISQ 노이즈에 취약합니다.

2. 제안 방법론: QNAS (Methodology)

저자들은 정확도, 런타임 비용, 회로 컷팅 오버헤드를 동시에 최적화하는 QNAS (Quantum Neural Architecture Search) 프레임워크를 제안합니다.

핵심 구성 요소

1. 하드웨어 인식 원샷 평가 (Hardware-Aware One-Shot Evaluation):
   • 공유 파라미터를 가진 SuperCircuit을 학습하여 여러 후보 아키텍처를 효율적으로 평가합니다.
   • 전체 데이터셋에 대한 긴 학습 대신, 소수의 에포크 (few epochs) 만으로 후보를 선별하여 계산 비용을 절감합니다.
2. 다목적 최적화 (Multi-Objective Optimization):
   • NSGA-II (Non-dominated Sorting Genetic Algorithm II) 알고리즘을 사용하여 다음 세 가지 목적 함수를 동시에 최적화합니다.
     • $F_1$ (정확도 손실): 검증 세트에서의 오분류율.
     • $F_2$ (런타임 비용): GPU 동기화 월시 클록 시간을 샘플당 측정하여 실제 실행 비용을 대리합니다.
     • $F_3$ (회로 컷팅 오버헤드): 목표 큐비트 예산 ($Q_{target}$) 하에서 필요한 서브회로 (subcircuits) 의 추정 개수. 이 값을 최소화함으로써 지수적인 실행 비용 증가를 방지합니다.
3. 검색 공간 (Search Space):
   • 임베딩 유형: Angle (X, Y, Z) 또는 Amplitude.
   • 회로 구조: 큐비트 수 ($n$), 회로 깊이 ($L$), 엔탱글먼트 범위 ($r$), CNOT 모드 (All, Odd, Even, None).
   • 하이퍼파라미터: 학습률 등.
4. 하드웨어 매핑 및 전사 (Transpilation):
   • IBM Quantum 시스템의 실제 연결성 (coupling graph) 과 노이즈 모델 (fake backends) 을 시뮬레이션하여, 후보 회로의 실제 배포 가능성을 평가합니다.

3. 주요 기여 (Key Contributions)

1. 회로 컷팅 오버헤드를 고려한 최초의 QAS 프레임워크: 정확도뿐만 아니라 서브회로 수 ($F_3$) 를 명시적인 최적화 목표로 포함하여, 제한된 큐비트 하드웨어에서 실행 가능한 아키텍처를 탐색합니다.
2. 효율적인 원샷 평가 전략: 소수의 에포크 학습만으로도 최종 성능과 높은 상관관계 ($r > 0.9$) 를 보이는 것을 입증하여, 검색 과정의 계산 비용을 획기적으로 줄였습니다.
3. 실용적인 설계 통찰 도출: 다양한 데이터셋 (이미지, 표) 에 대해 어떤 임베딩 방식과 엔탱글먼트 패턴이 가장 효과적인지 자동으로 발견합니다.
4. 오픈 소스 공개: 실험 재현성을 위해 코드와 프레임워크를 공개했습니다.

4. 실험 결과 (Results)

MNIST, Fashion-MNIST, Iris 데이터셋을 대상으로 한 실험 결과는 다음과 같습니다.

• MNIST (8 큐비트, 2 레이어):

  • 최고 정확도: 97.16% (테스트 정확도).
  • 특징: Angle-Y 임베딩과 희소한 CNOT 모드 (none-odd) 가 가장 우수한 성능을 보였습니다. 밀집된 엔탱글먼트 (all 모드) 는 Barren Plateaus 로 인해 무작위 추측 수준 ($\sim 10\%$) 의 성능을 보였습니다.
  • 효율성: 4 큐비트 목표 예산 하에서 5 개의 서브회로 ($F_3=5$) 만으로 분할 가능했습니다.

• Fashion-MNIST (5 큐비트, 2 레이어):

  • 최고 정확도: 87.38% (테스트 정확도).
  • 특징: MNIST 와 마찬가지로 Angle-Y 임베딩과 희소한 CNOT 패턴이 우세했습니다. 데이터의 복잡성으로 인해 정확도는 MNIST 보다 낮았으나, QNAS 가 효율적인 아키텍처를 성공적으로 발견함을 입증했습니다.

• Iris (4 큐비트, 2 레이어):

  • 최고 정확도: 100% (검증 정확도).
  • 특징: 이미지 데이터와 달리, Amplitude 임베딩이 가장 우수한 성능을 보였습니다. 이는 소규모 표 데이터 (4 차원 특징) 에 적합하기 때문입니다.
  • 효율성: 2 큐비트 목표 예산 하에서도 100% 정확도를 달성하며, 컷팅 오버헤드를 최소화하는 아키텍처를 찾았습니다.

• 일반적인 통찰:

  • 희소한 엔탱글먼트 (Sparse Entanglement): none-odd 또는 none-even 같은 희소한 CNOT 패턴이 항상 밀집된 패턴보다 성능이 좋고 학습이 용이했습니다.
  • 임베딩 선택: 이미지 데이터에는 Angle-Y, 표 데이터 (Iris) 에는 Amplitude 가 적합함이 확인되었습니다.

5. 의의 및 결론 (Significance)

이 논문은 양자 머신러닝의 실용화를 위한 중요한 걸음을 내딛었습니다.

• 하드웨어 친화적 설계: 단순히 이론적인 정확도만 높이는 것이 아니라, NISQ 하드웨어의 물리적 제약 (큐비트 수, 노이즈, 컷팅 오버헤드) 을 고려하여 실제 배포 가능한 (Deployable) QNN 아키텍처를 자동으로 설계합니다.
• 비용 효율성: 회로 컷팅으로 인한 지수적인 실행 비용 증가를 최적화 과정에 통합함으로써, 실제 양자 장치에서 실행 가능한 솔루션을 제공합니다.
• 자동화된 설계 통찰: 연구자가 수동으로 Ansatz 를 설계할 필요 없이, QNAS 가 데이터 특성에 맞는 최적의 임베딩 및 엔탱글먼트 패턴을 자동으로 발견하게 함으로써 개발 시간을 단축하고 성능을 극대화합니다.

결론적으로, QNAS 는 정확도, 효율성, 그리고 하드웨어 제약 사이의 균형을 맞추는 파레토 최적 (Pareto optimal) 양자 신경망 아키텍처를 발견하는 강력한 도구로 입증되었습니다.