Closing the Loop: Resource-aware Hybrid NAS Guided by Analytical and Hardware-Calibrated Quantum Cost Modeling

1. 문제 정의 (Problem Statement)

• 하이브리드 양자 - 고전 신경망 (HQNN) 의 자원 추정 난제: HQNN 은 고전 레이어와 양자 회로를 통합하지만, 두 시스템은 근본적으로 다른 계산 패러다임을 가집니다. 이로 인해 하드웨어 자원 추정이 매우 어렵습니다.
• FLOPs 기반 평가의 한계: 기존 고전 신경망의 NAS(신경망 구조 탐색) 는 연산 복잡도를 추정하기 위해 FLOPs(Floating Point Operations) 를 주로 사용합니다. 그러나 양자 연산은 텐서 계산이 아니며, 양자 하드웨어의 고유한 특성 (큐비트 연결성, 노이즈, 디코히어런스 등) 에 따라 비용이 결정됩니다.
  • FLOPs 프로파일링 도구는 양자 레이어를 '블랙박스'로 간주하거나, 시뮬레이터 구현 방식에 따라 실제 양자 하드웨어 비용과 전혀 상관없는 수치를 산출합니다.
  • 예: 일부 시뮬레이터에서는 회로 깊이가 깊어질수록 FLOPs 는 증가하지만, 실제 하드웨어 실행 시간과는 무관하게 일정하게 유지되거나 오히려 실제 비용이 증가함에도 FLOPs 는 변하지 않는 등 불일치가 발생합니다.
• NISQ 장치의 훈련 비실용성: 실제 양자 장치 (NISQ) 에서 양자 회로를 훈련시키려면 수천 번의 회로 실행이 필요하여 비효율적이고 비용이 많이 듭니다. 따라서 대부분의 HQNN 은 고전 시뮬레이터에서 평가되며, 이때 FLOPs 나 게이트 수와 같은 단순 지표만 사용되어 실제 하드웨어 비용을 과소평가하거나 왜곡합니다.
• 피드백 루프 단절: 설계 단계의 아키텍처와 실제 하드웨어 비용 간의 연결이 끊어져, 실제 양자 장치에서 실행 가능한 최적의 구조를 찾기 어렵습니다.

2. 제안된 방법론 (Methodology)

저자들은 이 문제를 해결하기 위해 분석적 양자 비용 모델과 고전 비용 모델을 통합한 **하드웨어 인식 하이브리드 NAS 프레임워크 (Hyb-HANAS)**를 제안했습니다.

A. 분석적 양자 비용 모델 (Analytical Quantum Cost Model)

실제 백엔드 (IBM Quantum 등) 의 교정 데이터를 기반으로 양자 하드웨어의 실제 실행 시간을 추정합니다.

• 게이트 실행 시간: 단일 큐비트 및 2 큐비트 게이트의 실제 지속 시간 ($t_{1q}, t_{2q}$) 을 반영합니다.
• 라우팅 오버헤드: NISQ 장치의 제한된 큐비트 연결성으로 인해 필요한 SWAP 게이트 등 추가 2 큐비트 게이트로 인한 지연 시간을 계산합니다.
• 노이즈 및 신뢰성 오버헤드: 게이트 오류와 디코히어런스로 인해 유효한 샘플을 얻기 위해 필요한 추가 샷 (shots) 수를 통계적으로 모델링하여 시간 페널티로 변환합니다.
  • 공식: $T_{eff} = \frac{T_{logical} + T_{routing}}{1 - p_{fail}}$
• 기울기 평가 비용: 파라미터 시프트 규칙 (Parameter-shift rule) 을 사용하여 양자 회로 훈련 시 필요한 기울기 계산 비용 (파라미터당 2 회 평가) 을 포함합니다.

B. 분석적 고전 비용 모델 (Analytical Classical Cost Modeling)

• FLOPs 를 실제 장치의 처리량 (Throughput) 을 통해 시간 단위로 변환합니다.
• 기준 모델을 통해 측정된 FLOPs/sec ($\Phi_{device}$) 를 사용하여, 임의의 후보 모델의 FLOPs 를 해당 하드웨어에서의 실행 시간 ($T_{classical}$) 으로 환산합니다.
• 이를 통해 고전과 양자 비용 모두 **초 (seconds)**라는 통일된 물리 단위로 표현되어 공정한 비교가 가능해집니다.

C. Hyb-HANAS 프레임워크

• NSGA-II 기반 다목적 최적화: 정확도 (Accuracy), 총 파라미터 수, 고전 비용 ($T_{classical}$), 양자 비용 ($T_{quantum}$) 을 동시에 최적화합니다.
• 하드웨어 인-더-루프 (Hardware-in-the-loop) 에뮬레이션:
  • 양자 레이어는 효율적인 시뮬레이터 (Adjoint differentiation 등) 에서 훈련되지만, 비용 평가는 실시간 백엔드 교정 데이터를 기반으로 한 분석적 모델을 통해 수행됩니다.
  • 이는 실제 장치를 직접 실행하지 않고도 실제 하드웨어 제약 조건을 반영한 탐색을 가능하게 합니다.
• 검색 모드:
  1. 고정 CNN 모드: 고전 레이어는 고정하고 양자 레이어 구조 (큐비트 수, 깊이, 얽힘 토폴로지 등) 만 최적화.
  2. 가변 CNN 모드: 고전 및 양자 레이어를 모두 함께 최적화하여 상호 적응 (Co-adaptation) 을 탐색.

3. 주요 기여 (Key Contributions)

1. FLOPs 기반 평가의 한계 규명: HQNN 에서 FLOPs 가 실제 양자 하드웨어 비용을 반영하지 못하며, 오히려 시뮬레이션 오버헤드를 반영할 뿐임을 실험적으로 증명했습니다.
2. 하드웨어 교정 기반 분석적 비용 모델 개발: 게이트 지속 시간, 라우팅 오버헤드, 노이즈로 인한 샘플링 비효율성을 통합하여 양자 회로의 실제 훈련 지연 시간을 정밀하게 추정하는 모델을 제시했습니다.
3. 통일된 시간 기반 비용 지표: 고전 (FLOPs 기반) 과 양자 (게이트/노이즈 기반) 비용을 모두 '시간' 단위로 변환하여 하이브리드 시스템의 다목적 최적화를 가능하게 했습니다.
4. Hyb-HANAS 프레임워크 제안: 제안된 비용 모델을 NSGA-II NAS 에 통합하여, 정확도와 하드웨어 비용 (및 파라미터 수) 간의 파레토 최적 (Pareto-optimal) 트레이드오프를 찾는 시스템을 구축했습니다.
5. 하드웨어 인식 설계 인사이트: 라우팅 오버헤드와 노이즈가 양자 하드웨어 비용의 주된 요인임을 분석하고, 고전 - 양자 구성 요소 간의 상호 적응이 하드웨어 효율성을 높이는 데 중요함을 보였습니다.

4. 실험 결과 (Results)

• 모델 검증: 제안된 분석적 모델이 IBM Qiskit 스케줄러의 예상 실행 시간과 높은 일치도를 보였으며, 노이즈 보정까지 포함하여 실제 하드웨어 비용을 더 정확하게 반영함을 확인했습니다.
• 고정 CNN 모드 결과:
  • 고전 레이어가 고정된 상태에서 양자 레이어만 최적화했을 때, 얕고 효율적인 양자 회로도 깊은 회로와 유사한 정확도를 달성할 수 있음을 보였습니다.
  • 깊은 회로일수록 라우팅 오버헤드와 신뢰성 페널티 (노이즈) 가 급격히 증가하여 비용이 비효율적이 됨을 확인했습니다.
• 가변 CNN 모드 결과:
  • 고전과 양자 레이어를 함께 최적화했을 때 더 풍부한 파레토 프론트가 형성되었습니다.
  • 상호 적응 (Co-adaptation): 고전 CNN 이 복잡해지면 (깊은 레이어, 많은 채널), Hyb-HANAS 는 더 단순하고 얕은 양자 회로를 선택하여 전체 비용을 줄였습니다. 반대로 고전 부분이 단순할 때는 더 표현력이 풍부한 양자 회로를 선택하여 정확도를 유지했습니다.
• 비용 분해 분석 (Ablation Study):
  • 회로 복잡도가 증가함에 따라 라우팅 오버헤드와 신뢰성 페널티가 양자 하드웨어 비용의 지배적인 요인임을 확인했습니다.
  • 이는 HQNN 설계 시 단순한 게이트 수 감소뿐만 아니라, 연결성 제약과 노이즈를 고려한 컴팩트한 구조가 필수적임을 시사합니다.

5. 의의 및 결론 (Significance)

• 실용적인 HQNN 설계 가이드: 실제 양자 하드웨어의 물리적 제약 (노이즈, 연결성) 을 고려하지 않은 추상적인 NAS 를 넘어, 실제 장치에서 실행 가능한 효율적인 하이브리드 아키텍처를 설계할 수 있는 방법을 제시했습니다.
• 비용 효율적인 탐색: 실제 양자 장치를 직접 실행하지 않고도 분석적 모델을 통해 정확한 비용 추정이 가능하므로, NISQ 장치의 제한된 자원을 효율적으로 활용할 수 있습니다.
• 확장성: 제안된 분석적 비용 모델은 양자 회로 컴파일러 평가, 하드웨어 선택, 알고리즘의 충실도 - 지연 시간 트레이드오프 분석, 그리고 NISQ 장치에서의 훈련 시간 추정 등 다양한 양자 컴퓨팅 분야에 적용 가능합니다.

이 논문은 양자 - 고전 하이브리드 시스템의 설계와 최적화에 있어 '하드웨어 인식 (Hardware-aware)' 접근법의 중요성을 강조하며, 이론적 모델과 실제 하드웨어 데이터 간의 간극을 메우는 중요한 기여를 했습니다.