기술 요약: NISQ 하드웨어 상의 양자 위상 추정을 위한 분석적으로 훈련된 변분 서로게이트(Variational Surrogate)

1. 문제 정의

양자 위상 추정(Quantum Phase Estimation, QPE)은 분자의 바닥 상태 에너지를 화학적 정확도로 결정하기 위한 기초적인 알고리즘으로, 쇼어(Shor)의 인수 분해 알고리즘이나 양자 화학 시뮬레이션과 같은 알고리즘의 핵심적인 서브루틴 역할을 합니다. 그러나 표준 QPE는 역 양자 푸리에 변환(QFT†)과 제어된 시간 진화 연산자에 의해 지배되는 깊은 회로를 필요로 합니다. 조던-위그너(Jordan-Wigner) 변환을 통해 매핑된 분자 해밀토니안의 경우, 회로 깊이는 $O(2^{n_a} \cdot m \cdot n_s^4)$로 스케일링됩니다 (여기서 $n_a$는 보조 큐비트 수, $m$은 트로터 단계 수, $n_s$는 스핀 궤도 수). 이러한 지수적 스케일링은 게이트 오류와 결맞음 해제(decoherence)로 인해 노이즈가 있는 중간 규모 양자(NISQ) 장치에서 직접적인 QPE 실행을 불가능하게 만듭니다.

이를 우회하기 위해 변분 양자 회로(VQC)를 서로게이트로 사용하는 기존의 시도들은 다른 병목 현상에 직면했습니다. 즉, 훈련 대상 분포(QPE 측정 확률)가 전체 QPE 회로를 클래식하게 시뮬레이션하여 생성된다는 점입니다. 이 클래식 시뮬레이션은 큐비트 수에 따라 지수적으로 스케일링($O(2^{n_s + n_a})$)되므로, 서로게이트 접근 방식 자체의 확장성을 저해하는 과도한 계산 비용을 발생시킵니다.

2. 방법론

저자들은 디리클레 커널(Dirichlet kernel)의 해석적 형태를 활용하여 훈련 단계에서 양자 회로 시뮬레이션의 필요성을 제거하는 프레임워크를 제안합니다.

2.1 디리클레 커널을 통한 해석적 훈련 대상

QPE 회로를 시뮬레이션하는 대신, 훈련 대상인 $P_{gt}(k; \phi)$를 폐쇄형 디리클레 커널을 사용하여 직접 계산합니다. 정확한 바닥 상태 에너지($E_{true}$), 보조 큐비트 수($n_a$), 그리고 시간 진화 파라미터($\tau$)가 주어지면, 재조정된 위상 $\phi$가 계산됩니다. 그 후 훈련 대상 확률 분포는 다음과 같습니다:
$$P_{gt}(k; \phi) = \frac{1}{2^{2n_a}} \frac{\sin^2(\pi(\phi - k))}{\sin^2\left(\frac{\pi(\phi - k)}{2^{n_a}}\right)}$$
이를 통해 대상 분포를 $n_s$(분자 시스템 크기)와 무관하게 $O(2^{n_a})$ 시간 내에 순수하게 클래식하게 계산할 수 있으며, 이는 훈련 파이프라인을 지수적 시뮬레이션 병목 현상으로부터 분리시킵니다.

2.2 변분 양자 회로(VQC) 아키텍처

얕은 VQC가 이 해석적 분포를 재현하도록 훈련됩니다. 본 연구는 $n_a=11$ 큐비트 레지스터 상에서 두 가지 앙사츠(ansatz) 아키텍처를 조사합니다:

• RY-RZ-CZ 앙사츠: $RY$및$RZ$회전과$CZ$ 얽힘 게이트의 층으로 구성됩니다.
• RY-CZ 앙사츠: $RY$회전과$CZ$ 게이트만을 사용하는 축소된 변형 모델로, 파라미터 수를 절반으로 줄였습니다.

두 가지 얽힘 토폴로지가 비교됩니다:

• 선형 얽힘(Linear Entangler): 인접한 이웃 큐비트를 연결합니다 ($O(p \cdot n_a)$ 깊이).
• 전체 얽힘(Full Entangler): 모든 큐비트 쌍을 연결합니다 ($O(p \cdot n_a^2)$ 깊이).

2.3 최적화 및 하드웨어 실행

VQC 파라미터는 VQC 출력과 해석적 디리클레 타겟 사이의 $L_1$ 노름 비용 함수를 최소화하기 위해 COBYLA(Constrained Optimization BY Linear Approximation) 알고리즘을 사용하여 최적화됩니다. 훈련은 두 가지 모드로 수행됩니다:

1. 이상적 시뮬레이터(Ideal Simulator): 노이즈가 없는 실행.
2. 노이즈 시뮬레이터(Noisy Simulator): IBM ibm_boston 장치로부터 교정된 노이즈 모델을 사용한 실행.

훈련된 파라미터는 실제 IBM 양자 초전도 하드웨어로 전송됩니다. 또한, 디페이징(dephasing) 노이즈를 억제하기 위해 설계된 $X_pX_m$ 동적 디커플링(Dynamical Decoupling, DD) 시퀀스의 영향을 평가합니다.

3. 주요 기여

1. 해석적 훈련 파이프라인: 클래식 QPE 회로 시뮬레이션을 폐쇄형 디리클레 커널 계산으로 대체하는 것이 주요 기여입니다. 이를 통해 훈련 타겟을 생성하는 데 따르는 지수적 메모리 및 실행 시간 스케일링을 제거함으로써, 서로게이트 프레임워크를 더 큰 문제 크기에도 적용 가능하도록 확장성을 확보했습니다.
2. 체계적인 하드웨어 조사: 실제 하드웨어에서의 4단계 실험 워크플로우를 제공합니다:
   • 1단계: 선형 얽힘과 전체 얽힘 토폴로지의 비교.
   • 2단계: 회로 깊이($p=1$부터 $5$)의 분석 및 동적 디커플링의 효과.
   • 3단계: RY-RZ-CZ와 RY-CZ 앙사츠 및 훈련 환경(이상적 vs 노이즈)의 비교.
   • 4단계: 더 깊은 회로 깊이($p=8, 64$)에서의 보충 노이즈 분석.
3. NISK 제약 조건에 대한 경험적 발견: 현재의 초전도 하드웨어에서 회로 깊이, 얽힘 토폴로지, 노이즈 완화 전략이 어떻게 상호작용하는지에 대한 구체적인 데이터를 제공합니다.

4. 결과

실험은 대칭성 테이퍼링(symmetry-tapered)이 적용된 수소 분자($H_2$) 해밀토니안(2 큐비트로 축소됨)을 사용하여 11개의 보조 큐비트와 함께 수행되었습니다.

• 토폴로지: 선형 얽힘이 실제 하드웨어에서 전체 얽힘보다 성능이 월등히 뛰어났습니다. 이상적 시뮬레이션에서는 두 방식 모두 유사하게 작동했으나, 전체 얽힘은 실제 장치에서 과도한 오류를 누적시켜 지배적인 비트스트링(bitstring) 수를 약 92,000개에서 65,000개로 감소시켰습니다.
• 회로 깊이: 단일 층 구성($p=1$)이 최적이었습니다. 깊이를 $p=5$까지 늘리면 실제 하드웨어에서 모든 분포 지표(Hellinger 거리, 충실도 오차, TVD, JSD)가 단조 감소하는 성능 저하를 보였습니다. 이는 이상적 시뮬레이션에서 나타난 경향과는 상반된 결과입니다.
• 동적 디커플링 (DD): 예상과 달리, $X_pX_m$ DD 시퀀스의 적용은 모든 층 수와 훈련 환경에서 성능을 저하시켰습니다. 저자들은 이를 얕은 회로에서의 충분한 유휴 시간(idle time) 부족과 펄스 교정 오류 때문으로 설명합니다.
• 앙사츠 비교: 축소된 RY-CZ 앙사츠는 실제 하드웨어에서 더 복잡한 RY-RZ-CZ 앙사츠와 대등한 성능을 보였습니다. 낮은 파라미터 수와 게이트 깊이를 고려할 때, 이는 더 하드웨어 효율적인 선택으로 식별되었습니다.
• 훈련 환경: 이상적(노이즈 없는) 시뮬레이터에서 훈련된 파라미터가 노이즈가 있는 시뮬레이터에서 훈련된 것보다 실제 하드웨어에 더 잘 일반화되었습니다. 이상적 훈련을 거친 RY-CZ 구성은 91,499개의 지배적 비트스트링을 달성했습니다(노이즈 훈련 시 90,267개).
• 에너지 회복: 본 프레임워크는 절대 오차 $|\Delta E| = 1.786 \times 10^{-4}$ Hartree 내에서 분자의 바닥 상태 에너지를 성공적으로 회복했습니다. 이는 화학적 정확도 임계값($1.59 \times 10^{-3}$ Hartree) 이내에 있습니다.
• 분포 충실도: VQC는 단순히 가장 확률이 높은 결과로 붕괴되는 것이 아니라, 올바른 지배적 비트스트링을 식별할 뿐만 아니라 디리클레 커널의 감쇠하는 사이드 로브(side-lobe) 구조까지 재현함으로써, 서로게이트가 밑바닥의 위상 구조를 학습했음을 확인시켜 주었습니다.

5. 의의 및 주장

본 논문은 NISK 장치에서 QPE 기반의 분자 에너지 추정을 위한 확장 가능하고 하드웨어 효율적인 패러다임을 구축한다고 주장합니다. 클래식 시뮬레이션의 병목 현상을 제거함으로써, 이 프레임워크는 직접적인 QPE 시뮬레이션이 불가능한 문제에 대해서도 변분 서로게이트를 훈련할 수 있게 합니다.

저자들은 다음과 같은 점을 강조합니다:

• 지수적으로 스케일링하는 QPE 회로 대신 선형적으로 스케일링하는 VQC 회로를 사용하여 화학적 정확도를 달달성합니다.
• 현재의 하드웨어에서는 **얕은 회로($p=1$)**와 선형 얽힘이 최적이며, 더 깊은 회로나 복잡한 얽힘은 노이즈를 너무 많이 축적한다는 것을 보여줍니다.
• 얕은 변분 작업의 경우, 이상적 시뮬레이터 훈련이 노이즈 인식 훈련보다 더 견고할 수 있음을 시사하며, 이는 노이즈 모델이 항상 일반화에 필수적이라는 가정에 도전합니다.
• 시뮬레이션 의존적인 서로게이트 방식에 대한 엄격하고 분석적인 대안을 제공하여, 클래식 훈련 비용을 높이지 않고도 더 큰 분자 시스템에 적용할 수 있게 합니다.

결론적으로, NISK 하드웨어의 한계(노이즈, DD를 위한 유휴 시간 부족)가 깊은 회로의 효용성을 제한하고 있지만, 분석적으로 훈련된 변분 서로게이트는 얕고 노이즈에 강한 양자 회로부터 고정밀 스펙트럼 정보를 추출할 수 있는 실행 가능한 경로을 제시합니다.