Active Learning for Calibrating Entangling Gates via Surrogate-Based Optimization

기술 요약: 대리 모델 기반 최적화를 통한 얽힘 게이트 교정용 능동 학습

문제 정의
고충실도 양자 게이트 연산은 근미래의 양자 이점 및 결함 허용 오류 수정에 필수적이다. 그러나 높은 충실도를 달s기 위해서는 시스템의 해밀토니안을 정의하는 고전적 제어 파라미터의 정밀한 교정이 필요하다. 이론적 모델이 존재하기는 하지만, 실제 하드웨어에 구현된 해밀토니안은 고전적 제어 인프라의 미지의 비선형 전달 함수로 인해 이상적인 상태에서 벗어나는 경우가 많다. 순차적 파라미터 스윕이나 정확한 순방향 모델(예: 정확한 이론적 모델을 사용하는 베이지안 교정)에 의존하는 전통적인 교정 방식은 다음과 같은 중대한 한계에 직면한다: 시스템 크기에 따른 확장성 저하, 고전적 시뮬레이션의 높은 계산 비용, 그리고 주기적인 재교정 없이 하드웨어 드리프트를 처리할 수 없는 능력의 부재. 또한, 양자 시스템은 노이즈가 많고 데이터가 적은 환경에서 작동하므로, 신경망과 같이 많은 데이터를 요구하는 접근 방식은 실용적이지 않다. 핵심 과제는 측정 노이즈를 견디면서 정확한 물리적 모델 없이도 최적의 제어 파라미터를 효율적으로 식별하는 것이다.

방법론
저자들은 가우시안 프로세스(GP)를 대리 모델(surrogate model)로 활용하는 베이지안 최적화(BO) 기반의 능동 학습 프레임워크를 제안한다. 이 접근 방식은 제한된 수의 노이즈 섞인 측정값을 사용하여 교정 지형(calibration landscape)을 탐색하도록 설계되었다.

• 대리 모델링: 프레임워크는 제어 파라미터 벡터 $x$(라비 주파수 $\Omega$, 사이드밴드 디튜닝 $\delta$, 센터라인 디튜닝 $\omega_{cl}$)를 통해 미지의 교정 지형 $f(x)$를 모델링하기 위해 GP를 사용한다. 표준 GP와 달리, 이 구현은 **이종 분산 노이즈 모델(heteroskedastic noise model)**을 사용한다. 측정 노이즈 $\epsilon_i$는 제어 설정 및 측정 샷 수 $N$에 따라 분산이 결정되는 평균이 0인 가우시안으로 모델링되며, 이는 양자 투영 노이즈의 물리학을 반영한다.
• 베이지안 최적화 루프: 최적화 과정은 다음 세 단계를 반복한다:
  1. 대리 모델 업데이트: GP 사후 확률(posterior)은 새로운 실험 데이터(제어 파라미터 및 측정된 점수)와 함께 업데이트되며, 유형-II 최대 가능도(type-II maximum likelihood)를 통해 하이퍼파라미터(길이 척도, 신호 분산, 노이즈 스케일링)를 최적화한다.
  2. 능동 학습 획득 함수: 획득 함수, 구체적으로는 상한 신뢰 구간(UCB)이 다음 실험 구성을 선택한다. 이 함수는 착취(exploitation)(높은 예측 충실도를 가진 영역 샘계)와 탐색(exploration)(높은 불확실성을 가진 영역 샘플링) 사이의 균형을 맞추어 전역 최적점을 효율적으로 찾아낸다.
  3. 물리적 평가: 선택된 파라미터는 양자 시스템(본 연구에서는 시뮬레이션됨)에 적용되며, 그 결과로 얻어진 게이트 충실도 점수가 측정된다.
• 시뮬레이션 환경: 이 방법은 트랩된 이온 뫼르머-쇠렌슨(MS) 게이트의 시뮬레이션을 통해 검증되었다. 시뮬레이션은 IonSim.jl을 사용하여 두 개의 $^{40}\text{Ca}^+$ 이온을 모델링하며, 양자 투영 노이즈의 영향을 격리하기 위해 결맞음 해제(decoherence)는 제외하고 비공명 캐리어 엑시테이션 및 사각 펄스 효과를 포함한다. 교정 시퀀스는 큐비트를 $|gg\rangle$ 상태로 초기화하고, 두 개의 MS 게이트를 적용한 후, $|ee\rangle$ 상태의 확률($P_{ee}$)을 점수로 측정하는 과정을 포함한다.

주요 기여

• 모델 프리 교정: 본 논문은 정밀한 순방향 모델 없이 데이터 기반의 GP 대리 모델에 의존하는 교정 프로토콜을 입증하였다.
• 이종 분산 노이즈 처리: 관측 분산이 제어 파라미터와 측정 샷 수에 따라 변한다는 점을 인정하여, 양자 투영 노이즈가 지형 전체에 걸쳐 변하는 물리학을 반영하는 노이즈 모델을 통합하였다.
• 능동 학습 효율성: 능와 학습을 활용하여 교정을 가속화함으로써, GP가 노이즈 섞인 데이터로 학습되더라도 공간적 매끄러움을 강제함으로써 시스템의 노이즈를 효과적으로 "제거(denoise)"할 수 있음을 보여주었다.
• 한계 정량화: 유한한 샷 수의 양자 투영 노이즈에 의해 발생하는 충실도 포화 한계를 명확히 규명하였으며, 알고리즘의 수렴과 물리적 측정 한계를 구분하였다.

결과
저자들은 트랩된 이온 MS 게이트의 수치 시뮬레이션을 통해 접근 방식을 검증하였다:

• 대리 모델 정확도: GP 대리 모델은 제어 지형을 성공적으로 모델링하였다. 훈련 포인트($m$)와 측정 샷 수($N$)를 늘릴수록 정확도가 향상되었다. 특히 $m$이 클 때, GP 평균은 상관관계가 없는 투영 노이즈를 필터링하여 데이터의 평균 노이즈 수준보다 낮은 제곱평균제곱근 오차(RMSE)를 달성할 수 있었다.
• 최적화 수렴:
  • 파라미터 범위: 초기 파라미터 불확실성 범위(예: $\pm 10$ kHz에서 $\pm 1$ kHz로)를 줄이면 수렴 시간이 크게 단축되고 최적화 경로의 분산이 감소했다. 그러나 최적화 도구는 전체 규모의 탐색 영역($r=1.0$)에서도 전역 최적점을 찾을 수 있을 만큼 충분히 견고했다.
  • 샷 예산: 최적화 충실도는 평가당 샷 수($N$)에 따라 포화되었다. 포화 현상은 예상된 스케일링인 $1 - Q \approx Q_\infty + \gamma N^{-1/2}$를 따랐다. $N=100$ 샷이라는 낮은 예산에서도 최적화 도구는 $\sim 10^{-3}$의 충실도 바닥에 안정적으로 도달했으나, 추가적인 반복 수행으로도 유한 샷 한계 이하로 충실도를 높일 수는 없었다.
  • 파라미터 정밀도: 주파수 파라미터($\omega_{cl}$ 및 $\delta$)는 이상적인 값의 수십 Hz 이내로 수렴한 반면, 라비 주파수($\Omega$)는 최소한의 분산을 가지며 이상적인 비율로 수렴하였다.
• 시각화: 능동 학습 과정은 지형을 지능적으로 샘플링하여 최적 영역 주변에 측정을 집중시키고 주파수 피크 주변의 불확실성을 좁히는 동시에, 선택된 교정 시퀀스에서의 낮은 민감도로 인해 진폭 지형은 더 넓게 유지되는 것을 보여주었다.

의의 및 주장
본 논문은 양자 교정 및 제어를 위한 능동 학습과 대리 모델의 유용성을 확립한다. 저자들은 자신들의 모델 프리 접근 방식이 하드웨어 드리프트를 처리하고 상세한 물리 모델 없이 작동할 수 있는 "자동화된 게이트 유지 관리를 위한 경량 경로"를 제공한다고 주장한다. 결과는 가우시안 프로세스 베이지안 최적화가 노이즈가 많고 비용이 많이 드는 양자 제어 작업에 실용적인 도구임을 시사한다. 이 연구는 자원 효율적인 교정이 가능하지만, 궁극적인 충실도는 측정 과정에 내재된 양자 투영 노이즈에 의해 제한된다는 점을 강조한다. 저자들은 이 방법이 확장 가능한 양자 시스템을 특성화, 교정 및 제어하기 위한 기초적인 단계라고 위치시키며, 향촉 연구에서는 실제 세계의 비이상성과 클래식 시뮬레이션과 양자 측정을 결에는 멀티 피델리티(multi-fidelity) 접근 방식을 다루어야 한다고 언급한다.