High-Order Hermite Optimization: Fast and Exact Gradient Computation in Open-Loop Quantum Optimal Control using a Discrete Adjoint Approach

기술 요약: 양자 최적 제어를 위한 고차 헤르미트 최적화 (HOHO)

문제 정의
양자 최적 제어(Quantum Optimal Control, QOC)는 특정 논리 게이트를 구현하기 위해 제어 펄스(예: 마이크로파 또는 레이저 진폭)를 최적화함으로써 양자 시스템을 조작하는 것을 목표로 한다. 핵심적인 과제는 L-BFGS와 같은 최적화 알고리즘을 구동하기 위해 목적 함수(일반적으로 게이트 불충실도)의 기울기(gradient)를 효율적이고 정확하게 계산하는 것이다.

기존 방법들은 정확도와 계산 비용 사이에서 트레이드오프(trade-off) 문제에 직면해 있다:

• 구간 상수 접근 방식 (예: GRAPE): 제어 펄스가 시간 단계마다 일정하다고 가정한다. 이는 해석적인 기울기 유도를 가능하게 하지만, 제어 파라미터의 수가 매우 많아지고(시간 단계 수와 동일), 실험적으로 구현하기 어려운 "고대역폭" 펄스를 생성하게 된다.
• 매끄러운 매개변수화 접근 방식 (예: GOAT, CRAB): 연속적인 기저 함수(예: 스플라인)를 사용하여 파라미터 수를 줄이고 더 매끄러운 펄스를 생성한다. 그러나 표준 기울기 기반 방법은 모든 제어 파라미터에 대해 초기값 문제(initial value problem)를 매번 풀어야 하므로(순방향 모드 미분), 기울기 계산이 비효로적이다($O(N_{params})$).
• 자동 미분 (Automatic Differentiation, AD): 역방향 모드 AD는 기울기를 효율적으로 계산할 수 있지만, 전체 계산 그래프와 중간 변수들을 저장해야 한다. 대규모 양자 시스템(특히 개방형 시스템)의 경우, 이는 메모리 사용량이 시스템 크기 및 타임스텝 수에 따라 나쁘게 확장되어, 대규모 시스템의 최적 제어를 불가능하게 만든다.

방법론: 고차 헤르미트 최적화 (High-Order Hermite Optimization, HOHO)
저자들은 연속적이고 매개변수화된 제어 펄스에 대해 정확한 기울기를 계산하면서, 동시에 순방향 방정식(슈뢰딩거 또는 린드블라드 마스터 방정식)을 풀기 위해 임의의 고차 수치 해석 방법을 사용할 수 있는 개방 루프 이산 어드조인트(discrete adjoint) 접근 방식인 HOHO를 소개한다.

방법론의 주요 구성 요소는 다음과 같다:

1. 헤르미트 룬게-쿠타 (Hermite Runge-Kutta, HRK) 적분: 순방향 방정식을 HRK 방법을 사용하여 푼다. 표준 룬게-쿠타 방법과 달리, HRK 방법은 헤르미트 보간법을 활용하여 시간 간격의 시작과 끝에 노드를 결합한다. 이를 통해 방법론이 A-안정성(A-stable) 구조를 유지하면서도 높은 차수의 정확도($p=q$일 때 $2p$)를 달able히 할 수 있게 한다.
2. 이산 어드조인트 정식화 (Discrete Adjoint Formulation): 저자들은 HRK 스킴에 특화된 이산 어드조인트 방법을 유도한다. 타임스텝 규칙을 라그랑주 프레임워크 내의 제약 조건으로 취급함으로써, 어드조인트 상태($\lambda$)에 대한 역방향 진화 방정식을 유도한다. 이를 통해 계산된 기울기가 사용된 특정 수치 이산화와 관련하여 정확함을 보장하며, 이는 콰지-뉴턴(quasi-Newton) 최적화 알고리즘의 수렴에 결정적이다.
3. 효율적인 기울기 누적 (Efficient Gradient Accumulation): 제어 파라미터의 수($N_P$)와 무관하게 기울기 누적을 수행할 수 있는 기술을 도출한 것이 새로운 기여점이다. 제어 해밀토니안의 선형 구조($H(t) = H_d + \sum c_j(t) H_j$)를 활용함으로써, 기울기 누적의 계산 비용을 총 파라미터 수가 아닌 제어 채널의 수($N_C$)에만 의존하도록 줄였다.
4. 메모리 관리: 정확한 기울기를 보장하기 위해 전체 상태 이력을 저장한다. 메모리 비용을 완화하기 위해 저자들은 "메모리 절약형(memory-lean)" 대안(어드조인트 패스 중에 순방향 방정식을 재계산하는 방식)이나 체크포인팅을 사용하지만, 주요 실험에서는 정확한 기울기를 보장하기 위해 전체 저장을 사용하였다.
5. 프리컨디셔닝 (Preconditioning): 암시적 타임스텝핑 동안 해결되는 선형 시스템을 위해, 저자들은 종종 대각 행렬 형태인 드리프트 해밀토니안($H_d$)에 기반한 좌측 프리컨디셔너를 제안한다. 이는 순방향 및 어드조인트 진화 모두에서 사용되는 반복 솔버(예: GMRES)의 수렴을 크게 가속화한다.

주요 기여

• 최초의 시도: HOHO는 연속적이고 매개변수화된 제어 펄스에 대해 정확한 이산 기울기를 효율적으로 계산하면서, 임의의 고차 수치 해석 방법을 사용할 수 있는 최초의 방법이다.
• 알고리즘 유도: 임의 차수의 헤르밀트 룬게-쿠타 방법에 대한 이산 어드조인트 방정식에 대한 엄밀한 유도를 제공하며, 여기에는 고차 미분에 대한 재귀 공식과 효율적인 기울기 누적 전략이 포함된다.
• 소프트웨어 구현: 이 방법은 오픈 소스 Julia 패키지인 QuantumGateDesign.jl에 구현되었다.
• 확장성: 이 접근 방식은 기울기 계산 비용을 제어 파라미터 수로부터 분리하고, 역방향 모드 AD에 비해 메모리 오버헤드를 줄여 더 큰 규모의 경직된(stiff) 양자 시스템 시뮬레이션을 가능하게 한다.

결과
저자들은 수치 실험을 통해 방법을 검증하였다:

• 정확성: 라비 진동자(Rabi oscillator) 문제에서, 이산 어드조인트 기울기는 타임스텝 크기가 감소함에 따라 연속 문제의 해석적 기울기에 기계 정밀도(machine precision)로 수렴하며, 이는 유도의 정확성을 확인시켜 준다.
• 수렴성: HRK 방법은 슈뢰딩거 방정식을 푸는 데 있어 이론적인 수렴 차수(2차에서 12차까지)를 보여준다.
• 성능 (가속도): 레조네이터에 결합된 두 개의 큐디트(qudit)에 대한 CNOT 게이트 설계 문제에서:
  • Störmer-Verlet 방법(Juqbox.jl에 구현됨)과 비교하여, HOHO는 목표 정확도와 사용된 방법의 차수에 따라 3배에서 775배 사이의 속도 향상을 달성했다.
  • 목표 상대 최종 상태 오차가 $10^{-7}$일 때, 가장 시간 효율적인 구성(12차 방법)은 775배의 속도 향상을 달ach했다.
  • 메모리 효율성: 고차 방법은 동일한 정확도를 달성하기 위해 훨씬 적은 타임스텝을 필요로 했으며, 이는 훨씬 긴 상태 이력을 저장해야 하는 저차 방법과 비교했을 때 최대 44,520배의 메모리 감소로 이어졌다.
• 최적화 효율성: 기울기를 더 빠르게 계산할 수 있는 능력 덕분에, 최적화 도구(IPOPT)는 고정된 벽시계 시간(wall-clock time) 내에 더 많은 반복을 수행할 수 있었으며, 저차 방법이 동일한 시간 내에 도달할 수 없는 더 낮은 게이트 불충실도로 수렴할 수 있었다.

의의 및 주장
본 논문은 HOHO가 이산 어드조인트 QOC 분야에서 최첨단 기술의 중요한 진전임을 주장한다. 고차 수치 해석 방법을 매끄러운 매개변수 제어와 함께 사용할 수 있게 함으로써, 이 방법은 양자 시스템의 "경직성(stiffness)"과 실험적 제어 펄스 대역폭의 제약 문제를 해결한다.

저자들은 자신의 방법이 특히 다음의 경우에 가치가 있다고 강조한다:

• 경직된 시스템 (Stiff Systems): 고차 방법은 과도한 계산 비용 없이 다양한 시간 척도를 가진 시스템을 정확하게 시뮬레이션하는 데 필수적이다.
• 장기 제어 (Long-Duration Control): 양자 속도 한계(QSL) 또는 최소 제어 시간(MCT)에 의해 제약을 받는 문제, 즉 장기 시뮬레이션이 필요한 문제에 적합하다. 고차 방법은 저차 방법에서 발생할 수 있는 드리프트(drift) 현상 없이 장기간 동안 정확도를 유지한다.
• 정확한 기울기: 정확한 이산 기울기를 제공하는 것은 2차 최적화 알고리즘의 안정성과 수렴에 매우 중요한데, 이는 근사된 기울기로 인해 발생할 수 있는 곡률 정보의 손실을 방지한다.

이 연구는 양자 결맞음(decoherence)의 근본적인 물리학 문제를 해결하거나 실험적 폐쇄 루프 제어를 대체하려는 것이 아니라, 이론적 모델과 실험적 실현 가능성 사이의 간극을 메우는 매우 효율적인 계산 도구를 제공하는 데 목적이 있다.