🔬 물리학

Benchmarking Modular Optimization Strategies for Parameterized Quantum Circuits

본 논문은 양자 탐색 방향 추정을 고전적 파라미터 업데이트 규칙으로부터 분리한 모듈형 벤치마킹 프레임워크를 소개하며, 이를 통해 유한 샷 시뮬레이션 및 156 큐비트 양자 프로세서에서의 실행 환경 모두에서 QAOA, QCNN, VQE를 포함한 다양한 양자 워크로드에 걸쳐 다양한 옵티마이저의 성능과 비용 효율성을 체계적으로 평가한다.

원저자: Carla Cotea, Stefan Balauca, Andreea Arusoaie

게시일 2026-11-02

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Carla Cotea, Stefan Balauca, Andreea Arusoaie

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

유용한 양자 컴퓨터를 구축하기 위한 경쟁 속에서, 과학자들은 현재 강력하지만 취약한 기계들을 다루고 있습니다. 근미래형 양자 프로세서(near-term quantum processors)로 알려진 이 장치들은 고전적 컴퓨터가 어려워하는 계산을 수행할 수 있지만, 오류에 취약하며 섬세한 양자 상태를 빠르게 잃어버립니다. 이러한 불완전한 하드웨어로부터 유용한 결과를 얻기 위해, 연구자들은 변분 양자 알고리즘(variational quantum algorithms)이라 불리는 하이브리드 접근 방식에 의존합니다. 이 방법에서 양자 컴퓨터는 특정 매개변수 설정을 테스트하는 특화된 계산기 역할을 하고, 표준 고전 컴퓨터는 코치로서 결과를 분석하고 더 나은 답을 얻기 위해 해당 매개변수를 어떻게 미세하게 조정할지 제안하는 역할을 합니다. 목표는 복잡한 수학 퍼즐을 풀든, 이미지를 분류하든, 혹은 분자를 시뮬레이션하든, 문제에 대한 최적의 설정을 찾는 것입니다. 그러나 최적의 답으로 가는 길은 단순하지 않습니다. 가능한 해답들의 지형은 종종 울퉁불퉁하고 함정으로 가득 차 있으며, 양자 컴퓨터로부터 측정된 값은 본질적으로 노이즈가 섞여 있어, 코치는 질문을 던질 때마다 약간씩 다른 신호를 받게 됩니다.

루마니아의 알렉산드루 이안 쿠자 대학교(Alexandru Ioan Cuza University)와 프리야 마인드 캠퍼스(FreeYa Mind Campus)의 연구팀은 이 어려운 지형을 어떻게 더 효과적으로 탐색할 수 있을지 이해하기 위해 연구를 시작했습니다. 그들은 코칭 과정의 두 가지 뚜렷한 부분에 집중했습니다: 매개변수의 이동 방향을 추정하는 데 사용되는 방법과, 실제로 매개변수를 업데이트하는 데 사용되는 규칙입니다. 많은 이전 연구들이 서로 다른 최적화 전략을 하나의 완전하고 변경 불가능한 패키지로 취급한 반면, 이 팀은 이 둘을 분리하기로 결정했습니다. 그들은 '탐색 방향'과 '업데이트 규칙'을 서로 섞어서 사용할 수 있는 독립적인 모듈로 취급했습니다. 이렇게 함으로써, 그들은 단순히 어떤 미리 만들어진 조합이 단일 실험에서 잘 작동했는지를 관찰하는 것을 넘어, 한 부분이 다른 부분의 성능에 정확히 어떤 영향을 미치는지 확인할 수 있었습니다.

연구진은 이 모듈형 프레임워크를 네 가지 매우 다른 유형의 문제에 걸쳐 테스트했습니다. 그들은 네트워크 연결을 두 그룹으로 나누어 연결을 최대화하는 MaxCut이라는 조합 최적화 과제를 다루었습니다. 또한 꽃의 측정치를 사용하여 종을 분류하는 소규모 데이터셋과, 숫자 0과 1을 구별하는 대규모 필기 숫자 데이터셋을 사용하는 지도 학습 과제도 테스트했습니다. 마지막으로, 수소 분자의 최저 에너지 상태를 찾는 양자 화학 문제에도 이 방법들을 적용했습니다. 각 도전 과제에 대해, 그들은 노이즈가 없는 컴퓨터 모델에서 시뮬레이션을 실행하고, 156 큐비트를 가진 실제 물리적 양자 프로세서에서 구성을 선택했습니다. 그들은 변화를 측정하기 위해 매개변수를 약간씩 변화시키는 방법, 모든 매개변수를 동시에 섭동시키는 방법, 그리고 그래디언트(gradient)를 전혀 사용하지 않는 방법을 포함하여, 기울기(해답 지형의 경사)를 추정하는 다양한 방식들을 비교했습니다. 이들은 다시 단계별 조정과 같은 단순한 방식이나, 과거의 움직임을 기억하는 더 복적인 적응형 규칙과 같은 다양한 업데이트 규칙들과 결합되었습니다.

결과는 모든 상황에 적용되는 단 하나의 '최고의' 옵티마이저는 없다는 것을 보여주었습니다. 전략의 성능은 해결하려는 특정 문제와 가용 자원에 크게 좌우되었습니다. MaxCut 문제의 경우, 모든 매개변수를 동시에 섭동시키고 단순한 업데이트 규칙을 사용하는 방법이 평균적으로 우수한 성능을 보였으나, 또 다른 조합이 특정 테스트 실행에서 단일 최고 결과를 달성하기도 했습니다. 수소 분자 시뮬레이션의 경우, 탐색 방향을 부드럽게 만드는 방법과 단순한 업데이트 규칙을 사용하는 방식이 알려진 정답에 가장 가까운 개별 결과를 냈지만, 표준 그래디언트 추정치와 적응형 업데이트 규칙을 사용하는 다른 조합이 여러 테스트 실행에 걸쳐 더 일관된 모습을 보였습니다. 이미지 분류 작업에서는 지형의 곡률에 따라 탐색 방향을 조정하고 적응형 업데이트 규칙을 사용하는 전략이 모든 테스트 실행에서 일관되게 가장 높은 정확도를 달랐습니다.

결정적으로, 이 연구는 더 나은 결과를 얻는 것이 종종 측정 횟수 측면에서 막대한 비용을 초래한다는 점을 강조했습니다. 가장 높은 정확도에 도달한 일부 방법들은 다른 방법들보다 수천 배 더 많은 양자 회로를 실행해야 했습니다. 예를 들어, 숫자 분류 작업에서 한 구성은 완벽한 정확도에 도달했지만, 약간 낮은 정확도에 도달한 다른 구성보다 약 23배 더 많은 회로 실행을 필요로 했습니다. 이러한 트레이드오프는 가장 정확한 방법이 항상 가장 실용적인 방법은 아님을 시사하며, 특히 시간과 자원이 제한된 실제 하드웨어에서 구동할 때 더욱 그러합니다. 연구진은 또한 업데이트 규칙의 선택이 매우 중요하다는 것을 발견했습니다. 매개변수를 조정하는 데 사용되는 규칙을 바꾸는 것만으로도, 방향을 추정하는 방법이 동일하더라도 최종 정확도를 극적으로 바꿀 수 있었습니다. 어떤 경우에는 특정 추정기와 함께 단순한 업데이트 규칙이 가장 잘 작동했고, 다른 경우에는 더 복잡한 적응형 규칙이 있어야만 추정기가 제대로 작동할 수 있었습니다.

연구팀이 시뮬레이션에서 실제 물리적 양자 프로세서로 옮겨갔을 때, 결과는 엇갈렸지만 유익했습니다. 실제 하드웨어 실행 결과, 알고리즘이 여전히 솔루션을 개선할 수는 있었지만, 그 과정은 종종 덜 매끄러웠으며 최종 결과도 노이즈 없는 시뮬레이션만큼 좋지는 않았습니다. 수소 분자 실험에서 하드웨어 실행은 결과가 악화되기 전까지 일시적인 개선을 보였는데, 이는 시뮬레이션에서는 나타나지 않았던 행동이었습니다. 이는 물리적 장치의 노이즈와 결함이 최적화의 궤적을 예측 불가능한 방식으로 바꿀 수 있음을 시사합니다. 연구진은 이 하드웨어 실행들이 모든 방법을 순위 매기기 위한 결정적인 기준이라기보다는 특정 구성들에 대한 사례 연구임을 주의 깊게 명시했는데, 이는 물리적 장치에서의 제한된 실행 횟수가 하드웨어 노이즈의 효과를 다른 요인들로부터 분리하기에 충분하지 않았기 때문입니다.

궁극적으로, 이 연구는 양자 알고리즘의 최적화 지형에 대한 더 명확한 지도를 제공합니다. 이는 이 알고리즘들의 성능이 단 하나의 마법 같은 해결책에 의해 결정되는 것이 아니라, 시스템이 솔루션을 찾는 방식과 어떻게 움직이기로 결정하는지의 세심한 결합에 의해 결정된다는 것을 보여줍니다. 최선의 선택은 특정 문제, 가용 측정 예산, 그리고 일관성 대 최고 성능의 기대 사이의 관계에 달려 있습니다. 탐색 방향의 추정과 업데이트 규칙을 분리함으로써, 연구진은 과학자들이 각자의 필요에 맞는 가장 효율적인 경로를 찾기 위해 이 구성 요소들을 독립적으로 조정할 수 있음을 보여주었습니다. 이러한 모듈형 접근 방식은 강력하지만 불완전한 기계들을 현재 최대한 활용할 수 있도록 돕는, 노이즈가 많고 불확실한 근미래 양자 컴퓨팅의 세계를 항해하는 실질적인 방법을 제시합니다.

기술 요약: 매개변수화된 양자 회로를 위한 모듈형 최적화 전략의 벤치마킹

문제 정의

NISQ(Noisy Intermediate-Scale Quantum) 시대에 매개변수화된 양자 회로(PQC)를 학습시키는 것은 엄격한 평가 예산과 유한한 샷(finite-shot) 측정에 내재된 통계적 불확실성 사이에서 균형을 맞추는 것을 요구한다. QAOA, VQE, QML 모델과 같은 변분 양자 알고리즘(VQA)은 유망한 가능성을 보여주었으나, 이들의 실제 성능은 최적화 루프에 크게 의존한다.

기존의 비교 연구들은 종종 최적화 도구를 단일한 "블랙박스"로 취급하여, 특정 그래디언트 추정기와 특정 업데이트 규칙이 결합된 완성된 패키지(예: 특정 그래디언트 추정기와 특정 업데이트 규칙의 조합)를 평가한다. 이러한 접근 방식은 개별 구성 요소의 구체적인 기여도를 모호하게 만들며, 성능 변화가 탐색 방향 추정기의 편향(bias)이나 분산(variance) 때문인지, 고전적 업데이트 규칙 때문인지, 혹은 그 둘의 상호작용 때문인지 판단하기 어렵게 만든다. 또한, 문헌상에서는 논리적 회로 실행 비용과 유한 샷 샘플링 및 미분 불필요(derivative-free) 방법을 다룰 때 발생하는 총 목적 함수 평가 횟수 사이의 명확한 구분이 부족하다.

방법론

저자들은 최적화 루프를 두 가지 별개의 개념적 연산으로 분리하는 모듈형 벤치마킹 프레임워크를 제안한다:

탐색 방향 추정(Search-Direction Estimation): 회로 측정을 통해 추정된 탐색 방향( $\hat{d}_k$ )을 구축하는 양자 구성 요소.
고전 매개변수 업데이트(Classical Parameter Update): 학습률과 최적화 상태를 사용하여 방향을 매개변수 업데이트 단계( $p_k$ )로 변환하는 고전적 구성 요소.

실험 설계

본 연구는 네 가지 서로 다른 워크로드에 대해 일련의 전략을 평가한다:

조합 최적화(Combinatorial Optimization): QAOA( $p=2$ )를 사용한 5-큐비트 MaxCut 인스턴스.
지도 학습 (저차원, Low-Dim): 4-큐비트 하드웨어 효율적 안사츠(HEA)를 사용한 Iris 분류.
в 지도 학습 (고차원, High-Dim): 63개의 매개변수를 가진 8-큐비트 양자 합성 신경망(QCNN)을 사용한 이진 MNIST 분류.
양자 화학(Quantum Chemistry): UCCSD 안사츠를 사용한 분자 수소( $H_2$ ) 바닥 상태 추정 VQE.

비교 구성 요소

방향 추정기(Direction Estimators): 파라미터 시프트 규칙(PSR), 유한 차분법(FD), 동시 섭동 확률 근사법(SPSA), 모집단 기반 그래디언트 추정법(PGPE), 대각 관측량 곡률 전처리(OCP).
업데이트 규칙(Update Rules): 확률적 경사 하강법(SGD), Adam, RMSprop.
미분 불필요 베이스라인(Derivative-Free Baselines): COBYLA, Nelder–Mead, 베이지안 최적화(완성된 형태의 네이티브 최적화기로 유지).

실행 환경

실험은 다음 두 가지 조건에서 수행되었다:

유한 샷 시뮬레이션(Finite-Shot Simulation): 노이즈 모델이 없는 Qiskit Aer 시뮬레이터를 사용하였으며, 회로당 256 샷을 적용하고 세 개의 무작위 시드(42, 123, 1234)를 사용하였다.
물리적 하드웨어(Physical Hardware): 선택된 구성들을 156-큐비트 ibm_aachen 프로세서에서 실행하였다.

자원 계정(Resource Accounting)

본 프레임워크는 다음을 명시적으로 구분한다:

목적 함수 평가(Objective Evaluations): 손실/에너지 함수의 완전한 평가 횟수.
논리적 회로 실행(Logical Circuit Executions): 목적을 계산하기 위해 필요한 개별 회로 실행 횟수 (예: 좌표별 유한 차분의 경우 $1+2M$ ).
샷(Shots): 총 측정 반복 횟수.

주요 기여

모듈식 분해: 본 연구는 탐색 방향 추정과 고전 매개변수 업데이트를 분리함으로써 이를 체계화한다. 이를 통해 연구자들은 최적화 루프의 특정 구성 요소 간의 상호작용을 명시적으로 조사할 수 있다.
다중 워크로드 벤치마킹: 단일 VQA 인스턴스에서 결론을 도출하는 대신, 최적화, 분류, 양자 화학 작업과 다양한 매개변수 수 및 측정 요구 사항을 가진 작업 전반에서 이러한 모듈형 조합을 비교한다.
명시적 비용 차별화: 프레임워크는 목적 함수 평가와 논리적 회로 비용을 분리하여, 매개변수 수, 미니 배치, 시프트 평가에 의해 발생하는 자원 오버헤드를 드러낸다.
하드웨어 케이스 스터디: 선택된 구성들을 물리적 하드웨어에서 실행하여, 일반적인 양자 우위 테스트나 보편적 최적기 순위 매기기가 아닌, 시뮬레이션 결과에 대한 타겟팅된 사례 연구를 제공한다.

결과

시뮬레이터 성능 (시드별)

MaxCut (QAOA): PGPE-SGD가 모든 시드에서 가장 낮은 평균 비용을 달축성하였고, SPSA-SGD와 PSR-Adam이 단일 최고 성능을 공유하였다. 업데이트 규칙의 선택은 성능에 큰 영향을 미쳤다. 예를 들어, SPSA는 SGD와 결합했을 때 가장 잘 작동한 반면, PSR은 Adam과 결합했을 때 가장 좋은 성능을 보였다.
H2 (VQE): FiniteDiff-RMSprop이 가장 낮은 평균 절대 오차(2.69 mHa)를 기록했으나, 모든 시드에서 1.6 mHa의 화학적 정확도 임계값을 일관되게 충족하는 방법은 없었다. PGPE-SGD는 한 시드에서 FCI 참조값에 가장 가까운 개별 추정치를 보여주었으나 평균 오차는 더 높았다.
Classification (Iris & MNIST): OCP-RMSprop이 가장 높은 평균 테스트 정확도(Iris 100%, MNIST 96.67%)를 달성하였으며, 시드 전반에 걸쳐 가장 일관된 성능을 보였다. 적응형 업데이트 규칙(Adam, RMSprop)은 분류 작업에서 SGD보다 일반적으로 우수한 성능을 보였으며, 성능 향상 폭은 10~35 퍼센트 포인트에 달했다.

하드웨어 성능

궤적 행동(Trajectory Behavior): 선택된 하드웨어 실행 결과, 두 백엔드 모두에서 목적 함수 개선이 나타났으나, 최종 값은 훈련 중 관찰된 최적값과 다른 경우가 많았다. 예를 들어, H2 하드웨어 궤적은 일시적인 개선 후 악화되는 모습을 보였다.
보편적 순위 부재: 하드웨어 실행은 결정적인 최적기 순위를 확립하거나 장치 노이즈의 인과적 효과를 격리하지 못했다. 성능 차이는 노이즈, 컴파일, 완화(mitigation), 그리고 확률적 샘플링의 복합적인 작용에 기인한 것으로 분석되었다.
구체적 결과:
- MaxCut: SPSA-SGD는 하드웨어에서 약 78%의 정확한 컷(exact cut)에 도달했다.
- Iris: COBYLA는 하드웨어에서 90%의 테스트 정확도를 달성했다(시뮬레이션의 100% 대비).
- QCNN: OCP-RMSprop은 하드웨어에서 95%의 테스트 정확도를 달성했다.
- VQE: PGPE-SGD는 하드웨어에서 참조 에너지로부터 큰 편차를 보였으며, 이는 VQE가 하드웨어 노이즈에 매우 민감함을 강조한다.

자원 대비 성능 트레이드오프

연구 결과, 측정 예산(measurement budget)이 높다고 해서 반드시 목적 함수의 질이 비례하여 향상되는 것은 아님이 밝혀졌다. 예를 들어, QCNN 작업에서 OCP-RMSprop은 PGPE-Adam보다 약 23배 더 많은 회로 실행을 필요로 했음에도 불구하고, 테스트 세트에서 단 하나의 클래스 분류를 더 맞히는 데 그쳤다. 반대로, COBYLA와 같은 미분 불필요 방법은 그래디언트 기반 방법보다 훨씬 적은 회로 실행만으로도 Iris 작업에서 완벽한 정확도를 달성했다.

의의 및 주장

본 논문은 주요 기여가 추정기와 업데이트 규칙의 분리를 체계화하여, 연구자들이 최적화 루프의 특정 구성 요소로부터 성능 향상을 추적할 수 있도록 한 데 있다고 겸허히 주장한다.

보편적 최적기는 없다: 저자들은 결과가 보편적인 최적기 순위를 제공하지 않는다는 점을 명시적으로 밝힌다. 성능은 워크로드, 샘플링 예산, 노이즈 프로파일 및 하이퍼파라미터 선택에 따라 크게 달라진다.
맥락 의존적 선택: "최적의" 구성은 측정 지표(최고치 vs 평균치), 작업 유형(최적화 vs 분류), 그리고 자원 제약 조건에 따라 달라진다.
하드웨어의 한계: 하드웨어 실험은 선택된 시뮬레이션 결과에 대한 사례 연구 역할을 한다. 이는 하드웨어 노이즈 메커니즘을 격리하거나 양자 우위를 증명하기 위한 것이 아니다. 저자들은 서로 다른 성능 개념을 혼동하지 않도록 최종 목적 함수, 최적 관찰 목적 함수, 그리고 분류 정확도를 별도로 보고해야 함을 강조한다.

결론적으로, 본 연구는 유한 샷 시뮬레이션 및 물리적 실행 환경에서 모듈형 최적화 전략이 어떻게 작동하는지에 대한 기술적 근거를 제공하며, 모든 양자 작업을 위해 단일한 "최고" 최적기에 의존하기보다는 특정 워크로드에 최적의 추정기-업데이트 쌍을 매칭하는 것이 중요함을 시사한다.