기술 요약: 변분 양자 알고리즘의 성능 평가를 위한 프레임워크

1. 문제 정의

변분 양자 알고리즘(Variational Quantum Algorithms, VQAs)은 노이즈가 있는 중간 규모 양자(NISQ) 장치에서 조합 최적화 문제, 구체적으로 이차 무제약 이진 최적화(QUBO) 문제를 해결하기 위한 선도적인 접근 방식이다. 그러나 VQAs의 벤치마킹은 그 본질적인 확률적 특성과 표준화된 성능 기준의 부재로 인해 여전히 까다로운 과제로 남아 있다. 기존 연구들은 유한한 측정 샷(shots)과 노이즈가 있는 비용 평가에 의해 발생하는 변동성을 명시적으로 고려하지 않고 단일 실행 메트릭만을 보고하는 경우가 많다. 결과적으로, 자원 제약 조건 하에서 특정 QUBO 인스턴스를 해결하기 위한 VQA의 적합성을 분류할 수 있는 보편적으로 수용되는 기준이 존재하지 않는다.

2. 방법론

저자들은 QUBO 문제에 적용되는 VQAs를 평가하기 위한 일반적인 프레임워크를 제안한다. 이 방법론은 양자 회로를 이진 공간(binary space) 상의 확률 분포로 해석하고, 이러한 분포로부터 도출된 통계적 척도를 통해 VQA의 성능을 규명하는 데 기초를 둔다.

A. 이론적 프레임워크

프레임워크는 VQA를 안사츠($U$), 비용 함수($C$), 샷 수($s$), 그리고 클래식 최적화 도구($A$)로 구성된 튜플 $VQA := (U, [C, s, A])$로 정의한다. 성능은 품질 다이어그램(Quality Diagram, $D \subset \mathbb{R}^2$)에서 시각화되며, 각 점은 다음으로 정의되는 VQA 실행을 나타낸다:

1. 정규화된 자원 소비량: 최대 한계치($n_{max}$)에 대한 회로 호출 횟수($n_{calls}$)의 비율.
2. 성공 확률: 전역 최솟값(global minimum)을 측정할 확률($p_{min}$)을 변환한 값인 $1 - p_{min}$.

이상적인 솔루션은 단 한 번의 함수 호출로 전역 최솟값을 찾을 확률이 1인 지점인 $(0,0)$에 해당한다. 확률적 특성으로 인해, 반복된 실행은 $D$ 위에 점들의 분포($\rho$)를 생성한다.

B. 세 가지 핵심 메트리크

프레임워크는 분포 $\rho$로부터 도출된 세 가지 상호 보완적인 메트릭을 사용하여 VQAs를 평가한다:

1. 실행 가능성 (Feasibility, $F$): $p_{min}$이 사전 정의된 임계값($p_{threshold}$) 이상인 솔루션을 찾는 알고리즘의 사전 확률이다. 이는 $p_{min} \geq p_{threshold}$인 영역에 대한 분포 $\rho$의 적분으로 계산된다.
2. 품질 (Quality, $Q$): 성공 확률과 자원 소비 사이의 균형을 맞추어 탐색 과정의 효율성을 정량화하는 스칼라 값이다. 이는 $p_{min} < p_{threshold}$인 경우 품질을 0으로 할당하고, 그렇지 않으면 이상적인 지점 $(0,0)$으로부터의 가중 유클리드 거리를 계산하는 품질 함수 $q(n_{calls}, p_{min})$의 기댓값으로 정의된다.
3. 재현성 (Reproducibility, $R$): 결과의 확실성을 측정하며, 섀넌 엔트로피(Shannon entropy, $S[\rho]$)를 사용하여 공식화된다. 재현성은 $R[\rho] = 1 - \frac{S[\rho]}{S_{max}}$로 정의되며, 값이 1이면 분포가 완전히 집중됨(높은 확실성)을 의미하고, 0이면 균등하게 퍼져 있음(높은 불확실성)을 의미한다.

C. 선택 기준

프레임워크는 임계값 $(F_0, Q_0, R_0)$을 기반으로 한 알고리즘 선택 의사결정 과정을 수립한다. VQA는 다음을 순차적으로 만족할 때만 "적합한 솔버(well-suited solver)"로 간주된다:

1. $F[\rho] \geq F_0$
2. $Q[\rho] \geq Q_0$
3. $R[\rho] \geq R_0$

3. 실험 결과

개념 증명(proof of concept)으로서, 저자들은 시뮬레이션을 통해 16-큐비트 무작위 QUBO 인스턴스에 이 프레임워크를 적용하였다. 그들은 CVaR 파라미터($\alpha \in \{0.15, 0.25, 0.50, 0.75, 1.00\}$)와 샷 수($s \in \{1,000 \dots 100,000\}$)를 변화시키며 다양한 VQA 구성을 평가하였으며, 이때 RealAmplitudes 안사츠와 COBYLA 최적화 도구를 사용하였다. 각 구성은 400회의 최적화 실행을 통해 테스트되었다.

주요 결과:

• 실행 가능성: 실행 가능성은 일반적으로 더 높은 $\alpha$ 값 및 더 높은 샷 수($s$)와 함께 증가하였으며, 결국 포화 상태에 도달하였다. 예를 들어, $\alpha=1.00$일 때 실행 가능성은 $s=60,000$에서 0.95에 도달하였다.
• 품질: 실행 가능성과 유사하게, 품질 또한 높은 $\alpha$와 $s$에 따라 개선되었다. 그러나 $\alpha=0.25$인 경우를 제외하고 대부분의 경우 $s=20,000$을 넘어서면 포화 현상이 관찰되었다.
• 재현성: 다른 메트릭들과 달리, 재현성은 $s$나 $\alpha$의 변화에 거의 민감하게 반응하지 않았다. 낮은 $\alpha$와 $s$ 값이 때때로 더 높은 재현성을 보였는데, 이는 알고리즘이 다양한 솔루션을 탐색하지 못한 채 조기에 종료되었기 때문으로 보인다.
• 최적 구성: 선택 기준($F_0=0.70, Q_0=1.20, R_0=0.60$)에 근거하여, 가장 적합한 VQA 구성은 더 높은 $\alpha$(특히 0.75 및 1.00)와 높은 샷 수(10,000에서 100,000 사이)를 가진 구성들로 식별되었다.

4. 주요 기여

• 통합 평가 프레임워크: 체계적인 VQA 벤치마킹의 공백을 메우기 위해 실행 가능성, 품질, 재현성을 결합한 구조화된 방법론을 도입하였다.
• 확률적 특성 규명: VQA의 성능을 확률 분포로 취급하고 섀넌 엔트로피를 활용하여 재현성을 정량화함으로써, 단일 실행 메트릭을 넘어선 접근 방식을 제시하였다.
• 품질 다이어그램: 성공 확률과 자원 소비 사이의 트레이드오프를 포착하기 위한 시각적 및 수학적 도구를 제안하였다.
• 의사결정 기준: 자원 제약 조건 하에서 최적의 VQA 구성을 식별하기 위한 공식적인 임계값 기반 선택 프로세스를 제공한다.

5. 의의 및 주장

저자들은 본 연구가 NISQ 시대에서 VQAs를 비교하기 위한 원칙적인 접근 방식에 기여한다고 주장한다. 변분 알고리즘의 확률적 특성을 명시적으로 고려함으로써, 이 프레임워크는 하이브리드 양자-클래식 워크플로우에서 더욱 신뢰할 수 있는 알고리즘 선택을 가능하게 한다.

본 논문은 자신의 결과를 개념 증명으로 겸허히 규정한다. 저자들은 분석이 단일 QUBO 인스턴스, 하나의 안사츠, 하나의 최적화 도구로 제한되었으며 모두 시뮬레이션을 통해 평가되었다는 한계를 인정한다. 저자들은 이 프레임워크가 실제 하드웨어에서의 검증, 다양한 안사츠의 탐색, 대규모 문제를 위한 적응형 선택 기준 개발을 포함한 향후 연구를 위한 토대를 제공한다고 밝힌다. 그들은 모든 맥락에서 특정 알고리즘의 즉각적인 우월성을 주장하는 것이 아니라, 주어진 문제 인스턴스와 자원 예산에 대해 가장 성능이 좋은 알고리즘을 체계적으로 식별하는 데 있어 이 프레임워크의 유용성을 강조한다.