Benchmarking loss functions for trainable quantum feature maps

기술 요약: 학습 가능한 양자 특징 맵을 위한 손실 함수 벤치마킹

문제 정의
양자 서포트 벡터 머신(QSVM)은 고차원 양자 상태로 고전 데이터를 인코딩하기 위해 양자 특징 맵(QFM)에 의존한다. 표준 QSVM은 고정된 QFM을 사용하지만, 이는 복잡하고 비선형적인 데이터 분포에 대한 표현력과 적응성을 제한한다. 학습 가능한 양자 특징 맵(TQFMs)은 매개변수화된 게이트와 데이터 재업로딩(data re-uploading)을 도입하여 임베딩 공간을 최적화함으로써 이 문제를 해결한다. 그러나 TQFMs의 최적화는 선택된 손실 함수에 크게 의존한다. 기존 문헌에는 서로 다른 손실 함수가 최적화 역학, 계산 비용 및 분류 안정성에 어떻게 영향을 미치는지에 대한 체계적인 이해가 부족하다. 특히, 저자들은 고정 타겟 학습 체계에서 최적화 궤적이 교차하여 불안정한 수렴과 급격한 정확도 저하를 초래하는 "궤적 교차 문제(trajectory crossing problem)"를 식별하였다.

방법론
저자들은 하이브리드 양자-고전 QSVM 파이프라인 내에서 TQFMs를 학습시키기 위한 세 가지 구별된 손실 함수를 비교하는 체계적인 벤치마킹 프레임워크를 제 제안한다:

1. 거리 손실 (Distance Loss, DL): 서로 다른 클래스의 혼합 밀도 행렬 간의 힐베르트-슈미트트(Hilbert-Schmidt) 거리에 기반한다. 이 방법은 클래스 간 분리를 최대화하는 것을 목표로 하지만, 모든 쌍의 샘플 충실도(fidelity)를 평가해야 하므로 데이터셋 크기 $M$에 대해 $O(M^2)$의 이차 복잡도를 가진다.
2. 측정 손실 (Measurement Loss, ML): 각 클래스를 고정된 직교 기저 상태에 할당하고, 인코딩된 상태와 타겟 사이의 오차를 최소화한다. 이 접근 방식은 샘플을 독립적으로 평가하여 $O(M)$의 선형 복잡도를 달성한다. 그러나 저자들은 제한된 힐베르트 공간 내에서 클러스터를 고정된 타겟으로 강제하는 것이 궤적 교차를 유발한다고 가설을 세웠다.
3. 로그 가능도 손실 (Log-Likelihood Loss, LLL): 본 연구의 핵심 제안이다. 최대 가능도 추정(Maximum Likelihood Estimation)에서 영감을 얻은 이 방법은 충실도 $|\langle \psi | y \rangle|^2$를 조건부 확률 $P(y|x)$로 재해석한다. LLL은 선형 페널티를 최소화하는 대신, 다음의 음의 로그 가능도를 최소화한다:
   $$L_{LLL}(\theta) = -\frac{1}{L} \sum_{j=1}^{L} \frac{1}{M_j} \sum_{i=1}^{M_j} \log \left( |\langle \psi(x_i^j, \theta) | y_j \rangle|^2 \right)$$
   이 공식은 예측 확률이 낮은 샘플에 대해 급격히 증가하는 비선형 페널티를 적용함으로써, 분류하기 어려운 샘플을 강조하고 더 강력한 최적화 신호를 제공한다.

실험 설정
본 연구는 EfficientSU2 안사츠(ansatz)를 사용하여 Qiskit 상태 벡터 시뮬레이터를 활용한다. 실험은 다양한 수준의 비선형성과 클래스 복잡성을 나타내는 세 가지 합성 데이터셋(Moons, Circles, Gaussian)에 대해 수행되었다. 평가는 통계적 안정성을 평가하기 위해 20회의 독립적인 실행을 포함하였으며, 다양한 회로 깊이(1~6 레이어)를 테스트하고 시뮬레이션된 탈분극(depolarizing) 및 판독 노이즈에 대한 견고성을 테스트하였다.

주요 결과

• 최적화 안정성: ML 방법은 클래스 간 중첩이 급증하고 정확도가 떨어지는 "궤적 교차 문제"로 인해 상당한 불안정성을 보였다. 특히 얕은 회로에서 이러한 현상이 두드러졌다. LLL 방법은 이를 성공적으로 완화하여 DL 방법과 유사한 안정적인 수렴을 달면서도 이차 복잡도 없이 구현되었다.
• 계산 효율성: DL은 가장 높은 분류 정확도를 유지했으나 $O(M^2)$ 스케일링으로 인해 대규모 데이터셋에는 부적합했다. ML과 LLL은 모두 선형 $O(M)$ 스케일링을 유지했다. LLL의 학습 시간은 ML과 거의 동일하여, 개선된 안정성이 추가적인 계산 오버헤드 없이 이루어졌음을 확인했다.
• 분류 성능:
  • DL은 모든 데이터셋에서 일관되게 가장 높은 평균 정확도를 달eric했다.
  • LLL은 안정성(실행 간 정확도의 표준 편차가 낮음) 측면에서 ML보다 우수했으며, 얕은 회로(예: Circles 데이터셋의 1-레이어 회로)에서 ML을 능가하거나 대등한 경쟁력 있는 평균 정확도를 달성했다.
  • 회로 깊이(변분 레이어)를 늘리는 것은 모든 방법의 궤적 교차를 완화하는 데 도움이 되었지만, 과적합(overfitting)을 유발하여 테스트 정확도에 비례적인 이득을 주지 못하는 트레이드오프를 발생시켰다.
• 노이즈 견고성: 시뮬레이션된 노이즈 모델 하에서 LLL 방법은 단순한 데이터셋(Moons)에서는 견고한 성능을 유지했으나, 더 복잡한 데이터셋(Circles, Gaussian)에서는 예상대로 성능 저하를 보였는데, 이는 분류 작업의 난이도와 일치한다.

의의 및 주장
본 논문은 훈련 목적 함수의 설계가 TQFM 기반 QSVM의 학습 가능성과 일반화 능력을 결정하는 결정적 요소라고 주장한다. 주요 기여는 로그 가능도 손실(LLL)의 도입이며, 이는 계산 효율성과 최적화 안정성 사이의 절충안에 대한 실질적인 해결책을 제공한다.

저자들은 LLL이 기존의 측정 손실(ML)보다 "더 안정적인 최적화 동작"을 제공하면서도 선형 계산 복잡도를 유지한다고 단언한다. 이 벤치마크는 학습 가능성, 효율성 및 예측 성능 사이의 균형을 맞추기 위한 실질적인 지침을 제공한다. 본 연구는 NISQ 장치의 근본적인 한계를 해결한다고 주장하는 것이 아니라, 하이브리드 양자 분류기의 최적화 단계에 대한 방법론적 개선을 제공하는 것이다.

향후 연구 방향
저자들은 현재 프레임워크가 최종 결정 경계에 여전히 고전 SVM에 의존하고 있음을 언급한다. 향후 연구에서는 측정 확률에 따라 레이블을 직접 할당하는 완전한 양자 추론 체계를 탐구해야 한다고 제안한다. 또한, 회로의 표현력(매개변수 수 대비 구조적 특성)과 최적화 성능 사이의 관계에 대한 추가적인 조사가 필요하다.