Soft-Quantum Algorithms

1. 문제 제기 (Problem)

현재 양자 머신러닝 (QML) 과 양자 화학 분야에서 널리 사용되는 변분 양자 회로 (Variational Quantum Circuits, VQC) 또는 양자 신경망은 데이터와 학습 가능한 매개변수를 게이트 기반 연산에 포함시키고, 고전 컴퓨터를 통해 경사 하강법으로 매개변수를 최적화합니다. 그러나 다음과 같은 심각한 한계가 존재합니다.

• 높은 훈련 비용과 낮은 충실도: 현재 양자 하드웨어 (NISQ 시대) 의 노이즈와 제한된 큐비트 수로 인해 실제 양자 장치 대신 고전 시뮬레이터에서 훈련이 주로 이루어집니다.
• 확장성 문제: 고전 시뮬레이션에서 VQC 를 훈련할 때, 추가되는 게이트 하나하나가 시뮬레이션 실행 시간을 증가시킵니다. 이는 데이터셋 크기와 게이트 수에 비례하여 훈련 시간이 기하급수적으로 늘어나게 되어, 소규모 큐비트 문제에서도 대규모 데이터셋을 다룰 때 훈련 시간이 비현실적으로 길어집니다.
• 아나타 (Ansatz) 의 제약: 기존 VQC 는 미리 정의된 게이트 구조 (아나타) 에 의존하며, 이는 데이터 흐름을 제한하고 최적의 성능을 보장하지 못합니다.

2. 방법론 (Methodology)

저자들은 게이트 기반 아나타를 완전히 배제하고, 유니터리 행렬 (Unitary Matrix) 을 직접 훈련하는 새로운 접근법인 Soft-Quantum Algorithms을 제안합니다. 이 과정은 두 단계로 나뉩니다.

단계 1: Soft-Unitary 훈련 (Soft-Unitary Training)

• 개념: 양자 연산은 유니터리 행렬로 표현될 수 있다는 점에 착안하여, 게이트를 분해하는 대신 $N \times N$ 크기의 행렬 요소들을 직접 학습 가능한 매개변수로 사용합니다.
• 유니터리성 유지: 행렬 요소들을 직접 변경하면 유니터리 성질이 깨질 수 있으므로, 손실 함수 (Loss Function) 에 **정규화 항 (Regularization Term)**을 추가하여 유니터리성에서 벗어남을 패널티로 부과합니다.
  • 총 손실 함수: $L_{total} = L_{task} + \lambda \|U^\dagger U - I\|$
  • 여기서 $L_{task}$는 작업별 손실 (예: 분류 오차), $\lambda$는 정규화 강도, $\| \cdot \|$는 행렬 노름입니다.
• Soft-Unitary: 최적화 결과로 얻어지는 유니터리성에 매우 근접한 행렬을 'Soft-Unitary'라고 부릅니다. 이 방법은 아나타에 구애받지 않고 힐베르트 공간 전체를 탐색할 수 있어 표현력 (Expressibility) 이 극대화됩니다.

단계 2: 회로 정렬 (Circuit Alignment)

• 목적: 훈련된 Soft-Unitary 행렬을 실제 양자 장치에서 실행 가능한 게이트 기반 회로로 변환합니다.
• 과정: 변분 양자 컴파일러 (Variational Quantum Compiler) 를 사용하여, 훈련된 Soft-Unitary 를 목표 행렬 ($U_{target}$) 로 설정하고, 파라미터화된 양자 회로가 이 목표에 최대한 근접하도록 회로 파라미터를 조정합니다.
• 장점: 이 단계는 데이터셋 크기와 무관하게 수행되므로, 대규모 데이터셋을 다룰 때 효율적입니다.

3. 주요 기여 (Key Contributions)

1. 게이트 분해의 폐기: 기존 방식처럼 데이터를 게이트로 인코딩하고 게이트 파라미터를 훈련하는 대신, 유니터리 행렬 자체를 직접 훈련하여 훈련 속도를 획기적으로 단축했습니다.
2. 정규화를 통한 유니터리성 확보: 행렬 지수화 (Matrix Exponentiation) 나 복잡한 분해 없이, 단순한 정규화 항을 통해 유니터리성을 유지하면서도 직접적인 행렬 요소 훈련이 가능함을 증명했습니다.
3. 이원적 훈련 파이프라인: 'Soft-Unitary 훈련 (데이터 독립적)' + '회로 정렬 (게이트 수 독립적)'의 두 단계로 이루어진 파이프라인을 제안하여, 기존 VQC 훈련의 병목 현상을 해결했습니다.
4. 하이브리드 아키텍처 통합: Soft-Unitary 를 고전 신경망과 결합한 하이브리드 양자 - 고전 네트워크 (PHN) 에 성공적으로 적용하여 순수 고전 모델보다 우수한 성능을 입증했습니다.

4. 실험 결과 (Results)

저자들은 두 가지 실험을 통해 제안된 방법의 유효성을 검증했습니다.

실험 1: 지도 학습 (Top-hat 함수 분류)

• 설정: 5 큐비트, 1,000 개의 데이터 포인트를 사용한 이진 분류 문제.
• 성능 비교:
  • 훈련 시간: Soft-Unitary + 회로 정렬 방식은 **약 4 분 (3 분 42 초)**이 소요된 반면, 기존 직접 훈련 VQC 는 **약 2 시간 (138 분)**이 소요되었습니다. (약 37 배 속도 향상)
  • 정확도: Soft-Unitary 방식이 더 낮은 이진 교차 엔트로피 (Binary Cross-Entropy) 손실 값을 기록하며 더 정확한 분류 성능을 보였습니다.
  • 이유: Soft-Unitary 방식은 게이트 수에 의존하지 않고, 훈련된 행렬을 정렬된 회로로 변환할 때 훨씬 깊은 회로 (69 개의 엔탱글링 레이어) 를 효과적으로 구현할 수 있었기 때문입니다.

실험 2: 강화 학습 (Cartpole 문제)

• 설정: 3 큐비트를 사용한 하이브리드 양자 - 고전 신경망 (PHN) 을 Cartpole 환경에 적용.
• 성능 비교:
  • 클래식 모델: 평균 232.9 초 동안 막대를 유지.
  • 하이브리드 모델 (Soft-Unitary): 평균 417.0 초 동안 막대를 유지. (최대 500 초 제한에 도달한 에피소드 비율이 훨씬 높음)
  • 의미: 동일한 크기의 고전적 가중치를 가진 모델 대비 양자 레이어가 장기적인 구조 (Fourier series) 를 포착하여 성능을 크게 향상시켰습니다.

5. 의의 및 한계 (Significance and Limitations)

의의

• 훈련 효율성: 소규모 큐비트 문제에서 대규모 데이터셋을 다룰 때, 기존 VQC 대비 2 차수 (Order of magnitude) 이상의 훈련 시간 단축을 가능하게 합니다.
• 아나타 무관성 (Ansatz-agnostic): 미리 정의된 회로 구조의 제약 없이 힐베르트 공간 전체를 탐색할 수 있어, 이론적으로 달성 가능한 성능의 한계를 파악하는 데 유용한 연구 도구가 됩니다.
• 하이브리드 시스템 발전: Soft-Unitary 가 실제 하이브리드 양자 - 고전 알고리즘에 통합되어 순수 고전 모델보다 우월한 성능을 낼 수 있음을 입증했습니다.

한계

• 큐비트 수의 제한: Soft-Unitary 행렬의 크기는 $2^n \times 2^n$ ($n$은 큐비트 수) 이므로, 메모리 및 연산 비용이 큐비트 수에 따라 지수적으로 증가합니다. 따라서 현재는 소수 큐비트 (Few-qubit) 문제에 국한됩니다.
• Barren Plateaus: 표현력이 극대화된 Soft-Unitary 는 기울기 소실 (Barren Plateaus) 현상이 발생할 가능성이 높습니다.
• 정렬 오차: Soft-Unitary 를 게이트 회로로 변환하는 과정에서 약간의 오차가 발생할 수 있으나, 실험 결과 이는 모델 성능에 큰 영향을 미치지 않는 것으로 확인되었습니다.

결론

이 논문은 양자 머신러닝의 훈련 병목 현상을 해결하기 위해, 게이트 기반 접근법을 탈피하여 유니터리 행렬을 직접 훈련하고 이를 회로로 변환하는 2 단계 프로세스를 제안했습니다. 이는 소규모 양자 시스템에서 대규모 데이터를 다룰 때 훈련 속도와 모델 성능을 동시에 개선할 수 있는 강력한 대안으로, 양자 알고리즘 개발 및 하이브리드 시스템 연구에 중요한 통찰을 제공합니다.