Mitigating Barren Plateaus in Quantum Denoising Diffusion Probabilistic Model

1. 문제 제기 (Problem)

• 배경: 양자 생성 모델 (Quantum Generative Models) 은 양자 중첩과 얽힘을 활용하여 고전 및 양자 데이터 학습 효율성을 높이는 도구로 주목받고 있습니다. 특히 고전적인 확산 모델 (Diffusion Models) 에서 영감을 받은 **양자 잡음 제거 확산 확률 모델 (QuDDPM)**은 상관관계 잡음 모델, 다체 (many-body) 위상, 위상 데이터 구조 학습에 강력한 잠재력을 보여줍니다.
• 핵심 문제: 기존 QuDDPM 은 소규모 시스템 (보통 5 큐비트 이하) 에서는 작동하지만, 시스템 규모가 커질수록 황폐한 평야 (Barren Plateau, BP) 현상이 발생하여 모델의 학습이 불가능해집니다.
  • BP 현상: 손실 함수의 기울기 (gradient) 분산이 시스템 크기 (큐비트 수) 에 따라 지수적으로 감소하여, 손실 표면이 평평해지고 모델이 최적화되지 못하게 되는 현상입니다.
  • 기존 연구의 한계: BP 의 원인으로 알려진 다른 요인들 (예: 깊은 회로, 무작위 초기화 등) 과는 달리, QuDDPM 의 BP 는 **Haar 무작위 상태 (Haar-random states)**가 역방향 (denoising) 과정의 입력으로 사용된다는 점에 기인한 새로운 메커니즘이 존재했으나, 이에 대한 명확한 규명과 해결책이 부족했습니다.

2. 방법론 (Methodology)

저자들은 QuDDPM 의 BP 원인을 이론적으로 규명하고 이를 해결하기 위한 새로운 아키텍처를 제안했습니다.

가. 이론적 분석 (Theoretical Analysis)

• Haar 무작위 상태의 영향 규명: QuDDPM 의 역방향 과정은 Haar 무작위 상태에서 시작하여 목표 상태로 이동합니다. 저자들은 PQC(Parametrized Quantum Circuit) 의 입력이 Haar 무작위 상태일 때, 손실 함수 기울기의 평균이 0 이 되고 분산이 큐비트 수 ($n$) 에 따라 $O(1/2^{2n})$으로 지수적으로 감소함을 엄밀하게 증명했습니다 (Theorem III.3).
• 악순환 구조: 초기 PQC 가 충분히 학습되지 않아 후속 PQC 들에도 근사적인 Haar 무작위 상태가 입력되면, BP 현상이 전체 학습 과정을 방해하여 모델이 수렴하지 못하게 됩니다.

나. 개선된 아키텍처 제안 (Improved Architecture)

• 보조 큐비트 시스템 도입: BP 를 완화하고 학습 안정성을 확보하기 위해 보조 큐비트 (ancilla qubits) 시스템을 도입한 새로운 구조를 제안했습니다.
  • 기존 데이터 큐비트 시스템과 동일한 수의 보조 큐비트 시스템 (초기 상태 $|0\rangle$) 을 추가합니다.
  • 두 시스템은 각각 독립적인 PQC 를 통해 처리된 후, 얽힘 (entanglement) 과 중첩 (superposition) 을 통해 최종 출력 상태를 생성합니다.
  • 수식: $|\tilde{\psi}_{t-1,i}\rangle = \sin(\theta)\tilde{U}_{t,d}|\tilde{\psi}_{t,i}\rangle + \cos(\theta)\tilde{U}_{t,a}|0\rangle$
• 작동 원리:
  1. Haar 분산 탈출: 보조 큐비트의 중첩은 생성된 상태가 Haar 분포에 머무는 것을 방지하고, 목표 상태 방향으로 유도합니다.
  2. 대칭성 깨짐: 보조 큐비트와 데이터 큐비트의 중첩은 Haar 무작위 상태의 대칭성을 부분적으로 깨뜨려 기울기 분산을 유지시켜 학습을 가능하게 합니다.

다. 조건부 QuDDPM (Conditional QuDDPM)

• 하밀토니안 기반 상태 생성: 특정 하밀토니안 (Hamiltonian) 의 매개변수를 입력받아 해당 시스템의 **바닥 상태 (ground state)**를 생성할 수 있도록 모델을 확장했습니다.
• 매핑: 하밀토니안 매개변수 $x$를 신경망을 통해 PQC 의 파라미터 $\theta$로 매핑하여 ($\theta = \tanh(W \cdot x + b)$), 다양한 물리적 조건에 대응하는 양자 상태를 생성합니다.

3. 주요 기여 (Key Contributions)

1. BP 의 새로운 원인 규명: QuDDPM 에서 발생하는 BP 가 기존에 알려진 원인들과 구별되는 Haar 무작위 상태의 통계적 특성에서 비롯됨을 이론적으로 증명했습니다.
2. 학습 가능성 회복을 위한 아키텍처 개선: 보조 큐비트 시스템을 도입하여 BP 를 효과적으로 완화하고, 대규모 시스템에서도 안정적인 학습을 가능하게 하는 새로운 QuDDPM 구조를 제안했습니다.
3. 조건부 생성 모델의 확장: 하밀토니안 매개변수에 따른 양자 상태 생성이 가능한 조건부 QuDDPM 을 개발하여, 양자 다체 문제 및 상태 준비 (State Preparation) 분야로의 적용 범위를 크게 확장했습니다.

4. 실험 결과 (Results)

저자들은 1 차원 반강자성 하이젠베르크 모델 (Heisenberg model) 과 1 차원 횡자기장 이징 모델 (Transverse-field Ising model) 을 사용하여 실험을 수행했습니다.

• BP 완화 효과:
  • 손실 함수: 원본 QuDDPM 은 학습 초기에는 손실이 낮게 유지되다가 BP 로 인해 수렴하지 못하고 발산하는 반면, 개선된 모델은 초기에는 보조 큐비트 영향으로 손실이 약간 높았으나, 학습 후반기에 BP 를 탈출하여 손실이 효과적으로 감소함을 확인했습니다.
  • 생성 품질: 개선된 모델이 생성한 상태의 **2 점 상관 함수 (two-point correlation function)**는 실제 목표 상태와 거의 일치하는 반면, 원본 QuDDPM 은 목표 상태와 큰 오차를 보였습니다.
• 조건부 모델 성능:
  • 다양한 하밀토니안 매개변수 (상자성/반자성 위상 등) 에 대해 학습된 조건부 QuDDPM 은 입력 조건에 맞는 정확한 바닥 상태를 생성했습니다.
  • 위상 분류: t-SNE 를 통한 시각화 결과, 생성된 상태들이 물리적 위상 (상자성 vs 반자성) 에 따라 명확하게 군집화되어, 모델이 양자 물질의 본질적인 특성을 잘 포착함을 입증했습니다.

5. 의의 및 결론 (Significance and Conclusion)

• NISQ 시대의 실용성: 현재 잡음이 많은 중규모 양자 (NISQ) 장치의 한계 내에서, 양자 확산 모델의 확장성 (Scalability) 과 학습 가능성 (Trainability) 병목 현상을 해결하여, 복잡한 양자 물질 탐구 및 상태 준비를 위한 강력한 도구를 제공합니다.
• 이론적 통찰: Haar 무작위 상태가 양자 생성 모델 학습에 미치는 부정적 영향을 규명하고, 이를 극복하기 위한 구조적 해결책을 제시함으로써 향후 양자 머신러닝 연구에 중요한 시사점을 줍니다.
• 한계 및 향후 과제: 현재 하드웨어 제약으로 인해 대규모 실험이 제한적이었으나, 제안된 개선 방안이 BP 를 완화하는 데 유효함을 입증했습니다. 향후 양자 상태 중첩 (superposition) 구현의 기술적 난제를 해결한다면 더 큰 규모의 시스템 적용이 가능할 것으로 기대됩니다.

이 논문은 양자 생성 모델의 핵심 장벽인 BP 문제를 이론과 실험을 통해 체계적으로 해결함으로써, 양자 머신러닝이 실제 복잡한 양자 시스템에 적용되는 데 중요한 전환점이 될 것으로 평가됩니다.