HQNET: Harnessing Quantum Noise for Effective Training of Quantum Neural Networks in NISQ Era

HQNET: NISQ 시대의 양자 신경망 (QNN) 훈련을 위한 양자 소음 활용

1. 문제 정의 (Problem)

• 배경: 중규모 양자 (NISQ) 시대에는 양자 장치의 높은 소음 수준과 제한된 오류 정정 능력으로 인해 양자 신경망 (QNN) 의 확장성이 심각하게 저해됩니다.
• 핵심 장애물: '황무지 (Barren Plateaus, BPs)' 현상입니다. 이는 큐비트 수가 증가함에 따라 비용 함수 (Cost Function) 의 기울기 (Gradient) 분산이 지수적으로 감소하여 최적화가 불가능해지는 영역을 의미합니다.
• 소음의 영향: 기존 연구에서는 소음이 QNN 훈련을 방해하는 요인으로 간주되었습니다. 특히 소음은 BPs 의 발생을 가속화시켜, 소음이 없는 환경보다 더 적은 큐비트 수에서도 훈련이 실패하게 만듭니다.
• 연구 목표: 소음이 QNN 훈련 동역학에 미치는 영향을 분석하고, 적절한 관측 가능량 (Observable) 선택을 통해 소음의 부정적 영향을 완화하거나 오히려 훈련을 촉진할 수 있는지 규명하는 것입니다.

2. 방법론 (Methodology)

이 연구는 하드웨어 효율적인 안사츠 (Hardware-efficient Ansatz) 를 기반으로 한 QNN 아키텍처를 사용하여 다음과 같은 실험을 수행했습니다.

• 실험 설정:

  • 큐비트 수: 4, 6, 8, 10 개 (확장성 분석).
  • 회로 구조: 인접한 큐비트 간의 CZ 게이트로 얽힘을 형성하고, 각 큐비트에 파라미터화된 $R_X$ 및 $R_Y$ 회전 게이트를 적용하는 5 층 구조.
  • 소음 모델: 가장 일반적인 NISQ 소음인 진폭 감쇠 (Amplitude Damping) 채널을 적용.
  • 비용 함수 (Cost Function):
    • 전역 (Global): 모든 큐비트를 측정. 목표는 모든 큐비트가 $|0\rangle$ 상태가 되도록 학습 (Identity 함수 학습).
    • 국소 (Local): 단일 큐비트만 측정.
  • 관측 가능량 (Observables) 비교:
    1. Pauli-Z ($\sigma_z$): 계산 기저 상태 ($|0\rangle, |1\rangle$) 측정.
    2. Pauli-X ($\sigma_x$): $|+\rangle, |-\rangle$ 상태 측정.
    3. Pauli-Y ($\sigma_y$): 위상 관계 측정.
    4. 맞춤형 에르미트 (Customized Hermitian) 관측 가능량: 모든 큐비트가 $|00...0\rangle$ 상태일 때만 1 이 되는 프로젝터 ($|00...0\rangle\langle00...0|$) 로 설계. 이는 비용 함수의 목표와 완벽하게 정렬됨.

• 분석 절차:

  1. 최적화 지형 (Optimization Landscape) 분석: 소음 유무에 따른 비용 함수 지형의 형태 (기울기, 국소/전역 최소값 분포) 시각화.
  2. 훈련 분석: Adam 옵티마이저를 사용하여 50 회 반복 훈련 수행 및 수렴성 평가.

3. 주요 기여 및 결과 (Key Contributions & Results)

가. 전역 비용 함수 (Global Cost Function) 설정에서의 결과:

• Pauli-X 및 Pauli-Y: 소음이 있는 환경에서 큐비트 수가 증가함에 따라 최적화 지형이 완전히 평탄화되어 BPs 가 조기에 발생하며, 4 큐비트 단계에서도 훈련이 거의 불가능해졌습니다.
• Pauli-Z: 소음 없는 환경에서는 잘 작동했으나, 소음이 있을 경우 6 큐비트까지는 훈련이 가능했으나 8 큐비트에서는 성능이 저하되었고 10 큐비트에서는 BPs 로 인해 훈련이 실패했습니다.
• 맞춤형 에르미트 관측 가능량 (핵심 발견):
  • 이 관측 가능량은 소음으로 인해 지형이 잘려나간 (truncated) 형태로 변형되었으나, 오히려 더 매끄럽고 넓은 최적화 경로를 제공했습니다.
  • 소음이 BPs 를 유발하는 대신, 이 특정 관측 가능량과 결합될 때 소음이 훈련을 용이하게 하는 역할을 했습니다.
  • 결과: 10 큐비트까지도 소음 환경에서 효과적으로 훈련이 가능했으며, 기존 관측량들보다 월등히 우수한 성능을 보였습니다.

나. 국소 비용 함수 (Local Cost Function) 설정에서의 결과:

• Pauli-Z: 전역 설정과 달리, 국소 비용 함수에서는 Pauli-Z 가 소음에 매우 강인했습니다. 10 큐비트까지도 여러 개의 넓은 최소값 영역을 유지하며 효율적인 훈련이 가능했습니다.
• Pauli-X 및 Pauli-Y: 국소 설정에서도 여전히 완전히 평탄한 지형을 보여 훈련이 불가능했습니다.
• 맞춤형 에르미트: 국소 설정에서는 전역 설정만큼의 이점을 보이지 않았으며, Pauli-Z 가 더 우세한 결과를 보였습니다.

4. 결론 및 의의 (Conclusion & Significance)

• 소음의 양면성: 양자 소음은 항상 해로운 것이 아니라, 적절한 관측 가능량 (Observable) 과 비용 함수 설계를 통해 훈련을 촉진하는 자원으로 전환될 수 있음을 증명했습니다.
• 실용적 전략:
  • 전역 비용 함수를 사용할 때는 맞춤형 에르미트 관측 가능량을 선택하여 소음의 영향을 역이용하고 10 큐비트 이상의 확장성을 확보할 수 있습니다.
  • 국소 비용 함수를 사용할 때는 Pauli-Z 관측 가능량이 소음 환경에서 가장 견고한 성능을 제공합니다.
• 기여: 이 연구는 NISQ 시대에 QNN 의 훈련 가능성 (Trainability) 을 극대화하기 위한 구체적인 가이드라인을 제시하며, 양자 머신러닝의 실용적 배포를 위한 중요한 이정표가 됩니다.

요약: 이 논문은 소음이 QNN 훈련을 방해한다는 통념을 깨고, 관측 가능량의 선택을 통해 소음을 활용하여 BPs 문제를 해결하고 10 큐비트 규모의 QNN 훈련을 성공적으로 수행할 수 있음을 입증했습니다.