A hardware efficient quantum residual neural network without post-selection

1. 문제 제기 (Problem)

양자 머신러닝 (QML), 특히 변분 양자 회로 (VQC) 기반의 분류기는 노이즈 중간 규모 양자 (NISQ) 장치에서 유망한 응용 분야로 주목받고 있습니다. 그러나 기존 접근 방식에는 다음과 같은 중대한 한계가 존재합니다.

• 잔여 연결 (Residual Connection) 의 구현 한계: 기존 양자 잔여 신경망 (QResNet) 은 비유니터리 연산을 구현하기 위해 **포스트 선택 (Post-selection)**을 사용했습니다. 이는 측정 결과 중 특정 상태 (예: $|0\rangle$) 만을 선택하고 나머지를 폐기하는 확률적 과정으로, 회로 깊이가 깊어질수록 성공 확률이 기하급수적으로 감소하여 실제 하드웨어에서 비효율적입니다. 또한, 확률적 샘플링과 폐기 과정은 미분 불가능하여 그라디언트 기반의 엔드 - 투 - 엔드 학습을 방해합니다.
• 황량한 대지 (Barren Plateaus) 문제: 변분 양자 모델은 파라미터 수가 증가하거나 회로 깊이가 깊어지면 그라디언트 분산이 기하급수적으로 감소하여 학습이 불가능해지는 '황량한 대지' 현상에 직면합니다. 이는 모델의 확장성을 제한하는 주요 장애물입니다.
• 하드웨어 효율성 부족: 기존 고전 신경망과 유사한 성능을 내기 위해서는 너무 많은 양자 게이트가 필요하여, 제한된 자원을 가진 NISQ 장치에서는 실행이 어렵습니다.

2. 방법론 (Methodology)

저자들은 **포스트 선택 없이 구현된 하드웨어 효율적인 양자 잔여 신경망 (QResNet)**을 제안합니다. 핵심 기술적 요소는 다음과 같습니다.

• 결정론적 선형 조합 (Deterministic Linear Combination of Unitaries, LCU):

  • 고전적 잔여 연결의 개념을 양자 회로에 도입하기 위해, 보조 큐비트 (Ancilla qubit) 를 제어하여 데이터 큐비트에 작용하는 **항등 연산 (Identity)**과 **변분 유니터리 (Variational Unitary)**의 선형 조합을 구현합니다.
  • 보조 큐비트를 $R_Y(\theta)$ 회전을 통해 중첩 상태로 준비한 후, 제어된 유니터리 연산을 적용하고 다시 역회전하여 보조 큐비트를 초기화합니다.
  • 이 과정에서 포스트 선택을 수행하지 않습니다. 대신, 잔여 강도 파라미터 $\beta_\ell$에 의해 결정되는 결정론적 스케일링 인자를 사용하여 기대값을 보정합니다.
  • 수식적으로, $\ell$번째 블록의 효과적 맵은 $M_\ell = \frac{1}{1+|\beta_\ell|^2}(I + |\beta_\ell|^2 W_\ell(\vartheta_\ell))$로 표현되며, 이는 전체적으로 미분 가능한 함수를 유지합니다.

• 학습 가능한 잔여 강도 (Trainable Residual Strengths):

  • 기존 연구에서 고정되었던 잔여 연결의 가중치 ($\beta$) 를 학습 가능한 파라미터로 설정합니다.
  • 이를 통해 네트워크는 각 층에서 항등 연산과 변분 변환 사이의 균형을 적응적으로 조절할 수 있으며, 불필요한 블록은 우회 ($\beta \approx 0$) 하거나 강한 변환을 적용 ($\beta \approx \pm 1$) 할 수 있습니다.

• 황량한 대지 (Barren Plateaus) 회피 전략:

  • 학습 가능한 $\beta$ 파라미터의 범위를 시스템 차원 (큐비트 수) 에 비례하도록 설정 (예: $\beta_{max} = \sqrt{d}$) 함으로써, 그라디언트 분산이 큐비트 수에 따라 기하급수적으로 감소하는 것을 방지합니다.
  • 이론적 분석을 통해 제안된 아키텍처가 표준 변분 회로 (QVC) 에서 발생하는 황량한 대지 문제를 완화함을 증명했습니다.

• 아키텍처 구성:

  • 이진 분류: 5 개의 잔여 블록만 사용하여 10 개의 데이터 큐비트로 구성.
  • 다중 클래스 분류: 표현력 (Expressivity) 을 높이기 위해 잔여 블록 앞에 30 개의 변분 양자 회로 (QVC) 레이어를 추가하고, 그 뒤에 5 개의 잔여 블록을 배치.

3. 주요 기여 (Key Contributions)

1. 포스트 선택 제거: 결정론적 LCU 기법을 통해 포스트 선택 없이 잔여 연결을 구현하여, 확률적 실패 없이 그라디언트 기반 학습을 가능하게 함.
2. 학습 가능성 보장: 학습 가능한 $\beta$ 파라미터를 도입하여 잔여 연결의 강도를 적응적으로 조절하고, 황량한 대지 문제를 완화하는 새로운 비용 함수 및 아키텍처 설계.
3. 하드웨어 효율성: 기존 표준 변분 모델과 유사한 정확도를 달성하면서 게이트 수를 10 배 이상 줄임 (예: 8000 개 게이트 $\to$ 1400 개 게이트). 이는 NISQ 장치에 매우 적합함.
4. 적대적 강인성 (Adversarial Robustness): 제안된 모델이 흑상자 (Black-box) 적대적 공격에 대해 높은 강인성을 보임을 실험적으로 입증.

4. 실험 결과 (Results)

저자들은 MNIST, CIFAR-2, SARFish 데이터셋을 사용하여 모델을 평가했습니다.

• 성능 (Accuracy):
  • 이진 분류 (MNIST 0 vs 1): 정확도 99% 달성 (게이트 수: 200 개).
  • 이진 분류 (CIFAR-2): 정확도 76% 달성.
  • 이진 분류 (SARFish): 정확도 72.14% 달성 (실제 원격 감지 데이터).
  • 다중 클래스 분류 (MNIST 10 클래스): 정확도 80% 달성. (기존 QVC 만 사용 시 65% 에 그침).
• 자원 효율성:
  • 다중 클래스 MNIST 작업에서 85% 정확도를 내기 위해 기존 QVC 는 약 8000 개의 게이트가 필요했으나, 제안된 QResNet 은 30 개의 QVC 레이어 + 5 개의 잔여 블록으로 1400 개의 게이트만으로 80% 정확도를 달성했습니다.
• 적대적 공격 테스트:
  • 화이트박스 (White-box): 모델 파라미터를 아는 공격 시 정확도가 감소하지만, 그라디언트 기반 모델로서 점진적인 감소 양상을 보임.
  • 블랙박스 (Black-box): 고전 신경망에서 생성된 적대적 예제를 양자 모델로 전이했을 때, 제안된 모델은 높은 정확도를 유지하며 강력한 강인성을 입증했습니다. 이는 양자 모델의 결정 경계가 고전 모델과 구조적으로 불일치함을 시사합니다.

5. 의의 및 결론 (Significance)

이 연구는 양자 머신러닝의 실용화를 위한 중요한 이정표를 제시합니다.

• NISQ 호환성: 포스트 선택을 제거하고 게이트 수를 획기적으로 줄임으로써, 현재 존재하는 제한된 양자 하드웨어에서도 실행 가능한 고효율 모델을 제공합니다.
• 학습 안정성: 잔여 연결을 통해 그라디언트 흐름을 안정화하고 황량한 대지 문제를 완화하여, 깊은 양자 신경망의 학습을 가능하게 합니다.
• 보안성: 적대적 공격에 대한 강인성은 양자 머신러닝 모델이 실제 보안 민감한 환경에 적용될 수 있음을 시사합니다.

결론적으로, 제안된 QResNet은 정확성, 강인성, 학습 가능성, 그리고 하드웨어 효율성을 모두 갖춘 차세대 양자 머신러닝 아키텍처의 새로운 패러다임을 제시합니다.