Expressive Power and Limitations of Multi-photon Quantum Neural Networks

기술 요약: 다광자 양자 신경망의 표현력과 한계

문제 정의
데이터 재업로딩(DRQNN)을 활용하는 양자 신경망(QNN)은 보편적 근사 능력을 입증해 왔다. 다광자 입력(보존 샘플링)을 사용하는 선형 광학 네트워크는 계산 작업에서 양자 이점을 보여주었으나, 광자 수를 늘리는 것이 QNN의 표현력을 어떻게 향상시키는지에 대한 구체적인 메커니즘은 아직 탐구되지 않았다. 특히, 다광자 양자 신경망(MPQNN)의 표현력이 광자 수를 늘림에 따라 무한히 향상될 수 있는지, 아니면 근본적인 한계가 존재하는지는 불분명하다. 본 논문은 MPQNN의 표현력을 정량적으로 특성화하고, 광자 수($n$), 모드 수($m$), 그리고 레이어 수($L$)가 근사 오차에 미치는 영향을 다룬다.

방법론
저자들은 DRQNN 아키텍처를 다광자 포크 공간(Fock space)으로 확장하여, 선형 광학 네트워크로 구현된 MPQNN을 위한 프레임워크를 제안한다.

1. 모델 정의: 모델은 데이터 재업로딩(위상 변조기를 통한 인코딩 블록과 범용 유니터리 선형 광학 네트워크를 통한 학습 가능 블록의 교차 구성)을 포함하는 회로 부분과 관측량(observable) 부분으로 구성된다. 입력은 $n$개의 동일한 광자를 나타내는 포크 상태 $|n, 0, \dots, 0\rangle$이다.
2. 가설 공간 특성화: 저자들은 MPQNN의 가설 공간을 도출한다. 이들은 출력 함수 $h(x)$가 실수 다항식 $g$(관측량에 의해 결정됨)와 삼각 다항식 $y_j$(학습 가능한 회로 파라미터에 의해 결정됨)의 합성임을 입증한다.
3. 오차 경계 도출: 연구는 측정되는 관측량의 성격에 따라 두 가지 별개의 경우를 분석한다:
   • 고정된 관측량(Fixed Observable): 광자 수 분할의 가중치가 미리 결정되어 있다.
   • 학습 가능한 관측량(Trainable Observable): 훈련 과정 중 회로 파라미터와 함께 가중치가 최적화된다.
     잭슨 부등식(Jackson's inequality)을 사용하여, 저자들은 타겟 함수의 매끄러움(smoothness)과 파라미터 $n, m, L$의 관계를 통해 두 경우에 대한 근사 오차의 상한을 도출한다.
4. 수치 시뮬레이션: 이론적 발견을 검증하기 위해, 저자들은 포크 상태에 의해 구동되는 선형 광학 네트워크의 출력 광자 수 분포를 효율적으로 시뮬레이션하는 동적 계획법 알고리즘을 개발하였다. 이 접근 방식은 퍼머넌트(permanent)를 계산하는 라이서(Ryser) 알고리즘보다 실행 시간 복잡도를 줄여 성능을 개선한다.

주요 기여 및 결과
본 논문은 광자 수가 MPQNN의 표현력에 미치는 영향에 대한 정량적 분석을 제공하며, 고정된 관측량과 학습 가능한 관측량에 대해 대조적인 결과를 제시한다:

• 고정된 관측량의 경우:

  • 근사 오차는 $O((dL)^{-K})$로 제한된다. 여기서 $d = \min\{n, m-2\}$이다.
  • 임계 효과(Threshold Effect): $n = m-2$에서 임계점이 존재한다. 이 임계값 미만에서는 광자 수를 늘림에 따라 표현력이 다항식적으로 향고된다.
  • 한계: $n$이 $m-2$를 초과하면, 광자 수를 더 늘려도 표현력이 향상되지 않는다. 이는 선형 광학 네트워크의 학습 가능한 파라미터 수(오직 $m$과 $L$에 의존함)가 증가된 광자 수에 의해 생성되는 고차원 함수 공간을 포괄하기에 불충분하기 때문이다.

• 학습 가능한 관측량의 경우:

  • 근사 오차는 $O(d^{-K})$로 제한된다. 여기서 $d = \min\{nL, \max\{(m-2)L, n\lfloor\frac{m-1}{2}\rfloor\}\}$이다.
  • 지속적 향상: 고정된 경우와 달리, 선형 광학 네트워크 구조를 변경하지 않고도 광자 수를 늘리면 MPQNN의 표현력이 항상 향상된다. $n \to \infty$일 때, 오차 경계는 0으로 수렴한다.
  • 비용: 이러한 향상된 표현력은 관측량에 $\binom{n+m-1}{m-1}$개의 추가적인 학습 가능 파라미터를 도입하는 비용을 수반하며, 이는 $n$에 따라 지수적으로 증가한다.

• 수치적 검증: 일변수 삼각 다항식 근사 작업에 대한 시뮬레이션을 통해, 평균 테스트 손실이 광자 수와 레이어 수가 증가함에 따라 감소함을 확인하였으며, 이는 이론적 경계와 일치한다.

의의
저자들은 본 연구가 QNN에서 다광자 양자 특징의 성능 향상과 내재적 한계를 규명한다고 주장한다. 광자 수와 표현력 사이의 관계를 정량적으로 특성화함으로써, 이 논문은 광자 플랫폼에서 QNN을 구현하기 위한 지침을 제공한다. 구체적으로, 다광자 입력이 이점을 제공하지만, 고정된 관측량 시나리오에서는 학습 가능한 블록의 아키텍처에 의해 그 효용성이 제한된다는 점을 명확히 한다. 이러한 결과는 다광자의 이점을 완전히 활용하기 위해서는 관측량이 학습 가능해야 하거나, 증가된 자유도를 수용할 수 있도록 네트워크 구조를 조정해야 함을 시사한다. 본 연구는 양자 머신러닝에서 광자 수, 파라미터 수, 그리고 근사 능력 사이의 트레이드오프를 이해하기 위한 참조 자료 역할을 한다.