Classical training of conditional instantaneous quantum polynomial-time Born machines

기술 요약: 조건부 즉각적 양자 다항 시간 본 머신(IQP Born Machines)의 고전적 학습

문제 정의
조건부 생성 모델은 물리적 온도나 클래스 레이블과 같은 조건 변수에 대한 의존성을 포착하기 위해 단일 모델을 사용하여 타겟 분포 군 $p(\cdot | c)$를 근사하는 것을 목표로 합니다. 양자 회로 본 머신(QCBM)은 이 과업을 위한 유망한 아키텍처이지만, 이를 대규모로 학습시키려면 지수적인 고전 시뮬레이션 비용 때문에 일반적으로 양자 하드웨어가 필요합니다. 또한, 노이즈가 있는 중규모 양자(NISQ) 하드웨어에서의 학습은 바렌 플래토(barren plateaus) 및 노이즈로 인한 최적화 문제와 같은 어려움에 직면합니다. 기존의 조건부 IQP 본 머신은 대각 성분 레이어(diagonal layer)의 파라미터를 조건에 따라 가변적으로 만드는 방식으로 이를 해결하려 시도했으나, 이러한 접근 방식은 전체 가족에 걸쳐 조건 의존성을 공동으로 학습하는 데 실패하거나 각 조건에 대해 별도의 학습 블록을 요구하는 경우가 많았습니다.

방법론
저자들은 조건 $c$가 입력 상태 $|\phi(c)\rangle$에 직접 인코딩되는 동시에, 모든 조건에 대해 하나의 공유된 IQP 유니터리 $U_\theta$가 적용되는 조건부 IQP 본 머신 프레임워크를 제안합니다. 모델은 다음과 같이 분포를 나타냅니다:
$$q_\theta(x | c) = |\langle x| U_\theta |\phi(c)\rangle|^2$$
여기서 $U_\theta = H^{\otimes n} D(\theta) H^{\otimes n}$이며, $D(\theta)$는 위상 게이트(phase gates)의 대각 성분 레이어입니다.

주요 방법론적 구성 요소는 다음과 같습니다:

1. 샘플링-및-비율 인터페이스(Sampling-and-Ratio Interface): 고전적 학습을 가능하게 하려면, 초기 하다마드(Hadamard) 레이어 이후의 입력 상태가 계산 기저 문자열(computational-basis strings)의 효율적인 샘플링과 진폭 비율(amplitude ratios)의 평가를 지원해야 합니다. 저자들은 이 요구 사항을 충족하는 곱 상태(product states), 행렬 곱 상태(matrix product states), 또는 순열 대칭 상태(permutation-symmetric states) 기반의 인코더를 활용합니다.
2. 그라디언트의 고전적 추정: 학습 목적 함수는 가우시안 커널을 가진 제곱 최대 평균 불일치(Maximum Mean Discrepancy, MMD)입니다. 저자들은 파울리-Z 모멘트와 그 그라디언트를 참조 상태의 샘플링 및 진폭 비율만을 사용하여 가산 정확도(additive accuracy)로 고전적으로 추정할 수 있음을 보여줍니다. 이를 통해 양자 하드웨어 없이도 공유된 파라미터 $\theta$를 최적화할 수 있습니다.
3. 인코더 설계: 저자들은 **패리티 인코더(parity encoder)**와 (one-axis twisting을 포함하는) **트위스티드 패리티 인코더(twisted parity encoder)**와 같은 특정 인코더를 도입하여, 이들이 대칭성(예: 전역 스핀 플립 불변성)을 부여하고 조건 의존적 크기(magnitudes)를 위상뿐만 아니라 참조 상태에 인코딩하도록 합니다.

주요 기여

• 이론적 표현력: 저자들은 입력 조건화(input conditioning)를 통해 모델이 고정된 입력과 동일한 수의 큐비트를 가진 대각 조건부 IQP 모델이 재현할 수 없는 조건부 가족을 표현할 수 있음을 증명합니다(Proposition 1). 이는 IQP 유니터리가 X-기저에서의 출력 분포를 변경할 수 없으며, 해당 분포는 입력 상태의 크기에 의해 고정되기 때문입니다. 입력 조건화는 이러한 제한을 깨고 조건에 따라 X-기저 분포를 변화시킴으로써 이를 극복합니다.
• 고전적 학습 프레임워크: 본 연구는 Recio-Armengol 등의 고전적 학습 프레임워크를 조건 의존적 입력으로 확장하여, 이 모델들에 대해 MMD 목적 함수와 그 그로디언트를 효율적으로 고전적으로 추정하는 것이 가능함을 입증했습니다.
• 인코더의 영향: 연구는 인코더의 선택이 성능에 상당한 영향을 미친다는 점을 강조합니다. 조건 의존적 크기를 인코딩하는 인코더(비대각 동등 인코더)가 위상만을 인코딩하거나 대각 조건화에 의존하는 인코더보다 우수한 성능을 보였습니다.

실험 결과
프레임워크는 16 큐비트를 사용하여 두 가지 타겟 가족에 대해 평가되었으며, 최대 2048 큐비트까지 대규모 시뮬레이션을 수행했습니다.

1. 해밍 가중치(Hamming-Weight) 가족: 좌표를 개별적으로 변화시켜 학습된 모델은 보지 못한 조합의 좌표에 대해서도 성공적으로 일반화되었습니다. 입력 조건부 모델은 동일한 회로 구조를 가진 대각 조건부 베이스라인보다 약 3배 낮은 총 변동 거리(Total Variation Distance, TVD)를 달달성했습니다.
2. 퀴리-바이스 스핀 모델(Currie–Weiss Spin Model):
   • 단일 조건부 모델이 다양한 온도에 따른 단봉형(unimodal)에서 쌍봉형(bimodal) 자화 프로파일로의 전이를, 홀드아웃(held-out) 온도에 대해서도 성공적으로 포착했습니다.
   • 트위스티드 패리티 인코더는 동일한 프로토콜 하에서 대각 조건부 베이스라인보다 6배 낮은 평균 TVD(0.046 vs. 0.28)를 달성했습니다.
   • 공유된 조건부 모델은 최대 7배 더 많은 파라미터를 가진 고전적 생성 모델(Transformer, RBM, VAE)과 대등한 정확도를 보였습니다.
   • 대규모 학습: 저자들은 최대 2048 큐비트까지 고전적으로 학습시켰습니다. 이 모델들은 크로스오버 영역을 벗어난 곳에서 평균 제곱 자화(mean squared magnetization)를 성공적으로 재현하여, 정확한 시뮬레이션 능력을 넘어서는 확장성을 입증했습니다.
   • 하드웨어 배포: 최대 30 큐비트 규모의 모델을 실제 양자 하드웨어(IQM의 Emerald)에서 샘플링하였으며, 상전이를 정성적으로 재현했으나 장치 노이즈로 인해 질서 상태(ordered regime)에서 상당한 오차가 발생했습니다.

의의 및 주장
본 논문은 단일 분포 모델링에서 조건부 가족 모델링으로 IQP 본 머신의 고전적 학습을 확장했다고 주장합니다. 주요 의의는 다음과 같습니다:

• 입력 조건화가 대각 조건화보다 더 강력한 조건부 생성 메커니즘이며, 큐비트 수를 늘리지 않고도 더 높은 표현력을 제공한다는 점을 입증했습니다.
• 인코더가 샘플링-및-비율 인터페이스를 지원하는 한, 고전적 학습이 조건부 IQP 모델에 대해 효율적이고 효과적임을 보여주었습니다. 이는 양자 하드웨어 사용의 필요성을 제거하여, NISQ 장치와 관련된 노이즈 및 최적화 문제를 완화합니다.
• 이 접근 방식은 정확한 시뮬레이션이 불가능한 규모(예: 2048 큐비트)에서도 클래식하게 다룰 수 있는 관측량(예: 평균 제곱 자화)을 활용하여 양자 생성 모델을 검증할 수 있게 합니다.

저자들은 사용된 타겟(순열 불변적 대상)이 고전적으로 샘플링 가능한 대상이므로, 실험이 계산적 속도 향상보다는 표현력과 일반화 능력을 테스트한다는 점을 언급하며 양자 우위에 대해 신중한 태도를 유지했습니다. 이들은 효율적인 인코더 구축과 어떤 인코더가 샘플링 난해성(sampling hardness)을 보존하는지에 대한 규명이 향려 과제임을 밝혔습니다.