Scaling Adaptive Non-Local Observable Quantum Super-Resolution via Matrix Product States

기술 요약: 행렬 곱 상태(Matrix Product States)를 통한 적응형 비국소 관측량 양자 초해상도 구현의 확장

문제 정의
이미지 초해상도(Super-Resolution, SR)는 저해상도 입력을 통해 고해상도 이미지를 재구성하는 것을 목표로 한다. 클래식 딥러닝이 이 분야을 주도하고 있는 반면, 변분 양자 회로(Variational Quantum Circuits, VQCs)가 대안적 프레임워크로 부상했다. 적응형 비국소 관측량 VQC(Adaptive Non-Local Observable VQCs, ANO-VQCs)라는 특정 아키텍처는, 에르미트 측정 연산자를 고정된 파울리 관측량이 아닌 학습 가능한 구성 요소로 취급함으로써 표준 VQC를 개선한다. 이를 통해 작업 의존적인 다중 큐비트 상관관계의 조합이 가능해진다.

그러나 ANO-VQC를 이용한 이미지 SR 시뮬레이션은 심각한 확장성 병목 현상에 직면한다. '1 픽셀 당 1 큐비트' 인코딩 방식을 사용할 경우, $p \times p$ 크기의 입력 이미지는 $n = p^2$개의 큐비트를 요구한다. 전통적인 상태 벡터(Statevector) 시뮬레이션은 $2^n$개의 복소 진폭을 저장해야 하므로, 아주 완만한 입력 크기(예: $6 \times 6$ 입력 또는 36 큐비트)에서도 메모리 병목 현상이 발생하여 실행 불가능해진다. 정밀 텐서 네트워크(Exact Tensor Network, Exact TN) 수축 또한 대안이 될 수 있으나, 이 역시 일정 규모 이상의 입력(예: $12 \times 12$ 또는 144 큐비트)을 넘어서면 계산적으로 불가능해진다. 따라서 변분 양자 알고리즘의 학습을 위한 정확도를 유지하면서 더 많은 큐비트 수를 처리할 수 있는 확장 가능한 시뮬레이션 백엔드가 필요하다.

방법론
저자들은 ANO-VQC 이미지 SR에 특화된 행렬 곱 상태(Matrix Product State, MPS) 시뮬레이션 프레임워크를 제안한다. 워크플로우는 네 가지 주요 단계로 구성된다:

1. 인코딩 및 회로 설계:

   • 저해상도 이미지(예: $7 \times 7$)는 1 픽셀 당 1 큐비트 인코딩을 통해 큐비트로 매핑된다. 픽셀 값 $x_i \in [0, 1]$은 회전각 $\phi_i = 2\pi x_i - \pi$로 변환된다.
   • 인코딩 회로는 하다마르 게이트(Hadamard gates)를 적용한 후, 픽셀 의존적 $RY(\phi_i)$ 회전과 엇갈린 근접 이웃 CNOT 게이트를 적용한다.
   • 회로 깊이 $L$은 반복되는 인코딩-얽힘 레이어의 수로 정의된다. 주목할 점은, 인코딩 게이트는 입력에 의존적이지만 독립적으로 학습되지는 않는다는 것이다. 학습 가능한 파라미터는 관측량과 클래식 재구성 레이어에 존재한다.

2. 적응형 관측량 특징 추출:

   • 고정된 파울리 측정을 사용하는 대신, 본 프레임워크는 큐비트 쌍(구체적으로 이미지 국소 이웃: 가로, 세로, 대각선)에 작용하는 학습 가능한 에르미트 관측량 $H_q$를 사용한다.
   • MPS 백엔드를 효율적으로 활용하기 위해, 각 적응형 관측량은 파울리 기저에서 확장된다: $H_q = \sum_\alpha c_{q,\alpha} P_\alpha$.
   • 기대값 $\langle H_q \rangle$는 고정된 파울리 기대값 $\langle P_\alpha \rangle$의 선형 결합으로 계산된다. 인코딩 회로는 입력 이미지에만 의존하므로, 이러한 파울리 기대값은 한 번 계산되어 캐싱된다. 학습 가능한 파라미터($A_q, B_q, D_q$)는 계수 $c_{q,\alpha}$만을 업데이트하여, 비용이 많이 드는 양자 특징 평가와 관측량 및 재구성 레이어의 최적화를 분리한다.

3. MPS 시뮬레이션:

   • 양자 상태 $|\psi\rangle$는 가상 본드(virtual bonds) 차원 $\chi$로 연결된 로컬 텐서들의 체인으로 표현된다.
   • 저장 공간은 $O(2^n)$이 아닌 약 $O(n\chi^2)$로 스케일링된다.
   • 단일 큐비트 게이트는 로컬 텐서를 업데이트하며, 2-큐비트 게이트는 인접한 텐서를 업데이트한 후 본드 차원 절단(truncation)을 수행한다.

4. 재구성 및 학습:

   • 추출된 양자 특징 벡터는 고해상도 이미지를 재구성하기 위해 클래식 선형 레이어로 전달된다.
   • 학습은 평균 제곱 오차(MSE)와 학습된 지각적 이미지 패치 유사도(LPIPS)를 결합한 가중 손실 함수를 최소화한다.
   • 실험은 Fashion-MNIST 데이터셋($7 \times 7$ 입력 $\to$ $28 \times 28$ 출력)을 사용하여 단일 NVIDIA RTX 4070 GPU에서 수행되었다.

주요 기여 및 결과

• 확장성 벤치마크:

  • 본 연구는 상태 벡터 시뮬레이션, 정밀 TN 수축, 그리고 MPS 시뮬레이션을 비교한다.
  • 상태 벡터: $6 \times 6$ 입력(36 큐비트)에서 메모리 병목 현상이 발생한다.
  • 정밀 TN: $12 \times 12$ 입력(144 큐비트)을 넘어서면 계산적으로 불가능해진다.
  • MPS: 고정된 본드 차원 $\chi=8$을 사용하여 최대 $16 \times 16$ 픽셀(256 큐비트) 입력에 대한 순방향 특징 추출을 성공적으로 완료했다. 중첩된 범위 내에서 MPS는 Exact TN보다 빠르며, $4 \times 4$ 이상의 입력에 대해 상태 벡터 시뮬레이션보다 우수한 성능을 보인다.

• 정확도-비용 트레이드오프 (본드 차원 스윕):

  • 고정된 $7 \times 7$ 입력(49 큐비트)에 대해, 저자들은 회로 깊이 $L=1$부터 $L=4$까지 본드 차원 $\chi$를 2에서 2048까지 변화시키며 조사했다.
  • "근사 정밀(near-exact)" 영역(MPS 오차가 Exact TN 대비 기계 정밀도에 도달하는 지점)에 도달하기 위해 필요한 $\chi$는 회로 깊이에 따라 증가한다:
    • $L=1$: $\chi=2$
    • $L=2$: $\chi=4$
    • $L=3$: $\chi=8$
    • $L=4$: $\chi=16$
  • $\chi=16$에서 $L=4$의 평균 절대 오차(MAE)는 $\approx 10^{-15}$로 떨어지며, 지수적인 비용 없이 Exact TN 결과와 사실상 일치하는 결과를 보여준다.

• 초해상도 성능:

  • (모든 테스트된 깊이에 대해 근사 정밀 시뮬레이션을 보장하는) $\chi=16$을 사용하여, 저자들은 Fashion-MNIST $7 \times 7 \to 28 \times 28$ SR 모델을 학습시켰다.
  • 역설적 발견: 가장 얕은 회로($L=1$)가 모든 지표(Loss, LPIPS, PSNR, SSIM)에서 최고의 성능을 달성했다.
    • $L=1$: Loss 0.4864, PSNR 20.87 dB, SSIM 0.4248.
    • $L=4$: Loss 0.6984, PSNR 18.80 dB, SSIM 0.2922.
  • 이 고정된 근사 정밀 MPS 설정 하에서 회로 깊이를 늘리는 것은 초해상도 품질을 개선하지 못했으며, 오히려 더 깊은 회로는 성능을 저하시키고 학습 시간을 증가시켰다.

의의 및 주장
본 논문은 MPS를 ANO-VQC 이미지 SR을 위한 확장 가능하고 제어 가능한 시뮬레이션 백엔드로 포지셔닝한다. 본 연구의 주요 의의는 상태 벡터 및 정밀 텐서 네트워크 방식의 한계를 넘어, 단일 GPU에서 최대 256 큐비트 시스템까지 시뮬레이션 범위를 확장했다는 데 있다.

저자들은 깊은 회로가 반드시 더 나은 SR 품질을 보장하지 않는다는 점을 언급하며, 회로 깊이를 관측량 설계 및 재구성 레이어와 함께 공동으로 선택하는 것이 중요하다는 점을 강조하며 결과를 조심스럽게 제시했다. 결론적으로 MPS는 대규모 변분 양자 회로를 연구하기 위한 실질적인 도구이며, 향후 병렬화 및 분산 텐서 네트워크 계산을 통합하여 시뮬레이션 규모를 더욱 확장할 계획이다.