Quantum Hamiltonian Embedding of Images for Data Reuploading Classifiers

기술 요약: 데이터 재업로딩 분류기를 위한 양자 해밀토니안 임베딩 이미지

문제 정의
양자 컴퓨팅의 머신러닝(QML) 적용은 전통적으로 양자 선형 대수(qPCA와 같은 서브루틴을 사용하는 경우)를 활용하여 고전 알고리즘을 "양자화"함으로써 런타임 속도 향상(speedup)을 통한 양자 우위를 달고하는 데 집중해 왔습니다. 그러나 최근의 논의는 QML의 목표가 단순히 속도 향상이 되어야 하는지에 대해 의문을 제기하며, 대신 양자 고유의 특성이나 고전 딥러닝의 휴리스틱(heuristics)이 모델 설계를 가이드해야 한다고 제안합니다. 이미지 분류에서 구체적인 과제가 발생하는데, 고전 딥러닝은 정보의 국소성(locality)과 이동 불변성(translation invariance, 예: CNN, Vision Transformer)에 크게 의존합니다. 기존의 이미지용 QML 접근 방식은 고차원 데이터 처리에 어려움을 겪는 경우가 많으며, 이로 인해 빈번하게 고전적 전처리(PCA나 사전 학습된 네트워크를 통한 차원 축소)를 요구하거나, 각도 임베딩(angle embedding)과 같은 임베딩 방식을 사용하여 원치 않는 편향을 유발하거나 이미지 데이터의 본질적인 2차원 구조를 보존하지 못하는 문제가 있습니다.

방법론
저자들은 데이터 재업로딩 회로(Data Reuploading Circuit) 구조와 양자 해밀토니안 임베딩(Quantum Hamiltonian Embedding) 방법을 통합한 양자 신경망(QNN) 분류기를 제안합니다.

1. 해밀토니안 이미지 임베딩: 이미지를 평탄화(flattening)하거나 픽셀 값을 회전 각도로 인코딩(각도 임베딩)하는 대신, 이 모델은 흑백 이미지 행렬 $M$을 에르미트 연산자(Hermitian operator)로 취급합니다. 이미지는 먼저 "에르미트화"($H_M = (M + M^T)/2$)된 후, 학습 가능한 파라미터 $t$를 갖는 유니터리 시간 진화 연산자 $W(t; M) = e^{-iH_M t/2}$를 통해 양자 상태로 인코딩됩니다. 이 접근 방식은 이미지의 2D 구조를 보존하며, 각도 임베딩의 주기적인 삼각 함수와 관련된 편향을 피하면서 이미지 레벨 전체에 행렬 다항식 비선형성을 적용합니다.
2. 데이터 재업로딩: 모델은 데이터 인코딩 유니터리($W$)와 파라미터화된 유니터리 층($V$)이 $L$번 반복되는 변분 회로(variational circuit)를 활용합니다. 상태는 $|\phi(t, \vec{\omega}; M)\rangle = \prod_{i=1}^L [V(\omega_i)W(t_i; M)] |+\rangle^{\otimes n}$로 준비됩니다. 이는 고전 딥 네트워크에서 입력 데이터를 재사용하는 방식을 모사하며, 이를 통해 모델은 데이터와 학습 가능한 파라미터 간의 반복적인 상호작용을 통해 복잡한 함수를 학습할 수 있습니다.
3. 아키텍처: 파라미터화된 층 $V$는 벽돌 쌓기 레이아웃(brick-wall layout)으로 배치된 $SU(4)$유니터리 게이트(또는 더 큰 큐비트 수를 위한$SU(N)$)로 구성됩니다. 분류는 클래스 레이블에 해당하는 투영 연산자(projection operators)를 측정함으로써 수행되며, 훈련은 크로스 엔트로피 손실(cross-entropy loss)을 통해 최적화됩니다.

주요 기여

• 모델 구축: 본 논문은 해밀토니안 임베딩과 데이터 재업로딩 패러다임을 결합한 새로운 QML 분류기를 구축했습니다.
• 성능 벤치마킹: 저자들은 수치 실험을 통해 제안된 모델이 이미지 분류 작업에서 베이스라인인 양자 합성곱 신경망(QCNN)보다 성능이 현저히 우수함을 입증했습니다.
• 설계 원칙: 모델 설계와 경험적 결과에 기반하여, 저자들은 순수한 속도 향상보다는 아키텍처적 휴리스틱과 데이터 고유의 구조에 초점을 맞추도록 QML 모델 설계를 가이드하는 6가지 원칙을 제안합니다.

실험 결과
모델은 Kaggle CT 의료 영상, Sklearn Digits 데이터셋의 일부, 그리고 MNIST 및 FashionMNIST 데이터셋의 일부 등 4개의 데이터셋에 대해 평가되었습니다.

• 성능 향상: 제안된 "HamEmb" 모델은 (평탄화된 입력과 진폭 임베딩을 사용하는) 베이스라인 QCNN보다 일관되게 우수한 성능을 보였습니다.
  • MNIST 테스트 세트(8개 클래스)에서 HamEmb 모델은 QCNN의 47.03% 대비 **89.72%**의 정확도를 달성하여 40% 이상의 격차를 보였습니다.
  • FashionMNIST 테스트 세트에서 HamEmb는 QCNN의 42.90% 대비 **77.77%**의 정확도를 달성했습니다.
  • Sklearn Digits 데이터셋에서 HamEmb는 QCNN의 78.95% 대비 **94.40%**에 도달했습니다.
• 강건성(Robustness): HamEmb 모델은 20개(작은 데이터셋의 경우) 또는 5개(큰 데이터셋의 경우)의 서로 다른 무작위 파라미터 초기화에 대해 일관된 성능을 보여준 반면, QCNN의 성능은 변동성이 크고 일반적으로 더 낮았습니다.
• 확장성 관찰: 모델이 우수한 성능을 보였음에도 불구하고, 저자들은 MNIST에서 더 복잡한 FashionMNIST로 넘어갈 때 성능 저하가 나타남을 언급했습니다. 이는 모델의 전역 인코딩(전체 이미지를 하나의 해밀토니안으로 취급)이 작은 합성곱 커널이나 패치 기반 접근 방식의 미세한 국소 특징 추출 능력이 부족할 수 있기 때문이라고 분석했습니다.

의의 및 주장
본 논문은 주요 기여가 고전적 방법론에 대한 런타임 속도 향상이 아니라, 고전 딥러닝의 휴리스틱과 경험적 지식이 QML의 성능을 개선하기 위해 성공적으로 통합될 수 있음을 보여주는 데 있다고 주장합니다.

저자들은 다음과 같이 주장합니다:

1. 속도 향상은 일차적 지표가 아니다: QML 모델 설계는 속도 향상을 찾기보다 성능 지표(정확도 등)와 데이터와의 구조적 정렬을 우선시해야 합니다.
2. 데이터 구조가 중요하다: 해밀토니안 임베딩을 통해 데이터의 본질적 구조(예: 이미지의 2D 공간 구조)를 보존하는 것이 데이터를 평탄화하거나 주기적 편향을 도입하는 방식보다 우월합니다.
3. 고전적 전처리를 최소화하라: 이 모델은 특징 추출을 고전적 백본(ResNet 등)에 맡기지 않고, 양자 회로가 원시 데이터(또는 최소한으로 처리된 데이터)를 직접 처리할 수 있도록 합니다.
4. 비선형성의 원천: 모델은 (지수 맵의 테일러 전개를 통한) 양자 해밀토니안의 시간 진화에 내재된 비선형성을 활용하며, 측정에 의한 비선형성이나 고전적 활성화 함수에만 의존하지 않습니다.
5. 원치 않는 편향을 피하라: 각도 임베딩을 피함으로써, 모델은 주기 함수로 형성된 결정 경계(decision boundaries)에 대한 편향을 회피합니다.

궁극적으로, 본 논문은 "초기 속도 향상에 대한 집중 완화"부터 "원치 않는 편향 주의"에 이르는 6가지 원칙을 제시하며, 데이터의 성격과 현재 양자 하드웨어의 제약을 모두 존중하는 더 효과적인 양자 신경망을 설계하기 위한 프레임워크를 제공합니다.