Tensor network surrogate models for variational quantum computation

논문 개요: 텐서 네트워크 (TN) 기반의 변분 양자 계산 대체 모델

이 논문은 2 차원 큐비트 아키텍처 (IBM 의 Heavy-hexagonal 및 정사각형 격자) 에서 실행되는 변분 양자 알고리즘, 특히 **양자 근사 최적화 알고리즘 (QAOA)**을 고전적인 컴퓨터로 정확하게 시뮬레이션하기 위해 텐서 네트워크 (Tensor Network, TN) 기반의 대체 모델 (Surrogate Model) 을 제안합니다. 연구진은 TN 을 사용하여 깊은 회로 (deep circuits) 를 시뮬레이션하고, 이를 통해 파라미터 최적화 및 샘플링을 수행함으로써 현재 양자 하드웨어의 한계를 넘어선 스케일에서의 알고리즘 성능을 평가하고 훈련하는 방법을 제시합니다.

---

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 현재의 양자 컴퓨터는 오류가 많고 (Noisy Intermediate-Scale Quantum, NISQ), 완전한 오류 수정은 아직 달성되지 않았습니다. 따라서 현재 하드웨어가 기존 고전 알고리즘보다 우월한 실용적 가치를 제공할 수 있는 과제를 찾는 것이 중요합니다.
• 주요 알고리즘: 변분 양자 알고리즘 (VQA) 의 대표주자인 QAOA 는 조합 최적화 문제를 해결하기 위해 사용됩니다. 특히 QAOA 는 기대값을 계산하는 것뿐만 아니라, 출력 상태로부터 비트열 (bitstrings) 을 샘플링하여 해답을 추출하는 방식이 중요합니다.
• 문제점:
  • 양자 하드웨어의 노이즈로 인해 깊은 회로 (deep circuits) 실험이 제한적입니다.
  • 고전적인 시뮬레이션 (상태 벡터 시뮬레이션) 은 큐비트 수가 증가함에 따라 지수적으로 복잡해져 대규모 시스템 (예: 127 큐비트 이상) 을 시뮬레이션하기 어렵습니다.
  • 기존 연구에서 작은 시스템에서 학습된 파라미터를 큰 시스템으로 전이 (transfer) 하는 '파라미터 집중 (Parameter Concentration)' 현상이 관찰되었으나, 그 한계와 깊은 회로에서의 성능이 명확하지 않았습니다.

---

2. 방법론 (Methodology)

연구진은 다음과 같은 기술적 프레임워크를 구축했습니다:

가. 파라미터 최적화 전략 (Parameter Optimization)

• 파라미터 집중 (Parameter Concentration) 활용: 특정 클래스의 문제 (예: Ising 스핀 글래스) 에서 작은 시스템 ($n'$) 에서 학습된 파라미터가 큰 시스템 ($n$) 으로도 일반화될 수 있다는 가정을 기반으로 합니다.
• 학습 및 전이: 작은 시스템 (예: 16 큐비트) 에서 여러 인스턴스에 대해 파라미터를 최적화한 후, 중앙값 (median) 을 취하여 큰 시스템 (예: 127 큐비트) 에 적용합니다.
• 인터폴레이션 스케줄링: 깊은 회로 ($p$가 큰 경우) 를 다루기 위해 파라미터를 다항식 기저 함수 (Chebyshev polynomials) 로 표현하여 최적화 효율을 높입니다.

나. 텐서 네트워크 시뮬레이션 (TN Simulation)

• 연결성 인식 TN Ansatz: IBM 의 Heavy-hexagonal 및 정사각형 격자의 연결 구조를 반영하는 2 차원 TN 구조를 사용합니다.
• Belief Propagation (BP) 근사: 게이트 적용 시 발생하는 TN 의 차원 증가를 관리하기 위해 BP 알고리즘을 사용하여 국소 환경을 근사하고, 이를 기반으로 트러커션 (truncation) 을 수행합니다.
• 파라미터 최적화를 위한 TN 활용: 상태 벡터 시뮬레이션이 불가능한 대규모 시스템 (예: 35 큐비트 이상) 에서도 TN 을 사용하여 기대값을 계산하고 파라미터를 직접 최적화합니다.

다. 샘플링 기법 (Sampling via Boundary MPS)

• 경계 MPS (Boundary MPS) 방법: 최종 TN 상태로부터 비트열을 샘플링하기 위해 평면 그래프에 적용 가능한 Boundary MPS 기법을 사용합니다.
• 중요도 샘플링 (Importance Sampling):
  • 진폭 MPS ($R_m$) 와 노름 MPS ($R_M$) 의 결합을 통해 샘플링 분포 $Q(z)$를 생성합니다.
  • 중요도 가중치 $\omega = P(z)/Q(z)$를 계산하여 샘플링의 정확도를 정량화합니다.
  • $R_M$을 증가시킴으로써 샘플링의 신뢰도를 높이고, 에너지 분포의 안정성을 확보합니다.

---

3. 주요 결과 (Key Results)

가. Heavy-hexagonal 격자 (IBM 아키텍처) 결과

• 파라미터 전이의 한계: 작은 시스템 ($n'=16$) 에서 학습된 파라미터를 큰 시스템 ($n=127$) 에 전이할 때, 회로 깊이 ($p$) 가 증가함에 따라 성능이 향상되지만, 일정 깊이 (약 $p=50$) 이후에는 포화되어 더 이상 개선되지 않습니다. 이는 작은 시스템이 이미 최적해에 도달했기 때문에 큰 시스템으로의 일반화 능력이 저하됨을 시사합니다.
• 대규모 시스템 학습의 효과: $n'=35$와 같이 더 큰 시스템에서 TN 을 이용해 직접 파라미터를 학습하고 전이한 경우, 작은 시스템 학습 파라미터보다 더 낮은 에너지를 가진 샘플을 얻었으며, 지역 최소값 (local minima) 을 탈출하는 데 성공했습니다.
• 얽힘 (Entanglement) 분석: 깊은 회로 ($p=100$) 에서도 TN 상태의 얽힘 엔트로피가 유계 (bounded) 로 유지되어, 적절한 결합 차원 (bond dimension, $\chi=32$) 으로 고전적으로 시뮬레이션이 가능함을 확인했습니다.

나. 정사각형 격자 (Square Lattice) 결과

• 적용 가능성: 짧은 루프가 많아 BP 근사의 신뢰도가 낮아지는 정사각형 격자에서도 파라미터 집중 현상은 유효하며 TN 프레임워크가 적용 가능합니다.
• 계산 비용: Heavy-hexagonal 격자에 비해 정확한 샘플링을 위해 훨씬 더 큰 계산 자원 (더 큰 $R_M$, GPU 가속 필요) 이 요구됩니다.
• 샘플링 품질: 결합 차원을 증가시킬수록 중요도 가중치의 분산이 감소하며, 샘플링 정확도가 향상됨을 확인했습니다.

---

4. 주요 기여 및 의의 (Contributions & Significance)

1. 고전적 대체 모델로서의 TN 프레임워크:

   • 수백 개의 큐비트를 가진 2 차원 격자 시스템에서 QAOA 의 깊은 회로를 정확하게 시뮬레이션할 수 있는 효율적이고 통제된 프레임워크를 제시했습니다.
   • 이는 현재 양자 하드웨어의 한계를 넘어선 알고리즘 성능 평가 (벤치마킹) 를 가능하게 합니다.

2. 파라미터 최적화를 위한 TN 의 실용성:

   • TN 시뮬레이션을 단순히 시뮬레이션 도구를 넘어, 파라미터 최적화 (Training) 자체에 활용하여 대규모 시스템의 최적 파라미터를 찾는 효과적인 방법임을 입증했습니다.
   • 작은 시스템 학습의 한계를 극복하고 더 큰 시스템에서 학습된 파라미터가 더 나은 일반화 성능을 보임을 발견했습니다.

3. 얽힘 성장 및 샘플링 정확도에 대한 통찰:

   • 잘 최적화된 파라미터를 사용할 경우, 매우 깊은 회로 ($p=100$) 에서도 얽힘이 제한적으로 증가하여 TN 시뮬레이션이 수치적으로 처리 가능함을 보였습니다.
   • Boundary MPS 를 통한 중요도 샘플링이 중간 정도의 결합 차원으로도 정확한 에너지 분포를 얻을 수 있음을 입증했습니다.

4. 양자 유틸리티 (Quantum Utility) 논의에 대한 기여:

   • 특정 문제 (스핀 글래스 등) 에 대해 고전 알고리즘 (TN 등) 이 여전히 강력할 수 있음을 보여주며, 양자 우위를 주장하기 위해서는 문제의 종류와 알고리즘 설계가 중요함을 강조했습니다.

결론

이 연구는 텐서 네트워크를 기반으로 한 강력한 고전적 시뮬레이션 도구를 개발하여, 현대 양자 하드웨어 (2 차원 격자) 에서의 변분 양자 알고리즘 성능을 깊이 있게 분석하고 훈련할 수 있는 길을 열었습니다. 특히, 파라미터 전이 전략의 한계를 규명하고 대규모 시스템에서의 TN 기반 학습이 더 나은 성능을 낸다는 점은 향후 양자 - 고전 하이브리드 알고리즘 개발에 중요한 지침을 제공합니다.