A scalable quantum-neural hybrid variational algorithm for ground state estimation

이 논문은 비유니터리 변환으로 인한 정규화 문제와 측정 오버헤드 증가를 해결하여 정확도와 안정성을 향상시킨 '유니터리 변분 양자 - 신경 하이브리드 고유솔버 (U-VQNHE)'를 제안합니다.

핵심

이 논문은 양자 컴퓨팅과 인공지능 (AI) 을 결합하여 **분자의 가장 낮은 에너지 상태 (기저 상태)**를 찾는 새로운 방법을 제안합니다. 이를 쉽게 이해하기 위해 몇 가지 비유를 들어 설명해 드리겠습니다.

1. 배경: 양자 컴퓨터와 AI 의 결혼 (VQE 와 VQNHE)

• 양자 컴퓨터 (VQE): 분자의 에너지를 계산하는 데 아주 뛰어난 '양자 컴퓨터'가 있습니다. 하지만 양자 컴퓨터는 아직 완벽하지 않아서, 복잡한 계산을 할 때 오차가 생기거나 정확한 답을 내기 어렵습니다.
• 기존의 해결책 (VQNHE): 연구자들은 양자 컴퓨터의 약점을 보완하기 위해 **AI(신경망)**를 붙였습니다. 양자 컴퓨터가 측정한 결과를 AI 가 다시 한번 가공해서 더 정확한 답을 내놓는 방식입니다.
  • 비유: 양자 컴퓨터가 "이 분자의 에너지는 대략 100 이라고 생각해!"라고 말하면, AI 가 "아니야, 내가 보니 98.5 가 더 맞는 것 같아"라고 정교하게 수정해 주는 것입니다.

2. 문제점: VQNHE 의 치명적 결함

하지만 기존 방식 (VQNHE) 에는 큰 문제가 있었습니다.

• 문제 1: "정리하지 않은 방" (정규화 문제)

  • AI 가 양자 컴퓨터의 결과를 수정할 때, **확률의 합이 1 이 되도록 맞춰주는 과정 (정규화)**이 필요했습니다.
  • 비유: 양자 컴퓨터가 100 개의 상자를 열어보는데, AI 가 "이 상자는 열어보지 않았으니 무시해"라고 하면 계산이 엉망이 됩니다. AI 가 모든 가능한 경우 (상자) 를 다 확인하려면, 양자 컴퓨터가 상자 수의 2 배, 4 배, 8 배... (지수적으로) 더 많은 상자를 열어봐야 합니다.
  • 결과: 컴퓨터가 처리할 수 있는 상자 (큐비트) 가 조금만 늘어나도, 필요한 측정 횟수가 우주에 있는 별의 수만큼 늘어나서 계산이 불가능해집니다.

• 문제 2: "미친 숫자" (발산 문제)

  • AI 가 "보지 못한 상자"에 대해 엉뚱하게 아주 큰 숫자를 부여하면, 전체 계산 결과가 마이너스 무한대로 떨어지는 버그가 생깁니다.
  • 비유: 점수 계산에서 '보지 못한 문제'에 대해 점수를 100 만 점으로 줘버리면, 전체 평균이 엉뚱하게 튀어 오르는 것과 같습니다.

3. 해결책: U-VQNHE (단위 변환을 활용한 새로운 방법)

저자들은 이 문제를 해결하기 위해 U-VQNHE라는 새로운 알고리즘을 개발했습니다.

• 핵심 아이디어: "회전만 시키기" (Unitary Transformation)
  • 기존 AI 는 양자 상태의 크기를 마음대로 늘리거나 줄였는데 (비단위 변환), 새로운 AI 는 크기는 그대로 유지하고 방향만 바꾸는 (단위 변환) 방식으로 작동하게 만들었습니다.
  • 비유:
    • 기존 방식: AI 가 양자 상태를 "확장"하거나 "축소"하려다 보니, 모든 상태를 다 확인하지 않으면 균형이 깨져서 무너졌습니다.
    • 새로운 방식 (U-VQNHE): AI 는 양자 상태를 3D 공간에서 회전시키는 역할만 합니다. 회전만 시키면 크기가 변하지 않으므로, 모든 경우를 다 확인하지 않아도 항상 균형이 잡힙니다.

4. 왜 이것이 중요한가?

1. 측정 횟수 대폭 감소: 모든 가능한 경우를 다 확인하지 않아도 되므로, 양자 컴퓨터가 필요한 측정 횟수가 지수적으로 줄어듭니다. 이제 실용적인 양자 컴퓨터로도 이 알고리즘을 실행할 수 있게 되었습니다.
2. 안정성: AI 가 엉뚱한 큰 숫자를 만들어내서 계산이 무너지는 일이 사라졌습니다.
3. 정확도 유지: 측정 횟수를 줄였음에도 불구하고, 기존 방식보다 더 안정적이고 정확한 에너지 값을 찾아냅니다.

요약

이 논문은 **"양자 컴퓨터와 AI 를 섞어 쓸 때, AI 가 너무 많은 일을 하려고 하다가 (모든 경우를 다 확인해야 함) 시스템이 무너지는 문제를 해결했다"**는 내용입니다.

연구자들은 AI 에게 **"모든 것을 다 확인하지 말고, 상태의 크기만 바꾸지 않고 방향만 돌려주라"**고 지시하는 새로운 규칙을 만들었습니다. 덕분에 양자 컴퓨터가 훨씬 적은 노력으로 분자의 정확한 에너지를 계산할 수 있게 되었고, 이는 양자 컴퓨팅이 실제 화학 및 의약 분야에 적용되는 데 중요한 발걸음이 될 것입니다.

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 변분 양자 고유값 솔버 (VQE) 는 NISQ(Noisy Intermediate-Scale Quantum) 하드웨어에서 분자 시스템의 기저 상태 에너지를 계산하는 핵심 알고리즘입니다. 그러나 VQE 의 성능은 주로 '안사 (Ansatz)'의 표현력 (Expressiveness) 에 의존하며, 물리적으로 영감을 받은 안사 (Physics-inspired ansatz) 는 깊이가 깊고 연결성이 요구되어 NISQ 하드웨어 구현이 어렵습니다.
• 기존 방법 (VQNHE) 의 한계: 이를 해결하기 위해 제안된 변분 양자 - 신경 하이브리드 고유값 솔버 (VQNHE) 는 양자 회로 출력 (비트 문자열) 을 신경망에 입력하여 추가 변환을 가하는 방식입니다. 이는 하드웨어 효율적인 안사와 결합하여 정확도를 높였으나, 다음과 같은 치명적인 결함이 발견되었습니다.
  1. 비단위성 (Non-unitary) 과 정규화 문제: 신경망 변환이 비단위적 (non-unitary) 이기 때문에, 기대값 계산 시 분모에 정규화 항이 필요합니다.
  2. 발산 (Divergence) 현상: 실제 양자 하드웨어 (유한한 샷 수, Shot-based) 에서 실행 시, 안사 회로에서 모든 $2^n$개의 비트 문자열이 샘플링되지 않으면 신경망이 분모에 없는 항을 분자에서 극단적으로 크게 만들어 손실 함수가 발산하거나, 기저 상태 에너지보다 훨씬 작은 음수 값으로 수렴하는 오류가 발생합니다.
  3. 확장성 저해: 이러한 발산을 방지하기 위해서는 양자 회로 측정 횟수 (Shots) 가 양자 비트 수 $n$에 대해 지수적으로 증가해야 하므로, 실용적인 확장성이 불가능합니다.
  4. 불완전한 수렴: 샷 수를 늘려 발산을 막더라도, 신경망 출력 값의 분산으로 인해 정확한 기저 상태 에너지에서 크게 벗어나는 부정확한 결과가 나올 수 있습니다.

2. 제안된 방법론: U-VQNHE (Methodology)

저자들은 위 문제를 해결하기 위해 단위 변분 양자 - 신경 하이브리드 고유값 솔버 (Unitary-VQNHE, U-VQNHE) 를 제안합니다.

• 핵심 아이디어: 신경망이 수행하는 변환을 단위 변환 (Unitary Transformation) 으로 제한합니다.
  • 기존 VQNHE 의 변환: $f_\phi(s)$ (실수 값, 비단위성)
  • 제안된 U-VQNHE 의 변환: $e^{ig_\phi(s)}$ (복소수 위상, 단위성)
  • 여기서 $g_\phi(s)$ 는 신경망의 출력 (실수) 입니다.
• 수학적 구조:
  • 변환된 상태 $|\psi_u\rangle = \sum_s e^{ig_\phi(s)} |s\rangle \langle s | \psi \rangle$는 단위 변환이므로 노름 (Norm) 이 보존됩니다.
  • 따라서 기대값 계산 시 정규화 (Normalization) 과정이 불필요해집니다.
  • Hamiltonian 의 기대값은 실수부와 허수부 측정을 통해 계산되며, 측정 회로 수는 최대 2 배 증가하지만 샷 수 (Shots) 에 대한 지수적 요구는 사라집니다.
• 측정 전략:
  • 허수부 계산을 위해 X 게이트에는 Hadamard 게이트, Y 게이트에는 $R_X(\pi/2)$ 게이트를 사용하여 기저 변환을 수행합니다.
  • 모든 비트 문자열이 샘플링되지 않아도 알고리즘이 발산하지 않도록 설계되었습니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

• 발산 문제 해결 및 정규화 제거:
  • U-VQNHE 는 신경망 출력을 위상 (Phase) 형태로 제한하여 단위성을 보장함으로써, 정규화 항이 필요 없게 만들었습니다. 이로 인해 샷 수에 대한 지수적 의존성이 제거되었고, 알고리즘이 지수적 자원을 요구하지 않게 되었습니다.
• 향상된 안정성과 정확도:
  • 시뮬레이션 결과 (5- 사이트 및 12- 사이트 TFIM 모델), U-VQNHE 는 유한한 샷 수 (Shot-based sampler) 에서도 VQNHE 와 달리 기저 상태 에너지보다 낮은 비물리적인 값으로 발산하지 않았습니다.
  • VQNHE 는 샷 수가 부족할 때나 신경망 출력 값이 클 때 큰 분산을 보였으나, U-VQNHE 는 신경망 출력의 절대값을 1 로 제한함으로써 분산 (Variance) 을 크게 줄이고 정확한 기저 상태 에너지에 수렴했습니다.
• 확장성 확보:
  • 제안된 알고리즘은 계산 자원 (양자 회로 수) 과 측정 횟수 (Shots) 모두에 대해 다항식 (Polynomial) 스케일로 확장 가능함을 입증했습니다.

4. 논의 및 의의 (Discussion & Significance)

• NISQ 하드웨어 적합성: U-VQNHE 는 현재의 제한된 양자 하드웨어 (유한한 샷 수, 노이즈) 환경에서 VQE 의 표현력을 향상시키면서도 실용적인 확장성을 제공합니다.
• 타 알고리즘과의 비교:
  • 비단위 변환을 사용하는 다른 알고리즘들 (nu-VQE, JQC 등) 은 Jastrow 인자 등을 사용하지만, 이는 많은 양자 회로 평가 ($O(n^4)$ 이상) 를 요구하거나 여전히 정규화 문제로 인해 지수적 샷 수가 필요할 수 있습니다.
  • CVQE(Cascaded VQE) 는 U-VQNHE 와 유사한 구조를 가지지만, 분모의 정규화 문제로 인해 여전히 지수적 샷 수가 필요할 수 있다고 분석되었습니다.
  • 반면, U-VQNHE 는 최소한의 양자 회로 오버헤드와 다항식 샷 수로 최적의 효율성을 보입니다.
• 미래 전망: U-VQNHE 는 단순한 안사 구조로도 복잡한 Hamiltonian 의 기저 상태를 추정할 수 있게 하여, 근미래의 양자 우위 (Quantum Advantage) 달성에 기여할 잠재력을 가집니다.

요약

이 논문은 기존 VQNHE 의 비단위성으로 인한 정규화 필요성과 이로引发的 지수적 샷 수 요구라는 치명적인 확장성 병목 현상을 규명하고, 이를 해결하기 위해 신경망 변환을 단위 변환 (Unitary) 으로 재설계한 U-VQNHE를 제안했습니다. U-VQNHE 는 정규화 불필요, 발산 방지, 분산 감소 등을 통해 확장 가능하고 안정적인 양자 - 신경 하이브리드 알고리즘을 실현하였으며, NISQ 시대의 기저 상태 추정 문제에 대한 실용적인 해결책을 제시했습니다.