Improving Ground State Accuracy of Variational Quantum Eigensolvers with Soft-coded Orthogonal Subspace Representations

이 논문은 하드 코딩된 직교성 제약 대신 비용 함수에 페널티 항을 도입하여 직교성을 소프트 코딩하는 새로운 접근법을 제안함으로써, VQE 알고리즘의 회로 깊이를 줄이면서도 바닥 상태 추정 정확도를 향상시키는 방법을 제시합니다.

핵심

이 논문은 양자 컴퓨팅의 한 가지 핵심 기술인 **VQE(변분 양자 고유값 솔버)**의 정확도를 높이는 새로운 방법을 제안합니다. 어렵게 들릴 수 있지만, 비유를 통해 쉽게 설명해 드리겠습니다.

🎯 핵심 문제: "가장 낮은 골짜기 찾기"

양자 컴퓨터의 중요한 임무 중 하나는 복잡한 분자나 물질의 **가장 낮은 에너지 상태 (바닥 상태)**를 찾는 것입니다. 이를 '가장 깊은 골짜기'를 찾는 작업이라고 상상해 보세요.

기존의 표준 방법 (VQE) 은 한 명의 탐험가를 보내 골짜기를 찾게 합니다. 하지만 이 탐험가는 길을 잘못 들거나, 골짜기 옆의 작은 언덕에 멈춰서 진짜 바닥을 찾지 못할 때가 많습니다.

🚀 기존 해결책의 한계: "단단한 규칙의 덫"

연구자들은 "한 명만 보내는 것보다 **여러 명 (K 명)**을 보내서 함께 골짜기를 찾으면 더 정확하지 않을까?"라고 생각했습니다. 이를 '부분 공간 (Subspace)' 방법이라고 합니다.

하지만 기존 방법 (SSVQE, MCVQE 등) 은 탐험대원들에게 "너희는 서로 절대 겹치지 않는 길을 가야 해!"라고 아주 엄격하게 (Hard-coded) 규칙을 정해줍니다.

• 비유: 마치 5 명의 탐험가에게 "너는 A 길, 너는 B 길, 너는 C 길..."이라고 미리 정해진 길만 걷게 하는 것입니다.
• 문제점: 이 규칙이 너무 엄격해서 탐험대원들이 원하는 대로 자유롭게 움직이지 못합니다. 결과적으로 깊은 골짜기를 찾지 못하고 얕은 곳에 멈추는 경우가 많았습니다. 또한, 이 규칙을 지키기 위해 탐험대원들이 걷는 길 (회로) 이 너무 길어져서, 현재 양자 컴퓨터의 기술 수준 (NISQ 시대) 에서는 소음 때문에 실패하기 쉽습니다.

💡 이 논문의 혁신: "부드러운 규칙의 자유"

이 논문은 **"규칙을 너무 딱딱하게 잡지 말고, '부드러운' 방식으로 다스려보자"**고 제안합니다.

1. 부드러운 제약 (Soft-coded Orthogonality):

   • 탐험대원들에게 "서로 겹치지 않는 길을 가라"고 명령하는 대신, **"만약 너희가 서로 너무 많이 겹치면 벌금을 내야 해"**라고 말합니다.
   • 비유: 팀원들이 서로의 길을 막지 않도록 '경고'를 주는 것입니다. 만약 겹치면 점수가 깎이지만, 완전히 길을 막지는 않습니다.
   • 장점: 탐험대원들이 더 자유롭게 움직일 수 있어, 진짜 깊은 골짜기 (정확한 바닥 상태) 를 찾을 확률이 훨씬 높아집니다.

2. 짧은 길 (Shallow Circuits):

   • 기존 방법은 규칙을 지키기 위해 길고 복잡한 회로를 사용해야 했지만, 이 새로운 방법은 훨씬 짧고 간단한 회로로도 높은 정확도를 달성합니다.
   • 비유: 긴 고생길 대신, 짧은 지름길을 통해 목적지에 더 빨리, 더 정확하게 도착하는 것입니다. 현재 양자 컴퓨터는 '지루함 (소음)'에 약하기 때문에, 이 짧은 길이 매우 중요합니다.

📊 실험 결과: "왜 이 방법이 더 좋은가?"

연구진은 두 가지 복잡한 시나리오 (Ising 모델과 스핀 글라스 모델) 에서 이 방법을 테스트했습니다.

• 기존 방법 (단단한 규칙): 탐험대원들이 서로 겹치지 않게 하려고 애썼지만, 오히려 골짜기 옆의 작은 언덕에 멈추는 경우가 많았습니다. (정확도 70~80% 수준)
• 새로운 방법 (부드러운 규칙): 탐험대원들이 자유롭게 움직이며 서로의 위치를 조정했습니다. 그 결과, 95% 이상의 높은 정확도로 진짜 깊은 골짜기를 찾아냈습니다.
• 특이점: 기존 방법은 탐험대원 수를 늘려도 정확도가 크게 오르지 않았지만, 새로운 방법은 단 2 명만 보내도 기존 방법보다 훨씬 좋은 결과를 냈습니다.

🌟 결론: 양자 컴퓨팅의 새로운 방향

이 논문은 **"양자 컴퓨터가 가진 소음 (Decoherence) 문제를 해결하려면, 너무 복잡한 규칙을 강요하기보다 유연하게 접근해야 한다"**는 것을 보여줍니다.

• 간단한 말로: "너무 빡빡하게 통제하면 오히려 실수가 많아진다. 약간의 유연성 (부드러운 규칙) 을 주면, 적은 노력 (짧은 회로) 으로 더 좋은 결과를 얻을 수 있다."

이 방법은 현재 양자 컴퓨터가 가진 기술적 한계 (소음, 짧은 수명) 를 극복하고, 더 정확한 화학 반응 시뮬레이션이나 신약 개발 등에 양자 컴퓨터를 적용하는 데 큰 도움이 될 것으로 기대됩니다.

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 변분 양자 고유값 솔버 (VQE) 는 현재 잡음이 있는 중규모 양자 (NISQ) 시대에 양자 시스템의 바닥 상태 (Ground State) 를 찾는 데 가장 유망한 알고리즘 중 하나입니다.
• 기존 방법의 한계:
  • 표준 VQE: 단일 매개변수화된 회로 (Ansatz) 를 사용하여 기대값을 최소화합니다. 그러나 표현력 (Expressibility) 부족으로 인해 최적화 과정에서 바닥 상태와의 겹침 (Overlap) 이 비단조적으로 변하거나 수렴하지 못하는 문제가 발생합니다.
  • 부분공간 기반 방법 (SSVQE, MCVQE): 여러 개의 매개변수화된 상태를 사용하여 저에너지 부분공간을 탐색합니다. 기존 방법들 (SSVQE, MCVQE) 은 회로 구조 수준에서 상태 간의 **직교성 (Orthogonality) 을 하드 코딩 (Hard-coded)**하여 강제합니다. 이는 회로의 깊이를 증가시키고, NISQ 장치의 결맞음 시간 (Coherence time) 제한으로 인해 실제 구현에 어려움을 줍니다.
• 핵심 문제: 하드 코딩된 직교성 제약은 회로 깊이를 불필요하게 깊게 만들어 NISQ 환경에서 정확도를 저하시키며, 최적화 과정에서 바닥 상태로의 수렴을 방해할 수 있습니다.

2. 제안된 방법론 (Methodology)

저자들은 **소프트 코딩된 직교 부분공간 표현 (Soft-coded Orthogonal Subspace Representations)**을 제안합니다.

• 핵심 아이디어: 상태 간의 직교성을 회로 구조로 강제하는 대신, 비용 함수 (Cost Function) 에 페널티 항 (Penalty Term) 을 추가하여 간접적으로 (소프트하게) 직교성을 유도합니다.
• 구체적 구현:
  • 하드 코딩 (Hard-coded): $K$개의 초기 직교 상태 $\{|φ_p⟩\}$에 동일한 회로 $U(θ)$를 적용하여 $|ψ_p⟩ = U(θ)|φ_p⟩$를 생성합니다. 직교성은 회로 설계에 의해 보장됩니다.
  • 소프트 코딩 (Soft-coded): $K$개의 초기 상태가 모두 $|0⟩$이며, 각 상태마다 서로 다른 독립적인 매개변수 세트 $\{θ^{(p)}\}$를 가진 독립적인 회로 $U_p(θ^{(p)})$를 적용합니다. 즉, $|ψ_p⟩ = U_p(θ^{(p)})|0⟩$.
  • 비용 함수:
    $$C_K(θ) = \sum_{p=0}^{K-1} \langle ψ_p | H | ψ_p \rangle + \beta \sum_{p<q} |\langle ψ_q | ψ_p \rangle|^2$$
    여기서 첫 번째 항은 부분공간의 평균 에너지, 두 번째 항은 상태 간의 중첩을 억제하는 페널티 항 ($\beta > 0$) 입니다.
• 최종 해 구하기: 최적화가 수렴한 후, 부분공간에 제한된 해밀토니안의 행렬 요소를 계산하고 (소프트 코딩의 경우 겹침 행렬 $S_{pq}$도 추정), 고전 컴퓨터에서 **일반화된 고유값 문제 (Generalized Eigenvalue Problem, $Hc = \lambda Sc$)**를 풀어 바닥 상태 에너지를 추정합니다.
• 가정:
  1. 해밀토니안의 대칭성이나 사전 정보를 Ansatz 에 주입하지 않음 (Agnostic).
  2. 최적화 과정에서 Ansatz 의 구조 (회로 깊이, 차원) 는 고정됨.

3. 주요 기여 (Key Contributions)

1. 새로운 부분공간 표현 방식: 직교성을 회로가 아닌 비용 함수의 페널티로 처리하여, **더 얕은 회로 (Shallow Circuits)**로도 높은 정확도를 달성할 수 있음을 증명했습니다.
2. 표현력 (Expressibility) 향상: 독립적인 매개변수를 가진 여러 회로의 선형 결합은 단일 회로보다 더 풍부한 상태 공간을 탐색할 수 있게 하여, 바닥 상태에 대한 더 나은 근사를 가능하게 합니다.
3. 비단조적 수렴 문제 해결: 기존 VQE 및 하드 코딩 방식에서 관찰되는 최적화 중 신뢰도 (Fidelity) 의 비단조적 감소 (Underfitting 현상) 를 소프트 코딩 방식이 효과적으로 완화함을 보였습니다.

4. 실험 결과 (Results)

두 가지 벤치마크 모델 (3x3 횡장 이징 모델, 4x4 에드워즈 - 앤더슨 스핀 글래스 모델) 에 대해 고전 시뮬레이션을 수행했습니다.

• 정확도 (Fidelity):
  • TFI 모델: 소프트 코딩 방식은 95% 이상의 높은 신뢰도 (Fidelity) 를 달성한 반면, 표준 VQE 는 약 76%, 하드 코딩 방식은 약 80% 수준에 머물렀습니다.
  • EA 모델 (스핀 글래스): 무질서한 결합 상수를 가진 더 복잡한 모델에서도 소프트 코딩 방식이 표준 VQE 와 하드 코딩 방식보다 월등히 높은 정확도를 보였습니다.
• 회로 깊이와 파라미터 수:
  • 소프트 코딩 방식은 **더 얕은 회로 (적은 레이어 수)**로도 다른 방법들보다 높은 정확도를 달성했습니다. 이는 NISQ 환경에서 결맞음 손실을 줄이는 데 매우 유리합니다.
  • 부분공간 차원 $K$를 2 로만 설정하더라도 (표준 VQE 의 $K=1$ 대비) 정확도가 크게 향상되었으며, $K$를 더 늘리는 것은 수렴 속도를 늦출 뿐 추가적인 정확도 향상을 보장하지 않았습니다.
• 상대적 이득 (Relative Gain Factor):
  • 소프트 코딩 방식은 표준 VQE 대비 평균적으로 10 배 이상 (TFI 모델의 경우) 의 신뢰도 개선 (Infidelity 감소) 을 보였습니다.
  • 하드 코딩 방식은 표준 VQE 대비 미미한 이득만 보였거나, 경우에 따라 오히려 성능이 저하되기도 했습니다.
• 수렴 행동:
  • 표준 VQE 와 하드 코딩 방식은 최적화 후반부에 바닥 상태와의 겹침이 감소하는 비단조적 행동을 보였으나, 소프트 코딩 방식은 보다 일관되고 안정적인 수렴 경향을 보였습니다.

5. 의의 및 결론 (Significance)

• NISQ 시대의 실용성: 하드 코딩된 직교성 제약으로 인한 깊은 회로 필요성을 제거함으로써, 현재 잡음이 많은 양자 하드웨어에서 더 정확하게 바닥 상태를 찾는 것을 가능하게 합니다.
• 알고리즘적 효율성: 복잡한 대칭성 분석 없이도 (Agnostic Ansatz), 단순한 페널티 항 추가만으로 부분공간 탐색의 효율성을 극대화할 수 있음을 입증했습니다.
• 미래 전망: 이 연구는 VQE 기반 알고리즘의 정확도 한계를 극복하기 위한 새로운 패러다임을 제시하며, 향후 실제 양자 하드웨어에서의 적용, 잡음에 대한 강건성 분석, 그리고 적응형 부분공간 차원 조절 등으로 확장될 수 있는 기초를 마련했습니다.

요약하자면, 이 논문은 VQE 의 정확도를 높이기 위해 상태 간의 직교성을 회로 구조가 아닌 비용 함수의 페널티로 처리하는 '소프트 코딩' 방식을 제안하였으며, 이를 통해 얕은 회로도 높은 정확도를 달성하고 기존 방법들의 수렴 불안정성을 해결할 수 있음을 수치적으로 증명했습니다.