Automated near-term quantum algorithm discovery for molecular ground states

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 양자 컴퓨팅은 특정 문제에서 고전 컴퓨터를 능가할 잠재력을 가지지만, 효율적인 양자 알고리즘 설계는 간섭, 얽힘, 중첩과 같은 양자 현상을 조작해야 하므로 매우 복잡하고 직관적이지 않습니다. 또한, 현재의 NISQ (Noisy Intermediate-Scale Quantum) 하드웨어는 노이즈와 큐비트 수의 제한으로 인해 심도 깊은 회로 실행이 어렵습니다.
• 핵심 문제: 양자 화학에서 분자의 바닥 상태 에너지 (Ground State Energy) 를 화학적 정밀도 (Chemical Precision, 약 1.6 mHa) 로 계산하는 것은 약물 개발 및 신소재 연구에 필수적이지만, 고전적인 방법 (Hartree-Fock, DFT 등) 은 강한 상관관계를 가진 시스템에서 정확도가 떨어집니다.
• 기존 접근법의 한계:
  • QPE (Quantum Phase Estimation): 이론적으로 효율적이지만, 오류 정정 (QEC) 이 필요하여 근단기 하드웨어에서는 자원 요구량이 너무 큽니다.
  • VQE (Variational Quantum Eigensolver) 및 ADAPT-VQE: 현재 가장 실용적인 근단기 알고리즘이지만, 수렴이 느리고 (Barren Plateaus 문제), 화학적 정밀도를 달성하기 위해 비현실적으로 많은 샷 (shots) 이나 회로 평가가 필요할 수 있습니다.
• 목표: AI 를 활용하여 인간이 설계한 기존 알고리즘보다 적은 양자 자원 (게이트 수, 회로 평가 횟수) 으로 화학적 정밀도를 달성할 수 있는 새로운 변분 양자 알고리즘 (VQE 스타일) 을 자동적으로 발견하는 것.

2. 방법론 (Methodology)

• Hive 플랫폼 활용: 연구팀은 Hiverge 가 개발한 Hive라는 AI 프로그램 합성 플랫폼을 사용했습니다. Hive 는 대규모 언어 모델 (LLM) 을 활용하여 분산 진화 과정을 통해 새로운 알고리즘을 발견합니다.
  • 작동 원리: LLM 이 코드를 생성하거나 수정 (패치) 하고, 이를 샌드박스 환경에서 실행하여 점수를 매깁니다. 성능이 좋은 프로그램은 데이터베이스에 저장되고, LLM 이 이를 기반으로 다음 세대의 개선을 제안하는 순환 구조를 가집니다.
• 문제 정의 및 입력:
  • 목표: 리튬 수소화물 (LiH), 물 (H2O), 플루오린 (F2) 분자의 바닥 상태 에너지를 구하는 VQE 알고리즘의 generate_ansatz() 함수를 진화시킵니다.
  • 환경: Quantinuum 의 InQuanto 라이브러리를 통해 분자 정보 (기하구조, 해밀토니안) 를 제공하고, NVIDIA CUDA-Q 를 사용하여 양자 회로 시뮬레이션을 수행합니다.
  • 제약 조건: 화학적 정밀도 달성, 회로 평가 횟수 최소화, 2-큐비트 게이트 수 최소화, 노이즈에 대한 견고성 유지.
• 진화 전략:
  • LLM 은 초기에 단순한 논리를 가진 헬퍼 함수들을 포함하는 스키레톤을 받습니다.
  • LLM 은 연산자 풀 (Operator Pool, 예: UCCSD, QEB 등) 에서 어떤 연산자를 선택할지, 순서를 어떻게 정할지, 파라미터를 어떻게 최적화할지에 대한 휴리스틱 전략을 스스로 설계합니다.
  • 해석 가능성: 생성된 알고리즘은 블랙박스 신경망이 아닌 명시적인 코드이므로, 인간이 그 작동 원리를 분석하고 이해할 수 있습니다.

3. 주요 성과 및 결과 (Key Contributions & Results)

• 화학적 정밀도 달성 및 일반화:
  • 발견된 Hive 알고리즘은 LiH, H2O, F2 분자에 대해 **화학적 정밀도 (1.6 mHa)**를 달성했습니다.
  • 알고리즘은 학습에 사용된 결합 길이 (bond lengths) 와는 다른 보이지 않는 (unseen) 결합 길이에서도 높은 정밀도를 유지하여 뛰어난 일반화 능력을 보였습니다.
• 양자 자원의 획기적 감소:
  • 회로 평가 횟수: 기존 ADAPT-VQE 및 QEB-ADAPT-VQE 알고리즘에 비해 수십 배에서 수백 배 적은 회로 평가 횟수로 정밀도에 도달했습니다.
  • 2-큐비트 게이트 수: 컴파일된 2-큐비트 게이트 수가 기존 방법보다 현저히 줄어들어, 노이즈가 많은 NISQ 장치에서 실행 가능성을 높였습니다.
• 알고리즘 메커니즘 해석 (Interpretability Study):
  • Hive 가 발견한 알고리즘의 성능 향상 요인을 5 단계 (L0~L5) 메커니즘으로 분해하여 분석했습니다:
    1. Scoring (L1): MP2 와 같은 화학적 지식을 기반으로 연산자 우선순위를 매김.
    2. Growth Control (L2): 결합 길이에 따라 적응적으로 성장 조건을 조절하고 중복 연산자를 관리.
    3. Optimisation (L3): 국소 최적화 시 파라미터 초기화 전략 개선 (Warm-start) 및 효율적인 1D 검색.
    4. Refinement (L4): 연산자 추가 후 전역 파라미터 재최적화를 통해 수렴 정밀도 향상.
    5. Compression (L5): 불필요한 게이트를 제거하고 파라미터를 이산화하여 하드웨어 비용 절감.
• 실제 하드웨어 검증 (Quantinuum H2-1):
  • 발견된 알고리즘을 Quantinuum System Model H2-1 양자 컴퓨터에서 실행했습니다.
  • LiH (12 큐비트) 분자의 경우, PMSV (Partition Measurement Symmetry Verification) 노이즈 완화 기술을 적용했을 때, 실험 결과가 FCI (Full Configuration Interaction) 기준과 3.1 mHa 차이로 화학적 정밀도 범위 내에 들어갔습니다. 이는 노이즈 환경에서도 AI 가 발견한 알고리즘이 유효함을 입증했습니다.

4. 의의 및 향후 전망 (Significance)

• AI 기반 알고리즘 발견의 패러다임 전환: 이 연구는 AI 가 단순히 기존 알고리즘을 최적화하는 것을 넘어, 인간이 설계하지 않은 새로운 휴리스틱 전략을 발견하여 양자 알고리즘 성능을 획기적으로 개선할 수 있음을 증명했습니다.
• NISQ 시대의 실용성: 제한된 하드웨어 자원과 노이즈 하에서도 화학적 정밀도를 달성할 수 있는 경량화된 알고리즘을 제공함으로써, 양자 화학의 실용적 응용 가능성을 높였습니다.
• 확장성:
  • 이 프레임워크는 화학뿐만 아니라 조합 최적화 등 다른 양자 알고리즘 영역에도 적용 가능합니다.
  • 발견된 알고리즘은 명시적인 코드 형태이므로, 향후 오류 정정 양자 컴퓨팅 (Fault-Tolerant Quantum Computing) 환경에서도 논리적 게이트 수를 최소화하는 등 특정 아키텍처에 맞춰 최적화할 수 있는 기반을 제공합니다.
• 미래 방향: AI 를 통해 양자 알고리즘의 컴파일, 라우팅, 오류 정정 디코더 등 양자 스택 전반의 설계에 적용할 수 있는 가능성을 제시했습니다.

요약

이 논문은 Hive라는 AI 플랫폼을 사용하여 LiH, H2O, F2 분자의 바닥 상태를 찾는 VQE 알고리즘을 자동 발견했습니다. 발견된 알고리즘은 기존 인간 설계 알고리즘 (ADAPT-VQE 등) 보다 회로 평가 횟수와 게이트 수를 대폭 줄이면서도 화학적 정밀도를 달성했으며, Quantinuum H2-1 양자 컴퓨터에서의 실험을 통해 노이즈 환경에서도 유효함을 입증했습니다. 이는 AI 가 복잡한 양자 알고리즘 설계 분야에서 인간을 보조하거나 대체할 수 있는 강력한 도구임을 보여주는 중요한 성과입니다.