Gate Freezing Method for Gradient-Free Variational Quantum Algorithms in Circuit Optimization

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 파라미터화 양자 회로 (PQC) 는 양자 화학, 조합 최적화, 양자 머신러닝 등 다양한 분야에서 변분 양자 알고리즘 (VQA) 의 핵심 구성 요소로 사용됩니다.
• 문제점: 실제 양자 하드웨어 (NISQ 장치) 에서 PQC 를 최적화할 때는 다음과 같은 장애물이 존재합니다.
  • 잡음 및 디코히어런스: 하드웨어의 불완전성으로 인해 최적화 정확도가 떨어집니다.
  • 황량한 대지 (Barren Plateaus): 깊은 회로에서 기울기 (Gradient) 가 지수적으로 사라져 최적화가 불가능해지는 현상입니다.
  • 자원 비효율성: 기존 무기울기 (Gradient-Free) 최적화 알고리즘 (Rotosolve, Fraxis, FQS) 은 모든 게이트를 매번 반복적으로 최적화하여 계산 자원을 낭비합니다. 실제로는 몇 번의 반복 후 대부분의 파라미터가 거의 변하지 않는 상태에 도달하지만, 알고리즘은 이를 인지하지 못하고 계속 계산합니다.
• 목표: 본 논문은 barren plateau 를 해결하는 것이 아니라, 기존 무기울기 최적화 알고리즘 내에서 계산 자원을 더 효율적으로 배분하여 수렴 속도와 성능을 개선하는 방법을 제안합니다.

2. 제안된 방법론 (Methodology)

저자들은 딥러닝의 '레이어 프리징 (Layer Freezing)' 및 '파인튜닝 (Fine-tuning)' 개념을 양자 회로 최적화에 적용하여 게이트 프리징 (Gate Freezing) 기법을 개발했습니다.

A. 핵심 아이디어

최적화 과정의 초기 몇 번의 반복 후, PQC 내의 많은 파라미터 (각도 또는 단위 벡터) 가 이전 반복에서 현재 반복으로 변하는 양이 매우 작아지는 현상을 관찰했습니다. 이를 바탕으로 **변화가 미미한 게이트는 일정 기간 '동결 (Freeze)'**시켜 최적화에서 제외하고, 상대적으로 변화가 큰 게이트에 집중함으로써 자원을 절약합니다.

B. 동결 조건 및 거리 측정 (Freezing Threshold & Distance Metrics)

게이트를 동결할지 결정하기 위해 이전 파라미터와 현재 파라미터 간의 거리 ($D$) 를 계산하고, 임계값 ($T$) 과 비교합니다.

1. 파라미터 기반 거리 (Parameter-based Distance):
   • Rotosolve: 각도 $\theta$의 차이 (주기적 경계 조건 고려).
   • Fraxis & FQS: 3 차원/4 차원 단위 구면 (Spherical surface) 상의 대호 (Great arc) 거리 또는 쿼터니언 간 거리.
2. 행렬 노름 기반 거리 (Matrix Norm Distance):
   • 게이트를 유니터리 행렬 ($U, V \in SU(2)$) 로 간주하여 **프로베니우스 노름 (Frobenius norm)**을 사용하여 행렬 수준의 거리를 측정합니다.
   • 식: $D(U, V) = \sqrt{4 - 2 \cdot |\text{Tr}(U^\dagger V)|}$ (전역 위상 불변성 고려).
   • 이 방법은 특정 게이트 파라미터에 국한되지 않아 $n$-큐비트 게이트로 확장 가능합니다.

C. 동결 알고리즘

1. 고정 동결 (Fixed Freezing): 거리 $D < T$이면 해당 게이트를 $\kappa$회 동안 동결합니다.
2. 증분 동결 (Incremental Freezing): 게이트가 동결될 때마다 동결 횟수 $\kappa_d$를 1 씩 증가시킵니다. 즉, 지속적으로 변화가 적은 게이트일수록 더 긴 시간 동결되어, 최적화 자원이 잘 최적화되지 않은 (변화가 큰) 게이트로 재배분됩니다.

3. 주요 기여 (Key Contributions)

• 새로운 최적화 전략: 기존 무기울기 최적화기 (Rotosolve, Fraxis, FQS) 에 게이트 프리징 메커니즘을 통합하여 자원 할당을 최적화했습니다.
• 이중 거리 측정법: 단순 파라미터 차이뿐만 아니라, 행렬 노름을 이용한 보다 일반화된 게이트 변화 측정 방식을 제시했습니다.
• 동적 자원 할당: '증분 동결' 알고리즘을 통해 게이트의 최적화 난이도에 따라 동결 시간을 자동으로 조절하는 적응형 메커니즘을 제안했습니다.
• 광범위한 실험 검증: 다양한 모델 (Heisenberg, Fermi-Hubbard), 다양한 큐비트 수 (5~9 큐비트), 다양한 회로 깊이 (얕은 회로 ~ 깊은 회로), 그리고 샷 노이즈 (Shot noise) 환경에서의 성능을 검증했습니다.

4. 실험 결과 (Results)

• 성능 향상:
  • Rotosolve 및 Fraxis: 게이트 프리징 방법을 적용했을 때 기존 베이스 버전 대비 수렴 속도가 크게 향상되었고, 최종 오차 (Ground state energy error) 가 감소했습니다. 특히 증분 동결 방식이 가장 효과적이었습니다.
  • FQS: 개선 효과는 Rotosolve/Fraxis 보다는 작았으나, 특정 조건 (예: Fermi-Hubbard 모델) 에서 유의미한 향상을 보였습니다.
• 임계값 ($T$) 및 동결 횟수 ($\kappa$) 의 영향:
  • 너무 낮은 임계값은 동결이 너무 일찍 발생하여 최적화를 방해할 수 있고, 너무 높은 임계값은 동결 효과가 미미합니다. 실험을 통해 각 최적화기에 적합한 최적의 $T$ 값을 도출했습니다.
  • 증분 동결은 고정된 $\kappa$보다 더 일관된 성능 향상을 보여주었습니다.
• 심층 회로 (Deep PQC) 및 잡음 환경:
  • 샷 노이즈 (Shot Noise): 1024 및 4096 샷을 사용한 시뮬레이션에서 얕은 회로 (Shallow PQC) 에서는 프리징이 성능을 개선했으나, 깊은 회로에서는 샷 노이즈로 인한 통계적 변동이 커져 개선 효과가 감소하거나 사라졌습니다. 이는 깊은 회로의 최적화 난이도 (Barren Plateau 관련) 와 관련이 있습니다.
  • 확장성 (Scalability): 6~9 큐비트 시스템으로 확장 실험 시, 증분 동결을 적용한 Rotosolve 가 베이스 버전보다 더 낮은 상대 오차를 보이며 확장성을 입증했습니다.
• 게이트 동결 패턴 분석:
  • 분석 결과, 마지막 레이어의 중앙 큐비트 게이트들이 가장 오랫동안 동결되는 경향이 있었습니다. 이는 회로 구조 (Ansatz) 와 최적화 순서에 기인한 것으로 보이며, 향후 최적화 순서 설계에 중요한 통찰을 제공합니다.

5. 의의 및 결론 (Significance & Conclusion)

• 자원 효율성 증대: 이 연구는 VQA 의 실행 비용을 줄이고 수렴 속도를 높일 수 있는 실용적인 방법을 제시합니다. 특히 NISQ 시대의 제한된 양자 자원 (양자 게이트 실행 횟수, 측정 횟수) 을 효율적으로 활용하는 데 기여합니다.
• Barren Plateau 해결이 아님: 이 방법은 barren plateau 를 해결하거나 회피하는 것이 아니라, 이미 존재하는 최적화기 내에서 자원을 재배분하여 성능을 극대화하는 것에 초점을 맞춥니다.
• 확장 가능성: 제안된 행렬 노름 기반 방법은 임의의 $n$-큐비트 게이트에 적용 가능하며, 다른 변분 양자 알고리즘 (예: 변분 고유값 문제, 변분 시뮬레이션 등) 으로도 확장 가능합니다.
• 결론: 게이트 프리징 기법은 기존 무기울기 최적화 알고리즘의 성능을 크게 향상시킬 수 있는 유망한 접근법이며, 특히 Rotosolve 와 Fraxis 에서 그 효과가 두드러집니다.

이 논문은 양자 컴퓨팅의 실용화를 위해 알고리즘적 최적화 전략을 통해 하드웨어 제약을 우회하는 새로운 패러다임을 제시한다는 점에서 중요한 의의를 가집니다.