Expressibility, Noise, and Error Mitigation in VQE Ansatz Selection

본 연구는 표준적인 표현 가능성(expressibility)이 이상적이고 영노이즈 외삽(zero-noise extrapolation) 조건하에서의 변분 양자 고유치 솔버(Variational Quantum Eigensolver) 성능은 예측할 수 있는 반면, 실제적인 노이즈나 확률적 오류 제거(probabilistic error cancellation) 조건하에서는 이를 예측하는 데 실패하며, 따라서 오류 완화 결과를 예측하기 위해 게이트 수와 같이 계산 효율적인 토폴로지 지표를 사용할 필요가 있음을 입증한다.

핵심

당신이 완벽한 초콜릿 케이크를 구우려고 노력 중이라고 상상해 보세요 (분자의 최저 에너지 상태를 찾는 것). 그런데 아주 새롭고 약간 결함이 있는 오븐(근사 양자 컴퓨터)을 사용하고 있습니다. 당신은 다양한 재료를 섞는 방법이 가득 담긴 레시피 북을 가지고 있습니다 (이것들은 "안자츠 회로(ansatz circuits)"라고 불립니다). 핵심적인 질문은 이것입니다: 오븐을 켜기도 전에 어떻게 가장 좋은 레시피를 고를 것인가?

한동안 과학자들은 **표현력(Expressibility)**이라는 마법의 자를 가지고 있다고 생각했습니다. 이 자는 레시피가 얼마나 "유연한지"를 측정했습니다. 본질적으로는 만약 오븐이 완벽하다면 그 레시피가 이론적으로 만들어낼 수 있는 얼마나 다양한 케이크 질감을 가질 수 있는지를 측정하는 것입니다. 아이디어는 이랬습니다: "레시피가 더 유연할수록, 더 좋은 케이크를 만들 수 있다."

하지만 이 논문(Annis, Kassem, Coleman 저)은 마치 실제 소음이 발생하는 주방에서 이 자를 테스트하기로 결정한 제빵사들의 이야기와 같습니다. 그들은 이 자가 우리가 기대했던 방식대로 작동하지 않는다는 것을 발견했고, 자가 다시 작동하게 만들기 위해 몇 가지 "수정 도구"들을 테스트했습니다.

그들이 발견한 내용을 쉬운 개념으로 나누어 설명하면 다음과 같습니다:

1. "마법의 자"가 소음이 있는 주방에서는 망가집니다

완벽한 세상(이상적인 시뮬레이션)에서는 "표현력"이라는 자가 어떤 레시피가 효과적일지 예측하는 데 괜찮았습니다. 하지만 실제 소음이 있는 주방(오류가 있는 실제 양자 컴퓨터를 시뮬레이션함)에서는 이 자가 더 이상 말이 되지 않았습니다.

• 비유: 두 가지 레시피가 있다고 상상해 보세요. 레시피 A는 매우 복잡하고 유연하며(높은 표현력), 레시피 B는 단순합니다. 완벽한 주방에서는 레시피 A가 승리합니다. 하지만 오븐이 깜빡거리고 믹서기가 흔들리는 소음이 있는 주방에서는, 복잡한 레시피 A는 망가지고 단순한 레시피 B가 실제로 더 맛있는 케이크가 됩니다.
• 발견: 완벽한 세상에서의 "최고" 레시피가 소음이 있는 세상에서는 "최악"의 레시피가 될 수 있습니다. 레시피의 순위가 완전히 뒤바뀌어 버립니다.

2. "수정 도구"들이 기대만큼 작동하지 않았습니다

과학자들은 주방의 소음을 해결하기 위해 두 가지 주요 도구를 개발했습니다:

• ZNE (Zero-Noise Extrapolation, 제로 노이즈 외삽법): 이것은 케이크를 100%, 150%, 200% 열로 구운 다음, 수학적으로 0% 열(완벽한 조건)일 때 케이크가 어떤 맛이 날지 추측하는 것과 같습니다.
• PEC (Probabilistic Error Cancellation, 확률적 오류 제거): 이것은 오븐의 결함을 상쇄하기 위해 반죽에 특별한 "안티 노이즈(anti-noise)" 재료를 넣는 것과 같습니다. 이를 위해서는 많은 추가 수학 계산과 베이킹 시도가 필요합니다.

결과:

• ZNE는 복불복이었습니다: 일부 레시피(수소 분자에 대해 12개 중 4개)에는 도움이 되었지만, 다른 레시피들은 오히려 더 나쁘게 만들었습니다. ZNE가 "표현력" 자를 다시 작동하게 만들어 마법처럼 해결해주지는 못했습니다.
• PEC는 재앙이었습니다: 그들이 시도한 거의 모든 레시피에서, "안티 노이즈" 재료를 추가하는 것이 케이크를 더 맛없게 만들었습니다. 이는 오류를 크게 증가시켰습니다. PEC가 도움이 된 유일한 경우는 이미 너무 형편없어서 케이크를 아예 구울 수조차 없었던 레시피였는데, 그 추가적인 수학 계산이 어떻게든 제대로 된 케이크를 찾을 수 있는 길을 찾아준 경우였습니다. 하지만 이는 매우 드문 예외입니다.

3. "단순한 개수 세기"가 "마법의 자"보다 낫습니다

"표현력" 자가 실패했기 때문에, 저자들은 어떤 레시피가 작동할지 예측할 수 있는 더 단순한 방법을 찾았습니다. 그들은 두 가지 재료를 섞는 횟수(2-qubit gate)를 세는 것이 놀라울 정도로 좋은 예측 지표라는 것을 발견했습니다.

• 비유: 레시피의 이론적인 유연성을 측정하는 대신, 그들은 단순히 믹서가 몇 번 돌아갔는지를 셌습니다. 그들은 믹서가 더 많이 돌아갈수록 노이즈가 케이크를 망칠 가능성이 높다는 것을 발견했습니다.
• 발견: PEC를 사용하는 경우, 단순히 섞는 횟수를 세는 것만으로도 실패를 거의 완벽하게 예측할 수 있었습니다. 만약 레시피에 너무 많은 섞기 과정이 있다면, PEC는 이를 망가뜨릴 것이었습니다. 다른 조건에서도, 단순한 개수 세기는 복잡한 자만큼이나 혹은 그보다 더 나은 성능을 보였습니다.

4. "노이즈가 섞인 자"는 사용하기에 너무 비쌉니다

저자들은 노이즈를 고려하여 만든 새로운 버전의 자("Noisy Expressibility")를 시도했습니다.

• 발견: 이 새로운 자는 그들이 테스트한 작은 분자들에 대해서는 결과를 매우 잘 예측했습니다. 하지만, 이 자를 계산하려면 모든 노이즈가 섞인 전체 주방을 시뮬레이션해야 하는데, 이는 재료가 하나씩 늘어날 때마다 기하급급수적으로 어려워지는 퍼즐을 푸는 것과 같습니다.
• 함정: 더 큰 분자(리튬 수소화물 등)의 경우, 이 "노이즈가 섞인 자"를 계산하는 것은 계산 비용이 너무 커서 사실상 불가능합니다. 이는 연회용 완벽한 케이크 레시피를 계산하기 위해 밀가루 한 알 한 알의 모든 입자를 시뮬레이션하는 것과 같으며, 계산을 끝내기도 전에 시간과 컴퓨터 자원이 바닥나 버립니다.

5. 대규모 시스템에서의 "유연성" 함정

마지막으로, 그들은 더 큰 분자(12~14 큐비트)를 살펴보았습니다. 그들은 레시피가 커짐에 따라 "표현력" 자 위에서 모든 레시피가 비슷해 보이기 시작한다는 것을 발견했습니다.

• 비유: 당신에게 작은 레고 세트와 거대한 레고 성이 있다고 상상해 보세요. 자는 성이 "무한히 유연하다"고 말합니다. 하지만 성이 너무 크고 복잡하기 때문에, 그것이 무너지지 않고 완성되는 것은 불가능합니다. 자는 좋은 큰 성과 나쁜 큰 성을 구분하지 못하게 되는데, 왜냐하면 종이 위에서는 둘 다 똑같이 "유연해" 보이기 때문입니다.
• 발견: 자는 큰 시스템에서 더 이상 유용하지 않습니다. 왜냐하면 더 이상 좋은 디자인과 나쁜 디자인을 구별할 수 없기 때문입니다.

제빵사를 위한 결론

노이즈가 있는 양자 컴퓨터를 위한 레시피(안자츠)를 고르려 한다면:

1. "표현력" 자에만 의존하지 마세요. 노이즈가 있는 환경에서는 종종 거짓말을 합니다.
2. "수정 도구"(특히 PEC)가 나쁜 레시피를 구해줄 것이라 기대하지 마세요. 오히려 상황을 악화시킬 수 있습니다.
3. 섞는 횟수를 세세요: 성공을 예측하는 가장 단순한 방법은 복잡한 단계(2-qubit gate)가 적은 레시피를 찾는 것입니다.
4. 단순함을 유지하세요: 현재로서는 가장 좋은 전략은 먼저 너무 복잡한 레시피를 걸러낸 다음, 남은 단순한 레시피들 중에서 최고의 것을 고르기 위해 표준 자를 사용하는 것입니다.

이 논문은 모든 것에 통용되는 단 하나의 "마법 같은 지표"는 없다고 결론짓습니다. 가장 좋은 접근법은 실용적이고 단계적인 전략입니다: 먼저, 노이즈가 있는 하드웨어에 너무 복잡한 회로를 피하고, 그다음에는 단순하고 계산하기 쉬운 지표를 사용하여 최종 선택을 내리는 것입니다.

기술 요약

기술 요약: VQE 안사츠(Ansatz) 선택에서의 표현력, 노이즈 및 오차 완화

문제 정의

변분 양자 고유치 계산기(Variational Quantum Eigensolver, VQE)는 근미래 양자 화학을 위한 선도적인 알고리즘이지만, 최적의 안사츠 회로를 선택하는 것은 여전히 중대한 과제이다. 회로가 힐베르트 공간을 균등하게 샘플링하는 능력을 정량화하는 지표인 "표현력(expressibility)"이 안사츠 선택의 가이드로서 제안되어 왔으나, 최근 Saib 등의 연구는 실제 노이즈 조건 하의 수소 분자($H_2$)에 대해 표현력이 VQE 성능을 예측하는 데 실패함을 입증했다. 또한, 현대적인 양자 오차 완화(Quantum Error Mitigation, QEM) 기술, 구체적으로 제로 노이즈 외삽법(Zero-Noise Extrapolation, ZNE)과 확률적 오차 상쇄(Probabilistic Error Cancellation, PEC)가 표현력의 예측력을 복구할 수 있는지, 아니면 회로의 특성과 성능 사이의 새로운 의존성을 유발하는지는 여전히 불분명하다.

방법론

저자들은 네 가지 분자($H_2$ [4 큐비트, 12개 회로], $H_3^+$ [6 큐비트, 6개 회로], $LiH$[12 큐비트, 4개 회로],$BeH_2$ [14 큐비트, 2개 회로])를 대상으로 체계적인 조사를 수행하였다. 연구에는 다양한 단일 큐비트 회전, 2-큐비트 게이트 유형(CNOT, CZ), 그리고 얽힘 패턴을 가진 24개의 하드웨어 효율적 안사츠 회로가 사용되었다.

실험은 세 가지 뚜렷한 노이즈 모델을 사용하여 Qiskit Aer에서 시뮬레이션되었다:

1. COMBINED: Saib 등의 방법론과 일치하는 탈분극 오차(depolarizing error)와 열적 이완(thermal relaxation)의 결합.
2. DEPOL: 순수 탈분극 오차.
3. AMPLITUDE_DAMPING: 순수 진폭 감쇠(amplitude damping).

각 회로에 대해 네 가지 실행 시나리오가 평가되었다:

• Ideal (이상적): 노이즈가 없는 시뮬레이션.
• Noisy (노이즈 존재): 노이즈가 포함된 시뮬레이션, 완화 없음.
• Noisy + ZNE: 노이즈 스케일링 인자 $\{1.0, 1.5, 2.0\}$를 사용하는 리처드슨 외삽법(Richardson extrapolation)을 이용한 후처리.
• Noisy + PEC: 탈분극 노이즈 표현을 사용하는 준확률 샘플링(quasi-probability sampling)을 이용한 후처리.

성능은 에너지 오차($\Delta E = |E_{VQE} - E_{exact}|$)로 정량화되었다. 연구는 표준 표현력(이상적 상태 벡터 시뮬레이션을 통해 계산됨)을 밀도 행렬 시뮬레이션을 통해 계산된 노이즈 표현력과 비교하였으며, 이를 2-큐비트 게이트 수, 회로 깊이, 예상 충실도(infidelity)를 포함한 제로 비용 토폴로지 메트릭과 비교하였다.

주요 기여 및 결과

1. 순위 불안정성 및 완화 효능

본 연구는 노이즈 하에서 회로 순위가 뒤섞인다는 Saib 등의 발견을 재현하였다. 이상적 순위와 노이즈가 있는 순위 사이의 스피어만 서열 상관계수는 미미하였다 ($\rho \approx -0.1$ for $H_2$).

• ZNE: 노이즈가 있는 순위를 보존하지만 ($\rho = +0.80$ for $H_2$), 일관되지 않은 오차 감소를 제공한다. 이는 12개의 $H_2$ 회로 중 4개, 6개의 $H_3^+$ 회로 중 4개에 대해서만 오차를 감소시켰다.
• PEC: 회로 순위를 능동적으로 재배열하며 ($\rho = -0.22$ for $H_2$), 주로 성능을 저하시킨다. PEC는 12개의 $H_2$ 회로 중 11개와 6개의 $H_3^+$ 회로 전체에서 오차를 증가시켰다. 이러한 저하는 노이즈 모델 불일치가 아니라 지수적 샘플링 오버헤드($\gamma^{2N_g}$)에 의해 발생함이 순수 탈분극 노이즈 하의 절제 연구(ablation studies)를 통해 확인되었다.

2. 표현력의 예측력

• 표준 표현력 (Standard Expressibility): 모든 노이즈 모델에 대해 $H_2$의 노이즈가 있는 성능 및 ZNE 성능과 중간 내지 강한 상관관계를 보인다 ($r = +0.74$ 및 $r = +0.77$ 각각). 그러나 $H_3^+$ 또는 더 큰 분자들에 대해서는 유의미한 예측력을 보여주지 못한다.
• 노이즈 표현력 (Noisy Expressibility): 밀도 행렬 시뮬레이션을 통해 계산되며, $H_3^+$의 완화되지 않은 성능을 강력하게 예측한다 ($r = +0.91$). 그러나 저자들은 이 메트릭이 대규모에서는 계산적으로 다루기 어렵고($O(4^n)$), 상태 공간 커버리지와 노이즈로 인한 순도 손실을 이론적으로 혼동한다고 주장한다.
• 토폴로지 메트릭 (Topology Metrics): 제로 비용 메트릭, 특히 2-큐비트 게이트 수는 PEC 저하에 대해 동등하거나 더 우수한 예측력을 제공하며 ($r = +0.96$ for $H_3^+$), 노이즈 민감도에 대한 효과적인 대리 지표 역할을 한다.

3. 확장성 한계

$LiH$(12 큐비트) 및$BeH_2$ (14 큐비트)에 대한 예비 확장 연구에서, 표준 표현력 값은 회로가 2-디자인(2-designs)에 접근함에 따라 0으로 붕괴되었다. 이러한 "표현력 붕족(expressibility collapse)"은 모든 회로가 서로 다른 VQE 성능을 보임에도 불구하고 모두 동일하게 표현력이 높은 것처럼 보이게 만들어, 메트릭의 변별력을 상실시킨다. 또한, 이러한 더 큰 시스템에 대한 노이즈 시뮬레이션은 계산적으로 불가능한 것으로 간주되었다.

의의 및 주장

본 논문은 "오차 완화가 표현력을 보편적인 안사츠 선택 메트릭으로 복구한다"는 가설이 지지되지 않는다는 점을 주장한다. 대신 저자들은 다음을 확립한다:

1. 완화는 조건 의존적이다: QEM 기술은 보편적으로 성능을 개선하지 않는다. PEC는 샘플링 오버헤드로 인해 성능을 저하시키는 경우가 많으며, ZNE의 성공 여부는 노이즈 모델과 회로 구조에 크게 의존한다.
2. 맥락적 예측자: 단일 메트릭이 모든 조건에서 지배적이지 않다. 표준 표현력은 노이즈 및 ZNE 조건 하의 $H_2$에 유용한 예측자이지만, 토폴로지 메트릭(게이트 수)이 PEC 저하를 예측하는 데 더 우수하다.
3. 확장성 제약: 큐비트 수가 증가함에 따라(2-디자인에 근접함에 따라) 표현력의 변별력이 상실되며, 노이즈 표현력은 약 10 큐비트를 넘어서면 계산적으로 불가능해진다.

저자들은 실무자를 위해 계층적 전략이 가장 효과적이라고 결론짓는다: 먼저 게이트 수를 통해 노이즈에 취약한 후보를 걸러낸 다음, 남은 옵션들의 순위를 매기기 위해 표준 표현력을 사용하는 것이다. 이 연구는 표현력이 오차와 상관관계가 있지만, 종종 순수한 표현 능력보다는 노이즈 축적의 대리 지표 역할을 한다는 점을 강조하며, NISQ 시대의 안사츠 선택을 위해 단순한 토폴로지 메트릭이 더 실용적인 선택임을 시사한다.