Quantum Natural Gradient Optimization for Convergence Reliability in NISQ Variational Quantum Algorithms

당신이 아주 똑똑하지만 매우 서투른 로봇에게 퍼즐을 푸는 법을 가르치려 한다고 상상해 보세요. 이 로봇은 우리가 주방이나 거리에서 보는 물리 법칙과는 다른 규칙이 적용되는 '양자 영역'이라는 이상하고 흔들거리는 세상에 살고 있습니다. 과학자들은 현재의 일반적인 컴퓨터로는 불가능한 문제들, 예를 들어 새로운 약을 설계하거나 복잡한 암호를 해독하는 것과 같은 문제들을 해결하기 위해 이 로봇들, 즉 양자 컴퓨터를 만들고 있습니다. 하지만 지금 이 로봇들은 아직 '유아기' 단계에 있습니다. 즉, 크기가 작고, 쉽게 지치며, 무언가를 하려고 할 때 실수를 저지릅니다. 이 단계는 NISQ 시대(노이즈가 있는 중간 규모 양자, Noisy Intermediate-Scale Quantum)라고 불립니다.

이 로봇들을 가르치기 위해 과학자들은 '변분 양자 알고리즘(Variational Quantum Algorithm)'이라는 특별한 훈련법을 사용합니다. 이것은 수천 개의 조절 나사가 달린 거대하고 복잡한 라디오를 튜닝하는 것과 같습니다. 당신은 신호를 가장 선명하게(최적의 해답을) 만들기 위해 조절 나사(파라미터)를 돌립니다. 외부의 컴퓨터는 라디오의 신호에 귀를 기울이며 "그게 더 나아요!" 또는 "그건 더 나빠요!"라고 말하며 당신이 나사를 어느 방향으로 돌릴지 결정하도록 도와줍니다. 문제는 때때로 라디오 신호가 너무 작고 흐릿해져서 컴퓨터가 나사를 왼쪽이나 오른쪽으로 돌리는 것 사이의 차이를 듣지 못할 때가 있다는 점입니다. 그것은 마치 거대하고 평평한 안개 낀 골짜기 바닥을 찾는 것과 같아서, 모든 발걸음이 똑같이 느껴집니다. 양자 컴퓨팅의 세계에서 이 혼란스럽고 평평한 영역을 '배린 플레이토(Barren Plateau, 황량한 고원)'라고 부릅니다. 만약 훈련이 여기에 갇히게 되면, 아무리 오래 시도하더라도 로봇은 결코 해답을 배우지 못합니다.

이 논문은 그 안개 낀 골짜기를 헤쳐 나가기 위한 더 똑똑하고 새로운 방법의 가이드북입니다. 연구진은 '양자 자연 경사법(Quantum Natural Gradient, QNG)'이라고 불리는 기술을 테스트했습니다. 표준적인 훈련 방식이 조절 나사의 풍경을 평평하고 지루한 격자로 취급하는 반면, QNG는 양자 세계가 실제로는 구체의 표면처럼 곡선이고 울퉁불퉁하다는 것을 이해합니다. 이 곡률을 고려한 특별한 지도를 사용함으로써, QNG는 신호가 약할 때도 해답으로 가는 경로를 찾아낼 수 있습니다. 이 논문은 완벽한 로봇을 만들었거나 실제 기계에서 문제를 해결했다고 주장하는 것이 아닙니다. 대신, 로봇이 소음이 발생하고 실수를 할 때 이 새로운 지도가 기존의 평평한 지도보다 더 잘 작동하는지 확인하기 위해 대규모의 통제된 시뮬레이션을 실행했습니다.

핵심 발견: 노이즈가 있는 세상을 위한 더 똑똑한 나침반

이 연구의 주요 결과는 이 '곡선 지도'(QNG)를 사용하는 것이 양자 컴퓨터에 노이즈가 있을 때도 훈련 과정을 훨씬 더 신뢰할 수 있고 빠르게 만든다는 것입니다. 시뮬레이션에서 연구진은 특정 퍼즐인 'MaxCut' 문제(이는 그룹의 친구들을 두 팀으로 나누되, 팀 사이의 다툼이 가장 많이 일어나도록 하는 것과 같습니다)를 풀기 위해 4-큐비트 양자 컴퓨터를 설정했습니다. 그들은 실제 트랩 이온 및 초전도 양자 컴퓨터에서 발견되는 오류를 시뮬레이션하기 위해 세 가지 서로 다른 수준의 '노이즈' 환경에서 이 설정을 50번 테스트했습니다.

표준적인 구식 방법(바닐라 경사 하강법, Vanilla Gradient Descent)을 사용했을 때, 로봇은 30%의 확률로만 해답을 찾아냈습니다. 로봇은 너무 자주 안개 낀 골짜기에서 길을 잃었습니다. 그러나 새로운 양자 자연 경사법(QNG)으로 전환하자 성공률이 95%로 급증했습니다. 게다가 새로운 방법은 단순히 더 자주 성공할 뿐만 아니라, 훨씬 더 빠르게 작동했습니다. 평균적으로 기존 방법보다 해답에 도달하는 데 약 6배 적은 단계가 걸렸습니다. '곡선 지도'를 계산하는 데 매 단계마다 추가적인 시간과 노력이 들지만, 전체 단계 수가 훨씬 적었기 때문에 전체 과정은 실제 시간(벽시계 시간) 기준으로 약 16% 더 빨리 끝났습니다.

왜 이런 일이 발생하는가: 문제의 기하학적 구조

논문은 표준적인 방법들이 실패하는 이유를 설명합니다. 그들은 가능한 해답의 공간이 종이처럼 평평하다고 가정합니다. 이 평평한 관점에서는 신호(기울기)가 아주 작으면 로봇은 아주 작은, 쓸모없는 발걸음을 내딛고 멈춰버립니다. 하지만 실제 양자 상태 공간은 지구본의 표면처럼 곡선입니다. 때때로 평평한 지도에서는 아주 작은 신호처럼 보이는 방향이 곡선 표면에서는 매우 의미 있는 큰 변화에 해당할 수 있습니다. QNG는 '양자 피셔 정보 행렬(Quantum Fisher Information Matrix)'이라는 것을 사용하여 이 곡률을 측정합니다. 이것은 마치 스마트한 나침반처럼 작동하여 로봇에게 "여기서 신호가 약해 보이지만, 이 특정 방향으로 움직이면 실제로 큰 도약을 할 수 있다"라고 알려줍니다.

연구 또한 로봇이 왜 갇히게 되는지에 대한 다른 이유들을 면밀히 배제했습니다. 그들은 퍼즐이 설계상 너무 어렵지 않도록 확인했으며(표현력 유도형 플레이토 방지), 노이즈가 유일한 악당이 아님을 확인했습니다. 그들은 실제 양자 컴퓨터가 오류를 일으키기 때문에 발생하는 현상인 '노이즈 유도 배린 플레이토(noise-induced barren plateaus)'를 분리해 냈습니다. 결과는 QNG가 특히 이러한 노이즈 유도 오류를 물리치는 데 탁월하며, 하드웨어가 불완전할 때도 훈련이 궤도를 벗어나지 않게 유지해 준다는 것을 보여줍니다.

이 논문이 주장하는 것과 주장하지 않는 것

이 논문이 말하지 않는 내용에 주목하는 것이 중요합니다. 저자들은 실험을 실제 물리적인 양자 컴퓨터에서 수행한 것이 아니라, 양자 행동을 모사하는 소프트웨어를 사용하여 고전 컴퓨터에서 전체 과정을 시뮬레이션했습니다. 따라서 결과가 매우 유망하긴 하지만, 이는 실제 장치가 아닌 시뮬레이션에 기반한 것입니다. 또한 이 논문은 QNG가 모든 문제를 해결하거나 모든 유형의 노이즈에 작동한다고 주장하지 않습니다. 이 연구는 구체적으로 4-큐비트 시스템과 세 가지 특정 노이즈 모델에 집중했습니다.

이 연구는 표준 최적화 도구가 양자 컴퓨팅의 미래에 충분하다는 생각에 명시적으로 반대합니다. 저자들은 더 크고 노이즈가 많은 기계를 구축함에 따라 기존의 '평평한' 방법들은 더 자주 실패할 것이며, 우리는 계속 전진하기 위해 QNG와 같은 기하학을 인식하는 도구가 필요할 것이라고 제안합니다. 논문은 향-후 로드맵을 제시하며 마무리됩니다. 다음 단계는 시뮬레이션 결과가 실제 물리적 하드웨어에서도 유효한지 확인하기 위해 실제 장치에서 이 결과들을 테스트하는 것입니다. 현재로서는, 이 시뮬레이션은 우리가 서투른 양자 로봇들이 안개 속에서 길을 찾도록 가르칠 수 있다는 수학적으로 근거 있는 희망을 제공합니다.