Local minima in quantum systems

물리적 세계에서 자연은 끊임없이 최적화를 수행하는 존재입니다. 뜨거운 물체가 식을 때, 그것은 가능한 가장 낮은 에너지 상태, 즉 물리학자들이 바닥 상태(ground state)라고 부르는 조건을 향해 나아갑니다. 이 과정은 물질이 어떻게 형성되는지, 화학 반응이 어떻게 일어나는지, 그리고 우주가 어떻게 안정 상태로 정착하는지를 이해하는 데 근본적인 역할을 합니다. 수십 년 동안 과학자들은 컴퓨터를 사용하여 많은 상호작용 입자로 구성된 복잡한 시스템(예: 신소재의 전자나 단백질의 원자)의 이러한 최저 에너지 상태를 예측하려고 노력해 왔습니다. 그러나 이러한 시스템에서 절대적인 최저점을 찾는 것은 매우 어렵습니다. 이 문제는 너무나 어려워서 우리가 현재 사용하는 가장 강력한 고전 컴퓨터조차도 흥미로운 많은 사례에 대해 해결하는 데 어려움을 겪습니다. 더욱이, 이론적 연구에 따르면 바닥 상태를 찾는 것은 QMA-hard하며, 이는 어떤 경우에는 양자 컴퓨터에게도 난해할 것으로 예상된다는 것을 의미합니다.

이러한 어려움은 에너지 상태의 지형이 종종 함정으로 가득 차 있기 때문에 발생합니다. 등산객이 가장 깊은 골짜기에 도달하고자 하는 산맥을 상상해 보십시오. 만약 지형이 울퉁불퉁하다면, 등산객은 멀리서 보기에는 바닥처럼 보이지만 실제로는 진정한 골짜기보다 훨씬 높은 작은 얕은 움푹한 곳에 갇힐 수 있습니다. 물리학에서 이러한 얕은 움푹한 곳을 국소 최솟값(local minima)이라고 부릅니다. 자연이 시스템을 냉각할 때, 시스템은 종종 진정한 바닥 상태를 찾는 대신 이러한 국소 최솟값에 갇히게 됩니다. 이것이 특정 자기 유리(magnetic glasses)와 같은 일부 물질들이 오랫동안 냉각 과정을 거친 후에도 이론적인 최저 에너지 상태에 도달하지 못하는 이유입니다. 대신, 그들은 최선은 아니지만 안정적인 상태에 정착하게 됩니다.

캘리포니아 공과대학교(Caltech), 구글 퀀텀 AI(Google Quantum AI), 매사추세츠 공과대학교(MIT)의 연구진은 이제 이처럼 국소 최솟값에 갇히는 현상을 조사했습니다. 그들은 다음과 같은 구체적인 질문을 던졌습니다: 만약 자연이 항상 완벽한 바닥 상태를 찾을 수 없다면, 컴퓨터는 국소 최솟값이라도 찾을 수 있는가? 그리고 만약 그렇다면, 그 작업은 고전 컴퓨터에게 더 쉬운가, 아니면 양자 컴퓨터에게 더 쉬운가? 그들의 연구는 양자 최적화의 이야기에서 놀라운 반전을 보여줍니다. 그들은 자연이 사물을 냉각하는 방식의 규칙 하에서는 국소 최솟값을 찾는 것이 고전 컴퓨터에게는 쉽지만, 양자 컴퓨터에게는 쉽고 고전 컴퓨터에게는 어려운 작업이 된다는 것을 발견했습니다.

이들의 발견을 이해하려면, 시스템이 자극되거나 섭동(perturbation)을 받는 두 가지 방식을 먼저 구분해야 합니다. 연구진은 첫 번째 유형을 고려했는데, 이는 국소 유니터리 섭동(local unitary perturbations)이라고 불리는 가역적이고 수학적인 연산을 통해 시스템을 변화시키는 것입니다. 이 시나리오에서 에너지 지형은 압도적으로 많은 국소 최솟값으로 가득 차 있습니다. 사실, 시스템의 거의 모든 무작위 상태가 국소 최솟값이 됩니다. 이러한 최솟값이 너무 많기 때문에 고전 컴퓨터는 이를 쉽게 찾을 수 있습니다. 이는 마치 모든 발걸음이 국소 최솟값이 되는 광활하고 평탄한 평원을 걷는 것과 같습니다. 이 문제는 너무 쉬워서 본질적으로 사소한 수준이지만, 이는 자연이 실제로 작동하는 방식을 반영하지는 않습니다. 왜냐하면 자연은 가역적인 수학적 트릭이 아니라 열 욕조(heat bath)와의 비가역적인 상호작용을 통해 시스템을 냉각하기 때문입니다.

연구진은 다음으로 실제 물리적 과정인 냉각을 모방하는 두 번째 유형의 섭동으로 눈을 돌렸습니다. 그들은 시스템이 특정 온도의 열 저장고인 열 욕조와 상호작용하는 모델을 만들었습니다. 이 현실적인 설정에서 시스템은 에너지를 환경으로 비가역적으로 방출하며 진화합니다. 여기서 지형은 극적으로 변합니다. 연구진은 양자 컴퓨터의 경우, 이러한 열적 조건 하에서 국소 최솟값을 찾는 것이 효율적이라는 것을 증명했습니다. 그들은 자연의 냉각 과정을 모방하는 '양자 열 경사 하강법(quantum thermal gradient descent)'이라는 방법을 개발했습니다. 에너지가 가장 가파르게 떨어지는 방향을 따라감으로써, 양자 컴퓨터는 어디에서 시작하든 합리적인 시간 내에 신뢰할지하게 국소 최솟값을 찾을 수 있습니다.

가장 중요한 발견은 고전 컴퓨터의 어려움에 관한 것입니다. 연구진은 바닥 상태가 복잡한 양자 계산의 결과를 인코딩하는 특정한 2차원 양자 시스템 군을 구축했습니다. 그들은 이러한 특정 시스템에 대해 '나쁜' 국소 최솟값이 존재하지 않음을 증명했습니다. 모든 국소 최솟값은 실제로 전역 최솟값(global minimum), 즉 바닥 상태입니다. 이는 매끄러운 그릇 모양의 에너지 지형을 만들어내며, 오직 맨 밑바닥에서만 멈추게 됩니다. 이 시스템의 바닥 상태를 찾는 것은 양자 계산이 고전 계산보다 강력하다는 가정하에 양자 컴퓨터에게는 쉽지만 고전 컴퓨터에게는 어려운 작업으로 알려져 있으므로, 연구진은 이 열적 설정에서의 국소 최솟값을 찾는 것 또한 고전 컴퓨터에게는 어렵다고 결론지었습니다. 만약 고전 컴퓨터가 여기서 국소 최솟값을 효율적으로 찾을 수 있다면, 이는 고전 컴퓨터가 모든 양자 계산을 시뮬레이션할 수 있음을 의미하며, 이는 대부분의 전문가가 거짓이라고 믿는 가능성입니다.

이 연구는 고전 기계와 양자 기계 사이의 명확한 격차를 확립합니다. 이는 고전 컴퓨터가 인공적이고 가역적인 시나리오에서는 국소 최솟값을 쉽게 찾을 수 있지만, 실제 세계를 지배하는 비가역적인 열적 과정에 직면했을 때는 한계에 부딪힌다는 것을 보여줍니다. 반면, 양자 컴퓨터는 이러한 열적 지형을 효율적으로 탐색할 수 있습니다. 이 연구는 국소 최솟값 문제가 양자 우위(quantum advantage)를 위한 새로운 경로를 제공한다는 점을 시사합니다. 완벽한 바닥 상태를 찾는 극도로 어려운 문제에 매달리는 대신, 양자 컴퓨터는 자연이 실제로 만들어내는 안정적인 저에너지 상태를 효율적으로 찾을 수 있습니다. 이는 양자 기계가 고전 기계보다 뛰어난 성능을 보일 수 있는 물리적으로 유의미한 문제를 제공하며, 이를 통해 지금까지 접근하기 어려웠던 물질 및 화학 시스템의 거동을 이해하는 데 도움을 줄 수 있습니다.

연구진은 또한 왜 어떤 시스템은 하위 최적 상태(suboptimal states)에 갇히고 다른 시스템은 그렇지 않은지도 탐구했습니다. 그들은 단순한 자기 사슬(magnetic chain)을 분석했는데, 외부 자기장이 없을 때 시스템은 도메인 벽(domain wall)을 가진 다양한 구성에 갇혀 하위 최적의 국소 최솟값 역할을 할 수 있다는 것을 발견했습니다. 그러나 강한 외부 자기장이 가해지면 이러한 함정들은 사라지고, 시스템은 진정한 바닥 상태로 매끄럽게 흐릅니다. 이는 그들이 연구한 복잡한 시스템의 행동을 반영합니다. 즉, 에너지 지형의 모양이 시스템이 최저 에너지 상태를 찾을 수 있는지, 아니면 그 상태에 머물러 있게 될지를 결정합니다. 그들의 발견은 관심 대상인 많은 물리적 시스템이 하위 최적의 함정이 없는 '좋은' 에너지 지형을 가지고 있을 수 있으며, 이는 자연의 냉각 과정을 모방하는 양자 최적화 알고리즘에 이상적인 후보가 될 수 있음을 시사합니다.

궁극적으로 이 논문은 양자 최적화의 과제를 재정의합니다. 이는 추상적인 목표인 완벽한 바닥 상태를 찾는 것에서 벗어나, 자연이 안착하는 안정적인 상태를 찾는 실질적인 현실에 초점을 맞춥니다. 이 작업이 (표준적인 복잡도 가정하에) 고전적으로는 어렵지만 양자적으로는 쉽다는 것을 증명함으로써, 연구진은 양자 컴퓨터가 우월성을 입증할 수 있는 구체적인 문제를 식별했습니다. 이것은 단순히 이론적인 호기심이 아닙니다. 이는 양자 컴퓨터가 우주가 시작 이래 사용해 온 동일한 냉각 원리를 따라, 현재는 다루기 힘든 물리 및 화학 문제를 해결할 수 있는 미래를 향한 길을 제시합니다.