Machine learning quantum data to accelerate quantum Monte Carlo

분자와 재료의 미시 세계에서 전자의 행동은 종종 혼란스러운 엉킴 상태에 놓여 있습니다. 전자들이 서로 강력하게 상호작용할 때, 그들은 독립적으로 행동하기를 거부하며, 이는 물질이 전기를 전도할지, 초전도체가 될지, 혹은 화학 반응을 촉매할지를 결정하는 복잡한 패턴을 만들어냅니다. 이러한 행동을 예측하는 것은 현대 과학의 가장 어려운 과제 중 하나입니다. 스마트폰부터 슈퍼컴퓨터에 이르기까지 모든 것을 구동하는 고전 컴퓨터는 이 작업에 엄청나게 어려움을 겪는데, 이는 가능한 전자의 배열 수가 너무 빠르게 증가하여 가장 강력한 기계조차 금방 압도해 버리기 때문입니다. 양자 역학의 기묘한 법칙을 사용하여 정보를 처리하는 양자 컴퓨터는 다른 길을 제시합니다. 양자 컴퓨터는 이러한 엉킨 전자 상태를 자연스럽게 표현할 수 있지만, 현재는 오류가 발생하기 쉽고 한 번에 보유할 수 있는 정보량이 제한적입니다. 이 간극을 메우기 위해 과학자들은 하이브리드 접근 방식을 개발했습니다. 양자 컴퓨터를 사용하여 전자 배열의 대략적인 스케치를 준비하고, 그다음 고전 컴퓨터를 사용하여 그 스케치를 정밀한 답으로 다듬는 방식입니다. '양자 몬테카를로(quantum Monte Carlo)'라고 알려진 이 방법은 큰 가능성을 보여주었지만, 하나의 벽에 부딪혔습니다. 양자 컴퓨터의 가공되지 않은 데이터를 고전 컴퓨터가 사용할 수 있는 형태로 변환하는 과정이 너무 느리고 비용이 많이 들어, 이 실험들을 매우 작은 시스템에만 국한시켜 왔으며, 과학자들이 가장 중요하게 여기는 더 크고 흥미로운 분자들을 다루는 것을 가로막았습니다.

연구팀은 이제 머신러닝 모델에게 양자 컴퓨터의 데이터를 직접 읽도록 가르침으로써, 느리고 반복적인 계산 과정을 우회하여 이 장벽을 깨뜨렸습니다. 최근 연구에서 그들은 이 새로운 접근 방식이 전체 과정을 수천 배 가속화할 수 있음을 입증했으며, 이를 통해 이전에는 유사한 정확도로 가능했던 것보다 두 배 이상 큰 규모인 최대 40 큐비트의 시스템을 시뮬레이션할 수 있었습니다. 구글의 윌로우(Willow) 양자 프로세서를 활용한 연구팀은 두 가지 매우 다른 과제, 즉 수소 원자의 긴 사슬과 생물학적 시스템에서 발견되는 복잡한 철-황 클러스터(iron-sulfur clusters)를 테스트했습니다. 두 경우 모두 머신러닝 모델은 압축된 측정 세트로부터 필요한 양자 중첩(quantum overlaps)을 성공적으로 예측해냈으며, 결과적으로 양자 세계와 고전 세계 사이의 빠르고 지능적인 통역사 역할을 수행했습니다. 결과는 단순히 빨랐을 뿐만 아니라, 분자가 어떻게 행동하는지를 예측하는 황금 표준인 '화학적 정확도(chemical accuracy)'에 도달할 만큼 정확했습니다. 이는 더 큰 시스템에서는 도달하기 어려웠던 이정표였습니다.

연구진이 해결한 문제의 핵심은 현재 하이브리드 양자 알고리즘이 작동하는 방식에 있습니다. 일반적인 설정에서 양자 프로세서는 전자가 배치될 가능성이 높은 수학적 기술인 '시도 파동함수(trial wavefunction)'를 준비합니다. 이 기술을 정교화하기 위해 고전 컴퓨터는 시스템을 미세하게 조정하고 확인하는 수백만 단계의 과정을 포함하는 '양자 몬테카를로' 시뮬레이션을 실행합니다. 매 단계마다 고전 컴퓨터는 현재의 상태가 양자 프로세서의 시도 파동함수와 얼마나 잘 일치하는지 알아야 합니다. 전통적으로 이를 위해서는 고전 컴퓨터가 시뮬레이션의 매 단계마다 양자 기계로부터 받은 가공되지 않은 데이터를 다시 처리해야 합니다. 시스템이 커질수록 데이터의 양은 폭발적으로 늘어나며, 이를 처리하는 데 걸리는 시간은 감당할 수 없는 수준이 됩니다. 이전의 실험들에서 이 병목 현상은 단 16 큐비트의 시스템을 시뮬레이션하는 데에도 강력한 그래픽 프로세서로 13,000시간 이상의 컴퓨팅 시간을 소요하게 만들었습니다. 이를 40 큐비트 시스템으로 확장하면 수백만 시간이 걸릴 것으로 추정되었으며, 이는 사실상 그러한 계산을 불가능하게 만들었습니다.

이를 극복하기 위해 연구진은 워크플로우를 완전히 바꾸었습니다. 양자 데이터를 수백만 번 다시 처리하는 대신, 양자 프로세서로부터 무작위 측정값을 한 번에 대량으로 수집했습니다. 그런 다음 이 데이터를 사용하여 사례로부터 패턴을 학습할 수 있는 인공지능의 일종인 머신러닝 모델을 훈련시켰습니다. 이 모델은 특정 값을 예측하도록 교육받았으며, 이는 방대한 양의 양자 데이터를 작고 빠르게 실행되는 프로그램으로 압축하는 효과를 냈습니다. 훈련이 완료된 후, 이 모델은 원래의 양자 데이터를 다시 들여다볼 필요 없이 거의 즉각적으로 고전 시뮬레이션에 필요한 정보를 제공할 수 있었습니다. 연구진은 이를 언어를 배우는 것에 비유했습니다. 문장을 필요로 할 때마다 책을 단어 하나하나 번역하는 대신, 문법과 어휘를 한 번 배워두면 그 이후로는 유창하고 즉각적으로 말할 수 있게 되는 것과 같습니다.

연구팀은 100개 이상의 큐비트와 고속 측정 능력을 갖춘 구글의 윌로우 프로세서로 이 방법을 시험했습니다. 그들은 먼저 복잡성이 증가하는 상황을 얼마나 잘 다루는지 테스트하는 표준 벤치마크인 수소 사슬을 다루었습니다. 사슬의 길이를 변화시킴으로써 8개에서 40개 큐비트에 이르는 시스템을 시뮬레이션할 수 있었습니다. 이 테스트에서 머신러닝 접근 방식은 화학적 정확도를 제공했습니다. 즉, 예측된 에너지 준위가 실제 화학 분야에서 요구되는 아주 미세한 오차 범위 내에 있었다는 뜻입니다. 더 중요한 것은 속도의 향상이 극적이었다는 점입니다. 16 큐비트 시스템의 경우, 새로운 방법은 전통적인 방식보다 4,100배 더 빨랐습니다. 40 큐비트 시스템의 경우, 전통적인 방식은 비용이 너무 많이 들어 시도조차 할 수 없었지만, 새로운 방식은 계산을 훨씬 짧은 시간 안에 완료하며 이를 실현 가능하게 만들었습니다.

그다음 연구진은 훨씬 더 어려운 문제인, 전자 전달 및 촉매 작용과 같은 생물학적 과정에 필수적인 철-황 클러스터로 넘어갔습니다. 이 분자들은 전자들이 고도로 상관되어 있고 여러 거의 동일한 에너지 상태에 존재하기 때문에 시뮬레이션하기가 매우 까다롭습니다. 고전적인 방법이나 초기 양자 기술을 사용하여 이 시스템을 시뮬레이션하려는 이전의 시도들은 필요한 정확도 수준에 도달하는 데 어려움을 겪었습니다. 머신러닝 프레임워크를 사용하여 연구팀은 28 큐비트와 40 큐비트의 활성 공간을 가진 철-황 클러스터를 성공적으로 시뮬레이션했습니다. 그들은 자신들의 양자 가이드 접근 방식이 양자 하드웨어가 노이즈가 많은 상황에서도 화학적 정확도를 달성할 수 있음을 발견했습니다. 머신러닝 모델은 노이즈를 걸러내고 올바른 물리적 신호를 추출할 만큼 견고했으며, 이는 기반이 되는 양자 데이터가 불완전하더라도 이 방법이 작동한다는 것을 증명했습니다.

이 연구의 핵심 통찰은 머신러닝 모델이 너무 복잡할 수 있는 전체 양자 상태를 재구성할 필요가 없다는 점이었습니다. 대신, 모델은 특정 '중첩(overlaps)', 즉 양자 상태와 시뮬레이션에 사용되는 구성 사이의 수학적 관계만을 학습하면 되었습니다. 이러한 특정 관계에 집중함으로써 모델은 단순하고 효율적으로 유지될 수 있었습니다. 연구진은 또한 대략적인 고전적 추측에서 시작하여 양자 데이터를 사용하여 이를 정교화하거나, 혹은 처음부터 시작하여 양자 데이터가 모델에 필요한 모든 것을 가르치도록 할 수 있음을 보여주었습니다. 철-황 클러스터의 경우, 양자 데이터로 훈련된 모델이 동일한 작업을 위해 최적화된 고전적 방법보다 뛰어난 성능을 보였으며, 이는 양자 하드웨어로부터 직접 학습하는 것이 갖는 독특한 가치를 강조했습니다.

이 연구의 함의는 단지 이러한 특정 분자들에만 국한되지 않습니다. 연구진이 해결한 병목 현상, 즉 양자 데이터의 느린 처리 과정은 양자 컴퓨터가 더 강력해지고 오류가 없어지더라도 지속될 근본적인 문제입니다. 머신러러닝이 양자 정보를 효율적으로 압축하고 재사용할 수 있음을 보여줌으로써, 연구팀은 하이브리드 알고리즘이 어떻게 실세계의 문제를 해결하기 위해 확장될 수 있는지에 대한 청사진을 제공했습니다. 40 큐비트에서의 성공은 복잡한 재료를 시뮬레이션하고 새로운 약물을 설계하는 경로가 더 이상 계산 비용에 의해 가로막혀 있지 않음을 시사합니다. 이 연구는 적절한 양자-고전 컴퓨팅 인터페이스가 있다면, 우리는 이제 이전에는 도달할 수 없었던 시뮬레이션 규모에 접근할 수 있으며, 이를 통해 화학 및 재료 과학 분야의 새로운 발견의 시대를 열 수 있음을 입증했습니다.