당신이 물에서부터 혈액 속의 철분까지 모든 것을 형성하는 원자들이 어떻게 서로 결합하는지에 대한 궁극적인 퍼즐을 풀려고 노력하고 있다고 상상해 보십시오. 과학자들은 이를 "양자 화학(quantum chemistry)"이라고 부릅니다. 문제는 그 이면에 있는 수학이 너무나 믿기 힘들 정도로 복잡해서 세계에서 가장 강력한 슈퍼컴퓨터조차 막혀버린다는 점입니다. 이는 마치 당신이 볼 때마다 계속해서 커지는 해변에서 특정한 모래알 하나를 찾는 것과 같습니다. 수십 년 동안 과학자들은 이 문제를 해결하기 위해 양자 컴퓨터를 구축하여 원자의 복잡성을 자연스럽게 처리할 수 있기를 희망해 왔습니다. 최근에는 "샘플 기반 양자 대각화(Sample-Based Quantum Diagonalization, SQD)"라고 불리는 새로운 방법이 이를 시도하는 가장 선호되는 방식이 되었습니다. 양자 컴퓨터에게 전체의 어려운 수학 문제를 한꺼번에 처리하라고 요구하는 대신, 양자 컴퓨터가 '럭키 딥(lucky dip, 뽑기)' 기계처럼 행동하게 하여 여러 가지 가능한 원자 배열(이를 "구성(configurations)"이라고 함)을 뱉어내게 하고, 그 후 클래식 컴퓨터(일반 노트북이나 슈퍼컴퓨터 같은)가 가장 좋은 것들을 골라 최종 수학 계산을 수행하는 아이디어입니다. 희망 사항은 양자 기계가 클래식 컴퓨터보다 더 나은 "운 좋은" 배열을 찾는 데 더 뛰어날 것이라는 점이었습니다.

하지만 여기서 중요한 질문이 생깁니다. 양자 기계가 실제로 더 나은 것일까요, 아니면 단순히 클래식 컴퓨터가 이미 하고 있는 일을 화려하게 흉내 내는 것뿐일까요? 이 글은 이 질문에 깊이 파고들며, 지난 2년 동안 새로운 아이디어들이 폭발적으로 증가한 분야를 살펴보는 한 논문의 이야기입니다. 이 논문은 심판 역할을 하며, 양자 팀이 실제로 경기에서 이기고 있는지, 아니면 클래식 팀이 그저 따라가고 있는 것인지를 확인하기 위해 점수, 규칙, 그리고 선수들을 점검합니다.

---

양자 럭키 딥과 머신러닝의 해결책

논문은 이 "양자 럭키 딥"이 어떻게 작동하는지 설명하며 시작합니다. 당신이 거대한 체스 게임에서 최선의 수를 찾고 있다고 상상해 보십시오. 양자 컴퓨터는 빠르게 움직이지만 노이즈가 많은 기계로, 무작위로 수를 제안합니다. 노이즈 때문에 이 기계는 종종 잘못된 수(예: 폰을 뒤로 움직이는 것)를 제안하기도 합니다. 그러면 특별한 "복구(recovery)" 단계가 이러한 잘못된 수를 바로잡아 유효한 수로 변환합니다. 일단 유효한 수의 목록을 확보하면, 클래식 컴퓨터는 이 수들이 어떤 최선의 게임 상태로 이어지는지 확인합니다.

문제는 "최선의" 수가 매우 드물다는 것입니다. 이것은 마치 쿠폰 수집가(coupon collector) 문제와 같습니다. 만약 당신이 100개의 고유한 쿠폰을 모으려고 한다면, 처음 몇 개는 찾기 쉽지만 마지막 몇 개를 우연히 발견하려면 백만 번의 시도가 필요할 수도 있습니다. 양자 세계에서 드물고 중요한 원자 배열을 찾는 것은 정확히 이런 종류의 어려운 탐색입니다. 이 작업이 너무 어렵기 때문에, 과학자들은 **머신러닝(AI)**을 사용하여 도움을 받기 시작했습니다. 그들은 AI 모델을 구축하여 어떤 쿠폰(또는 원자 배열)이 드물고 중요한지를 예측하도록 했으며, AI가 무작위 양자 기계보다 더 빠르게 그것들을 찾아낼 수 있기를 기대했습니다.

이 논문은 이러한 새로운 AI 방법들의 거대한 동물원을 검토합니다. 어떤 것들은 제한된 볼츠만 머신(Restricted Boltzmann Machines)(최선의 수를 학습하는 스마트 필터라고 생각하십시오)이고, 다른 것들은 트랜스포머(Transformers)(챗봇을 구동하는 것과 같은 종류의 AI이지만 원자 배열을 예측하도록 훈련됨)이며, 또 다른 것들은 생성적 흐름 네트워크(Generative Flow Networks)(단 하나의 결과에 갇히지 않고 다양한 가능성을 탐색하도록 설계된 새로운 유형의 AI)입니다. 저자들은 이러한 방법들을 생성하는 대상과 중요도를 결정하는 방식에 따라 도서관처럼 분류하여 정리합니다.

대반전: 양자 기계는 아직 이기고 있지 않다

여기 결론이 나옵니다. 이는 양자 열풍에 다소 찬물을 끼얹는 내용입니다: 현재까지 양자 샘플러는 최고의 클래식 컴퓨터를 이기지 못한다는 것입니다.

저자들은 데이터를 검토한 결과, 양자 방법을 강력한 클래식 방법(예: "Heat-Bath CI" 또는 "DMRG")과 비교했을 때, 클래식 방법이 올바른 원자 배열을 찾는 데 있어 똑같이 뛰어나거나 심지어 더 낫다는 것을 발견했습니다. 사실, 그들은 "양자" 과정의 상당 부분이 일반 노트북에서도 다항 시간(polynomial time) 내에 시뮬레이션될 수 있다는 것을 발견했습니다(이는 우리가 생각했던 것만큼 마법처럼 어렵지 않다는 것을 의미합니다).

비유를 들어보겠습니다. 양자 컴퓨터가 숫자를 뽑는 시끄럽고 비싼 로또 기계라고 상상해 보십시오. 논문은 영리한 인간 수학자(클래식 알고리즘)가 로또 기계 없이도 당첨 번호를 똑같이 혹은 더 잘 예측할 수 있다는 것을 발견했습니다. 양자 기계의 "마법"은 대부분 클래식 컴퓨터가 "복구" 단계에서 이미 핵심적인 역할을 수행하고 있었기 때문에 생긴 환상에 불과했습니다.

이 논문은 현재 사용되는 양자 회로가 클래식 컴퓨터가 할 수 없는 일을 하고 있다는 가설을 명시적으로 부정합니다. 저자들은 특정 회로(이름을 "single-layer LUCJ"라고 함)의 경우, 클래식 컴퓨터가 1분 이내에 노트북으로 그 결과를 재현할 수 있음을 보여주었습니다. 이는 "양자 우위"(양자가 엄격히 더 낫다는 생각)가 이러한 화학 문제들에 대해 아직 증명되지 않았음을 의미합니다.

AI가 여전히 도움을 줄 수 있는 부분

그렇다면 이 프로젝트 전체가 실패했다는 뜻일까요? 꼭 그렇지는 않습니다. 논문은 양자 기계가 쓸모없다는 것이 아니라, 우리가 기대했던 "마법의 탄환"은 아직 아니라는 점을 시사합니다. 저자들은 실제 기회가 어디에 있는지 지도를 그려줍니다:

1. 노이즈는 새로운 친구다: 논문은 양자 기계가 "노이즈(오류)"를 처리하는 데 놀라울 정도로 능숙하다는 것을 발견했습니다. 기계에 노이즈가 많으면 많은 데이터를 버리게 됩니다. 그러나 특별한 AI 생성기를 구축하여 오직 유효한 데이터만을 생성하고 노이즈를 완전히 무시하게 만들 수 있습니다. 이는 매우 노이즈가 많은 환경에서 강점을 주지만, 논문은 이것이 특별한 양자 초능력이 아니라 영리한 클래식 생성기도 가질 수 있는 일반적인 이점이라고 언급합니다.
2. "다중 참조(Multireference)"의 미스터리: 양자들이 매우 이상하고 "늘어난(stretched)" 상태(마치 끊어지기 직전의 고무줄 같은 상태)에 있을 때 양자 기계가 도움이 될 수 있다는 힌트가 있습니다. 이러한 상태에서는 일반적인 화학 법칙이 무너집니다. 논문은 만약 클래식한 "경험칙"이 올바른 수를 예측하는 데 실패한다면, 영리한 AI나 양자 기계가 개입할 수 있다고 제안합니다. 그러나 이를 테스트한 결과, 그 이점이 "늘어난" 상태에 특화된 것이 아니라 단지 노이즈를 처리하는 능력에 관한 것임을 발견했습니다. 따라서 이는 여전히 열려 있는 문제입니다.
3. 잃어버린 조각 (GFlowNets): 저자들은 거대한 공백을 지적합니다. **생성적 흐름 네트워크(GFlowNet)**라는 특정 유형의 AI는 이 "쿠폰 수집가" 문제에 완벽하게 적합한데, 왜냐하면 이것은 단 하나의 것에 갇히지 않고 희귀한 항목을 찾도록 설계되었기 때문입니다. 놀랍게도 아직 아무도 이 특정 AI를 양자 화학에 사용하지 않았습니다. 논문은 이것이 다음에 탐구해야 할 가장 유망한 분야라고 주장합니다.

결론: 더 나은 규칙에 대한 촉구

논문은 강력한 행동 촉구와 함께 끝을 맺습니다. 이 분야가 제대로 된 점수판 확인 없이 "승리"를 주장하는 데 너무 급급했다고 말합니다. 그들은 향후 이러한 방법들을 테스트하기 위한 새로운 규칙 세트를 제 제안합니다. 이 규칙에는 다음이 포함됩니다:

• 진실을 사용할 것: 단순히 다른 근사치와 비교하는 것이 아니라, 가능한 경우 정확하고 알려진 정답과 비교하십시오.
• 비용에 대해 정직할 것: 양자 기계와 클래식 컴퓨터가 사용하는 시간과 에너지를 모두 계산하십시오.
• 클래식을 테스트할 것: 항상 약한 방법이 아닌, 가장 강력한 클래식 방법과 비교하십시오.

저자들은 이러한 규칙이 준수되지 않는 한, 양자 컴퓨터가 정말로 도움이 되는지 진정으로 말할 수 없다고 주장합니다. 그들은 진정한 "양자 우위"가 화학 문제를 직접 푸는 데 있는 것이 아니라, 물리 법칙이 양자 우위를 보장하지만 우리가 아직 화학에 어떻게 사용할지 모르는 "실험으로부터 학습하기"라는 다른 과제에 있을 수 있다고 제안합니다.

요약하자면, 이 논문은 현실 점검입니다. 이 논문은 양자 컴퓨터가 지금 당장은 화학을 위한 우리가 생각했던 영웅이 아니라고 말하지만, 동시에 다음에 어디를 보아야 할지에 대한 명확한 지도를 제공합니다. 이것은 막다른 길이 아닙니다. 단지 "이 길 말고, 저 길로 가시오"라고 알려주는 표지판입니다. 양자의 세계를 이해하기 위한 여정은 계속되지만, 이제 우리는 더 나은 지도를 갖게 되었습니다.