🔬 physics

Position: The Inevitable Transition to Machine Learning in Quantum Chemistry

본 논문은 밀도 범함수 이론(DFT)과 같은 전통적인 방법론들이 그 발전의 포화점에 도달함에 따라, 머신러닝이 난해한 다체 문제(many-body problem)에 대한 실행 가능한 의사결정론적 해법을 제공함으로써 양자 화학의 가장 유망한 전략적 경로를 나타낸다고 주장한다.

원저자: Karen Sargsyan, Chao-Ping Hsu

게시일 2026-07-22

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Karen Sargsyan, Chao-Ping Hsu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

아주 작은 것들의 거대한 퍼즐

경기장을 가득 메운 군중이 어떻게 움직일지 예측한다고 상상해 보십시오. 사람이 몇 명뿐이라면 그들의 경로를 쉽게 추측할 수 있습니다. 하지만 수백만 명의 사람들이 동시에 서로를 밀고 당기며 반응한다면, 그 수학적 복잡성은 너무나 엄청나서 세계에서 가장 빠른 슈퍼컴퓨터라 할지라도 우주의 나이보다 더 긴 시간을 들여야만 완벽하게 풀어낼 수 있을 것입니다. 이것이 바로 원자와 전자라는 미시 세계를 연구하는 과학자들이 매일 마주하는 현실입니다.

이 작은 우주 속에서 입자들은 그저 가만히 멈춰 있는 것이 아닙니다. 이들은 '슈뢰딩거 방정식'이라 불리는 유명한 방정식으로 설명되는, 혼란스럽고도 서로 연결된 방식으로 춤을 춥니다. 과학자들은 원자가 어떻게 결합하여 분자를 만드는지, 약물이 우리 몸과 어떻게 상호작용하는지, 그리고 새로운 재료가 어떻게 탄생하는지를 이해하기 위해 수십 년 동안 이 방정식을 풀기 위해 노력해 왔습니다. 이를 위해 그들은 '근사치(approximations)'—대부분의 경우 제 역할을 해내는 단순화된 경험칙—를 만들어 왔습니다. 하지만 최근, 이 오래된 규칙들이 한계에 부딪히기 시작했습니다. 이 규칙들을 개선하는 것은 점점 더 어려워지고 있으며, 가장 어렵고 흥미로운 문제들 앞에서 실패하고 있습니다. 바로 여기서 새로운 주인공이 등장합니다: 머신러닝(Machine Learning)입니다. 머신러닝을 단 하나의 완벽한 규칙책을 쓰려고 노력하는 것이 아니라, 수백만 개의 사례를 관찰하며 배우는 매우 똑똑한 학생이라고 생각하십시오.

논문의 핵심 아이디어: 왜 새로운 스승이 필요한가

카렌 사르그시안(Karen Sargsyan)과 차오-핑 슈(Chao-Ping Hsu)가 작성한 이 논문은 양자 화학의 미래가 더 나은 규칙책을 손수 만드는 데 있는 것이 아니라, 머신러닝(ML)에 그 일을 맡기는 데 있다고 주장합니다. 저자들은 기존의 방식이 쓸모없다고 말하는 것이 아닙니다. 일상적인 작업에는 여전히 훌륭합니다. 하지만 그들은 '손으로 직접 만드는(hand-crafting)' 새로운 해결책의 시대가 이제 동력을 다했다고 주장합니다.

이를 이해하기 위해, 특정 기억과 똑같은 맛이 나는 완벽한 수프 레시피를 발명하려는 숙련된 요리사 그룹을 상상해 보십시오. 지난 50년 동안 그들은 직관에 따라 소금, 열기, 향신료를 하나씩 추가하고 조절하며 레시피를 만들어 왔습니다. 그들은 수백 개의 레시レシピ(논문에서는 '범함수(functionals)'라고 부름)를 만들어 냈지만, 단 하나의 완벽한 버전에 합의하지 못하고 있으며, 심지어 어떤 최고의 레시피들은 재료를 자세히 들여다보면 오히려 맛이 더 떨어지기도 합니다. 이 논문은 이 요리사들이 인간의 직관으로 설계할 수 있는 한계에 도달했다고 제안합니다.

저자들은 다른 전략을 제안합니다. 처음부터 완격한 레시피를 쓰려고 애쓰는 대신, 컴퓨터가 수백만 개의 수프를 맛보고 스스로 패턴을 학습하도록 훈련시키자는 것입니다. 이것이 바로 '머신러닝' 접근법입니다. 논문은 이것이 가장 논리적인 경로라고 주장합니다. 이는 기존의 수학으로 문제를 푸는 것이 불가능하다는 것을 우리가 알기 때문이 아니라, 기존의 방식이 분명히 정체되었기 때문입니다.

'공간-시간' 트레이드오프: 기억력을 이용한 속임수

논문은 '공간-시간 트레이드오프(Space-Time Tradeoff)'라는 영리한 개념을 소개합니다. 당신이 집에서 거대한 미개척 숲을 가로질러 친구의 집으로 가야 한다고 상상해 보십시오.

기존 방식 (전통적 방법): 지도와 나침반을 사용하여 실시간으로 완벽한 경로를 계산하려고 합니다. 매 걸음마다 수학적 계산을 수행합니다. 느리고, 숲이 너무 크면 길을 잃게 됩니다.
새로운 방식 (머신러닝): 매번 경로를 계산할 필요가 없다는 것을 깨닫습니다. 대신, 수천 개의 서로 다른 목적지로 가는 경로를 암기하기 위해 한 번의 시간과 메모리를 투자합니다. 그러고 나서 어딘가로 가야 할 때, 미리 암기해 둔 노트를 찾아보기만 하면 됩니다. 즉, 더 많은 '공간'(메모리)을 사용하여 '시간'(계산)을 절약하는 것입니다.

논문은 화학이 패턴으로 가득 차 있다고 설명합니다. 수조 개의 가능한 분자가 존재하지만, 원자들이 특정한 모양으로 결합하는 방식처럼 그들은 모두 특정한 규칙을 따릅니다. 머신러닝은 이러한 패턴을 포착하고 이를 '특화된 지식'으로 저장하는 데 탁월합니다. 이는 거의 모든 화학적 상황에 대한 답변 라이브러리를 갖추는 것과 같아서, 매번 처음부터 어려운 수학 계산을 할 필요가 없게 만듭니다.

왜 '손으로 만든' 방식들이 막혀 있는가

저자들은 수십 년 동안 과학자들이 이러한 근사치들을 수동으로 설계해 왔음을 지적합니다. 그들은 특정한 수학적 형태와 재료를 선택하며 그것이 작동하기를 바랍니다. 논문은 이를 '손으로 만든 머신러닝(hand-crafted machine learning)'이라고 부릅니다. 하지만 문제는 여기에 있습니다. 인간은 상상할 수 있는 형태가 제한되어 있다는 점입니다.

논문은 이러한 수제 레시피들이 에너지를 예측하는 데는 좋아졌지만, 실제로 원자를 구성하는 전자 구름(밀도)의 모양을 예측하는 데는 오히려 악화되었다는 것을 보여주는 유명한 연구를 인용합니다. 이는 시험 답안을 외웠지만 정작 과목에 대한 이해는 없는 학생과 같습니다. 저자들은 인간의 직관에 수학을 맞추려고 노력함으로써, 자연이 사용하는 실제의 복잡한 패턴을 놓치고 있을 수도 있다고 제안합니다.

'블랙박스'에 대한 두려움: 이해하지 못하는 것을 신뢰할 수 있는가?

흔한 걱정은 머신러닝이 '블랙박스'라는 점입니다. 만약 컴퓨터가 우리에게 답을 주었지만, 우리가 그 단계별 논리를 볼 수 없다면, 그것이 옳다는 것을 어떻게 알 수 있겠습니까? 논문은 이러한 모델들이 전통적인 공식들보다 투명성이 떨어진다는 점을 인정합니다. 그러나 저자들은 이것이 필요한 절충(trade-off)일 수 있다고 주장합니다. 양자 세계는 본질적으로 무질서하고 복잡합니다. 어쩌면 단순하고 설명하기 쉬운 규칙이라는 것은 존재하지 않을지도 모릅니다.

단순한 규칙을 찾는 대신, 논문은 기계가 학습하는 방식으로부터 배울 수 있다고 제안합니다. 예를 들어, 기계가 분자가 회전하거나 뒤집혀도 동일하게 취급해야 한다는 것을 학습한다면, 이는 물리학의 근본 법칙을 확인시켜 주는 것입니다. 만약 분자가 너무 커졌을 때 기계가 실패한다면, 그것은 우리의 현재 이해가 어디에서 무너지는지를 알려줍니다. 기계는 단순히 계산기가 아니라, 우리의 아이디어를 테스트하는 도구가 됩니다.

미래: 팀워크

논문은 또한 "양자 컴퓨터는 어떤가? 그것들이 모든 것을 해결해 주지 않을까?"라는 큰 질문을 다룹니다. 저자들은 그렇지 않다고 말합니다. 양자 컴퓨터조차 실제 응용 분야에 필요한 엄청난 양의 계산량 때문에 어려움을 겪을 것입니다. 대신, 그들은 파트너십을 봅니다. 양자 컴퓨터는 가장 어렵고 특정한 문제들을 해결하는 '초정밀 참조 모델' 역할을 할 것입니다. 그러면 머신러닝은 '번역가' 역할을 하여, 그 몇 안 되는 완벽한 답들을 가져와 수백만 개의 다른 상황을 빠르게 예측하는 데 사용할 것입니다.

앞으로의 길

논문은 우리가 전환점에 서 있다고 결론짓습니다. 우리는 데이터(수백만 개의 화학적 구성)와 도구(고급 신경망), 그리고 필요성(기존 방식의 한계)을 모두 갖추고 있습니다. 저자들은 과학계가 기존의 손으로 만든 방식에서 더 많은 즙을 짜내려고 애쓰는 것을 멈추고, 머신러닝을 우선순위에 두기 시작할 것을 촉구합니다.

그들이 기존의 방식이 죽었다고 말하는 것이 아닙니다. 다만 기존의 방식이 다음의 거대한 돌파구를 위한 최선의 경로는 아니라고 말하는 것입니다. 미래는 학습하고, 적응하며, 특화된 지식을 저장할 수 있는 모델의 것입니다. 이를 통해 우리는 이전에는 불가능했던 속도와 정확도로 새로운 약물에서 새로운 재료에 이르기까지 모든 것을 시뮬레이션할 수 있게 될 것입니다. 이는 완벽한 매뉴얼을 쓰려고 노력하는 것에서, 컴퓨터에게 우주를 읽는 법을 가르치는 것으로의 전환입니다.

기술 요약: 양자 화학에서 머신러닝으로의 필연적 전환

1. 문제 정의

양자 화학의 핵심 과제는 다체 전자계(many-body electronic system)에 대한 시간 독립 슈뢰딩거 방정식을 푸는 것이다. 정확한 해를 구하는 것은 계산적으로 불가능(QMA-hard)한데, 이는 파동함수가 전자 수( $N$ )에 따라 지수적으로 증가하는 차원을 가진 힐베르트 공간(Hilbert space)에 존재하기 때문이다.

Full Configuration Interaction (FCI)와 같은 전통적인 고정밀 방법론은 계수적으로( $O(N!)$ ) 증가하며, CCSD(T)와 같은 정교한 근사법조차 $O(N^7)$ 의 복잡도를 갖는다. 하드웨어의 개선만으로는 이러한 지수적 또는 고차 다항식 복잡도를 극복할 수 없다. 더욱이, 임의의 물질에 대한 스펙트럼 갭(spectral gap)을 결정하는 것은 증명 가능하게도 결정 불가능(undecidable)하다.

본 논문은 전통적인 "수작업으로 설계된(hand-crafted)" 근사법들이 수확 체감의 법칙에 도달했다고 주장한다. 밀도 범함수 이론(DFT)의 범함수들은 400개가 넘게 급증했음에도 불구하고 정확한 범함수로 수렴하지 못하고 있으며, 에너지 예측은 개선되었음에도 전자 밀도는 오히려 퇴보하는 양상(메드베드 역설, Medvedev paradox)을 보이고 있다. 마찬가지로, 파동함수 이론(WFT)은 강한 상관관계(strong correlation)와 다중 참조(multi-reference) 묘사가 필요한 계에서 한계에 부딪히며 확장성과 정확도의 벽에 직면해 있다.

2. 방법론 및 이론적 프레임워크

본 논문은 특정 새로운 알고리즘을 제안하는 것이 아니라, 연구 우선순위를 머신러닝(ML)으로 전환해야 한다는 **의사결정론적 논거(decision-theoretic argument)**를 제시한다. 핵심 방법론은 세 가지 이론적 기둥에 기반한다.

2.1. 시공간 트레이드오프 (Space-Time Tradeoff, TSTO)

컴퓨터 과학(특히 복잡도 클래스 P/poly)에서 유래한 개념으로, 저자들은 모든 입력에 대해 효율적인 보편적 알고리즘을 찾는 것이 불가능할 가능성이 높으므로, 실질적인 경로는 **비균일 계산(non-uniform computation)**이라고 주장한다. 이는 저장된 전문 지식을 활용하여 계산 시간과 메모리(공간)를 교환하는 것을 의미한다.

전통적 접근법: 모든 시스템에 대해 제1원리로부터 매번 재계산하는 "균일 계산(uniform computation)" 또는 제한된 인간 설계의 "조언(advice)"(기저 집합, 특정 안사츠 등)에 의존한다.
ML 접근법: 훈련된 신경망을 훈련 데이터로부터 도출된 전문 지식(가중치, weights)을 담고 있는 회로로 취급한다. 이를 통해 모델은 방대한 영역(예: $10^{33}$ – $10^{60}$ 개의 분자)에 대해 매우 효율적으로 해를 근사하기 위해 전문화된 지식(예: $10^6$ – $10^7$ 개의 파라미터)을 저장할 수 있다.

2.2. 전통적 방법론을 "수작업으로 설계된 ML"로 재정의

논문은 양자 화학의 역사적 발전이 본질적으로 소규모의 수동적 머신러닝이라고 상정한다.

특징 공학(Feature Engineering): DFT 범함수의 구축(LDA에서 meta-GGA로 이어지는 Jacob's Ladder)과 파동함수 안사츠(예: CCSD(T), DMRG)의 발전은 인간의 직관에 기반하여 물리적 특징과 수학적 형태를 수동으로 선택하는 과정을 나타낸다.
한계: 이 과정은 인간의 직관과 인간이 구상할 수 있는 가설 공간의 범위에 의해 제한된다. 범함수의 급증에도 불구하고 수렴이 이루어지지 않는 현상은 이러한 수동 탐색 공간에서의 "쉬운 이득"이 고갈되었음을 시사한다.

2.3. 의사결정론적 정당성

저자들은 화학적으로 유의미한 문제의 실제 복잡도에 대한 불확실성 속에서 ML이 가장 합리적인 선택이라고 주장한다.

만약 화학적 문제들이 진정으로 QMA-hard라면, 전통적인 압축 알고리즘은 실패할 것이며 ML이 필수적이 된다.
만약 문제가 더 쉽지만 단순한 해석적 해가 없는 것이라면, ML은 효율적인 근사법을 발견하는 경로를 제공한다.
만약 단순한 해석적 해가 존재한다면, ML 기반의 탐색이 이를 식별하는 데 도움을 줄 수 있다.
비대칭성: 전통적 접근법에만 전념하는 것은 해당 부분 집합이 난해할 경우 치명적인 실패를 초래하지만, ML 기반 접근법은 우아하게 성능이 저하(degrade gracefully)된다.

3. 주요 기여

본 논문은 ML로의 전환을 뒷받침하기 위해 다섯 가지 상호 연결된 주장(claims)을 제시한다.

합리적 경로: 문제 복잡도에 대한 불확정성과 전통적 방법론의 포화 상태를 고려할 때, ML을 통한 시공간 트레이드오프(Space-Time Tradeoff)가 가장 합리적인 전략이다. 이는 다양한 시나리오에서 성공한다.
체계적 프레임워크: ML은 DFT(파편화 문제)와 WFT(확장성/강한 상관관계 문제)의 장벽을 해결하기 위해 요구되는 규모와 일반성 측면에서 전문화된 근사법을 발견할 수 있는 유일한 체계적 프레임워크를 제공한다.
통찰의 도구: ML은 단순히 "블랙박스" 형태의 해석 가능성을 넘어, **아키텍처 검증(architecture validation)**을 통해 물리적 통찰을 제공한다. 성공적인 설계(예: E(3)-등변 네트워크, 로컬 메시지 패싱)는 물리적 원리(대칭성, 국소성)를 확인시켜 주며, 실패는 이러한 가정의 한계를 드러낸다.
자동화된 전문화: ML은 과거의 "수작업 설계"를 자동화하여, 인간의 설계 한계를 훨씬 뛰어넘는 범함수 및 아키텍처 공간에서 전문화된 솔루션을 체계적으로 발견하고 저장한다.
양자 컴퓨팅과의 공생: 양자 컴퓨터는 난해한 시스템에 대한 참조 생성기(reference generator) 역할을 수행하고, ML은 동역학 및 재료 발견에 필요한 방대한 구성 공간에 이 데이터를 적용하기 위한 필수적인 일반화 엔진 역할을 한다.

4. 결과 및 증거

논문은 자신의 입장을 뒷받침하기 위해 기존 문헌과 최근의 발전 사항들을 종합한다.

경험적 정체: 1974년부터 2017년까지의 128개 DFT 범함수를 분석한 결과, 에너지 예측은 개선되었으나 전자 밀도 정확도는 2000년경 정점을 찍고 이후 퇴보했다. 이는 정확한 범함수로의 수렴이 아니라 벤치마크에 대한 과적합(Goodhart's Law)을 나타낸다.
AlphaFold의 선례: 단백질 구조 예측(NP-hard 문제)에서 AlphaFold2가 보여준 성공은, 단순한 물리적 원리가 명시적으로 드러나지 않더라도 학습된 전문화가 수십 년간의 해석적 노력에도 실패했던 복잡한 생물학적 문제를 해결할 수 있음을 입증한다.
파운데이션 모델: MACE-MP-0(160만 개의 구성 데이터로 훈련) 및 Orbformer(다양한 분자 구조로 사전 훈련)와 같은 최신 모델은 대규모 데이터셋에 대한 사전 훈련을 통해, 시스템별 재훈련 없이도 화학 공간 전반에서 높은 정확도를 달리는 전이 학습(transfer learning) 능력을 보여준다.
메드베드 역설 극복: 엄격한 수학적 제약 조건(예: 분수 전자 수에 대한 올바른 거동)을 갖추어 훈련된 DM21 범함수는 전통적인 제약 없는 범함수들이 실패하는 분수 특성을 가진 시스템을 성공적으로 묘|사한다. 이는 원칙 있는 ML이 순수한 벤치마크 피팅의 함정을 피하기 위해 학습을 규제할 수 있음을 보여준다.
새로운 역량: ML 포텐셜은 이제 DFT와 경쟁 가능한 정확도를 유지하면서도 계산 비용을 $10^4$ – $10^6$ 배 낮추어, 마이크로초 단위의 단백질 동역학 시뮬레이션이나 수백만 개의 약물 후보 물질 스크리닝과 같이 이전에는 불가능했던 응용을 가능하게 한다.

5. 의의 및 주장

본 논문은 ML로의 전환이 논리적 필연성이 아니라, 전통적 방법론의 포화와 ML의 독보적인 역량에 의한 전략적 우선순위라고 주장한다.

패러다임 전환: 분야는 "수작업으로 설계된" 근사법에서 "자동화된 전문화"로 이동하고 있다. 인간의 직관이 범함수와 안사츠를 위한 가설 공간을 모두 소진했기 때문에 이 전환은 필수적이다.
연구 우선순위: 저자들은 연구의 초점을 ML 인프라(데이터셋, 등변 아키텍처, 불확실성 정량화)와 소프트웨어 통합으로 옮겨야 한다고 주장한다. 벤치마크의 성공이 소프트웨어 통합(예: DM21의 제한된 채택 사례)으로 이어지지 못하면 실질적인 진보를 저해한다는 점을 강조한다.
겸허한 주장: 논문은 전통적 방법론을 실무에서 몰아내자는 것이 아니라, 이들이 참조 데이터를 생성하는 역할을 수행하도록 하자는 것이라고 명시한다. 또한 ML 모델이 현재 직면한 과제들(예: 장거리 상호작용, 분포 외 일반화, 엔지니어링 측면의 난제)을 인정하면서도, 이것이 전통적 방법론이 직면한 근본적 장벽과는 달리 명확한 경로가 있는 활발한 연구 최전선임을 강조한다.

결론적으로, 본 논문은 ML이 양자 다체 문제의 난해함을 헤쳐 나갈 가장 유망한 경로이며, 전통적인 직관 중심의 개발이 더 이상 제공할 수 없는, 데이터 기반의 전문화된 근사법을 향한 확장 가능한 경로를 제공한다고 단언한다.