Scaling universal Fermi network toward ground states: A diffusion-Monte-Carlo assessment

기술 요약: 바닥 상태를 향한 범용 페르미 네트워크의 스케일링

문제 정의
상호작용하는 다전자 시스템에 대한 전자 슈뢰딩거 방정식을 푸는 것은 응집 물질 물리학 및 양자 화학의 핵심적인 과제로 남아 있다. 어려움은 연속체 시스템의 무한 차원 힐베르트 공간과 입자 교환에 대해 페르미온 파동함수가 반대칭(antisymmetric)이어야 한다는 요구 조건에서 발생한다. 전통적인 방법들은 상당한 한계에 직면해 있다: 전구성 상호작용(Full Configuration Interaction, FCI)은 시스템 크기에 따라 계수적으로(factorially) 증가하며 유한한 기저 집합(basis set)에 의해 제한된다; 절단된 전개(예: 결합 클러스터법)는 기저 집합의 불완전성과 다체 절단 오차(many-body truncation errors)를 모두 겪는다; 그리고 확산 몬테카를로(Diffusion Monte Carlo, DMC)는 연속 공간에서 작동하지만, 실수 값의 시도 상태(trial state)에 대한 고정 노드 근사(fixed-node approximation)에 의존하며, 이는 노달 구조(nodal structure)가 불완전할 경우 통제 불가능한 오차를 유발한다.

최근의 신경망 접근 방식(예: FermiNet, PauliNet)은 기저 집합 없이도 반대칭 파동함수를 직접 생성함으로써 유망한 결과를 보여주었으나, 최적화된 신경망 파동함수가 기존 벤치마크보다 뛰어난 성능을 보일 때, 해당 함수가 정확한 바닥 상태에 얼마나 근접했는지 엄밀하고 체계적으로 평가할 수 있는 방법론은 여전히 부재하다. 또한, 이 네트워크들을 점근적으로 정확한 결과(asymptotically exact results)를 달 achieve하기 위해 스케일링하는 것이 가능한지에 대한 탐구도 충분히 이루어지지 않았다.

방법론
저자들은 페르미 세트(Fermi Sets)—페르미온 파동함수를 위한 증명 가능한 범용 신경망 아키텍처—와 **고정 위상 확산 몬테카를로(Fixed-Phase Diffusion Monte Carlo, FPDMC)**를 결적으로 결합한 2단계 계산 프레임워크를 소개한다.

1. 페르미 세트 아키텍처 (변분 최적화):
   파동함수는 학습 가능한 복소수 궤도(orbitals)를 가진 소수의 슬레이터 행렬식($N_d$)의 선형 결합으로 구성되며, 대칭적이고 치환 불변(permutation-invariant)인 신경망(예: Deep Sets 또는 Transformers)에 의해 가중치가 부여된다. 안사츠(ansatz)는 다음과 같다:
   $$\Psi_\theta(R) = e^{J_\theta(R)} e^{E(R)} \sum_{k=1}^{N_d} \Omega_k(R) \det[\phi^k_i(r_j)]$$
   여기서 $J_\theta$는 자스트로우 인자(Jastrow factor, 전자 간 큐프(cusp)를 처리)이며, $E(R)$은 선택적 엔벨로프(갇힌 시스템에서의 정규화 보장)이고, $\Omega_k(R)$은 상관관계를 포착하는 대칭 함수이다. 이 아키텍처는 연속적인 반대칭 함수에 대한 범용 근사자(universal approximator)임이 증명되었다. 네트워크는 에너지를 최소화하기 위해 변분 몬테카를로(Variational Monte Carlo, VMC)를 통해 최적화된다.

2. 고정 위상 확산 몬테카를로 (평가 및 정밀화):
   최적화된 신경망 파동함수 $\Psi_\theta(R) = |\Psi_\theta(R)| e^{i\Phi_\theta(R)}$는 허수 시간(imaginary-time) FPDMC 투영을 위한 시도 상태 역할을 한다. 이 방법에서는 위상 $\Phi_\theta(R)$이 고정되며, 진폭은 위상 구배(phase gradient)로부터 유도된 척력 퍼텐셜을 포함하는 유효 해밀토니안 하에서 진화한다.

• 정확도 지표: 프레임워크는 에너지 갭 $\Delta E = E_{\text{VMC}} - E_{\text{DMC}}$를 활용한다. $E_{\text{DMC}}$는 네트워크가 학습한 특정 위상 매니폴드에 대한 변분 하한(variational lower bound)이므로, $\Delta E$가 0에 가까워진다는 것은 네트워크의 진폭 오차가 허용된 위상 내에서 최소화되었음을 의미한다.
• 수렴 기준: 네트워크 용량이 증가함에 따라 $\Delta E \to 0$이 된다면, 이는 (학습된 위상이 올바르다는 가정하에) 네트워크가 진정한 바닥 상태로 수렴했음을 의미한다.

주요 결과
이 프레임워크는 스케일링과 수렴성을 입증하기 위해 두 가지 서로 다른 시스템에 적용되었다:

1. 자기장 내의 양자점(Quantum Dot):

• 시스템: GaAs 파라미터를 가진 2D 조화 트랩 내의 $N=4$ 전자, 자기장 $B=4$ T 및 $B=8$ T 조건.
• 결과: 바닥 상태는 본질적으로 복소수 값을 가지며(시간 역전 대칭성 깨짐), 이는 복합 페르미온 상태(예: 8 T에서 $\nu=3/7$)에 해당한다.
• 스케일링: 네트워크 파라미터 수가 증가함에 따라(최대 $8.4 \times 10^4$까지), 변분 에너지($E_{\text{VMC}}$)는 단조 감소하였으며, 다중 란다우 준위(multi-Landau-level)의 정확한 대각화(ED) 벤치마크를 능가하였다.
• 수렴: 잔여 갭 $\Delta E$는 $\sim 561 \mu H^*$에서 $\sim 25 \mu H^*$ (8 T에서) 및 $\sim 24 \mu H^*$ (4 T에서)로 단조 붕괴하였으며, 통계적으로 0과 구별할 수 없는 수준이 되었다. 이는 네트워크가 통계적 해상도 내에서 정확한 바닥 상태를 찾아냈음을 확인시켜 준다.

2. 2차원 균일 전자 가스 (2D UEG):

• 시스템: $r_s = 30$ (위그너 결정화 근처의 강한 상관 영역)에서의 $N=16$ 완전 스핀 편극 전자.
• 결과: 네트워크는 약 25,000개에서 50,000개의 파라미터로 확장되었다.
• 스케일링: $E_{\text{VMC}}$와 투영된 $E_{\text{DMC}}$ 모두 단조 감소하였다. 도달한 최저 에너지($E_{\text{DMC}} \approx -0.031996$ Ha)는 최상의 Slater-Jastrow 벤치마크를 개선하였다.
• 수렴: 용량이 커짐에 따라 잔여 갭 $\Delta E$는 전자당 $1.63 \times 10^{-5}$에서 $0.57 \times 10^{-5}$ Ha로 체계적으로 감소하였으며, 이는 진폭 오차의 체계적인 억제를 나타낸다.

의의 및 주장
본 논문은 페르미 세트가 FPDMC 평가와 결합될 때, 전자 슈뢰딩거 방정식에 대한 **범용적이고 점근적으로 정확한 솔버(universal and asymptotically exact solver)**를 제공한다고 주장한다. 주요 의의는 다음과 같다:

• 신경망 파동함수는 네트워크 용량이 증가함에 따라 변분 에너지가 수렴함으로써, 체계적으로 스케일링하여 정확한 바닥 상태에 접근할 수 있음을 입증하였다.
• **고정 위상 DMC 갭($\Delta E$)**은 신경망이 자신의 변분 자유도를 충족하고 주어진 위상 매니폴드에 대해 바닥 상태로 수렴했음을 인증하는 엄밀하고 정량적인 지표 역할을 한다.
• 이 아키텍처는 필요한 복잡한 위상 와인딩(phase winding)을 묘러낼 수 없는 전통적인 Slater-Jastrow 안사츠가 접근할 수 없는 복잡한 노달 구조(예: 복합 페르미온 상태)를 성공적으로 포착한다.

저자들은 비록 위상 오차(phase error)가 $\Delta E$에 의해 직접적으로 조사되지는 않지만, 네트워크 크기에 따른 갭의 단조로운 붕괴가 페르미 세트가 네트워크 크기와 계산 자원에 의해서만 제한될 뿐, 다전자 바닥 상태에 대해 임의의 정확도에 도달할 수 있다는 강력한 증거를 제공한다고 결론지었다.