Probabilistic Computers for Neural Quantum States

본 논문은 희소 볼츠만 머신 아키텍처와 확률적 컴퓨팅 하드웨어 (FPGA) 를 결합함으로써 신경 양자 상태에서의 몬테카를로 샘플링 병목 현상을 극복하여 2 차원 횡방향 자기장 이징 모델에 대해 최대 6400 개의 스핀에 대한 정확한 바닥 상태 에너지 계산을 가능하게 하고 900 개의 스핀에 대한 심층 모델의 효율적인 훈련을 실현함을 보여준다.

핵심

수백만 명의 사람들이 서로의 이웃에게 복잡하고 보이지 않는 방식으로 끊임없이 반응하는 거대한 군중의 행동을 예측해 보라고 상상해 보세요. 물리학의 세계에서는 과학자들이 이를 '양자 다체 시스템'이라고 부릅니다. 이를 일반 컴퓨터로 시뮬레이션해 보려는 시도는 바람에 날려 흩어지는 모래알 하나하나를 세어 보려는 것과 같습니다. 매우 느리고 대규모 군중의 경우 종종 불가능합니다.

이 논문은 지능형 소프트웨어와 전용 하드웨어를 결합하여 이 문제를 해결하는 새로운 방법을 제시합니다. 간단한 비유를 사용하여 그들의 접근 방식을 살펴보면 다음과 같습니다.

1. 문제: 시뮬레이션의 '교통 체증'

과학자들은 이러한 양자 군중을 모델링하기 위해 '신경 양자 상태 (Neural Quantum States, NQS)'라는 방법을 사용합니다. 신경망을 매우 똑똑한 지도로 생각하여 군중이 어떻게 행동할지 예측한다고 볼 수 있습니다. 그러나 이 지도를 업데이트하려면 컴퓨터가 수백만 개의 무작위 시뮬레이션을 실행해야 합니다 (예: 군중에게 "만약 모두 한 걸음 왼쪽으로 움직인다면 어떻게 될까요?"라고 물어보는 것).

일반 컴퓨터 (CPU) 에서 이 샘플링 과정은 거대한 교통 체증과 같습니다. 컴퓨터가 이러한 무작위 시나리오를 생성하는 데 너무 많은 시간을 보내므로 실제로 답을 학습할 수 없습니다. 이것이 저자들이 해결하고자 했던 '병목 현상'입니다.

2. 해결책: 전용 '확률적' 엔진

범용 컴퓨터에 무작위성을 시뮬레이션하도록 맡기는 대신, 저자들은 FPGA(재프로그래밍이 가능하여 전용 하드웨어처럼 작동하는 칩) 를 사용하여 맞춤형 기계를 구축했습니다.

• 비유: 일반 컴퓨터는 손으로 도서관을 정리하려는 매우 똑똑한 사서 한 명과 같습니다. 정확하지만 느립니다. 저자들의 확률적 컴퓨터는 2,200 명의 작고 빠른 작업자 (p-bits 라고 함) 를 고용하여 모든 책이 동시에 뒤섞이도록 하는 것과 같습니다.
• 작동 원리: 이 p-bits 는 이웃에 기반하여 두 가지 상태 (동전이 앞면이나 뒷면으로 떨어지는 것과 같은) 사이를 전환하는 단순한 단위입니다. 하드웨어에 직접 내장되어 있기 때문에 무작위성이 있다는 것을 '생각'할 필요가 없습니다. 그들은 본질적으로 무작위적입니다. 이를 통해 시뮬레이션에 필요한 수백만 개의 시나리오를 거의 즉시 생성할 수 있습니다.

3. 첫 번째 돌파구: 거대한 군중 시뮬레이션

이 팀은 이 새로운 하드웨어를 사용하여 양자 스핀의 2 차원 격자 (작은 자석들의 격자와 같은) 를 시뮬레이션했습니다.

• 결과: 그들은 80x80(6,400 개의 스핀) 격자를 성공적으로 시뮬레이션했습니다.
• 중요성: 이전 방법들은 이 수준까지 도달하는 데 어려움을 겪었거나 시스템이 충돌하거나 시간이 너무 오래 걸렸습니다. 그들의 맞춤형 하드웨어는 높은 정확도로 이 규모에 도달할 수 있게 하여, 표준 컴퓨터로는 처리할 수 없는 양자 시뮬레이션을 전용 '확률적' 칩이 처리할 수 있음을 입증했습니다.

4. 두 번째 돌파구: '딥' 러닝 트릭

저자들은 또한 복잡한 패턴을 이해하는 데 더 뛰어난 '딥' 신경망 (더 많은 논리 계층을 쌓은 것) 을 사용하고자 했습니다. 그러나 딥 네트워크는 일반적으로 '마진화 (marginalization)'라는 수학적 단계를 필요로 하는데, 이는 모든 사람을 개별적으로 측정하여 군중의 평균 키를 계산하려는 것과 같습니다. 딥 네트워크에게는 계산적으로 불가능한 일입니다.

• 혁신: 그들은 **'이중 샘플링 알고리즘 (Dual-Sampling Algorithm)'**을 고안했습니다.
• 비유: 전체 군중을 한 번에 측정하려는 대신, 그들은 바깥쪽 사람들 (가시적 계층) 을 고정하고 중간에 있는 사람들 (은닉 계층) 만 뒤섞이도록 요청합니다. 이렇게 '조건부 샘플링'을 수행함으로써 불가능한 수학 계산을 수행하지 않고도 답을 알아낼 수 있습니다.
• 결과: 그들은 단일 FPGA 칩에서 30x30(900 개의 스핀) 시스템에 대해 이러한 딥 네트워크를 성공적으로 학습시켰습니다. 그들은 이러한 딥 네트워크가 실제로 더 효율적이어서 동일한 정확한 결과를 얻기 위해 더 적은 '설정'(매개변수) 이 필요하다는 것을 발견했습니다.

요약

간단히 말해, 이 논문은 두 가지 주요 주장을 합니다:

1. 하드웨어 속도: 거대한 무작위 동전 던지기 군대처럼 작동하는 맞춤형 칩 (FPGA) 을 구축함으로써, 양자 시뮬레이션이 더 커지는 것을 막던 속도 제한을 제거했습니다. 그들은 이전에 이 유형의 방법으로는 도달할 수 없었던 6,400 개의 입자로 구성된 시스템을 시뮬레이션했습니다.
2. 더 똑똑한 알고리즘: 불가능한 수학 계산을 피하는 양자 물리학용 '딥' 신경망을 학습하는 새로운 방법을 개발했습니다. 이는 더 강력하면서도 효율적인 모델을 가능하게 합니다.

저자들은 이 전용 하드웨어와 새로운 알고리즘을 결합함으로써 이제 이전보다 훨씬 크고 복잡한 양자 시스템을 시뮬레이션할 수 있게 되었으며, 이는 이전에 연구하기에는 너무 어려웠던 물질과 물리학을 이해할 수 있는 문을 열었다고 결론지었습니다.

기술 요약

기술 요약: 신경 양자 상태를 위한 확률적 컴퓨터

1. 문제 제기

양자 다체계의 정확한 고전적 시뮬레이션은 응집물질물리학과 양자화학의 근본적인 과제입니다. 양자 몬테카를로 (QMC) 와 텐서 네트워크와 같은 확립된 방법들은 높은 정밀도를 달성해 왔으나, 본질적인 한계에 직면해 있습니다: QMC 는 일반적인 시스템에서 부호 문제 (sign problem) 에 시달리며, 텐서 네트워크는 2 차원 및 임계점 근처에서 불리한 얽힘 스케일링에 어려움을 겪습니다.

신경망으로 다체 파동함수를 매개변수화하는 신경 양자 상태 (NQS) 는 확장 가능한 대안을 제공합니다. 그러나 NQS 의 변분 몬테카를로 (VMC) 학습은 마르코프 체인 몬테카를로 (MCMC) 샘플링의 계산 비용에 의해 병목 현상을 겪습니다. 시스템 크기가 커짐에 따라 샘플링을 통해 관측량과 확률적 매개변수 기울기를 추정하는 데 필요한 시간은 제한된 구조인 제약 볼츠만 머신 (RBM) 일지라도 prohibitive(부담스러운) 수준이 됩니다. 이 병목 현상은 복잡한 양자 상을 탐구하는 데 필요한 대규모 시스템 크기 (예: $>10^3$ 스핀) 로의 확장을 방해합니다.

2. 방법론

저자들은 희소 볼츠만 머신 아키텍처를 확률적 컴퓨팅 하드웨어에 직접 매핑함으로써 샘플링 병목 현상을 극복하기 위한 하드웨어 - 소프트웨어 공동 설계 접근법을 제안합니다.

A. 확률적 하드웨어 아키텍처

방법론의 핵심은 필드 프로그래머블 게이트 어레이 (FPGA) 를 사용하여 확률적 컴퓨터 (p-computer) 를 구현하는 것입니다.

• P-bits: 하드웨어는 논리 상태 $\{-1, +1\}$ 사이를 요동치는 고전적 확률적 단위인 확률 비트 (p-bits) 를 활용합니다. 이러한 단위들은 샘플링에 필요한 볼츠만 분포를 자연스럽게 구현합니다.
• 희소 연결 (FRBM): 조밀한 네트워크의 라우팅 병목 현상과 $O(N^2)$ 와이어링 복잡성을 피하기 위해, 저자들은 추가 제약 볼츠만 머신 (FRBM) 을 사용합니다. 이 아키텍처는 엄격한 지역적 연결성 (유클리드 거리 $k=2$, 스핀당 13 개의 이웃에 해당) 을 강제하여 와이어링 복잡성을 $O(N)$ 으로 줄입니다.
• 하이브리드 실행: 호스트 CPU 는 매개변수 최적화 (확률적 재구성 사용) 를 처리하는 반면, FPGA 는 고성능 샘플러 역할을 합니다. FPGA 는 병렬 p-bit 업데이트를 통해 스핀 구성을 생성하며, 이는 CPU 로 전송되어 기울기 누적 및 매개변수 업데이트에 사용됩니다.
• 정밀도: FPGA 구현은 p-bit 밀도와 병렬성을 극대화하기 위해 10 비트 고정 소수점 산술을 사용하며, 호스트 CPU 는 최적화 시 수치적 안정성을 위해 단일 정밀도 부동 소수점 (FP32) 을 사용합니다.

B. 심층 모델을 위한 이중 샘플링 알고리즘

얕은 RBM 보다 표현력이 뛰어나지만 숨은 유닛에 대한 비실용적인 주변화 (marginalization) 로 고통받는 심층 볼츠만 머신 (DBM) 의 학습을 가능하게 하기 위해, 저자들은 이중 샘플링 알고리즘을 도입합니다.

• 개념: 계산 비용이 많이 드는 보조 변수에 대한 주변화 대신, 알고리즘은 이 단계를 조건부 샘플링으로 대체합니다.
• 과정:
  1. 바깥 루프: 물리 계층에서 가시적 구성 ($v$) 을 샘플링합니다.
  2. 안쪽 루프: 각 고정된 가시적 구성에 대해 가시적 유닛을 고정 (clamp) 하고 보조 (숨은 및 심층) 계층에 대해 깁스 샘플링을 수행합니다.
  3. 추정: 국소 에너지 계산에 필요한 파동함수 비율은 고정된 가시적 상태에 대한 보조 변수들의 조건부 기대값으로 추정됩니다.
• 효율성: 이 접근법은 물리적 스핀 샘플링과 보조 계층 샘플링을 분리하여 분산을 줄이고, 단일 스핀 플립마다 재샘플링할 필요를 제거합니다. 이는 엄격한 지역성 제약 하에서 희소 심층 아키텍처의 학습을 가능하게 합니다.

C. 확장성 전략

• 멀티-FPGA 클러스터링: 대규모 시스템 (예: $80 \times 80$ 격자) 의 경우, FRBM 그래프는 METIS 그래프 분할 도구를 사용하여 여러 FPGA 에 분할됩니다. 경계 p-bits 는 고속 FMC 링크를 통해 비동기적으로 교환되는 반면, 지역 p-bits 는 동기적으로 업데이트됩니다. 이를 통해 시스템은 단일 칩의 자원을 넘어 확장될 수 있습니다.

3. 주요 기여

1. 하드웨어 가속 샘플링: 저자들은 희소 볼츠만 머신을 멀티-FPGA 클러스터에 매핑하여 CPU 및 GPU 베이스라인에 비해 막대한 샘플링 속도 향상을 달성함을 입증했습니다.
2. 이중 샘플링 알고리즘: 비실용적인 주변화를 조건부 샘플링으로 대체하여 변분 몬테카를로를 위한 희소 심층 볼츠만 머신의 학습을 가능하게 하는 새로운 알고리즘을 도입했습니다.
3. 매개변수 효율성: 저자들은 얕은 네트워크 (RBM) 에 비해 희소 심층 아키텍처 (DBM) 가 유사한 정확도를 달성하는 데 필요한 매개변수 수를 현저히 줄이면서 더 낮은 변분 에너지를 달성함을 입증하여 매개변수 효율성을 개선했습니다.

4. 결과

이 방법론은 임계점에서의 2 차원 횡장 이징 모델 (TFIM) 에서 검증되었습니다.

• 단일 FPGA 성능:

  • $35 \times 35$ 격자 (1,225 스핀) 의 경우, 시스템은 약 100 회 최적화 반복 내에서 화학적 정확도 (상대 오차 $|\Delta E/E_{ref}| \le 1.6 \times 10^{-3}$) 에 도달했습니다.
  • 샘플링은 FPGA 에서 총 벽시계 시간의 5% 미만을 소비한 반면, CPU 베이스라인은 훨씬 적은 샘플로도 시간의 20~30% 를 샘플링에 할애했습니다.
  • 바닥 상태 에너지는 강자성 및 장 극한 사이를 매끄럽게 보간하여 연속 시간 경로 적분 몬테카를로 벤치마크와 일치했습니다.

• 멀티-FPGA 확장성:

  • 6 개의 상호 연결된 FPGA 클러스터를 사용하여 저자들은 최대 $80 \times 80$(6,400 스핀) 격자를 시뮬레이션했습니다.
  • 시스템 크기가 증가함에 따라 시스템은 화학적 정확도 내에서 수렴을 유지했으며, 경계 통신 오버헤드는 최소화되었습니다 ($L=80$의 경우 절단 비율 5.6%).
  • 비동기 통신은 지역 p-bits 를 15 MHz 로 오버클럭할 수 있게 하여, 엄격한 글로벌 동기화에 필요한 클록 속도보다 훨씬 뛰어난 성능을 발휘했습니다.

• 심층 모델 학습:

  • $10 \times 10$ 격자에서 이중 샘플링 알고리즘은 희소 DBM 을 성공적으로 학습시켜 화학적 정확도를 달성했습니다.
  • 매개변수 효율성: 희소 DBM 은 유사한 정확도를 달성하는 데 필요한 희소 RBM($N_p \approx 3100$) 에 비해 약 절반의 매개변수 수 ($N_p \approx 1300$) 로 더 낮은 변분 에너지를 달성했습니다.
  • 확장성: 이 알고리즘은 단일 FPGA 에서 $30 \times 30$ 격자 (900 스핀) 에 성공적으로 적용되어, 기존에 심층 NQS 로 처리하기 어려웠던 시스템에 대한 심층 모델 학습의 실현 가능성을 입증했습니다.
  • GPU 에서의 알고리즘적 확장성 분석에 따르면, 고정된 희소성 하에서 반복 시간은 선형 차원에 따라 이차적으로 스케일링됩니다 ($t_{iter} \propto L^2$). 이는 총 스핀 수 $N=L^2$와 일치합니다.

5. 중요성 및 주장

이 논문은 확률적 하드웨어가 양자 다체계의 변분 시뮬레이션에서 샘플링 병목 현상을 효과적으로 완화한다고 주장합니다. 희소 볼츠만 머신 아키텍처와 p-bit 하드웨어를 결합함으로써 저자들은 다음을 입증합니다:

• 확장성: 현재 CPU 및 GPU 기반 NQS 구현의 한계를 넘어 최대 6,400 스핀을 가진 양자 시스템을 시뮬레이션할 수 있는 능력.
• 아키텍처 깊이: 이중 샘플링의 도입은 얕은 네트워크가 표현할 수 없는 복잡한 상관관계 (예: 부피 법칙 얽힘) 를 표현할 수 있는 능력을 가지며 더 나은 매개변수 효율성을 제공하는 심층 희소 모델의 학습을 가능하게 합니다.
• 미래 경로: 이 연구는 확률적 컴퓨팅을 양자 물질을 고전적으로 시뮬레이션하기 위한 확장 가능한 경로로 위치시킵니다. 저자들은 p-bit 아키텍처가 FPGA 프로토타입에서 전용 CMOS 회로로 성숙해감에 따라, 샘플링, 국소 에너지 평가, 기울기 누적을 단일 다이에서 통합하면 지연 시간과 에너지 소비가 수 orders of magnitude(수 차수) 감소하여 오늘날 접근 가능한 것보다 훨씬 큰 양자 시스템에 대한 VMC 를 실용화할 수 있다고 제안합니다.

저자들은 비스토퀴스틱 (non-stoquastic) 시스템에 대해서는 겸손한 태도를 유지하며, 비자명한 부호 구조를 가진 시스템으로 이 접근법을 확장하려면 복잡한 매개변수나 위상 네트워크가 필요할 것이라고 지적합니다. 이는 현재 범위를 벗어납니다. 마찬가지로, 샘플링 병목 현상은 해결되었지만, 호스트 기반의 확률적 재구성 업데이트로 인해 전체 학습 비용은 시스템 크기에 선형적으로 유지되며, 저자들은 이를 향후 하드웨어 가속의 목표로 식별합니다.