Solving Classical and Quantum Spin Glasses with Deep Boltzmann Quantum States

본 논문은 자연기울기 업데이트 및 문제 난이도 보간과 같은 고급 훈련 전략과 효율적인 블록 깁스 샘플링을 결합한 신경망 프레임워크인 딥 볼츠만 양자 상태를 소개하여, 현재 양어닐링의 능력을 초과하는 도전적인 고전적 및 양자 스핀 글래스 모델과 NP-난해 조합 최적화 문제를 성공적으로 해결합니다.

핵심

거대한 안개 낀 험준한 산맥에서 절대적인 최저점을 찾으려 한다고 상상해 보세요. 이는 단순한 산맥이 아닙니다. 이는 '스핀 글래스' 지형입니다. 물리학에서 이러한 시스템은 입자(스핀)들이 좌절감을 겪는 곳입니다. 입자들은 특정 위치에 있기를 원하지만, 이웃들은 그들을 다른 곳에 두기를 원해 혼란스러운 함정의 소용돌이를 만들어냅니다.

만약 표준 지도(전통적인 컴퓨터 방법)를 사용하여 이 산을 내려가려 한다면, 당신은 아마도 작은 골짜기에 갇혀 바닥에 도달했다고 생각할 것입니다. 하지만 바로 다음 능선 너머에 훨씬 더 깊은 골짜기가 존재할 수 있습니다. 이 논문은 이러한 것을 '국소 최소값'이라고 부르며, 이것이 컴퓨터가 이러한 문제를 해결하는 데 어려움을 겪는 이유라고 설명합니다.

여기서 이 논문의 저자들이 딥러닝과 양자물리학 개념을 혼합하여 이를 해결하려는 방법을 제시합니다.

1. 새로운 지도: 딥 볼츠만 양자 상태 (DBQS)

이 퍼즐을 해결하려는 표준 컴퓨터를 한 번에 한 걸음만 내딛을 수 있는 등산객으로 생각해 보세요. 만약 그들이 벽에 부딪히면, 뒤로 돌아서 다른 작은 걸음을 시도해야 합니다. 이는 복잡한 지형에서 매우 느리고 비효율적입니다.

저자들은 **딥 볼츠만 양자 상태 (DBQS)**라는 새로운 도구를 소개합니다.

• 비유: 등산객 대신, 산맥 전체를 한 번에 볼 수 있는 '유령'(잠재 변수) 팀이 있다고 상상해 보세요. 이 유령들은 땅을 밟지 않습니다 (직접 에너지에 기여하지 않습니다). 하지만 그들은 실제 등산객들 (물리적 스핀) 과 손을 잡고 그들을 안내합니다.
• 이점: 이 유령들이 전체 그림을 '볼' 수 있기 때문에, 시스템은 전역 업데이트를 수행할 수 있습니다. 한 걸음씩 내딛는 대신, 팀 전체가 유망해 보이는 곳으로 산의 완전히 다른 부분으로 함께 점프할 수 있습니다. 이는 다른 방법들을 가두는 작고 가짜인 골짜기에 갇히는 것을 방지합니다.

2. 훈련 전략: 신경 양자 어닐링 (NQA)

훌륭한 지도가 있더라도 바닥에 도달하기 위해서는 좋은 전략이 필요합니다. 저자들은 **신경 양자 어닐링 (NQA)**이라는 방법을 사용합니다.

• 비유: 가구가 가득 찬 어두운 방에서 최저점을 찾으려 한다고 상상해 보세요. 그냥 무작위로 걷기 시작하면 사물에 부딪히게 될 것입니다.
  • '쉬운' 시작: 먼저 방은 비어 있고 평평합니다. 당신은 쉽게 중심을 찾을 수 있습니다.
  • '어려운' 끝: 그다음, 천천히 가구 (복잡한 문제) 가 나타나기 시작합니다.
  • 전략: 알고리즘은 빈 방에서 시작합니다. 가구가 천천히 나타나면서, 알고리즘은 새로운 장애물에 대해 최상의 위치에 머물 수 있도록 당신의 위치를 부드럽게 밀어줍니다. 이는 혼란스러운 방을 한 번에 해결하려고 시도하지 않습니다. 쉬운 것에서 시작해 점차 어렵게 만들어가며 해답을 '가열'합니다.
• 반전: 저자들은 이 과정의 모든 단계에서 완벽하게 정밀할 필요가 없다는 것을 깨달았습니다. 방이 가구로 가득 찼을 때 이미 올바른 구석에 있도록, 올바른 경로에 '충분히 가깝게' 머무르기만 하면 됩니다. 이는 막대한 양의 컴퓨팅 파워를 절약해 줍니다.

3. 결과: 해결 불가능한 문제의 해결

이 팀은 이 새로운 '유령 등산객' 시스템을 두 가지 유형의 도전 과제에서 테스트했습니다.

• 물리학 테스트 (셔링턴 - 커크패트릭 모델): 그들은 100 개 및 200 개의 스핀을 가진 시스템에 대한 최저 에너지 상태를 찾으려 했습니다.

  • 결과: 표준 방법들 (예: '작은 걸음을 내딛는 등산객') 은 실패하거나 갇혔습니다. 그들의 새로운 방법은 거의 모든 테스트 사례에서 정확한 최저점 (또는 구별할 수 없을 정도로 매우 가까운 점) 을 찾았습니다. 그들은 심지어 200 개의 스핀이 포함된 버전도 해결했는데, 이는 전통적인 정확한 컴퓨터 솔버들이 보통 포기하는 규모입니다.

• 현실 세계 테스트 (조브 샵 스케줄링): 그들은 작업을 기계에 할당하여 가능한 한 빨리 완료하는 고전적인 물류 문제에 이를 적용했습니다. 이는 '조합 최적화' 문제이며, 수학적으로 스핀 글래스 문제와 매우 유사합니다.

  • 결과: 그들은 현재 양자 컴퓨터 (예: D-Wave 기계) 가 하드웨어에조차 담을 수 없을 정도로 너무 큰 문제 사례들을 해결했습니다. 수백 개의 변수가 포함된 문제에 대한 최적의 일정을 성공적으로 찾았습니다.

• 양자 테스트 (횡방향 필드 SK): 그들은 또한 양자 효과 (예: 입자가 한 번에 두 곳에 있는 것) 가 활성화된 문제의 버전도 해결해 보았습니다.

  • 결과: 그들의 방법은 100 개 스핀 양자 시스템에 대한 바닥 상태를 성공적으로 식별하여, 이 방법이 '고전적' 퍼즐뿐만 아니라 진정한 양자 미스터리에도 작동함을 증명했습니다.

요약

간단히 말해, 저자들은 한 번에 전체 문제를 볼 수 있는 '유령' 도우미를 사용하는 스마트한 딥러닝 기반 가이드를 구축했습니다. 거대하고 messy 한 퍼즐을 한 번에 해결하려 시도하는 대신, 쉬운 버전으로 시작해 점차 난이도를 높여가며 해답을 안내합니다.

이 접근 방식을 통해 그들은 현재 표준 컴퓨터로는 너무 어렵고 기존 양자 하드웨어로는 너무 큰 복잡한 최적화 문제와 양자 물리학 퍼즐을 해결할 수 있게 되었습니다. 그들은 단순히 산을 내려가는 더 나은 방법을 찾은 것이 아니라, 바닥으로 순간이동하는 방법을 찾았습니다.

기술 요약

기술적 요약: 심층 볼츠만 양자 상태를 이용한 고전적 및 양자 스핀 글래스 해결

문제 제기
동결된 무질서 (quenched disorder) 와 에너지 좌절 (energy frustration) 의 존재로 인해 고전적 및 양자 스핀 글래스의 바닥상태 문제를 해결하는 것은 여전히 formidable 한 도전 과제로 남아 있습니다. 이러한 요인들은 높은 에너지 장벽으로 분리된 지수적으로 많은 수의 국소 최소값을 특징으로 하는 거친 에너지 지형을 생성합니다. 이러한 위상은 국소 업데이트 규칙에 의존하고 국소 함정에 빠져나가는 데 어려움을 겪는 기존 메트로폴리스 기반 몬테카를로 (MCMC) 방법의 효율성을 방해하여, 지수적으로 느린 혼합 시간을 초래합니다. 신경 양자 상태 (NQS) 는 강상관 계의 바닥상태 문제 해결에서 성공을 보였으나, 표준 NQS 구현은 일반적으로 국소 메트로폴리스 업데이트에 의존하여 유리질 시스템에서 MCMC 의 샘플링 비효율성을 계승합니다. 또한, 물리적 양자 어닐링 (QA) 하드웨어는 노이즈, 유한 온도 효과, 제한된 큐비트 연결성, 그리고 임베딩 오버헤드에 관한 한계에 직면하여 종종 대규모 또는 복잡한 조합 최적화 문제의 해결을 방해합니다.

방법론
저자들은 새로운 변분 안사츠인 심층 볼츠만 양자 상태 (DBQS) 와 신경 양자 어닐링 (NQA) 이라는 고급 훈련 알고리즘을 결합한 프레임워크를 제안합니다.

1. 심층 볼츠만 양자 상태 (DBQS):

   • 저자들은 심층 볼츠만 머신 (DBM) 에서 영감을 받은 변분 안사츠인 볼츠만 관자 상태 (BQS) 를 도입합니다. 이 공식에서 물리 시스템은 관측되지 않은 양자 자유도로 해석되는 숨겨진 양자 스핀을 도입함으로써 확장됩니다.
   • 이 확장된 시스템 위에 자스트로 (Jastrow) 류의 변분 파동함수가 정의됩니다. 숨겨진 스핀은 에너지에 직접 기여하지는 않지만 물리 스핀 간의 양자 상관관계를 인코딩합니다.
   • 결정적으로, DBQS 아키텍처는 고전적 DBM 에서 효율적인 블록 깁스 샘플링 능력을 계승합니다. 국소 메트로폴리스 업데이트가 필요한 표준 NQS 와 달리, DBQS 는 모든 층의 스핀이 동시에 업데이트되는 전역 업데이트를 허용합니다. 이로 인해 시스템 크기가 증가함에 따라 자기상관 시간이 $O(1)$로 유지되어 국소 업데이트 규칙에 비해 최소 한 자릿수 이상의 속도 향상을 제공합니다.
   • 이 공식은 계산 작업을 단순화합니다: 분석적 변분 미분은 스핀 변수의 단순한 곱으로 이루어져 역전파를 피하며, 국소 연산자 (예: 국소 에너지) 는 단순한 행렬 곱셈으로 축소됩니다.

2. 신경 양자 어닐링 (NQA):

   • 목표 해밀토니안에서 직접 최적화하는 어려움을 해결하기 위해, 저자들은 변분 양자 어닐링 (VQA) 프레임워크를 적응합니다.
   • 완화된 단열성: 알고리즘은 매개변수 $s$를 통해 쉬운 영역 (비상호작용 드라이버) 에서 어려운 영역 (목표 스핀 글래스) 으로 문제 해밀토니안을 보간합니다. 엄격한 단열 진화와 달리, NQA 는 중간 시간대에 변분 다양체가 순간 단열 상태를 밀접하게 근사할 것을 요구하지 않습니다. 대신, 한 단계의 해를 다음 단계의 '웜 시작 (warm start)'으로 사용하여 후속 단계의 수치적 오차를 보상합니다.
   • 최적화 향상: 표준 확률적 재구성 (SR) 알고리즘은 모멘텀과 고급 확률적 최적화 기법과 함께 보강됩니다. 이 조합은 수렴을 가속화하고 훈련을 안정화합니다.
   • 촉매: 이 프레임워크는 에너지 지형을 재구성하여 1 차 상전이를 완화하고 샘플링을 개선할 수 있는 촉매 해밀토니안 ($H_C$), 구체적으로 비 스토퀴스틱 항 ($\sum \sigma_y$) 의 포함을 허용합니다. 이는 현재 양자 어닐러에서는 사용할 수 없는 기능입니다.
   • 지속적 사슬: 알고리즘은 어닐링 스케줄 전체에 걸쳐 지속적 마르코프 사슬의 앙상블을 유지하며, 재열화하는 대신 마지막 상태로부터 이를 재개하여 효율성을 더욱 향상시킵니다.

주요 기여

• 새로운 안사츠: 유리질 시스템에 특화되어 심층 신경망의 표현력과 블록 깁스 사슬의 샘플링 효율성을 결합한 DBQS 의 도입.
• 알고리즘적 프레임워크: 자연 기울기와 모멘텀, 완화된 단열성 조건, 그리고 지속적 깁스 샘플링을 통합하여 거친 에너지 지형을 탐색하는 NQA 의 개발.
• 계산 효율성: 역전파와 국소 메트로폴리스 샘플링의 계산 병목 현상을 피하여 수백 개의 스핀을 가진 시스템의 연구를 가능하게 하는 제안된 방법의 입증.
• 하이퍼파라미터 최적화: 임의의 고정 값을 피하고 관련 매개변수를 조정하기 위해 Optuna 를 통한 자동화된 하이퍼파라미터 최적화 (HPO) 의 활용.

결과
저자들은 여러 까다로운 문제에 대해 그들의 방법을 벤치마크했습니다:

• 고전적 셔링턴 - 커크패트릭 (SK) 모델: 무한 범위 상호작용을 가진 $N=100$ 및 $N=200$ 스핀에 대해, DBQS 와 NQA 를 결합한 방법은 정확하거나 근사적으로 정확한 바닥상태 에너지를 달성했습니다. 구체적으로 $N=200$의 경우, 이 방법은 10 개 사례 중 8 개에서 정확한 바닥상태를 찾아냈으며, 계산 예산 내에서 이러한 사례를 해결하지 못했던 표준 SR 최적화 및 이전 NQS 접근법 (cRBM, RBQS) 보다 우수한 성능을 보였습니다.
• 조브 샵 스케줄링 문제 (JSSP): 이 방법은 NP-하드인 JSSP 의 결정 버전으로 재형성된 아이징 스핀 글래스에 적용되었습니다. 저자들은 D-Wave Advantage 2 양자 어닐러의 임베딩 능력을 초과하는 (변수 가지치기 후) 수백 개의 스핀을 가진 사례들을 해결했습니다. 그들은 테스트된 10 개 사례 중 8 개에 대해 정확한 해를 찾았습니다.
• 횡단장 SK 모델: $N=100$ 스핀을 가진 양자 스핀 글래스에 대해, 이 방법은 스핀 글래스 위상 내에서 바닥상태를 성공적으로 식별했습니다. 결과는 최선의 시도가 고전적 바닥상태 에너지보다 낮은 에너지로 수렴했음을 보여주어 양자 효과를 성공적으로 포착했음을 나타냅니다. $N=16$의 경우, 이 방법은 정확한 대각화 결과와 일치했습니다.

의의 및 주장
이 논문은 효율적인 전역 업데이트 규칙 (DBQS) 을 갖춘 심층 신경 아키텍처가 어닐링에서 영감을 받은 방식 (NQA) 으로 훈련될 때 고전적 및 양자 스핀 글래스 문제를 해결하는 강력하고 유연한 프레임워크를 제공한다고 주장합니다. 저자들은 이 접근법이 무질서한 양자 다체 시스템의 조사와 기존 정확한 고전적 솔버 및 양자 어닐링 하드웨어의 현재 한계를 초과하는 규모에서의 현실 세계 하드 조합 최적화 작업의 해결을 가능하게 한다고 단언합니다. 이 연구는 대규모 양자 스핀 글래스 연구와 전통적 휴리스틱 및 물리적 양자 장치가 어려움을 겪는 NP-하드 문제 해결을 위한 실행 가능한 대안으로 이 방법론을 위치시킵니다. 저자들은 이 접근법이 휴리스틱이며 해결 시간 (time-to-solution) 에 대한 엄격한 이론적 보장이 부족하지만, 다양한 벤치마크에 걸친 일관된 경험적 성능이 이를 실용적 응용을 위한 유망한 후보로 시사한다고 지적합니다.