Dreaming up scale invariance via inverse renormalization group

기술적 요약: 역 재규격화 군을 통한 스케일 불변성 구상

문제 제기
재규격화 군 (RG) 은 통계 물리학의 기초적인 틀로, 미시적 자유도를 체계적으로 거시화 (coarse-graining) 함으로써 임계점 근처의 보편적 거동을 설명합니다. 그러나 이 거시화 과정은 본질적으로 정보 손실이 발생하며 단방향적입니다. 짧은 거리 세부 사항을 필터링하기 때문에 RG 변환의 역변환, 즉 거시화된 상태로부터 미시적 구성을 재구성하는 것은 구성 수준에서 형식적으로 불가능합니다. 최근의 딥러닝 접근법들은 복잡한 아키텍처를 사용하여 RG 변환을 역전시키려 시도했으나, 이러한 복잡성이 필수적인지, 아니면 더 간단한 모델이 본질적인 스케일 불변 물리를 포착할 수 있는지는 여전히 불분명합니다. 저자들은 다음과 같은 질문을 제기합니다: RG 를 역전시키고 스케일 불변 물리를 재현할 수 있는 가장 단순한 신경망은 무엇입니까?

방법론
저자들은 보편성의 전형적인 예인 2 차원 이징 (Ising) 모델을 사용하여 이 문제를 연구합니다. 그들의 접근법은 최소한의 신경망을 훈련시켜 "업스케일링"을 수행하는 것으로, 거시화된 블록 스핀 구성 ($\mu$) 에서 미세화된 스핀 구성 ($\sigma$) 을 구상하는 것입니다.

• 모델 아키텍처: 심층 다층 네트워크 대신 저자들은 단일 층 합성곱 네트워크를 사용합니다. 업스케일링 절차는 두 단계로 구성됩니다:
  1. 최근접 이웃 업샘플링: $L/2 \times L/2$ 입력의 각 스핀이 $2 \times 2$ 블록으로 복제되어 중간 필드를 생성합니다.
  2. 합성곱 필터링: 작은 크기 $k$ (구체적으로 $k=3, 5, 7$) 를 가진 합성곱 커널 $W_c$ 를 적용하여 서로 다른 블록 내의 스핀 간 상관관계를 도입합니다. 커널은 격자의 $Z_2$ 대칭성 (편향 항 없음) 과 공간 대칭성 (회전 및 반사) 을 존중합니다.
     블록 구성이 주어졌을 때 스핀 구성의 조건부 확률은 로지스틱 분포로 모델링됩니다: $p(\sigma_i|\mu) \propto \exp(\sigma_i (W\mu)_i)$.
• 훈련: 네트워크는 $L_t \times L_t$ (일반적으로 $32 \times 32$) 크기의 몬테카를로 (MC) 로 생성된 구성을 사용하여 임계점 ($K_c$) 에서 훈련됩니다. 목표는 실제 결합 확률 분포 $P(\sigma, \mu)$ 와 모델의 분포 $Q(\sigma, \mu)$ 사이의 쿨백 - 라이블러 발산을 최소화하는 것입니다. 훈련 세트 크기 $M$ 은 최대 $10^6$ 입니다.
• 생성: 이전 연구들이 중간 크기의 MC 구성에서 업스케일링을 시작했던 것과 달리, 본 연구는 단일 무작위 스핀 ($L_0=1$) 에서 시작하여 학습된 업스케일링 커널을 반복적으로 적용하여 대규모 구성 ($L$ 최대 128) 을 생성합니다.

주요 기여 및 결과
본 연구는 극도로 단순한 모델이 RG 절차를 역전시키고 임계 구성을 생성하는 데 성공할 수 있음을 보여줍니다:

1. 최소 파라미터 성공: 커널 크기 $k=3$ 인 세 개의 훈련 가능 파라미터만 가진 네트워크조차도 주요 열역학 관측량을 재현하는 임계 구성을 생성하기에 충분합니다.
2. 스케일링 거동: 생성된 구성은 자기 감수율 ($\chi$), 자화 - 에너지 축적량 ($c_{me}$), 그리고 빈더 비율 ($U_4$) 에 대해 올바른 유한 크기 스케일링을 나타냅니다. 이러한 관측량에서 유도된 임계 지수 $\gamma/\nu$ 와 $1/\nu$ 는 커널 크기가 증가함에 따라 정확한 값으로 수렴하지만, 가장 작은 커널조차도 스케일링 추세를 포착합니다.
3. 실공간 RG 분석: 생성된 구성에 대한 엄격한 테스트인 실공간 재규격화 군 (RSRG) 분석은 모델이 스케일 불변성뿐만 아니라 RG 변환 행렬의 비자명한 고유값도 포착함을 확인시켜 줍니다. 모델은 MC 데이터에 비해 정확한 값에서 일부 편차가 있기는 하지만, 관련 고유값 ($y_h, y_\tau$) 과 주요 스케일링 보정 지수 ($\omega$) 를 재현합니다.
4. 순서 변수 분포: 생성된 구성에 대한 순서 변수의 확률 분포 함수 (PDF) 는 재스케일링 시 단일 보편적 곡선으로 수렴하여, 모델이 고정점의 RG 관련 구조를 포착함을 확인시켜 줍니다.
5. 복잡성의 비효율성: 직관에 반하는 발견은 아키텍처 복잡성을 증가시키는 것 (예: 두 번째 층과 비선형성 추가) 이 성능을 향상시키지 못한다는 것입니다. 실제로 더 복잡한 모델들은 종종 최소 단일 층 모델에 비해 열용량과 같은 에너지 변동량에 대해 더 낮은 성능을 보입니다.

의의 및 주장
본 논문은 임계 현상에서 보편성의 본질이 시에르핀스키 삼각형과 같은 프랙탈 구조의 반복적 생성과 유사한 단순하고 국소적이며 대칭적인 변환 규칙으로 인코딩될 수 있다고 주장합니다. 저자들은 다음과 같이 논합니다:

• 단순성으로 충분함: 복잡한 딥러닝 아키텍처는 스케일 불변 물리를 학습하는 데 필요하지 않으며, 소수의 파라미터를 가진 최소 모델이 임계 분포의 RG 관련 구조를 견고하게 재현할 수 있습니다.
• 해석 가능성: 최소 모델의 성공은 상전이 현상을 지배하는 핵심 정보가 저차원적이며 딥 네트워크의 "블랙박스" 특성 없이 포착될 수 있음을 시사합니다.
• 생성적 잠재력: 이러한 발견은 모델이 스케일 불변성의 통계적 구조를 학습하도록 훈련된다면 명시적인 해밀토니안이나 미시적 입력에 의존하지 않는 통계적 앙상블의 효율적인 생성 모델을 위한 길을 제시합니다.

저자들은 결과의 정확성에 대해 겸손하게 접근하며, 생성된 구성이 정확한 임계 확률 분포 $P_\star$ 에서 샘플링된 것은 아니며 특정 지수 (특히 $\eta$) 에서의 불일치가 지속된다고 인정합니다. 그러나 그들은 이러한 단순한 신경망이 스케일 불변 물리를 "구상"할 수 있는 능력은 보편적 임계 거동을 포착하는 데 복잡성이 필수적이라는 가정에 도전한다고 강조합니다.