Walshness: an intrinsic neural-network representability metric for quantum states

제목: Walshness: 양자 상태에 대한 내재적 신경망 표현 가능성 지표

문제 정의
신경 양자 상태(NQS)는 양자 다체계를 시뮬레이션하는 강력한 도구가 되었으나, 근본적인 이론적 간극이 존재한다: 특정 양자 상태가 신경망에 의해 효율적으로 표현될 수 있는지를 예측할 수 있는 정량적이고 내재적인 지표가 없다. 텐서 네트워크의 경우 얽힘 엔트로피(entanglement entropy)가 효율성을 결정하지만, NQS의 복잡성은 신경망의 비선형 파라미터화, 양자 파동함수의 복잡한 부호 구조, 그리고 기저(basis) 선택에 대한 강한 의존성으로 인해 더욱 복잡하다. 기존의 경험적 연구들은 한 기저에서 효율적으로 표현 가능한 상태가 다른 기저에서는 실패할 수 있음을 시사하지만, 기저 선택과 표현 가능성을 연결하는 체계적인 이론은 부족했다.

방법론
저자들은 Walsh-Hadamard 변환($\mathbb{Z}_2^n$ 상의 이산 푸리에 변환)으로부터 유도된 Walshness라는 새로운 복잡도 지표를 도입한다.

1. 정의:

   • Walsh 스펙트럼: 상태 $|\psi\rangle = \sum_s \psi(s)|s\rangle$에 대하여, Walsh-Hadamard 변환은 계수 $\hat{\psi}(r)$을 산출한다. Walsh 스펙트럼 $p_\psi(r) = |\hat{\psi}(r)|^2 / \sum |\hat{\psi}(r)|^2$은 고전적 확률 분포로 취급된다.
   • 고정 기저 Walshness ($W^Z_\alpha$): $W^Z_\alpha[|\psi\rangle] = \frac{1}{\alpha} \log \mathbb{E}_{r \sim p_\psi}[e^{\alpha |r|_1}]$로 정의된다 (여기서 $|r|_1$은 해밍 무게(Hamming weight)이다). 이 지표는 특정 기저에서의 파동함수의 "진동(oscillatory)" 특성을 정량화한다; 높은 값은 푸리에 모드가 높은 해밍 무게에 집중되어 있음을 나타낸다.
   • 내재적 Walshness ($W_\alpha$): 기저 의존성을 제거하기 위해, 저자들은 모든 단일 사이트 유니터리 변환 $U = \bigotimes U_i$에 대한 $W^Z_\alpha$의 최솟값으로 내재적 Walshness를 정의한다.

2. 최적화 알고리즘:
   저자들은 내재적 Walshness를 최소화하는 것이 고전 스핀 모델의 에너지를 최소화하는 것과 동치임을 증명한다. 구체적으로, $W_\alpha$를 최소화하는 것은 기대값 $E[\{\hat{n}_j\}] = \langle \prod_j A_\alpha(\hat{n}_j) \rangle$를 최소화하는 국소 축(local axes) $\{\hat{n}_j\}$를 찾는 데 대응된다 (여기서 $A_\alpha$는 $\alpha$에 의존하는 특정 연산자이다). 이를 통해 최적의 국소 기저를 찾기 위한 좌표 하강(coordinate descent) 알고리즘을 사용할 수 있다.

3. 이론적 증명:
   본 논문은 Walshness와 다층 퍼셉트론(MLP) 및 제한 볼츠만 머신(RBM)의 표현 가능성 사이의 엄격한 양방향 경계(two-sided bounds)를 확립한다:

   • 순방향: 낮은 고정 기저 Walshness를 가진 양자 상태는 임의의 상수 오차(constant infidelity) 내에서 효율적인 MLP 표현(다항식 너비, 로그 깊이)을 갖는다. 반대로, 높은 Walshness를 가진 상태는 효율적으로 표현하기 위해 깊은 네트워크(깊이 $\Omega(\log n)$ 이상)를 필요로 한다.
   • 역방향: 압축된 MLP 표현이 존재한다는 것은 해당 상태가 낮은 Walshness를 가져야 함을 의미한다.
   • RBM 확장: 파동함수의 로그에 대한 유사한 "곱셈적 Walshness(multiplicative Walshness)"가 정의되어, RBM에 대한 유사한 경계들을 확립한다.

주요 결과

• 이론적 특성화: 저자들은 NQS 학습 가능성에 대한 정밀한 특성화를 제공한다. 그들은 어떤 기저에서 Walshness가 유계(bounded)라면 해당 상태는 얕은 신경망에 의해 효율적으로 표현 가능하다는 것을 증명한다.
• 기저 최적화: 제안된 알고리즘은 다양한 물리적 상태에 대해 Walshness를 최소화하는 국소 기저를 성공적으로 식별한다.
• 경험적 검증:
  • 강자성체(Ferromagnets): 이 방법은 $|+x\rangle$ 상태(상수 파동함수)가 zero Walshness를 가지며 학습하기 매우 쉽다는 점과, $|-x\rangle$ 상태(패리티 함수)가 Z-기저에서 최대 Walshness를 가지며 지수적으로 학습하기 어렵다는 점을 정확히 식별한다.
  • 횡장 이징 모델(TFIM): 강자성 상(phase, $g < 1$)에서, Walshness를 최소화하는 기저는 자발적으로 번역 대칭성(translation symmetry)을 깨뜨리는 주기-2 격자 구조(period-two staggering)를 보인다. 이 최적화된 기저에서 NQS를 훈련하면 표준 계산 기저에 비해 더 큰 시스템 크기($n=24, 26$)에서도 오차율(infidelity)이 수 차례(orders of magnitude) 감소한다.
  • 좌절된 반강자성체(Frustrated Antiferromagnets): 이 방법은 비좌절된 이분 그래프 반강자성체의 잘 알려진 마셜 부호 규칙(Marshall sign rule)을 회복하며, 이를 좌절된 영역(예: 2D XYZ 반강자성체)으로 일반화하여 표준 마셜 규칙보다 더 낮게 Walshness를 줄이는 기저 회전을 찾아낸다.
    위상적 질서(topological order)를 가진 상태의 경우, Walshness 감소가 상당할 때 학습 가능성이 크게 개선되지만, 감소가 미미한 자기 쌍대점(self-dual points) 근처에서는 이점이 줄어든다.

의의 및 주장
본 논문은 텐서 네트워크에 대한 얽힘 엔트로피의 역할과 유사하게, 양자 상태에 대한 최초의 내재적 복잡도 지표이자 신경망 표현 가능성과 양방향으로 연결되는 증명 가능한 지표를 제공한다고 주장한다.

• 진단 도구: Walshness는 얽힘이나 매직(magic)과는 구별되는, 양자 상태를 진단하는 새로운 관점을 제공하며, 잠재적으로 양자 상, 임계성(criticality), 그리고 위상적 질서에 대한 통찰을 제공한다.
• 실용적 유용성: 이 지표는 NQS 연구자들에게 실질적인 도구 역할을 한다. 최적의 국소 기저를 찾기 위해 Walshness를 최소화함으로써, NQS의 학습 능력과 정확도를 크게 향와시킬 수 있으며, 종종 오차율을 수 차례 감소시킬 수 있다.
• 휴리스틱의 일반화: 이 프레임워크는 마셜 부호 규칙과 같은 기존의 물리적 휴리스틱을 회복하고 일반화하며, 이는 양자 몬테카를로 및 NQS에서의 부호 문제(sign problem)를 다루는 통합된 접근법을 시사한다.

저자들은 본 연구의 범위에 대해 신중한 태도를 유지하며, 결과가 시스템 크기에 대해 점근적(asymptotic)이며 주로 과소 매개변수화된(underparameterized) 안사츠(ansatz)에 적용된다는 점을 명시한다. 또한, 이 방법이 최적화를 개선하기는 하지만 과잉 매개변수화된(overparameterized) 영역에서의 표현 가능성을 보장하는 것은 아니며, 최적의 기저를 찾는 계산 비용은 정확한 방법 사용 시 시스템 크기에 따라 지수적으로 증가할 수 있음을 인정한다. 다만, 본 논문은 원리의 이론적 존재성과 수치적 시연에 초점을 맞춘다.