Biorthogonal Neural Network Approach to Two-Dimensional Non-Hermitian Systems

이 논문은 비허미션 (Non-Hermitian, NH) 양자 다체 시스템의 기저 상태 (ground state) 를 연구하기 위해 이중 직교 (Biorthogonal) 신경망 접근법을 제안하고 있습니다. 기존 수치 기법들이 비허미션 시스템의 복잡한 물리 현상을 다루는 데 한계를 보였던 반면, 저자들은 변분 몬테카를로 (VMC) 와 신경망 양자 상태 (NQS) 를 결합하여 새로운 최적화 프레임워크를 개발했습니다.

주요 내용은 다음과 같습니다.

1. 연구 배경 및 문제 제기

• 비허미션 시스템의 중요성: 광자 시스템, 소산이 있는 개방 양자 시스템, 측정 및 사후 선택 (post-selection) 이 포함된 시스템 등 현실 세계의 많은 물리 현상은 비허미션 해밀토니안으로 설명됩니다. 이는 비허미션 스킨 효과 (NH skin effect), 예외점 (Exceptional Points, EP), 비정상 위상 전이 등 고유한 현상을 유발합니다.
• 기존 방법의 한계:
  • 레이리 - 리츠 (Rayleigh-Ritz) 변분 원리의 붕괴: 비허미션 시스템에서는 에너지 스펙트럼이 복소수이고 고유상태들이 직교하지 않기 때문에, 기존 허미션 시스템에서 사용하는 에너지 최소화 변분 원리가 적용되지 않습니다.
  • 수치적 어려움: 2 차원 이상의 강하게 상호작용하는 비허미션 시스템은 밀도 행렬 재규격화 군 (DMRG) 이나 텐서 네트워크, 양자 몬테카를로 (신호 부호 문제로 인해) 등 기존 기법으로 다루기 매우 어렵습니다.
  • 기존 VMC 적용의 문제: 단순히 VMC 를 적용할 경우, 에너지 파라미터를 변분 파라미터로 취급하는 방식은 최적화 과정에서 saddle point(안장점) 를 생성하여 수렴을 방해하거나, 국소 최소값에 갇히기 쉽습니다.

2. 제안된 방법론: 이중 직교 신경망 및 자기 일관성 최적화

저자들은 비허미션 시스템의 왼쪽 (Left) 및 오른쪽 (Right) 고유상태의 이중 직교 구조를 기반으로 한 새로운 프레임워크를 제시합니다.

• 이중 직교 형식주의 (Biorthogonal Formalism):
  • 해밀토니안 $\hat{H}$의 오른쪽 고유상태 $|R_n\rangle$과 왼쪽 고유상태 $|L_n\rangle$을 정의합니다 ($\hat{H}|R_n\rangle = \lambda_n|R_n\rangle$, $\hat{H}^\dagger|L_n\rangle = \lambda_n^*|L_n\rangle$).
  • 물리량의 기댓값은 $\langle \tilde{\psi} | \hat{O} | \psi \rangle / \langle \tilde{\psi} | \psi \rangle$ 형태로 계산되며, 여기서 $|\psi\rangle$는 오른쪽 상태, $|\tilde{\psi}\rangle$는 왼쪽 상태 (dual state) 입니다.
• 분산 최소화 (Variance Minimization) 기반 손실 함수:
  • 에너지 최소화가 불가능하므로, 분산 최소화를 목표로 합니다.
  • 손실 함수는 $L_R[\psi, \varepsilon] = \frac{\langle \psi | \hat{V}_R(\varepsilon) | \psi \rangle}{\langle \psi | \psi \rangle}$로 정의되며, 여기서 $\hat{V}_R(\varepsilon) = (\hat{H}^\dagger - \varepsilon^*)(\hat{H} - \varepsilon)$입니다.
  • $\varepsilon$은 에너지 추정치 역할을 하며, 이 값이 실제 고유값과 일치할 때 분산이 0 이 됩니다.
• 자기 일관성 최적화 (Self-Consistent Optimization):
  • 핵심 아이디어: 에너지 추정치 $\varepsilon$을 고정된 파라미터로 두거나 단순 경사 하강법으로 업데이트하는 대신, 양자 상태 $|\psi\rangle$와 그 쌍대 상태 $|\tilde{\psi}\rangle$의 파라미터 업데이트 사이클 내에서 $\varepsilon$을 동적으로 업데이트합니다.
  • $\varepsilon = \frac{\langle \tilde{\psi} | \hat{H} | \psi \rangle}{\langle \tilde{\psi} | \psi \rangle}$로 정의하여, 두 상태가 진정한 이중 고유상태 쌍이 되도록 강제합니다.
  • 이 방식은 손실 함수의 지형 (landscape) 에서 saddle point 문제를 완화하고, 최적화 안정성을 높입니다.
• 초기화 전략 (Targeting the Ground State):
  • Warm-start (온난화 시작): 허미션 극한 ($k=0$) 에서의 기저 상태를 구한 후, 비허미션 항을 서서히 증가시키며 (adiabatic continuation) 최적화합니다.
  • Fixed-start (고정 시작): 에너지 하한선이나 평균장 해를 초기 $\varepsilon$으로 고정하여 시작하고, 점차 자기 일관성 방식으로 전환합니다.
  • 이 두 방법을 결합하여 예외점 (EP) 근처의 복잡한 위상 전이 영역에서도 정확한 기저 상태를 찾을 수 있도록 합니다.

3. 주요 결과 및 검증

논문은 **복소 종방향 장을 가진 2 차원 비허미션 횡장 이징 모델 (NH-TFIM)**을 테스트베드로 사용하여 방법을 검증했습니다.

• 정확도 향상: 제안된 자기 일관성 방법은 기존 '에너지 파라미터화' 방법보다 약 10 배 이상 높은 정확도를 보였습니다. 특히 예외점 (EP) 근처와 PT 대칭 깨짐 (broken-PT) 위상에서 뛰어난 성능을 발휘했습니다.
• 2 차원 시스템 확장성:
  • DMRG 비교: 2 차원 격자 (6x6, 8x8) 에서 DMRG 결과와 높은 일치도를 보였습니다.
  • 스케일링: DMRG 는 시스템 크기가 커질수록 분산 (variance) 이 급격히 증가하는 반면, 제안된 신경망 방법 (NQS) 은 시스템 크기가 커져도 분산이 거의 일정하게 유지되어 **확장성 (scalability)**이 우수함을 입증했습니다.
• 물리적 현상 포착:
  • PT 대칭 깨짐: PT 대칭 위상 (실수 에너지, 파라자성) 에서 깨진 PT 위상 (복소 에너지, 강자성) 으로 전이되는 과정을 정확히 포착했습니다.
  • 상관 함수: 비허미션 시스템과 대응하는 허미션 시스템의 상관 함수는 유사하게 보이지만, 자화 (magnetization) 의 거동 (실수부 및 허수부) 을 통해 비허미션 시스템만의 독특한 자발적 대칭 깨짐 (SSB) 을 확인했습니다.

4. 의의 및 결론

• 기술적 기여: 비허미션 양자 다체 시스템 연구에 신경망 양자 상태 (NQS) 를 적용할 수 있는 최초의 체계적인 프레임워크를 제시했습니다. 특히 Rayleigh-Ritz 원리가 무효화된 환경에서 변분 최적화를 가능하게 한 이중 직교 분산 최소화 기법은 중요한 방법론적 혁신입니다.
• 과학적 의의: 기존 수치 기법 (DMRG 등) 으로 접근이 불가능했던 2 차원 강상관 비허미션 시스템을 정밀하게 연구할 수 있는 도구를 제공했습니다.
• 미래 전망: 이 방법은 실시간 동역학 연구나 페르미온 비허미션 모델 등 다양한 시스템으로 확장 가능하며, 더 정교한 신경망 아키텍처 (Transformer 등) 와 결합하면 더욱 강력한 도구가 될 것으로 기대됩니다.

요약하자면, 이 논문은 비허미션 양자 물리학의 난제였던 기저 상태 탐색 문제를 이중 직교 구조를 활용한 신경망 변분 몬테카를로로 해결하여, 2 차원 이상의 복잡한 비허미션 시스템을 연구할 수 있는 새로운 패러다임을 제시했습니다.