Reconstructing the Hamiltonian from the local density of states using neural networks

기술 요약: 신경망을 이용한 국소 상태 밀도로부터 해밀토니안 재구성

문제 정의
본 연구는 양자 응집 물질 물리학과 머신러닝의 접점에 있는 역문제(inverse problem)를 다룹니다. 즉, 고정된 에너지에서의 국소 상태 밀도(LDOS)의 공간적 지도로부터 단일 입자 해밀토니안을 재구성하는 문제입니다. 알려진 퍼텐셜 $V(\mathbf{r})$와 해밀토니안 $H$로부터 LDOS $\rho_E(\mathbf{r})$를 계산하는 "순방향 문제(forward problem)"는 간단하지만, 그 역과정은 일반적으로 부적정(ill-posed)합니다. 서로 다른 해밀토니안이 특정 에너지 창(예: 에너지가 스펙트럼 갭 내에 있는 경우) 내에서 동일한 LDOS 지도를 이론적으로 생성할 수 있기 때문입니다. 저자들은 지도 학습(supervised learning)을 통해 이러한 역문제의 근사적 해법이 가능한지 조사하며, 특히 단일 에너지 슬라이스의 LDOS로부터 퍼텐셜 지형 $V(\mathbf{r})$를 복구하는 데 초점을 맞춥니다.

방법론
저자들은 다음의 해밀토니안으로 정의되는 1차원 및 2차원 격자 상의 타이트 바인딩(tight-binding) 모델 맥락에서 문제를 정식화합니다:
$$H = -t \sum_{\langle \mathbf{r}\mathbf{r}' \rangle} c^\dagger_\mathbf{r} c_{\mathbf{r}'} + \sum_\mathbf{r} V(\mathbf{r}) c^\dagger_\mathbf{r} c_\mathbf{r}$$
여기서 $V(\mathbf{r})$는 무작위 무질서 퍼텐셜을 나타냅니다.

• 데이터 생성: 가우시안 무작위 장(Gaussian random fields)으로부터 특정 상관 길이($\xi$)와 진폭($V_0$)을 갖도록 샘플링하여 합성 데이터셋을 생성합니다. 이에 대응하는 LDOS는 고정된 에너지 $E$에 대해 수치적으로 계산됩니다.
• 전처리: 훈련을 용이하게 하기 위해 입력 LDOS와 대상 퍼텐셜을 모두 정규화(평균 0, 표준편차 1)합니다.
• 모델 아키텍처: 핵심 접근 방식은 **이미지-투-이미지 합성곱 신경망(Image-to-Image CNN)**을 활용하는 것입니다. 클래스 레이블로 이미지를 매핑하는 표준 분류용 CNN과 달리, 이 모델들은 입력 이미지(LDOS)를 출력 이미지(재구성된 퍼텐셜)로 직접 매핑합니다.
  • 1D 모델은 ReLU 활성화 함수를 가진 합성곱 층을 사용합니다.
  • 2D 모델은 그래디언트 흐름과 성능을 개선하기 위해 2개 층마다 잔차 연결(residual/skip connections)을 포함합니다.
  • 네트워크는 공간 해상도를 유지하기 위해 풀링(pooling)이나 완전 연결 층(fully connected layers)을 사용하지 않습니다.
• 훈련 목적 함수: 모델은 정규화된 예측 퍼텐셜과 실제 퍼텐셜 사이의 평균 제곱 오차(MSE)를 최소화하도록 훈련됩니다.
• 베이스라인: 성능은 단일 파라미터 적합($\tilde{V} \propto \tilde{\rho}^n$) 및 변환 증강 $k$-최근접 이웃($k$-nn) 방식과 비교됩니다.

주요 결과
본 연구는 지도 학습이 1차원 및 2차원 시스템 모두에서 LDOS 데이터로부터 퍼텐셜 지형을 높은 충실도로 재구성할 수 있음을 보여줍니다.

• 재구성 정확도:
  • 1D 케이스: CNN은 약 0.016의 테스트 세트 MSE 손실($L$)을 달성하여, 단일 파라미터 적합($L \approx 0.995$) 및 $k$-nn 방법($k=10$일 때 $L \approx 0.707$)을 크게 앞질렀습니다. 시각적 검사 결과, 예측된 퍼텐셜은 최선 및 중간 사례에서 실제 퍼텐셜과 구별이 거의 불가능할 정도로 유사했습니다.
  • 2D 케이스: CNN은 약 $4.6 \times 10^{-3}$의 테스트 세트 MSE 손실을 달성하였으며, 이 역시 베이스라인($k$-nn의 경우 $L \approx 0.623$)보다 월등히 우수했습니다.
• 노이즈에 대한 강건성:
  • 모델은 본질적인 노이즈 내성을 보입니다. 별도의 정규화 없이도 2D 모델은 최대 20%의 상관된 테스트 노이즈가 있는 상황에서도 낮은 오차($L < 0.1$)를 유지합니다.
  • 노이즈 정규화: 훈련 데이터에 의도적으로 합성된 상관 가우시안 노이즈(training noise)를 추가하는 것은 정규화 역할을 합니다. SNR = 1인 노이즈로 훈련된 모델은 테스트 노이즈 수준이 신호 진폭에 근접할 때($\sigma/\sigma_\rho \approx 1$)에도 $L < 0.05$를 유지합니다.
• 일반화 (분포 외 데이터):
  • 모델은 훈련 중에 보지 못한 파라미터 변화에 대해서도 일반화 능력을 보입니다. 훈련 분포와 약간 다른 무질서 진폭($V_0$) 및 상관 길이($\xi$)를 가진 퍼텐셜에 대해 테스트했을 때, 모델은 훈련 파라미터의 합리적인 근방 내에서 낮은 오차($L \lesssim 0.1$)를 유지했습니다.
• 학습 가능성 분석: 재구성 품질은 스펙트럼 밀도나 고유 상태 국소화 길이와 엄격하게 상관되지는 않습니다. 성능은 에너지 스펙트럼의 가장자리와 중간 부분 근처에서 저하되며, 이는 특정 스펙트럼 특징이 학습 가능성에 영향을 미침을 시사합니다.

의의 및 주장
본 논문은 제한된 실험적 관측 가능 데이터(LDOS)로부터 해밀토니안을 재구성하는 것이 지도 학습을 통해 접근할 때 실행 가능하고 다룰 수 있는 역문제임을 주장합니다.

• 실용적 유용성: 저자들은 이 방법이 주사 터널링 현미경(STM) 데이터에 적용될 수 있다고 제안합니다. STM은 서브 옹스트롬 해상도로 미분 전도도(LDOS에 비례)를 측정하므로, 훈련된 모델을 통해 이론적으로 이러한 이미지들을 역전시켜 샘플의 기저에 깔린 미지의 에너지 지형(퍼텐셜 $V(\mathbf{r})$)을 밝혀낼 수 있습니다.
• 응용 분야: 이 재구성은 퍼텐셜에 대한 지식이 필요한 물리량(예: 수송 계수, 자기 응답)의 후속 계산을 가능하게 합니다. 저자들은 특히 에너지 지형이 복잡하고 비주기적인 표면 재구성(예: Si(111) 또는 Au(111) 상의 복잡한 원자 패턴)을 연구하는 데 있어 이 방법의 잠재적 응용을 언급했습니다.
• 데이터 효율성: 모델은 상대적으로 작은 데이터셋(2D의 경우 1,200개 샘플)으로도 높은 정확도를 달달성하며, 이는 훈련 데이터를 대량으로 생성하는 것이 비용이 많이 드는 시스템(예: 전자-전자 상호작용이 존재하는 시스템)에서도 이 접근 방식이 유효할 수 있음을 시사합니다.
• 한계점: 저자들은 결함 밀도가 낮은 매우 규칙적인 표면의 경우, 문제 공간이 "저차원"이어서 단순 회귀나 육안 검사만으로도 충분할 수 있으며, 이 경우 머신러닝의 이점이 제한적일 수 있다는 점을 겸허히 언급했습니다. 현재 연구는 상호작용이 없는 단일 궤도 타이트 바인딩 모델에 국한되어 있습니다.

결론적으로, 본 연구는 특정 분포에 대해 해밀토니안 재구성을 위한 근사적 해가 존재함을 확립하고, 이미지-투-이미지 CNN이 이 역문제를 높은 정확도와 강건성으로 해결할 수 있음을 입증함으로써, 실험적 LDOS 맵과 이론적 해밀토니안 기술 사이의 간극을 메웁니다.