Electric-field-tuned consecutive topological phase transitions between distinct correlated insulators in moire MoTe2/WSe2 heterobilayer

논문 요약: MoTe2/WSe2 이종 적층에서의 전기장 조절 연속 위상 상전이

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 응집물질 물리학에서 대칭성 깨짐과 위상 질서 (topological order) 가 모두 다른 강상관 전자 상태 간의 위상 상전이는 근본적인 중요성을 지닙니다. 특히, 비상호작용 상태 (예: 전도대 절연체 전이) 간의 위상 상전이는 잘 연구되었으나, 강상관 상태 (strongly correlated states) 간의 위상 상전이는 실험적으로 거의 관찰되지 않았습니다.
• 문제: 전이금속 칼코겐화물 (TMD) 모이어 (moiré) 물질은 강상관 현상 (Mott 절연체, 초전도 등) 과 위상적 성질 (양자 이상 홀 효과 등) 을 동시에 연구할 수 있는 플랫폼으로 부상했습니다. 그러나 서로 다른 대칭성과 위상을 가진 강상관 절연체들 (예: 자성 Mott 절연체와 양자 이상 홀 절연체) 사이를 전기적으로 조절하며 연속적인 위상 상전이를 관측하는 것은 여전히 난제였습니다.

2. 연구 방법론 (Methodology)

• 시료: 각도 정렬된 **MoTe2/WSe2 이종 적층 (heterobilayer)**을 사용했습니다. MoTe2 와 WSe2 간의 7% 격자 불일치는 높은 모이어 밀도 (~5 × 10¹² cm⁻²) 를 제공하여 전기적 접촉 형성과 수송 측정에 유리합니다.
• 장치 설계: 이중 게이트 (dual-gated) 홀 바 (Hall bar) 소자를 제작하여, 게이트 전압을 통해 홀 채움 인자 (filling factor, $\nu$) 와 수직 전기장 (displacement field, $E$) 을 독립적으로 조절할 수 있게 했습니다.
• 측정 기법:
  • 수송 측정 (Transport): 종방향 저항 ($R_{xx}$) 과 홀 저항 ($R_{xy}$) 을 다양한 온도 ($T$) 와 전기장 ($E$) 조건에서 측정하여 위상 상전이를 규명했습니다.
  • 자기 원편광 이색성 (MCD): 층별 (layer-resolved) 자기 원편광 이색성 분광법을 통해 각 TMD 층 (MoTe2 와 WSe2) 의 스핀 - 밸리 편극화 및 자화 상태를 직접 관측했습니다.
  • 압축률 측정 (Compressibility): 정전용량 측정을 통해 전하 갭 (charge gap) 의 변화를 추적했습니다.
• 조절 조건: 연구는 첫 번째 모이어 전도대 (valence band) 의 반 채움 상태인 $\nu = 1$ (모이어 단위당 1 개의 홀) 에 집중했습니다.

3. 주요 기여 및 발견 (Key Contributions & Results)

이 연구는 전기장을 조절하여 $\nu=1$에서 연속적인 두 단계의 위상 상전이를 관측하고, 이를 통해 세 가지 서로 다른 강상관 절연체 상태를 규명했습니다.

A. 전기장에 따른 위상 다이어그램의 진화
전기장 ($E$) 이 증가함에 따라 시스템은 다음과 같은 세 단계를 거칩니다:

1. 기하학적 좌절 Mott 절연체 (Geometrically Frustrated Mott Insulator):
   • 낮은 전기장 영역 ($E \lesssim 0.685$ V/nm).
   • 홀이 MoTe2 층에만 국재되어 삼각 격자 구조를 형성합니다.
   • 기하학적 좌절로 인해 스핀 질서가 무질서한 상태 (paramagnetic-like) 이며, 120 도 네엘 (Néel) 자성 질서가 예상됩니다.
2. 강자성 양자 이상 홀 (QAH) Mott 절연체:
   • 중간 전기장 영역 ($0.685 \lesssim E \lesssim 0.705$ V/nm).
   • 밴드 반전 (band inversion) 이 일어나 홀이 두 층 (MoTe2 와 WSe2) 에 공유되며 honeycomb(벌집) 격자를 형성합니다.
   • 자발적인 스핀 - 밸리 편극화가 발생하여 강자성 (Ferromagnetic) 상태가 되고, 양자 이상 홀 (QAH) 상태 ($R_{xy} = h/e^2$) 를 보입니다.
   • 이 전이는 전하 갭이 닫히지 않는 약한 1 차 상전이에 가깝습니다.
3. 밸리 일관성 반강자성 (VC-AFM) Mott 절연체:
   • 높은 전기장 영역 ($E \gtrsim 0.705$ V/nm).
   • **연속적인 위상 상전이 (Continuous QPT)**가 발생하여 QAH 상태에서 새로운 절연체 상태로 전환됩니다.
   • 이 상태는 **스핀 편극화는 없으나 (in-plane spin), 밸리 간 일관성 (valley-coherent)**을 가진 반강자성 (Antiferromagnetic) Mott 절연체입니다.
   • 전하 갭의 연속적 붕괴: QAH 와 VC-AFM 사이의 임계 전기장 ($E_c \approx 0.704$ V/nm) 에서 전하 갭이 연속적으로 0 이 되며, **임계 금속 상태 (critical metallic state)**가 관측됩니다. 이는 전하 갭이 닫히면서 위상 질서가 변하는 전형적인 연속 상전이의 특징입니다.

B. 자기적 성질 및 외부 자기장 효과

• MCD 분석: MoTe2 와 WSe2 층별 MCD 측정을 통해 각 상태의 자성 기원을 규명했습니다.
  • QAH 상태: 자발적 편극화 (spontaneous polarization) 관측.
  • VC-AFM 상태: 자발적 편극화는 없으나, 특정 임계 자기장 ($B^*$) 이상에서 급격한 스펙트럼 이동이 관측됨.
• 메타자성 전이 (Metamagnetic-like transition): VC-AFM 상태에서 외부 자기장을 가하면, 임계장 $B^*$ 이상에서 스핀이 수직 방향으로 정렬되며 체른 절연체 (Chern insulator) 상태로 전이합니다. 이는 $R_{xx}$가 급격히 감소하고 $R_{xy}$가 양자화되는 현상으로 확인되었습니다.

C. 위상 다이어그램의 완성

• 전기장에 따른 큐리 - 웨이스 온도 ($\theta$) 의 부호 변화 (음수 $\to$ 양수 $\to$ 음수) 를 통해 AFM $\to$ FM $\to$ AFM 의 자성 상태 변화를 확인했습니다.
• 전하 갭이 0 이 되는 임계점에서 연속적인 위상 상전이가 발생함을 압축률 및 수송 데이터로 입증했습니다.

4. 연구의 의의 및 중요성 (Significance)

1. 강상관 위상 상전이의 실험적 증명: 대칭성과 위상 질서가 모두 다른 강상관 절연체들 사이의 연속적인 위상 상전이를 실험적으로 관측한 드문 사례입니다. 특히 전하 갭이 닫히면서 위상이 변하는 연속 상전이를 명확히 규명했습니다.
2. 확장된 Kane-Mele-Hubbard 모델의 구현: MoTe2/WSe2 모이어 시스템이 확장된 Kane-Mele-Hubbard 모델을 실현하며, 전기장으로 밴드 위상과 상관 효과를 동시에 조절할 수 있는 이상적인 플랫폼임을 입증했습니다.
3. 새로운 양자 상태의 발견: 스핀 편극화는 없으나 밸리 일관성을 가진 반강자성 Mott 절연체 (VC-AFM) 와 이를 외부 자기장으로 조절하여 체른 절연체로 전환할 수 있는 메커니즘을 제시했습니다.
4. 미래 연구 방향: 이 플랫폼은 분수화된 여기 상태 (fractionalized excitations) 탐색과 상관 - 위상 얽힘 (correlation-topology intertwined) 된 양자 임계점 (quantum criticality) 연구에 필수적인 기반을 제공합니다.

결론적으로, 본 연구는 전기장을 통해 MoTe2/WSe2 이종 적층에서 연속적인 위상 상전이를 유도하고, 그 과정에서 발생하는 다양한 강상관 자성 절연체 상태를 체계적으로 규명함으로써, 차세대 위상 양자 물질 연구의 새로운 지평을 열었습니다.