Defect-Mediated Nucleation and Dynamics across the Phase Transition in the Excitonic Insulator Candidate Ta2NiSe5

물질은 결코 정적인 상태로 머물러 있지 않습니다. 물질은 숨을 쉬고, 변화하며, 때로는 전기 전도성이나 빛과의 상호작용 방식을 바꾸는 급격한 변형을 겪기도 합니다. 응집물질물리학의 세계에서 과학자들은 이러한 변화를 상전이(phase transitions)라고 부르며, 미시적인 원자 배열이 어떻게 거시적인 세계의 행동을 결정하는지 연구합니다. 어떤 전이는 얼음이 물로 녹는 것처럼 전체 시료에 걸쳐 균일하게 일어나는 매끄러운 과정을 거칩니다. 반면, 다른 전이들은 얼어붙은 호수에 금이 가는 것과 유사하게, 새로운 구조가 나타나 성장하고 퍼져나가는 더 갑작스럽고 복잡한 과정을 포함합니다. 연구자들 사이에서 격렬한 논쟁을 불러일으킨 한 가지 물질은 Ta2NiSe5로, 이 결정은 반도체와 준금속(semimetal) 사이의 경계에 위치합니다. 약 326 켈빈인 특정 온도에서, 이 물질은 저온 상태(반도체로 작하는 상태)에서 고온 상태(전기를 더 자유롭게 전도하는 상태)로 전환되어야 합니다. 수년 동안 과학자들은 이 전환의 본질을 두고 논쟁해 왔습니다. 즉, 이 과정이 전체 물질에 걸쳐 매끄럽고 연속적인 진화로서 일어나는 것인지, 아니면 뚜리한 영역의 핵 생성과 성장(nucleation and growth)을 통해 진행되는 마르텐사이트 유사(martensitic-like) 과정인지에 대한 논쟁입니다.

이 문제를 해결하기 위해 브라질 미나스 제라이스 연방 대학교의 연구팀은 Ta2NiSe5 결정의 표면에 주목했습니다. 연구진은 국소적인 세부 사항을 평균화해 버리는 벌크(bulk) 관점 대신, 주사 터널링 현미경 및 분광법(scanning tunneling microscopy and spectroscopy)이라는 기술을 사용했습니다. 이 방법은 원자의 모양뿐만 아니라 모든 지점에서 원자들이 가질 수 있는 전자 상태까지 측정함으로써, 원자 단위의 정밀도로 물질의 표면을 매핑할 수 있게 해줍니다. 샘플을 작은 온도로 높여가며 실시간 공간에서 어떤 일이 일어나는지 관찰함으로써, 연구진은 단순히 벌크 측정값으로부터 추론하는 것이 아니라 전이가 어떻게 펼쳐지는지를 정확히 볼 수 있었습니다. 그들의 연구는 이 전이가 결코 균일하지 않다는 것을 보여줍니다. 결정 전체가 한꺼번에 변하는 대신, 물질은 기존 구조의 섬과 새로운 구조의 섬이 나란히 놓여 있고, 시간이 지남에 따라 움직이고 진화하는 날카로운 경계로 구분되는 공존 상태로 존재합니다.

연구진은 결정 표면의 세 가지 특정 유형의 위치에 집중했습니다: 완벽하게 깨끗한 영역, 원자가 하나 빠진 고립된 점 결함 근처의 지점, 그리고 표면이 깎여 내려가는 계단형 엣지(step edges)입니다. 결함이 없는 깨끗한 영역에서, 연구진은 새로운 고온 상(phase)이 무작위로 나타나지 않는다는 것을 관찰했습니다. 대신, 새로운 상은 매우 방향성 있는 방식으로 핵을 생성하거나 형성을 시작했습니다. 새로운 상은 결정 구조를 구성하는 원자 사슬에 수직인 방향으로 우선적으로 성장했습니다. 이는 마치 변형 과정이 물질 자체의 내부 기하학적 구조에 의해 제약되어, 원자 사슬의 정렬을 존중하면서 특정 방향으로 퍼져 나가는 것과 같았습니다. 이러한 이방성 성장(anisotropic growth)은 이 전이가 단순하고 균일한 변화가 아니라, 원자의 국소적 배열에 의해 지배되는 복잡한 과정임을 확인시켜 주었습니다.

그러나 연구진이 결함이 있는 영역을 관찰했을 때 이야기는 극적으로 바뀌었습니다. 원자 하나가 빠져 격자 구조에 국소적인 교란을 일으키는 단일 점 결함 근처에서는 완전히 다른 행동이 나타났습니다. 결함은 강력한 트리거 역할을 하여, 그 주변에서 새로운 상이 핵을 생성하고 모든 방향으로 퍼져 나가게 함으로써, 깨끗한 영역에서 보였던 방향성 제약을 효과적으로 깨뜨렸습니다. 이곳에서는 전이가 훨씬 빠르게 일어났으며, 동일한 시간 동안 깨끗한 영역에 비해 더 넓은 면적을 덮었습니다. 마찬가지로, 결정 표면의 계단 엣지에서도 새로운 상이 엣지를 따라 형성되기 시작했지만, 그 성장은 비대칭적이었습니다. 새로운 상은 계단의 상단 테라스 쪽으로 더 쉽게 퍼져 나갔는데, 이는 계단의 물리적 경계 자체가 변형이 이동하는 방식에 영향을 미쳤음을 시사합니다.

연구팀은 이러한 변화를 시간에 따라 추적함으로써, 이전에는 불가능했던 수준의 세밀함으로 물질의 진화를 매핑했습니다. 그들은 전이 온도에서 물질이 한 상태에서 다른 상태로 즉각적으로 뒤집히지 않는다는 것을 발견했습니다. 대신, 물질은 기존 상과 새로운 상의 뚜렷한 도메인이 잘 정의된 벽에 의해 구분된 채, 때로는 한 시간 이상 긴 시간 동안 혼합 상태에 머물러 있었습니다. 이 벽들은 연속적이고 매끄러운 변화가 아닌, 핵 생성과 성장의 과정에 의해 천천히 움직였습니다. 연구진은 각 상이 덮고 있는 표면의 비율을 시간에 따라 측정하였고, 전이 속도가 국소적 환경에 크게 의존한다는 것을 발견했습니다. 결함은 이 과정을 현저히 가속화시킨 반면, 계단 엣지는 새로운 상이 퍼지는 데 지연과 비대칭성을 유발했습니다.

표면 전이에 대한 이러한 상세한 관점은 해당 물질의 행동에 대한 전통적인 견해에 도전합니다. 결정의 전체 부피를 평균 내는 벌크 측정은 매끄러운 2차 전이를 시사하지만, 표면은 훨씬 더 역동적이고 불균질한 현실을 보여줍니다. 뚜렷한 도메인의 존재와 시간 의존적인 경계의 진화는, 전이가 균일한 이동이 아니라 특정 영역의 형성과 확장을 통해 진행되는 마르텐사이트 유사 메커니즘을 따르고 있음을 가리킵니다. 이 연구는 결핍된 원자와 같은 국소적 무질서가 새로운 상이 형성되기 위한 에너지 장벽을 낮추는 데 결정적인 역할을 하며, 효과적으로 변형의 씨앗 역할을 한다는 것을 입증합니다.

이러한 발견의 함의는 단 하나의 특정 물질을 이해하는 것을 넘어 확장됩니다. 이는 상전이의 나노 스케일 세부 사항을 살펴보는 것이 얼마나 중요한지를 강조하며, 나노 스케일에서의 규칙은 벌크에서 관찰되는 것과 크게 다를 수 있음을 보여줍니다. 편광 민감형 광검출기와 같은 첨단 전자 소자의 후보 물질인 Ta2NiSe5와 같은 물질의 경우, 결함과 표면 조건이 전이에 어떻게 영향을 미치는지 아는 것이 매우 중요합니다. 이러한 전이가 어디에서 어떻게 발생하는지를 제어하거나 예측할 수 있는 능력은 더 효율적이고 신뢰할 수 있는 소자를 설계하는 핵심이 될 수 있습니다. 이 연구는 상전이의 진정하고 무질서하며 역동적인 본질을 밝혀냄으로써, 복잡한 양자 물질이 어떻게 행동하는지에 대한 더 명확한 그림을 제공하며, 이 분야를 추상적인 이론에서 구체적이고 시각화된 현실로 옮겨놓았습니다.