Finite-state automata for exact matrix product operators of tight-binding Hamiltonians: fractals, quasicrystals, trees and hyperbolic lattices

물질 속에서 움직이는 전자의 거동을 이해하려고 노력한다고 상상해 보십시오. 가장 단순한 모델에서 과학자들은 전자가 격자 위를 한 원자에서 다음 원자로 건너가는 모습을, 마치 지도 위의 도시 사이를 이동하는 여행자처럼 묘사합니다. 이 "타이트 바인딩(tight-binding)" 그림은 전기가 어떻게 흐르는지, 물질이 열을 어떻게 전달하는지, 그리고 왜 어떤 물질들이 자성을 띠게 되는지를 이해하기 위한 근본적인 도구입니다. 수십 년 동안 이 모델은 타일 바닥의 완벽한 정사각형처럼 규칙적이고 반복되는 패턴에서는 가장 잘 작동했습니다. 하지만 자연은 결코 그렇게 질서 정연하지 않습니다. 전자는 또한 기하학적으로 복잡하지만 완전히 똑같지는 않은 패턴을 가진 물질이나, 해안선 또는 눈송이처럼 모든 척도에서 스스로를 반복하는 형태를 통해 이동하기도 합니다. 이러한 복잡한 기하학적 구조—프랙탈, 준결정, 나무 모양의 구조 등—는 일반적인 격자로는 설명할 수 없는 이색적인 전자적 거동을 만들어냅니다. 그러나 이러한 구조를 연구하는 것은 컴퓨터에게는 악몽과 같았습니다. 시뮬레이션되는 원자의 수가 증가함에 따라, 전자가 이동할 수 있는 모든 경로를 매핑하는 데 필요한 메모리가 폭발적으로 늘어나 가장 강력한 슈퍼컴퓨터조차 빠르게 압도해 버리기 때문입니다.

연구팀은 이제 이 복잡성을 다스릴 방법을 찾아냈습니다. 그들은 컴퓨터가 언어를 처리하는 방식에서 빌려온 영리한 트릭을 사용하여 이 복잡한 전자 지도를 기술하는 새로운 방법을 개발했습니다. 원자 사이의 모든 연결 관계를 담은 방대하고 상세한 목록을 저장하려고 노력하는 대신, 그들은 재료의 전체 구조를 아주 작은 디지털 공간 안에 담아낼 수 있는 압축된 규칙 기반 시스템을 구축했습니다. 이 시스템을 통해 연구진은 이전에는 불가능했던 규모인 수십억 개의 원자를 가진 물질을 시뮬레이션할 수 있게 되었습니다. 이 새로운 도구를 에너지 준위를 분석하는 표준 기술과 결합함으로써, 그들은 프랙탈의 자기 유사 패턴부터 쌍곡 공간의 굽어 있고 무한한 확장성에 이르는 환경에서 전자가 어떻게 행동하는지를 높은 정밀도로 계산해 낼 수 있었습니다.

이 돌파구의 핵심은 연구진이 재료의 형태에 대한 정보를 조직하는 방식에 있습니다. 표준 컴퓨터 시뮬레이션에서 시스템을 기술하는 데 필요한 메모리는 대개 시스템의 원자 수에 직접 비례하여 증가합니다. 만약 재료의 크기를 두 배로 키우면, 필요한 메모리도 대략 두 배가 됩니다. 하지만 여기서 연구된 복잡한 형태들의 경우, 필요한 메모리가 너무 빠르게 증가하여 대규모 시스템의 시뮬레이션에는 지구상에 존재하는 모든 저장 용량이 필요할 수도 있습니다. 연구진은 프랙탈, 준결정, 나무 구조와 같은 특정 형태들이 재귀적 규칙(recursive rules)을 사용하여 만들어진다는 점에 주목했습니다. 즉, 전체 구조는 일정한 방식으로 쌓여 있는 더 작은 복사본들로 구성되어 있다는 것입니다. 그들은 이러한 규칙들을 단순한 기계 속에 인코딩했는데, 이는 마치 자동차가 지나갈 때마다 상태가 변하는 신호등과 비슷하지만, 이 경우에는 전자가 물질의 구축 층을 통과하며 이동하는 위치를 추적하는 기계입니다.

저자들이 유한 상태 오토마톤(finite-state automaton)이라고 부르는 이 기계는 설계도 역할을 합니다. 이것은 모든 원자를 일일이 나열하지 않습니다. 대신, 구조의 다음 단계로 넘어갈 때 원자 사이의 연결을 생성하는 방법을 컴퓨터에 알려주는 작은 명령 집합을 보유합니다. 이러한 형태를 만드는 규칙은 유한하고 반복적이기 때문에, 이 기계는 구조가 아무리 커지더라도 전체 시스템을 설명하기 위해 고정된 적은 수의 내부 상태만을 필요로 합니다. 연구진은 이 기계를 행렬 곱 연산자(matrix product operator)라고 알려진 수학적 구조로 변환했습니다. 쉽게 말해, 이것은 전자의 움직임에 대한 규칙을 작고 연결된 블록들의 사슬으로 기록하는 방식입니다. 이 블록의 크기는 전체 원자의 수가 아니라 형태의 규칙이 가진 복용성(complexity)에 의해서만 결정됩니다. 이는 시뮬레이션에 수십억 개의 사이트가 포함되더라도, 컴퓨터가 전자의 이동과 상호작용을 규정하는 수학적 대상인 해밀토니안(Hamiltonian)을 기술하기 위해 관리 가능한 양의 데이터만을 저장하면 된다는 것을 의미합니다.

방법을 테스트하기 위해 팀은 다양한 도전적인 기하학적 구조에 이를 적용했습니다. 그들은 먼저 방법이 올바르게 작동하는지 확인하기 위해 익숙한 정사각형 및 삼각형 격자로 시작하여, 정사각형을 9개의 작은 정사각형으로 계속 나누되 중심을 제거하는 유명한 프랙탈 형태인 시에르핀스키 카펫(Sierpiński carpet)으로 넘어갔습니다. 또한, 반복되지는 않지만 엄격한 규칙을 따르는 1차원 원자 배열인 피보나치 체인(Fibonacci chain)과 그 2차원 확장형도 시뮬레이션했습니다. 마지막으로, 중심점에서 바깥쪽으로 뻗어 나가는 가지 구조인 케일리 트리(Cayley trees)와, 중심에서 멀어질수록 연결의 수가 기하급수적으로 증가하는 안장 모양처럼 안쪽으로 굽은 쌍곡 격자(hyperbolic lattices)를 다루었습니다. 모든 경우에서, 이 방법은 모든 연결 목록을 실제로 작성하지 않고도 시스템의 규칙에 대한 정확한 설명을 만들어냈습니다.

규칙이 인코딩된 후, 연구진은 에너지 준위 등의 스펙트럼 특성을 계산하기 위해 커널 다항식 방법(kernel polynomial method)을 사용했습니다. 이 접근 방식은 시스템 전체를 한꺼번에 해결하지 않고도 전자가 사용할 수 있는 에너지 준위와 물질 전체에 걸친 전자 분포를 결정할 수 있게 해줍니다. 시에르핀스키 카펫의 경우, 20만 개 이상의 사이트를 시뮬레이션했으며 전자 파동이 구조 전체에 퍼져 있으며 한 곳에 갇히지 않는다는 것을 발견했습니다. 또한 약 20만 개의 사이트를 가진 피보나치 체인을 관찰하여, 전자의 밀도가 복잡하고 비반복적인 방식으로 변화하는 준결정 특유의 정교한 에너지 패턴을 확인했습니다. $n = 10$ 세대의 3-케일리 트리로 모델링한 쌍곡 격자의 경우, 무질서가 전자의 흐름에 미치는 영향을 매핑하여 구조의 대칭성이 혼돈스러운 환경에서도 유지됨을 보여주었습니다.

이 연구의 의의는 이전에 시뮬레이션하기 너무 어려웠던 광범위한 클래스의 물질들을 연구할 수 있는 통합된 방법을 제공한다는 점에 있습니다. 이전에는 연구자들이 종종 근사치에 의존하거나 매우 작은 규모의 시스템만을 연구해야 했으며, 이는 중요한 대규모 거동을 놓칠 수 있었습니다. 이 새로운 방법을 사용함으로써, 연구진은 이전에는 가능했던 것보다 기하급수적으로 더 큰 규모에서 이 복잡한 격자들의 전자적 특성을 탐구할 수 있게 되었습니다. 이 방법은 특히 정확하다는 점에서 강력합니다. 정보를 버리거나 시스템의 거동에 대해 추측하지 않고, 단지 규칙을 쓰는 더 효율적인 방법을 찾을 뿐입니다. 이는 빛, 회로, 원자 배열을 이용한 새로운 유형의 양자 시뮬레이터를 구축하는 과학자들에게 점점 더 중요해지고 있는 비유클리드 기하학에서 전자가 어떻게 행동하는지 탐구하는 문을 열어줍니다.

연구진은 자신들의 방법이 연구된 형태들에 대해서는 완벽하게 작동하지만, 이는 해당 형태들이 단순하고 반복적인 규칙을 통해 만들어진다는 사실에 기반하고 있다는 점을 언급했습니다. 만약 재료가 그러한 명확한 패턴을 따르지 않는 구조를 가지고 있다면, 이 특정 접근 방식은 잘 작동하지 않을 수 있습니다. 그러나 재귀적 구조를 가진 방대한 가족의 격자에 대해, 이 방법은 강력한 새로운 렌즈를 제공합니다. 이는 과학자들이 수십억 개의 원자를 가진 물질의 전자적 특성을 질문할 수 있게 하며, 이는 실제 장치를 이해하고 맞춤형 특성을 가진 신소재를 설계하는 데 있어 중요한 규모입니다. 이러한 시스템을 정확하게 시뮬레이션할 수 있다는 능력은 컴퓨터의 예측이 물리 법칙만큼이나 신뢰할 수 있음을 의미하며, 양자 물질 분야의 미래 실험과 발견을 위한 견고한 토대를 제공합니다.