SLayerGen: a Crystal Generative Model for all Space and Layer Groups

본 논문은 자기회귀 격자 샘플링과 등변 확산의 하이브리드 아키텍처를 통해 모든 공간군과 층군에 대한 불변성을 강제함으로써 벌크 결정과 이주기성 물질 (예: 2D 단층) 의 생성을 통합하는 새로운 생성 모델인 SLayerGen 을 소개하며, 동시에 이러한 과거에 과소대표되었던 물질 시스템의 발견을 진전시키기 위한 새로운 데이터셋과 평가 지표를 제공합니다.

핵심

당신은 새로운 건물을 설계하려는 건축가라고 상상해 보세요. 오랫동안 당신의 컴퓨터 프로그램은 모든 방향 (위, 아래, 왼쪽, 오른쪽) 으로 무한히 반복되는 무한한 마천루만 설계할 수 있었습니다. 이러한 것들은 과학자들이 수년 동안 연구해 온 '벌크 결정 (bulk crystals)'과 같습니다.

하지만 자연은 무한한 마천루만으로 이루어진 것이 아닙니다. 자연에는 박막, 단일 층 시트, 그리고 표면도 있습니다. 이는 종이 한 장이나 페인트 한 층과 같습니다. 과학계에서는 이러한 것을 **이중 주기성 물질 (diperiodic materials)**이라고 부릅니다. 이들은 두 방향에서는 반복되지만 (벽지 무늬 패턴처럼), 세 번째 방향에서는 멈추거나 다르게 행동합니다 (종이 가장자리처럼).

문제점은 무엇일까요? 기존의 컴퓨터 건축가들 (AI 모델) 은 이러한 얇은 시트를 설계하는 데 매우 서툴렀습니다. 그들은 "무한한 마천루" 규칙을 "단일 시트"에 강제로 적용하려 했지만, 대칭성 규칙이 다르기 때문에 작동하지 않았습니다.

이제 SLayerGen이 등장했습니다. 이는 무한한 마천루와 단일 층 시트 모두를 정확하게 설계하는 방법을 아는 새로운 전문 건축가라고 생각하세요.

그 작동 원리는 다음과 같이 간단한 단계로 나뉩니다:

1. "규칙집" (공간군 대 층군)

모든 결정은 춤 동작과 같은 일련의 대칭 규칙을 따릅니다.

• 벌크 결정은 230 가지 규칙 (공간군, Space Groups) 중 하나를 따릅니다.
• 얇은 시트는 80 가지 규칙 (층군, Layer Groups) 으로 구성된 다른 규칙 세트를 따릅니다.

이전 AI 모델들은 230 가지 규칙만 알았습니다. 만약 얇은 시트를 설계해 달라고 요청하면, 실패하거나 엉망이고 불가능한 구조를 만들어 냈습니다. SLayerGen은 두 가지 규칙집 모두를 학습한 최초의 모델입니다. 이는 얇은 시트는 무한히 반복되지 않는 '위'와 '아래'가 있는 반면, 벌크 결정은 영원히 반복된다는 점을 이해합니다.

2. 시공 과정 (구축 방식)

SLayerGen 은 단순히 추측하지 않습니다. 마치 숙련된 건축가처럼 네 가지 지능적인 단계로 재료를 구축합니다:

• 단계 A: 설계도 (격자): 먼저 바닥 평면의 모양을 결정합니다. 정사각형인가요? 직사각형인가요? 정육각형인가요? 이는 '거칠게에서 정밀하게 (coarse-to-fine)' 접근법을 사용하여, 먼저 대략적인 모양을 스케치한 다음 정확한 각도와 길이를 정교하게 다듬어 특정 대칭 규칙에 맞도록 합니다.
• 단계 B: 방 배치 (와이코프 위치): 다음으로 "방" (원자) 을 어디에 둘지 결정합니다. 대칭적인 건물에서는 방을 아무 곳에나 둘 수 없습니다. 한 구석에 방을 두면 대칭성 때문에 특정 위치에 세 개의 방을 더 두어야 할 수도 있습니다. SLayerGen 은 이러한 "허용된 위치" (와이코프 위치, Wyckoff positions) 를 선택하고 어떤 종류의 "가구" (화학 원소) 를 배치할지 결정합니다.
• 단계 C: 종료 토큰: 방을 추가하는 시점을 알고 있습니다. "좋아, 이 건물은 완성되었다"라고 알려주는 특별한 "종료" 신호를 가지고 있어 무한히 원자를 추가하지 않도록 합니다.
• 단계 D: 미세 조정 (확산): 마지막으로 "확산 (diffusion)"이라는 기법을 사용합니다. 건물의 흐릿하고 노이즈가 섞인 사진을 찍어 원자가 완벽하고 안정적인 위치에 오도록 서서히 선명하게 만드는 것을 상상해 보세요. 논문에서는 여기에 교묘한 해결책을 언급합니다: 특정 정육각형 모양의 경우 수학이 복잡해지므로, 최종 건물이 똑바로 서 있도록 "노이즈"를 조정했습니다.

3. "학습 데이터" 문제

이러한 얇은 시트를 구축하는 법을 배우기 위해 AI 는 예시가 필요합니다. 하지만 세계에는 벌크 결정 수백만 개에 비해 알려진 얇은 시트 물질이 매우 적습니다.

• 저자들은 다양한 과학 데이터베이스에서 찾을 수 있는 모든 알려진 얇은 시트와 이층 구조를 모아 새로운 데이터 라이브러리를 큐레이션해야 했습니다.
• 그들은 불안정하거나 불가능한 구조를 제거하여 AI 가 공부할 고品質의 "교과서"를 만들었습니다.

4. 결과

SLayerGen 을 테스트했을 때:

• 규칙을 학습했습니다: 이전 모델들이 할 수 없었던 80 가지 층군 규칙을 완벽하게 따르는 얇은 시트를 생성했습니다.
• 새로운 설계를 발견했습니다: 이전에는 볼 수 없었던 수천 개의 새로운 안정적인 재료 설계를 만들었습니다.
• 다재다능합니다: 혼란스러워지지 않고 무한한 마천루 (벌크) 와 얇은 시트 (층) 설계 사이를 전환할 수 있습니다. 실제로 두 가지 유형의 재료를 동시에 학습시키면 두 가지 모두에서 더 뛰어난 성능을 발휘했습니다.

요약

SLayerGen을 범용 결정 설계자라고 생각하세요. 이전에는 AI 가 무한한 3 차원 블록만 설계할 수 있었습니다. 이제 SLayerGen 을 통해 우리는 2 차원 시트와 표면의 고유한 기하학을 이해하는 도구를 갖게 되었습니다. 이는 건축가에게 거대한 도시뿐만 아니라 섬세한 단일 층 오리가미도 설계할 수 있는 능력을 부여한 것과 같으며, 유연한 전자제품, 더 나은 배터리, 고급 센서 등을 위한 새로운 재료 발견의 문을 엽니다.

이 논문이 주장하지 않는 것:

• 이러한 재료가 내일 공장에서 즉시 제조될 수 있다고 주장하지 않습니다.
• 특정 질병이나 에너지 위기를 이미 해결했다고 주장하지 않습니다.
• 컴퓨터 시뮬레이션에 따라 수학적으로 그리고 물리적으로 안정적임을 증명하는 원자 구조의 생성에 엄격히 초점을 맞춥니다.

기술 요약

기술 요약: SLayerGen

문제 정의

생성 모델이 벌크 및 주기적 물질 (230 개의 공간군에 불변) 의 발견을 가속화해 왔음에도 불구하고, 이주기성 물질 (diperiodic materials) 에는 크게 실패했습니다. 2 차원 초전도체, 박막 반도체, 촉매 표면 등을 포함하는 이러한 시스템은 두 차원에서는 주기적이지만 세 번째 차원에서는 비주기적입니다. 벌크 결정과 달리, 이주기성 시스템은 80 개의 이산적 층군 (layer groups) 중 하나에 불변합니다.

기존 생성 모델은 이 분야에서 세 가지 주요 과제를 직면하고 있습니다:

1. 데이터 부족: 실험적으로 알려진 단층 (monolayers) 은 드물며 ($O(10^2)$), 계산 데이터셋은 알려진 구조의 원소 치환에 의존하거나 프로토타입의 무차별적 나열에 의해 제한됩니다.
2. 대칭성 복잡성: 층군 대칭성은 물질 특성 (예: 밸리 대비 물리, 비선형 광학) 에 중대한 영향을 미칩니다. 현재 모델들은 종종 이러한 시스템을 피상적인 공간군 제약이 있는 벌크 결정으로 잘못 취급하거나, 층군의 특정 불변성을 모델링하지 못합니다.
3. 통합 모델링: 이주기성 물질은 주기성, 비주기성, 연속 병진 불변성, 그리고 이산 군 불변성을 동시에 처리할 수 있는 단일 모델을 고유하게 요구합니다.

방법론: SLayerGen

저자들은 임의의 공간군 또는 층군에 불변하도록 제약된 결정을 생성하는 생성 모델인 SLayerGen을 제안합니다. 이 모델은 생성 과정 $p(M)$을 네 가지 순차적 분포로 분해하는 coarse-to-fine 모듈식 아키텍처를 사용합니다:

$$p(M) = p(G) \times p(L|G) \times p(W, A|L, G) \times p(X|W, A, L, G)$$

1. 결정 표현 및 전처리

• 비대칭 단위 (ASU): 메모리 효율성과 균일한 사전 분포를 보장하기 위해, 결정은 비대칭 단위로 표현됩니다. 저자들은 80 개의 모든 층군과 그들의 와이크오프 위치 (Wyckoff positions) 에 대해 대칭적으로 고유한 영역을 나열했습니다.
• 오류 수정: 이 과정에서 저자들은 International Tables of Crystallography에 기재된 층군 7 번과 46 번의 잘못된 ASU 정의를 식별하고 수정했습니다.
• 임베딩: 기존 작업 (SGEquiDiff) 에서 공간군에 사용된 임베딩 방식을 확장하여, 층군과 그들의 와이크오프 위치에 대한 새로운 임베딩을 개발했습니다.

2. 생성 구성 요소

• 격자 생성 ($p(L|G)$): coarse-to-fine 이산 자기회귀 (autoregressive) 모델이 격자 매개변수를 생성합니다. 로그이트 마스킹을 통해 결정학적 제약 (예: 육방정계 군의 경우 $a=b$, $\gamma=120^\circ$) 을 강제하며, 이주기성 시스템의 경우 피상적인 격자 길이 $c$의 생성을 마스킹합니다.
• 와이크오프 및 원소 샘플링 ($p(W, A|L, G)$): 트랜스포머 기반 자기회귀 모델이 와이크오프 위치와 원소 원자를 샘플링합니다. 학습 가능한 '정지 토큰 (stop token)'이 원자 수를 암묵적으로 결정합니다. 모델은 사전식 정렬을 사용하고, 0 차원 점에 원자를 생성하는 것과 같은 무효 위치를 마스킹합니다.
• 좌표 확산 ($p(X|...)$): 원자 분수 좌표는 노이즈 조건부 점수 매칭 확산을 통해 생성됩니다.
  • 이방성 노이즈: 노이즈 공분산 $\Sigma_t$는 대각 행렬이지만 이방성이며, 주기적 차원 ($xy$) 과 비주기적 차원 ($z$) 을 다르게 처리합니다.$z$좌표는 옹스트롬 (Angstrom) 단위로 모델링되는 반면, $xy$는 분수 단위입니다.
  • 질량 중심 (CoM) 정렬: 비주기적 방향을 따른 연속 병진 불변성을 처리하기 위해, 모델은 평균 $z$좌표를 0 으로 정렬함으로써 CoM 자유 분포를 강제합니다.
  • 육방정계 군 수정: 이전 확산 모델에서 육방정계 군과 관련된 불일치를 수정한 것이 주요 기술적 기여입니다. 분수 좌표에서 육방정계 군의 회전 행렬은 직교하지 않습니다. SLayerGen 은 직교 표현을 갖는 무차원 데카르트 기저에서 점수를 계산한 후 이를 분수 좌표로 변환하여 공변성 (equivariance) 이 보존되도록 합니다.

주요 기여

1. 최초의 층군 불변 모델: SLayerGen 은 공간군 대칭성을 모델링할 수 있는 능력을 유지하면서 층군 대칭성을 명시적으로 모델링한 최초의 생성 모델입니다.
2. 이론적 수정: 저자들은 International Tables of Crystallography의 두 가지 ASU 정의를 수정했으며, 이방성 노이즈와 육방정계 시스템에 대한 특정 기저 변환을 사용할 때 확산 점수 함수가 층군에 대해 공변성을 유지함을 증명했습니다.
3. 데이터셋 및 지표: 저자들은 이주기성 물질의 네 가지 대규모 데이터셋 (2DMatPedia, C2DB, BiDB, Alex2D) 을 큐레이션하고 필터링했으며, 단순한 원소 치환을 넘어선 일반화를 평가하기 위해 S.U.N.(Stable, Unique, Novel) 템플릿 비율을 포함한 새로운 평가 지표를 제안했습니다.
4. 통합 학습: 이 모델은 성능 저하 없이 삼주기성 (벌크) 및 이주기성 물질에 대한 공동 학습을 지원합니다.

결과

이 모델은 네 가지 데이터셋 (2DMatPedia, C2DB, BiDB, Alex2D) 과 벌크 MP20 데이터셋에서 평가되었습니다. 주요 발견 사항은 다음과 같습니다:

• 대칭성 보존: SLayerGen 은 대부분의 데이터셋에서 층군 분포에 대해 가장 좋은 제네-샨논 발산 (JSD) 을 달성하여 훈련 분포를 밀접하게 재현했습니다. 반면, MatterGen 과 같은 베이스라인은 저대칭성 $P1$ 결정을 과다 샘플링했고, DiffCSP++ 는 단사정계 및 정방정계 군에서 어려움을 겪었습니다.
• 일반화: SLayerGen 은 모든 데이터셋에서 가장 높은 S.U.N. 템플릿 비율을 달성하여, 새로운 층군 및 와이크오프 위치 조합을 가진 안정적인 구조를 생성하는 우수한 능력을 나타냈습니다.
• 베이스라인 대비 성능: SLayerGen 은 유효성, 안정성, 그리고 층군 및 면적 밀도에 대한 분포적 거리 측면에서 최첨단 벌크 모델 (DiffCSP, DiffCSP++, MatterGen) 과 공간군 전용 변형 (SGEquiDiff) 을 능가했습니다.
• 공동 학습: 벌크 (MP20) 와 이주기성 (Alex2D) 데이터로 공동 학습했을 때, SLayerGen 은 두 가지 모두에서 경쟁력 있는 성능을 유지했으며, SGEquiDiff 에 비해 벌크 데이터셋에서 더 높은 고유성과 신규성 비율을 달성했습니다.
• 안정성 필터링: 저자들은 동적 안정성 검사 ($\Gamma$-점 포논) 를 포함하면 생성된 구조의 안정성 비율이 크게 감소한다고 지적하며, 종종 이 제약을 무시했던 기존 평가의 격차를 강조했습니다.

의의 및 주장

이 논문은 SLayerGen 이 2 차원 및 층상 물질의 데이터 기반 설계에서 중요한 진전을 나타낸다고 주장합니다. 층군 대칭성을 명시적으로 모델링함으로써, 이 모델은 이들을 벌크 결정으로 취급하거나 대칭성 제약을 무시하는 모델들보다 이주기성 물질의 공간을 더 효율적이고 정확하게 탐색할 수 있습니다.

저자들은 그들의 작업이 종종 대칭성에 의존하는 이국적인 물리 (예: 초전도성, 위상적 특성) 를 가진 물질의 발견을 촉진한다고 강조합니다. 그들은 MLIP 을 DFT 의 대리 지표로 사용하여 안정성을 평가했으나, in silico 설계와 실험적 실현 사이의 격차를 완전히 해소하기 위해서는 향후 연구에서 기질 효과, 자기성, 그리고 무질서를 다뤄야 함을 겸손하게 지적했습니다. 이 작업은 실험적으로 새로운 물질을 발견했다고 주장하지는 않지만, 이론적 발견을 가속화하기 위한 생성 프레임워크를 제공합니다.