🔬 materials science

A latent-space extrapolation grade built into graph atomic cluster expansion foundation potentials

이 논문은 잠재 공간 거리와 힘 오차 사이의 상관관계를 통해 표적 데이터 수집을 유도함으로써 구조적 및 화학적 외삽을 안정적으로 탐지하도록 GRACE 파운데이션 포텐셜에 통합된, 계산 효율적인 원자별 불확실성 지표인 교정된 마할라노비스(CALM) 외삽 등급을 소개한다.

원저자: Yury Lysogorskiy, Anton Bochkarev, Ralf Drautz

게시일 2026-10-01

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yury Lysogorskiy, Anton Bochkarev, Ralf Drautz

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

재료 과학의 세계에서 연구자들은 원자들이 어떻게 행동하는지 예측하기 위해 강력한 컴퓨터 프로그램을 사용합니다. 머신러닝 포텐셜(machine-learning potentials)이라고 알려진 이 프로그램들은 양자 물리학의 느리고 정확한 계산과 새로운 배터리, 더 강한 금속 또는 더 효율적인 태양전지를 설계하는 데 필요한 빠르고 대규모인 시뮬레이션 사이를 잇는 가교 역할을 합니다. 방대한 기지의 알려진 원자 배열으로부터 학습함으로써, 이 모델들은 새로운 상황에서 원자에 작용하는 에너지와 힘을 즉각적으로 추측할 수 있습니다. 이러한 속도는 이전에는 계산 비용이 너무 많이 들어 불가능했던 전체 결정 구조나 복잡한 화학 반응을 시뮬레이션할 수 있는 능력을 열어주었습니다. 그러나 결정적인 사각지대가 남아 있습니다. 이 모델들이 한 번도 본 적 없는 상황에 직면했을 때, 종종 소리 없이 실패한다는 점입니다. 모델은 완벽하게 타당해 보이는 결과를 내놓을 수도 있지만, 실제로는 터무니없이 틀릴 수 있으며, 자신의 예측이 자신이 실제로 알고 있는 범위를 얼마나 벗어났는지에 대해 아무런 경고도 주지 않습니다.

이 문제를 해결하기 위해 루르 대학교 보훔(Ruhr-University Bochum)의 연구팀은 실시간으로 신뢰도를 측정하는 새로운 방법을 개발했습니다. 그들은 'calibrated Mahalanobis extrapolation grade', 줄여서 'calm' 등급이라고 불리는 시스템을 도입했는데, 이는 원자 모델을 위한 내부 나침반 역할을 합니다. 모델이 특정 도시의 모든 거리를 알고 있는 지도라고 상상해 보십시오. 운전자가 그 거리들을 따라간다면 지도는 신뢰할 수 있습니다. 하지만 운전자가 갑자기 사막이나 다른 나라에 놓이게 된다면 그 지도는 쓸모가 없습니다. 이 새로운 시스템은 각 원자마다 점수를 부여하여 컴퓨터가 알려진 거리로부터 얼마나 멀어졌는지를 정확히 알려줍니다. 점수가 낮으면 원자는 익숙한 영역에 있는 것입니다. 점수가 높으면 원자는 미지의 영역에 있는 것이며, 컴퓨터는 그 결과를 극도로 주의해서 다루어야 한다는 것을 알게 됩니다.

연구진은 이 시스템을 다양한 원소와 화학적 환경에서 작동하도록 설계된 파운데이션 모델인 GRACE에 구축했습니다. 오류를 확인하기 위해 모델의 여러 복사본을 실행하는 대신(이 방법은 정확하지만 계산 비용이 많이 들고 느립니다), 그들은 주요 계산과 함께 실행되는 단일하고 가벼운 체크 기능을 설계했습니다. 이 체크 기능은 원자 주변의 수학적 '지문(fingerprint)'을 살펴봅니다. 이 지문을 훈련 데이터에서 수집된 지문 라이브러리와 비교합니다. 만약 새로운 지문이 모델이 본 적 있는 것과 너무 다르다면 시스템이 이를 표시합니다. 결정적으로, 이 체크 기능은 특정 점수인 1이 모델이 아는 것과 추측하는 것 사이의 경계를 나타내도록 보정되었습니다.

연구팀은 수백만 개의 원자 구성이 포함된 두 개의 거대한 데이터셋을 사용하여 이 접근 방식을 엄격하게 테스트했습니다. 그들은 이 점수가 모델 예측의 실제 오차와 강력하게 상관관계가 있음을 발견했습니다. 점수가 낮을 때 모델이 원자들 사이의 밀고 당기는 힘에 대해 내놓는 추측은 정확했습니다. 점수가 임계값 위로 올라가면 오차가 크게 증가하여 때로는 몇 자릿수 차이가 나기도 했습니다. 이 시스템은 두 가지 뚜렷한 유형의 위험을 포착하는 데 효과적임을 입증했습니다. 첫째, 원자들이 너무 빽빽하게 압착되거나 너무 멀리 떨어져 있는 등의 구조적 놀라움을 감지하거나, 이웃 원자가 없는 물질의 표면에 원자가 위치하는 경우를 감지했습니다. 둘째, 모델이 훈련 중에 본 적 없는 비율로 혼합된 원소들로 이루어진 재료와 같은 화학적 놀라움을 잡아냈습니다. 몰리브덴과 텅스텐의 혼합물을 다룬 한 테스트에서, 시스템은 텅스텐의 농도가 훈련 데이터의 한계를 초과했을 때 모델이 어려움을 겪고 있다는 것을 정확히 식별해 냈는데, 이는 원자 자체가 모델이 알고 있는 것과 화학적으로 유사했음에도 불구하고 그러했습니다.

단순히 오류를 표시하는 것을 넘어, 연구진은 이 점수가 모델을 능동적으로 개선하는 데 사용될 수 있음을 보여주었습니다. 이 점수를 사용하여 컴퓨터 시뮬레이션을 유도함으로써, 시뮬레이션을 가장 불확실한 영역으로 이끌 수 있었습니다. 시뮬레이션이 무작위로 헤매게 두는 대신, 연구진은 점수를 편향(bias)으로 사용하여 원자들이 모델이 가장 확신하지 못하는 구성으로 밀어 넣었습니다. 이를 통해 모델이 가장 필요로 하는 곳에서 정확히 새로운 고가치 데이터 포인트를 수집할 수 있었습니다. 이 새로운 데이터 포인트들을 사용하여 모델을 재학습시켰을 때, 그 결과물인 포텐셜은 동일한 양의 데이터를 사용하되 이와 같은 유도가 없었던 모델보다 고온 및 액체 상태를 훨씬 더 잘 처리할 수 있었습니다. 이는 이 시스템이 단순히 문제를 식별하는 데 그치지 않고, 효율적으로 문제를 해결하기 위한 로드맵을 제공한다는 것을 시사합니다.

이 방법은 매우 효율적이기도 합니다. 이 신뢰도 체크를 시뮬레이션에 추가해도 계산 시간은 아주 적은 부분, 종종 더 크고 복잡한 모델의 경우 1% 미만만 증가합니다. 이는 연구자가 오류 속으로 자신도 모르게 빠져들고 있지 않다는 확신을 가지고 긴 시뮬레이션을 수행할 수 있도록, 이 작은 비용이 막대한 신뢰성 향상을 가져다준다는 것을 의미합니다. 연구진은 이 작은 비용이 엄청난 신뢰성을 보장하며, 과학자들이 원자 세계를 바라볼 때 그것이 실제 현실의 반영인지 아니면 단순한 추측인지를 정확히 알 수 있게 해준다는 것을 입증했습니다. 이 "calm" 등급을 파운데이션 모델에 직접 통합함으로써, 연구팀은 이러한 강력한 시뮬레이션을 더 안전하고 신뢰할 수 있게 만드는 도구를 제공하였으며, 과학자들이 원자 세계를 관찰할 때 그것이 실제 현실의 반영인지 아니면 추측인지 정확히 알 수 있도록 보장했습니다.

기술 요약: 그래프 원자 클러스터 확장 기반 포텐셜을 위한 CALM 외삽 등급(Extrapolation Grade)

문제 정의
GRACE, MACE-MP, NequIP와 같은 파운데이션 머신러닝 상호작용 포텐셜(MLIP)은 광범위한 구성 및 화학적 공간에 걸친 대규모 데이터셋(예: OMat24, SMAX)을 학습하여 빠른 원자 단위 시뮬레이션을 가능하게 한다. 이러한 모델들은 훈련 영역 내에서는 밀도 범함수 이론(DFT) 수준의 정확도에 도달하지만, 고유한 불확실성 정량화(UQ) 기능이 부족하다. 결과적으로, 시뮬레이션은 보간(interpolation, 훈련 분포 내)과 침묵적 외삽(silent extrapolation, 훈련 분포 외)을 구분할 수 없으며, 이 경우 예측 오차가 수십 배 이상 증가할 수 있다. 딥 앙상블(deep ensembles)과 같은 기존 UQ 방법은 여러 번의 훈련 및 추론 과정이 필요하기 때문에 파운데이션 모델에 적용하기에는 계산 비용이 너무 높다. 베이지안 근사(Bayesian approximations)나 증거적 회귀(evidential regression)와 같은 다른 방법들은 종종 아키텍처 변경, 추가 훈련 또는 반복적인 확률적 순전파(stochastic forward passes)를 요구한다. 따라서 최소한의 계산 오버헤드를 유지하면서 에너지 및 힘과 함께 단일 모델 패스 내에서 평가될 수 있는, 원자 단위로 해상도가 높고 교정된 외삽 등급이 필요하다.

방법론
저자들은 Calibrated Mahalanobis (CALM) 외삽 등급( $\gamma$ 로 표기)을 도입한다. 이 방법은 GRACE 파운데이션 모델에 통합되어 다음과 같이 작동한다:

특징 표현(Feature Representation): 이 방법은 MLIP의 불변 다체 기저(invariant many-body basis)에서 유도된 잠재 특징 공간을 활용한다. 기저의 넓은 크기 범위를 처리하고 구조적 변형(압축 및 인장) 하에서도 견고성을 보장하기 위해, 저자들은 다음과 같은 특정 특징 구성을 사용한다:
- 전체 불변 곱 기저(full invariant product basis)를 단위 $L_2$ 노름으로 정규화한다.
- 고정된 랜덤 투영(Johnson-Lindenstrauss 변환)을 통해 차원을 축소한다(예: 128차원).
- 정규화 과정에서 손실된 크기 정보를 보존하기 위해, 전체 기저와 개별 축소 블록의 로그 노름 채널(logarithmic norm channels)을 투영에 추가한다.
클러스터링 및 마할라노비스 거리: 각 화학 원소에 대해, 잠재 특징 공간에서의 훈련 데이터를 클러스터링한다. 특정 원자 $z$ 에 대해, 이 방법은 가장 가까운 클러스터 중심 $k^*$ 를 식별한다. 마할라노비스 거리 $\sigma$ 는 다음과 같이 계산된다:
$\sigma = \sqrt{(z - \mu_{e,k^*})^T \Sigma_{e,k^*}^{-1} (z - \mu_{e,k^*})}$
여기서 $\mu$ 와 $\Sigma$ 는 할당된 클러스터의 평균과 공분산이다.
교정(Calibration): 거리 $\sigma$ 를 클러스터별 임계값 $\theta_{e,k^*}$ 로 정규화하여 등급 $\gamma = \sigma / \theta_{e,k^*}$ 를 산출한다. 임계값은 훈련 세트 거리의 중앙값에 3 표준 편차(중앙 절대 편차를 통해 추정)를 더한 값으로 정의된다. 따라서 $\gamma = 1$ 은 훈련 지원(support)의 교정된 경계를 나타내며, $\gamma \le 1$ 은 보간을, $\gamma > 1$ 은 외삽을 의미한다.
미분 가능성 및 집계: 고정된 클러스터 할당 내에서, $\gamma$ 는 원자 위치에 대해 미분 가능하다. 또한, 힘 오차의 불확실성 국부화를 개선하기 위해 가중 이웃 평균 등급( $\gamma_{nbr}$ )을 정의한다.
계산 효율성: $\gamma$ 는 에너지 및 힘과 함께 단일 모델 패스 내에서 평가된다. 이는 저장된 클러스터 통계치까지의 거리 계산만을 요구하며, 모델 깊이에 따라 1% 미만에서 6% 사이의 계산 오버헤드만을 발생시킨다.

주요 기여

CALM 등급: GRACE 파운데이션 모델에 직접 통합된, 미분 가능한 원자 단위의 외삽 등급을 제공한다.
특징 공학: 정규화된 불변 기저와 로그 노름 채널을 사용하는 것이 구조적(압축/인장) 및 화학적 외삽을 모두 탐지하는 데 있어 원본 또는 선형 투영 기저보다 우수함을 입증하였다.
교정 전략: 훈련 거리 분포를 기반으로 서로 다른 원소와 클러스터에 대해 보편적인 임계값( $\gamma=1$ )을 설정하는 방법을 제시하여, 외삽 위험에 대한 일관된 해석을 가능하게 한다.
불확실성 유도 샘플링: $\gamma$ 의 공간적 기울기(gradient)를 활용하여 분자 역학(MD) 시뮬레이션을 불확실한 영역으로 편향시킴으로써, 기본 모델을 재학습시키지 않고도 능동 학습(active learning)과 데이터셋 확장을 용이하게 한다.

결과

제어된 테스트 검증: CALM 등급은 원소 프로토타입(Al, Cu, Fe, Si, Ti, W)에서 구조적 외삽을 성공적으로 식별하였으며, 특히 이웃 원자가 컷오프를 벗어날 때 인장(stretching)을 감지하지 못하는 선형 투영 기저보다 뛰어난 성능을 보였다.
오차와의 상관관계: OMat24-val(내부 분포) 및 SMAX(외부 분포) 데이터셋에서 $\gamma$ 는 원자 힘 오차와 상관관계를 가진다. 스피어먼 상관계수는 OMat24-val에서 0.497, SMAX에서 0.617에 달한다. 이웃 평균( $\gamma_{nbr}$ )을 사용하면 이러한 상관관계가 더욱 향상된다.
대안과의 비교: CALM은 동일한 특징으로 구축된 D-최적성(MaxVol) 등급보다 높은 힘 오차 상관관계를 달성하였으며, 3배의 추론 비용이 드는 딥 앙상블과 유사한 성능을 보이면서도 훨씬 저렴하다.
재료 발견 벤치마크: WBM 형성 에너지 벤치마크에 적용했을 때, $\gamma > 1$ 인 구조를 필터링함으로써 80%의 구조를 유지하면서도 형성 에너지의 평균 절대 오차(MAE)를 17.7에서 16.3 meV/atom으로 감소시켰다.
능동 학습: 알루미늄과 실리콘에 대한 불확실성 유도 MD(HAL)에서, $\gamma$ 의 기울기를 따라 샘플링하면 편향되지 않은 MD보다 더 큰 힘 오차를 가진 구성들을 수집할 수 있다. 이러한 불확실성 편향 데이터셋으로 업피팅(upfitted)된 포텐셜은 편향된 데이터로 학습된 경우보다 고온 및 액상에서 개선된 정확도를 보인다.
파운데이션 모델 확장: SMAX로 학습된 파운데이션 모델에 적용했을 때, 이 방법은 훈련 세트보다 높은 힘 오차를 가진 구성들을 성공적으로 식별하여 모델의 훈련 영역을 확장하기 위한 후보들을 제공하였다.

의의 및 주장
본 논문은 CALM 등급이 파운데이션 MLIP를 위한 실용적이고 저비용인 불확실성 정량화 솔루션을 제공한다고 주장한다. 미분 가능하고 단일 패스로 계산 가능하다는 점 덕분에, 실시간으로 시뮬레이션 신뢰도를 모니터링하고 데이터 획득 전략을 가이드할 수 있다. 저자들은 $\gamma$ 와 오차 사이의 상관관계가 데이터셋과 화학 성분에 따라 달라질 수 있지만, 이 방법이 보간과 외사를 구분하는 교정된 원소별 경계를 제공한다는 점을 강조한다. 본 연구는 불확실성 지표가 퍼센트 수준의 계산 비용만을 추가하면서도 알려지지 않은 영역에서의 시뮬레이션 신뢰성을 크게 향상시키고, 표적 샘플링을 통해 훈련 데이터셋 확장을 용이하게 하는 등 포텐셜 평가 과정의 내재적 요소가 될 수 있음을 보여준다.

유사한 논문