Breaking the Exascale Barrier for the Electronic Structure Problem in Ab-Initio Molecular Dynamics

물질이 가장 근본적인 수준에서 어떻게 행동하는지 이해하기 위해, 과학자들은 종종 'ab-initio(제일원리)' 분자 역학이라 불리는 기법을 활용합니다. 이 접근 방식은 원자들이 분자, 표면 또는 고체 내에서 움직이는 과정을 계산하여 그들을 밀고 당기는 힘을 시뮬레이션하려고 시도합니다. 단순화된 경험적 규칙에 의존하는 기존의 방식들과 달리, 이 기법은 전자들의 복잡한 양자 역학적 문제를 직접 해결합니다. 이는 전자를 막연한 배경으로 취급하는 것이 아니라, 원자 간의 상호작용을 결정하는 핵심 주체로 다룹니다. 이러한 방식은 화학 반응과 재료의 특성에 대해 매우 정확한 그림을 제공하지만, 시스템의 크기가 커짐에 따라 요구되는 계산량이 급격히 증가하기 때문에 막대한 비용이 따른다는 단점이 있습니다. 이 때문에 거대한 규모의 실제 구조를 시뮬레이션하는 것은 오랫동안 불가능한 일로 여겨져 왔습니다. 수십 년 동안 연구자들은 아주 작은 물질 조각만을 연구해야 했으며, 수십억 개의 원자가 살아있는 세포나 복잡한 재료 속에서 어떻게 함께 움직이는지에 대한 전체적인 모습을 볼 수 없었습니다.

독일 파더보른 대학교의 연구팀은 이제 이 장벽을 넘어, 최대 8,300만 개의 원자를 포함하는 시스템의 전자 구조를 시뮬레이션하는 방법을 선보였습니다. 이들은 '비직교 국소 부행렬(non-orthogonal local submatrix)' 기술로 알려진 방법을 응용하고, 수천 개의 특수 그래픽 프로세서가 장착된 거대 슈퍼컴퓨터를 사용하여 1.1 엑사플롭스(exaflops) 이상의 지속적인 컴퓨팅 속도를 달램했습니다. 이는 시스템이 초당 100경 번 이상의 부동 소수점 연산을 수행했음을 의미하며, 이 특정 과학적 응용 분야가 '엑사스케일(exascale)' 장벽을 돌파한 최초의 사례 중 하나라는 이정표를 세웠음을 보여줍니다. 연구진은 단순히 시뮬레이션을 실행한 것이 아니라, 하드웨어가 최대 이론 성능의 거의 80%까지 작동할 수 있도록 수학적 작업을 조직하는 새로운 방법을 설계했습니다. 이들의 연구는 적절한 알고리즘 조정이 있다면 전체 단백질이 용액 속에서 어떻게 움직이는지를 계산하는 것이 가능하다는 것을 입증했으며, 이는 생물학적 기계 장치와 복잡한 재료를 전례 없는 세부 사항으로 연구할 수 있는 문을 열어주었습니다.

이러한 시뮬레이션의 핵심 과제는 원자가 아주 미세하게라도 움직일 때마다, 해당 원자에 작용하는 새로운 힘을 결정하기 위해 시스템의 전체 전자 구조를 매번 다시 계산해야 한다는 점입니다. 전통적인 방식에서는 원자의 수가 증가함에 따라 이 재계산 과정이 감당할 수 없을 정도로 느려집니다. 연구진은 이 거대한 수학적 문제를 '부행렬(submatrices)'이라 불리는 더 작고 관리 가능한 조각들로 나누는 방법을 사용했습니다. 전체 시스템에 대한 방정식을 한꺼번에 풀려고 시도하는 대신, 컴퓨터는 데이터의 작은 섹션들을 격리하여 독립적으로 해결한 다음 그 결과들을 다시 결합합니다. 이러한 '국소적(local)' 접근 방식은 대규모 시뮬레이션에서 흔히 병목 현상이 발생하는 컴퓨터의 서로 다른 부분 간의 지속적인 통신 필요성을 피하게 해줍니다. 연구진은 이 방법을 특정 생물학적 표적인 SARS-CoV-2 바이러스의 스파이크 단백질에 적용했습니다. 이 단백질은 바이러스가 인간 세포에 부착하는 데 사용하는 구조입니다. 연구진은 단백질이 지질층에 고정되어 있고 물로 둘-러싸인 상태를 시뮬레이션하여 초기 테스트에서는 약 170만 개의 원자를 가진 시스템을 만들었고, 이후 이 단백질들을 그리드 형태로 배치하여 총 8,300만 개의 원자에 도달했습니다.

이 정도 수준의 성능을 달성하기 위해, 연구진은 단순히 더 많은 컴퓨터를 사용하는 것을 넘어 소프트웨어가 하드웨어와 상호작용하는 방식을 근본적으로 재고해야 했습니다. 국립 에너지 연구 과학 컴퓨팅 센터(National Energy Research Scientific Computing Center)에 위치한 이 슈퍼컴퓨터는 4,400개의 NVIDIA A100 그래픽 처리 장치(GPU)를 갖추고 있습니다. 이 칩들은 방대한 양의 병렬 계산을 처리하도록 설계되었지만, 크고 조밀한 데이터 블록을 작업할 때 가장 효율적입니다. 기존 버전의 알고리즘은 생성된 부행렬이 너무 작아 이 칩들의 성능을 충분히 활용하지 못하는 경우가 많았습니다. 연구팀은 여러 데이터 열을 처리하기 전에 더 큰 부행렬로 결합하는 새로운 휴리스틱(heuristic), 즉 의사결정 규칙을 도입했습니다. 이 조정은 단순한 미세 조정이 아니라, 그래픽 프로세서의 구체적인 성능 특성에 기반한 전략적 변화였습니다. 연구진은 칩이 다양한 크기의 행렬을 얼마나 빨리 곱할 수 있는지 측정함으로써, 하드웨어가 정점에 도달해 작동할 수 있도록 데이터 그룹화 방식을 최적화했습니다. 이러한 수정 덕분에 시스템은 이전에는 이 유형의 계산에서 불가능하다고 생각되었던 성능 수준을 유지할 수 있었습니다.

이 노력의 결과는 스파이크 단백질 그리드를 실행함으로써 측정되었으며, 이는 실질적으로 8,300만 개의 원자를 가진 가상 환경을 구축한 것입니다. 연구팀은 계산의 각 단계를 완료하는 데 걸리는 시간과 수행된 총 수학적 연산 횟수를 추적했습니다. 그들은 시스템이 지속적으로 1.106에서 1.127 엑사플롭스 사이의 속도를 전달하며, 하드웨어의 이론적 최대 성능의 약 80%를 유지한다는 것을 발견했습니다. 이는 고성능 컴퓨팅 시스템이 수천 개의 프로세서로 규모를 키울 때 효율성이 떨어지는 경우가 많다는 점에서 매우 중요한 성과입니다. 보통은 통신 오버헤드가 증가함에 따라 효율이 감소합니다. 그러나 이 경우, 방법론의 국소적 특성 덕분에 프로세서들은 데이터를 기다리는 대신 거의 모든 시간을 계산에 할애할 수 있었습니다. 연구진은 시뮬레이션의 정확도가 높게 유지됨을 검증하여, 속도 향상이 과학적 타당성을 희생시키지 않았음을 확인했습니다.

이 획기적인 성과는 단순히 바이러스를 시뮬레이션하는 것에 그치지 않고, 계산 과학의 새로운 능력을 의미합니다. 수천만 개의 원자를 가진 시스템의 전자 구조를 모델링할 수 있다는 것은, 이제 과학자들이 자연스러운 수용액 환경에서의 거대 생체 분자의 행동이나 스트레스 하에서의 복잡한 재료의 특성과 같이 이전에는 손이 닿지 않았던 현상들을 연구할 수 있음을 뜻합니다. 이 방법은 단순히 분자 역학뿐만 아니라, 대규모의 희소한(sparse) 데이터 세트에 대해 수학적 함수를 평가해야 하는 모든 문제에 적용될 수 있을 만큼 다재다능합니다. 엑사스케일 성능이 실제 과학적 응용 분야에서 달성 가능하다는 것을 입증함으로써, 연구진은 미래의 고성능 컴퓨팅을 위한 청사진을 제공했습니다. 그들은 알고리즘 설계와 하드웨어 역량을 일치시킴으로써, 한때 계산하기에 너무 크다고 여겨졌던 문제들을 해결할 수 있다는 것을 보여주었으며, 원자와 전자의 양자 역학적 세계를 생명과 물질 연구를 위해 더욱 선명하게 밝혀냈습니다.