Classical finite-element solvers as differentiable graph programs on GPUs

제트 엔진이나 원자력 발전소 내부와 같이 복잡한 기계 내부에서 열이 어떻게 이동하는지 예측하는 과정을 상상해 보십시오. 공기는 소용돌이치며 뜨거운 금속 벽면을 식히고, 금속 자체는 열을 전달받아 그 열을 멀리 퍼뜨립니다. 이러한 기계를 안전하고 효율적으로 설계하기 위해, 엔지니어들은 유체와 고체의 이 춤사위를 시뮬레이션해야 합니다. 수십 년 동안 이를 수행하는 표준적인 방법은 기계의 형상을 수백만 개의 작고 불규칙한 퍼즐 조각으로 나누고, 각 조각에 대해 방대한 방정식 세트를 푸는 것이었습니다. 이 과정은 매우 정확하지만 엄청나게 느리며, 종종 단 한 번의 답을 얻기 위해 몇 시간 또는 며칠 동안 작동하는 전통적인 컴퓨터 프로세서 뱅크를 필요로 합니다. 병목 현상은 대개 시스템 전체에서 압력과 온도의 균형이 올바르게 맞는지 확인하기 위해 필요한 계산량 그 자체에서 발생합니다.

한 연구팀은 이와 동일하고 매우 정확한 계산을 완전히 다른 종류의 문제, 즉 그래프로 취급함으로써 훨씬 더 빠르게 실행할 수 있음을 보여주었습니다. 시뮬레이션을 숫자로 이루어진 경직된 격자로 보는 대신, 그들은 이 작은 퍼즐 조각들 사이의 연결 관계를 현대적인 그래픽 프로세서(고성능 비디오 카드의 칩)가 쉽게 처리할 수 있는 구조로 매핑했습니다. 고전적인 수학적 단계들을 이 그래프를 통해 흐르는 고정된 명령 세트로 다시 작성함으로써, 그들은 단 하나의 그래픽 카드에서 실행되는 새로운 솔버(solver)를 만들어냈습니다. 그들의 테스트에서, 이 접근 방식은 전통적인 방식이 32개의 강력한 프로세서 코어를 사용하는 것보다 최대 181배 더 빠르게 동일한 복잡한 열전달 문제를 해결했습니다. 결정적으로, 이러한 속도 향상은 물리 법칙을 근사화하거나 정답을 추측하기 위해 머신러닝 모델을 훈련시킨 결과가 아니었습니다. 연구진은 기존의 수학적 규칙을 그대로 유지하여 결과가 기존의 느린 방법만큼이나 정확하다는 것을 보장했습니다.

Siemens Energy, 임페리얼 칼리지 런던 등의 과학자들이 주도한 이 연구는 '공액 열전달(conjugate heat transfer)'이라고 알려진 특정 과제에 집중하고 있습니다. 이는 공기나 물과 같은 움직이는 유체가 접촉하고 있는 고체와 열을 교환하는 현상입니다. 전자 제품 냉각부터 엔진 설계에 이르기까지 많은 공학 응용 분야에서, 유체와 고체는 서로 너무 강력하게 영향을 미치기 때문에 하나의 시스템으로서 함께 해결되어야 합니다. 연구진은 복잡하고 곡선이 있는 형상을 다루는 데 있어 골드 스탠다드인 유한 요소법(finite element method)이라는 확립된 방법을 채택하여, 그 핵심 연산을 그래픽 프로세서가 네이티브로 이해하는 언어로 번역했습니다. 그들은 시뮬레이션의 수백만 개 지점 사이의 연결을 마치 사회적 네트워크가 사람들 사이의 연결을 매핑하는 것과 유사한 노드와 엣지의 네트워크로 표현했습니다. 계산의 각 단계는 이 네트워크를 통한 단순한 메시지 전달 이벤트가 되었습니다.

이 성과가 중요한 이유는 연구팀이 솔루션을 학습하기 위해 인공지능을 훈련시키지 않았기 때문입니다. 최근 시뮬레이션 속도를 높이려는 많은 시도에서 연구자들은 과거 데이터로부터 패턴을 학습하는 신경망을 사용하지만, 이러한 모델들은 새로운 형태나 조건에서 어려움을 겪거나 부정확한 결과를 낼 수 있습니다. 여기서 "신경망" 구조는 오직 고전적인 수학을 담는 그릇으로만 사용되었습니다. 그래프의 모든 가중치와 연결은 물리 방정식과 메쉬(mesh)의 기하학적 구조로부터 직접 계산되었으며, 이는 솔버가 무언가를 학습하는 것이 아니라 알려진 물리 법칙을 새롭고 매우 효율적인 형식으로 실행하고 있음을 의미합니다. 이를 통해 시스템은 전통적인 방법의 엄격한 정확성을 유지하면서도 그래픽 카드의 강력한 병렬 처리 능력을 얻을 수 있었습니다.

연구진은 뜨거운 공기가 솟아오르고 차가운 공기가 가라앉는 혼돈스러운 소용돌이가 발생하는 난류 셀과 곡선형 금속 벽이 있는 복잡한 엔진 실린더를 포함하여 다양한 까다로운 시나리오에 대해 새로운 솔버를 테스트했습니다. 그들은 자신들의 결과를 세 가지 다른 확립된 솔버, 즉 중앙 프로세서에서 실행되는 전통적인 코드, 업계에서 널리 사용되는 표준 유한 체적 코드, 그리고 단순한 격자를 위해 설계된 다른 유형의 신경망 접근 방식과 비교했습니다. 결과는 모든 상황에서 가장 빠른 단일 솔버는 없다는 것을 보여주었습니다. 매우 작은 문제의 경우 전통적인 방식이 여전히 경쟁력이 있었습니다. 그러나 문제가 커지고 복잡해질수록, 그래픽 카드 기반의 새로운 그래프 솔버가 극적으로 앞서 나갔습니다. 1억 개 이상의 데이터 포인트를 포함하는 가장 큰 테스트 케이스에서, 새로운 방식은 전통적인 방식보다 단계당 181배 더 빨랐습니다.

단순한 속도 외에도, 이 새로운 접근 방식은 독특한 장점을 제공했습니다. 즉, 입력 매개변수의 변화에 따라 최종 결과가 얼마나 민감하게 반응하는지를 계산할 수 있다는 점입니다. 공학에서 재료나 온도의 작은 변화가 결과에 어떤 영향을 미치는지 아는 것은 최적화를 위해 매우 중요합니다. 연구진은 자신들의 솔버가 새로운 문제마다 특수하고 복적인 코드를 작성할 필요 없이, 민감도를 자동으로 정확하게 계산할 수 있음을 입증했습니다. 그들은 단일 매개변수에 대한 솔루션의 민감도를 계산하는 비용이 매개변수의 개수와 상관없이 시뮬레이션을 다섯 번 실행하는 것과 거의 동일한 컴퓨팅 파워를 소모한다는 것을 발견했습니다. 이러한 효율성은 최적의 구성을 찾기 위해 수천 가지의 설계 변형을 빠르게 테스트할 수 있는 길을 열어줍니다.

팀은 또한 여러 개의 그래픽 카드가 함께 작동해야 하는 더 큰 문제로 이 방법을 확장하는 과제를 해결했습니다. 서로 다른 카드들이 진행 상황을 통신하도록 돕는 특정 보정 단계를 추가함으로써, 프로세서의 수를 늘려도 높은 효율성을 유지할 수 있었습니다. 그들은 8개의 그래픽 카드에 걸쳐 수억 개의 포인트를 사용하여 시뮬레이션을 성공적으로 실행했으며, 이는 단일 기계의 전통적인 접근 방식으로는 달성하기 어려운 규모입니다. 이 연구가 그래픽 카드가 항상 전통적인 프로세서보다 우월하다고 주장하는 것은 아니지만, 크고 복잡하며 곡선이 있는 기하학적 구조에 대해서는 단일 카드의 새로운 그래프 기반 접근 방식이 32개의 전통적인 코어 클러스터를 엄청난 차이로 능가할 수 있음을 명확히 보여주었습니다.

이 연구는 현대 시뮬레이션의 속도가 물리 법칙에 의해 제한되는 것이 아니라, 우리가 계산을 어떻게 실행하느냐에 달려 있음을 확인시켜 줍니다. 유한 요소법을 그래프 프로그램으로 재구상함으로써, 연구진은 동일한 수학적 엄밀함을 훨씬 적은 시간으로 달 Achieve 할 수 있음을 보여주었습니다. 이는 신중한 엔지니어링이나 결과 검증의 필요성을 대체하는 것이 아니라, 엔지니어가 더 많은 설계를 탐색하고, 더 상세한 시뮬레이션을 실행하며, 이전에는 너무 느려서 다루기 힘들었던 문제들을 해결할 수 있게 해주는 강력한 새로운 도구를 제공합니다. 이 작업은 고전 과학과 현대 컴퓨팅 하드웨어가 융합되어 정밀하면서도 놀랍도록 빠른 도구를 만들어낼 수 있다는 증거로 서 있습니다.