S$^{2}$-PINN: Stochastic Separable Physics-Informed Neural Networks

공학 및 기후 과학의 세계에서 미래를 예측하는 것은 결코 단순한 확실함의 문제가 아닙니다. 과학자들이 금속 빔을 통해 열이 어떻게 퍼지는지, 토양을 통해 물이 어떻게 여과되는지, 또는 비행기 날개 주변으로 공기가 어떻게 소용돌이치는지 모델링할 때, 그들은 입력값이 결코 완벽하게 알려져 있지 않다는 사실을 반드시 고려해야 합니다. 어떤 재료는 한 지점에서 약간 더 거칠 수 있고, 바람은 예상보다 아주 조금 더 세게 불 수도 있습니다. 이러한 작은 무작ful한 변동은 방정식 속에서 파동을 일으키며, 단 하나의 고정된 답이 아닌 방대한 가능성의 구름을 만들어냅니다. 위험을 이해하기 위해 엔지니어들은 단순히 가장 가능성 높은 결과뿐만 아니라, 전체적인 가능성의 범위와 각 결과가 나타날 확률까지 알아야 합니다. 불확실성 정량화(uncertainty quantification)라고 알려진 이 분야는 안전한 교량, 신뢰할 수 있는 의료 기기, 정확한 기후 모델을 설계하는 데 필수적입니다. 그러나 이러한 확률을 계산하는 것은 역사적으로 엄청난 과업이었습니다. 전통적인 방식은 전체적인 그림을 그리기 위해 약간씩 다른 무작위 입력을 가진 동일한 복잡한 시뮬레이션을 수천 번 실행해야 하는 경우가 많습니다. 불확실한 요소의 수가 증가함에 따라 필요한 컴퓨팅 파워는 폭발적으로 늘어나며, 이로 인해 많은 실제 문제들이 현재 가용한 도구들로는 해결하기에 너무 비용이 많이 드는 문제가 됩니다.

리하이 대학교(Lehigh University)의 연구진은 문제를 밑바닥부터 구축하는 방식을 바꿈으로써 이 계산상의 병목 현상을 해결하는 새로운 접근법을 도입했습니다. 그들은 S2-PINN, 즉 '확률적 분리 물리 정보 신경망(Stochastic Separable Physics-Informed Neural Network)'이라 불리는 시스템을 개발했습니다. 이 방법은 문제를 공간, 시간, 무작위성이 모두 뒤섞인 거대하고 엉킨 그물처럼 취급하는 대신, 솔루션을 세 개의 별개이며 관리 가능한 조각으로 나눕니다. 솔루션을 태피스트리라고 상상해 보십시오. 모든 색깔의 실과 시간의 실, 위치의 실을 하나의 밀도 높은 블록으로 엮는 대신, 연구진은 이 실들을 세 개의 명확한 다발로 분리했습니다. 하나는 물리적 공간을 위한 것이고, 하나는 시간의 흐로를 위한 것이며, 나머지 하나는 무작위 변동을 위한 것입니다. 그런 다음 이 다발들을 전체 실의 수를 적게 유지하면서도 효율적인 특정 패턴을 사용하여 다시 엮어냅니다. 이러한 분리를 통해 컴퓨터는 엄청난 양의 계산량에 압도되지 않고도 무작위성을 처리할 수 있습니다.

이 새로운 시스템의 핵심은 조화롭게 작동하는 세 가지 특화된 도구의 영리한 조합입니다. 첫째, 공간에서의 솔루션 형태를 설명하기 위해 문제의 기하학적 구조에 적응하는 유연한 빌딩 블록 세트를 사용합니다. 둘째, 음악가가 선율을 묘사하기 위해 음표를 사용하는 것과 유사하게, 솔루션이 시간에 따라 어떻게 변하는지 추적하기 위해 리드미컬한 특징들을 채택합니다. 셋째, 불확실성 측면에서 가장 중요한 것으로, 무작위 변동을 표현하기 위해 표준 형상의 수학적 라이브러리를 사용합니다. 이 세 가지 도구 세트는 공간, 시간, 무작위성의 모든 조합마다 별도의 거대한 계산을 요구하지 않고도 서로 동기화되도록 보장하는 컴팩트한 저계수 연결자(low-rank connector)에 의해 연결됩니다. 시스템은 이중 프로세스에 의해 훈련됩니다. 즉, 솔루션이 모든 지점에서 근본적인 물리 법칙을 준수하는지 확인하고, 동시에 무작위성의 통계적 패턴이 기대되는 행동과 일치하는지 확인합니다. 이 이중 점검은 엄격한 품질 관리 역할을 하여, 모델이 물리적으로 정확하면서도 통계적으로 건전하도록 강제합니다.

연구진이 이 새로운 방법을 다양한 까다로운 문제들에 테스트했을 때, 그 결과는 놀라웠습니다. 그들은 열 확산, 유체 흐름, 화학 반응을 포함한 네 가지 유형의 물리적 시스템에 대한 시뮬레이션을 수행했으며, 이들은 모두 무작위 입력을 가졌습니다. 모든 경우에서, 이 새로운 방법은 다른 9개의 주요 방법들보다 평균적인 결과와 가능한 결과의 분포를 더 정확하게 예측했습니다. 이 높은 정밀도를 달야내는 동시에 훨씬 적은 컴퓨팅 자원을 사용했습니다. 한 비교에서는, 새 모델이 표준적인 전통적 신경망보다 약 30배 적은 조정 가능한 매개변수를 사용했습니다. 이러한 효율성은 이 방법이 컴퓨터를 다운시키지 않고도 훨씬 더 많은 무작위 요인을 가진 문제로 확장될 수 있음을 의미하기에 매우 중요합니다. 연구진은 최대 50개의 서로 다른 무작위 변수를 사용하여 시스템의 한계를 시험했는데, 이는 전형적으로 표준적인 접근 방식들을 압도할 수 있는 복잡성 수준입니다. 이러한 극한의 테스트에서도 이 방법은 안정성과 정확성을 유지했습니다.

또한 이 연구는 예측할 수 없는 투과성을 가진 암석을 통과하는 물의 흐름과 같이, 답을 미리 알 수 없는 문제에도 이 접근법이 작동할 수 있는지 탐구했습니다. 여기서도 이 방법은 전통적인 기술들을 능가하며, 평균 흐름과 그 주변의 불확실성에 대한 신뢰할 수 있는 추정치를 제공했습니다. 나아가, 연구진은 이 시스템이 역방order로 작동할 수 있음을 입증했습니다. 단순히 알려진 조건에 대한 결과를 예측하는 것을 넘어, 시스템은 관측된 데이터를 보고 숨겨진 재료 자체의 무작위적 특성을 파악할 수 있습니다. 이러한 '역문제(inverse problems)'를 해결하는 능력은 인프라의 결함을 탐지하거나 지하 저류층을 특성화하는 것과 같은 실제 시나리오에서 미지의 재료 특성을 식별하는 데 이 방법을 사용할 수 있는 문을 열어줍니다.

가장 중요한 발견 중 하나는 이 방법이 무작위성과 물리학 사이의 관계를 어떻게 다루는지에 관한 것이었습니다. 연구진은 무작위 변동이 매끄럽고 예측 가능한 패턴을 따를 때, 모델의 통계적 부분이 예측의 정확도를 높이는 강력한 가이드 역할을 한다는 것을 발견했습니다. 그러나 무작위성이 극도로 불규칙하거나 모델이 사용하는 표준 형상에 맞지 않는 패턴을 따를 경우, 통계적 가이드가 때때로 약간의 편향(bias)을 유발할 수 있다는 점도 발견했습니다. 이것은 시스템의 실패가 아니라, 무작위의 성격이 조정되어야 하거나 모델의 형상 라이브러리를 확장해야 한다는 명확한 신호입니다. 이러한 투명성은 엔지니어가 잠재적인 문제가 본격화되기 전에 진단할 수 있게 해주며, 이는 종종 다른 '블랙박스' AI 모델에서 결여된 기능입니다.

이 연구는 복잡한 물리적 문제를 불확실성과 함께 해결하는 방식에 대한 사고의 전환을 의미합니다. 공간, 시간, 무작위성을 별개이면서도 연결된 재료로 취급함으로써, 연구진은 수학적으로 우아하면서도 계산적으로 효율적인 프레임워크를 구축했습니다. 이는 방대한 양의 사전 수집된 데이터에 의존하지도 않고, 수천 번의 시뮬레이션을 무식하게 반복할 필요도 없습니다. 대신, 물리 법칙과 무작위성의 본질로부터 직접 문제의 구조를 학습합니다. 이 방법이 모든 문제를 즉시 해결하는 마법 지팡이는 아니지만, 광범위한 과학 및 공학적 과제에 적용할 수 있는 견고하고 확장 가능한 도구를 제공합니다. 연구진은 코드를 공개하여 다른 이들이 이 토대 위에 구축할 수 있도록 초대했습니다. 세계가 에너지, 기후, 재료 과학 분야에서 점점 더 복합적인 과제에 직면함에 따라, 불확실성을 효율적이고 정확하게 정량화하는 능력은 더욱 중요해질 것이며, 이 새로운 접근법은 유망한 길을 제시합니다.