Why Deterministic AI Weather Models Fail at Extremes and Physical Conservation: From the Perspective of Probabilistic Mean Field

대기권과 해양을 거대한, 혼돈스러운 무도회장이라고 상상해 보십시오. 공기와 물은 물리 법칙이라는 엄격하고 보이지 않는 규칙을 따르며 끊임없이 소용돌이치고, 충돌하며, 회전합니다. 수십 년 동안 과학자들은 거대한 슈퍼컴퓨터를 이용해 이 물리 방정식들을 단계별로 풀면서, 이 춤이 다음에 어디로 향할지 예측하려고 노력해 왔습니다. 그런데 이제 이 무도회장에 새로운 플레이어가 등장했습니다. 바로 인공지능(AI)입니다. 이 AI 모델들은 마치 수백만 시간의 과거 기상 영상을 지켜본 초고속 무용수와 같습니다. 이들은 전통적인 컴퓨터가 사용하는 아주 적은 양의 에너지만을 사용하여 순식간에 다음 동작을 예측합니다. 이는 폭풍에 대해 사람들에게 경고하고, 재생 에너지를 계획하며, 홍수를 훨씬 더 빠르게 관리하는 데 큰 도움이 될 수 있다는 점에서 매우 중요한 일입니다.

하지만 여기에는 함정이 있습니다. 이 AI 무용수들은 믿을 수 없을 정도로 빠르고 종종 '평균적인' 동작은 잘 맞히지만, 때때로 너무 매끄러운 모습을 보입니다. 그들은 거칠고 미친 듯한 회전(극한 기상)을 놓치곤 하며, 가끔은 춤의 기본 규칙(에너지 보존과 같은 물리 법칙)을 넘어지기도 합니다. 과학자들은 왜 이 똑똑한 AI 모델들이 현실의 거친 모서리를 계속해서 매끄럽게 다듬어 버리는지 의문을 품으며 머리를 싸매고 있습니다. AI가 극한 기상을 충분히 보지 못했기 때문일까요? 아니면 수학적 결함일까요? 이 논문은 '확률적 평균장(probabilistic mean field)'이라는 개념을 사용하여, 왜 이 모델들이 그렇게 행동하는지를 설명하는 통합 이론을 제시하며 이 미스터리를 깊이 파고듭니다. 즉, 모델을 정확하게 만들기 위해 사용된 바로 그 방법이 극한 상황에서 실패하게 만드는 원인임을 보여줍니다.

"평균"의 함정: 왜 AI 기상 모델은 현실을 매끄럽게 만드는가

그렇다면 제2해양연구소와 상하이 교통대학교의 연구진은 실제로 무엇을 발견했을까요? 그들은 문제가 단순히 데이터의 부족이나 나쁜 알고리즘 때문이 아니라, 현재 대부분의 AI 기상 모델이 학습하는 방식에 내재된 근본적인 수학적 결과라는 것을 발견했습니다.

이렇게 생각해 보십시오. 당신이 과거의 움직임을 바탕으로 무용수의 다음 동작을 추측하려고 한다고 가정해 봅시다. 만약 당신이 '평균적인 실수'(수학적 개념인 평균 제곱 오차, RMSE)를 최소화하도록 훈련받았다면, 당신의 뇌는 자연스럽게 가능한 모든 다음 동작의 평균을 찾으려 할 것입니다. 만약 무용수가 왼쪽으로 돌거나, 오른쪽으로 돌거나, 혹은 점프할 수 있는 상황에서 당신이 평균적으로 "맞히기"를 원한다면, 당신은 실제로는 일어나지 않는 기묘한 '반쯤 회전하고 반쯤 점프하는' 동작을 예측할 수도 있습니다. 당신은 수학적 중심을 찾아냈지만, 춤의 실체는 놓쳐버린 것입니다.

저자들은 현재의 AI 기상 모델들이 정확히 이와 똑같은 일을 하고 있다고 주장합니다. AI에게 평균 오차를 최소화하도록 훈련시키는 것은, AI에게 조건부 기대값(conditional expectation), 즉 가능한 모든 미래의 통계적 평균을 예측하도록 가르치는 것과 같습니다. 현실 세계에서 날씨는 "비선형적" 시스템입니다. 즉, 두 개의 유효한 날씨 상태를 가져와서 평균을 낸다고 해서 그 결과가 반드시 유효한 날씨 상태가 되는 것은 아닙니다. 뜨거운 물과 차가한 물을 섞어 "미지근한" 물을 만드는 것은 괜찮습니다. 하지만 허리케인과 평온한 날을 섞는다고 해서 물리 법칙을 따르는 "중간 정도의" 폭풍이 만들어지는 것이 아닙니다. 대신 자연의 법칙을 위반하는 수학적 유령이 만들어질 뿐입니다.

실험: 단순한 주사위에서 소용돌이치는 유체까지

이를 증명하기 위해 연구팀은 두 가지 영리한 실험을 수행했습니다.

첫째, 그들은 마르코프 체인(현재 위치에 따라 다음 움직임이 결정되는 보드게임과 같은 개념)을 사용하여 간단한 "토이(toy)" 세계를 만들었습니다. 그리고 두 명의 AI "플레이어"를 훈련시켰습니다. 한 명은 정확한 다음 숫자를 맞히려고 노력했고(오차 최소화), 다른 한 명은 모든 가능한 다음 숫자에 대한 전체 확률 목록을 맞히려고 노력했습니다.

• 결과: 두 플레이어 모두 거의 완벽하게 "평균" 점수를 얻었습니다. 하지만 오차를 최소화하려던 플레이어는 가능성의 '퍼짐(spread)'을 포착하는 데 매우 형편적이었습니다. 그는 모든 복잡한 가능성을 하나의 안전하고 지루한 추측으로 붕괴시켜 버렸습니다. 이는 마치 실제 질문이 무엇인지 알지 못한 채 평균 시험 점수만 암기한 학생과 같았습니다. 논문은 이 "평균적" 추측이 게임 내에서 허용되지 않는 지점에 도달하는 경우가 많다는 것을 보여줍니다.

둘째, 연구팀은 대기와 해수가 어떻게 섞이는지를 모사하는 켈빈-헬름홀츠 불안정성(Kelvin–Helmholtz instability)을 나타내는 실제적인 유체 시뮬레이션으로 넘어갔습니다. 그들은 오차를 최소화하도록 훈련된 표준 AI 모델과, 창의적인 예술가처럼 가능한 미래의 전체 범위를 학습하는 '디퓨전 모델(Diffusion Model, 확산 모델)'을 비교했습니다.

• 결과: 표준 AI 모델은 믿을 수 없을 정도로 매끄러운 예측을 내놓았습니다. 서류상으로는 오차 점수가 약간 더 낮았지만, 자세히 들여다보면 날씨를 진짜처럼 만드는 미세한 난류의 소용돌이와 날카로운 가장자리들을 모두 뭉개버린 상태였습니다. 이는 마치 노이즈를 제거하기 위해 과하게 블러 처리를 한 사진과 같았습니다.
• 반면, 디퓨전 모델은 가능한 미래의 전체 가족(family)을 생성해 냈습니다. 이 미래들의 "평균"은 표준 AI 모델만큼 매끄러워 보였지만, 개별적인 샘플들은 날카롭고 상세했으며, 미세한 소용돌이와 극단적인 구배(gradient)를 온전히 유지하고 있었습니다.

"과도하게 자신만만한" AI

논문은 핵심적인 문제가 엔트로피, 즉 정보에 있다고 제안합니다. 실제 날씨는 무질서하고 불확실하며 수많은 가능성으로 가득 차 있습니다(높은 엔트로피). 단 하나의 "최선의 추측"만을 제공하는 표준 AI 모델은 본질적으로 "나는 이것이 일어날 것이라고 100% 확신한다"라고 말하는 것과 같습니다. 이는 과도한 자신감(overconfidence)입니다. 이는 마치 기상 예보관이 "비는 오후 2시 3분에 정확히 내릴 것입니다"라고 말하는 것과 같습니다. 실제로는 오후 1시에서 4시 사이 아무 때나 내릴 수 있는데 말입니다.

AI는 단 하나의 매끄러운 평균값에 너무 확신을 갖고 있기 때문에, 극한 현상을 예측하는 데 실패합니다. 만약 폭풍이 시속 100마일의 허리케인이 될지, 아니 시속 50마일의 강풍이 될지 모르는 상황에서, AI는 평균치인 안전한 시속 75마일의 바람을 예측할 수 있습니다. 이는 평균적으로는 맞을지 모르나, 최악의 상황에 대비하려는 사람들에게는 재앙이 됩니다. 더욱이, 그 "평균" 상태는 서로 다른 물리적 실재들의 수학적 혼합물이기 때문에, 에너지나 질량을 보존하지 못하는 등 물리 법칙을 어기는 경우가 빈번합니다.

이것이 미래에 의미하는 바

저자들은 해결책이 단순히 훈련 데이터를 미세하게 조정하거나 손실 함수를 약간 바꾸는 것에 있지 않다고 결론짓습니다. 문제는 결정론적(deterministic) 모델(단 하나의 답을 주는 모델)이 우리 날씨와 같이 혼돈스럽고 확률적인 세상에는 근본적으로 부적합하다는 점입니다.

AI에게 "내일 날씨로 가장 가능성 높은 단 하나의 상태는 무엇인가?"라고 묻는 대신, "내일 가능한 모든 날씨는 무엇이며, 각각의 확률은 얼마인가?"라고 물어야 합니다. 논문은 생성 모델(generative models)(디퓨전 모델과 같은)이 미래라고 지목합니다. 이러한 모델은 단순히 숫자 하나를 추측하는 것이 아니라, 분포로부터 샘플을 추출하여 대기의 진정한 불확실성과 복잡성을 포착하는 다양한 가능한 미래들을 만들어냅니다.

요컨대, 이 논문은 날씨 예측을 진정으로 마스터하기 위해서 AI가 완벽한 "평균적" 추측가가 되려고 노력하는 것을 멈추고, 풍부하고 다양한 현실적이며 물리적으로 일관된 가능성들을 생성해 내는 창의적인 앙상블처럼 행동해야 한다고 제안합니다. 이러한 전환이야말로 AI가 그동안 발목을 잡아왔던 극한 현상과 물리 법칙을 제대로 다룰 수 있게 하는 열쇠가 될 수 있습니다.