당신이 탐정이라고 상상해 보세요. 당신은 미스터리를 풀기 위해 고군분투하고 있지만, 범인은 결코 직접 볼 수 없습니다. 당신에게 남은 것이라고는 현장에 남겨진 진흙 묻은 발자국, 깨진 창문, 혹은 기묘한 냄새와 같은 단서들뿐입니다. 현실 세계에서 과학자들은 매일 정확히 이와 같은 문제에 직면합니다. 그들은 우주가 어떻게 작동하는지에 대한 이론(범인)을 가지고 있지만, 오직 그 이론이 만들어내는 데이터(단서)만을 관찰할 수 있습니다. 과제는 이 단서들로부터 역으로 추론하여 이론을 찾아내는 것입니다. 이것을 "역문제(inverse problem)"라고 부릅나다.

보통 과학자들은 "순방향 지도(forward map)", 즉 자신의 이론이 사실일 때 어떤 단서들이 나타날 것인지 알려주는 일련의 규칙들을 가지고 있습니다. 하지만 종종 이 규칙들은 너무 복잡하거나 난해해서 간단한 수학 방정식으로 써 내려갈 수 없는 경우가 많습니다. 대신, 그들은 무엇이 일어나는지 확인하기 위해 거대하고 복잡한 컴퓨터 시뮬레이션을 실행해야 합니다. 바로 여기서 문제가 시작됩니다. 수학적으로 기술할 수 없다면, 표준적인 탐정 도구들을 사용하여 사건을 해결하기가 쉽지 않기 때문입니다. 아마도 당신은 추측하고, 시뮬레이션을 수백만 번 실행하며, 운이 좋기를 바라야 할 것입니다. 이는 느리고 비용이 많이 들며, 때로는 불가능한 일이기도 합니다.

여기에 새로운 종류의 탐정이 등장합니다. 바로 머신러닝(Machine Learning)입니다. 이 AI 탐정들은 새로운 단서가 나타날 때마다 매번 수학 퍼즐을 풀려고 노력하는 대신, 컴퓨터로 생성된 수백만 개의 가짜 범죄 현장을 연구함으로써 단서의 패턴을 학습합니다. 이들은 단서를 보고 즉각적으로 범인이 어떤 모습이었을지 추측하는 법을 배웁니다. SciPost Physics Community Reports에 발표된 "머신러닝을 이용한 베이지안 및 빈도주의 시뮬레이션 기반 추론 입문(An Introduction to Bayesian and Frequentist Simulation-Based Inference with Machine Learning)"이라는 새 논문은 이 AI 탐정들을 위한 친절한 가이드북 역할을 합니다. 이 논문은 AI를 어떻게 가르치고, 어떻게 신뢰하며, 그들이 단순히 지어낸 이야기를 하는 것이 아님을 어떻게 확신할 수 있는지 설명합니다.

진리에 대해 생각하는 두 가지 방식

AI를 만나기 전에, 우리는 과학자들이 보통 '진리'에 대해 생각하는 두 가지 서로 다른 방식을 이해해야 합니다. 논문은 두 가지 주요 학파가 존재하며, AI는 당신이 어느 쪽의 규칙을 따르고 있는지 알아야 한다고 설명합니다.

첫 번째 학파는 **베이지안(Bayesian)**입니다. 당신이 미스터리한 상자의 무게를 추측하려고 한다고 상상해 보세요. 당신은 과거의 경험에 근 основе한 직관(예를 들어, 고양이처럼 느껴지니 약 10파운드 정도 될 것이라는 생각)을 가지고 있습니다. 이 직관이 당신의 "사전 확률(prior)"입니다. 그런 다음 새로운 단서를 얻습니다. 상자에서 야옹 소리가 납니다. 당신은 이 직관을 새로운 단서와 결합하여 "사후(posterior)" 믿음을 업데이트합니다. 이 관점에서 상자의 실제 무게는 다소 모호합니다. 즉, 단서를 모을수록 더 확신하게 되는 가능성의 범위인 것입니다. 이는 천문학처럼 별을 단 한 번만 관찰할 수 있는 경우처럼, 단서는 적지만 배경 지식이 풍부할 때 매우 유용합니다.

두 번째 학파는 **빈도주의(Frequentist)**입니다. 당신이 법정의 판사라고 상상해 보세요. 당신은 피고인에 대한 당신의 직관에는 관심이 없습니다. 당신은 오직 증거에만 관심을 가집니다. 만약 당신이 서로 다른 무작위 배심원들을 데리고 이 똑같은 재판을 백만 번 실행한다면, 당신의 판결이 95%의 확률로 맞을 것입니까? 이 관점에서 상자의 실제 무게는 (비록 우리가 그것을 알지 못하더라도) 하나의 고정된 숫자이며, 우리의 임무는 대부분의 경우 진실을 잡아낼 수 있다고 보장되는 숫자의 범위를 찾는 것입니다. 이것은 입자 물리학에서 사용하는 주된 방법으로, 실험을 수백만 번 반복 수행하며 자신들이 스스로를 속리고 있지 않음을 확실히 하고자 할 때 사용됩니다.

논문은 새로운 AI 방법론이 이 두 학파의 규칙을 모두 따를 수 있음을 보여줍니다.

AI 탐정: 시뮬레이션으로부터의 학습

그렇다면 AI 탐정은 어떻게 작동할까요? 논문은 **시뮬레이션 기반 추론(Simulation-Based Inference, SBI)**이라고 불리는 과정을 설명합니다.

전통적으로 과학자가 모델의 파라미터(매개변수)를 찾고 싶다면, "만약 파라미터가 X라면, 데이터는 Y처럼 보일 것이다"라고 말해주는 공식이 필요합니다. 하지만 종종 그 공식은 쓰기가 너무 어렵습니다. 그들에게는 오직 시뮬레이터, 즉 파라미터를 입력받아 데이터를 뱉어내는 블랙박스만이 있을 뿐입니다.

논문은 이 블랙박스를 역공학으로 분석하려고 노력하는 대신, 신경망(AI의 한 종류)이 역공학자가 되도록 훈련할 수 있다고 설명합니다. 그 비결은 다음과 같습니다:

1. 훈련 단계(The Training Phase): 시뮬레이터를 수백만 번 실행합니다. 무작위 파라미터를 선택하고 시뮬레이션을 실행한 뒤, (파라미터, 데이터) 쌍을 저장합니다. 이 과정을 반복하여 "가짜" 범죄 현장과 그 범인들의 거대한 라이브러리를 만듭니다.
2. 학습 단계(The Learning Phase): 이 라이브러리를 AI에게 제공합니다. AI는 데이터와 파라미터 사이의 관계를 학습합니다. AI는 "데이터가 이와 같이 생겼을 때, 파라미터는 아마도 저것이었을 것이다"라고 말하는 법을 배웁니다.
3. 추론 단계(The Inference Phase): 이제 실제 과학자가 실제 세계로부터 새로운 데이터를 얻었을 때, 더 이상 시뮬레이터를 다시 실행할 필요가 없습니다. 그저 데이터를 훈련된 AI에 입력하기만 하면, 팟 하고 AI가 즉시 답을 내놓습니다.

논문은 AI가 이 관계를 학습하는 세 가지 주요 방식을 강조합니다:

• 신경 사후 확률 추정(Neural Posterior Estimation, NPE): AI는 가능한 모든 답의 지도를 그리는 법을 배웁니다. 단순히 하나의 숫자만을 주는 것이 아니라, 범인이 숨어 있을 가능성이 가장 높은 곳을 보여주는 가능성의 구름을 그려냅니다.
• 신경 가능도 추정(Neural Likelihood Estimation, NLE): AI는 특정 파라미터 집합이 해당 데이터를 생성할 확률이 얼마나 되는지 예측하는 법을 배웁니다.
• 신경 비율 추정(Neural Ratio Estimation, NRE): 전체 지도를 그리는 대신, AI는 두 대상을 비교하는 법을 배웁니다. AI는 "이 데이터가 용의자 A로부터 나왔을 가능성이 높은가, 아니면 B로부터 나왔을 가능성이 높은가?"라는 질문에 답합니다. 이는 마치 심판이 각 경기의 정확한 점수를 알 필요 없이, 어떤 팀이 더 나은지를 결정하는 것과 같습니다.

"아모티제이션(Amortized)"의 이점

논문이 지적하는 가장 멋진 개념 중 중 하나는 "아모티제이션된 추론(amortized inference)"입니다. 이것은 자전거 타기를 배우는 것과 같습니다. 처음 시도할 때는 넘어지고 다시 일어서는 데 몇 시간이 걸립니다(훈련 단계). 하지만 일단 배우고 나면, 어디든 즉시 갈 수 있습니다.

전통적인 과학에서는 새로운 단서를 얻을 때마다 답을 찾기 위해 수천 번의 시뮬레이션을 처음부터 다시 실행해야 합니다. 하지만 이 AI 방법론을 사용하면, "학습 비용"을 처음에 한 번만 지불하면 됩니다. 그 후에는 순식간에 백만 개의 서로 다른 단서를 분석할 수 있습니다. 이는 매초 수백만 개의 데이터 포인트를 생성하는 입자 물리학과 같은 분야에서 게임 체인저가 됩니다.

"주의할 점": 검증과 한계

논문은 "AI는 마법이다, 맹목적으로 믿어라"라고 말하지 않도록 매우 주의를 기울입니다. 실제로 논문의 상당 부분은 검증(validation), 즉 "우리가 AI가 환각을 일으키고 있지 않다는 것을 어떻게 알 수 있는가?"에 할애되어 있습니다.

AI는 가짜 데이터로 훈련되었기 때문에, 가짜 데이터에 대해서는 매우 뛰어날 수 있지만 실제 세계의 이상한 데이터를 접했을 때는 처참하게 실패할 수 있습니다. 저자들은 AI를 테스트하는 몇 가지 방법을 설명합니다:

• "이표본(Two-Sample)" 테스트: AI에게 가짜 데이터 뭉치와 실제 데이터(또는 신뢰할 수 있는 방법으로 얻은 데이터)를 주고, 단순한 분류기를 통해 둘을 구분할 수 있는지 묻습니다. 만약 분류기가 둘을 쉽게 구분해낸다면 그 AI는 나쁜 것입니다. 만약 분류기가 혼란스러워한다면, AI가 일을 잘하고 있는 것입니다.
• 교정 체크(Calibration Checks): AI가 "답이 5와 10 사이에 있다고 90% 확신합니다"라고 말한다고 가정해 봅시다. 이 테스트를 백 번 실행했을 때, 실제 답이 그 범위 안에 들어오는 횟수가 90번이어야 합니다. 만약 50번밖에 안 된다면, 그 AI는 지나치게 확신에 차 있으며 거짓말을 하고 있는 것입니다.
• 사후 예측 체크(Posterior Predictive Checks): AI의 최선의 추측을 가져와서, 그 추측치를 시뮬레이터에 넣어 실행한 뒤, 그것이 실제 관측값과 유사한 데이터를 생성하는지 확인합니다. 만약 AI의 추측이 완전히 다른 종류의 데이터를 만들어낸다면, 그 추측은 틀린 것입니다.

또한 논문은 **교란 파라미터(nuisance parameters)**에 대해서도 경고합니다. 이것들은 시뮬레이션에 포함되어 있지만 당신이 관심 있는 것은 아닌, 결과에 혼선을 주는 변수들입니다(예를 들어 화학 반응에 영향을 미치는 실험실의 온도). 논문은 AI가 이러한 변수들을 처리할 수 있지만, 이것이 훈련을 훨씬 더 어렵고 복잡하게 만든다고 설명합니다.

이 논문이 말하지 않는 것

이 논문이 무엇을 주장하지 않는지 명시하는 것은 중요합니다. 이 논문은 AI가 모든 과학적 미스터리를 해결했다고 말하지 않습니다. 이 방법들이 모든 문제에 완벽하게 작동한다고 주장하지도 않습니다. 저자들은 이 도구들이 신중하게 검증되어야 하는 도구임을 매우 명확히 밝히고 있습니다. 시뮬레이터 자체가 잘못되었다면(즉, "순방향 지도"가 틀렸다면, AI는 잘못된 것을 매우 빠르게 학습할 뿐이라는 점을) 약속하지 않습니다.

또한 이 방법이 다른 모든 방법을 대체한다고 말하지도 않습니다. 때때로 간단한 수학 공식이 있다면, 기존 방식이 여전히 괜찮습니다. AI는 수학적으로 기술하기 너무 어려운 "불가능한" 경우들을 위해 존재하는 것입니다.

결론

이 논문은 새로운 과학적 발견의 시대를 위한 로드맵입니다. 이는 복잡한 시뮬레이션으로부터 학습하여 역문제를 해결할 수 있는 AI 탐정을 구축하는 법을 가르쳐줍니다. 베이지안과 빈도주의 논리를 사용하여 AI를 훈련시키고, 수많은 작은 단서들을 결합하여 큰 그림을 그리는 법, 그리고 가장 중요하게는, 우리가 속지 않도록 그들의 작업을 재검토하는 법을 보여줍니다.

저자들은 이 기술이 강력하고 빠르지만 아직 초기 단계에 있다고 제안합니다. 우리는 이러한 도구들을 검증할 더 나은 방법과, 시뮬레이션이 완벽하지 않을 수 있는 지저üst한 현실 세계의 문제를 다룰 더 나은 방법을 필요로 합니다. 하지만 데이터에 잠겨 있고 블랙박스 시뮬레이터에 막혀 있는 과학자들에게, 이 가이드는 하나의 생명줄을 제공합니다. 즉, 수백만 개의 컴퓨터 시뮬레이션을 즉각적이고 신뢰할 수 있는 답변으로 바꿀 수 있는 방법입니다.