Optimizing Likelihoods via Mutual Information: Bridging Simulation-Based Inference and Bayesian Optimal Experimental Design

당신이 미스터리를 풀려는 탐정이라고 상상해 보세요. 하지만 당신은 범죄 현장을 직접 볼 수 없습니다. 대신, 범죄를 반복해서 재현할 수 있는 마법 같고 초복잡한 비디오 게임 시뮬레이터가 있습니다. 당신은 게임의 규칙(우주의 물리 법칙)은 알고 있지만, '범인'이 이 난장판을 만들기 위해 사용한 구체적인 설정값은 알지 못합니다. 당신의 목표는 시뮬레이션을 실행하고, 그 결과를 관찰하며, 추측을 조정함으로써 그 숨겨진 설정들을 알아내는 것입니다. 이것이 바로 **시뮬레이션 기반 추론(Simulation-Based Inference, SBI)**의 세계입니다. 과학자들이 약물이 세포와 어떻게 상호작용하는지부터 별이 어떻게 폭발하는지에 이르기까지, 실제 실험을 수행하기에는 너무 비용이 많이 들거나 위험한 경우 컴퓨터 모델을 사용하여 어떻게 숨겨진 규칙을 찾아내는지 보여주는 방식입니다.

하지만 여기 함정이 있습니다. 시뮬레이터를 실행하는 것은 믿을 수 없을 정도로 느리고 비용이 많이 듭니다. 매번 게임 콘솔의 '재생' 버튼을 누를 때마다 1달러가 들고 로딩하는 데 10분이 걸린다고 상상해 보세요. 당신에게는 돈을 다 쓰기 전까지 제한된 '실행' 횟수가 있습니다. 그래서 당신은 어떤 시나리오를 시뮬레이션할지 영리하게 결정해야 합니다. 여기서 **베이지안 최적 실험 설계(Bayesian Optimal Experimental Design, BOED)**가 등장합니다. 이것은 마치 "내가 만약 이 특정 설정으로 게임을 실행한다면, 그것이 범인의 숨겨진 설정에 대해 가장 많은 것을 가르쳐 줄 것인가?"라고 묻는 매우 똑똑한 전략가와 같습니다. 이 논문은 보통 정답을 찾기 위한 최선의 전략(BOED)과 게임의 규칙을 배우는 최선의 방법(SBI)이 별개의 작업으로 취급되며, 이를 위해 기존 방식들은 시뮬레이터가 '투명해야'(수학적으로 수정하기 쉬워야) 한다는 문제를 다룹니다. 하지만 실제 세상의 과학적 시뮬레이터들은 그렇지 않은 경우가 많습니다.

저자인 빈센트 D. 자발라(Vincent D. Zaballa)와 엘리엇 E. 휘(Elliot E. Hui)는 이 두 세계를 잇는 SBI-BOED라는 새로운 방법을 구축했습니다. 이것은 하나의 AI 에이전트에게 게임의 규칙을 배우는 동시에 최선의 수를 찾는 법을 동시에 가르치는 것과 같습니다. 그들은 한 가지가 다른 것에 대해 얼마나 많은 정보를 제공하는지를 측정하는 데 사용되는 수학적 도구(상호 정보량, Mutual Information)가 실제로 학습 가이드로 사용될 수 있다는 것을 발견했습니다. 그들은 수학적 '노브(knob)'라고 불리는 특정 파라미터($\lambda$)를 조절함으로써, 시뮬레이터의 내부 코드를 볼 필요 없이 AI가 규칙을 더 정확하게 학습하도록 만드는 방법을 찾아냈습니다.

테스트에서 그들은 시뮬레이터를 '블랙 박스'—즉, 입력을 넣으면 출력이 나오지만 내부의 톱니바퀴가 어떻게 돌아가는지는 들여다볼 수 없는 기계—처럼 취급했습니다. 그들은 자신들의 방법이 시뮬레이터의 내부 작동 원리에 접근할 수 있는 기존의 방법들만큼 혹은 그보다 더 잘, 최적의 실험을 찾아내고 숨겨진 파라미터를 학습할 수 있음을 보여주었습니다. 그들은 '놀라운' 실험을 원하는 욕구와 '정확한' 학습에 대한 필요성 사이의 균형을 맞춤으로써, 더 적은 시뮬레이션 실행으로 더 나은 결과를 얻을 수 있다는 것을 발견했습니다. 예를 들어, 복잡한 생물학적 모델에서 그들의 방법은 유사한 정확도에 도달하기 위해 기존의 최고 수준의 방법들보다 약 50배 적은 시뮬레이션 호출을 사용했습니다. 또한 그들은 만약 주의 깊게 살피지 않고 단순히 '가장 정보가 많은' 실험만을 쫓는다면, 겉보기에는 똑똑해 보이지만 실제 세부 사항에 대해서는 틀린 모델을 만들게 될 수도 있다는 점을 보여주었습니다. 그들의 접근 방식은 최고의 학습이란 새로운 단서의 스릴과 증거의 정밀함 모두를 소중히 여기는, 균형 잡힌 호기심 많은 탐정이 되는 것임을 시사합니다.