Divide-and-Conquer: Towards Generalizable Amortized Bayesian Inference for the Drift Diffusion Model

당신이 왜 그런 선택을 하는지 그 이유를 밝혀내려는 탐정이라고 상상해 보십시오. 심리학의 세계에는 **드리프트 확산 모델(Drift Diffusion Model, DDM)**이라는 유명한 도구가 있습니다. 이것을 사람이 결정을 내리기 전 뇌가 어떻게 증거를 수집하는지를 추적하는 '마음의 스톱워치'라고 생각하십시오. 물통에 수도꼭지에서 나오는 물(증거)이 차오르는 모습을 상상해 보세요. 물의 높이가 선(결정 임계값)에 도달하면, 첨벙! 하고 결정이 내려집니다. 물의 속도, 물통의 시작 높이, 그리고 선의 높이는 모두 심리학자들이 인간의 마음을 이해하기 위해 측정하고자 하는 숨겨진 숫자들입니다.

오랫동안 이 숨겨진 숫자들을 찾아내는 것은 마치 어둠 속에서 거대한 퍼즐 조각을 맞추는 것과 같았습니다. 정답이 무엇인지 추측하기 위해 복잡하고 느린 컴퓨터 시뮬레이션을 실행해야 했기 때문입니다. 이것은 문제가 됩니다. 현대 과학은 엄청난 양의 데이터, 때로는 수천 명의 사람으로부터 나온 수백만 개의 결정 데이터를 생성하고 있기 때문입니다. 기존 방식은 이를 따라잡기에 너무 느리고, 실험이 약간 변경될 때(예: 새로운 유형의 질문을 추가할 때) 쉽게 적응하지 못합니다. 과학자들은 즉각적인 답을 얻는 방법이 필요하지만, 그들이 찾아낸 새로운 "즉각적인" 방법(NPM이라 불리는 Amortized Bayesian Inference)에는 함정이 있습니다. 그것들은 마치 '맞춤 제작된 열쇠'와 같습니다. 세 개의 자물쇠가 있는 문을 위해 만들어진 열쇠는 네 개의 자물쇠가 있는 문을 열 수 없습니다. 실험이 바뀌면, 처음부터 다시 새로운 열를 만드는 데 많은 시간과 값비싼 컴퓨터 연산 능력이 소모됩니다.

이 논문은 이 문제를 해결하기 위한 영리한 "분할 정복(divide-and-conquer)" 전략을 소개합니다. 모든 가능한 실험을 위한 하나의 거대하고 복잡한 열쇠를 만들려고 노력하는 대신, 저자들은 큰 퍼즐을 작고 동일한 조각들로 나누는 방법을 제안합니다. 그들은 실험의 각 결정이 독립적(예: 동전 던지기처럼)이라는 점을 깨달았습니다. 따라서 데이터를 작은 조건 쌍(pair)으로 나눌 수 있습니다. 그런 다음 단일하고 단순한 "쌍체(pairwise)" 신경망(AI의 일종)을 사용하여 각 작은 조각을 해결할 수 있습니다. 모든 조각이 해결되면, "합의 MCMC(consensus MCMC)"라는 특별한 수학적 레시피를 사용하여 답변들을 하나로 엮어냅니다. 결과는 어떠했을까요? 저자들은 이 방법이 전체 퍼즐을 한꺼번에 푸는 느린 기존 방식만큼 정확하면서도, 속도는 수천 배 더 빠르다는 것을 발견했습니다. 이는 연구자들이 어떤 실험에서도 즉시 사용할 수 있는 데이타 분석 도구를 갖게 해주며, 실험의 조건이 얼마나 많든 상관없이 엄청난 양의 데이터를 눈 깜짝할 사이에 분석할 수 있게 해줍니다.

문제점: "맞춤형이 아닌" 열쇠

이것이 왜 중요한지 이해하려면, 새로운 "즉각적인" 방법들이 어떻게 작동하는지 살펴봐야 합니다. 당신에게 드리프트 확산 모델의 숨겨진 숫자를 추측하도록 학습된 초스마트 로봇이 있다고 상상해 보십시오. 이 로봇을 가르치기 위해, 이미 정답을 알고 있는 수천 개의 가짜 실험 데이터를 보여줍니다. 로봇은 패턴을 학습하여 "신경 후험 추정기(Neural Posterior Estimator, NPE)"가 됩니다. 일단 훈련되면, 로봇은 실제 데이터를 보고 즉시 답을 내놓을 수 있습니다.

하지만 여기에는 큰 걸림돌이 있습니다. 이 로봇은 다소 경직되어 있습니다. 만약 로봇을 세 가지 서로 다른 조건(예: 세 가지 색상의 빛)이 있는 실험으로 훈련시킨다면, 로봇은 세 가지 조건의 퍼즐 형태를 학습하게 됩니다. 만약 당신이 네 가지 색상의 데이터를 준다면, 로봇은 혼란에 빠집니다. 입력값이 달라졌기 때문이며, 로봇은 어떻게 해야 할지 모릅니다. 과거에는 연구자가 새로운 설계를 연구하고 싶을 때마다, 멈춰서서 로봇을 처음부터 다시 훈련시키고, 로봇이 학습하기를 몇 시간 또는 며칠 동안 기다려야 했습니다. 이는 빠른 방법을 사용하는 목적 자체를 무색하게 만듭니다. 이는 특정 동전을 넣어야만 음료를 내어주는 자판기와 같습니다. 다른 음료를 원한다면, 아예 새로운 기계를 만들어야 하는 셈입니다.

해결책: 레고 전략

이 논문의 저자들은 멋진 아이디어를 냈습니다. "전체 퍼즐을 한 번에 풀려고 하지 않으면 어떨까?" 그들은 드리프트 확산 모델이 특별한 성질을 가지고 있다는 것을 깨달았습니다. 즉, 모든 개별 시행(결정)은 독립적이라는 것입니다. 한 선택을 위한 물통의 물은 다음 선택을 위한 물통의 물에 영향을 받지 않습니다.

이 때문에 거대한 데이터셋을 관리하기 쉬운 작은 덩어리로 쪼갤 수 있습니다. 저자들은 데이터를 **조건의 쌍(pairs of conditions)**으로 나누는 방을 제안합니다. 10개의 서로 다른 조건이 있는 실험을 한다고 가정해 봅시다. 10개를 한꺼번에 로봇에게 입력하는 대신, 이를 5개의 쌍으로 나눕니다. 첫 번째 쌍을 로봇에게 입력하고, 그다음 두 번째 쌍을 입력하는 식입니다.

여기서 마법 같은 부분이 일어납니다. 로봇은 오직 두 가지 조건에 대해서만 훈련받으면 됩니다. 로봇은 "두 가지 조건" 퍼즐을 완벽하게 푸는 법을 배웁니다. 모든 큰 실험 속의 조건 쌍들은 모두 "두 가지 조건" 퍼즐의 형태를 띠고 있기 때문에, 당신은 어떤 실험(조건이 3개든, 10개든, 100개든)에서도 동일하게 훈련된 로봇을 사용할 수 있습니다. 다시 훈련할 필요가 없습니다. 데이터를 슬라이스하고, 각 슬라이스에 대해 동일한 로봇을 실행한 뒤, 결과를 결합하기만 하면 됩니다.

답변을 다시 하나로 엮기

이제 당신은 로봇이 퍼즐의 작은 조각들을 풀고 있습니다. 그렇다면 전체에 대한 답은 어떻게 얻을까요? 저자들은 **합의 MCMC(Consensus MCMC)**라고 불리는 방법을 사용합니다. 이것은 전문가 집단이 투표하는 것과 같습니다. 로봇이 한 쌍의 조건을 풀 때마다, 로봇은 숨겨진 숫자가 무엇일지에 대한 "투표"(확률 분포)를 내놓습니다. 어떤 투표는 데이터가 적기 때문에 약간 흔들릴 수 있지만, 모든 쌍에서 나온 모든 투표를 결합하면 매우 정밀한 답으로 수렴하게 됩니다.

한 가지 작은 주의점이 있습니다. 이 투표들을 결합할 때, "사전 믿음(prior)"을 너무 여러 번 계산하지 않도록 주의해야 합니다. 저자들은 수학적으로 정확한 답을 얻기 위해 **중요도 샘플링(importance sampling)**이라는 수학적 트릭을 사용하여, 최종 답이 대략적인 추측이 아닌 수학적으로 정확하도록 보장했습니다.

발견한 사실: 빠르고, 정확하며, 유연함

저자들은 시뮬레이션 데이터를 사용하여 이 아이디어를 테스트했습니다. 다양한 시행 횟수(조건당 100~500회)와 다양한 설계(3가지 조건, 4가지 조건, 심지어 복잡한 6가지 조건 설정)를 가진 수천 개의 가짜 실험을 만들었습니다.

그들은 이 새로운 "분할 정복" 방법을 다음 두 가지와 비교했습니다:

1. 골드 스탠다드(Gold Standard): 전체 퍼즐을 한꺼번에 푸는 전통적이고 느린 방식(MCMC).
2. 기존 방식: 각 실험 크기에 맞춘 맞춤형 로봇을 매번 새로 훈련시키는 방식.

결과는 인상적이었습니다. 시뮬레이션에서 새로운 방법은 느린 골드 스탠다드 방식과 사실상 동일한 결과를 만들어냈습니다. 숨겨진 숫자(예: 드리프트율 또는 결정 임계값)의 정확도는 거의 같았으며, 불확실성 추정치(모델이 얼마나 확신하는지) 또한 매우 정확했습니다.

하지만 진짜 승리는 속도였습니다.

• 훈련: "쌍체(pairwise)" 로봇을 훈련하는 데 약 20분이 걸렸습니다.
• 추론: 훈련된 후, 로봇은 밀리초 단위로 데이터셋을 분석할 수 있었습니다. 100회의 시행이 있는 데이터셋의 경우, 전체 모델 접근 방식은 약 195밀리초가 걸렸고, 분할 정복 방식은 모든 쌍을 처리하는 데 약 730밀리초가 걸렸습니다.
• 비교: 기존의 느린 MCMC 방식은 데이터셋당 초 단위에서 분 단위가 걸렸으며, 데이터가 커질수록 점점 더 느려졌습니다. 반면 새로운 방식은 데이터 양에 상관없이 계속 빨랐습니다.

그들은 또한 33개의 서로 다른 밝기 수준을 포함하는 유명한 연구(Ratcliff & Rouder, 1998)의 실제 데이터셋을 사용하여 테스트했습니다. 이는 데이터가 지저식하고 불균형했기 때문에 까다로운 테스트였습니다. 그럼에도 불구하고 이 방법은 작동했으며, 드리프트율 추정치가 느린 방식의 패턴과 일치하는 결과를 냈습니다(데이터를 작은 조각으로 나누었을 때 예상되는 대로 불확실성 범위는 약간 더 넓어졌습니다).

핵심 요약

이 논문은 인지 과학을 수행하는 강력하고 새로운 방법을 제시합니다. 큰 문제를 작고 동일한 조각으로 나눔으로써, 연구자들은 아무리 복잡한 실험이라도 단 하나의 사전 훈련된 AI 도구를 사용하여 분석할 수 있습니다. 이것은 느리고 맞춤 제작이 필요한 과정을 빠르고 범용적인 엔진으로 바꿔 놓습니다.

저자들은 이 방법이 데이터 포인트들이 독립적일 때 가장 잘 작동한다는 점을 명시했습니다(이는 대부분의 표준 의사결정 실험에 해당합니다). 만약 결정이 이전 순간의 사건에 크게 의존한다면, 이 특정 "쌍체" 트릭은 작동하지 않을 수 있습니다. 하지만 대다수의 의사결정 연구에서 이 분할 정복 접근법은 골드 스탠다드의 정확성을 잃지 않으면서 AI의 속도를 마침내 활용할 수 있는 길을 열어줍니다. 이는 수백만 개의 결정을 즉시 분석하는 것을 단순히 가능한 수준을 넘어, 실질적으로 구현 가능한 영역으로 만드는 전략입니다.