기술 요약: 다중 데이터 소스 기반 베이지안 대리 모델 학습

문제 제기

대리 모델은 불확실성 정량화, 민감도 분석, 역문제 해결과 같은 작업을 위해 복잡하고 계산 비용이 큰 시뮬레이션 모델을 근사하는 데 널리 사용됩니다. 그러나 근본적인 한계가 존재합니다. 즉, 대리 모델은 일반적으로 시뮬레이션 데이터만을 기반으로 학습됩니다. underlying 시뮬레이션 모델은 종종 실제 시스템의 불완전한 단순화 (누락된 프로세스, 오지정, 또는 잘못된 경계 조건 등) 이므로, 대리 모델은 이러한 부정확성을 물려받게 됩니다. 반면, 실제 세계 측정 데이터는 실제 시스템에 대한 귀중한 정보를 포함하고 있지만, 종종 희소하며 노이즈가 많고 시뮬레이션 모델이 요구하는 입력 파라미터 (예: 알려지지 않은 강제 변수) 에 대한 완전한 지식이 부족합니다.

이러한 데이터 소스를 통합하는 기존 방법들은 여러 가지 도전에 직면해 있습니다:

1. 비대칭성: 시뮬레이션 데이터는 완전히 지정된 입력을 갖는 반면, 실제 세계 데이터는 종종 알려지지 않은 입력을 가집니다.
2. 동질성 가정: 많은 접근법들은 동질적인 데이터 소스를 가정하거나, 단순화 가정을 가진 특정 대리 모델 계열 (예: 가우시안 프로세스) 에 의존합니다.
3. 가중치 전략 부재: 학습 중 다양한 신뢰도나 신뢰 수준을 반영하기 위해 이질적인 데이터 소스를 적절히 가중치하는 방법에 대한 문헌은 제한적입니다.
4. 간접 통합: 일부 방법은 대리 모델 학습에 실제 세계 데이터를 직접 사용하지 않고, 사후 보정 또는 불일치 모델링을 위해 사용합니다.

본 논문은 선택된 대리 모델 계열과 독립적으로 작동하는 새로운 가중치 전략을 사용하여 시뮬레이션 및 실제 세계 데이터를 포함한 다중 데이터 소스 기반 베이지안 대리 모델을 학습함으로써 이러한 문제들을 해결하는 일반적인 프레임워크를 제안합니다.

방법론

저자들은 두 가지 구별되는 데이터 소스를 결합하는 프레임워크를 제안합니다:

• 시뮬레이션 데이터 ($D_S$): 알려진 입력 $x_S$와 불확실한 파라미터 $\omega_S$를 가진 물리 기반 모델 $M$에서 생성됨.
• 실제 세계 데이터 ($D_R$): 알려진 입력 $x_R$를 가지지만 알려지지 않은 파라미터 $\omega_R$와 측정 노이즈를 가진 알려지지 않은 프로세스 $G$에서 생성됨.

이 프레임워크는 가중치 인자 $\beta \in [0, 1]$에 의해 제어되는 두 가지 확률론적 접근법을 통해 가중치 통합을 도입합니다:

1. 사후 예측 가중치 (Posterior Predictive Weighting, PW)

이 방법은 두 개의 별도 대리 모델을 독립적으로 학습합니다:

• $D_S$에서 학습되고 $D_R$에서 알려지지 않은 파라미터를 추론하는 데 사용되는 시뮬레이션 기반 대리 모델 ($f_{M_S}$).
• 오직 $D_R$만을 기반으로 학습된 데이터 기반 대리 모델 ($f_{M_R}$).

최종 예측은 두 사후 예측 분포의 가중합입니다:
$$p_{pw, \beta}(\hat{y}_R | \hat{x}_R, D_S, D_R) = \beta \cdot p(\hat{y}_R | \hat{x}_R, D_S, D_R, f_{M_S}) + (1 - \beta) \cdot p(\hat{y}_R | \hat{x}_R, D_R, f_{M_R})$$
여기서 $\beta$는 시뮬레이션 기반 모델의 상대적 영향을 제어합니다. 이 접근법은 두 소스 간의 불일치를 예측 분포의 중첩을 관찰함으로써 시각화할 수 있게 합니다.

2. 가능도 스케일링 (Power-Scaling of Likelihoods, PS)

이 방법은 두 데이터 소스를 가능도 함수에 직접 통합하여 단일 대리 모델을 학습합니다. 결합 사후 분포는 다음과 같이 정의됩니다:
$$p_{ps}^\beta(\omega'_R, \sigma', c | D_S, D_R) \propto p(y_R | x_R, \omega'_R, \sigma', c)^{\alpha_R} \cdot p(y_S | x_S, \omega_S, \sigma', c)^{\alpha_S} \cdot p(\omega'_R, \sigma') p(c)$$
스케일링 인자 $\alpha_R$과 $\alpha_S$는 $\beta$에서 유도되어, $\beta$가 0 또는 1 에 가까워질 때 한 데이터 소스의 영향이 감소하는 반면 다른 소스는 완전히 활용되도록 보장합니다. 이 방법은 두 단계 MCMC 절차를 사용합니다:

1. 연합 학습: 파워 스케일링 가능도를 사용하여 대리 모델 계수 $c$와 중간 파라미터를 추정합니다.
2. 정제 추론: 1 단계에서 얻은 $c$의 사후 분포에 조건부로 실제 세계 데이터 $D_R$의 전체 가능도만을 사용하여 알려지지 않은 실제 세계 파라미터 $(\omega_R, \sigma_R)$를 재추정합니다. 이는 실제 데이터에 대한 "이중 사용 (double dipping)"을 방지하고 파라미터가 실제 세계 증거에 기반하여 추론되도록 보장합니다.

구현

이 프레임워크는 스탠 (Stan) 또는 PyMC 와 같은 확률론적 프로그래밍 언어로 구현 가능한 모든 확률론적 대리 모델 (예: 다항식 카오스 전개, 가우시안 프로세스, 신경망) 에 적용 가능한 대리 모델 무관 (surrogate-agnostic) 으로 설계되었습니다. 저자들은 샘플링을 위해 해밀토니안 몬테 카를로 (HMC) 를 활용합니다.

주요 기여

1. 새로운 가중치 전략: 대리 모델 학습 중 이질적인 데이터 소스를 결합하기 위한 두 가지 구별된 방법 (PW 및 PS) 을 도입하여, 순수 데이터 기반 모델과 순수 시뮬레이션 기반 모델 사이의 연속체를 제공합니다.
2. 비대칭성 처리: PS 방법은 계수 학습과 파라미터 정제를 분리하는 두 단계 추론 절차를 통해 알려진 대 알려지지 않은 입력과 같은 데이터 소스의 비대칭성을 구체적으로 해결합니다.
3. 대리 모델 무관성: 제안된 가중치 전략은 특정 대리 모델 계열에 독립적이므로 다양한 모델링 컨텍스트에 광범위하게 적용 가능합니다.
4. 진단 능력: 이 프레임워크는 시뮬레이션 및 실제 세계 데이터의 경쟁 정보를 시각화함으로써 시뮬레이션 모델의 구조적 한계를 진단할 수 있는 메커니즘을 제공합니다.

결과

저자들은 두 가지 사례 연구를 사용하여 방법을 평가했습니다:

사례 연구 1: 합성 예제

• 설정: 시뮬레이션 모델은 전역 추세를 포착하는 반면, "실제" 데이터는 시뮬레이션에 존재하지 않는 추가적인 주기적 항을 포함합니다.
• 결과:
  • 샘플 외 (OOS): 데이터 기반 대리 모델 ($\beta=0$) 이 지역 데이터를 완벽하게 적합하므로 가장 잘 수행됩니다.
  • 분포 외 (OOD): 물리 법칙에 기반한 외삽 능력으로 인해 시뮬레이션 기반 대리 모델 ($\beta=1$) 이 가장 잘 수행됩니다.
  • 하이브리드 성능: 중간 $\beta$의 경우, 파워 스케일링 (PS) 방법이 일반적으로 더 낮은 RMSE(합성 진실에 더 가까움) 를 달성한 반면, 사후 예측 가중치 (PW) 는 더 나은 ELPD(더 나은 불확실성 모델링) 를 제공했습니다.
  • KOH 와의 비교: PS 방법은 특정 $\beta$값에서 평균 함수를 복원하는 데 표준 케네디 - 오'하건 (KOH) 보정 프레임워크보다 우월한 성능을 보였으나, KOH 는 불확실성 정량화에서 뛰어났습니다.

사례 연구 2: 역학 모델링 (SIR 모델)

• 합성 설정: 고정 회복률을 가진 오지정된 SIR 모델 vs. 다른 회복률을 가진 실제 데이터.
  • 결과: PS 는 데이터 기반 모델의 극단적 예측을 방지하기 위해 정규화제로서 시뮬레이션 데이터를 활용함으로써 OOD 영역에서 우수한 성능을 보였습니다. PW 는 상충되는 추세 (데이터의 더 가파른 감소 대 시뮬레이션의 더 느린 감소) 의 시각적 중첩을 제공했습니다.
• 실제 세계 설정: 이탈리아의 COVID-19 데이터 (첫 번째 파동).
  • 결과: 데이터 기반 모델은 외삽에 실패하여 감염 증가를 예측한 반면, 시뮬레이션 기반 모델은 높은 불확실성을 보이며 지나치게 강한 감소를 예측했습니다. 파워 스케일링 접근법은 $\beta \approx 0.45$에서 최적의 ELPD 를 달성하여 두 소스를 균형 있게 활용했습니다. PW 방법은 $\beta$에 따라 단조 개선되었으나 PS 의 최고 성능에는 도달하지 못했습니다.

중요성 및 주장

본 논문은 이러한 하이브리드 모델링 접근법이 단일 소스 학습이 실패하는 까다로운 분포 외 (out-of-distribution) 영역에서 특히 예측 정확도와 커버리지를 개선하는 유연한 방법을 제공한다고 주장합니다.

• 진단 통찰력: 저자들은 사후 예측 분포를 시각화하는 것 (특히 PW 를 통해) 이 진단 도구 역할을 한다고 강조합니다. 이는 시뮬레이션과 실제 데이터가 어떻게 다른지 관찰함으로써 시뮬레이션 모델에서 누락된 프로세스나 오지정을 식별할 수 있게 합니다.
• 트레이드오프: 논문은 최적의 방법과 가중치 인자가 특정 시나리오와 평가 지표에 의존한다고 겸손하게 지적합니다.
  • 파워 스케일링은 학습 중 시뮬레이션 데이터를 정규화제로 사용하여 근본적인 진실을 복원하고 견고한 평균 예측을 달성하는 데 권장됩니다.
  • 사후 예측 가중치는 진단 목적과 경쟁 정보 소스의 직관적 해석을 위해 권장되지만, 데이터 기반 구성 요소가 잘 제약되지 않은 경우 덜 견고할 수 있습니다.
• 향후 방향: 저자들은 두 소스에 초점을 맞추었지만, 이 프레임워크는 여러 소스로 확장될 수 있다고 제안합니다. 또한 PS 의 경우 선형 탐색을 통한 최적 $\beta$ 찾기가 계산적으로 비용이 많이 들 수 있음을 지적하며, 재적합 비용을 줄이기 위한 중요도 샘플링 또는 모멘트 매칭에 대한 향후 작업을 제안합니다.

요약하자면, 본 논문은 대리 모델링을 고비용 시뮬레이션의 단순한 "대체"에서 벗어나 기계론적 지식과 경험적 증거 모두를 활용할 수 있는 하이브리드 모델링을 위한 진단 도구의 구성 요소로 전환하는 프레임워크를 제시합니다.