논문 요약: 베이지안 인과 추론에서 표본 및 모집단 수준 추정량 (Estimands) 의 혼동 해소

논문 제목: Untangling Sample and Population Level Estimands in Bayesian Causal Inference (베이지안 인과 추론에서 표본 및 모집단 수준 추정량의 혼동 해소)
저자: Arman Oganisian (Brown University)
핵심 주제: 베이지안 인과 추론에서 표본 수준 (Sample-level) 과 모집단 수준 (Population-level) 추정량의 개념적, 계산적, 해석적 차이 및 구현 오류 방지

1. 문제 제기 (Problem)

베이지안 기반 인과 추론의 인기가 높아지고 있지만, **표본 수준 (Sample-level)**과 모집단 수준 (Population-level) 추정량을 혼동하여 발생하는 심각한 구현 오류와 오해가 만연합니다.

• 혼동의 본질: 두 유형의 추정량은 식별 (Identification), 모델링, 계산 (MCMC/Monte Carlo), 해석 측면에서 근본적인 차이를 가지지만, 외관상 매우 유사하게 보입니다.
• 주요 오류:
  • 교차 세계 (Cross-world) 가정의 오용: 표본 수준의 추정량 (예: 개별 치료 효과, ITE) 은 잠재 결과 간의 의존성을 가정하는 '교차 세계' 가정이 필요하지만, 많은 모집단 수준 추정량 (예: 평균 치료 효과, PATE) 은 이를 필요로 하지 않습니다. 이를 혼동하면 불필요하거나 검증 불가능한 가정을 강요하게 됩니다.
  • 불완전한 보간 (Imputation) 오류: 표본 수준 추정을 위해 필요한 잠재 결과 (Counterfactuals) 의 사후 분포에서 직접적인 보간이 필요한데, 이를 모집단 추정을 위한 모수 (Parameter) 의 사후 분포와 혼동하여 잘못된 불확실성 추정을 하게 됩니다.
  • 구현 오류: Keil et al. (2018) 의 베이지안 g-공식 구현과 같이, 표본 수준의 계산 절차와 모집단 수준의 계산 절차를 혼용하여 잘못된 사후 분포를 도출하는 사례가 많습니다.

2. 방법론 (Methodology)

저자는 루빈 인과 모델 (Rubin Causal Model, RCM) 과 베이지안 프레임워크를 기반으로 두 유형의 추정량을 명확히 구분하고, Stan 을 이용한 구체적인 구현 사례를 제시합니다.

2.1. 기본 정의 및 구분

• 표본 수준 추정량 (Sample-level): 관측된 표본 내 특정 단위 (Subject) 의 잠재 결과에 기반.
  • ITE (Individual Treatment Effect): 개별 단위의 치료 효과 ($Y_i(1) - Y_i(0)$).
  • SATE (Sample Average Treatment Effect): 표본 내 ITE 의 평균.
  • 특징: 관측되지 않은 잠재 결과 (Counterfactuals, $Y^M$) 의 사후 분포를 직접 추정해야 하므로 교차 세계 가정 (예: $Y(1) \perp Y(0) | L$) 이 필수적입니다.
• 모집단 수준 추정량 (Population-level): 모집단 분포를 기반으로 한 평균적 효과.
  • CATE (Conditional Average Treatment Effect): 공변량 $L=l$인 하위 집단의 평균 효과.
  • PATE (Population Average Treatment Effect): 전체 모집단에서의 평균 효과.
  • 특징: 잠재 결과의 결합 분포가 아닌, 모수 ($\phi$) 의 사후 분포를 통해 추정됩니다. 잠재 결과는 적분 (Integration) 되어 제거되므로, 교차 세계 가정이 필수는 아닙니다.

2.2. 결합 사후 분포 (Joint Posterior) 와 주변화 (Marginalization)

모든 추정량은 결합 사후 분포 $f(Y^M, \omega | D_O)$에서 특정 변수에 대해 적분하여 얻어지는 **주변 사후 분포 (Marginal Posterior)**입니다.

• 표본 추정량: $Y^M$ (잠재 결과) 에 대한 주변 분포를 구함. $\rightarrow$ MCMC 에서 $Y^M$을 매번 업데이트 (Imputation) 해야 함.
• 모집단 추정량: 모수 $\omega$에 대한 주변 분포를 구함. $\rightarrow$ $Y^M$은 적분되어 제거되며, 모수 추정치만 있으면 됨. (PATE 의 경우 공변량 분포 모델링 필요)

2.3. 구현 전략 (Stan 기반)

• Stan 모델링: 표본 추정을 위해서는 $Y^M$을 parameters 블록에 명시적으로 선언하여 MCMC 에서 직접 샘플링해야 합니다. 반면, 모집단 추정은 generated quantities 블록에서 모수를 기반으로 Monte Carlo 시뮬레이션을 수행할 수 있습니다.
• 공변량 분포 모델링: PATE 추정을 위해서는 공변량 분포 $f(L)$을 모델링해야 합니다. 단순한 경험적 분포 (Empirical Distribution) 를 고정하면 **MATE (Mixed Average Treatment Effect)**가 추정되며, 이는 PATE 의 불확실성을 과소평가합니다. **베이지안 부트스트랩 (Bayesian Bootstrap)**을 사용하여 공변량 분포의 불확실성을 전파하는 것이 올바른 접근법입니다.

3. 주요 기여 및 사례 (Key Contributions & Examples)

저자는 4 가지 구체적인 예시를 통해 이론적 차이를 실증합니다.

1. 간단한 예시 (이변량 정규분포):

   • SATE 와 PATE, ITE 와 CATE 의 사후 분포를 비교.
   • 결과: 중심값은 유사할 수 있으나, 불확실성 (Credible Interval) 의 폭이 크게 다름. 표본 추정량 (ITE/SATE) 은 잠재 결과의 불확실성으로 인해 모집단 추정량 (CATE/PATE) 보다 훨씬 넓은 신뢰구간을 가짐.
   • 베이지안 부트스트랩 vs 경험적 분포: 경험적 분포를 고정하면 (MATE) 불확실성이 과소평가되지만, 베이지안 부트스트랩을 사용하면 PATE 의 올바른 불확실성을 포착함.

2. 유연한 모델링 (Truncated DPM):

   • 비모수적 방법 (Truncated Dirichlet Process Mixture) 을 사용하여 복잡한 비선형 관계를 모델링.
   • 결과: CATE 와 PATE 는 모수 ($\phi$) 만으로 계산 가능하지만, ITE 와 SATE 는 잠재 결과 $Y^M$의 보간이 필요함. 이를 혼동하면 심각한 추론 오류 발생.

3. 교차 세계 가정이 필요한 모집단 추정량:

   • 두 가지 치료 모두에서 '실패'할 확률 ($P(Y(1)>\tau, Y(0)>\tau)$) 과 같은 모집단 추정량은 잠재 결과의 결합 분포에 의존하므로 교차 세계 가정이 필요함.
   • 결과: Monte Carlo 적분을 통해 결합 분포를 시뮬레이션해야 하며, 단순히 관측된 데이터의 보간을 합산하는 것은 잘못된 단위 수준 추정량 (Unit-level) 을 도출함.

4. 다중 치료 옵션 (K > 2):

   • 치료 옵션이 2 개 이상일 때, 교차 세계 의존성 파라미터의 수가 $K(K-1)/2$로 급증함.
   • 결과: 표본 수준 추론은 비식별성 (Non-identifiability) 문제로 인해 매우 복잡해지며, 시간 변화 치료 (Time-varying treatment) 상황에서는 계산이 불가능할 수 있음. 이 경우 모집단 수준 추론이 더 실용적일 수 있음.

4. 기존 연구에 대한 비판 (Critique of Keil et al., 2018)

Keil et al. (2018) 의 베이지안 g-공식 구현을 비판적으로 분석합니다.

• 오류: 그들은 모집단 평균 치료 효과 (PATE) 를 추정한다고 주장했으나, 실제로는 **사후 예측 분포 (Posterior Predictive Distribution)**를 기반으로 한 단위 수준의 평균을 계산했습니다.
• 구현 문제:
  1. 공변량을 관측된 표본에서 재표본추출 (Resampling) 하여 고정시킴으로써 공변량 분포의 불확실성을 무시함 (MATE 에 가까움).
  2. Monte Carlo 시뮬레이션 횟수를 표본 크기 $n$으로 제한하여 작은 표본에서 오차를 발생시킴.
  3. 잠재 결과를 parameters 블록이 아닌 generated quantities에서 생성하여, 표본 수준 추정 (SATE) 을 위한 교차 세계 가정을 암묵적으로 적용함.
• 결론: 이 방법은 PATE, ITE, SATE, CATE 중 어느 것에도 정확히 부합하지 않으며, 개념적 혼란을 야기합니다.

5. 결과 및 의의 (Results & Significance)

5.1. 주요 결과

• 불확실성의 차이: 표본 수준 추정량 (ITE, SATE) 은 잠재 결과의 불확실성으로 인해 모집단 수준 추정량 (CATE, PATE) 보다 훨씬 넓은 사후 신뢰구간을 가집니다. 이를 혼동하면 잘못된 결론을 내리게 됩니다.
• 모델링 요구사항: 모집단 추정은 공변량 분포 모델링이 필수적이며, 베이지안 부트스트랩을 통해 불확실성을 전파해야 합니다.
• 교차 세계 가정의 필요성: 모든 모집단 추정량이 교차 세계 가정을 필요로 하는 것은 아니지만, 특정 조건 (예: 결합 확률 추정) 하에서는 필요할 수 있습니다. 반면, 표본 추정량은 거의 항상 이 가정을 필요로 합니다.

5.2. 의의 및 시사점

• 원칙적 사고 (First-principles Thinking): 연구자는 분석의 목적 (어떤 추정량을 원하는가?) 을 명확히 한 후, 베이지안 정리의 엄격한 논리에 따라 해당 추정량의 주변 사후 분포를 도출해야 합니다.
• 구현 가이드: Stan 과 같은 MCMC 도구를 사용할 때, 추정량에 따라 parameters 블록에 무엇을 포함할지 (잠재 결과 vs 모수) 신중하게 결정해야 합니다.
• 실무적 조언:
  • 연구 대상이 명확한 모집단 (예: 심근경색 환자 전체) 이라면 모집단 수준 (PATE/CATE) 추론을 수행하고 공변량 분포의 불확실성을 반영해야 합니다.
  • 연구 대상이 고정된 유한 집합 (예: 특정 도시, 특정 주) 이라면 표본 수준 (SATE/ITE) 추론이 적절할 수 있으나, 이때는 교차 세계 가정의 민감도를 반드시 검토해야 합니다.
  • **MATE (Mixed Average Treatment Effect)**는 공변량 분포를 고정했을 때의 결과로, PATE 의 대용물이 될 수 없으며 불확실성을 과소평가합니다.

이 논문은 베이지안 인과 추론 분야에서 발생하는 개념적 혼란을 해소하고, 올바른 구현을 위한 기술적 가이드를 제공함으로써, 연구자들이 더 정확하고 신뢰할 수 있는 인과 추론을 수행할 수 있도록 돕는 중요한 기여를 합니다.