[기술 요약] 인과 추론을 위한 생성형 합성 데이터: 함정, 해결책 및 기회

1. 문제 정의 (Problem Statement)

현재 GAN(Generative Adversarial Networks)이나 LLM(Large Language Models)을 이용한 합성 데이터 생성 기술은 데이터 프라이버시 보호, 데이터 증강, 시뮬레이션 분야에서 크게 발전했습니다. 그러나 **"예측 성능(Predictive Fidelity)이 높다고 해서 인과적 타당성(Causal Validity)이 보장되는가?"**라는 핵심적인 질문에 대해 본 논문은 **"아니오"**라고 답합니다.

• 핵심 함정 (The Pitfall): 기존의 완전 생성형(Fully Generative) 모델은 데이터의 전체적인 분포나 행 단위의 재구성 손실(Reconstruction Loss)을 최적화하는 데 집중합니다. 이 과정에서 공변량(Covariates, $W$)의 개수가 많을 경우, 모델은 공변량을 복원하는 데 대부분의 용량을 할당하고, 정작 인과 추론의 핵심인 **처치 효과 대비(Treatment-effect contrast, $\Delta Q$)**를 학습하는 데는 소홀해집니다.
• 결과: 결과적으로 모델은 TSTR(Train-on-Synthetic-Test-on-Real) 성능이 매우 높게 나타나더라도, 평균 처치 효과(ATE)와 같은 인과적 추정치(Estimand)를 심각하게 왜곡할 수 있습니다.

2. 방법론 (Methodology)

본 논문은 이러한 문제를 해결하기 위해 세 가지 주요 접근법을 제안합니다.

① 하이브리드 합성 데이터 프레임워크 (Hybrid Generation Framework)

완전 생성형 방식 대신, 변수 간의 메커니즘을 분리하여 학습하는 하이브리드 방식을 제안합니다.

• 단계 1 (공변량 생성): 생성 모델을 사용하여 공변량 $\tilde{W}$만을 생성합니다. 이때 DCR(Distance-to-Closest-Record) 진단 도구를 사용하여 프라이버시와 분포 유사성을 모니터링합니다.
• 단계 2 (처치 및 결과 모델링): 실제 데이터($D_{seed}$)를 사용하여 처치 모델 $\hat{g}(A|W)$와 결과 모델 $\hat{Q}(A, W)$를 별도로 학습합니다.
• 단계 3 (결합): 생성된 $\tilde{W}$를 기반으로 처치 $\tilde{A}$를 샘플링하고, 그에 따른 결과 $\tilde{Y}$를 생성하여 $(\tilde{W}, \tilde{A}, \tilde{Y})$ 트리플렛을 구성합니다. 이를 통해 인과적 메커니즘(Nuisance components)에 모델의 주의력을 집중시킵니다.

② 표적 합성 증강 (Targeted Synthetic Augmentation)

데이터의 중첩(Overlap)이 부족하여 발생하는 실질적 양성 조건(Practical Positivity) 문제를 해결하기 위한 전략입니다.

• 처치 확률(Propensity score)이 극단적인 관측치(희귀한 케이스)를 식별합니다.
• 이 관측치와 공변량 공간에서 가까운 합성 공변량을 쌍(Pair)으로 묶어 데이터를 증강합니다.
• 이는 단순히 데이터를 늘리는 것이 아니라, 희귀한 $(A, W)$ 영역에서의 조건부 효과 추정을 안정화하는 것을 목표로 합니다.

③ 합성 시뮬레이션 엔진 (Synthetic Simulation Engine)

실제 데이터 분석 전, 분석가가 사용할 추정기(Estimator)의 성능을 미리 테스트할 수 있는 환경을 구축합니다.

• 학습된 하이브리드 환경에서 다양한 표본 크기로 반복적인 시뮬레이션을 수행합니다.
• OR(Outcome Regression), IPW, AIPW, TMLE 등 다양한 인과 추정기의 편향(Bias), 분산(Variance), RMSE를 비교 평가합니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

① 인과적 충실도 개선 (Causal Fidelity)

• 실험 결과: LLM 및 GAN 기반의 완전 생성형 모델과 비교했을 때, 하이브리드 방식은 ATE의 MSE(평균 제곱 오차)를 한 자릿수(order of magnitude) 이상 감소시켰습니다.
• 예를 들어, LLM 기반 IPW 추정 시 ATE MSE가 0.0047에서 0.0004로 급격히 개선되었습니다. 이는 공변량 분포를 유지하면서도 인과적 대비를 효과적으로 보존했음을 의미합니다.

② 양성 조건 문제 완화 (Positivity Support)

• 실험 결과: 표적 증강(Pair Hybrid)을 사용했을 때, IPW, AIPW, OR 등 주요 추정기의 MSE가 원본 데이터보다 낮아지는 효과를 확인했습니다. 이는 적절한 증강이 분포 이동(Distribution shift)의 위험보다 조건부 효과 추정의 이득이 더 클 때 유효함을 입증합니다.

③ 추정기 평가 도구로서의 유용성 (Estimator Evaluation)

• 실험 결과: LLM 기반 하이브리드 시뮬레이터는 실제 데이터의 편향(Bias) 부호와 크기를 매우 유사하게 재현했습니다. 이를 통해 분석가는 실제 데이터를 분석하기 전에 어떤 추정기(예: TMLE vs IPW)가 해당 데이터 구조에서 더 안정적일지 미리 진단할 수 있습니다.

4. 의의 (Significance)

본 논문은 합성 데이터를 단순한 "데이터 복제본"이 아닌, **"구조화된 인과 추론 워크플로우의 구성 요소"**로 재정의했습니다.

1. 이론적 통찰: 예측 성능과 인과적 성능 사이의 트레이드오프를 수학적으로 공식화(Sensitivity bound 및 Tradeoff theorem)하여 학술적 근거를 제시했습니다.
2. 실무적 가이드라인: 인과 추론을 위해 합성 데이터를 사용할 때, 왜 변수 간 메커니즘을 분리하여 생성해야 하는지에 대한 명확한 방법론을 제공했습니다.
3. 새로운 패러다임: 합성 데이터를 단순한 데이터 증강 도구를 넘어, 실제 분석 전의 '스트레스 테스트(Stress test)' 및 '사전 진단(Pre-analysis diagnostic)' 도구로 활용할 수 있는 길을 열었습니다.