기술적 요약: 혼합 학습을 통한 범주형 관측되지 않은 교란변수가 있는 인과 추론

문제 제기

관측 데이터를 기반으로 인과 효과를 추정하는 것은 관측되지 않은 교란 (unobserved confounding) 에 의해 근본적으로 도전받습니다. 이는 처치 할당과 결과 모두에 영향을 미치는 잠재 변수들입니다. 회귀 분석이나 성향 점수 매칭과 같은 표준 방법론들은 이러한 교란변수가 측정되지 않을 때 실패하며, 편향된 추정치 (예: 심슨의 역설) 로 이어집니다.

기존 문헌은 주로 두 가지 경로를 통해 이를 해결하려 시도했으나, 둘 다 한계에 직면해 있습니다:

1. 근접 인과 추론 (Proximal Causal Inference): 대리 변수 (부정적 대조군) 를 사용하여 인과 효과를 식별합니다. 그러나 현재 프레임워크 (예: Miao et al., 2018; Tchetgen Tchetgen et al., 2020) 는 대리 변수를 처치 유도형, 결과 유도형, 공통 원인이라는 비대칭적 역할로 엄격하게 분류해야 합니다. 실제로 이러한 구체적이고 비대칭적인 조건을 만족하는 변수를 찾는 것은 종종 어렵습니다.
2. 다중 처치 ("Deconfounder"): 조건부 독립적인 다중 처치를 활용하여 잠재 구조를 추론합니다 (Wang and Blei, 2019). 개념적으로는 유망하지만, 이 접근법의 식별 가능성 조건은 논쟁의 여지가 있으며 (Ogburn et al., 2019), 기존 추정 방법론은 종종 전역 수렴 보장이나 유한 표본 일관성이 결여된 휴리스틱 알고리즘 (예: 기대값 - 최대화) 에 의존합니다.

본 논문은 관측되지 않은 교란변수가 범주형 (유한한 수의 값을 가짐) 일 때, 다중 대리 변수 및 다중 처치 환경 모두에서 인과 효과가 식별 가능함을 규명함으로써 이러한 간극을 메웁니다. 저자들은 혼합 학습 (mixture learning) 과 텐서 분해에 기반한 프레임워크를 제안하여, 비대칭적 대리 변수 분류나 휴리스틱 추정이 필요 없이 잠재 교란 구조를 복원합니다.

방법론

핵심 통찰은 잠재 교란변수 $U$가 범주형이고 조건부 독립적인 뷰 (대리 변수 또는 처치) 가 적어도 세 개 이상 존재할 때, 식별 문제가 유한 혼합 분포를 복원하는 문제로 축소된다는 것입니다. 저자들은 이를 달성하기 위해 텐서 분해를 통한 모멘트 방법 (method of moments) 을 활용합니다.

1. 다중 대리 변수 환경

이 프레임워크는 잠재 교란변수 $U \in \{1, \dots, K\}$와 $U$가 주어졌을 때 조건부 독립인 $p \ge 3$개의 대리 변수 $Z_1, Z_2, Z_3$를 가정합니다. 기존 연구와 달리, 이러한 대리 변수는 특정 인과 역할로 분류될 필요가 없으며 대칭적으로 취급됩니다.

• 식별: 조건부 독립성과 조건부 측정의 선형 독립성에 대한 가정 하에, 혼합 분포의 모수 (혼합 가중치 $\pi_u$ 및 성분 밀도 $P_{v,u}$) 는 순열에 대해 엄격하게 식별 가능합니다 (Allman et al., 2009).
• 추정 절차:
  1. 비지도 텐서 학습: 대리 변수의 결합 분포에 강건한 텐서 분해 (Anandkumar et al., 2014) 를 적용하여 혼합 가중치 $\hat{\pi}$와 성분 밀도 $\hat{f}_{v,u}$를 추정합니다.
  2. 후사 확률 복원: 각 단위별 잠재 상태의 후사 확률을 계산합니다: $\hat{w}_u(Z) = P(U=u|Z)$.
  3. 처치 모델 추정: 복원된 후사 확률로 가중치를 부여한 특징에 대해 처치 $A$를 회귀하여 군집별 처치 모수를 추정합니다.
  4. 결과 모델 추정: 처치 할당을 고려하여 후사 확률을 업데이트 ($P(U=u|A, Z)$) 하고, 이러한 업데이트된 후사 확률로 가중치를 부여한 특징에 대해 결과 $Y$를 회귀하여 군집별 결과 모수를 추정합니다.
  5. 인과 효과 계산: 복원된 잠재 구조에 대해 적분하여 평균 처치 효과 (ATE) 와 조건부 평균 처치 효과 (CATE) 를 계산합니다.

2. 다중 처치 환경

이 프레임워크는 대리 변수는 없으나 조건부 독립적인 다중 (적어도 세 개) 처치 $A_1, A_2, A_3$가 있는 상황으로 확장됩니다.

• 식별: 대리 변수 환경과 유사하게, 처치의 결합 분포는 잠재 혼합 모수의 고유한 식별을 가능하게 합니다.
• 추정: 텐서 분해를 처치 변수에 직접 적용하여 잠재 사전 확률과 방출 확률을 복원합니다. 그런 다음 이를 최종 결과에 대한 회귀를 위한 가중치 특징으로 사용하여 인과 모수를 추정합니다.

3. 이론적 보장

본 논문은 전체 추정 파이프라인에 대한 비점근적 오차 한계 (non-asymptotic error bounds) 를 제공합니다.

• 유한 표본 일관성: 저자들은 텐서 분해 단계 (후사 확률 추정) 에 대한 오차 한계를 유도하고, 이를 후속 회귀 단계를 통해 전파합니다.
• 수렴: 제안된 알고리즘은 인과 모수 (ATE) 에 대해 유한 표본 일관성을 달성하며, 오차 한계는 $O(\log(\delta) \cdot n^{-\frac{b}{2b+7d}})$입니다. 여기서 $b$는 매끄러움 (smoothness) 모수이고 $d$는 대리 변수의 차원입니다.
• 전역 수렴: EM 알고리즘과 달리, 사용된 텐서 파워 방법은 약한 비퇴화 조건 하에서 전역 수렴을 보장합니다.

주요 기여

1. 완화된 대리 변수 가정: 본 논문은 대리 변수를 부정적 대조군 노출 또는 결과로 엄격하게 분류할 필요가 없는 다중 대리 변수 인과 프레임워크를 도입합니다. 이는 조건부 독립적인 세 개 이상의 대리 변수 집합만 요구합니다.
2. 식별 가능성 및 추정: 저자들은 범주형 잠재 교란변수 가정 하에 다중 대리 변수 및 다중 처치 환경 모두에서 모델 모수와 인과 추정량 (ATE, CATE) 의 식별 가능성을 확립합니다.
3. 알고리즘적 안정성: 국소 최적화 문제를 피하고 전역 수렴 보장을 제공하는 텐서 분해 기반의 효율적인 추정 절차를 제안합니다. 이는 변분 추론이나 EM 에서 흔히 발생하는 문제들을 회피합니다.
4. 유한 표본 이론: 본 논문은 잠재 후사 분포의 비모수적 추정과 후속 인과 모수에 대한 엄격한 유한 표본 오차 한계를 제공하며, 최종적으로 ATE 에 대한 일관성 보장으로 귀결됩니다.
5. 비모수 일반화: 식별 가능성 결과는 더 넓은 비모수 환경 (Theorem 5.2) 으로 확장되지만, 완전한 비모수 사례에 대한 구체적인 알고리즘 구현은 향후 연구 과제로 명시되어 있습니다.

실험 결과

저자들은 시뮬레이션과 실제 데이터 분석을 통해 방법을 검증했습니다:

• 시뮬레이션: 다중 대리 변수 및 다중 처치 환경 모두에서 제안된 추정기는 표본 크기가 증가함에 따라 실제 인과 계수로 수렴하는 것을 보여주며, 제한된 데이터에서도 잘 수행됩니다.
• 실제 데이터 (BWGHT 데이터셋): 이 방법은 모성 흡연이 신생아 출생 체중에 미치는 영향을 추정하는 데 적용되었습니다. 관측되지 않은 교란변수는 잠재적인 가족 사회경제적 지위로 식별되었습니다.
  • 세 가지 대리 변수 (가족 소득, 아버지의 학력, 어머니의 학력) 를 사용하여 텐서 분해는 삼진 (trivalent) 잠재 구조 ($K=3$) 를 복원했습니다.
  • 결과적으로 생성된 군집은 역학적 합의 (고위험 소외 계층, 불일치 중간 계층, 그리고 매우 우월한 보호 계층) 와 일치했습니다.
  • 흡연의 추정 인과 효과는 모든 잠재 층위에서 음수였으며, 이는 흡연으로 인한 태아 성장 제한에 대한 기존 연구를 뒷받침합니다.

중요성 및 주장

본 논문은 "혼합 학습과 인과 추론 사이의 구체적인 다리"를 구축했다고 주장합니다. 관측되지 않은 범주형 교란 문제를 잠재 혼합 식별 문제로 재구성함으로써, 저자들은 근접 인과 추론에 사용되는 적분 방정식 접근법에서 전형적인 잘 정의되지 않은 (ill-posed) 역문제들을 피합니다.

이 연구의 중요성은 다음과 같습니다:

• 실용성: 비대칭적 부정적 대조군을 찾는 어려운 요구 사항을 제거하여, 이러한 변수를 식별하기 어려운 분야에서 근접 인과 추론을 더 적용 가능하게 만듭니다.
• 이론적 엄밀성: 전역 수렴 보장과 유한 표본 오차 한계를 갖춘 다중 처치 환경에 대한 일관된 추정 방법을 제공하여 "Deconfounder" 문헌의 이론적 간극을 해소합니다.
• 방법론적 혁신: 텐서 분해가 잠재 교란변수 분포를 효과적으로 "분해 (unmix)"하여, 강력한 모수적 가정이나 검증 불가능한 식별 조건 없이도 이전에는 처리 불가능하다고 여겨졌던 환경에서 일관된 인과 복원을 가능하게 함을 보여줍니다.

저자들은 향후 방향에 대해 겸손하게 언급하며, 현재 결과는 대리 변수 분포를 비모수적으로 다루지만 추정 알고리즘은 처치 및 결과 모델에 대해 모수적 형태를 가정한다고 지적합니다. 추정을 위한 완전한 비모수 환경으로 프레임워크를 일반화하는 것이 향후 연구를 위한 자연스러운 확장으로 식별되었습니다.