Doubly robust identification of treatment effects from multiple environments

De Bartolomeis 등 의 논문 "Doubly robust identification of treatment effects from multiple environments"에 대한 상세한 기술적 요약입니다.

1. 문제 정의

이 논문은 다음과 같은 시나리오에서 관측 데이터를 사용하여 **평균 치료 효과 (ATE)**를 추정하는 과제를 다룹니다:

• 인과 그래프가 알려지지 않음: 실무자들은 유효한 조정 집합을 선택하기 위해 사전 지식을 활용할 수 없습니다.
• 나쁜 통제 변수 (Bad controls) 존재: 데이터셋에는 치료 후 변수 (충돌 변수 또는 치료의 후손) 가 포함되어 있으며, 이를 조정할 경우 편향 (예: 충돌 변수 편향) 이 발생합니다.
• 관측되지 않은 교란 변수 존재: 치료 ($T$) 와 결과 ($Y$) 모두에 영향을 미치는 잠재 변수 ($U$) 가 존재합니다.
• 단일 소스 한계: 모든 공변량을 조정하는 것과 같은 표준 방법은 나쁜 통제 변수가 존재할 때 실패하며, 여러 환경을 기반으로 하는 기존 방법들은 종종 완전한 인과 그래프 관측이나 특정 구조적 지식 (예: 알려진 부모 노드) 을 요구합니다.

핵심적인 어려움은 인과 구조를 알지 못하는 한, 단일 데이터셋을 사용하여 "좋은 통제 변수 (치료 전 교란 변수)"와 "나쁜 통제 변수 (치료 후 변수)"를 구별하는 것이 불가능하다는 점입니다.

2. 방법론: Ramen

저자들은 Ramen(Robust ATE identification from Multiple ENvironments) 을 제안합니다. 이는 완전한 인과 그래프가 필요 없이 여러 환경 간의 이질성(예: 서로 다른 국가, 기간, 또는 하위 집단) 을 활용하여 ATE 를 식별하는 알고리즘입니다.

주요 가정

1. 매개 변수 부재: $T$와 $Y$ 사이에 관측된 매개 변수가 존재하지 않습니다 (가정 3.1).
2. 불변 노드 (이중 강건성): 환경 ($e \in \mathcal{E}$) 간에 다음 중 적어도 하나가 성립합니다:
   • 치료 불변성: $T$의 모든 부모 노드가 관측되며, 조건부 평균 $E[T | Pa(T)]$이 환경 간에 불변입니다.
   • 결과 불변성: $Y$의 모든 부모 노드가 관측되며, 조건부 평균 $E[Y | Pa(Y)]$이 환경 간에 불변입니다.
   • 참고: 이 방법은 어느 노드가 불변인지 알 필요가 없으며, 이를 탐색합니다.
3. 식별 조건 (이질성): 환경들은 충분한 분포적 변화 (이질성) 를 보여야 합니다. 즉, 공변량의 부분 집합이 불변인 조건부 평균을 산출한다면, 그 부분 집합은 효과적으로 불변 노드의 부모를 포착해야 합니다 (가정 4.1).

추정량

Ramen 은 선택된 공변량 부분 집합 $S$에 대해 이중 강건 추정량 (doubly robust estimand) $\theta_e(S)$를 정의합니다:
$$\theta_e(S) = E\left[ \bar{\mu}_1(X_S) - \bar{\mu}_0(X_S) + \frac{(Y - \bar{\mu}_1(X_S))T}{\bar{\pi}(X_S)} - \frac{(Y - \bar{\mu}_0(X_S))(1-T)}{1-\bar{\pi}(X_S)} \right]$$
여기서 $\bar{\mu}_t$와 $\bar{\pi}$는 통합된 조건부 결과 함수와 성향 점수 함수입니다.

불변성 손실을 통한 최적화

유효한 조정 집합 $S$를 찾기 위해 Ramen 은 **불변성 손실 (invariance loss)**을 최소화합니다. 이 알고리즘은 $S$가 주어졌을 때 $T$또는 $Y$의 조건부 평균이 환경 간에 불변이 되는 부분 집합 $S$를 탐색합니다.

• 손실 함수: 손실은 커널 기반 접근법(재현 커널 힐베르트 공간 - RKHS) 을 사용하여 환경 간 조건부 모멘트의 불일치를 측정합니다.
  $$J_S(Z; V) = \max_{e \in \mathcal{E}} \left\| E_{P_e}[(V - m_S(Z; V)) k(\cdot, Z_S)] \right\|_{\mathcal{H}}^2$$
• 이중 강건성: 알고리즘은 $\min_S \{ J_S(Z; T), J_S(Z; Y) \}$를 최소화합니다. $T$또는 $Y$ 중 하나가 불변 가정을 만족하면, 최소화기는 유효한 조정 집합 (불변 노드의 부모) 을 식별합니다.

알고리즘

이 논문은 부분 집합 선택 문제를 해결하기 위한 두 가지 구현을 제안합니다:

1. 결합 탐색 (Combinatorial Search): 부분 집합을 모두 탐색합니다 (저차원 데이터에서 실행 가능).
2. 미분 가능 완화 (Gumbel Trick): 고차원 데이터의 경우, 이산적인 부분 집합 선택을 연속적인 최적화 문제로 완화합니다. 이는 공변량에 대한 미분 가능한 이진 마스크를 생성하기 위해 Gumbel-Softmax 근사를 사용하여 경사 하강법으로 불변성 손실을 최적화할 수 있게 합니다.

3. 주요 기여

1. 이 설정에서의 첫 번째 이중 강건 식별: Ramen 은 나쁜 통제 변수와 관측되지 않은 교란 변수가 동시에 존재하는 상황에서 완전한 인과 그래프 없이 여러 환경을 활용하여 ATE 의 점 식별 (point identification) 을 달성한 최초의 알고리즘입니다.
2. 새로운 이중 강건성: 고전적인 이중 강건성 (모델 오지정 방지) 과 달리, Ramen 의 강건성은 부분 관측성에 대해 보호합니다. $T$의 부모 또는 $Y$의 부모 중 하나가 관측되고 불변이면 성공합니다.
3. 관측성 완화: 이는 결과 변수의 부모가 완전히 관측되어야 한다는 이전 연구 (예: Shi 등, 2021) 를 개선하여, 대신 치료의 부모가 관측되면 작동할 수 있습니다.
4. 확장 가능한 최적화: Gumbel 트릭의 도입으로 인해 결합 탐색이 불가능한 고차원 공변량 공간에서도 방법이 확장 가능해졌습니다.

4. 실험 결과

저자들은 합성, 반합성, 그리고 실제 데이터셋에서 Ramen 을 평가했습니다:

• 합성 실험 (알려진 DAG):
  • Ramen 은 $T$불변성, $Y$불변성, 또는 둘 다 성립하는 시나리오 전반에 걸쳐 일관되게 낮은 평균 절대 오차 (MAE) 를 달성했습니다.
  • 모든 공변량을 조정하는 것과 같은 베이스라인 ($\hat{\theta}_{all}$) 은 나쁜 통제 변수 (충돌 변수/후손) 가 존재할 때 실패했습니다.
  • IRM 베이스라인($\hat{\theta}_{irm}$) 은 $T$가 불변 노드일 때 (IRM 은 일반적으로 결과 불변성을 가정함) 크게 실패했습니다.
• 무작위 고차원 DAG:
  • Ramen 은 다양한 환경 수와 그래프 토폴로지에 걸쳐 모든 베이스라인을 능가했습니다.
  • 미분 가능 버전 ($\hat{\theta}_{insta-}$) 은 결합 버전과 거의同등한 성능을 보였으며 더 높은 차원으로 확장 가능했습니다.
• 반합성 (IHDP 데이터셋):
  • Ramen 은 이론적 예측과 일치하여 특정 불변성이 깨졌을 때 강건성을 보였으며, 베이스라인들은 높은 편향을 겪었습니다.
• 실제 세계 (산모 흡연 및 출생 체중):
  • Cattaneo2 데이터셋 (4,642 명 환자) 에 적용되었습니다.
  • Ramen 은 흡연하는 산모의 경우 출생 체중이 약 215g 감소한다고 추정했습니다.
  • 이는 확립된 역학 문헌 (200~250g 감소) 과 일치합니다.
  • 베이스라인 ($\hat{\theta}_{all}$, $\hat{\theta}_{irm}$) 은 효과를 과소평가한 반면, 미조정 베이스라인 ($\hat{\theta}_{null}$) 은 과대평가하여 Ramen 이 나쁜 통제 변수 (출생 체중 합병증과 같은 치료 후 변수) 를 보정할 수 있음을 보여주었습니다.

5. 의의 및 한계

의의:

• Ramen 은 인과 그래프가 알려지지 않고 데이터가 복잡 (치료 후 변수 포함) 한 복잡한 실제 환경에서 인과 추론을 위한 실용적인 해결책을 제공합니다.
• 이는 도메인 일반화 (불변성 학습) 와 인과 추론 (치료 효과 추정) 간의 간극을 메웁니다.
• 윤리적 또는 재정적 제약으로 무작위 대조 시험이 불가능할 때, 강력한 대안을 제공합니다.

한계:

• 차원의 저주: 커널 기반 방법은 매우 고차원에서 계산 비용이 많이 들 수 있습니다.
• 이질성 요구 사항: 이 방법은 환경 간 충분한 분포적 변화 (가정 4.1) 를 요구합니다. 환경이 너무 유사하면 식별이 실패합니다.
• 휴리스틱 최적화: Gumbel 트릭은 휴리스틱 완화 방법입니다. 효과적이기는 하지만 이산적인 부분 집합 문제의 전역 최적해를 보장하지는 않습니다.
• 매개 변수: 이 방법은 $T$와 $Y$ 사이에 관측된 매개 변수가 존재하지 않는다고 가정합니다. 매개 변수가 존재하면 추정량은 ATE 에서 통제된 직접 효과로 변경됩니다.

결론적으로, Ramen은 다양한 환경에 걸친 인과 메커니즘의 구조적 안정성 (불변성) 을 활용하여 "복잡한" 관측 데이터에서 편향 없는 치료 효과 추정을 가능하게 함으로써 인과 추론 분야에서 중요한 진전을 이루었습니다.