기술 요약: 인과적 변분 심층 임베딩 (CAUVADE)

문제 정의

심층 생성 모델(예: VAE, GAN, 확산 모델)은 훈련 데이터의 관측 분포를 재현하도록 설계되었습니다. 그러나 훈련 데이터에 관찰되지 않은 혼란 변수($U$)에 의한 **가짜 상관관계(spurious correlations)**가 포함되어 있는 경우, 이러한 모델은 이러한 편향을 그대로 물려받게 됩니다. 인과적 설정에서, 만약 사용자가 속성 $X$(예: 숫자 정체성)를 조작하고 그 결과로 나타나는 종속 속성 $Y$(예: 배경 색상)의 분포를 관찰하고자 한다면, 표준 모델은 관측 조건부 확률인 $P(Y|X)$를 출력할 뿐, 개입 분포인 $P_x(Y)$를 출력하지 못합니다.

핵심 과제는 **부분 식별 가능성(partial identifiability)**입니다. $U$가 숨겨져 있을 때, 관측 데이터 $P(X, Y)$는 서로 다른 $P_x(Y)$를 예측하는 일련의 구별되는 인과 기제(causal mechanisms)들과 일치할 수 있습니다. 기존의 인과적 생성 접근 방식은 종종 강력한 구조적 가정(예: 특정 함수 형태나 노이즈 독립성)을 부과하여 이 모호성을 해결하려 합니다. 이미지 도메인에서 이러한 가정은 흔히 정당화되기 어렵습니다. 단일 점 추정치를 반환하는 모델은, 구별 불가능한 일련의 인과적 설명 중 하나를 묵묵히 선택함으로써 과잉 확신을 갖게 됩니다. 목표는 단일 점 추정치를 결정하는 것이 아니라, 가능 영역(feasible region)—즉, 관측된 데이터 및 방어 가능한 구조적 가정과 일치하는 모든 개입 분포의 집합—을 특징짓는 것입니다.

방법론

1. 정준 증강 구조적 인과 모델 (CASCM)

저자들은 이미지 생성을 위해 확장된 **증강 구조적 인가 모델(ASCM)**에 기반한 이론적 토대를 제안합니다. ASCM은 이미지 변수 $I$가 의미론적 변수($X, Y, Z$)와 외생적 노이즈에 의해 생성되는 구조를 포함합니다.

• 이론적 정당성: 본 논문은 정준 ASCM(CASCM) 클래스가 주어진 인과 다이어그램 하에서 관측 및 개입 1-Wasserstein 거리($W_1$) 모두에 대해 모든 ASCM 클래스 내에서 조밀(dense)함을 증명합니다.
• 정준 구조: CASCM에서 관찰되지 않은 혼란 변수 $U$는 **이산 잠재 변수(discrete latent variable)**로 제한되며 유계된 지지 집합을 가집니다 ($U \in \{1, \dots, d\}$). 반면 연속적인 변화는 독립적인 외생 노이즈($E_Z, E_X, E_Y, E_I$)로 흡수됩니다. 이러한 축소는 무한 차원의 일반적인 ASCM 탐색 공간을 혼란 변수가 이산 클러스터인 다루기 쉬운 클래스로 근사할 수 있게 합니다.

2. CAUVADE 아키텍처

**인과적 변분 심층 임베딩(CAUVADE)**은 CASCM 클래스를 가우시안 혼합 변분 오토인코더(Gaussian-mixture VAE)로 구현합니다.

• 잠재 변수:
  • 클러스터 $C$: 정준 혼란 변수 $U$를 나타내는 이산 변수.
  • 연속 잠재 변수 $Z$: 처치 전 속성과 독립적인 외생 노이즈를 결합함.
• 생성 과정: 모델은 $C$와 $Z$가 $X, Y$ 및 이미지 $I$의 생성을 주도하는 결합 분포를 정의합니다.
• 개입(Intervention): 개입 샘플 $P_x(I)$를 생성하기 위해, 모델은 (X가 주어진 사후 분포가 아닌) 이들의 결합 사전 분포로부터 $(C, Z)$를 샘플링하고, $X=x$로 고정한 뒤, $Y$와 $I$를 위한 디코더를 통해 전파합니다. 이는 혼란 경로를 끊어 선택(selection)과 개입(intervention)을 구분합니다.

3. 훈련 및 $\gamma$-스윕 ($\gamma$-Sweep)

CAUVADE는 $X$만 레이블이 지정된 혼란된 데이터로 훈련됩니다. 목적 함수는 표준 VAE 항과 두 가지 특정 정규화 항을 결합합니다:

1. 처치 일관성 항 ($L_X$): 보조 분류기는 잠재 표현 $(C, Z)$가 관찰된 처치 $X$를 예측하기에 충분한 정보를 포함하도록 보장합니다.
2. 클러스터 엔트로피 정규화 항 ($L_{ent}$): 스칼라 $\gamma$에 의해 가중치가 부여된 클러스터 사후 분포 $q_\phi(C|I)$에 대한 엔트로피 항입니다.
   • 낮은 $\gamma$: 사후 분포가 붕괴(낮은 엔트로피)되어, 관측 조건부 $P(Y|X)$를 추적하는 결정론적인 VAE와 같은 동작을 보입니다.
   • 높은 $\gamma$: 사후 분포가 균등(높은 엔트로피)해져, 이미지를 특정 혼란 변수의 실현으로부터 분리하고 사전 분포에 대해 평균을 냅니다.
   • 스윕(The Sweep): $\gamma$를 $[0, \infty)$ 범위에서 스윕함으로써, CAUVADE는 연속적인 생성 모델 패밀리를 추적합니다. 각 $\gamma$는 관측 데이터를 유사한 우도(likelihood)로 적합시키면서도 서로 다른 개입 분포 $P_x(I)$를 유도하는 서로 다른 최적점에 해당합니다.

주요 기여

1. 정준 증강 SCM: 혼란 변수가 이산 잠재 클러스터인 정준 구조 모델 클래스를 도입했습니다. 저자들은 이 클래스가 Wasserstein 거리 하에서 모든 호환 가능한 ASCM 공간에서 조밀함을 증명하여, 고차원 이미지 도메인에서 더 단순한 클래스를 사용하는 것을 정당화했습니다.
2. CAUVADE 프레임워크: 혼합 VAE를 사용하여 정준 클래스를 실질적으로 구현했습니다. 이는 추가적인 감독 없이도 개입 분포의 가능 영역을 탐색하기 위해 클러스터 사후 분포에 대한 엔트로피 정규화를 도입합니다.
3. $\gamma$-스윕을 통한 부분 식별: $\gamma$를 변화시킴으로써 개입적 설명의 가능 영역을 통과하는 곡선을 추적함을 보여주었습니다. 이를 통해 모델은 강한 구조적 가정을 요구하지 않고도 관측 데이터와 일치하는 다양한 개입 샘플을 생성할 수 있습니다.

실험 결과

저자들은 Confounded Color-MNIST, CelebA, MIMIC-CXR-JPG 세 가지 데이터셋에서 CAUVADE를 평가했습니다.

• Color-MNIST: 숫자 정체성과 배경 색상이 숨겨진 혼란 변수를 통해 가짜 상관관계를 갖는 설정에서, 표준 VAE와 ANCM은 단일 점 추정치(혼란된 조건부 또는 Manski 경계 내의 단일 지점)로 수렴합니다. 반면 $\gamma$를 스윕하는 CAUVADE는 Manski 경계가 정의하는 전체 가능 영역을 포괄하는 다양한 숫자-색상 연관성을 생성합니다.
• CelebA: "매력도(Attractive)"를 숨겨진 혼란 변수로 하여 "젊음(Young)"이 "진한 화장(Heavy Makeup)"에 미치는 영향을 모델링할 때, CAUVADE는 $\gamma$ 값에 따라 시각적으로 비혼란 상태의 실제 값(ground truth)과 일치하는 샘플을 생성하지만, 베이스라인 모델들은 이러한 가짜 상관관계를 분리하는 데 실패합니다.
• MIMIC-CXR-JPG: 환자의 자세에 의해 혼란된 폐렴(Pneumonia)이 폐 불투명도(Lung Opacity)에 미치는 인과적 효과를 모델링할 때, CAUVADE는 비혼란 참조 데이터에 대해 VAE(354.97) 및 ANCM(407.73)보다 현저히 낮은 Fréchet Inception Distance (FID) (284.57)를 달자합니다. 베이스라인들은 편향을 직접 상속받거나 하나의 잘못된 인과적 설명을 선택합니다.

의의 및 주장

본 논문은 혼란 변수가 존재하는 상황에서 "모델링해야 할 올바른 대상"은 단일 점 추정치가 아니라 개입 분포의 가능 영역이라고 주장합니다.

• 겸손한 주장: 저자들은 (추가적인 가정 없이는 불가능한) 진정한 인과 기제를 식별한다고 주장하지 않습니다. 대신, 데이터와 일치하는 타당한 기제들의 집합을 충실히 특징짓는 방법을 제공한다고 주장합니다.
• 실질적 영향: 단일 점 추정기의 과잉 확신을 피함으로써, CAUVADE는 인과적 이미지 생성에서 불확실성을 더 정직하게 표현할 수 있게 합니다. 이 방법은 다양한 고품질 샘플을 생성하여 관측 데이터가 허용하는 인과적 설명의 범위를 포괄하는 "탈혼란화 이미지 생성(deconfounded image generation)"을 위한 실용적인 도구로 제시됩니다.
• 이론적 기여: 밀도 정리(Theorem 2.2)는 복잡하고 연속적인 관찰되지 않은 혼란 변수를 고차원 이미지 공간에서 이산 잠재 클러스터로 근사하는 것에 대한 엄격한 이론적 정당성을 제공하며, 이는 이론적 인과 추론과 딥 생성 모델링 사이의 간극을 메웁니다.