Identifiable Multimodal Causal Representation Learning under Partial Latent Sharing

기술적 요약: 부분적 잠재 공유 하의 식별 가능한 다중 모달 인과 표현 학습

문제 정의
인과 표현 학습 (CRL) 은 고차원 관측 데이터로부터 의미 있는 잠재 변수와 그 인과 구조를 규명하는 것을 목표로 합니다. 그러나 CRL 의 주요 병목 현상은 **식별 가능성 (identifiability)**입니다. 보장 없이는 학습된 표현이 실제 데이터 생성 과정과 구조적으로 다를 수 있어, 해석 가능성과 견고성을 훼손합니다.

기존 다중 모달 CRL 접근법은 다음과 같은 중대한 한계에 직면해 있습니다:

1. 제한적인 가정: 많은 방법론이 관측 차원과 잠재 차원이 동일한 전단사 (bijective) 혼합 함수를 가정합니다. 이는 관측 데이터가 고차원이고 잠재 변수가 저차원인 (불완전 설정) 이미지 데이터와 같은 시나리오에서는 비현실적입니다.
2. 제한된 공유 패턴: 기존 연구는 주로 겹치지 않는 잠재 구조 또는 완전히 공유된 구조 (모든 모달리티가 동일한 잠재 변수 집합에 의존) 에 초점을 맞춥니다. 특정 모달리티 하위 집합은 잠재 변수를 공유하고 나머지는 모달리티 고유의 변수로 남는 부분적으로 공유된 (partially shared) 구조를 다루는 경우는 드뭅니다.
3. 보조 신호에 대한 의존성: 많은 방법론이 감독, 개입, 또는 시간적 의존성에 의존하는데, 이는 실제 환경에서 항상 이용 가능한 것은 아닙니다.

본 논문은 파라미터 분포 가정, 감독, 또는 개입 없이 부분적으로 공유된 잠재 구조를 가진 다중 모달 환경에서 인과적 잠재 표현에 대한 **구성 요소별 식별 가능성 (component-wise identifiability)**을 확립하는 과제를 다룹니다.

방법론

1. 이론적 프레임워크
저자들은 관측된 모달리티 $x^{(m)}$가 전단사 (bijective) 일 필요는 없는 매끄러운 단사 (injective) 혼합 함수 $f_m$을 통해 인과적 잠재 변수의 부분집합 $z_{A_m}$에서 생성되는 잠재 변수 모델을 수립합니다. 잠재 변수 $z$는 $z_j = g_j(Pa(z_j), \epsilon_j)$로 정의된 구조적 인과 모델 (SCM) 을 따릅니다.

핵심 이론적 기여는 다음과 같은 조건 하에서 구성 요소별 식별 가능성(각 잠재 변수를 매끄러운 가역 변환까지 복원) 을 증명하는 것입니다:

• 단사성 및 적절성 (Properness): 혼합 함수는 단사적이며 적절하여 극단적 값에서의 정보 손실을 방지합니다.
• 인과 구조의 희소성: 잠재 변수의 인과 그래프는 희소성을 보이며, 특히 서로 다른 모달리티의 특정 변수 간의 인과 간선을 제한합니다.
• 부분적 공유: 단일 잠재 변수가 모든 모달리티에 걸쳐 공유되지 않으며, 공유는 하위 집합 간에만 발생합니다.
• 혼합 밀도: 인과 구조는 비치환 (non-permutation) 변환이 인과 간선의 밀도를 증가시켜 희소성 제약을 위반하도록 보장합니다.

이러한 조건들은 불완전 설정 ($|A_m| \leq d_m$) 에서조차 공유 변수(모달리티 하위 집합에 공통) 와 모달리티 고유 변수를 구성 요소별 전단사까지 복원할 수 있게 합니다.

2. 학습 프레임워크
이러한 이론적 보장을 구현하기 위해 저자들은 세 가지 주요 구성 요소로 구성된 생성 프레임워크를 제안합니다:

• 오토인코더 구조: 모달리티별 인코더가 관측 데이터 $x^{(m)}$를 잠재 추정치 $\hat{z}_{A_m}$로 매핑한 후, 이를 디코딩하여 관측 데이터를 재구성합니다.
• 워터스타인 기반 플러그인 모듈: 새로운 미분 가능한 모듈이 부분적으로 공유된 잠재 구조를 학습합니다. 이는 공유 변수의 정렬을 최적 수송 문제로 공식화합니다. 서로 다른 모달리티의 잠재 변수 간 워터스타인 거리에 기반한 수송 비용을 최소화함으로써, 이 모듈은 모달리티 간에 공유되는 잠재 구성 요소를 식별하는 치환 행렬 (permutation matrix) $P$를 학습합니다. 이 모듈은 아키텍처에 구애받지 않으며 추가적인 보조 감독이 필요하지 않습니다.
• 인과 구조 학습: 프레임워크는 외생 노이즈를 모델링하기 위해 마스크된 자기회귀 정규화 흐름 (Masked Autoregressive Normalizing Flow) 을 사용하고, 인과 그래프를 추론하기 위해 학습 가능한 인접 행렬을 사용합니다. 희소성 ($L_1$ 정규화) 과 비순환성 제약을 부과하여 이론적 식별 가능성 조건을 충족시킵니다.

주요 기여

1. 구성 요소별 식별 가능성 보장: 본 논문은 엄격한 전단사성 가정을 완화하여, 부분적 공유가 있는 다중 모달 환경에서 공유 및 모달리티 고유 잠재 변수 모두를 구성 요소별로 식별 가능함을 입증합니다.
2. 불완전 설정: 이론적 결과는 각 모달리티에서 관측 변수의 수가 잠재 변수의 수를 초과하는 경우에도 유효합니다.
3. 아키텍처 무관 모듈: 추가 학습 데이터, 감독, 또는 개입 없이 공유 구조 치환 행렬을 복원하는 미분 가능한 워터스타인 기반 모듈을 도입했습니다.
4. 일반화: 이 연구는 모달리티가 반드시 서로의 증강 버전이 아닐 수 있는 더 유연한 설정으로 이전의 블록 단위 식별 결과를 일반화합니다.

실험 결과
저자들은 합성 수치 데이터셋 (2, 3, 4 개 모달리티), 합성 3D 이미지 - 텍스트 데이터셋 (MultiModal3DIdent), 그리고 유전자 조절 네트워크 데이터셋 (SERGIO) 에서 제안한 접근법을 평가했습니다.

• 지표: 성능은 평균 상관 계수 (MCC), 결정 계수 ($R^2$), 향상된 구조적 해밍 거리 (EnSHD) 를 사용하여 측정되었습니다.
• 결과:
  • 제안된 방법은 모든 수치 데이터셋에서 $R^2$ 측면에서 최첨단 베이스라인 (CausalVAE, Multimodal Contrastive Learning, MultiBio, MultiView) 보다 우수한 성능을 보였으며, 이는 실제 지상 진실 (ground-truth) 잠재 구조의 더 나은 복원을 나타냅니다.
  • MultiModal3DIdent 데이터셋에서 제안된 방법은 베이스라인에 비해 우수한 $R^2$ 점수를 달성했습니다.
  • 유전자 조절 네트워크 데이터셋에서 제안된 방법은 가장 높은 MCC(0.98) 를 달성하여 실제 생물학적 데이터에 대한 적용 가능성을 확인했습니다.
  • 제안된 방법은 대비 학습이나 블록 단위 식별에 의존하는 베이스라인에 비해 인과 그래프 복원 (EnSHD) 에서 경쟁력 있거나 우수한 성능을 보여주었습니다.

의의 및 주장
본 논문은 기존 연구에 비해 식별 가능성을 위한 더 약한 이론적 조건을 제공한다는 점이 주요 의의라고 주장합니다. 전단사 혼합 함수, 파라미터 분포 가정, 보조 신호 (감독/개입) 의 필요성을 제거함으로써, 제안된 프레임워크는 해석 가능한 인과 표현을 학습하는 데 더 실용적이고 유연한 접근법을 제공합니다.

저자들은 구성 요소별 식별 가능성 보장이 학습된 표현이 단순히 구조적으로 유사한 것을 넘어 개별적으로 복원 가능함을 보장하며, 이는 특정 인과 요인이 필요한 하류 작업에 중요하다고 강조합니다. 워터스타인 기반 모듈의 도입은 부분적으로 공유된 구조의 복잡한 정렬을 미분 가능한 방식으로 처리하는 실용적인 메커니즘을 제공하여, 이론적 식별 가능성과 딥러닝 구현 간의 간극을 해소합니다.