기술 요약: 기후 분석을 위한 숨겨진 동적 프로세스를 이용한 일반적 인과 구조 학습

문제 정의

기후 역학을 이해하기 위해서는 상관관계 분석을 넘어 근저에 있는 인과적 과정을 밝혀내야 합니다. 기후 시스템은 기존 방법론들이 간과해 온 두 가지 핵심적인 복잡성을 특징으로 합니다:

1. 잠재적 동인 (Latent Drivers): 관측되지 않은 대기 과정(예: 기압계, 강수 유인 요인)은 관측된 변수(예: 온도)에 상당한 영향을 미치며, 즉각적 및 시차 의존성을 가진 확률적으로 진화합니다.
2. 관측 변수 간 인과관계 (Observable-to-Observable Causality): 지리적으로 인접한 관측 변수들은 잠재적 동인의 영향뿐만 아니라 직접적인 인과적 영향(예: 지역 간 열 전달)을 주고받습니다.

전통적인 **인과 표현 학습 (Causal Representation Learning, CRL)**은 잠재 요인을 복구하는 데 집중하지만, 일반적으로 잠재 공간에서 관측 공간으로의 노이즈 없는 가역적 생성을 가정하며, 관측 변수 간의 인과 관계는 무시합니다. 반대로, 인과 발견 (Causal Discovery, CD) 방법론은 매개변수적 가정에 의존하거나 혼란 변수(confounding)가 존재하는 상황에서 잠재 변수와 그 상호 관계를 식별하는 데 실패하곤 합니다. 본 논문은 (i) 잠재 동적 프로세스와 (ii) 관측 변수 간의 인과 구조를 비매개변수적 설정 및 확률적 노이즈 환경에서 공동으로 복구할 수 있는 통합 프레임워크의 필요성을 다룹니다.

방법론: CaDRe

저자들은 CRL과 인과 발견을 통합한 상태 공간 변분 오토인코더(state-space VAE) 기반의 시계열 생성 모델인 CaDRe를 제안합니다.

1. 이론적 토대

본 프레임워크는 특정 가정하에 식별 가능성(identifiability) 보증을 확립합니다:

• 잠재 공간 복구 (정리 3.2): 인접한 시점의 문맥 정보($x_{t-1}, x_t, x_{t+1}$)를 활용함으로써, 모델은 노이즈가 있는 관측값에서도 잠재 변수 $z_t$가 (가역 미분 가능한 변환 $h_z$까지) 값 수준에서 식별 가능함을 증명합니다. 이는 분포 변환 연산자의 단사성(injectivity)과 "잠재 드리프트(latent drift)" 가정(서로 다른 잠재 상태가 관측값의 서로 다른 조건부 분포를 유도함)에 기초합니다.
• SEM-ICA 등가성 (정리 3.5): 본 논문은 기후 시스템을 지배하는 구조 방정식 모델(SEM)과 비선형 독립 성분 분석(Nonlinear ICA) 사이의 기능적 등가성을 확립합니다. 구체적으로, 혼합 구조의 야코비안($J_m$)과 관측된 인과 그래프의 야코비안($J_g$)은 다음 관계를 만족합니다:
  $$J_g(x_t)J_m(s_t) = J_m(s_t) - D_m(s_t)$$
  여기서 $D_m$은 대각 행렬입니다. 이를 통해 관측값에 대한 인과 그래프를 혼합 구조로부터 직접 도출할 수 있습니다.
• 인과 그래프 식별 가능성 (정리 3.6): 생성 과정의 가변성(generation variability)과 함수적 충실성(functional faithfulness) 조건 하에서, 관측 변수에 대한 인과 그래프는 식별 가능합니다.

2. 추정 프레임워크

CaD-Re는 다음과 같은 구성 요소를 갖춘 VAE 아키텍처를 통해 이러한 이론들을 구현합니다:

• 인코더 (Encoders): $z$-인코더는 잠재 변수($\hat{z}_t$)를 추출하고, $s$-인코더는 $z_t$에 의존하는 비정상 노이즈($\hat{s}_t$)를 추출합니다.
• 디코더 (Decoder): $\hat{z}_t$와 $\hat{s}_t$로부터 관측값 $\hat{x}_t$를 재구성합니다.
• 사전 네트워크 (Prior Networks): 정규화 흐름(normalizing flows)을 사용하여 잠재 변수의 전이($z_{t-1} \to z_t$)와 노이즈의 혼합을 모델링합니다. 학습 가능한 역전이 함수를 통해 어떤 잠재 변수가 서로 인과적으로 영향을 미치는지 식별합니다.
• 손실 함수 (Loss Function): 모델은 구조적 페널티가 추가된 증거 하한(ELBO)을 최적화합니다:
  $$L_{ALL} = L_{ELBO} + \alpha L_s + \beta L_d$$
  • $L_s$: 희소한 인과 구조를 강제하기 위해 잠재 전이 및 관측 혼합의 야코비안 행렬에 적용되는 희소성 페널티입니다.
  • $L_d$: 관측된 인과 그래프와 즉각적인 잠재 인과 그래프 모두에서 비순환성(acyclicity)을 보장하기 위한 DAG 제약 조건(행렬 거듭제곱의 트레이스 기반)입니다.

주요 기여

1. 통합 프레임워크: 기존 CRL 방법론이 관측 인과 관계를 무시하고 CD 방법론이 잠재 혼란 변수를 무시했던 격차를 해소하며, 잠재 동적 프로세스와 관측 변수 간의 인과 그래프를 동시에 복구하는 새로운 접근 방식을 제시합니다.
2. 비매개변수적 식별 가능성: 노이즈 없는 생성을 가정하는 CRL의 "노이즈 프리" 가정이나 특정 매개변수 형태(예: 선형 또는 가법 노이즈)를 가정하지 않고도, 시계열 데이터로부터 잠재 역학과 인과 구조를 모두 식별할 수 있음을 입증하는 이론적 증명을 제공합니다.
3. CaDRe 알고리즘: 흐름 기반 사전 확률(flow-based priors)과 경사 기반 구조 페널티를 사용하여 독립 성분과 인과적 의존성을 학습하는 실질적인 구현체를 제공합니다.
4. 기후 통찰력: 실제 기후 데이터에 적용하여 도메인 전문 지식(예: 바람 패턴, 육지-대기 결합)과 일치하는 해석 가능한 인과 그래프를 도출합니다.

실험 결과

합성 데이터 (Synthetic Data)

• 잠재 복구: CaDRe는 최신 CRL 베이스라인(예: iCITRIS, G-CaRL, TDRL)보다 잠재 표현 복구 성능이 뛰어나며, 독립적, 희소, 밀집된 잠재 설정 모두에서 높은 MCC 및 $R^2$ 점수를 달이트합니다.
• 인과 발견: CaDRe는 제약 기반 CD 방법론(FCI, PCMCI, CD-NOD)보다 인과 그래프 복구 성능이 현저히 높으며, 특히 잠재 혼란 변수와 비선형 의존성이 존재하는 상황에서 탁월한 성능을 보입니다. 이는 더 낮은 구조적 해밍 거리(SHD)와 높은 정밀도/재현율(Precision/Recall)로 나타납니다.

실제 기후 데이터 (Real-World Climate Data)

• 예측: CESM2, Weather, ERSST와 같은 데이터셋에서 CaDRe는 고급 시계열 모델(예: iTransformer, TimesNet, Autoformer)과 비교하여 경쟁력 있거나 우수한 예측 정확도(MSE/MAE)를 달성했습니다. 이는 근저의 인과 과정을 학습하는 것이 예측 능력을 향상시킨다는 것을 시사합니다.
• 인과 발견: 풍향을 참값(ground truth)의 대리 지표로 사용하여, CaDRe는 물리적 바람 패턴과 밀접하게 일치하는 인과 그래프를 복구하며, 신경망 및 제약 기반 베이스라인을 능가합니다(Wind-SHD 및 Wind-TPR 기준).
• 해석 가능성: 복구된 잠재 변수와 인과 그래프는 알려진 현상(예: 태양 복사와 연관된 강수, 적도 해양의 서향 흐름)과 일치하는 물리적 해석을 제공합니다.

의의 및 주장

본 논문은 잠재적 구동력과 관측 변수 간의 직접적인 인과적 상호작용을 연결하는 통합 프레임워크를 제공함으로써 기후 역학의 인과적 이해를 진전시킨다고 주장합니다. 본 연구의 의의는 다음과 같습니다:

• 이론적 엄밀성: CRL의 "노이즈 프리" 가정과 CD의 "완전 관측" 가정이 충돌하는 영역에서, 잠재 역학과 인과 그래프를 공동으로 복구하기 위한 비매개변수적 식별 가능성 보증을 확립했습니다.
• 과학적 유용성: 상관관계 기반의 딥러닝 파이프라인을 보완하는 해석 가능한 통찰력을 제공합니다. 복구된 구조는 물리적 지식(예: 바람 체계, 육지-대기 결합)과 일치하며, 이는 기후 과학의 새로운 가설 수립을 자극할 수 있습니다.
• 실용적 효율성: 1단계 생성(one-step generation)을 통해 낮은 지연 시간을 달로하며, 고차원 실제 환경에 적합합니다.

저자들은 현재 프래임워크가 관측 변수 간의 시차(lagged) 관계보다는 동시적(contemporaneous) 에지를 포착한다는 점과 주로 기후 데이터에 대해 평가되었다는 한계점을 언급했습니다. 향후 연구에서는 이 프레임워크를 다른 도메인으로 확장하고 관측값 간의 시차 인과 관계를 포함하는 방향을 제시했습니다.