Sintesi Tecnica: Apprendimento di Strutture Causali Generali con Processi Dinamici Nascosti per l'Analisi Climatica

Definizione del Problema

Comprendere la dinamica climatica richiede di andare oltre l'analisi correlazionale per scoprire i processi causali sottostanti. I sistemi climatici sono caratterizzati da due complessità critiche spesso trascurate dai metodi esistenti:

1. Driver Latenti: Processi atmosferici non osservati (ad es., sistemi di pressione, driver delle precipitazioni) influenzano significativamente le variabili osservate (ad es., temperatura) ed evolvono stocasticamente con dipendenze sia istantanee che ritardate nel tempo.
2. Causalità Osservabile-Osservabile: Variabili osservate geograficamente prossime esibiscono influenze causali dirette (ad es., trasferimento di calore tra regioni) insieme all'influenza dei driver latenti.

Il Causal Representation Learning (CRL) tradizionale si concentra sul recupero di fattori latenti ma tipicamente assume una generazione priva di rumore e invertibile dallo spazio latente a quello osservato, ignorando le relazioni causali osservabile-osservabile. Al contrario, i metodi di Causal Discovery (CD) spesso si affidano ad assunzioni parametriche o falliscono nell'identificare le variabili latenti e le loro interrelazioni in presenza di confondimento. Il documento affronta la necessità di un framework unificato capace di recuperare congiuntamente (i) il processo dinamico latente e (ii) la struttura causale tra le variabili osservate in un contesto non parametrico con rumore stocastico.

Metodologia: CaDRe

Gli autori propongono CaDRe (Causal Discovery and Representation learning), un modello generativo per serie temporali basato su un Variational AutoEncoder (VAE) a stato spaziale che integra CRL e causal discovery.

1. Fondazione Teorica

Il framework stabilisce garanzie di identificabilità sotto specifiche assunzioni:

• Recupero dello Spazio Latente (Teorema 3.2): Sfruttando le informazioni contestuali da passi temporali adiacenti ($x_{t-1}, x_t, x_{t+1}$), il modello dimostra che lo spazio latente $z_t$ è identificabile a livello di valore (fino a una trasformazione differenziabile invertibile $h_z$), anche con osservazioni rumorose. Ciò si basa sull'iniettività degli operatori di trasformazione distributiva e sull'assunzione di "drift latente" (stati latenti distinti inducono distribuzioni condizionali delle osservazioni distinte).
• Equivalenza SEM-ICA (Teorema 3.5): Il documento stabilisce un'equivalenza funzionale tra il Modello di Equazione Strutturale (SEM) che governa il sistema climatico e la Nonlinear Independent Component Analysis (ICA). Nello specifico, lo Jacobiano della struttura di mixing ($J_m$) e lo Jacobiano del grafo causale osservato ($J_g$) soddisfano la relazione:
  $$J_g(x_t)J_m(s_t) = J_m(s_t) - D_m(s_t)$$
  dove $D_m$ è una matrice diagonale. Ciò consente di derivare direttamente il grafo causale sulle osservazioni dalla struttura di mixing.
• Identificabilità del Grafo Causale (Teorema 3.6): In condizioni di variabilità di generazione (cambiamenti sufficienti nel processo di generazione) e fedeltà funzionale, il grafo causale sulle variabili osservate è identificabile.

2. Framework di Stima

CaDRe istanzia queste teorie utilizzando un'architettura VAE con i seguenti componenti:

• Encoder: Un encoder-$z$ estrae le variabili latenti ($\hat{z}_t$), e un encoder-$s$ estrae il rumore non stazionario ($\hat{s}_t$) dipendente da $z_t$.
• Decoder: Ricostruisce le osservazioni $\hat{x}_t$ da $\hat{z}_t$ e $\hat{s}_t$.
• Reti Prior: Utilizza i normalizing flows per modellare la transizione delle variabili latenti ($z_{t-1} \to z_t$) e il mixing del rumore. Le funzioni di transizione inversa apprendibili identificano quali variabili latenti influenzano causalmente altre.
• Funzione di Perdita: Il modello ottimizza una Evidence Lower Bound (ELBO) aumentata da penalità strutturali:
  $$L_{ALL} = L_{ELBO} + \alpha L_s + \beta L_d$$
  • $L_s$: Penalità di sparsità sulle matrici Jacobiane delle transizioni latenti e del mixing osservato per imporre strutture causali sparse.
  • $L_d$: Vincoli DAG (basati sulla traccia delle potenze della matrice) per garantire l'aciclicità sia nel grafo causale osservato che nell'istantaneo grafo causale latente.

Contributi Chiave

1. Framework Unificato: Un approccio innovativo che recupera simultaneamente i processi dinamici latenti e i grafi causali tra le variabili osservate, affrontando una lacuna dove i precedenti metodi CRL ignoravano la causalità osservabile e i metodi CD ignoravano i confonditori latenti.
2. Identificabilità Non Parametrica: Dimostrazioni teoriche che entrambi lo spazio latente e la struttura causale sono identificabili dai dati di serie temporali senza assumere una generazione priva di rumore o forme parametriche specifiche (ad es., lineari o con rumore additivo).
3. Algoritmo CaDRe: Un'implementazione pratica utilizzando prior basati su flow e penalità strutturali basate su gradiente per apprendere componenti indipendenti e dipendenze causali.
4. Insight Climatici: Applicazione a dati climatici reali che produce grafi causali interpretabili in linea con l'esperienza del dominio (ad es., pattern di vento, accoppiamento terra-atmosfera).

Risultati Sperimentali

Dati Sintetici

• Recupero Latente: CaDRe supera i baseline di CRL allo stato dell'arte (es., iCITRIS, G-CaRL, TDRL) nel recupero delle rappresentazioni latenti, ottenendo alti punteggi MCC e $R^2$ in setting latenti indipendenti, sparsi e densi.
• Causal Discovery: Il metodo supera significativamente i metodi di CD basati su vincoli (FCI, PCMCI, CD-NOD) nel recupero dei grafi causali, particolarmente in presenza di confonditori latenti e dipendenze non lineari. Ottiene un Structural Hamming Distance (SHD) inferiore e una Precision/Recall più elevata.

Dati Climatici Reali

• Forecasting: Su dataset come CESM2, Weather ed ERSST, CaDRe raggiunge un'accuratezza di previsione competitiva o superiore (MSE/MAE) rispetto ad avanzati modelli di serie temporali (es., iTransformer, TimesNet, Autoformer), suggerendo che l'apprendimento del processo causale sottostante migliora la capacità predittiva.
• Causal Discovery: Utilizzando la direzione del vento come surrogato della verità fondamentale (ground truth), CaDRe recupera grafi causali che si allineano strettamente con i pattern fisici del vento (misurati tramite Wind-SHD e Wind-TPR), superando i baseline neurali e basati su vincoli.
• Interpretabilità: Le variabili latenti e i grafi causali recuperati forniscono interpretazioni fisiche coerenti con fenomeni noti (ad es., associazioni delle precipitazioni con la radiazione solare, flussi verso ovest negli oceani equatoriali).

Significato e Rivendicazioni

Il documento sostiene di far progredire la comprensione causale della dinamica climatica fornendo un framework unificato che connette le forze motrici latenti con le interazioni causali dirette tra le variabili osservate. La sua importanza risiede in:

• Rigore Teorico: Stabilire garanzie di identificabilità non parametrica per il recupero congiunto della dinamica latente e dei grafi causali, un setting precedentemente considerato intrattabile a causa dell'assunzione "noise-free" nel CRL e dell'assunzione "fully observed" nel CD.
• Utilità Scientifica: Offrire insight interpretabili sui sistemi climatici che completano le prevalenti pipeline di deep learning basate sulla correlazione. Le strutture recuperate si allineano con la conoscenza fisica stabilita (ad es., sistemi di vento, accoppiamento terra-atmosfera), potenzialmente ispirando nuove ipotesi nella scienza del clima.
• Efficienza Pratica: Il modello raggiunge una bassa latenza attraverso la generazione in un singolo step, rendendolo adatto a contesti reali ad alta dimensionalità.

Gli autori notano limitazioni, specificamente che l'attuale framework cattura archi contemporanei piuttosto che ritardati (lagged) tra le variabili osservate e che è stato valutato principalmente su dati climatici. Si suggerisce come lavoro futuro l'estensione del framework ad altri domini e l'incorporazione di relazioni causali ritardate tra le osservazioni.