Differentiable Cyclic Causal Discovery Under Unmeasured Confounders

Sintesi Tecnica: Scoperta Causale Ciclica Differenziabile sotto Confonditori Non Misurati

Definizione del Problema
La scoperta causale mira a inferire la struttura del grafo diretto che rappresenta le relazioni causa-effetto tra le variabili. Gli algoritmi esistenti si basano tipicamente su due ipotesi restrittive: (i) il grafo causale sottostante è un Grafo Aciclico Diretto (DAG), e (ii) tutte le variabili sono osservate (assenza di confonditori non misurati). Queste ipotesi sono frequentemente violate in sistemi del mondo reale, in particolare nelle reti biologiche, che esibiscono cicli di feedback (cicli) e confonditori latenti. Mentre alcuni metodi affrontano i cicli e altri i confonditori, pochi gestiscono entrambi simultaneamente, specialmente in contesti non lineari. Inoltre, gli approcci esistenti per grafi ciclici con confonditori spesso assumono la linearità o faticano con la scalabilità. Questo articolo affronta la sfida di apprendere grafi causali ciclici non lineari in presenza di confonditori non misurati utilizzando dati interventistici.

Metodologia: DCCD-CONF
Gli autori propongono DCCD-CONF, un framework differenziabile per l'apprendimento di strutture causali sotto queste complesse condizioni. La metodologia si basa sui seguenti componenti:

1. Modello di Equazione Strutturale (SEM) con Confonditori Latenti:
   Il sistema è modellato utilizzando un Grafo Misto Diretto (DMG) contenente sia archi diretti ($i \to j$) che archi bidirezionali ($i \leftrightarrow j$). Gli archi bidirezionali rappresentano i confonditori nascosti. Gli autori modellano il confondimento non come un nodo di variabile latente separato, ma come correlazioni nei termini di rumore esogeno. Nello specifico, il vettore del rumore $Z$ segue una distribuzione Gaussiana $Z \sim \mathcal{N}(0, \Sigma_Z)$, dove le voci non nulle fuori diagonale della matrice di covarianza $\Sigma_Z$ indicano il confondimento tra le variabili.

2. Meccanismo Causale Differenziabile tramite Flussi Impliciti:
   Per gestire cicli e non linearità, i meccanismi causali sono modellati utilizzando flussi impliciti. Le equazioni strutturali sono definite come $X = F(X, Z)$, dove $F$ è una funzione parametrizzata da reti neurali. Per garantire l'esistenza di un punto fisso unico (equilibrio) e l'invertibilità, gli autori impongono una mappatura contrattiva utilizzando una forma specifica: $F(x, z) = -g_x(x) + g_z(z) + z$, dove $g_x$ e $g_z$ sono funzioni contrattive (imposte tramite normalizzazione spettrale). Ciò consente l'uso di algoritmi di ricerca delle radici (ad es. il metodo di Broyden) per calcolare la mappa diretta $z = f_x(x)$ e la mappa inversa.

3. Dati Interventistici e Grafi Mutilati:
   Il framework utilizza interventi "chirurgici" (hard). Quando un nodo viene oggetto di intervento, tutti gli archi entranti (diretti e bidirezionali) vengono rimossi e il nodo viene impostato su un valore campionato da una distribuzione nota. La verosimiglianza dei dati sotto questi interventi è derivata in base al Jacobiano della mappa diretta.

4. Ottimizzazione e Funzione di Score:
   L'obiettivo di apprendimento è massimizzare la log-verosimiglianza regolarizzata dei dati osservati attraverso molteplici setting interventistici.

   • Struttura del Grafo: La matrice di adiacenza è trattata come una variabile casuale di Bernoulli parametrizzata da una matrice $B$. Viene utilizzata la norma $L_1$ come proxy per la regolarizzazione della sparsità.
   • Determinante del Jacobiano: Il calcolo del log-determinante del Jacobiano è computazionalmente costoso ($O(d^2)$). Gli autori impiegano un stimatore non distorto basato sull'espansione in serie di potenze di $\log(1+x)$, troncata stocasticamente per ridurre il bias, combinata con lo stimatore della traccia di Hutchinson.
   • Distribuzione del Confonditore: La matrice di covarianza $\Sigma_Z$ viene aggiornata risolvendo un problema di ottimizzazione regolarizzato sulla sparsità (formulato come regressione Lasso) per garantire la positività definita e la stabilità.

Contributi Chiave

1. Framework Novello: Introduzione di DCCD-CONF, il primo framework differenziabile capace di apprendere grafi causali ciclici non lineari modellando esplicitamente i confonditori non misurati tramite rumore Gaussiano correlato.
2. Garanzie Teoriche: Gli autori dimostrano che la massimizzazione della proposta funzione di score identifica la classe di equivalenza interventistica del grafo reale sotto specifiche assunzioni (incluse la permanenza dei dati all'interno della classe del modello e le proprietà di $\sigma$-separazione).
3. Efficienza Algoritmica: Sviluppo di una procedura di ottimizzazione scalabile che gestisce le sfide computazionali dei flussi impliciti e dei determinanti del Jacobiano attraverso la stima stocastica e aggiornamenti strutturati per la covarianza del rumore.

Risultati Sperimentali
Il framework è stato valutato su dataset sintetici e del mondo reale:

• Dati Sintetici: DCCD-CONF è stato confrontato con baseline allo stato dell'arte (NODAGS-Flow, LLC, DAGMA, ADMG) attraverso variabili quali numero di confonditori, cicli, grado di non linearità e numero di interventi.
  • Prestazioni: DCCD-CONF ha costantemente ottenuto una Distanza di Hamming Strutturale (SHD) inferiore per il recupero del grafo e punteggi F1 più elevati per l'identificazione dei confonditori rispetto alle baseline, particolarmente in contesti non lineari.
  • Robustezza: Il metodo ha dimostrato robustezza all'aumentare del numero di cicli e confonditori. Ha superato le baseline all'aumentare del numero di interventi, laddove alcune baseline (come LLC) fallivano in contesti puramente osservativi.
  • Scalabilità: Le prestazioni sono rimaste superiori all'aumentare del numero di nodi da 10 a 80.
• Dati del Mondo Reale: Il modello è stato applicato al dataset di perturbazione genica Perturb-CITE-seq (cellule di melanoma in condizioni di controllo, co-coltura e IFN-$\gamma$).
  • Metrica: Poiché il grafo reale non era disponibile, le prestazioni sono state misurate tramite la Log-Verosimiglianza Negativa (NLL) su dati di test tenuti da parte (held-out).
  • Risultato: DCCD-CONF ha ottenuto la NLL più bassa in tutte e tre le condizioni, superando NODAGS, LLC e DCDI, suggerendo una capacità predittiva superiore e un efficace modellamento del confondimento nei sistemi biologici.

Significatività e Rivendicazioni
L'articolo sostiene che DCCD-CONF fornisca una soluzione unificata per un problema precedentemente frammentato, affrontando simultaneamente non linearità, cicli e confonditori latenti. Gli autori affermano che il loro approccio offre garanzie di consistenza teorica e superiorità pratica rispetto ai metodi esistenti, che sono spesso limitati ad assunzioni lineari, strutture acicliche o completa osservabilità. Il lavoro evidenzia la prevalenza dei confonditori nei sistemi reali e dimosta come la presa in conto di tali elementi tramite l'apprendimento differenziabile migliori significativamente l'accuratezza della scoperta causale. Gli autori osservano che, sebbene l'attuale lavoro assuma un rumore esogeno Gaussiano, le direzioni future includono l'esplorazione di altre distribuzioni di rumore, la gestione di dati mancanti e l'allentamento delle assunzioni riguardanti i target di intervento.