Causal Discovery on Dependent Mixed Data with Applications to Gene Regulatory Network Inference

1. Il Problema

La scoperta causale mira a inferire le relazioni causali tra variabili a partire da dati osservazionali, solitamente rappresentate tramite un Grafo Aciclico Diretto (DAG). Tuttavia, i metodi esistenti affrontano due limitazioni critiche quando applicati a scenari moderni:

1. Violazione dell'indipendenza i.i.d.: La maggior parte degli algoritmi assume che le osservazioni (unità) siano indipendenti e identicamente distribuite (i.i.d.). In applicazioni reali (es. reti sociali, dati genomici), le unità sono spesso correlate (es. cellule della stessa linea cellulare, individui connessi socialmente), violando questa assunzione e portando a stime causali errate.
2. Dati Misti: Molti dataset contengono una miscela di variabili continue (es. livelli di espressione genica) e discrete (es. stati binari o categorici). Modellare la dipendenza tra campioni in presenza di dati misti è complesso, poiché non è immediato introdurre dipendenze nei dati discreti tra diverse unità.

L'obiettivo specifico del paper è inferire le Reti di Regolazione Genica (GRN) dai dati di sequenziamento dell'RNA a singola cellula (scRNA-seq), dove le cellule mostrano dipendenze intrinseche (lineage, effetti batch) e i dati sono spesso discretizzati o continui.

2. Metodologia Proposta

Gli autori propongono un framework di de-correlazione basato su un modello a variabili latenti che gestisce simultaneamente dati misti e dipendenze tra campioni.

A. Modello Statistico (SEM a Variabili Latenti)

Il modello generalizza le Equazioni Strutturali (SEM) per dati misti con dipendenza tra unità:

• Variabili Latenti: Si introduce un insieme di variabili latenti continue $Z = \{z_{ij}\}$.
  • Per le variabili continue osservate $X_j$, $x_{ij} = z_{ij}$.
  • Per le variabili discrete $X_j$ (con $C_j$ livelli), il valore osservato è determinato da una mappatura di quantizzazione $Q(z_{ij})$ basata su soglie $T_j$ applicate alla variabile latente $z_{ij}$.
• Equazione Strutturale: La variabile latente segue un modello lineare:
  $$z_{ij} = \sum_{k \in PA_j} \beta_{kj} x_{ik} + \varepsilon_{ij}$$
  dove $PA_j$ sono i genitori di $j$ nel DAG e $\beta$ sono i coefficienti causali.
• Dipendenza tra Campioni: Il termine di errore $\varepsilon_j = (\varepsilon_{1j}, \dots, \varepsilon_{nj})^\top$ segue una distribuzione normale multivariata $N_n(0, \Sigma)$. La matrice di covarianza $\Sigma$ (con diagonale fissata a 1) cattura le dipendenze tra le unità (es. cellule correlate), rendendo gli errori correlati tra le righe del dataset.

B. Fase di Pre-stima

Prima della de-correlazione, si stimano i parametri iniziali:

1. Stima delle Soglie ($T$) e Coefficienti ($\beta$): Si utilizza un algoritmo di ascesa del gradiente a blocchi (Coordinate Ascent) massimizzando la verosimiglianza dei dati discreti, assumendo inizialmente $\Sigma = I_n$. Per gestire l'integrale complesso sulle distribuzioni troncate, si usa un algoritmo EM semplificato.
2. Stima della Covarianza ($\Sigma$): Si stima la struttura di dipendenza tra le unità utilizzando un Massimo Verosimiglianza a Coppie (Pairwise MLE). Si assume una struttura a blocchi diagonali per $\Sigma$ (raggruppando unità correlate), stimando le correlazioni $\rho_{ab}$ tra coppie di unità integrando sia variabili continue che discrete.

C. Fase di De-correlazione e Recupero Latente

Una volta stimati $\hat{\Sigma}$ e $\hat{T}$, si procede alla rimozione della dipendenza:

1. Fattorizzazione di Cholesky: Si calcola la matrice di precisione $\Theta = \Sigma^{-1}$ e il suo fattore di Cholesky $L$ tale che $\Theta = LL^\top$.
2. Imputazione dei Dati Latenti (per variabili discrete): Poiché i dati discreti non possono essere trasformati direttamente, si utilizza un algoritmo EM:
   • E-step: Si imputano i valori latenti continui $Z_j$ campionando da una distribuzione normale multivariata troncata, condizionata ai dati osservati e ai parametri correnti.
   • M-step: Si aggiornano i coefficienti $\beta$ regressando i dati latenti de-correlati sui genitori.
3. Trasformazione: Si applica la trasformazione $L^\top$ ai dati latenti recuperati (sia continui che imputati): $\tilde{Z} = L^\top Z$. Questa operazione trasforma gli errori correlati in errori indipendenti ($\tilde{\varepsilon} \sim N(0, I)$).

D. Apprendimento della Struttura

Sui dati de-correlati $\tilde{Z}$ (ora continui e approssimativamente i.i.d.), si possono applicare qualsiasi algoritmo standard di scoperta causale (es. PC, MMHC, Copula-PC).

• Strategie di Aggregazione: Per ridurre la variabilità dovuta all'imputazione Monte Carlo, si propongono due approcci:
  • Consensus: Si eseguono multiple iterazioni di apprendimento su dataset de-correlati diversi e si mantiene un arco solo se appare in almeno il 50% dei grafi stimati.
  • Average: Si media il dataset de-correlato e si esegue un'unica stima.

3. Contributi Chiave

1. Generalizzazione del Framework: Estensione del framework di de-correlazione (precedentemente limitato a dati continui o binari) a dati misti continui-discreti generici.
2. Modellazione della Dipendenza: Introduzione di un modello SEM con variabili latenti che gestisce esplicitamente la correlazione tra campioni attraverso una matrice di covarianza degli errori, senza richiedere la conoscenza a priori della rete di dipendenza tra unità.
3. Applicazione a scRNA-seq: Applicazione pratica all'inferenza di reti di regolazione genica da dati a singola cellula, un dominio dove la dipendenza tra cellule è onnipresente e critica.
4. Validazione Robusta: Sviluppo di una misura di stabilità tramite bootstrap per quantificare l'incertezza delle interazioni inferite.

4. Risultati Sperimentali

Studi di Simulazione

• Setup: Dati generati da DAG casuali e reali (repository bnlearn) con strutture di covarianza a blocchi (Equal e Toeplitz) e variabili miste.
• Risultati: Il metodo proposto (sia approccio Consensus che Average) ha mostrato un miglioramento sostanziale nel recupero del grafo causale (misurato tramite F1-score) rispetto all'applicazione diretta di algoritmi standard sui dati originali dipendenti.
• Robustezza: Il metodo è risultato particolarmente efficace in scenari ad alta dimensionalità ($p > n$) e quando la stima della covarianza è accurata. L'approccio Consensus ha generalmente ottenuto le prestazioni migliori.

Applicazione Reale: Dati scRNA-seq (Chu et al., 2016)

• Dataset: 859 cellule staminali embrionali umane in diverse fasi di differenziazione, con 51 geni marker.
• Pre-processing: Classificazione delle variabili come continue o discrete basata su test di normalità e criteri BIC. Identificazione di blocchi di cellule correlate tramite clustering gerarchico.
• Valutazione: Confronto tramite validazione incrociata (10-fold) utilizzando la verosimiglianza logaritmica normalizzata sui dati di test.
  • Il metodo Consensus (con de-correlazione) ha ottenuto una verosimiglianza significativamente superiore rispetto al Baseline (MMHC su dati misti originali) e al Consensus-Ident (senza de-correlazione, $\Sigma=I$).
  • Questo conferma che modellare esplicitamente la dipendenza tra cellule migliora l'adattamento del modello.
• Validazione Biologica: Le interazioni ad alta confidenza identificate (es. $POU5F1 \leftrightarrow NANOG$, $NODAL \leftrightarrow LEFTY1$) sono supportate da letteratura biologica consolidata, dimostrando l'efficacia del metodo nel recuperare relazioni causali reali.

5. Significato e Conclusioni

Il lavoro dimostra che la scoperta causale su dati dipendenti non richiede necessariamente la riscrittura degli algoritmi di apprendimento della struttura. Invece, è possibile trasformare i dati a monte (pre-processing) per rimuovere le dipendenze tra unità, rendendo applicabili i metodi standard.

• Impatto Scientifico: Fornisce un approccio rigoroso per analizzare dati complessi e misti (tipici della biologia moderna e delle scienze sociali) dove l'assunzione i.i.d. fallisce.
• Impatto Pratico: Migliora l'affidabilità delle reti di regolazione genica inferite, cruciali per la comprensione dei meccanismi di differenziazione cellulare e lo sviluppo di terapie.
• Lavori Futuri: Gli autori suggeriscono l'estensione del framework a modelli non lineari e l'integrazione di dati interventistici o conoscenze causali a priori.

In sintesi, il paper offre una soluzione tecnica solida per un problema diffuso nell'analisi dei dati moderni, combinando modellazione statistica avanzata (variabili latenti, EM, de-correlazione) con applicazioni biologiche di alto impatto.