Applications of temporal graph learning for predicting the dynamics of biological systems

Sintesi Tecnica: Applicazioni dell'Apprendimento su Grafi Temporali per la Previsione delle Dinamiche dei Sistemi Biologici

Enunciato del Problema
I recenti progressi nei modelli fondazionali biologici (ad esempio scGPT, scFoundation, Geneformer) hanno dimostrato prestazioni elevate nell'apprendimento di rappresentazioni da dati trascrittomici a singola cella utilizzando architetture transformer. Tuttavia, questi approcci operano prevalentemente in contesti statici, non riuscendo a modellare esplicitamente l'evoluzione temporale dei programmi di sviluppo. Questa limitazione è critica nella biologia dello sviluppo, dove gli stati cellulari emergono, si differenziano e si riorganizzano continuamente. Sebbene tecnologie come l'inferenza del pseudotempo e la velocità dell'RNA permettano la ricostruzione di traiettorie ordinate da dati a singola cella asincroni, i metodi esistenti trattano tipicamente gli stati cellulari in modo indipendente o li modellano come istantanee statiche, trascurando la struttura regolatoria evolutiva (Reti di Regolazione Genica, o GRN) che sottende le transizioni dello sviluppo. La sfida fondamentale consiste nel formulare i sistemi biologici dello sviluppo come processi su grafi in evoluzione, adatti all'apprendimento su grafi temporali, permettendo così la previsione di stati biologici futuri oltre la rappresentazione statica.

Metodologia
Gli autori propongono una pipeline che trasforma i dati trascrittomici a singola cella in grafi temporali a tempo discreto per applicare Reti Neurali su Grafi Temporali (TGNN). La metodologia procede come segue:

1. Inferenza della Traiettoria e Discretizzazione: Partendo da matrici di espressione genica a singola cella, le traiettorie di sviluppo vengono inferite utilizzando il Pseudotempo di Diffusione (DPT). Le cellule vengono quindi aggregate in bin temporali (istantanee) in base ai loro valori di pseudotempo. La dimensione del bin viene ottimizzata per bilanciare la risoluzione temporale con la robustezza statistica richiesta per l'inferenza delle GRN (mirando tipicamente a 300–500 cellule per istantanea).
2. Costruzione Temporale delle GRN: Per ogni bin di pseudotempo, viene inferita una Rete di Regolazione Genica (GRN) utilizzando SCENIC. Questo framework combina l'analisi della co-espressione genica con l'arricchimento dei motivi dei fattori di trascrizione per identificare interazioni regolatorie biologicamente significative. Il risultato è un grafo temporale a tempo discreto $G = \{G(1), \dots, G(T)\}$, dove ogni istantanea $G(t)$ contiene:
   • Nodi ($V$): Geni con identità persistenti nel tempo.
   • Archi ($E(t)$): Interazioni regolatorie inferite al tempo $t$.
   • Caratteristiche dei Nodi ($X(t)$): Statistiche aggregate dell'espressione genica (media, mediana, varianza, ecc.) all'interno del bin.
   • Caratteristiche degli Archi: Punteggi di confidenza derivanti dall'inferenza della GRN.
3. Apprendimento su Grafi Temporali: Le TGNN vengono applicate a questa sequenza di grafi per apprendere rappresentazioni temporali dei nodi che catturano sia le dipendenze strutturali all'interno delle istantanee sia le dinamiche temporali tra di esse.
4. Compiti di Previsione: Il framework viene valutato su tre compiti complementari:
   • Previsione dell'Espressione Genica Futura: Prevedere la variazione temporale nell'espressione genica media ($\Delta x$) tra istantanee consecutive.
   • Previsione Futura dei Collegamenti: Stimare la probabilità che le interazioni regolatorie esistano nella prossima istantanea $G(t+1)$.
   • Previsione Futura della Centralità in Uscita: Prevedere l'importanza topologica (grado in uscita) dei geni nelle istantanee future per identificare hub regolatori.

Contributi Chiave e Risultati
Lo studio valuta il framework proposto su due dataset pubblici di sviluppo murino: gastrulazione eritroide ed endocrinogenesi pancreatica. I risultati evidenziano diverse scoperte chiave:

• Superiorità rispetto ai Modelli Fondazionali Statici: Nella previsione dell'espressione genica, i modelli temporali basati su grafi hanno costantemente superato i modelli fondazionali biologici consolidati (scGPT e scFoundation). Ciò suggerisce che la modellazione esplicita della struttura regolatoria in evoluzione fornisce informazioni predittive che le rappresentazioni statiche pre-addestrate da sole non possono catturare.
• Efficacia delle Architetture Spettrali: Le architetture di convoluzione spettrale su grafi, in particolare ChebNet e GCRN-GRU, si sono rivelate le migliori esecutrici in tutti i compiti. Gli autori ipotizzano che queste architetture siano particolarmente adatte alla topologia eterofila e centrata sugli hub delle GRN, dove i fattori di trascrizione agiscono come regolatori centrali connessi a molteplici target. Le convoluzioni spettrali potrebbero propagare efficacemente le informazioni attraverso vicinati multi-hop in queste topologie a forma di stella.
• Dinamiche Temporali nella Previsione dei Collegamenti: Per la previsione dei collegamenti, i modelli temporali (in particolare GCRN-GRU) hanno superato significativamente le baseline statiche (GCN, GAT) e le semplici strategie di memorizzazione (EdgeBank). Ciò indica che i dataset contengono dinamiche temporali non banali oltre alla semplice persistenza degli archi, che le TGNN catturano con successo.
• Rilevanza Biologica della Previsione degli Hub: Il modello ha identificato con successo hub regolatori temporalmente importanti. Nel dataset di gastrulazione eritroide, le traiettorie di centralità previste si sono allineate con programmi biologici noti: le fasi iniziali erano dominate da regolatori proliferativi (ad esempio E2f8, Ran), mentre le fasi successive mostravano una centralità crescente per regolatori eritroidi canonici (ad esempio Klf1, Spi1, Erg).

Significato e Affermazioni
Il paper posiziona l'apprendimento su grafi temporali come un paradigma promettente e complementare agli attuali approcci basati su modelli fondazionali nella biologia a singola cella. Gli autori affermano che:

1. Modellazione Esplicita delle Dinamiche: La riformulazione dei sistemi di sviluppo come grafi in evoluzione permette la modellazione esplicita dei cambiamenti nella struttura regolatoria, offrendo un vantaggio distinto rispetto all'apprendimento di rappresentazioni statiche.
2. Complementarietà: Piuttosto che sostituire i modelli fondazionali, l'apprendimento su grafi temporali offre un'estensione necessaria per compiti che richiedono la previsione dell'evoluzione dinamica dei sistemi, come la progressione dello sviluppo e la traiettoria delle malattie.
3. Fattibilità: Nonostante la natura distruttiva del sequenziamento dell'RNA a singola cella (che impedisce il tracciamento diretto di singole cellule), la ricostruzione computazionale di grafi temporali tramite binning dello pseudotempo è una strategia praticabile per applicare l'apprendimento profondo a sistemi biologici dinamici.

Il lavoro è presentato come "in corso di sviluppo", con gli autori che notano i piani per estendere il benchmark a dataset aggiuntivi, modelli fondazionali più recenti e architetture temporali basate su attenzione più recenti (ad esempio DyGFormer) in lavori futuri.