Applications of temporal graph learning for predicting the dynamics of biological systems

Resumen Técnico: Aplicaciones del Aprendizaje de Grafos Temporales para Predecir la Dinámica de Sistemas Biológicos

Enunciado del Problema
Los avances recientes en modelos fundacionales biológicos (por ejemplo, scGPT, scFoundation, Geneformer) han demostrado un rendimiento sólido en el aprendizaje de representaciones a partir de datos transcriptómicos de células individuales utilizando arquitecturas de transformadores. Sin embargo, estos enfoques operan predominantemente en entornos estáticos, fallando en modelar explícitamente la evolución temporal de los programas de desarrollo. Esta limitación es crítica en la biología del desarrollo, donde los estados celulares emergen, se diferencian y se reorganizan continuamente. Si bien tecnologías como la inferencia de pseudotiempo y la velocidad de ARN permiten la reconstrucción de trayectorias ordenadas a partir de datos de células individuales asincrónicos, los métodos existentes suelen tratar los estados celulares de forma independiente o modelarlos como instantáneas estáticas, descuidando la estructura regulatoria evolutiva (Redes de Regulación Génica, o GRN) que sustenta las transiciones del desarrollo. El desafío central consiste en formular los sistemas biológicos del desarrollo como procesos de grafos evolutivos adecuados para el aprendizaje de grafos temporales, permitiendo así la predicción de estados biológicos futuros más allá de la representación estática.

Metodología
Los autores proponen una tubería que transforma datos transcriptómicos de células individuales en grafos temporales de tiempo discreto para aplicar Redes Neuronales de Grafos Temporales (TGNN). La metodología procede de la siguiente manera:

1. Inferencia y Discretización de Trayectorias: Partiendo de matrices de expresión génica de células individuales, se infieren trayectorias de desarrollo utilizando Pseudotiempo de Difusión (DPT). Las células se agrupan luego en intervalos temporales (instantáneas) basados en sus valores de pseudotiempo. El tamaño del intervalo se optimiza para equilibrar la resolución temporal con la robustez estadística requerida para la inferencia de GRN (apuntando típicamente a 300–500 células por instantánea).
2. Construcción Temporal de GRN: Para cada intervalo de pseudotiempo, se infiere una Red de Regulación Génica (GRN) utilizando SCENIC. Este marco combina el análisis de co-expresión génica con la enriquecimiento de motivos de factores de transcripción para identificar interacciones regulatorias biológicamente significativas. El resultado es un grafo temporal de tiempo discreto $G = \{G(1), \dots, G(T)\}$, donde cada instantánea $G(t)$ contiene:
   • Nodos ($V$): Genes con identidades persistentes a lo largo del tiempo.
   • Aristas ($E(t)$): Interacciones regulatorias inferidas en el tiempo $t$.
   • Características de Nodos ($X(t)$): Estadísticas de expresión génica agregadas (media, mediana, varianza, etc.) dentro del intervalo.
   • Características de Aristas: Puntuaciones de confianza derivadas de la inferencia de GRN.
3. Aprendizaje de Grafos Temporales: Se aplican TGNN a esta secuencia de grafos para aprender representaciones de nodos temporales que capturen tanto las dependencias estructurales dentro de las instantáneas como la dinámica temporal entre ellas.
4. Tareas de Pronóstico: El marco se evalúa en tres tareas complementarias:
   • Pronóstico Futuro de Expresión Génica: Predecir la variación temporal en la expresión génica media ($\Delta x$) entre instantáneas consecutivas.
   • Predicción Futura de Enlaces: Estimar la probabilidad de que existan interacciones regulatorias en la siguiente instantánea $G(t+1)$.
   • Predicción Futura de Centralidad de Grado de Salida: Pronosticar la importancia topológica (grado de salida) de los genes en instantáneas futuras para identificar centros de regulación.

Contribuciones y Resultados Clave
El estudio evalúa el marco propuesto en dos conjuntos de datos de desarrollo de ratón disponibles públicamente: gastrulación eritroide y endocrinogénesis pancreática. Los resultados destacan varios hallazgos clave:

• Superioridad sobre Modelos Fundacionales Estáticos: En el pronóstico de expresión génica, los modelos temporales basados en grafos superaron consistentemente a los modelos fundacionales biológicos establecidos (scGPT y scFoundation). Esto sugiere que modelar explícitamente la estructura regulatoria evolutiva proporciona información predictiva que las representaciones estáticas preentrenadas por sí solas no pueden capturar.
• Eficacia de Arquitecturas Espectrales: Las arquitecturas de convolución de grafos espectrales, específicamente ChebNet y GCRN-GRU, surgieron como las de mejor rendimiento en todas las tareas. Los autores hipotetizan que estas arquitecturas son particularmente adecuadas para la topología heterofílica y centrada en hubs de las GRN, donde los factores de transcripción actúan como reguladores centrales conectados a múltiples objetivos. Las convoluciones espectrales pueden propagar eficazmente la información a través de vecindades de múltiples saltos en estas topologías tipo estrella.
• Dinámica Temporal en la Predicción de Enlaces: Para la predicción de enlaces, los modelos temporales (particularmente GCRN-GRU) superaron significativamente a las líneas base estáticas (GCN, GAT) y a estrategias simples de memorización (EdgeBank). Esto indica que los conjuntos de datos contienen dinámicas temporales no triviales más allá de la simple persistencia de aristas, las cuales son capturadas con éxito por las TGNN.
• Relevancia Biológica del Pronóstico de Hubs: El modelo identificó con éxito centros de regulación temporalmente importantes. En el conjunto de datos de gastrulación eritroide, las trayectorias de centralidad predichas se alinearon con programas biológicos conocidos: las etapas tempranas estuvieron dominadas por reguladores proliferativos (por ejemplo, E2f8, Ran), mientras que las etapas posteriores mostraron una centralidad creciente para reguladores eritroides canónicos (por ejemplo, Klf1, Spi1, Erg).

Significado y Afirmaciones
El artículo posiciona el aprendizaje de grafos temporales como un paradigma prometedor y complementario a los enfoques actuales de modelos fundacionales en la biología de células individuales. Los autores afirman que:

1. Modelado Explícito de Dinámicas: Reformular los sistemas de desarrollo como grafos evolutivos permite el modelado explícito de cambios en la estructura regulatoria, ofreciendo una ventaja distinta sobre el aprendizaje de representaciones estáticas.
2. Complementariedad: En lugar de reemplazar los modelos fundacionales, el aprendizaje de grafos temporales ofrece una extensión necesaria para tareas que requieren la predicción de la evolución dinámica del sistema, como la progresión del desarrollo y la trayectoria de enfermedades.
3. Viabilidad: A pesar de la naturaleza destructiva de la secuenciación de ARN de células individuales (que impide el seguimiento directo de células individuales), la reconstrucción computacional de grafos temporales mediante la agrupación de pseudotiempo es una estrategia viable para aplicar aprendizaje profundo a sistemas biológicos dinámicos.

El trabajo se presenta como un "trabajo en progreso", con los autores señalando planes para extender la evaluación comparativa a conjuntos de datos adicionales, modelos fundacionales más recientes y arquitecturas temporales basadas en atención más recientes (por ejemplo, DyGFormer) en trabajos futuros.