🧬 biology

Scalable Single-Cell Gene Expression Generation with Latent Diffusion Models

Este artículo presenta scLDM, un modelo de difusión latente escalable que aprovecha un Bloque de Atención Cruzada Multicabeza invariante a la permutación y Transformadores de Difusión para generar perfiles de expresión génica de célula única realistas y de alta calidad, respetando al mismo tiempo la propiedad de intercambiabilidad fundamental de los datos.

Autores originales: Giovanni Palla, Sudarshan Babu, Payam Dibaeinia, James D. Pearce, Donghui Li, Aly A. Khan, Theofanis Karaletsos, Jakub M. Tomczak

Publicado 2026-06-03

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Giovanni Palla, Sudarshan Babu, Payam Dibaeinia, James D. Pearce, Donghui Li, Aly A. Khan, Theofanis Karaletsos, Jakub M. Tomczak

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Esta es una explicación generada por IA de un preprint que no ha sido revisado por pares. No es consejo médico. No tome decisiones de salud basándose en este contenido. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñar a una computadora a entender la "personalidad" de una sola célula. En biología, la personalidad de una célula está escrita en su expresión génica: una lista masiva de números que muestra qué tan activos están miles de genes diferentes.

El problema es que esta lista es desordenada. Es como una lista de compras donde el orden de los artículos no importa (puedes listar "leche" antes que "huevos" o viceversa, y sigue siendo la misma lista), pero la mayoría de los programas informáticos insisten en un orden estricto. Además, la lista está llena de ceros (genes que no están activos) y los números son conteos enteros, no decimales fluidos.

El artículo presenta un nuevo modelo de IA llamado scLDM (Modelo de Difusión Latente de célula única) que resuelve estos problemas. Así es como funciona, utilizando analogías sencillas:

1. El "Chef Indiferente" (Manejo del Orden)

La mayoría de los modelos de IA tratan los genes como una oración donde el orden de las palabras importa. Si cambias "gato" por "perro", el significado cambia. Pero en una célula, cambiar el orden de los genes no cambia su identidad.

La forma antigua: Imagina a un chef que insiste en que listes los ingredientes en un orden específico (Manzanas, luego Bananas, luego Cerezas). Si le das Cerezas, luego Manzanas, se confunde o falla.
La forma de scLDM: Este modelo es como un chef al que no le importa el orden. Solo mira el conjunto de ingredientes. Ya sea que le entregues la lista como "Manzanas, Bananas" o "Bananas, Manzanas", entiende que es la misma receta. Utiliza una herramienta especial llamada Bloque de Atención Cruzada de Cabezales Múltiples para mezclar los ingredientes sin preocuparse por cuál vino primero.

2. El "Boceto Comprimido" (El Espacio Latente)

Las células tienen miles de genes, lo cual es demasiada información para que una computadora la procese toda a la vez de manera eficiente.

La analogía: Imagina intentar memorizar una enciclopedia de 10,000 páginas. En su lugar, creas un "boceto comprimido" o una nota de resumen que captura la esencia del libro.
Cómo funciona: El scLDM primero lee la lista de genes de la célula y la comprime en un pequeño "token de resumen" (la variable latente). No importa si la lista original tenía 10 genes o 10,000; el resumen siempre tiene el mismo tamaño. Esto hace que el modelo sea escalable (puede manejar conjuntos de datos enormes sin colapsar).

3. El "Artista de la Denotación" (Difusión)

Una vez que el modelo tiene el "boceto de resumen", necesita generar nuevas células realistas.

La analogía: Imagina una escultura hecha de arcilla.
- Modelos antiguos: Intentaban construir la escultura desde cero, lo que a menudo resultaba en formas deformes y poco realistas.
- scLDM (Difusión): Comienza con un bloque de ruido puro y caótico (como la estática de un televisor viejo). Luego, va "eliminando el ruido" de este bloque, paso a paso, refinando la estática hasta convertirla en una escultura perfecta y realista.
- El giro: En lugar de hacer esto sobre los datos de genes brutos y desordenados (lo cual es lento y difícil), realiza la "eliminación de ruido" en el boceto comprimido (el espacio latente). Esto es como esculpir primero una pequeña bola de arcilla manejable y luego expandirla en una estatua gigante. Esto es mucho más rápido y produce resultados de mayor calidad.

4. La "Solicitud Personalizada" (Generación Condicional)

Los científicos a menudo quieren generar células que tengan rasgos específicos, como "una célula pulmonar que ha sido expuesta a un virus".

La analogía: Piensa en el modelo como un fabricante de muebles a medida.
- Modelos antiguos: Podían hacer una silla, pero si le pedías una "silla roja con una pata rota", podría confundirse o hacer una silla que pareciera una mesa.
- scLDM: Utiliza una técnica llamada Guía Libre de Clasificador. Puedes decirle: "Hazme una célula que sea una Célula Pulmonar Y que tenga un Virus". El modelo aprende a combinar estas instrucciones perfectamente. El artículo afirma que esta forma "conjunta" de escuchar instrucciones funciona mejor que intentar sumarlas una por una.

¿Qué demostraron?

Los autores probaron el scLDM contra otros modelos de primer nivel (como scVI, scDiffusion y CFGen) utilizando datos biológicos reales:

Reconstrucción: Cuando se le pidió "recordar" una célula que ya había visto, el scLDM lo hizo mejor que los demás, capturando los detalles con mayor precisión.
Generación: Cuando se le pidió crear células falsas nuevas que parecieran reales, el scLDM produjo datos que eran estadísticamente más cercanos a las células reales que sus competidores. No solo hizo un "copiar y pegar"; creó variaciones nuevas y válidas.
Predicción: Cuando se utilizó como herramienta para clasificar células (por ejemplo, "¿Está esta célula infectada con COVID-19?"), los "bocetos de resumen" creados por scLDM ayudaron a la computadora a tomar decisiones más precisas que los métodos anteriores.

La Conclusión

El artículo presenta una forma nueva, flexible y poderosa de enseñar a las computadoras a entender y crear datos de célula única. Al respetar el hecho de que el orden de los genes no importa y al utilizar una técnica de "esculpir desde el ruido" sobre datos comprimidos, el scLDM crea simulaciones biológicas más realistas que los métodos anteriores.

Nota: El artículo se centra enteramente en la capacidad del modelo computacional para generar y reconstruir datos. No afirma que este modelo se esté utilizando actualmente para curar enfermedades o tomar decisiones clínicas en hospitales, sino que es una herramienta superior para simular y comprender la biología celular en una computadora.

Resumen Técnico: Generación de Expresión Génica de Célula Única Escalable con Modelos de Difusión Latente

Declaración del Problema

El modelado computacional de la expresión génica de célula única es esencial para comprender la heterogeneidad celular, la diferenciación y las respuestas a perturbaciones. Sin embargo, generar perfiles de expresión realistas sigue siendo un desafío significativo debido a dos factores primordiales: la naturaleza basada en recuentos de los datos de expresión génica y las complejas dependencias latentes entre los genes.

Los modelos generativos existentes enfrentan limitaciones críticas:

Violación de la Intercambiabilidad: Muchos métodos imponen ordenamientos fijos artificiales de los genes o dependen de subconjuntos restringidos de genes altamente variables (HVGs). Esto contradice la realidad biológica de que los perfiles de expresión génica son conjuntos intercambiables donde el orden de los genes no tiene un significado intrínseco. Las arquitecturas de orden fijo vinculan las dimensiones de entrada a genes específicos, lo que impide que el modelo pueda manejar vocabularios de genes variables entre tejidos o especies sin reentrenamiento.
Inestabilidades Arquitectónicas y de Entrenamiento: Los enfoques basados en Redes Generativas Antagónicas (GANs) sufren de inestabilidades de entrenamiento y colapso de modo. Mientras tanto, los Autoencoders Variacionales (VAEs) estándar suelen depender de arquitecturas superficiales o requieren estructuras latentes jerárquicas complejas para manejar tamaños de conjuntos, lo cual puede ser innecesario si la parametrización se gestiona correctamente.

Metodología: scLDM

Los autores presentan scLDM (Modelo de Difusión Latente de Célula Única escalable), un modelo generativo profundo totalmente basado en transformadores diseñado para respetar la propiedad fundamental de intercambiabilidad de los datos de célula única. El marco consta de dos etapas principales:

1. VAE Basado en Transformadores con Diseño Invariante/Equivariante a la Permutación

El núcleo de scLDM es una arquitectura VAE que utiliza un Bloque de Atención Cruzada Multicabezal (MCAB) para manejar la naturaleza no ordenada de los conjuntos de genes.

Procesamiento de Entrada: Para gestionar la complejidad computacional dada la alta dispersión de los datos de RNA-seq de célula única (a menudo >70% de ceros), el modelo filtra las entradas para incluir solo los genes expresados y rellena el contexto hasta una longitud fija $d$ . Esto enfoca el modelo en señales biológicamente significativas sin restringir la capacidad del decodificador para modelar los recuentos de ceros.
Codificador (Invariante a la Permutación): El codificador procesa el conjunto de recuentos e IDs de genes para producir variables latentes $Z$ . Emplea un MCAB donde las "consultas" (queries) son pseudo-entradas aprendibles (puntos inductores) y las "claves/valores" (keys/values) se derivan de los embeddings de los genes. Este diseño asegura que la representación latente sea invariante a la permutación, independientemente del orden de los genes de entrada.
Decodificador (Equivariante a la Permutación): El decodificador reconstruye los recuentos de expresión génica para un conjunto solicitado de IDs de genes. Utiliza la misma arquitectura MCAB pero modifica las consultas para que sean embeddings específicos de los genes indexados por los IDs de genes solicitados. Esto asegura que la salida sea equivariante a la permutación, lo que significa que permutar los IDs de los genes de entrada resulta en una permutación correspondiente de los parámetros de salida.
Verosimilitud: El modelo parametriza la verosimilitud condicional utilizando una distribución Binomial Negativa (NB) o Gaussiana, capturando eficazmente la sobredispersión y la naturaleza de recuento de los datos.

2. Modelo de Difusión Latente (LDM) con Flow Matching

En lugar de un prior Gaussiano estándar, los autores reemplazan el prior con un Modelo de Difusión Latente entrenado en el espacio latente del VAE.

Arquitectura: El proceso de difusión se modela utilizando Transformadores de Difusión (DiT).
Objetivo de Entrenamiento: El modelo se entrena utilizando Flow Matching con interpolantes lineales, optimizando una función de pérdida que aprende un campo vectorial para transportar el ruido hacia la distribución de los datos.
Generación Controlada: El marco soporta generación multicontextual (por ejemplo, tipo de célula + perturbación) mediante Guía Libre de Clasificador (CFG). Los autores proponen una estrategia de condicionamiento conjunto donde un único token representa una combinación única de atributos, contrastando con los enfoques de condicionamiento aditivo utilizados en trabajos previos.

Principales Contribuciones

Arquitectura Intercambiable: El artículo propone un nuevo VAE totalmente basado en transformadores que utiliza una arquitectura MCAB unificada para lograr el agrupamiento (pooling) invariante a la permutación en el codificador y el desagrupamiento (unpooling) equivariante a la permutación en el decodificador. Esto elimina la necesidad de componentes separados de pooling/unpooling o de ordenamientos fijos de genes.
Difusión Latente con Flow Matching: La integración de un LDM basado en Transformadores de Difusión entrenado con flow matching e interpolantes lineales permite una generación de alta calidad y un muestreo controlado mediante guía libre de clasificador.
Condicionamiento Conjunto: Los autores demuestran que una formulación de condicionamiento conjunto para la guía libre de clasificador (tratando las combinaciones de atributos como tokens únicos) supera a las estrategias de condicionamiento aditivo en benchmarks de perturbación de múltiples atributos.

Resultados Experimentales

Los autores evaluaron scLDM en conjuntos de datos observacionales (Dentate Gyrus, Tabula Muris, HLCA) y conjuntos de datos perturbacionales (Parse 1M, Replogle), comparándolo contra baselines de vanguardia incluyendo scVI, CFGen, scDiffusion, CPA y scGPT.

Rendimiento de Reconstrucción: scLDM logró una reconstrucción superior (menor Error de Reconstrucción, mayor Coeficiente de Correlación de Pearson y menor MSE) en todos los conjuntos de datos observacionales en comparación con scVI y CFGen. Por ejemplo, en el conjunto de datos HLCA, scLDM logró un PCC de 0.310 frente al 0.146 de CFGen.
Calidad Generativa: En tareas de generación incondicional y condicional, scLDM demostró un mejor ajuste de la distribución (menores distancias Wasserstein-2 y MMD2) y un equilibrio más balanceado entre precisión y recall, evitando el colapso de modo observado en algunos baselines.
Modelado de Perturbaciones: En los conjuntos de datos Parse 1M y Replogle, scLDM mostró un rendimiento competitivo o superior en la generación de perfiles de expresión génica para combinaciones de célula-perturbación no vistas. Superó a los baselines en métricas de predicción de perturbación (por ejemplo, solapamiento de DEG, correlación de Spearman de cambios de log-fold).
Clasificación Downstream: Los embeddings aprendidos por el scLDM-VAE fueron evaluados en tareas de clasificación (detección de infección por COVID-19 y clasificación de tipos celulares en Tabula Sapiens 2.0). El modelo scLDM de 270 millones de parámetros alcanzó puntuaciones F1 de vanguardia (0.820) en la tarea de COVID-19, superando a otros modelos fundacionales como TranscriptFormer y scGPT.
Estudios de Ablación: Los experimentos confirmaron que la estrategia de entrada de relleno con ceros (zero-padding) es computacionalmente eficiente y mantiene la calidad de la reconstrucción. Además, se demostró que el condicionamiento conjunto es superior al condicionamiento aditivo para la generación de múltiples atributos.

Significado y Reivindicaciones

El artículo afirma que scLDM proporciona un marco con principios para aprender modelos intercambiables de datos de célula única, yendo más allá de las restricciones artificiales de los ordenamientos fijos de genes. Al combinar una arquitectura de transformador invariante/equivariante a la permutación con difusión latente, el modelo logra un rendimiento de vanguardia tanto en la reconstrucción como en la generación de perfiles de expresión de célula única.

Los autores enfatizan que su enfoque soporta naturalmente la generación flexible de condicionamiento y la generalización a través de contextos no vistos, permitiendo el modelado fiel de respuestas celulares complejas. Posicionan este trabajo como un paso hacia modelos fundacionales para datos biológicos intercambiables, sugiriendo que el diseño es aplicable más allá de la transcriptómica a datos multi-ómicos y multi-modales. El trabajo busca acelerar el desarrollo terapéutico mediante la habilitación de experimentos de perturbación in silico, aunque los autores señalan que la validación experimental sigue siendo necesaria para aplicaciones clínicas.