📊 statistics

Latent Diffusion for Missing Data

Este artículo propone un marco de dos etapas que combina un imputador robusto basado en VAE con un modelo de difusión en el espacio latente, demostrando que trasladar el modelado generativo a una representación latente aprendida mejora significativamente la estabilidad y la calidad de la imputación en comparación con la difusión en el espacio de píxeles bajo altos niveles de datos faltantes.

Autores originales: Alberte Heering Estad, Ignacio Peis, Jes Frellsen

Publicado 2026-05-28

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Alberte Heering Estad, Ignacio Peis, Jes Frellsen

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un álbum de fotos gigante, pero alguien ha derramado café en la mitad de las páginas, difuminando detalles importantes. Tu objetivo es adivinar cómo son las partes faltantes de las fotos. Este es el problema de la imputación de datos faltantes.

Durante mucho tiempo, las computadoras han intentado resolver esto mirando directamente los "píxeles" (los pequeños puntos que forman la imagen). Pero el artículo que compartiste, titulado "Difusión Latente para Datos Faltantes", argumenta que hay una manera más inteligente de hacerlo, especialmente cuando las fotos están muy dañadas.

Aquí está la historia de su descubrimiento, explicada de forma sencilla:

El Problema: Intentar Arreglar una Foto Borrosa Píxel por Píxel

Los investigadores examinaron los métodos existentes (llamados Difusión en el Espacio de Píxeles). Imagina intentar restaurar un cuadro dañado mirando cada pequeño punto de pintura individualmente. Si el cuadro está cubierto en un 50% por café, la computadora se confunde. Ve muchos valores "cero" (las manchas de café) e intenta adivinar los colores basándose en ellos. A medida que el daño empeora, la computadora empieza a alucinar: hace que la imagen se vea granulada, ruidosa y llena de estática, como una televisión vieja con mala señal.

La Solución: El Enfoque "Primero el Boceto" (Difusión Latente)

Los autores, Alberte Heering, Ignacio Peis y Jes Frellsen, propusieron un nuevo método llamado LDMiss. En lugar de mirar cada pequeño punto de pintura, piden a la computadora que primero aprenda la "esencia" o el "boceto" de la imagen.

Piénsalo así:

El Codificador (El Boceto del Artista): Primero, la computadora comprime la foto desordenada y manchada de café en un boceto simplificado y de baja resolución. Ignora los detalles pequeños y se centra en las formas grandes (como "esto es una nariz", "esto es un ojo").
La Difusión (La Restauración): Luego, la computadora intenta arreglar las partes faltantes de este boceto, no de la foto original. Como el boceto es más simple y limpio, es mucho más fácil adivinar cómo deberían verse las líneas faltantes, incluso si la mitad del papel está manchada.
El Decodificador (La Pintura Final): Una vez arreglado el boceto, la computadora lo expande de nuevo en una foto completa y de alta calidad.

El Experimento: Una Carrera Contra las Manchas de Café

El equipo probó esto en el famoso conjunto de datos MNIST (que son simplemente miles de números escritos a mano como 0, 1, 2, etc.). Simularon "datos faltantes" convirtiendo píxeles aleatoriamente en negro (como manchas de café) a diferentes tasas: 10%, 30%, 50% y hasta un 80% faltante.

Compararon su método "Primero el Boceto" (LDMiss) contra el antiguo método "Píxel por Píxel" (DDPM) y algunos otros competidores.

Los Resultados: ¿Quién Ganó la Carrera?

El Método Antiguo (Espacio de Píxeles): Cuando el daño era leve (10% faltante), lo hizo bastante bien. Pero tan pronto como el daño alcanzó el 20-30%, las imágenes empezaron a parecer ruido estático. Para el 50% faltante, los resultados fueron terribles. Era como intentar arreglar un cuadro mirando fijamente las manchas de café; la computadora simplemente se abrumó.
El Nuevo Método (LDMiss): Este método se mantuvo tranquilo. Incluso cuando faltaba el 50% de los datos, los números generados se veían nítidos y claros. Solo empezó a volverse un poco borroso cuando el daño fue extremo (60-80%).
La Prueba de "Relleno": Cuando usaron estos modelos para rellenar realmente las partes faltantes de las fotos, LDMiss fue consistentemente mejor. No solo se veía bien; en realidad adivinó los números faltantes con mayor precisión que los demás.

¿Por Qué Funciona Esto?

El artículo sugiere que el enfoque "Primero el Boceto" actúa como un filtro. Cuando miras píxeles crudos, un punto faltante es solo un cuadrado negro confuso. Pero cuando miras la versión "latente" (boceto), la computadora entiende el significado de la imagen. Sabe: "Esto es un '3', así que incluso si falta el bucle superior, sé que debería ser redondo". Esto evita que la computadora amplifique los errores de "cero" causados por los datos faltantes.

La Conclusión

El artículo concluye que si estás intentando arreglar datos incompletos, no mires fijamente los píxeles crudos. En su lugar, enseña a la computadora a entender la "vibra" o "estructura" subyacente de los datos primero, y luego haz la reparación allí.

Lo que el artículo no dice:

No probaron esto en registros médicos, mercados de valores o datos climáticos (aún).
No afirmaron que funcione para "Datos Faltantes No Aleatorios" (donde los datos faltantes están relacionados con el valor en sí, como personas enfermas que abandonan un estudio). Solo probaron "Datos Faltantes Completamente Aleatorios" (manchas de café puramente aleatorias).
Solo probaron en números escritos a mano (MNIST), no en fotos complejas de gatos o coches.

En resumen: LDMiss es una manera más robusta de adivinar las piezas faltantes de un rompecabezas porque se centra en la imagen general en lugar de perderse en los pequeños detalles dañados.

Resumen Técnico: Difusión Latente para Datos Faltantes

Enunciado del Problema
Los conjuntos de datos del mundo real frecuentemente contienen valores faltantes debido a factores como la pérdida en el seguimiento en estudios clínicos o documentación incompleta. Si bien los modelos generativos probabilísticos (VAE, GAN, Flujos) y, más recientemente, los modelos de difusión han demostrado ser prometedores para la imputación, los métodos existentes basados en difusión operan típicamente directamente en el espacio de los datos (píxeles). Existe una brecha crítica en la comprensión de cómo la elección del espacio de representación —píxeles versus latente— afecta la calidad de la generación y el rendimiento de la imputación cuando los datos de entrenamiento están fuertemente incompletos. Específicamente, no está claro si operar en el espacio de píxeles se degrada bajo altas tasas de corrupción por Datos Faltantes Completamente al Azar (MCAR), donde la imputación por cero de los valores faltantes puede introducir artefactos que interrumpen la estimación de la puntuación.

Metodología
Los autores proponen LDMiss, un marco de dos etapas que desplaza el proceso de difusión del espacio de píxeles a una representación latente aprendida para mejorar la robustez frente a datos faltantes.

Aprendizaje del Espacio Latente (Etapa 1): Se entrena un Variational Autoencoder (VAE) robusto sobre observaciones incompletas. Los autores utilizan una arquitectura $\beta$ -VAE donde las entradas faltantes se imputan con ceros. La pérdida de reconstrucción se calcula solo en las dimensiones observadas, mientras que la divergencia KL se pondera con un $\beta$ pequeño ( $10^{-6}$ ) para garantizar reconstrucciones de alta fidelidad. Esta etapa aprende un espacio de características semánticas compacto ( $z = E(x)$ ) a partir de los datos incompletos.
Difusión Latente (Etapa 2): Se entrena un modelo de difusión sobre las representaciones latentes $z$ en lugar de los píxeles crudos $x$ . El proceso hacia adelante sigue una Ecuación Diferencial Estocástica (SDE) de Preservación de Varianza (VP), y el proceso inverso se aprende mediante una red neuronal dependiente del tiempo $s_\theta$ optimizada utilizando un objetivo de coincidencia de puntuación de eliminación de ruido adaptado para variables latentes.
Estrategia de Imputación (Auto-guía): Para la imputación aguas abajo, los autores emplean un método de "auto-guía". Dado que el concepto de "dimensiones faltantes" no existe en el espacio latente comprimido, el proceso generativo se condiciona sobre los datos de píxeles observados. La puntuación condicional se aproxima utilizando la regla de Bayes, descomponiéndola en la puntuación incondicional y un término de guía derivado de la fórmula de Tweedie. El modelo decodifica la estimación de la media posterior latente al espacio de píxeles para calcular gradientes, guiando efectivamente el proceso de muestreo utilizando sus propias capacidades predictivas.

Configuración Experimental
El estudio realiza una comparación controlada en el conjunto de datos MNIST bajo corrupción MCAR a tasas de falta variables (hasta un 80%). El LDMiss propuesto se compara con:

DDPM en espacio de píxeles: Entrenado utilizando el enfoque MissDiff (imputación por cero con pérdida enmascarada) y el algoritmo iterativo basado en EM de DiffPuter.
Líneas base de imputación: Reconstrucción mediante autoencoder y DDPM con estrategias de reemplazo o guía.

Resultados Clave

Calidad de la Muestra: LDMiss mantiene una alta calidad de muestra (medida por FID e IS) y permanece estable hasta un 50% de falta. En contraste, el DDPM en espacio de píxeles se degrada progresivamente a medida que aumenta la falta, volviéndose "granulado" más allá del 10% de falta debido al procesamiento directo de valores imputados con cero. DiffPuter funciona bien con falta baja a moderada, pero pierde diversidad y fidelidad con una falta del 60–80%.
Rendimiento de Imputación: LDMiss logra un rendimiento de imputación consistentemente superior (MSE, FID, IS) en todas las tasas de falta de entrenamiento. Permanece robusto incluso cuando se entrena con un 80% de datos faltantes. El DDPM en espacio de píxeles se degrada a medida que aumenta la falta de entrenamiento porque su red de puntuación depende de una estimación degradada.
Estabilidad: LDMiss exhibe una varianza menor entre semillas aleatorias en comparación con las alternativas en espacio de píxeles, lo que indica un rendimiento más consistente.

Significado y Afirmaciones
El artículo afirma que el modelado en el espacio latente mitiga la amplificación de artefactos causada por entradas imputadas con ceros, que es un modo de fallo primario para los modelos de difusión en espacio de píxeles entrenados con datos incompletos. Al comprimir los datos en características semánticas antes del proceso de difusión, el modelo aprende un prior generativo más robusto para el aprendizaje con datos incompletos.

Los autores concluyen que LDMiss es una alternativa sólida y prácticamente útil a la difusión en espacio de píxeles para problemas de datos faltantes. Señalan que sus hallazgos están actualmente limitados al conjunto de datos MNIST bajo suposiciones MCAR con imputación por cero y que las diferencias arquitectónicas pueden contribuir a la brecha de rendimiento observada. Se sugiere trabajo futuro para probar estas ventajas en conjuntos de datos más complejos, diferentes mecanismos de falta (MAR/MNAR) y funciones de imputación alternativas.