📊 statistics

Latent Stochastic Interpolants

Este trabajo presenta los Interpolantes Estocásticos Latentes (LSI), un marco que permite el aprendizaje conjunto de codificadores, decodificadores y modelos estocásticos en un espacio latente mediante una cota inferior de evidencia (ELBO) continua, superando así las limitaciones de los priores simples y la alta demanda computacional de los modelos de difusión tradicionales mientras se mantiene la flexibilidad generativa.

Autores originales: Saurabh Singh, Dmitry Lagun

Publicado 2026-04-23

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Saurabh Singh, Dmitry Lagun

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

¡Hola! Imagina que quieres enseñar a un artista a pintar paisajes increíbles, pero en lugar de darle fotos reales de montañas y ríos, le das un lienzo en blanco y un conjunto de instrucciones mágicas.

Este paper presenta una nueva técnica llamada Interpolantes Estocásticos Latentes (LSI). Para entenderla, vamos a usar una analogía sencilla: el viaje de un viajero entre dos ciudades.

1. El Problema: El viaje directo es demasiado largo y costoso

Antes de esta nueva técnica, los modelos de IA generativa (como los que crean imágenes) funcionaban de dos formas principales:

El modelo de "Difusión" (como un borrón): Imagina que tienes una foto de un perro y la vas desenfocando poco a poco hasta que se convierte en una mancha de ruido blanco. Luego, el modelo aprende a "revertir" el proceso: empieza con el ruido y lo va limpiando hasta recuperar al perro. Esto funciona bien, pero es como intentar limpiar una mancha gigante en una alfombra enorme (el espacio de píxeles de una imagen). Es lento y gasta mucha energía.
El modelo de "Interpolación" (SI): Es una técnica más moderna que conecta dos puntos (ruido y foto) con una línea recta perfecta. Pero tiene un problema: requiere que tengas ambos extremos (el ruido y la foto real) al mismo tiempo para trazar la línea. No funciona bien si quieres aprender a crear el mapa del viaje mientras viajas.

2. La Solución: El "Atajo" en el Latente (LSI)

Los autores de este paper dicen: "¿Y si no intentamos limpiar la alfombra gigante directamente? ¿Y si primero convertimos la foto en un resumen pequeño (un mapa) y luego hacemos el viaje mágico en ese mapa?"

Aquí entran los Interpolantes Estocásticos Latentes (LSI). Imagina que tienes tres personajes trabajando juntos en equipo:

El Traductor (Encoder): Toma la foto real (el paisaje complejo) y la resume en un "mapa mental" pequeño y simple (el espacio latente). Es como convertir una novela de 500 páginas en un resumen de una página.
El Viajero Mágico (Generador Latente): Este es el corazón del sistema. Trabaja solo dentro del mapa mental. Aprende a transformar un punto aleatorio (ruido) en el mapa del resumen. Como el mapa es pequeño, el viaje es rápido y eficiente.
El Pintor (Decoder): Toma ese mapa mental transformado y lo vuelve a convertir en una foto real y detallada.

La magia de LSI: Antes, estos tres personajes tenían que aprender por separado. El Traductor aprendía a resumir, el Pintor a dibujar, y el Viajero a moverse. Pero a veces, el resumen no encajaba bien con el viaje, o el pintor no entendía el mapa.

LSI los entrena a los tres al mismo tiempo (de punta a punta). Es como si el Traductor, el Viajero y el Pintor estuvieran en una habitación juntos, discutiendo y ajustándose mutuamente. Si el Viajero tiene dificultades con cierto tipo de mapa, el Traductor aprende a hacer un resumen más fácil para él. Si el Pintor necesita más detalles, el Viajero ajusta su ruta.

3. ¿Por qué es genial esto? (Las ventajas)

Ahorro de energía (Eficiencia): Hacer el viaje mágico en un mapa pequeño (latente) es mucho más barato computacionalmente que hacerlo en la foto gigante (píxeles). Es como conducir por una autopista de 3 carriles en lugar de intentar cruzar un campo lleno de baches.
Flexibilidad total: Los modelos antiguos estaban atados a usar un tipo específico de "ruido" (como una bola de nieve perfecta) para empezar. LSI puede empezar con cualquier tipo de ruido o distribución. Es como si el viajero pudiera empezar su viaje desde una playa, una montaña o una ciudad, y llegar al mismo destino.
Calidad: Al entrenar todo junto, el modelo aprende a representar las cosas de la manera más eficiente posible para la IA, logrando imágenes de alta calidad (como las de ImageNet) con menos recursos.

En resumen

Imagina que quieres enseñar a un robot a cocinar.

Método antiguo: Le das la receta completa, los ingredientes reales y le pides que cocine todo a la vez, probando y fallando con cada ingrediente individual. Es lento y desordenado.
LSI: Le das un chef experto (el generador) que aprende a cocinar basándose en notas de cocina simplificadas (el espacio latente). Al mismo tiempo, tienes un secretario (encoder) que aprende a tomar los ingredientes reales y convertirlos en esas notas perfectas, y un mesero (decoder) que toma las notas y sirve el plato final.

Lo revolucionario es que el chef, el secretario y el mesero aprenden juntos. Si el chef necesita notas más claras, el secretario se adapta. Si el mesero necesita platos más específicos, el chef ajusta su receta. El resultado es un sistema más rápido, flexible y capaz de crear "platos" (imágenes) deliciosos sin gastar toda la energía del restaurante.

¡Es un paso gigante para hacer que la IA generativa sea más inteligente y eficiente!

Aquí presento un resumen técnico detallado del artículo "Latent Stochastic Interpolants (LSI)", publicado como ponencia en ICLR 2026.

1. El Problema

Los Interpolantes Estocásticos (SI) son un marco potente para el modelado generativo que permite transformar flexiblemente entre dos distribuciones de probabilidad arbitrarias mediante procesos estocásticos continuos. Sin embargo, los SI tradicionales tienen una limitación fundamental: asumen que las muestras de ambas distribuciones (la prior $p_0$ y la objetivo $p_1$ ) son observadas directamente.

Esto impide su uso en modelos de variables latentes conjuntamente optimizados, donde:

El espacio latente es no observado y de menor dimensión.
El generador, el codificador (encoder) y el decodificador se aprenden simultáneamente.
La distribución posterior agregada en el espacio latente evoluciona durante el entrenamiento, por lo que no se puede construir un interpolante fijo entre una prior y una posterior real sin acceso directo a las muestras latentes.

Además, aplicar SI directamente en espacios de observación de alta dimensión (como imágenes) es computacionalmente costoso.

2. Metodología: Latent Stochastic Interpolants (LSI)

Los autores proponen Latent Stochastic Interpolants (LSI), un marco novedoso que habilita el aprendizaje conjunto de un codificador, un decodificador y un modelo generativo estocástico dentro de un espacio latente no observado.

A. Fundamento Teórico: ELBO en Tiempo Continuo

La contribución central es la derivación de una Cota Inferior de Evidencia (ELBO) principista directamente en tiempo continuo para variables latentes dinámicas.

Se modela la evolución de las variables latentes $z_t$ mediante una Ecuación Diferencial Estocástica (SDE).
Se define un proceso variacional (posterior aproximada) que conecta una prior $p_0(z_0)$ con la posterior agregada aproximada $p_\theta(z_1|x_1)$ .
A diferencia de los métodos anteriores que requieren simular la SDE en cada paso de entrenamiento (lo cual es costoso), LSI construye una muestra simulada libre (simulation-free) del proceso variacional.

B. Construcción del Interpolante Latente

Para evitar la simulación costosa de la SDE, los autores utilizan un puente de difusión y el truco de reparametrización:

Se asume que el proceso variacional es lineal con ruido aditivo.
Se deriva una densidad condicional gaussiana $p(z_t | z_1, z_0)$ que permite muestrear $z_t$ directamente sin integrar la SDE.
El interpolante se parametriza como:
$z_t = \eta_t \epsilon + \kappa_t z_1 + \nu_t z_0$
Donde $z_0 \sim p_0$ (prior), $z_1$ es la representación latente codificada de la imagen $x_1$ , y $\epsilon$ es ruido gaussiano.
Se elige una parametrización específica llamada InterpFlow ( $\kappa_t = t, \nu_t = 1-t$ ) que resulta en una pérdida de entrenamiento estable y eficiente.

C. Función de Pérdida

El objetivo de entrenamiento combina:

Término de Reconstrucción: $-\ln p_\theta(x_1|z_1)$ , que asegura que el decodificador pueda recuperar la imagen desde el latente.
Término de Dinámica (Costo de Control): Una penalización basada en la divergencia KL entre el proceso variacional y el modelo, que fuerza al modelo latente a aprender la dinámica correcta para transformar la prior en la posterior.

La pérdida total se optimiza mediante descenso de gradiente estocástico, entrenando simultáneamente el Encoder, el Decoder y el Modelo SI Latente.

3. Contribuciones Clave

Marco LSI: Un nuevo framework escalable para el entrenamiento conjunto de modelos generativos con variables latentes dinámicas en tiempo continuo, superando la restricción de que las muestras latentes deben ser observadas.
Perspectiva Unificadora: Integra la formulación flexible de tiempo continuo de los SI dentro de los modelos de variables latentes, aprovechando procesos estocásticos continuos para unificar la teoría de flujos y difusión.
Objetivo ELBO Principista: Proporciona una nueva cota ELBO que mantiene las ventajas de los SI (entrenamiento libre de simulación, elección flexible de prior) mientras permite el entrenamiento conjunto en un espacio latente, ofreciendo control sobre la verosimilitud de los datos (log-likelihood).

4. Resultados Experimentales

Los autores validaron LSI en el benchmark estándar de generación de imágenes ImageNet a múltiples resoluciones (64x64, 128x128, 256x256).

Rendimiento de Calidad (FID): Los modelos LSI alcanzan puntuaciones FID (Fréchet Inception Distance) comparables a los modelos de SI entrenados directamente en el espacio de observación (píxeles), demostrando que el aprendizaje conjunto no sacrifica la calidad de la generación.
Eficiencia Computacional:
- Aunque el número total de parámetros es similar, el costo de inferencia (muestreo) es significativamente menor en LSI.
- Durante el muestreo, el codificador no se usa y el decodificador se usa solo una vez. El modelo latente (más pequeño) se ejecuta repetidamente.
- Ahorro de FLOPs: Se reportan ahorros de hasta un 64.9% en FLOPs para imágenes de 256x256 en comparación con modelos de espacio de observación.
Beneficios del Aprendizaje Conjunto:
- La optimización conjunta (controlada por el peso $\beta$ en la pérdida) mejora significativamente el FID en comparación con entrenar el codificador y el generador por separado.
- El modelo es robusto incluso cuando la capacidad del modelo se desplaza del generador latente hacia el codificador/decodificador.
Flexibilidad:
- Priors Diversos: LSI funciona bien con diversas distribuciones de prior (Gaussiana, Laplaciana, Uniforme, Mezcla de Gaussianas), no solo la Gaussiana estándar.
- Muestreo Flexible: Soporta muestreo determinista (ODE) y estocástico (SDE), así como Guía sin Clasificador (CFG) para mejorar la fidelidad de la clase. También permite la inversión de imágenes (inversión de DDIM) para generar variaciones de una imagen dada.

5. Significancia e Impacto

El trabajo de Latent Stochastic Interpolants es significativo por varias razones:

Superación de Limitaciones de Priors Simples: A diferencia de los modelos de difusión estándar que a menudo requieren priores simples (Gaussianas isotrópicas), LSI permite transformar priores arbitrarios en la posterior agregada aprendida, ofreciendo mayor flexibilidad.
Eficiencia Escalable: Resuelve el cuello de botella computacional de aplicar interpolantes estocásticos en espacios de alta dimensión, moviendo la complejidad dinámica a un espacio latente de menor dimensión.
Unificación Teórica: Cierra la brecha entre los modelos de variables latentes (como VAEs) y los modelos de difusión/flujo modernos, proporcionando un marco unificado con control de verosimilitud.
Aplicabilidad Práctica: Demuestra que el aprendizaje conjunto de la representación y la generación es superior a enfoques de etapas separadas, logrando un equilibrio óptimo entre calidad de reconstrucción y calidad generativa.

En resumen, LSI representa un avance importante hacia modelos generativos más eficientes y flexibles, capaces de operar en espacios latentes dinámicos sin sacrificar la calidad de la generación ni la capacidad de control teórico.