🤖 AI

MixFlow Training: Alleviating Exposure Bias with Slowed Interpolation Mixture

Este artículo presenta MixFlow, un nuevo enfoque de entrenamiento que alivia el sesgo de exposición en los modelos de difusión mediante el aprovechamiento de una estrategia de "mezcla de interpolación ralentizada" para alinear mejor las condiciones de entrenamiento y de prueba, logrando así resultados de generación de imágenes de vanguardia en ImageNet.

Autores originales: Hui Li, Fu-Yun Wang, Haoyuan Xia, Jiayue Lyu, Kaihui Cheng, Siyu Zhu, Jingdong Wang

Publicado 2026-07-14

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Hui Li, Fu-Yun Wang, Haoyuan Xia, Jiayue Lyu, Kaihui Cheng, Siyu Zhu, Jingdong Wang

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que le estás enseñando a un robot a dibujar un cuadro girando lentamente una perilla que transforma una nube de estática en una imagen clara. Así es como funcionan los modelos de "difusión" modernos. Aprenden mirando una foto, añadiendo ruido estático a la misma y luego intentando adivinar cómo eliminar ese ruido paso a paso para recuperar la imagen original.

Aquí está el problema: Durante el entrenamiento (la fase de aprendizaje), el robot hace un poco de trampa. Cada vez que intenta adivinar el siguiente paso, se le muestra la versión perfecta de la imagen ruidosa del paso anterior. Es como un estudiante tomando un examen donde el profesor le susurra la respuesta correcta de la pregunta anterior antes de que siquiera escriba la suya propia.

Pero durante las pruebas (cuando el robot realmente dibuja una imagen nueva), el profesor deja de susurrar. El robot tiene que usar su propio cálculo previo para determinar el siguiente paso. Si comete un error minúsculo al principio, este error se arrastra, se hace más grande y, finalmente, la imagen se ve extraña o borrosa. Esto se llama "sesgo de exposición" (exposure bias): el robot está expuesto a datos perfectos mientras aprende, pero a datos desordenados cuando está por su cuenta.

El descubrimiento del "Flujo Lento" (Slow Flow)

Los autores de este artículo notaron algo extraño que sucedía mientras observaban al robot dibujar. Descubrieron que, cuando el robot generaba una imagen ruidosa en un momento determinado (llamémoslo "Tiempo T"), la versión perfecta de ese ruido (la que el robot debería haber estado mirando) en realidad pertenecía a un momento anterior en el proceso, un momento con más ruido.

Piénsalo de esta manera: Imagina que estás corriendo una carrera. A la marca de los 10 segundos, miras hacia atrás y te das cuenta de que tu posición "perfecta" ocurrió en realidad en la marca de los 8 segundos. Efectivamente, eres más "lento" que la verdad absoluta. La trayectoria generada por el robot se queda rezagada respecto a la trayectoria perfecta, atrapada en un estado "ralentizado" con más ruido del que debería tener.

La solución MixFlow

En lugar de intentar arreglar el estilo de carrera del robot después de la carrera (como intentaron otros métodos), los autores decidieron cambiar la forma en que el robot aprende la carrera. Introdujeron un nuevo método de entrenamiento llamado MixFlow.

En el entrenamiento estándar, el robot solo mira el ruido perfecto del momento exacto en el que se supone que debe estar. En MixFlow, el robot es entrenado para mirar una "mezcla" de ruidos perfectos. Mira el ruido perfecto para el momento actual, pero también los ruidos perfectos de esos momentos "ralentizados" con más ruido.

La Analogía:
Imagina que estás aprendiendo a montar en bicicleta.

Entrenamiento Estándar: Solo practicas en una carretera perfectamente plana y suave. Cuando sales al mundo real con baches y viento, te estrellas porque no estabas preparado para el retraso (lag).
Entrenamiento MixFlow: Practicas en la carretera suave, pero también practicas en una versión de la carretera ligeramente más accidentada y "más lenta" que imita el retraso que sentirás más tarde. Aprendes a manejar esa sensación de "lentitud" mientras todavía estás en la seguridad del entrenamiento.

Al entrenar con esta "mezcla de interpolación ralentizada", el robot aprende a lidiar con el hecho de que sus propios cálculos serán ligeramente "más lentos" y ruidosos que la verdad perfecta (ground truth). Deja de confundirse cuando tiene que confiar en sus propios cálculos previos.

Lo que descartaron

Los autores fueron muy cuidadosos al probar qué es lo que no funciona. Probaron un método llamado "Perturbación de la Entrada" (Input Perturbation), que consiste en añadir ruido aleatorio a los datos de entrenamiento para simular errores. Descubrieron que si solo añades ruido aleatorio sin entender el patrón de "flujo lento", podrías enseñar accidentalmente al robot con datos "más rápidos" (con menos ruido) que no coinciden con la realidad, o datos "más lentos" que están demasiado alejados. Sus experimentos demostraron que añadir ruido a ciegas a menudo empeora las cosas, mientras que su mezcla específica de "ralentización" es la clave.

También compararon su método con el de arreglar el problema durante el proceso de dibujo (inferencia) mediante el ajuste de los pasos. Descubrieron que, si bien esos ajustes ayudan un poco, son como intentar conducir un coche que ya se está desviando; es mejor arreglar el motor (el entrenamiento) desde el principio.

Los Resultados: ¿Qué tan seguros estamos?

Los autores no solo conjeturaron; realizaron experimentos masivos en conjuntos de datos de imágenes reales.

La Prueba: Probaron su método MixFlow en varios generadores de imágenes de alto nivel (como SiT, REPA y RAE) utilizando el conjunto de datos ImageNet, que contiene 1.2 millones de imágenes de 1,000 categorías diferentes de objetos.
Los Números: En las imágenes de 256 × 256 píxeles, su modelo MixFlow logró una puntuación de 1.43 (sin guía) y 1.10 (con guía). En las imágenes más grandes de 512 × 512, alcanzó 1.55 (sin guía) y 1.10 (con guía).
- Nota: En este campo, una puntuación "FID" más baja es mejor. Estos números son increíblemente bajos, lo que significa que las imágenes generadas son casi indistinguibles de las fotos reales.
Texto a Imagen: También lo probaron en un modelo de texto a imagen (SD 3.5). Cuando se le pidió que dibujara escenas complejas, como "cinco pizzas sabrosas" o "un pájaro a la izquierda de un reloj", la versión MixFlow siguió las instrucciones mucho mejor que la versión estándar, logrando acertar tanto en el conteo como en las posiciones.

El artículo sugiere que este enfoque es un paso significativo hacia adelante porque aborda directamente la causa raíz de la acumulación de errores. No es un truco de magia; es una forma más inteligente de practicar. Al dejar que el robot practique con versiones "ralentizadas" de la verdad, se vuelve mucho más robusto cuando tiene que generar imágenes por su cuenta.

En resumen, el artículo demuestra que, al cambiar la dieta de entrenamiento para incluir datos "ralentizados", los modelos de difusión pueden dejar de tropezar con sus propios pies y empezar a correr una carrera mucho más fluida.

Resumen Técnico: Entrenamiento MixFlow

Planteamiento del Problema

Este artículo aborda la discrepancia entre entrenamiento y prueba, comúnmente conocida como sesgo de exposición (exposure bias), en los modelos de difusión y de flujo (flow matching). Durante el entrenamiento, las redes de predicción reciben como entrada datos ruidosos de verdad fundamental (ground-truth) (una interpolación de ruido y datos) en cada paso de tiempo. Por el contrario, durante la prueba (muestreo), la red recibe datos ruidosos generados en el paso anterior. Esta discrepancia conduce a errores de predicción, acumulación de errores y deriva en el muestreo. Mientras que las soluciones anteriores se han centrado en modificar el proceso de muestreo (por ejemplo, Time-Shift Samplers, Epsilon Scaling) o en aplicar perturbaciones de entrada durante el entrenamiento, este trabajo propone un nuevo procedimiento de entrenamiento para mitigar directamente este problema.

Metodología: MixFlow

El enfoque propuesto, MixFlow, está motivado por la observación de un fenómeno de "Flujo Lento" (Slow Flow). El análisis empírico revela que los datos ruidosos de verdad fundamental más cercanos a los datos ruidosos generados en un paso de tiempo de muestreo $t$ suelen corresponder a un paso de tiempo de mayor ruido (un "paso de tiempo ralentizado", $m_t \leq t$ ). En otras palabras, los datos generados se retrasan respecto a la trayectoria de la verdad fundamental.

Para aprovechar esta observación, MixFlow modifica el procedimiento de entrenamiento de la siguiente manera:

Mezcla de Interpolación Ralentizada: En lugar de entrenar la red de predicción $u_\theta$ sobre una única interpolación $x_t$ correspondiente al paso de tiempo de entrenamiento $t$ , MixFlow utiliza una mezcla de interpolaciones de un rango de pasos de tiempo "ralentizados".
- Los datos ruidosos de entrada se muestrean de un conjunto $\mathcal{X}_t = \{x_{m_t} \mid m_t \in [(1-\gamma)t, t]\}$ , donde $m_t$ representa un paso de tiempo de mayor ruido (más lento).
- El tamaño del rango es lineal con respecto a $t$ , controlado por un coeficiente $\gamma$ .
Función de Pérdida Modificada: El objetivo de entrenamiento optimiza la red de predicción utilizando la interpolación ralentizada $x_{m_t}$ como entrada, mientras que el objetivo sigue siendo la velocidad de verdad fundamental en el paso de tiempo ralentizado $m_t$ :
$\mathbb{E}_{t, x_0, x_1, m_t} [\| u_\theta(x_{m_t}, t) - u^*(x_{m_t}, m_t) \|_2^2]$
Crucialmente, el paso de tiempo de entrada pasado a la red sigue siendo el paso de tiempo de entrenamiento $t$ , no $m_t$ .
Estrategia de Muestreo:
- Paso de Tiempo Ralentizado ( $m_t$ ): Se muestrea uniformemente del rango $[(1-\gamma)t, t]$ .
- Paso de Tiempo de Entrenamiento ( $t$ ): Para asegurar que los pares de $(x_{m_t}, t)$ se muestreen uniformemente a través de todas las combinaciones posibles, el paso de tiempo de entrenamiento $t$ se muestrea de una distribución Beta(2, 1) ( $p(t) \propto t$ ), en lugar de una distribución uniforme.
Implementación: El método es ligero, requiriendo solo modificaciones menores de código (por ejemplo, 5 líneas para RAE) en los procesos de entrenamiento existentes. Funciona como una estrategia de post-entrenamiento para modelos pre-entrenados.

Contribuciones Clave

Identificación del Flujo Lento: El artículo demuestra empíricamente que los datos ruidosos generados en el paso de tiempo $t$ son más cercanos a los datos de verdad fundamental en un paso de tiempo más lento (de mayor ruido), proporcionando una base teórica para la propuesta modificación de entrenamiento.
Algoritmo de Entrenamiento MixFlow: Un novedoso esquema de entrenamiento que utiliza una mezcla de interpolaciones ralentizadas para alinear la distribución de entrenamiento más estrechamente con la distribución de prueba, mitigando eficazmente el sesgo de exposición.
Rendimiento de Vanguardia (State-of-the-Art): El enfoque logra mejoras significativas en diversas arquitecturas de modelos (SiT, REPA, RAE) y tareas de generación (condicional de clase y texto-a-imagen).

Resultados Experimentales

Los autores evaluaron MixFlow en generación de imágenes condicional de clase (ImageNet) y generación de texto a imagen (Stable Diffusion 3.5).

Generación Condicional de Clase (ImageNet)

Modelos RAE: El modelo RAE aplicado con MixFlow alcanzó nuevos resultados de vanguardia:
- 256 × 256: 1.43 FID (sin guía) y 1.10 FID (con guía).
- 512 × 512: 1.55 FID (sin guía) y 1.10 FID (con guía).
SiT y REPA: Se observaron mejoras consistentes en SiT (tamaños B y XL) y modelos REPA. Por ejemplo, SiT-B/2 con guía mejoró de 4.46 a 3.91 gFID.
Pasos de Muestreo: Las ganancias de MixFlow fueron más pronunciadas con menos pasos de muestreo (por ejemplo, 20 pasos), lo que sugiere que aborda eficazmente los errores de aproximación inherentes al muestreo grueso.
Comparación: MixFlow superó a otros métodos de mitigación del sesgo de exposición, incluyendo Input Perturbation, Epsilon Scaling y Time-Shift Samplers.

Generación de Texto a Imagen

Aplicado a Stable Diffusion 3.5, MixFlow mejoró el rendimiento en todas las métricas evaluadas (GenEval, DPG-Bench, T2I-CompBench) tanto para 40 como para 10 pasos de muestreo.
Los resultados cualitativos mostraron mejoras en la precisión del conteo, las relaciones espaciales y la adherencia a la forma de los objetos.

Significado y Reivindicaciones

El artículo afirma que MixFlow ofrece una solución simple pero efectiva al problema del sesgo de exposición mediante la modificación de la distribución de entrenamiento para dar cuenta del fenómeno de "Flujo Lento". Los autores enfatizan que:

Entrenamiento vs. Inferencia: A diferencia de los ajustes en tiempo de inferencia, MixFlow aborda la causa raíz al alterar el objetivo de entrenamiento, haciendo que el modelo sea robusto al cambio de distribución entre el entrenamiento y la prueba.
Compatibilidad: El método es compatible con diversas arquitecturas de backbone (SiT, DiT), esquemas de interpolación (lineal, preservación de varianza) y paradigmas de entrenamiento avanzados (REPA, RAE).
Eficiencia: Logra resultados de vanguardia con una carga computacional mínima, requiriendo solo unas pocas líneas de modificación de código y actuando como un paso de post-entrenamiento eficiente.

Los autores concluyen que MixFlow mejora significamente la calidad de la generación, particularmente en escenarios de alta resolución y muestreo de pocos pasos, estableciendo nuevos referentes para la generación de imágenes basada en difusión.