🤖 machine learning

Mitigating Diffusion Model Hallucinations with Dynamic Guidance

Este artículo introduce la Guía Dinámica, un novedoso enfoque en el tiempo de generación que mitiga las alucinaciones de los modelos de difusión mediante el afilado selectivo de la función de puntuación a lo largo de direcciones propensas a artefactos mientras preserva variaciones semánticas válidas, superando así a las líneas base existentes tanto en conjuntos de datos de imágenes controladas como naturales.

Autores originales: Kostas Triaridis, Alexandros Graikos, Aggelina Chatziagapi, Grigorios G. Chrysos, Dimitris Samaras

Publicado 2026-06-09

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Kostas Triaridis, Alexandros Graikos, Aggelina Chatziagapi, Grigorios G. Chrysos, Dimitris Samaras

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a pintar a un artista muy talentoso pero ligeramente confundido. Este artista, un "Modelo de Difusión", es excelente creando imágenes hermosas, pero a veces se vuelve demasiado creativo de la manera incorrecta. Puede dibujar una mano con seis dedos, un gato sin cola o un caballo con tres patas. En el mundo de la IA, llamamos a estos errores "alucinaciones".

Según este artículo, la razón por la que el artista comete estos errores es porque intenta ser demasiado suave. Cuando el artista está aprendiendo, ve una imagen de un "perro" y una imagen de un "gato". En lugar de mantenerlas como dos ideas distintas y nítidas, intenta mezclarlas en un punto medio difuso. A veces, ese punto medio difuso se convierte en una criatura extraña que no existe realmente en la naturaleza.

Los autores de este artículo, de la Universidad de Stony Brook y la Universidad de Wisconsin-Madison, proponen una nueva técnica llamada Guía Dinámica (Dynamic Guidance) para solucionar esto. Así es como funciona, utilizando algunas analogías sencillas:

El Problema: El "Punto Medio Difuso"

Imagina la mente del artista como un paisaje con dos montañas altas: una es "Perro" y la otra es "Gato". El camino entre ellas es un valle suave y plano.

La Forma Antigua: Cuando el artista intenta dibujar algo, a veces se queda atrapado en ese valle plano. Debido a que el camino es tan suave, el artista no sabe hacia dónde ir, así que simplemente dibuja una mezcla extraña de un perro y un gato. Esta es la "alucinación".
La Solución Estándar: Normalmente, la gente intenta decirle al artista: "¡Dibuja un Perro!" (esto se llama Guía de Clasificador o Classifier Guidance). Pero si el artista comienza con un boceto aleatorio que se parece más a un gato, y tú lo fuerzas a ser un perro, el artista podría confundirse y cometer un error de todos modos, como dibujar un perro con la cola de un gato.

La Solución: Guía Dinámica (El "Navegador Inteligente")

Los autores sugieren un enfoque más inteligente. En lugar de elegir un destino (como "Perro") al puro principio y mantenerse fiel a él sin importar qué, el artista recibe un Navegador Inteligente que revisa el mapa en cada paso del proceso de dibujo.

Revisar el Estado Actual: En cada pequeño momento mientras se está formando la imagen, el Navegador pregunta: "Basado en lo que hemos dibujado justo ahora, ¿esto se parece más a un Perro o a un Gato?".
Ajustar el Camino: Si el boceto actual se inclina hacia "Perro", el Navegador agudiza el camino hacia la montaña del "Perro". Si se inclina hacia "Gato", agudiza el camino hacia el "Gato".
Evitar el Valle Difuso: Al ajustar constantemente el objetivo, el artista nunca se queda atrapado en ese valle suave y confuso entre ambos. Se le obliga a dar un paso decisivo hacia una forma real y válida.

Por qué es Especial

El artículo destaca tres puntos clave de este método:

Es Selectivo: Imagina que el artista está dibujando una mano. El Navegador sabe que cambiar el color de la piel es un cambio válido y bueno (diversidad). Pero cambiar el número de dedos es un cambio malo (alucinación). La Guía Dinámica es lo suficientemente inteligente como para agudizar el camino solo en la dirección del "conteo de dedos", mientras deja que la dirección del "color de piel" permanezca suave y diversa. Corrige las cosas malas sin arruinar las buenas.
Ocurre Mientras se Dibuja: La mayoría de los otros métodos intentan arreglar la imagen después de que está terminada (como un filtro que borra las malas imágenes). Este método arregla la imagen mientras se está dibujando. Es como un entrenador que corrige la técnica de un corredor durante la carrera, en lugar de decirle que corrió mal cuando la carrera ha terminado.
Funciona con Palabras: Los autores probaron esto en modelos de texto a imagen (donde escribes "un caballo en un campo"). A veces la computadora se confunde sobre cómo está parado el caballo. El sistema de Guía Dinámica puede observar el caballo a medio terminar, darse cuenta de que la postura es ambigua, y ajustar sutilmente las instrucciones a "un caballo galopando" o "un caballo tumbado" para asegurar que la anatomía tenga sentido.

Los Resultados

El artículo probó esto en varias cosas:

Formas Simples: Cuando se le pidió dibujar triángulos o cuadrados, el método evitó que la IA dibujara mezclas extrañas de ambos.
Imágenes Reales: En un enorme conjunto de datos de 1.2 millones de imágenes (ImageNet), el método produjo imágenes que parecían más realistas y tenían menos características "imposibles".
Retroalimentación Humana: Cuando los humanos vieron las imágenes generadas con este nuevo método, coincidieron en que había menos errores (como patas extra en los animales) y preferían las nuevas imágenes sobre las antiguas.

En resumen, la Guía Dinámica es como darle al artista de IA un GPS que recalcula constantemente la ruta para asegurar que se mantenga en el camino de la realidad, evitando las trampas fuera de la carretera donde viven las alucinaciones.

Resumen Técnico: Mitigación de Alucinaciones en Modelos de Difusión mediante Guía Dinámica

Definición del Problema

Los modelos de difusión, aunque dominantes en la generación de imágenes de alta fidelidad, sufren de "alucinaciones": muestras que contienen inconsistencias estructurales (por ejemplo, anatomía incorrecta como dedos extra o partes del cuerpo faltantes) que se encuentran fuera del soporte de la distribución real de los datos. Los autores atribuyen estas alucinaciones a la interpolación de modos.

Hallazgos recientes indican que la función de puntuación (score function) aprendida en los Modelos Probabilísticos de Difusión de Eliminación de Ruido (DDPMs) es excesivamente suave en las regiones de baja densidad entre los modos de los datos. Mientras que la verdadera función de puntuación debería ser aguda en estas regiones intermedias para forzar al muestreador a tomar pasos correctivos más grandes, la suavidad aprendida causa que el proceso de eliminación de ruido "atrape" las muestras, resultando en interpolaciones semánticamente inválidas entre modos incompatibles.

Los métodos de guía existentes (por ejemplo, Classifier Guidance, Classifier-Free Guidance) típicamente dirigen las muestras hacia regiones de alta verosimilitud basándose en una condición fija proporcionada al inicio del muestreo. Los autores argumentan que si esta condición fija no está alineada con el ruido inicial o con la trayectoria evolutiva, la guía puede empujar la muestra hacia regiones que requieren pasos correctivos de gran magnitud, lo que provoca un exceso (overshooting) o un déficit (undershooting) respecto al modo objetivo, generando alucinaciones. Además, los enfoques actuales suelen tratar las alucinaciones como un problema de filtrado post-hoc o un problema de alineación entre texto e imagen, en lugar de un fallo fundamental en la propia trayectoria de muestreo.

Metodología: Guía Dinámica (DG)

El artículo propone la Guía Dinámica (DG), un método que mitiga las alucinaciones mediante el afilamiento adaptativo de la función de puntuación durante el proceso de muestreo, en lugar de depender de condiciones estáticas o de un filtrado posterior a la generación.

Mecanismo Central

En lugar de comprometerse con un único objetivo de guía (clase $c$ ) desde el principio, la DG identifica el modo más probable $c^*$ para la muestra ruidosa actual $x_t$ en cada paso de eliminación de ruido. La guía se aplica entonces hacia este modo seleccionado dinámicamente.

El algoritmo aproxima una función de puntuación más aguda $\hat{s}_\theta(x_t)$ de la siguiente manera:
$\hat{s}_\theta(x_t) := \sum_{c} \mathbb{1}_{c^*}(c) \nabla_{x_t} \log p_\theta(x_t | c)$
donde $c^* = \arg \max_{c \in C} \log p(c | x_t)$ .

Al recalcular la clase más probable en cada paso, la señal de guía permanece alineada con la dirección local de la puntuación, evitando que la trayectoria quede bloqueada en trayectorias que requieren pasos de interpolación de gran magnitud que inducen alucinaciones.

Variantes de Implementación

Condicionamiento Discreto (Classifier Guidance): Para conjuntos de datos con etiquetas discretas (por ejemplo, clases de ImageNet, tipos de formas), la DG utiliza un clasificador para predecir $p(c|x_t)$ y aplica gradientes hacia la clase más probable $c^*$ .
Pseudo-clases (Clustering): El método no requiere clases semánticas predefinidas. Los autores demuestran que el agrupamiento (clustering) de vecindarios semánticamente coherentes en la distribución de datos (por ejemplo, usando características de DINOv2) para crear "pseudo-clases" es suficiente. Esto permite que la DG aísle las direcciones propensas a alucinaciones sin necesidad de mapearlas a conceptos interpretables.
Texto-a-Imagen (Classifier-Free Guidance): Para modelos condicionados por texto, la DG se extiende ajustando dinámicamente el prompt de texto. Un Modelo de Lenguaje-Visión (VLM) observa las predicciones intermedias de eliminación de ruido y, si la imagen coincide con una "rama" específica de un prompt (generado por un LLM para resolver ambigüedades), el prompt se actualiza a esa rama específica. Esto efectivamente agudiza la función de puntuación a lo largo de la dirección de la ambigüedad resuelta.

Afilamiento Selectivo

Una idea teórica clave es que la DG afina selectivamente la función de puntuación. Aumenta la magnitud del gradiente solo a lo largo de las direcciones asociadas con el modo de guía seleccionado (donde ocurren las alucinaciones), mientras que deja otras direcciones (por ejemplo, variaciones semánticas válidas como el tono de piel) sin afectación. Esto preserva la diversidad de las muestras mientras se suprimen las generaciones inválidas.

Contribuciones Clave

Algoritmo de Guía Dinámica: Una estrategia de muestreo novedosa que selecciona adaptativamente los objetivos de guía en cada paso de tiempo para evitar regiones de interpolación de baja probabilidad.
Afilamiento Selectivo de la Puntuación: Demostración de que la DG mitiga las alucinaciones al afinar la función de puntuación específicamente en las direcciones que inducen alucinaciones, preservando la diversidad en otros aspectos.
Mitigación en el Tiempo de Generación: El primer enfoque que aborda las alucinaciones durante el proceso de muestreo, en lugar de mediante detección/rechazo post-hoc o entrenamiento posterior.
Extensión de Pseudo-clases: Un método fundamentado para extender la DG a escenarios sin etiquetas de clase explícitas mediante el uso de agrupamiento basado en datos.
Adaptación de Texto-a-Imagen: Una extensión de la DG a modelos de difusión latente mediante el ajuste dinámico de prompts utilizando VLMs y LLMs.

Resultados Experimentales

Conjuntos de Datos Controlados

Los autores evaluaron la DG en conjuntos de datos sintéticos donde las alucinaciones están estrictamente definidas:

Formas Únicas (Single Shapes): Imágenes con 1-3 instancias de la misma forma. Las alucinaciones son formas mixtas.
- Resultado: La DG logró una reducción del 74.21% en la tasa de alucinación (HR), superando significativamente al Filtrado de Varianza (11.58%) y a la Guía de Clasificador (11.05%).
Formas Mixtas (Mixed Shapes): Imágenes con hasta una instancia de cada forma. Las alucinaciones son múltiples instancias de la misma forma.
- Resultado: La DG logró una reducción de HR del 72.97%, mientras que la Guía de Clasificador de hecho aumentó las alucinaciones (-1.92%).
Hands-11k: Imágenes de manos humanas. Las alucinaciones son errores anatómicos.
- Resultado: La DG logró una reducción de HR del 45.12%, superando al Filtrado de Varianza y a la Guía de Clasificador.

Benchmarks a Gran Escala (ImageNet-1K)

Dado que las alucinaciones son difíciles de definir en ImageNet, los autores utilizaron métricas indirectas (proxy): Precisión (fracción de muestras en el soporte de los datos reales) e Índice de Incepción (IS).

Rendimiento: La DG superó consistentemente a la Guía de Clasificador en diversas escalas de guía.
Métricas: En la mejor configuración, la DG mejoró la Precisión en 8 puntos y el Índice de Incepción en 5 puntos en comparación con el baseline, manteniendo la diversidad (el Recall no se redujo significativamente).
Ablación: Los autores encontraron que aplicar la DG solo durante los pasos de tiempo intermedios $[T_1, T_2]$ (específicamente de 800 a 400 en su configuración) producía los mejores resultados, evitando la rigidez de la guía de trayectoria completa.

Generación de Texto-a-Imagen

Aplicado a Stable Diffusion 2.1 con un estudio de usuario de 18 participantes:

Reducción de Alucinaciones: La DG redujo la tasa percibida de alucinaciones para el 100% de los participantes, con una reducción promedio del 14.1% (del 52.7% al 45.3%).
Preferencia: Los participantes prefirieron las imágenes generadas por DG sobre el baseline (tasa de preferencia de 38.7% frente a 27.3%).

Significado y Reivindicaciones

El artículo afirma que la Guía Dinámica representa un cambio fundamental en el abordaje de las alucinaciones de los modelos de difusión. Al intervenir directamente en el proceso generativo, la DG evita que las alucinaciones surjan en primer lugar, evitando el desperdicio computacional de generar y luego descartar muestras defectuosas.

Los autores enfatizan que su enfoque es fundamentado: se basa en la necesidad matemática de afilar la función de puntuación en regiones de baja densidad para prevenir la interpolación de modos. Crucialmente, demuestran que esto puede lograrse sin sacrificar las interpolaciones "válidas" que contribuyen a la diversidad de la muestra y la generalización. La capacidad de usar pseudo-clases y el ajuste dinámico de prompts sugiere que la DG es una solución escalable para tareas de generación complejas del mundo real donde las definiciones de clase rígidas son insuficientes.

El trabajo concluye que la DG proporciona un paso hacia modelos de difusión más fiables, ofreciendo un mecanismo para controlar el equilibrio entre fidelidad y diversidad al dirigirse a las propiedades geométricas específicas de la función de puntuación aprendida que conducen a inconsistencias estructurales.