💬 NLP

Lost in Interpolation: Why Predictive Feedback Fails in Diffusion Language Models

Este artículo identifica que la interpolación lineal euclídea utilizada en los Modelos de Lenguaje de Difusión con Máscara existentes presenta un desajuste geométrico con su espacio de incrustación hiperesférico, y propone el Enmascaramiento Suave Esférico (S-SM), un método que utiliza la interpolación lineal esférica que mejora significativamente la calidad generativa y la perplejidad sin degradar la convergencia.

Autores originales: Lavanya Nigam, Ishaan Bansal, Aryan Sood, Vidit Aggarwal, Gaurav Kumar Nayak

Publicado 2026-08-10

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Lavanya Nigam, Ishaan Bansal, Aryan Sood, Vidit Aggarwal, Gaurav Kumar Nayak

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a un robot a escribir una historia, pero en lugar de dejar que escriba palabra por palabra como un humano, le das una página en blanco donde cada palabra está oculta tras una "MÁSCARA". El trabajo del robot es echar un vistazo a toda la página, adivinar qué palabras deberían ir en los espacios en blanco y luego revelarlas lentamente una por una. Así es como funciona un tipo de IA llamado "Modelo de Lenguaje de Difusión". Es como un juego de "Adivina la Palabra" jugado a la inversa, donde la IA comienza con una confusión total y gradualmente aclara la imagen.

Para hacer este juego más rápido e inteligente, los investigadores utilizan un trucción llamada "enmascaramiento suave" (soft-masking). En lugar de que el robot simplemente diga: "Sí, estoy seguro de que esta palabra es 'gato'" o "No, manténla enmascarada", puede decir: "Estoy un 80% seguro de que es 'gato' y un 20% seguro de que es 'perro'". Mezcla estas suposiciones para crear una nueva pista difusa para la siguiente ronda. La gran pregunta que aborda este artículo es: ¿Cómo se mezclan matemáticamente estas suposiciones? La mayoría de la gente lo ha estado haciendo de la forma antigua, como si el cerebro del robot fuera un mapa plano y recto. Pero, ¿y si el cerebro del robot es en realidad la forma de un globo gigante y curvo?

El Misterio de lo Perdido en la Interpolación

Los autores de este artículo, un equipo del Instituto Indio de Tecnología de Roorkee, decidieron investigar la forma del "cerebro" dentro de estos modelos de IA. Descubrieron que la forma en que estos modelos almacenan las palabras no es plana como una hoja de papel; es en realidad curva, como la superficie de una esfera.

Piensa en el vocabulario de la IA como un globo gigante e invisible. Cada palabra es un punto en la superficie de esta bola. Cuando la IA hace una suposición, está apuntando a un lugar en ese globo. El problema es que el método estándar para mezclar suposiciones (llamado "Interpolación Lineal" o LERP) trata al globo como un mapa plano. Si dibujas una línea recta entre dos ciudades en un mapa plano, podrías atravesar directamente el centro de la Tierra. Pero si estás caminando sobre la superficie del globo, tienes que seguir la curva del suelo. El artículo muestra que el método estándar está obligando a la IA a caminar a través del centro de la Tierra, un camino extraño y antinatural que confunde al modelo y lo ralentiza.

El Descubrimiento de "Perdido en la Interpolación"

Los investigadores descubrieron que cuando la IA intenta mezclar sus predicciones usando el viejo método de la línea recta, se "pierde". Midieron el ángulo entre el estado "enmascarado" (el espacio en blanco) y el estado "predicho" (la suposición) y descubrieron que se mantiene en unos constantes 73 grados durante todo el proceso de entrenamiento. También notaron que el "tamaño" (o norma) de los vectores de palabras se mantiene casi exactamente igual, sin importar cuán común o rara sea la palabra. Estas dos pistas son como huellas que demanan que la IA está caminando sobre una hiperesfera (una bola multidimensional), no en un plano plano.

Debido a que la IA vive en una esfera, los autores argumentan que usar líneas rectas para mezclar información es la herramienta equivocada. Es como intentar medir la distancia entre Nueva York y Londres con una regla apoyada sobre una mesa en lugar de una cuerda envuelta alrededor de un globo terráqueo.

La Solución: Enmascaramiento Suave Esférico (S-SM)

Para solucionar esto, el equipo inventó un nuevo método llamado Enmascaramiento Suave Esférico (S-SM). En lugar de dibujar una línea recta a través del centro de la Tierra, el S-SM obliga a la IA a caminar a lo largo de la superficie del globo.

Así es como lo hicieron:

La Caminata por el Globo: En lugar de promediar las suposiciones en una línea recta, utilizaron un truco matemático especial llamado "media de Fréchet" para encontrar el punto promedio en la superficie de la esfera.
La Mezcla Curva: Utilizaron una técnica llamada SLERP (Interpolación Lineal Esférica). Imagina una cuerda estirada entre dos puntos en un globo; el SLERP sigue esa cuerda a lo largo de la curva del globo, sin abandonar nunca la superficie.
El Resultado: Probaron este nuevo método en un modelo de IA de 169 millones de parámetros. Los resultados fueron impresionantes. El nuevo método no solo funcionó; funcionó mejor.

Lo que Dicen los Números

El equipo probó su nuevo método S-SM contra el estándar antiguo (TopK/LERP) y una versión sin ningún tipo de retroalimentación. Lo probaron con diferentes cantidades de "tiempo de pensamiento" (llamados presupuestos de NFE, que van desde 64 hasta 512 pasos).

Mejor Calidad: El nuevo método produjo texto que estaba mucho más cerca de la escritura humana. Midieron esto utilizando una puntuación llamada MAUVE. En presupuestos más altos (como 512 pasos), el S-SM mejoró la puntuación MAUVE hasta 2 veces en comparación con el método antiguo, y entre un 27.5% y un 56.1% en comparación con el enfoque estándar TopK/LERP.
Menos Errores: La IA cometió menos errores confusos. La "perplejidad generativa" (una medida de qué tan sorprendida está la IA por su propio texto) cayó entre un 16.9% y un 19.6% en comparación con la línea base.
Sin Intercambios Negativos: Normalmente, cuando haces que una IA sea más inteligente, se vuelve menos creativa (se repite a sí misma). Pero los autores encontraron que el S-SM mantuvo la "entropía" (una medida de la creatividad y aleatoriedad) exactamente igual que los métodos antiguos. Se volvió más inteligente sin volverse aburrida.

Por Qué Falló el Método Antiguo

El artículo descarta explícitamente la idea de que el método de la línea recta y plana sea simplemente "aceptable" o "suficientemente bueno". Los datos sugieren que es fundamentalmente erróneo para este tipo de IA. Cuando los investigadores observaron el "peso de confianza" (un número que la IA aprende para decidir cuánto confiar en sus propias suposiciones), vieron algo interesante. Bajo el nuevo método S-SM, la IA aprendió a confiar mucho más en su retroalimentación geométrica, estableciéndose en un peso de aproximadamente 0.056, mientras que el método antiguo solo confiaba en 0.030. Esto sugiere que la IA se "sintió" más segura cuando no se le obligaba a caminar a través del centro de la Tierra.

La Conclusión

Este artículo no solo sugiere una nueva idea; proporciona evidencia sólida de que la geometría de los cerebros de la IA es esférica, y que hemos estado usando la matemática incorrecta para hablar con ellos. Al cambiar de las líneas rectas a los caminos curvos (SLERP), los autores demostraron que podemos hacer que estos modelos generen un mejor texto, de forma más rápida, sin perder su chispa. Es un recordatorio de que, a veces, para avanzar, tienes que dejar de caminar en línea recta y empezar a seguir la curva.

Resumen Técnico: Perdido en la Interpolación: Por qué el Feedback Predictivo Falla en los Modelos de Lenguaje de Difusión

Formulación del Problema
Los Modelos de Lenguaje de Difusión con Máscara (MDLM, por sus siglas en inglés) generan texto mediante la denotación iterativa de una secuencia totalmente enmascarada. Para evitar la pérdida de información inherente a las decisiones binarias de desmascarado, se introdujo el Enmascaramiento Suave (Soft-Masking, SM), que reemplaza la elección binaria con una mezcla continua y ponderada por confianza de la incrustación (embedding) del [MASK] y las incrustaciones de los $k$ tokens superiores predichos.

Las formulaciones existentes construyen esta mezcla utilizando Interpolación Lineal (LERP) en el espacio de incrustaciones bruto. Este enfoque asume implícitamente que el espacio de incrustaciones es euclidiano. Sin embargo, los autores identifican un desajuste geométrico crítico: las incrustaciones de tokens entrenadas en los MDLM se concentran en una cáscara hiperesférica de radio casi constante en lugar de llenar el espacio euclidiano ambiental.

El artículo presenta dos diagnósticos empíricos que confirman esta geometría hiperesférica:

Estabilidad de la Norma: Las normas $L_2$ de las incrustaciones de tokens permanecen esencialmente planas a través de cuatro órdenes de magnitud de rango de frecuencia de vocabulario, lo que indica una cáscara de radio constante.
Ángulo Geodésico: El ángulo entre la incrustación normalizada de [MASK] y la media normalizada de las $k$ predicciones superiores se mantiene estable en aproximadamente 73° durante todo el entrenamiento.

En una geometría hiperesférica, la interpolación lineal (una línea recta) corta el interior de la esfera, produciendo un punto fuera de la variedad (manifold). Este punto "fuera de la variedad" no captura con precisión la semántica de la interpolación, lo que conduce a la degradación del entrenamiento y a una calidad de generación subóptima cuando se utiliza LERP.

Metodología: Enmascaramiento Suave Esférico (S-SM)
Los autores proponen el Enmascarmedio Suave Esférico (S-SM) como un reemplazo geométricamente fundamentado para el operador de retroalimentación lineal. El S-SM está diseñado como un reemplazo directo (drop-in) que preserva el objetivo de entrenamiento, las reglas de desmascarado y los cronogramas de confianza de los MDLM existentes, alterando únicamente la primitiva de interpolación.

El operador S-SM realiza tres pasos distintos:

Agregación Esférica: En lugar de una media ponderada euclidiana, las incrustaciones de los $k$ tokens predichos se agregan utilizando una media de Fréchet (específicamente, la media de Karcher) computada intrínsecamente en la hiperesfera unitaria. Esto se aproxima mediante unas pocas iteraciones de flujo de Karcher, partiendo de la predicción del top-1.
Interpolación Esférica: La mezcla entre la dirección del [MASK] y la media de Fréchet agregada se realiza mediante Interpolación Lineal Esférica (SLERP). Esto traza el arco de círculo máximo (geodésica) en la superficie de la esfera en lugar de una cuerda a través del interior.
Restauración de la Norma: El vector resultante se reescala a la norma nativa del token [MASK] antes de ser pasado de nuevo al backbone, asegurando la compatibilidad de la norma con el modelo preentrenado.

El método incluye salvaguardas numéricas (limitación de productos internos y denominadores) para manejar casos donde la máscara y las direcciones objetivo son casi idénticas, recurriendo a una mezcla lineal normalizada en estos casos límite.

Contribuciones Clave

Identificación de la Geometría Hiperesférica: Los autores demuestran que los MDLM operan en una variedad de incrustación hiperesférica, caracterizada por un ángulo estable de $\approx 73^\circ$ entre las direcciones de máscara y predicción y normas de incrustación planas. Esta geometría hace que la interpolación lineal sea geométricamente inválida.
Operador S-SM: La introducción de un reemplazo directo para S-SM que utiliza medias de Fréchet y SLERP para agregar y mezclar incrustaciones mientras respeta la estructura de la variedad.
Validación Empírica: Una evaluación exhaustiva que muestra que el S-SM evita la degradación del entrenamiento inducida por LERP y mejora consistentemente la calidad de la generación en diversos presupuestos de muestreo y semillas aleatorias.

Resultos
Los autores evaluaron el S-SM en el preentrenamiento continuo de un checkpoint de MDLM de 169 millones de parámetros liberado sobre OpenWebText. Las comparaciones se realizaron contra un baseline de MDLM vanilla (sin feedback) y el baseline estándar de TopK/LERP.

Perplejidad Generativa (Gen PPL): El S-SM logró consistentemente una perplejidad más baja, mostrando mejoras del 16.9–19.6% sobre el baseline vanilla y del 12.2–14.2% sobre TopK/LERP en todos los presupuestos de NFE (Número de Evaluaciones de Función) probados ( $T \in \{64, 128, 256, 512\}$ ).
Puntuación MAUVE: El S-SM entregó ganancias significativas en la similitud de distribución (MAUVE). En presupuestos de inferencia más grandes ( $T=256, 512$ ), casi duplicó la puntuación MAUVE del baseline vanilla y mejoró sobre TopK/LERP en un 27.5–56.1%.
Dinámicas de Entrenamiento: A diferencia de LERP, que indujo una degradación del entrenamiento (perplejidad más alta que el baseline sin feedback), el S-SM mantuvo o mejoró la perplejidad de entrenamiento.
Confianza Aprendida: El peso de mezcla aprendido $\lambda$ convergió a un valor más alto bajo S-SM ( $\lambda \approx 0.056$ ) en comparación con LERP ( $\lambda \approx 0.030$ ), lo que sugiere que el optimizador deposita mayor confianza en el feedback geométricamente bien formado.
Entropía: La entropía de salida se mantuvo comparable entre configuraciones, lo que indica que las ganancias de calidad no se lograron a costa de la diversidad.

Significancia y Reivindicaciones
El artículo afirma que el fallo de la retroalimentación predictiva en los MDLM actuales no se debe al concepto de enmascaramiento suave en sí mismo, sino a la incorrecta primitiva de interpolación (LERP) utilizada en un espacio hiperesférico. Al alinear el mecanismo de retroalimentación con la geometría intrínseca del espacio de incrustaciones, el S-SM desbloquea todo el potencial del enmascaramiento suave.

Los autores enfatizan que el S-SM es una modificación mínima y directa que no requiere cambios en la arquitectura del backbone, los objetivos de entrenamiento o los cronogramas de desmascarado. Los resultados sugieren que respetar la naturaleza hiperesférica de las incrustaciones de tokens es crucial para la estabilidad y el rendimiento de los modelos de lenguaje basados en difusión, particularmente cuando se utilizan mecanismos de retroalimentación continua.

Más como este