The Loss Floor of Denoising Score Matching: Fisher Geometry from Schrödinger Bridges

En los últimos años, ha surgido un nuevo tipo de inteligencia artificial capaz de crear imágenes, vídeos y sonidos asombrosamente realistas a partir de simples descripciones de texto. Estos sistemas, conocidos como modelos de difusión, funcionan aprendiendo a revertir un proceso de destrucción gradual. Imagine tomar una fotografía nítida y añadirle lentamente ruido estático hasta que la imagen no sea más que un caos granulado e irreconocible. Un modelo de difusión aprende lo contrario: partiendo de puro ruido, aprende cómo eliminar gradualmente el estático, paso a paso, hasta que reaparece una imagen clara. Para hacer esto, el modelo es entrenado para predecir cómo empujar una imagen ruidosa de vuelta hacia la claridad. Este proceso de entrenamiento se basa en un objetivo matemático llamado "score" (puntuación o gradiente), que esencialmente señala la dirección hacia los datos limpios. Durante años, los investigadores han utilizado un método estándar para enseñar esta habilidad al modelo, asumiendo que si el modelo aprende a predecir la dirección correctamente en promedio, eventualmente dominará la tarea de generar nuevas imágenes.

Sin embargo, un nuevo estudio revela que este método de entrenamiento estándar contiene un costo oculto e inevitable que ha sido pasado por alto. Los investigadores descubrieron que el objetivo que el modelo intenta aprender no es una dirección única y fija, sino una variable aleatoria que cambia cada vez que el modelo observa una imagen ruidosa. Debido a que el modelo se ve obligado a adivinar este objetivo cambiante, el proceso de entrenamiento siempre incluye una cantidad base de error que ningún aprendizaje mejor o hardware más potente podrá jamás eliminar. Este error no es un fallo en el diseño del modelo; es una propiedad intrínseca de las matemáticas utilizadas para enseñarle. El estudio identifica este error inevitable como la traza de la métrica de Fisher–Rao de los datos, que mide cuánta información sobre la imagen original se pierde a medida que se añade el ruido. Al aislar este costo oculto, los investigadores han demostrado que comparar los "scores" de entrenamiento brutos de diferentes modelos puede ser engañoso, ya que el score depende fuertemente de cómo se añadió el ruido, no solo de qué tan bueno es el modelo.

El núcleo de este descubrimiento reside en comprender la diferencia entre lo que el modelo necesita saber y lo que se le pide realmente aprender. El objetivo ideal para el modelo es aprender la dirección promedio que apunta hacia todas las posibles imágenes limpias que podrían haber producido un estado ruidoso específico. Esta dirección promedio es el verdadero "score" de la distribución de los datos. En la práctica, sin embargo, calcular este promedio es imposible. En su lugar, el proceso de entrenamiento pide al modelo que adivine la dirección basándose en una única imagen limpia y aleatoria que fue utilizada para crear el ruido. Aunque esta suposición es correcta en promedio tras muchos intentos, cualquier suposición individual es ruidosa e incierta. El estudio demuestra que el error adicional introducido por el uso de estas suposiciones aleatorias es exactamente igual a la traza de la métrica de Fisher–Rao de la familia de puntos finales condicionales. En términos sencillos, esto es una medida de cuánto nos dice la imagen ruidosa sobre la imagen limpia específica de la que proviene. A medida que el ruido aumenta, esta información se desvanece, y el estudio muestra que el error de entrenamiento total se acumula precisamente al ritmo en que se pierde esta información.

Este hallazgo cambia la forma en que debemos ver el entrenamiento de estos poderosos sistemas de IA. Los investigadores demostraron que el error total reportado durante el entrenamiento es en realidad la suma de dos partes distintas: el error que el modelo puede corregir mediante un mejor aprendizaje, y el error irreducible causado por la aleatoriedad del objetivo de entrenamiento. Esta parte irreducible, que ellos llaman "suelo de pérdida" (loss floor), depende enteramente de los datos y del cronograma de ruido utilizado durante el entrenamiento, no del modelo en sí. Por consiguiente, si dos modelos son entrenados con diferentes cronogramas de ruido o diferentes rangos de ruido, sus scores de entrenamiento brutos no pueden compararse directamente. Un modelo entrenado con un rango de ruido más amplio podría parecer tener un error mayor simplemente porque tiene que pagar un "suelo" de costo más grande, incluso si en realidad es un mejor modelo. El estudio proporciona una forma de restar este costo oculto, revelando el verdadero rendimiento del modelo. En las pruebas, eliminar este suelo corrigió la clasificación de los modelos, mostrando que el mejor modelo era, de hecho, el mejor, un hecho que antes estaba oscurecido por el ruido matemático del proceso de entrenamiento.

La investigación también conecta este error de entrenamiento con la geometría fundamental de los datos. El estudio muestra que el error irreducible está relacionado con la forma del espacio donde residen los datos. Por ejemplo, si los datos consisten en imágenes que se encuentran en una superficie de menor dimensión dentro de un espacio de alta dimensión, la tasa a la que el error crece a medida que se añade el ruido revela la dimensionalidad de esa superficie. Esto significa que el proceso de entrenamiento contiene en sí mismo una medida integrada de la complejidad de los datos. Además, el estudio aclza que la forma en que programamos el ruido —qué tan rápido lo añadimos y cuánto pesamos diferentes etapas del proceso— no cambia la cantidad total de este error irreducible. Solo cambia dónde ocurre el error a lo largo del camino. Esto sugiere que, si bien podemos reorganizar el proceso de entrenamiento para hacerlo más eficiente, no podemos eliminar el costo fundamental de aprender a partir de datos ruidosos.

Una de las implicaciones más prácticas de este trabajo es una nueva forma de evaluar y comparar diferentes modelos de IA. Los autores muestran que, al calcular y restar este suelo oculto, los investigadores pueden obtener una medida real de qué tan bien está aprendiendo un modelo. Probaron esto con datos sintéticos donde la calidad de los modelos ya era conocida. Al observar los números brutos de entrenamiento, la clasificación de los modelos a veces se invertía, haciendo que un modelo peor pareciera mejor simplemente debido al cronograma de ruido utilizado. Una vez restado el suelo, la clasificación correcta se restauró. Esto sugiere que el estándar actual para reportar el progreso del entrenamiento es incompleto y que las comparaciones futuras deberían tener en cuenta este costo geométrico. El estudio no propone un nuevo algoritmo de entrenamiento ni una nueva forma de generar imágenes, sino una comprensión más clara de los existentes. Expone una capa oculta del proceso de entrenamiento que siempre estuvo allí, esperando ser medida.

Los investigadores también exploraron cómo este concepto se aplica a otros tipos de datos, como el texto, donde el proceso implica enmascarar palabras en lugar de añadir ruido gaussiano. Encontraron que un costo oculto similar existe también allí, ligado a la entropía, o incertidumbre, de los datos. Esto indica que el principio es universal en diferentes tipos de modelos generativos. El estudio concluye que la geometría de los datos, el flujo de información y el objetivo de entrenamiento son todas descripciones diferentes de la misma realidad subyacente. El "suelo de pérdida" no es un error que deba corregirse, sino una característica del universo de la información que debe ser reconocida. Al separar la capacidad de aprendizaje del modelo del costo inevitable del método de entrenamiento, obtenemos una imagen más honesta y precisa de lo que estos sistemas de inteligencia artificial son realmente capaces de lograr.