From Score Approximation to Distribution Approximation in Score-Based Diffusion Models

Resumen Técnico: De la Aproximación de la Puntuación a la Aproximación de la Distribución en Modelos de Difusión Basados en Puntuación

Planteamiento del Problema
Los modelos de difusión basados en puntuación (score-based diffusion models) han logrado un éxito empírico en el modelado generativo; sin embargo, sus fundamentos de aproximación teórica siguen incompletos. Si bien los teoremas clásicos de aproximación universal garantizan que las redes neuronales pueden aproximar la función de puntuación ($\nabla_x \log p_t(x)$) de manera arbitraria, no ha quedado claro si tales garantías a nivel de función se traducen en garantías para la aproximación de las distribuciones de probabilidad generadas por el proceso de difusión inversa. Específicamente, existe una falta de conexión cuantitativa rigurosa entre el error $L^2$ de la función de puntuación aprendida y la divergencia de Kullback–Leibler (KL) entre la distribución de datos objetivo y la distribución generada por el proceso inverso.

Metodología
El artículo establece un vínculo cuantitativo riguroso entre la aproximación de la puntuación y la aproximación de la distribución a través de un marco analítico de tres pasos que combina la teoría de la aproximación, el análisis estocástico y la teoría de la información:

1. Análisis de Medida de Trayectoria vía el Teorema de Girsanov: Los autores analizan la relación entre la verdadera ecuación diferencial estocástica (SDE) de tiempo inverso y la SDE de tiempo inverso aprendida (donde la verdadera puntuación es reemplazada por una aproximación de red neuronal $s_\theta$). Al aplicar el teorema de Girsanov en el espacio de trayectorias, derivan una identidad explícita para la divergencia KL entre las medidas de trayectoria $P$ (verdadera) y $Q_\theta$ (aprendida). Esta identidad descompone la divergencia de la trayectoria en dos componentes: la divergencia KL entre la distribución terminal del proceso hacia adelante ($p_T$) y la distribución previa utilizada para inicializar el proceso inverso ($p_{prior}$), y un término integral que representa el error $L^2$ integrado en el tiempo de la aproximación de la puntuación, ponderado por el coeficiente de difusión $g(t)$.

2. Proyección a la Distribución de Datos vía la Desigualdad de Procesamiento de Datos: Para conectar la divergencia de la trayectoria con la distribución de datos final, los autores aplican la desigualdad de procesamiento de datos para la entropía relativa. Demuestran que la divergencia KL entre las distribuciones marginales en el tiempo $t=0$ (el objetivo $\mu$ y la generada $\mu_\theta$) está acotada superiormente por la divergencia KL entre las correspondientes medidas de trayectoria. Este paso utiliza la derivada de Radon–Nikodym y la desigualdad de Jensen para mostrar que proyectar las medidas de trayectoria sobre el estado inicial no puede aumentar la divergencia.

3. Integración con la Aproximación Universal: Los autores combinan los límites derivados con el teorema de aproximación universal de Hornik. Demuestran que para cualquier $\epsilon > 0$, existe una red neuronal $s_\theta$ (que satisface condiciones de regularidad específicas como la continuidad Lipschitz global) que aproxima la verdadera función de puntuación dentro de un error $L^2(\mu)$ de $\epsilon$.

Resultados Clave
El resultado central es el Teorema 1, que proporciona un límite superior explícito sobre el error de aproximación de la distribución. El teorema establece que si una red neuronal $s_\theta$ aproxima la verdadera función de puntuación $s$ tal que $\|s_\theta - s\|_{L^2(\mu)}^2 < \epsilon$, entonces la divergencia KL entre la distribución de datos objetivo $\mu$ y la distribución generada $\mu_\theta$ satisface:

$$KL(\mu \| \mu_\theta) < \delta + \frac{1}{2}g_{max}^2 \epsilon$$

Donde:

• $\delta = KL(p_T \| p_{prior})$ cuantifica el desajuste irreducible entre la distribución terminal del proceso hacia adelante y la distribución previa del proceso inverso.
• $g_{max} = \max_{t \in [0,T]} |g(t)|$ es el coeficiente máximo del esquema de ruido de difusión.
• $\epsilon$ es el error de aproximación cuadrático $L^2$ de la función de puntuación.

Este resultado se sostiene bajo los supuestos de continuidad Lipschitz global para las funciones de deriva y de puntuación (cumplidos por arquitecturas comunes de redes neuronales con activaciones específicas) y la condición de Novikov para el martingala exponencial.

Significancia y Reivindicaciones
El artículo afirma proporcionar una base teórica rigurosa que vincula el poder de expresión de las redes neuronales con la capacidad generativa de los modelos de difusión basados en puntuación. Específicamente:

• Establece que la aproximación arbitrariamente precisa de la función de puntuación en el sentido $L^2$ implica una divergencia KL arbitrariamente pequeña en la distribución generada, salvo por el desajuste irreducible de la distribución previa.
• El trabajo complementa los análisis recientes de aprendizaje estadístico (por ejemplo, Chen et al.) que se centran en entornos de muestras finitas y supuestos de datos estructurales. En su lugar, este artículo ofrece una perspectiva general de aproximación teórica en el espacio euclidiano, independiente de estructuras de datos específicas.
• El límite derivado ofrece una justificación simple y explícita para el aprendizaje basado en puntuación: mejorar la precisión de la red de puntuación mejora directamente la calidad de la distribución generada en el sentido KL.

Los autores señalan que, aunque el análisis se centra en SDE de tiempo continuo, el marco sugiere posibles extensiones a modelos de tiempo discreto (DDPMs), ODEs de flujo de probabilidad y espacios de datos no euclidianos, aunque esto queda para trabajos futuros.