📊 statistics

What is the long-run distribution of stochastic gradient descent? A large deviations analysis

Este artículo emplea la teoría de grandes desviaciones para demostrar que la distribución a largo plazo del descenso de gradiente estocástico en problemas no convexos se asemeja a una distribución de Boltzmann-Gibbs, lo que hace que el algoritmo favorezca exponencialmente las regiones críticas con estados de energía más bajos sobre las áreas no críticas, los máximos locales y los puntos de silla.

Autores originales: Waïss Azizian, Franck Iutzeler, Jérôme Malick, Panayotis Mertikopoulos

Publicado 2026-05-19

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Waïss Azizian, Franck Iutzeler, Jérôme Malick, Panayotis Mertikopoulos

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando encontrar el punto más bajo en una vasta, neblinosa e increíblemente compleja cordillera. Esta cordillera representa el "paisaje de pérdida" de un problema de aprendizaje automático. Los valles son buenas soluciones (bajo error), los picos son malas soluciones (alto error) y los puntos planos y complicados entre ellos son "puntos de silla" (lugares que parecen un valle desde una dirección pero una colina desde otra).

Tu objetivo es encontrar el valle más profundo (el mínimo global). Tienes una herramienta llamada Descenso de Gradiente Estocástico (SGD). Imagina el SGD como un excursionista que intenta caminar cuesta abajo. Sin embargo, este excursionista está ligeramente borracho o camina por un camino irregular y tembloroso. Cada vez que da un paso, obtiene una lectura ruidosa y ligeramente incorrecta sobre qué dirección es hacia abajo.

Durante décadas, supimos que este excursionista eventualmente dejaría de moverse mucho (convergencia), pero no sabíamos dónde se establecería finalmente. ¿Quedaría atrapado en un valle poco profundo? ¿Deambularía sin rumbo cerca de un punto de silla? ¿O encontraría el valle más profundo?

Este artículo responde a esa pregunta tratando el viaje del excursionista como un juego de física.

La Gran Idea: El Excursionista es una Molécula de Gas

Los autores se dieron cuenta de que el comportamiento a largo plazo de este "excursionista borracho" (SGD) se parece exactamente al comportamiento de las moléculas de gas en una habitación.

La Habitación: Toda la cordillera (el espacio de estados del problema).
Las Moléculas: La posición del excursionista en un momento dado.
La Temperatura: El tamaño del paso (qué tan grandes son los pasos del excursionista).
- Si el tamaño del paso es grande, el excursionista está "caliente" y enérgico. Rebota salvajemente, salta sobre pequeñas colinas y explora toda la habitación.
- Si el tamaño del paso es diminuto, el excursionista está "frío". Se mueve lentamente y queda atrapado en la depresión más cercana.
La Energía: La altura de la montaña en ese punto (el valor de la función objetivo).

El artículo demuestra que, después de mucho tiempo, el excursionista no elige un punto al azar. Se establece en un patrón específico llamado distribución de Boltzmann-Gibbs. En lenguaje llano, esto significa:

Los puntos bajos están abarrotados: El excursionista pasa la mayor parte del tiempo en los valles más profundos.
Los puntos altos están vacíos: El excursionista visita raramente los picos.
La "Temperatura" importa: Cuanto mayor sea el tamaño del paso (más caliente el sistema), más probable será que el excursionista salte de un valle poco profundo y explore terrenos más altos.

Los Cuatro Descubrimientos Clave

El artículo desglosa exactamente dónde termina el excursionista utilizando cuatro reglas principales:

1. El Excursionista Ama los Puntos "Críticos"
El excursionista pasa casi todo su tiempo en "regiones críticas". Estos son los puntos planos donde el terreno está perfectamente nivelado (matemáticamente, donde el gradiente es cero). Esto incluye los fondos de los valles, las cimas de los picos y los complicados puntos de silla. El excursionista casi nunca se detiene en una pendiente pronunciada porque la gravedad (las matemáticas) lo empuja fuera inmediatamente.

2. El "Estado Fundamental" es el Favorito
Entre todos los puntos planos, hay un conjunto específico de valles que el excursionista visita exponencialmente más a menudo que cualquier otro punto. Los autores llaman a esto el "estado fundamental".

Giro Crucial: Este "estado fundamental" no siempre es el valle absolutamente más profundo de toda la cordillera. Depende del ruido (el temblor del camino). A veces, un valle ligeramente más alto es "más plano" o "más seguro" frente al ruido, convirtiéndolo en el lugar de descanso preferido. El excursionista elige el punto que minimiza una "energía" específica que combina la profundidad del valle y cómo el ruido lo afecta.

3. La Jerarquía de Visitas
Si el excursionista no está en el lugar absolutamente favorito, aún sigue una jerarquía estricta:

Visita mínimos locales (pequeños valles) mucho más a menudo que los puntos de silla (los complicados puntos planos).
Visita los puntos de silla mucho más a menudo que los máximos locales (picos).
Básicamente, el excursionista evita los picos y los puntos de silla, prefiriendo descansar en los valles. Si visita un punto de silla, es solo porque está temporalmente atrapado allí antes de que el ruido lo empuje hacia un valle.

4. El Cálculo de la "Energía"
El artículo proporciona una fórmula para calcular exactamente qué tan probable es que el excursionista esté en cualquier valle específico. Es como una tarjeta de puntuación:

Puntuación = (Profundidad del Valle) + (Cómo interactúa el Ruido con el Valle).
Cuanto menor sea la puntuación, más tiempo pasa el excursionista allí.
El "tamaño del paso" actúa como el dial de temperatura. Si bajas el dial (pasos más pequeños), el excursionista se vuelve muy exigente y solo visita los puntos con la puntuación absolutamente más baja. Si lo subes, se vuelve más aventurero y también visita puntos con puntuaciones más altas.

El "Excursionista Borracho" vs. El "Excursionista Perfecto"

En un mundo perfecto (sin ruido), un excursionista simplemente rodaría por el camino más empinado y quedaría atrapado en el primer valle que encontrara. Pero como nuestro excursionista está "borracho" (ruidoso), puede chocar accidentalmente su camino fuera de un valle poco profundo y encontrar uno más profundo.

El artículo muestra que esta "embriaguez" no es un error; es una característica que crea una distribución predecible. El excursionista no deambula simplemente al azar; deambula estadísticamente. Con el tiempo, puedes predecir exactamente qué porcentaje del tiempo estará el excursionista en cualquier valle específico basándote en la "temperatura" (tamaño del paso) y la "energía" (la forma del valle y el ruido).

Resumen

Este artículo nos dice que el comportamiento a largo plazo del algoritmo de aprendizaje automático más popular (SGD) no es caótico. Se comporta como un sistema físico en equilibrio térmico.

El Algoritmo: Un excursionista intentando encontrar el fondo de una montaña.
El Ruido: Un suelo tembloroso que hace que el excursionista tropiece.
El Tamaño del Paso: La temperatura de la habitación.
El Resultado: El excursionista se establece en un patrón predecible donde pasa la mayor parte del tiempo en los valles "mejores", definidos por una mezcla de qué tan profundo es el valle y cómo afecta el temblor.

Los autores no solo adivinaron esto; utilizaron matemáticas avanzadas (Teoría de Grandes Desviaciones) para demostrar que esta analogía física es exactamente cómo se comporta el algoritmo a largo plazo.

Resumen Técnico: La Distribución a Largo Plazo del Descenso de Gradiente Estocástico

1. Planteamiento del Problema

El artículo aborda una pregunta abierta fundamental en la teoría del Descenso de Gradiente Estocástico (SGD): ¿Qué regiones del espacio de estados son visitadas con mayor frecuencia por el SGD a largo plazo, y con qué magnitud?

Aunque la literatura existente proporciona garantías de convergencia para el SGD (por ejemplo, cotas sobre la norma cuadrática esperada del gradiente), estos resultados no caracterizan la distribución estacionaria ni los puntos críticos específicos donde se asientan las iteraciones. En entornos no convexos, que son prevalentes en el aprendizaje automático moderno, el paisaje de pérdida es complejo, conteniendo numerosos mínimos locales, puntos de silla y máximos locales. Trabajos anteriores han establecido que el SGD evita los puntos de silla estrictos, pero no han cuantificado la probabilidad relativa de visitar diferentes componentes críticos ni han caracterizado la distribución de las iteraciones lejos del mínimo global.

Los autores tienen como objetivo cuantificar la distribución a largo plazo del SGD en problemas generales no convexos, buscando específicamente comprender la jerarquía de regiones críticas visitadas por el algoritmo.

2. Metodología

El artículo emplea un marco matemático riguroso basado en la Teoría de Grandes Desviaciones y la teoría de los sistemas dinámicos perturbados aleatoriamente, extendiendo específicamente la teoría de Freidlin–Wentzell a sistemas de tiempo discreto sobre dominios no acotados.

Pasos Técnicos Clave:

Principio de Grandes Desviaciones (PGD) para SGD:
- Los autores establecen un PGD para el proceso de SGD interpolando las iteraciones discretas en una trayectoria de tiempo continuo.
- Definen un funcional de acción $S_T[\gamma]$ basado en el lagrangiano del ruido y el gradiente de la función objetivo. Este funcional mide el "costo" o la "probabilidad" de que una trayectoria $\gamma$ se desvíe del flujo de gradiente determinista.
- A diferencia de enfoques anteriores que dependen de Ecuaciones Diferenciales Estocásticas (EDE), las cuales no capturan el comportamiento a largo plazo debido a las tasas de convergencia lentas a medida que el tamaño de paso $\eta \to 0$ , este enfoque analiza directamente la dinámica discreta.
Costos de Transición y Cuasi-Potencial:
- El conjunto crítico de la función objetivo $f$ se descompone en un número finito de componentes conexos $K_i$ .
- Los autores definen un cuasi-potencial $B(K_i, K_j)$ que representa el costo de acción mínimo requerido para que las iteraciones del SGD transiten del componente $K_i$ al componente $K_j$ .
- Estos costos forman un grafo dirigido ponderado (el grafo de transición) donde los vértices son los componentes críticos y los pesos de las aristas son los costos de transición.
Niveles de Energía y Medidas Invariantes:
- La "energía" $E_i$ de un componente crítico $K_i$ se define como el peso total mínimo de un árbol de expansión en el grafo de transición enraizado en $i$ .
- Utilizando la teoría de Freidlin–Wentzell adaptada para tiempo discreto, los autores derivan el comportamiento asintótico de la medida invariante (o medida de ocupación media) del proceso de SGD.

3. Contribuciones y Resultados Clave

El artículo establece una jerarquía de resultados (Teoremas 1–4) que describen la distribución a largo plazo del SGD:

Concentración en Regiones Críticas (Teorema 3): A largo plazo, es exponencialmente más probable encontrar las iteraciones del SGD en la vecindad del conjunto crítico de $f$ que en regiones no críticas. Específicamente, la probabilidad de estar fuera de una $\delta$ -vecindad del conjunto crítico decae como $1 - e^{-c/\eta}$ .
Distribución de Boltzmann–Gibbs (Teorema 1): La masa de probabilidad asignada a un componente crítico específico $K_i$ sigue una distribución de Boltzmann–Gibbs aproximada:
$\mu_\infty(U_i) \propto \exp\left( -\frac{E_i}{\eta} \right)$
donde $E_i$ es el nivel de energía del componente y $\eta$ actúa como la "temperatura" del sistema.
Dominio de los Minimadores (Teorema 2): Los componentes críticos no minimizadores (máximos locales o puntos de silla) son exponencialmente menos propensos a ser visitados que los componentes minimizadores. Específicamente, para cualquier componente no minimizador $K$ , existe un componente minimizador $K'$ tal que la relación de sus probabilidades de visita decae exponencialmente con $1/\eta$ .
Concentración en Estados Fundamentales (Teorema 4): Las iteraciones se concentran exponencialmente alrededor del "estado fundamental" del sistema: el conjunto de componentes críticos con la energía mínima $E_i$ $E_{i}$ .
- Distinción Crucial: El estado fundamental del sistema de SGD (minimizar $E_i$ ) no necesariamente coincide con el mínimo global de la función objetivo $f$ . El paisaje de energía está moldeado tanto por la función objetivo como por las estadísticas del ruido.

Caso Específico: Ruido Gaussiano

Para el caso de ruido gaussiano con varianza $\sigma^2$ , los autores derivan una expresión en forma cerrada para los niveles de energía:
$E_i \approx \frac{2 f(K_i)}{\sigma^2}$
En este escenario específico, la distribución a largo plazo se asemeja a la medida de Gibbs estándar $\exp(-f(x)/\eta_{eff})$ , donde la temperatura efectiva es proporcional al tamaño de paso y a la varianza del ruido. Sin embargo, para modelos de ruido generales (por ejemplo, aquellos dependientes del gradiente o la posición), el paisaje de energía puede diferir significativamente del paisaje de la función objetivo.

4. Significado y Afirmaciones

Los autores afirman que este trabajo proporciona la primera descripción de la medida invariante del SGD en entornos no convexos generales, avanzando más allá del análisis de convergencia local o la evitación de puntos de silla.

Analogía Termodinámica: El artículo establece una analogía directa entre el SGD y la termodinámica de equilibrio. El tamaño de paso $\eta$ juega el papel de la temperatura, determinando la facilidad de las transiciones entre componentes críticos. La "energía" de un componente determina su probabilidad de ser visitado.
Más Allá de los Mínimos Globales: Los resultados desafían la intuición de que el SGD siempre converge al mínimo global. En su lugar, el SGD converge al "estado fundamental" definido por la interacción entre la función objetivo y las estadísticas del ruido. Un mínimo local con una geometría específica (por ejemplo, planitud) y una interacción favorable con el ruido puede ser visitado con mayor frecuencia que un mínimo global más profundo.
Generalidad: El marco se aplica a objetivos no convexos generales y diversos modelos de ruido (incluyendo SGD por mini-lotes y ruido inyectado), siempre que el ruido satisfaga condiciones de cola sub-gaussiana y la relación señal-ruido se comporte adecuadamente en el infinito.

El artículo concluye que comprender la distribución a largo plazo requiere analizar la "energía" de los componentes críticos, la cual es un funcional tanto del paisaje de pérdida como de la estructura del ruido, en lugar de simplemente el valor de la función de pérdida. Esto proporciona una base teórica para entender por qué el SGD podría preferir ciertas soluciones sobre otras en el aprendizaje profundo, incluso si esas soluciones no son los mínimos globales del riesgo empírico.