Resumen Técnico: El Borde de la Estabilidad Moldea Selectivamente el Aprendizaje a través de la Distribución de Datos

1. Planteamiento del Problema

La literatura existente sobre el Borde de la Estabilidad (EoS, por sus siglas en inglés) lo trata principalmente como una propiedad global de la optimización, donde el autovalor superior de la Hessiana se autoestabiliza cerca del umbral $2/\eta$ (donde $\eta$ es la tasa de aprendizaje). Si bien la dinámica de este régimen —caracterizada por oscilaciones de signo alternante y una deriva correctiva lenta— está bien documentada, las consecuencias funcionales de operar en este umbral siguen siendo poco claras. Específicamente, se desconoce si la restricción de estabilidad proporciona un beneficio uniforme o si moldea diferencialmente el aprendizaje a través de diferentes subconjuntos de los datos de entrenamiento. La pregunta central es: ¿Induce el régimen EoS un sesgo de aprendizaje selectivo y, de ser así, qué propiedades geométricas y dinámicas determinan qué subconjuntos de datos se benefician?

2. Metodología

2.1 Configuración Experimental y Taxonomía de Prototipos

Los autores instancian un marco experimental controlado utilizando una tarea de clasificación binaria en CIFAR-10 (Automóvil vs. Camión) con un MLP de dos capas ocultas entrenado mediante descenso de gradiente de lote completo (full-batch). Para aislar los efectos de la geometría de los datos, definen una taxonomía de prototipos que particiona la distribución de entrenamiento en cuatro grupos basados en su posición relativa a los centroides de clase ($\mu_c$) y la consistencia de las etiquetas, independientemente del modelo entrenado:

1. Inliers (Valores internos): Puntos de alta densidad cerca del centroide de la clase con etiquetas correctas.
2. Boundary (Frontera): Puntos dentro de la distribución cerca de la frontera interclase (alta ambigüedad de etiqueta).
3. Input-outliers (Valores atípicos de entrada): Entradas geométricamente atípicas (lejos de $\mu_c$) con etiquetas correctas.
4. Output-outliers (Valores atípicos de salida): Entradas de alta densidad asignadas con etiquetas incorrectas (construidas sintéticamente).

2.2 Intervención de Ramificación (Identificación Causal)

Para identificar causalmente el efecto de permanecer en el régimen EoS versus salir de él, los autores emplean una intervención de ramificación:

• Rama Base (Baseline Branch): Continúa el entrenamiento con la tasa de aprendizaje original $\eta$, permaneciendo en el régimen EoS.
• Rama de Salida (Exit Branch): Al inicio de EoS (detectado cuando el autovalor superior de la Hessiana $\lambda_1$ alcanza $2/\eta$), la tasa de aprendizaje se reduce a la mitad ($\eta \to \eta/2$). Esto eleva el umbral de estabilidad a $4/\eta$, permitiendo que el optimizador salga del régimen EoS.
• Comparación: Al comparar la divergencia en las pérdidas por grupo ($\ell_k$) entre las dos ramas tras la intervención, los autores aíslan el impacto causal de la restricción de estabilidad de EoS.

2.3 Aislamiento de Mecanismos

Los autores prueban dos condiciones necesarias hipotetizadas para que un subconjunto se beneficie de EoS:

1. Alineación Direccional: El gradiente agregado del subconjunto debe alinearse con el autovector superior de la Hessiana ($v_1$). Esto se prueba construyendo "input-outliers de dirección aleatoria" donde se preserva la distancia de desplazamiento, pero la dirección se aleatoriza, destruyendo la alineación coherente.
2. Persistencia del Gradiente: El subconjunto debe mantener una magnitud de gradiente no nula. Esto se prueba comparando la pérdida de Error Cuadrático Medio (MSE) (donde los gradientes persisten) frente a la pérdida de Entropía Cruzada (CE) (donde los gradientes desaparecen para puntos clasificados con confianza).

3. Resultados Clave

3.1 Compromiso de Aprendizaje Selectivo

La intervención de ramificación revela que EoS es selectivo, no global. La restricción de estabilidad redistribuye el esfuerzo de optimización de manera desigual:

• Beneficiarios: Los subconjuntos cuyos gradientes se alinean con $v_1$ y persisten (por ejemplo, input-outliers bajo MSE, output-outliers bajo CE) muestran una reducción acelerada de la pérdida en la rama EoS en comparación con la rama de salida.
• Supresores: Los subconjuntos con gradientes ortogonales o magnitudes evanescentes (por ejemplo, inliers y puntos de frontera bajo ciertas condiciones) muestran un progreso suprimido en la rama EoS en relación con la rama de salida.
• Este compromiso se replica a través de arquitecturas (CNN, ResNet), optimizadores (SGD, Momentum) y pares de clases.

3.2 Mecanismo: Alineación $\times$ Persistencia

Dos condiciones son conjuntamente necesarias para que un grupo capture la ventaja de EoS:

1. Alineación: El gradiente agregado del grupo debe alinearse con el autovector superior de la Hessiana ($v_1$).
   • Evidencia: Cuando los input-outliers se desplazan en direcciones aleatorias (preservando la distancia pero destruyendo la alineación), su influencia de curvatura $(\nabla \ell_k \cdot v_1)^2$ colapsa en un orden de magnitud, y la ventaja de EoS desaparece.
2. Persistencia: El grupo debe mantener una magnitud de gradiente no nula.
   • Evidencia: Bajo la pérdida de Entropía Cruzada (CE), los gradientes para los input-outliers clasificados con confianza se saturan (desaparecen). Consecuentemente, la ventaja de EoS se desplaza hacia los output-outliers, cuyos gradientes permanecen activos debido a la inconsistencia de las etiquetas, a pesar de tener potencialmente una menor alineación.

3.3 La Geometría Determina al Beneficiario

El subconjunto que se beneficia de EoS está determinado por la composición geométrica de la distribución de datos:

• En la configuración estándar de CIFAR-10, los input-outliers (más alejados de los centroides) dominan $v_1$ y se benefician.
• En un par de clases más difícil (Gato vs. Perro) o con diferentes parámetros de construcción de valores atípicos, los puntos de frontera pueden convertirse en el grupo más distante, dominando $v_1$ y convirtiéndose en el principal beneficiario.
• Datos Naturales: En la distribución natural de CIFAR-10, emerge una correlación positiva en el inicio de EoS entre la distancia al centroide y la alineación con $v_1$, confirmando que los valores atípicos geométricos impulsan naturalmente el modo inestable.

3.4 Implicaciones de Generalización y Robustez

El artículo presenta evidencia preliminar de que la selectividad durante el entrenamiento se transfiere al comportamiento en el tiempo de prueba:

• Robustez Adversaria: EoS mejora la robustez en los puntos de frontera solo cuando los puntos de frontera dominan $v_1$. Si los input-outliers dominan, la rama EoS tiene un peor desempeño en la robustez de frontera porque el presupuesto de optimización se desvía.
• Generalización Fuera de la Distribución (OOD): EoS mejora el rendimiento OOD en entradas extrapoladas solo cuando esas entradas dominan $v_1$ durante el entrenamiento.

4. Marco Teórico

Los autores extienden el marco de autoestabilización (Damian et al., 2023) desde la pérdida global hacia las pérdidas por subconjunto. Derivan que la deriva promedio de ciclo en el régimen EoS incluye un término adicional proporcional a $-\nabla S$ (donde $S$ es la nitidez o sharpness). El efecto diferencial en un subconjunto $k$ está gobernado por el selector:
$$Q_k = \langle \nabla \ell_k, \nabla S \rangle$$
Bajo una aproximación de un solo modo, este selector es proporcional a la proyección al cuadrado del gradiente del subconjunto sobre el autovector superior:
$$C_k = (\nabla \ell_k \cdot v_1)^2 = \|\nabla \ell_k\|^2 \cos^2 \theta_k$$
Esta descomposición confirma que tanto la alineación direccional ($\cos^2 \theta_k$) como la persistencia de la magnitud del gradiente ($\|\nabla \ell_k\|^2$) son requeridas para que un subconjunto experimente la deriva de EoS.

5. Significado y Reivindicaciones

El artículo afirma cambiar la comprensión de EoS de un límite de estabilidad escalar a un mecanismo que gobierna la asignación del aprendizaje a través de la distribución de datos.

• Reencuadre de la Planitud (Flatness): Los autores argumentan que la "planitud" no es una propiedad escalar de la solución, sino una propiedad direccional determinada por la geometría de los datos. El beneficio funcional de la baja curvatura depende enteramente de qué subconjunto domina la dirección propia superior de la Hessiana.
• Sesgo Inductivo: EoS actúa como un sesgo inductivo que selecciona subconjuntos específicos para la optimización basándose en su relación geométrica con el modo inestable, en lugar de simplemente seleccionar entre minimizadores equivalentes.
• Unificación de Perspectivas: El trabajo conecta la regularización implícita en el espacio de parámetros (restricciones de curvatura) con el sesgo inductivo sobre la distribución de datos (qué ejemplos se aprenden).
• Alcance Modesto: Los autores reconocen limitaciones, señalando que los experimentos están restringidos a modelos pequeños y entrenamiento de lote completo debido al costo computacional de los productos Hessiana-vector. Indican que si estos efectos de selectividad persisten para conjuntos de datos más grandes, optimizadores de mini-lotes o prototipos en el espacio de representación, sigue siendo una pregunta abierta.

En conclusión, el artículo demuestra que el Borde de la Estabilidad es un régimen selectivo donde la restricción de estabilidad amplifica el aprendizaje para los subconjuntos que se alinean con la dirección propia superior de la Hessiana y persisten a lo largo de ella, mientras que suprime otros, moldeando así fundamentalmente las propiedades funcionales del modelo.