Résumé technique : Un profil de stabilité d'apprentissage pour les dynamiques d'apprentissage de dimension finie

Énoncé du problème

La stabilité en théorie de l'apprentissage est actuellement fragmentée entre différents formalismes : les fonctions de Lyapunov dans les systèmes dynamiques, les restrictions sur le pas de temps en analyse numérique, la stabilité algorithmique en apprentissage statistique et les conditions de contractivité en optimisation. Ces notions sont souvent formulées pour des objets distincts (par exemple, sensibilité aux données versus dynamique des paramètres) et manquent d'un langage unifié pour les comparer au sein d'un même système d'apprentissage couplant représentations et paramètres. De plus, les analyses existantes confondent souvent différents comportements de stabilité, tels que la décroissance exponentielle des sensibilités terminales versus la bornitude uniforme des sensibilités profilées, ou ne parviennent pas à distinguer les régimes lisses et non lisses.

Ce papier répond au besoin d'un cadre analytique de dimension finie capable de suivre la stabilité dans les systèmes d'apprentissage où les états incluent à la fois les représentations ($X$) et les paramètres entraînables ($\theta$). L'objectif est de fournir un « calcul de sensibilité » commun qui organise les mécanismes de stabilité connus sous un cadre de perturbation unique, tout en maintenant explicites les hypothèses spécifiques requises pour chaque garantie.

Méthodologie

Les auteurs introduisent le Profil de Stabilité d'Apprentissage (LSP), une collection d'opérateurs de sensibilité directionnelle qui quantifient comment les perturbations dans les entrées, l'initialisation des paramètres et les mécanismes de mise à jour se propagent le long d'une trajectoire d'apprentissage spécifiée.

1. Le Profil de Stabilité d'Apprentissage (LSP)

L'état d'apprentissage au temps $t$ est défini comme $S_t = (X^t_0, \dots, X^t_L, \theta^t)$. Les dynamiques sont modélisées par $S_{t+1} = \Phi_t(S_t, U^t)$, où $U^t$ représente la stochasticité ou les perturbations externes.
Le LSP est construit en linéarisant ces dynamiques (ou en utilisant des jacobiens généralisés de Clarke pour les applications non lisses) afin de définir des opérateurs de sensibilité :

• Sensibilité entrée-représentation ($\sigma^x_{k,t}$) : Sensibilité de la représentation à la profondeur $k$ aux perturbations d'entrée.
• Sensibilité à l'initialisation des paramètres ($\sigma^\theta_t$) : Sensibilité des paramètres au temps $t$ aux perturbations initiales des paramètres.
• Sensibilité de mise à jour ($\sigma^u_{s,t}$) : Sensibilité de l'état au temps $t$ aux perturbations du mécanisme de mise à jour au temps $s$.

Le cadre distingue entre les exposants de croissance terminaux (mesurant la décroissance à la fin d'une trajectoire) et la bornitude profilée (mesurant des bornes uniformes sur toute la trajectoire). Les auteurs soulignent qu'un exposant non positif (excluant la croissance exponentielle) n'implique pas une bornitude uniforme ; une croissance polynomiale, par exemple, a un exposant nul mais est non bornée.

2. Contrôle analytique et variationnel

La contribution technique centrale est un critère de Lyapunov pour contrôler le LSP.

• Cas lisse : Pour les systèmes différentiables, les auteurs supposent l'existence d'une énergie de Lyapunov incrémentale $V_t$ satisfaisant des bornes de comparaison ($m\|z\|^2 \le V_t(z) \le M\|z\|^2$) et une inégalité de dissipation discrète ($V_{t+1}(A_t z) - V_t(z) \le -\gamma \|z\|^2$).
• Cas non lisse : Pour les systèmes localement lipschitziens (par exemple, réseaux ReLU, applications proximales), le cadre utilise les jacobiens généralisés de Clarke. L'inégalité de dissipation est appliquée aux éléments admissibles du jacobien généralisé.

Ces hypothèses produisent des bornes exponentielles explicites sur les opérateurs de transition des flots linéarisés (ou généralisés). Le papier indique explicitement qu'il s'agit de conditions suffisantes, et non de théorèmes de récurrence inconditionnels.

Contributions et résultats clés

1. Théorèmes de stabilité généraux

• Théorème 3.1 (Critère de Lyapunov analytique) : Sous des hypothèses de régularité et de coercivité, l'existence d'une énergie de Lyapunov incrémentale uniforme implique que les opérateurs de transition homogènes décroissent exponentiellement. Plus précisément, $\|P_{t:s}\| \le \sqrt{M/m} \rho^{t-s}$ où $\rho < 1$. Cela fournit des bornes uniformes sur les sensibilités aux paramètres et aux mises à jour.
• Théorème 6.1 (Bornes variationnelles de Lyapunov) : Cela étend le résultat aux systèmes localement lipschitziens. Il montre que si une énergie de Lyapunov variationnelle se dissipe sur les produits de transition généralisés de Clarke admissibles, les composantes généralisées du LSP décroissent également exponentiellement ou restent uniformément bornées.

2. Spécialisation aux mécanismes standards

Le papier démontre comment le LSP unifie les résultats de stabilité existants en appliquant le cadre à des architectures et algorithmes spécifiques :

• Réseaux feedforward : Le contrôle de la norme spectrale des poids des couches ($\|W_k\| \le \rho < 1$) produit une décroissance exponentielle de la sensibilité directe ($\alpha^x_{term} \le \log \rho < 0$).
• Réseaux résiduels : En considérant les ResNets comme des discrétisations explicites de systèmes dynamiques, le papier dérive des bornes de stabilité basées sur la dissipativité du jacobien et des restrictions sur le pas de temps ($h < 2m/M_g^2$), analogues aux conditions CFL.
• Méthodes de gradient stochastique (SGD) : Sous convexité forte et régularité, le papier sépare la convergence de l'erreur d'optimisation de la sensibilité. Il montre que, bien que l'erreur d'optimisation puisse avoir un plancher de bruit, la sensibilité à l'initialisation peut encore décroître exponentiellement si l'application de mise à jour couplée est contractante en moyenne quadratique.
• Systèmes non lisses : Pour les réseaux linéaires par morceaux (ReLU) et les algorithmes proximaux, le cadre utilise les jacobiens généralisés de Clarke et l'analyse des ensembles actifs pour dériver des bornes qui correspondent au cas lisse, traitant la non-lissitude comme un ensemble de linéarisations admissibles.
• Systèmes récurrents / à espace d'état : Le profil sépare l'oubli des états cachés initiaux (décroissance terminale) de la réponse bornée aux entrées ultérieures (bornitude profilée).

3. Distinctions structurelles

Le cadre sépare rigoureusement trois concepts souvent confondus :

1. Décroissance terminale : Décroissance exponentielle des perturbations initiales à la fin d'une trajectoire.
2. Bornitude profilée : Bornes uniformes sur les perturbations forcées au cours du temps.
3. Mode de stabilité : Le contexte mathématique spécifique (normes d'opérateurs déterministes, moyenne quadratique stochastique, ou analyse variationnelle multivoque).

Importance et affirmations

Le papier positionne le Profil de Stabilité d'Apprentissage non pas comme un théorème de stabilité universel pour tous les systèmes d'apprentissage, mais comme un cadre structurel et un langage commun.

• Unification : Il permet de comparer les bornes spectrales, la dissipativité, les couplages stochastiques contractifs et les inégalités variationnelles de Lyapunov au sein d'un seul modèle de dynamique représentation-paramètre.
• Hypothèses explicites : Le cadre force l'utilisateur à énoncer les hypothèses spécifiques (par exemple, constantes de Lipschitz globales vs locales, plages de pas de temps spécifiques) requises pour chaque garantie de stabilité, évitant ainsi des affirmations vagues de « stabilité ».
• Modestie : Les auteurs s'abstiennent explicitement de revendiquer une équivalence entre les exposants de croissance non positifs et l'existence d'énergies de Lyapunov. Ils notent que les théorèmes de Lyapunov de récurrence nécessitent des hypothèses supplémentaires et plus fortes (par exemple, stabilité exponentielle uniforme du flot linéarisé).
• Portée : Les résultats sont de dimension finie et basés sur les trajectoires. Le papier reconnaît que les estimations globales nécessitent des hypothèses globales, qui peuvent être trop conservatrices pour les systèmes à grande échelle, et que le cadre ne fournit pas actuellement de bornes précises pour les optimiseurs adaptatifs, le bruit à queue lourde ou les limites de dimension infinie.

En résumé, le papier fournit un calcul de sensibilité rigoureux qui organise des mécanismes de stabilité disparates, clarifie la distinction entre différents types de stabilité (décroissance versus bornitude) et offre une méthode unifiée pour dériver des bornes de stabilité à travers les dynamiques d'apprentissage lisses, non lisses, déterministes et stochastiques.