On a Central Limit Theorem and Sanov's principle for quantum neural networks

Résumé technique : Sur un théorème de la limite centrale et le principe de Sanov pour les réseaux de neurones quantiques

Énoncé du problème
Ce travail étudie la dynamique d'entraînement et le comportement des fluctuations des réseaux de neurones quantiques (QNN) dans un cadre d'apprentissage supervisé. Plus précisément, il analyse un modèle de « mélange d'experts » (Mixture of Experts, MoE), défini comme une moyenne uniforme de $N$ experts quantiques identiques, où chaque expert est un circuit quantique paramétré. Les paramètres de ces circuits sont optimisés via une descente de gradient pour minimiser une fonction de perte quadratique. Alors que des recherches antérieures ont établi que les QNN larges convergent vers des processus gaussiens dans la limite de largeur infinie (souvent sous des régimes d'entraînement dits « paresseux » ou lazy) et que la mesure empirique des paramètres converge vers une mesure limite déterministe (limite de champ moyen), il manque une caractérisation rigoureuse concernant les fluctuations de ces paramètres autour de la limite lorsque $N \to \infty$. Cet article répond à la nécessité de quantifier ces fluctuations et de comprendre les propriétés de grandes déviations de la mesure empirique dans le contexte des QNN.

Méthodologie
Les auteurs emploient une approche d'analyse de champ moyen, traitant les paramètres des $N$ experts comme des particules évoluant sous un flot de gradient dans un espace de paramètres de grande dimension (spécifiquement, un tore $d$-dimensionnel $\mathbb{T}^d$).

1. Définition du modèle : La fonction du modèle QNN $f(\theta, x)$ est définie comme la valeur d'espérance d'une observable mesurée sur un état quantique généré par un circuit unitaire $U(\theta, x)$. La sortie du MoE est $F_N(\Theta, x) = \frac{1}{N}\sum_{i=1}^N f(\theta_i, x)$.
2. Dynamique du flot de gradient : Les paramètres évoluent selon le flot de gradient de la perte empirique $L(\Theta)$. Les auteurs dérivent la dynamique microscopique pour les paramètres individuels $\theta_i$ et l'évolution macroscopique de la mesure empirique $\mu_{\Theta^N_t}$.
3. Analyse des fluctuations : Pour étudier les fluctuations, les auteurs définissent un processus de fluctuation mis à l'échelle $\delta^N_t := \sqrt{N}(\mu_{\Theta^N_t} - \mu_t)$, où $\mu_t$ est la mesure limite déterministe résolvant une équation de continuité non linéaire.
4. Cadre fonctionnel : L'analyse est menée dans un cadre fonctionnel spécifique impliquant des espaces de Sobolev sur le tore. Les auteurs utilisent l'espace quotient $W(\mathbb{T}^d) = H^1(\mathbb{T}^d)/\mathbb{R}$ et son dual pour gérer la convergence faible des mesures et la linéarisation des équations de transport.
5. Grandes déviations : L'étude étend les principes de grandes déviations (LDP) en appliquant des résultats abstraits de Dawson et Gärtner ainsi que le théorème de Sanov à l'espace des courbes continues de mesures de probabilité.

Contributions clés et résultats

1. Théorème de la limite centrale (CLT) pour les QNN :
   Le résultat principal établit un CLT pour la séquence des processus de fluctuation $\delta^N_t$.

   • Condition initiale : À $t=0$, en supposant des paramètres initiaux indépendants et identiquement distribués (i.i.d.), $\delta^N_0$ converge en loi vers un processus gaussien de moyenne nulle avec une structure de covariance spécifique.
   • Évolution temporelle : Lorsque $N \to \infty$, le processus $\delta^N_t$ converge en loi vers un processus limite $\delta_t$ pour tout $t \geq 0$.
   • Équation limite : Le processus limite est l'unique solution d'une équation de transport linéaire :
     $$\frac{d\delta_t(\theta)}{dt} = -\nabla_\theta \cdot \left( \nabla V(\theta, \mu_t)\delta_t + \mu_t \nabla G(\theta, \delta_t) \right)$$
     où $V$ et $G$ sont des fonctionnelles dérivées du paysage de perte et du noyau d'interaction du QNN. Cela contraste avec l'équation de continuité non linéaire qui régit la limite de champ moyen $\mu_t$.

2. Taux de convergence et comparaison :
   L'article démontre que les fluctuations de la mesure empirique autour de la limite sont de l'ordre de $O(N^{-1/2})$. Cela fournit un taux d'approximation plus serré par rapport aux résultats précédents mesurant la proximité via la distance de Wasserstein-2 ($W_2$), qui produisait un taux de $O(N^{-2/d})$. Dans les contextes de haute dimension ($d > 4$), le taux $N^{-1/2}$ établi par le CLT est supérieur au taux $N^{-2/d}$, offrant une caractérisation plus précise de la convergence dans les régimes riches en paramètres typiques des QNN pratiques.

3. Convergence de la sortie du modèle :
   Comme sous-produit du CLT, les auteurs prouvent que les fluctuations de la fonction de sortie du MoE $F_N(\Theta_t, x)$ autour de sa limite de champ moyen $f_t(x)$ convergent également en loi. Spécifiquement, la fluctuation de sortie mise à l'échelle $\psi^N(t, x) = \sqrt{N}(F_N - f_t)$ converge en loi vers une fonctionnelle linéaire de la mesure de fluctuation limite $\delta_t$.

4. Principe de grandes déviations (Principe de Sanov) :
   L'article établit un principe de grandes déviations pour la loi du processus empirique $\mu_{\Theta^N_\cdot}$.

   • La fonctionnelle de taux est donnée par l'entropie relative.
   • Une séquence de processus indépendants est montrée comme étant exponentiellement équivalente au processus corrélé réel à une vitesse de $(\log N)^\beta$ (pour $0 < \beta < 1$), à condition que la dimension $d > 4$. Cette équivalence permet l'application des théorèmes de LDP abstraits malgré les corrélations introduites par le flot de gradient.

Signification et revendications
L'article affirme fournir un fondement mathématique rigoureux pour comprendre les effets stochastiques de taille finie dans les réseaux de neurones quantiques entraînés par flot de gradient. En allant au-delà de la limite déterministe de champ moyen, ce travail caractérise la nature statistique des dynamiques d'entraînement.

• Au-delà de l'entraînement paresseux (Lazy Training) : Contrairement aux travaux antérieurs (par exemple, [13, 23]) qui analysent souvent les QNN dans le régime « paresseux » où le noyau tangent neuronal (NTK) reste fixe, ce travail considère un cadre où l'apprentissage de représentation a lieu (les paramètres évoluent de manière significative), tout en maintenant la validité de la limite de champ moyen.
• Précision quantitative : La dérivation du taux de convergence $O(N^{-1/2})$ pour les fluctuations offre une compréhension plus raffinée du comportement asymptotique des QNN que les limites précédentes basées sur $W_2$, particulièrement dans les espaces de paramètres de haute dimension.
• Cadre théorique : L'établissement d'une équation de transport linéaire pour les fluctuations et d'un principe de grandes déviations pour la mesure empirique étend la boîte à outils théorique disponible pour l'analyse des modèles d'apprentissage automatique quantique, jetant un pont entre les concepts de la physique statistique (propagation du chaos, équations de transport) et l'informatique quantique.

Les auteurs notent explicitement que leurs techniques ne permettent pas actuellement l'étude de la limite conjointe de profondeur et de largeur infinies, ni l'étude de la limite de dimension infinie où la dimension des paramètres $d \to \infty$, identifiant ces points comme des directions pour des recherches futures.