On a Central Limit Theorem and Sanov's principle for quantum neural networks

Technische Samenvatting: Over een Centrale Limietstelling en Sanovs Principe voor Quantum Neurale Netwerken

Probleemstelling
Dit werk onderzoekt de trainingsdynamiek en fluctuatiegedragingen van Quantum Neurale Netwerken (QNN's) binnen een gesuperviseerd leerkader. Specifiek wordt een "Mixture of Experts" (MoE) model geanalyseerd, gedefinieerd als een uniforme gemiddelde van $N$ identieke quantum experts, waarbij elke expert een geparametriseerde quantum circuit is. De parameters van deze circuits worden geoptimaliseerd via gradiëntflow om een kwadratische verliesfunctie te minimaliseren. Terwijl eerder onderzoek heeft vastgesteld dat brede QNN's in de oneindige-breedte limiet convergeren naar Gaussische processen (vaak onder "lazy" trainingsregimes) en dat het empirische maat van parameters convergeert naar een deterministische limietmaat (mean-field limiet), ontbreekt een rigoureuze karakterisering van de fluctuaties van deze parameters rond de limiet naarmate $N \to \infty$. Dit artikel adresseert de noodzaak om deze fluctuaties te kwantificeren en de grote afwijkingseigenschappen (large deviation properties) van de empirische maat in de context van QNN's te begrijpen.

Methodologie
De auteurs hanteren een mean-field analyse-aanpak, waarbij de parameters van de $N$ experts worden behandeld als deeltjes die evolueren onder een gradiëntflow in een hoogdimensionale parameterruimte (specifiek een $d$-dimensionale torus $\mathbb{T}^d$).

1. Modeldefinitie: De QNN-modelfunctie $f(\theta, x)$ wordt gedefinieerd als de verwachtingswaarde van een geobserveerde grootheid die wordt gemeten op een quantumtoestand gegenereerd door een unitaire circuit $U(\theta, x)$. De MoE-output is $F_N(\Theta, x) = \frac{1}{N}\sum_{i=1}^N f(\theta_i, x)$.
2. Gradiëntflow Dynamica: De parameters evolueren volgens de gradiëntflow van het empirische verlies $L(\Theta)$. De auteurs leiden de microscopische dynamica af voor individuele parameters $\theta_i$ en de macroscopische evolutie van de empirische maat $\mu_{\Theta^N_t}$.
3. Fluctuatie-analyse: Om fluctuaties te bestudelen, definiëren de auteurs een geschaald fluctuatieproces $\delta^N_t := \sqrt{N}(\mu_{\Theta^N_t} - \mu_t)$, waarbij $\mu_t$ de deterministische limietmaat is die een niet-lineaire continuiteitsvergelijking oplost.
4. Functioneel Kader: De analyse wordt uitgevoerd binnen een specifieke functionele setting met betrekking tot Sobolev-ruimten op de torus. De auteurs maken gebruik van de quotientruimte $W(\mathbb{T}^d) = H^1(\mathbb{T}^d)/\mathbb{R}$ en de duale ruimte daarvan om de zwakke convergentie van maten en de linearisering van de transportvergelijkingen af te handelen.
5. Grote Afwijkingen (Large Deviations): De studie breidt zich uit naar grote afwijking principes (LDP) door abstracte resultaten van Dawson en Gärtner en Sanovs stelling toe te passen op de ruimte van continue curven van waarschijnlijkheidsmaten.

Belangrijkste Bijdragen en Resultaten

1. Centrale Limietstelling (CLT) voor QNN's:
   Het primaire resultaat vestigt een CLT voor de sequentie van fluctuatieprocessen $\delta^N_t$.

   • Initiële Conditie: Bij $t=0$, uitgaande van onafhankelijke en identiek verdeelde (i.i.d.) initiële parameters, convergeert $\delta^N_0$ in wet naar een Gaussisch proces met een nulgemiddelde en een specifieke covariantiestructuur.
   • Tijdsevolutie: Naarmate $N \to \infty$, convergeert het proces $\delta^N_t$ in wet naar een limiterend proces $\delta_t$ voor alle $t \geq 0$.
   • Limiterende Vergelijking: Het limiterende proces $\delta_t$ is de unieke oplossing van een lineaire transportvergelijking:
     $$\frac{d\delta_t(\theta)}{dt} = -\nabla_\theta \cdot \left( \nabla V(\theta, \mu_t)\delta_t + \mu_t \nabla G(\theta, \delta_t) \right)$$
     waarbij $V$ en $G$ functionalen zijn afgeleid van het verlieslandschap en de interactie-kernel van de QNN. Dit staat in contrast met de niet-lineaire continuiteitsvergelijking die de mean-field limiet $\mu_t$ beheerst.

2. Convergentiesnelheid en Vergelijking:
   Het artikel toont aan dat de fluctuaties van de empirische maat rond de limiet van de orde $O(N^{-1/2})$ zijn. Dit biedt een nauwere benaderingssnelheid vergeleken met eerdere resultaten die nabijheid maten via de Wasserstein-2 afstand ($W_2$), welke een snelheid van $O(N^{-2/d})$ opleverde. In hoogdimensionale instellingen ($d > 4$) is de $N^{-1/2}$ snelheid vastgesteld door de CLT superieur aan de $N^{-2/d}$ snelheid, wat een preciezere karakterisering biedt van de convergentie in parameter-rijke regimes die typerend zijn voor praktische QNN's.

3. Convergentie van de Modeloutput:
   Als bijproduct van de CLT bewijzen de auteurs dat de fluctuaties van de MoE-outputfunctie $F_N(\Theta_t, x)$ rond zijn mean-field limiet $f_t(x)$ ook in wet convergeren. Specifiek convergeert de geschaalde output-fluctuatie $\psi^N(t, x) = \sqrt{N}(F_N - f_t)$ naar een lineaire functionaal van de limiterende fluctuatiemaat $\delta_t$.

4. Grote Afwijking Principe (Sanovs Principe):
   Het artikel stelt een Groot Afwijking Principe vast voor de wet van het empirische proces $\mu_{\Theta^N_\cdot}$.

   • De ratestunctional wordt gegeven door de relatieve entropie.
   • Er wordt aangetoond dat een sequentie van onafhankelijke processen exponentieel equivalent is aan het werkelijke gecorreleerde proces met een snelheid van $(\log N)^\beta$ (voor $0 < \beta < 1$), mits de dimensie $d > 4$. Deze equivalentie maakt de toepassing van abstracte LDP-stellingen mogelijk, ondanks de correlaties die worden geïntroduceerd door de gradiëntflow.

Betekenis en Claims
Het artikel claimt een rigoureus wiskundig fundament te bieden voor het begrijpen van de eindige-omvang stochastische effecten in quantum neurale netwerken die getraind worden via gradiëntflow. Door verder te gaan dan de deterministische mean-field limiet, karakteriseert dit werk de statistische aard van de trainingsdynamiek.

• Voorbij "Lazy Training": In tegenstelling tot eerdere werken (bijv. [13, 23]) die vaak QNN's analyseren in het "lazy" regime waar de Neural Tangent Kernel (NTK) constant blijft, overweegt dit werk een setting waarin representatie-leren plaatsvindt (parameters evolueren significant), terwijl de mean-field limiet nog steeds standhoudt.
• Kwantitatieve Precisie: De afleiding van de $O(N^{-1/2})$ convergentiesnelheid voor fluctuaties biedt een verfijnder begrip van het asymptotische gedrag van QNN's dan eerdere $W_2$-gebaseerde grenzen, met name in hoogdimensionale parameterruimten.
• Theoretisch Kader: De vestiging van een lineaire transportvergelijking voor fluctuaties en een Groot Afwijking Principe voor de empirische maat breidt het theoretische instrumentarium uit dat beschikbaar is voor het analyseren van quantum machine learning modellen, waarbij concepten uit de statistische fysica (propagation of chaos, transportvergelijkingen) worden verbonden met quantum computing.

De auteurs merken expliciet op dat hun technieken momenteel niet toelaten om de gezamenlijke limiet van oneindige diepte en breedte te bestuderen, noch adresseren zij de oneindige-dimensie limiet waarbij de parameterdimensie $d \to \infty$, wat zij identificeren als richtingen voor toekomstig onderzoek.