Coercivity and Local Convergence of Physical Learning in Linear Circuits

Technische Samenvatting: Coerciviteit en Lokale Convergentie van Fysiek Leren in Lineaire Circuits

Probleemstelling
Fysieke leermethoden, zoals Equilibrium Propagation (EP) en Coupled Learning (CL), bieden een paradigma voor het trainen van fysieke netwerken (bijv. weerstandnetwerken) met behक enkel lokale update-regels. In tegenstelling tot backpropagation, dat een globale foutsignaalpropagatie vereist, maakt fysiek leren gebruik van de eigen evenwichtsdynamica van het systeem om informatie over te dragen. Hoewel recente experimenten de haalbaarheid van deze methoden in analoge apparaten hebben aangetoond, is strikte theoretische garantie met betrekking tot hun convergentie schaars gebleven. Bestaande literatuur stelt de gradiëntstructuur van deze methoden vast in het kleine-nudge-limiet, maar gaat vaak niet ver genoeg om te bewijzen dat de resulterende dynamica het systeem daadwerkelijk naar een getrainde staat drijven, met name in netwerken met verborgen knopen waar convexiteit niet gegarandeerd is. Dit artikel adresseert de vraag onder welke voorwaarden een fysiek systeem gegarandeerd leert en welke structurele kenmerken convergentie kunnen verhinderen.

Methodologie
De auteurs bieden een lokale convergentieanalyse voor drie fysieke leermethoden—Equilibrium Propagation (EP), Coupled Learning (CL) en een nieuw geïntroduceerde methode, Adjoint Coupled Learning (AL)—toegepast op lineaire circuits. De analyse wordt uitgevoerd in twee regimes:

1. Continue Tijd: Het limiet van kleine leersnelheden ($\tau \to 0$) en kleine nudging-parameters ($\eta \to 0$).
2. Discrete Tijd: Eindige leersnelheden en nudging-parameters.

Het wiskundige kader modelleert het fysieke netwerk als een energie-minimalisatieprobleem waarbij de energiefunctie $G(x; k)$ (gedissipeerd vermogen voor lineaire circuits) wordt geminimaliseerd onder inputbeperkingen. Het leerproces omvat het vergelijken van een "vrije staat" (ontspannen onder natuurlijke dynamica) en een "genudged staat" (geperturb door een doel). De parameter-updates worden afgeleid van het verschil in lokale grootheden (bijv. spanningsvallen) tussen deze twee staten.

De kern van de methodologie omvat:

• Het afleiden van de exacte verliesdynamica voor EP, CL en AL in het kleine-nudge-limiet.
• Het vaststellen van een coerciviteitsconditie, uitgedrukt als een rangconditie op een matrix geconstrueerd uit de incidentiestructuur van het netwerk en de beperkte Laplaciaan.
• Het gebruik van een bootstrap-argument dat de Implicit Function Theorem (voor lokale schattingen) combineert met coerciviteits-schattingen (voor exponentiële verliesafname) om te bewijzen dat het systeem binnen de regio blijft waar deze schattingen gelden.
• Het toepassen van de stelling van Sard om de generieke aard van de coerciviteitsconditie op de oplossingsvariëteit te analyseren.

Belangrijkste Bijdragen

1. Introductie van Adjoint Coupled Learning (AL): De auteurs stellen AL voor, een methode die de output beperkt tot het doel en nudging toepast met behulp van de resulterende beperkingskracht (adjoint error). Ze laten zien dat AL de fysieke eenvoud van CL behoudt terwijl het de exacte gradiëntstroomstructuur van EP herstelt.
2. Gradiëntstroom Karakterisering:
   • EP voert gradiëntafdaling uit op de natuurlijke gekwadrateerde foutverlies $\Phi = \frac{1}{2}\|r\|^2$.
   • AL voert gradiëntafdaling uit op een adjoint verlies $\Phi^* = \frac{1}{2}\|\mu_0\|^2$.
   • CL volgt geen zuivere gradiëntstroom. De dynamica bevat een extra kubische correctieterm die voortkomt uit de parameter-afhankelijkheid van de weegmatrix $D$. De auteurs tonen aan dat voor CL de fout en de nudge van hetzelfde type moeten zijn (spanning-spanning), terwijl EP en AL de spanning-stroom dualiteit overbruggen om gradiëntstroom te bereiken.
3. Coerciviteitsanalyse: Het artikel identificeert een noodzakelijke en voldoende voorwaarde voor lokale exponentiële convergentie: de coerciviteitsconditie. Deze voorwaarde vereist dat de "actieve-incidentiematrix" (opgebouwd uit randen met niet-nul spanningsvallen in de vrije staat) volledige kolomrang heeft wanneer deze wordt geprojecteerd door de inverse beperkte Laplaciaan.
   • Als coerciviteit standhoudt, neemt het verlies exponentieel af en convergeren de parameters naar de oplossingsvariëteit.
   • Als coerciviteit faalt, verdwijnt de dissipatieve term in de verliesdynamica, wat kan leiden tot trage convergentie of stagnatie.
4. Tegenvoorbeeld en Generieke Aard:
   • De auteurs construeren een "kite" circuit tegenvoorbeeld waarbij een specifieke symmetrie (ratio-condities op conductances) ervoor zorgt dat de vrije en geklemde spanningsvallen een disjuncte ondersteuning hebben, wat leidt tot een gedegenereerde coerciviteitsconstante. Dit demonstreert dat coerciviteit kan falen, wat resulteert in spurieuze vaste punten of zones van trage convergentie.
   • Echter, met behulp van de stelling van Sard bewijzen zij dat dergelijke degeneraties niet-generiek zijn. Voor bijna elke keuze van de gewenste output $w$, bestaat de oplossingsvariëteit volledig uit punten waar de coerciviteitsconditie standhoudt.

Resultaten

• Lokale Convergentiestellingen: Het artikel bewijst dat als het systeem voldoende dicht bij een oplossing start en de coerciviteitsconditie wordt voldaan, de trainingsverlies exponentieel afneemt en de parameters naar de oplossingsvariëteit convergeren (Theorem 12, 13 en 14).
• Discrete Convergentie: Voor discrete updates tonen de auteurs aan dat het verlies geometrisch afneemt (lineaire convergentierate), mits de leersnelheid en de initiële fout voldoende klein zijn. Voor CL kan de kleinheidsvoorwaarde op de initiële fout niet worden versoepeld door simpelweg de nudge $\eta$ klein te maken, vanwege de intrinsieke niet-gradiënt kubische term.
• Numerieke Validatie: Numerieke experimenten op het kite-circuit illustreren het coerciviteitslandschap. Ze bevestigen dat hoewel de coerciviteitsconstante naar nul gaat bij specifieke symmetrische punten (codimensie-2), het verstoren van de doeloutput $w$ de oplossingsvariëteit weg van deze gedegenereerde punten verschuift, waardoor de exponentiële convergentieraties worden hersteld.

Betekenis en Claims
Het artikel claimt de eerste lokale convergentieanalyse te bieden voor EP, CL en AL in lineaire circuits met verborgen knopen. De significantie ligt in:

• Het verder gaan dan de identificatie van gradiëntstructuren naar het bewijzen dat deze dynamica het systeem daadwerkelijk naar een getrainde staat drijven.
• Het verhelderen van de structurele vereisten (coerciviteit) voor succesvol leren en het identificeren dat, hoewel fouten mogelijk zijn door symmetrieën, deze zeldzaam (niet-generiek) zijn voor willekeurige doeloutputs.
• Het bieden van een fysieke interpretatie van leer-dynamica, waarbij wordt getoond dat het "duale" karakter van de fout en de nudge (spanning versus stroom) de sleutel is tot het herstellen van gradiëntstroom.
• Het bieden van een theoretische basis voor de stabiliteit van fysieke leermethoden, wat suggereert dat voor generieke taken fysieke systemen gegarandeerd lokaal leren, mits de netwerkstructuur geen specifieke degeneraties bezit.

De auteurs blijven bescheiden en merken op dat hun resultaten lokaal zijn (vereisten dat het systeem nabij een oplossing start) en dat globale convergentie niet gegarandeerd is als de initiële conditie zich nabij spurieuze vaste punten buiten de oplossingsvariëteit bevindt. Zij beweren niet het globale convergentieprobleem voor alle fysieke leerscenario's op te lossen, maar stellen de voorwaarden vast waaronder lokale exponentiële convergentie wiskundig is gewaarborgd.