Hybridizing Equilibrium Propagation with Ising Machines for Efficient Energy-Based Learning

Technische Samenvatting: Hybridisering van Equilibrium Propagation met Ising-machines voor Efficiënt Energy-Based Leren

Probleemstelling
De snelle vooruitgang van diepe neurale netwerken (DNN's) wordt beperkt door het hoge energieverbruik en de tijdvereisten van conventionele GPU-gebaseerde training. Hoewel fysieke hardware-solvers (bijv. Ising-machines) een pad bieden naar energiezuinige computing, worden ze vaak vooraf getraind met backpropagation (BP) op externe elektronica, wat hen kwetsbaar maakt voor hardware-ruis en fabricage-imperfecties. Dit noodzaakt fysisch gegronde trainingsmethoden waarbij leren direct binnen de fysieke dynamica plaatsvindt.

Equilibrium Propagation (EP) is een prominent energy-based leeralgoritme dat training en inferentie verenigt via lokale leerregels. Echter, standaard EP vertrouwt op Hopfield-netwerken, die worden beheerst door niet-Hamiltoniaanse dissipatieve dynamica ($\dot{x} = -\nabla E(x)$). Deze formulering leidt tot fase-ruimte contractie, waardoor het systeem vaak convergeert naar lokale energiminima in plaats van het globale optimum, wat de effectiviteit van de training ondermijnt. Bovendien vormt de directe mapping van meerlaagse netwerkparameters naar grootschalige spinsystemen uitdagingen op het gebied van schaalbaarheid, waaronder verlengde convergentietijden.

Methodologie
De auteurs stellen een hybride trainingsframework voor genaamd cSB-EP (continuous Simulated Bifurcation Equilibrium Propagation). Deze aanpak integreert de lokale leerregels van EP met een door Ising-dynamica geïnspireerde fysieke route naar evenwicht.

1. Uitgebreide Fase-Ruimte Dynamica: In plaats van de puur dissipatieve relaxatie van standaard Hopfield-netwerken, vervangen de auteurs de dynamica door een continu Simulated Bifurcation (cSB) systeem afgeleid van een Hamiltonian-framework. Dit systeem introduceert conjuncte variabelen (momentum) bij de neuron-toestanden.

   • De dynamica wordt beheerst door gekoppelde differentiaalvergelijkingen: $\dot{s}_{yi} = -s_i - \gamma s_{yi} + \rho(\sum J_{ij}s_j)$ en $\dot{s}_i = s_{yi}$, waarbij $s_{yi}$ fungeert als een conjuncte coördinaat die inertieel momentum biedt.
   • De activatiefunctie $\rho(x) = \min(\max(x, 0), 1)$ vervangt inelastische potentiaalbarrières om de berekening te versnellen, terwijl een dempingsterm $\gamma$ zorgt voor convergentie.

2. Werkingsmechanisme: De introductie van de conjuncte coördinaat stelt het systeem in staat om tijdelijk naar regio's met een hogere potentiële energie te bewegen. Dit inertiële momentum stelt het netwerk in staat om ondiepe lokale minima te overwinnen, een capaciteit die afwezig is in niet-Hamiltoniaanse dissipatieve systemen waar energie strikt monotoon afneemt. Theoretische analyse gebaseerd op het Freidlin-Wentzell principe suggereert dat zwakke koppeling de effectieve energiebarrières vermindert, waardoor de transitiesnelheid uit lokale optima exponentieel toeneemt.

3. Trainingsarchitectuur: Het framework behoudt de twee-fasen leerregel van EP:

   • Free Phase: Het netwerk evolueert naar een stabiele toestand onder invloed van inputdata.
   • Nudge Phase: Een perturbatie gecontroleerd door parameter $\beta$ wordt toegepast op de outputlaag om het systeem richting de doeltoestand te drijven.
   • Implementatie: Het algoritme maakt gebruik van een hybride CPU/GPU-opstelling. Dataprocessing en parameterupdates vinden plaats op de CPU, terwijl de computationeel intensieve grondtoestand-zoektocht (convergentie van neuron-toestanden) wordt versneld op de GPU met behulp van het cSB-algoritme.

Belangrijkste Bijdragen

• Nieuwe Dynamica: Het artikel introduceert een verschuiving van dissipatieve Hopfield-relaxatie naar uitgebreide fase-ruimte Hamiltonian-dynamica binnen het EP-framework, wat het probleem van lokale minima door fase-ruimte contractie effectief mitigeert.
• Continuous Simulated Bifurcation (cSB): De auteurs passen de Simulated Bifurcation machine, oorspronkelijk ontworpen voor binaire spinsystemen, aan tot een continu dynamisch systeem geschikt voor neurale netwerkoptimalisatie met specifieke activatiefuncties.
• Schaalbaarheid: Het framework is succesvol uitgebreid van eenvoudige volledig verbonden netwerken naar diepe convolutionele Hopfield-netwerken (CNN's), wat de compatibiliteit met complexe architecturen aantoont.

Resultaten
Experimenten werden uitgevoerd op de MNIST, Fashion-MNIST en CIFAR-10 datasets:

• Convergentie en Energie: cSB-EP bereikt lagere effectieve energieverdelingen en snellere convergentie naar stabiele toestanden vergeleken met conventionele EP. De gemiddelde netwerklenergie verschuift tijdens de training sneller naar lagere waarden.
• Nauwkeurigheid: Op MNIST, Fashion-MNIST en CIFAR-10 bereikt cSB-EP testfoutpercentages die vergelijkbaar zijn met backpropagation (BP) en superieur zijn aan bestaande EP-varianten (bijv. cEP). Bijvoorbeeld, op CIFAR-10 presteert cSB-EP beter dan conventionele EP en nadert het de prestaties van BP.
• Efficiëntie: De methode vertoont een significante reductie in het aantal iteraties dat nodig is voor de grondtoestand-zoektocht. Vergeleken met bestaande EP-algoritmen bereikt cSB-EP een computationele versnelling van ongeveer 3$\times$, terwijl de nauwkeurigheid vergelijkbaar blijft.
• Robuustheid: Het framework vertoont een verbeterde robuustheid tegen ruis. Onder ruisige omstandigheden (die imperfecties in analoge of opto-elektronische hardware simuleren), behoudt cSB-EP een hogere classificatienauwkeurigheid dan standaard EP. De inertiële dynamica helpt het systeem om lokale optima te ontsnappen, zelfs wanneer het door ruis wordt verstoord, mits de ruisintensiteit niet excessief is.

Betekenis en Claims
De auteurs beweren dat cSB-EP meer is dan een loutere toepassing van Ising-machines op neurale netwerken; het vestigt een nieuw Ising-machine-dynamica-geïnspireerd trainingsparadigma. Door de fysieke route naar evenwicht te wijzigen terwijl lokale leerregels behouden blijven, biedt het framework een levensvatbaar pad voor efficiënte, schaalbare en hardware-compatibele energy-based learning.

De studie suggereert dat deze aanpak bijzonder geschikt is voor implementatie op fysieke platforms zoals optische systemen, opto-elektronische systemen en elektronische oscillatoren. Door de beperkingen van convergentie en ruisbestendigheid van traditionele fysieke trainingsmethoden aan te pakken, beoogt cSB-EP de inzet van laagvermogen AI in edge computing en IoT-apparaten te faciliteren, waarbij de afhankelijkheid van vooraf getrainde modellen gegenereerd door energie-intensieve backpropagation wordt verminderd.