🤖 machine learning

A projection-based framework for gradient-free and parallel learning

Dit artikel introduceert PJAX, een op JAX gebaseerd raamwerk dat het trainen van neurale netwerken herformuleert als een paralleliseerbaar, gradiëntvrij haalbaarheidsprobleem met behulp van iteratieve projectie-operatoren, en zo een overtuigend alternatief biedt voor conventionele gradiëntgebaseerde optimalisatie met voordelen bij het verwerken van niet-differentieerbare operaties en het mogelijk maken van massale parallelisatie.

Oorspronkelijke auteurs: Andreas Bergmeister, Manish Krishan Lal, Stefanie Jegelka, Suvrit Sra

Gepubliceerd 2026-04-30

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Andreas Bergmeister, Manish Krishan Lal, Stefanie Jegelka, Suvrit Sra

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorm, complex puzzelstuk probeert op te lossen, zoals een gigantische 3D-puzzel of een Rubiks Kubus, maar je weet niet hoe het eindbeeld eruit ziet.

De Oude Manier (Op Gradiënten Gebaseerd Leren)
Momenteel leren de meeste AI-modellen met een methode die "backpropagation" heet. Denk hierbij aan een wandelaar die probeert de bodem van een mistige vallei te vinden (de beste oplossing). De wandelaar voelt de helling onder zijn voeten (de gradiënt) en zet een stap bergafwaarts. Ze blijven dit stap voor stap doen totdat ze een laag punt bereiken.

Het Probleem: Soms blijft de wandelaar vastzitten in een kleine kuiltje (een lokaal minimum) dat niet de echte bodem is. Soms is het pad zo steil of vlak dat de wandelaar verdwaalt of te langzaam beweegt. Ook moet de wandelaar, om te weten welke kant "na beneden" is, een signaal helemaal terugsturen van de bodem van de vallei naar de top, wat traag is en een zeer specifiek, symmetrisch pad vereist.

De Nieuwe Manier (Op Projectie Gebaseerd Leren)
De auteurs van dit paper stellen een volledig andere strategie voor. In plaats van te proberen de bodem van een vallei te vinden, behandelen ze het trainen als een haalbaarheidsprobleem.

Stel je een kamer vol muren voor, elk met een specifieke regel.

Muur A zegt: "Het rode blok moet naast het blauwe blok staan."
Muur B zegt: "Het groene blok moet boven het rode blok staan."
Muur C zegt: "Het totale gewicht moet 50 kg zijn."

Je doel is niet om een heuvel af te glijden; het is om één enkele rangschikking van blokken te vinden waarbij elke regel van elke muur tegelijkertijd wordt voldaan.

Hoe Het Werkt: De "Projectie"-Metafoor
De auteurs noemen hun methode "Op Projectie Gebaseerd". Zo doen ze het:

Opdelen: Ze breken het grote puzzelstuk (het neurale netwerk) op in kleine, simpele stukjes die "primitieve functies" worden genoemd (zoals simpele wiskundige bewerkingen: getallen optellen, vermenigvuldigen, of beslissen of een getal positief is).
De Lokale Oplossing: In plaats van naar het hele puzzelstuk te kijken, kijken ze naar slechts één muur (één regel). Als de blokken niet voldoen aan de regel van die muur, "projecteren" ze de blokken op de muur. Stel je voor dat je een licht op de blokken schijnt; de schaduw die ze op de muur werpen, is de "correcte" positie voor die specifieke regel.
Parallelle Kracht: Dit is het magische deel. Omdat elke muur alleen om zijn directe buren geeft, kun je Muur A, Muur B en Muur C allemaal tegelijk repareren. Je hoeft niet te wachten tot Muur A klaar is voordat je begint met Muur B. Dit is alsof je een team van 100 mensen hebt dat verschillende delen van een huis tegelijkertijd repareert, in plaats van één persoon die eerst het dak, dan de keuken en dan de badkamer repareert, één voor één.
Herhalen: Ze doen dit keer op keer. Elke keer duwen ze de blokken ietsje meer zodat ze beter voldoen aan de lokale regels. Uiteindelijk komen de blokken tot rust in een positie waarbij ze alle regels tegelijkertijd voldoen. Dat is je getrainde AI.

Waarom Dit Cool Is (Volgens Het Paper)

Geen "Helling" Nodig: Je hoeft geen "helling" (gradiënt) te berekenen. Dit betekent dat je regels kunt gebruiken die "ruw" of gebroken zijn (niet-differentieerbaar), zoals een schakelaar die ofwel AAN ofwel UIT is. De oude methode heeft moeite met deze; deze nieuwe methode gaat er gemakkelijk mee om.
Biologische Plausibiliteit: In het brein sturen neuronen geen globaal "foutsignaal" helemaal terug van het einde van een gedachte naar het begin. Ze passen zich gewoon aan op basis van wat hun directe buren doen. Deze nieuwe methode nabootst die lokale, buur-tot-buur aanpassing.
Snelheid: Omdat iedereen parallel werkt, kan het veel sneller zijn op moderne computerchips (GPUs/TPUs) die zijn ontworpen om veel dingen tegelijk te doen.

De Afweging: De "Geheugen"-Kosten
Het paper erkent dat er een addertje onder het gras zit. Om dit te doen, moet de computer op elk moment de positie van elke enkele "rand" in het puzzelstuk onthouden.

Analogie: Bij de oude methode onthoud je alleen de huidige locatie van de wandelaar. Bij deze nieuwe methode moet je de positie van elk enkel blok in de kamer onthouden, en elke enkele verbinding tussen hen, voor elke enkele persoon in je team.
Resultaat: Dit gebruikt veel meer computergeheugen (RAM). De auteurs moesten sommige van hun testmodellen verkleinen om ze in het geheugen van hun computer te passen, terwijl de oude methode grotere modellen gemakkelijker kon hanteren.

De Resultaten
De auteurs bouwden een softwaretool genaamd PJAX (Projection JAX) om dit te testen. Ze probeerden het uit op verschillende soorten puzzels:

Eenvoudige patronen (MLP's)
Beeldherkenning (CNN's)
Taalvoorspelling (RNN's)

Ze ontdekten dat terwijl de "oude manier" (met Adam- of SGD-optimizers) in veel gevallen nog steeds de kampioen is voor pure snelheid en uiteindelijke nauwkeurigheid, deze nieuwe "Projectie"-manier verrassend goed werkt. Het is een levensvatbaar alternatief dat:

Leren zonder gradiënten nodig heeft.
"Ruwe" regels aankan die andere methoden in de war brengen.
Zeer efficiënt leert op parallelle hardware, vooral voor taken zoals taalmodelleren waarbij de oude methode worstelt met "verdwijnende gradiënten" (het vergeten van het begin van een zin).

Samenvattend
Het paper zegt: "Stop met proberen een heuvel af te glijden om het antwoord te vinden. Behandel het probleem in plaats daarvan als een set lokale regels. Los elke regel lokaal en gelijktijdig op, en uiteindelijk zal het hele systeem op zijn plaats vallen." Het is een nieuwe manier om AI te trainen die meer parallel is, flexibeler is met verschillende soorten wiskunde, maar momenteel meer geheugen vereist.

1. Probleemstelling

Het paper adresseert fundamentele beperkingen in het dominante paradigma van deep learning-training: gradient-based optimization via backpropagation. Hoewel deze aanpak zeer effectief is, staat het voor verschillende kritieke uitdagingen:

Differentieerbaarheidseis: Het vereist dat alle netwerkkomponenten en verliesfuncties (sub)differentieerbaar zijn, waardoor niet-differentieerbare operaties (zoals kwantisatie, discrete logica) worden uitgesloten.
Sequentiële Bottleneck: De backward pass is inherent sequentieel, wat parallelisme beperkt en de update-latentie verhoogt, vooral in diepe architecturen.
Biologische Onwaarschijnlijkheid: Het mechanisme van symmetrisch gewichtstransport (het terugsturen van foutgradienten door exact dezelfde gewichten die voor forward propagation werden gebruikt) wordt beschouwd als biologisch onrealistisch.
Optimalisatiepathologieën: Gradient-methoden worstelen vaak met verdwijnende/exploiterende gradienten, lokale minima en zadelpunten.

De auteurs stellen een paradigma-shift voor: het herschrijven van neurale netwerktraining niet als een verliesminimalisatie probleem, maar als een haalbaarheidsprobleem. In plaats van een verlieslandschap te navigeren, is het doel om netwerkparameters en tussenliggende toestanden te vinden die gelijktijdig een verzameling lokale constraints voldoen, afgeleid van de structuur van het netwerk en de input-output mapping.

2. Methodologie

De kernmethodologie vertrouwt op iteratieve projectie-algoritmen toegepast op een fijnkorrelige computationele graaf.

A. Haalbaarheidsformulering

Training wordt gedefinieerd als het vinden van een toestandsvector $z$ (die alle randwaarden in de computationele graaf vertegenwoordigt) die ligt in het snijpunt van meerdere constraint sets $C_v$ :
$\text{Vind } z \in \bigcap_{v \in V} C_v$
Waar $V$ de knopen in de computationele graaf voorstelt. De constraints zijn lokaal gedefinieerd voor elk knooppunttype:

Constante Input Nodes: Dwingen uitgaande randen om de inputwaarde te dragen.
Parameter Nodes: Dwingen consensus af onder alle uitgaande randen van een parameter (zorgend dat één gewichtswaarde overal wordt gebruikt).
Verborgen Functie Nodes: Dwingen af dat de output van een rand gelijk is aan het resultaat van het toepassen van de primitieve functie (bijv. ReLU, dot product) op zijn inputs.
Target/Loss Nodes: Dwingen af dat de netwerkoutput het verlies minimaliseert (of een margin constraint voldoet) ten opzichte van de target.

B. Projectie-operators

De oplossing wordt gevonden met iteratieve algoritmen zoals Alternating Projections (AP), Cyclic Projections (CP) en Douglas-Rachford (DR).

Lokale Projecties: Voor elke knoop projecteert het algoritme de huidige staat op de constraint set gedefinieerd door die knoop.
Primitieve Functies: Het paper leidt gesloten-formule of efficiënte numerieke oplossingen af voor het projecteren op de grafen van elementaire operaties (zoals dot products, ReLU van sommen, max pooling, kwantisatie).
Niet-differentieerbaarheid: Omdat projecties vertrouwen op afstandsminimalisatie in plaats van afgeleiden, behandelt het kader op natuurlijke wijze niet-differentieerbare functies (zoals kwantisatie, stapfuncties).

C. Parallelisatie via Bipartitie

Een belangrijke theoretische bijdrage is Theorema 2, dat gebruikmaakt van het bipartiete karakter van computationele grafen.

De grafknopen kunnen worden opgesplitst in twee disjuncte sets, $A$ en $B$ , zodanig dat geen twee knopen binnen dezelfde set aangrenzend zijn.
Projecties voor alle knopen in set $A$ kunnen onafhankelijk en parallel worden berekend omdat ze werken op disjuncte sets van randvariabelen. Hetzelfde geldt voor set $B$ .
Dit maakt het mogelijk om de volledige update-stap volledig te paralleliseren over het netwerk, waardoor de sequentiële afhankelijkheid van backpropagation wordt geëlimineerd.

D. Het PJAX Framework

De auteurs introduceren PJAX (Projection JAX), een softwareframework gebouwd bovenop JAX.

Compositional: Net zoals autodiff afgeleiden composeert, composeert PJAX projectie-operators.
API: Biedt een NumPy/JAX-achtige API voor het definiëren van modellen.
Hardware: Erft JAX's JIT-compilatie en ondersteuning voor GPUs/TPUs.
Automatisering: Construeert automatisch de computationele graaf en orchestreert de iteratieve projectiestappen.

3. Belangrijkste Bijdragen

Theoretische Herschrijving: Een rigoureuze formulering van neurale netwerktraining als een grootschalig haalbaarheidsprobleem met behulp van randvariabelen en lokale constraints, bewijzend dat een haalbare oplossing overeenkomt met een empirisch risicominimalisator.
Paralleliseerbare Algoritmen: Een bewijs dat projectie-updates volledig kunnen worden geparalleliseerd door gebruik te maken van de bipartiete structuur van computationele grafen, wat een duidelijk voordeel biedt ten opzichte van sequentiële backpropagation.
Projectie-operators: Wiskundige afleidingen voor projectie-operators op belangrijke primitieve functies (dot product, ReLU, max, kwantisatie) en verliesfuncties (cross-entropy, margin loss).
PJAX Framework: Het eerste algemene, gradient-free training framework dat willekeurige architecturen (MLPs, CNNs, RNNs) en hardware-versnelling ondersteunt.
Empirische Validatie: Uitgebreide experimenten die de levensvatbaarheid van de aanpak aantonen over diverse taken en architecturen.

4. Experimentele Resultaten

De auteurs evalueerden PJAX op standaard benchmarks (MNIST, CIFAR-10, HIGGS, Shakespeare) met behulp van MLPs, CNNs en RNNs, en vergeleken deze met SGD, Adam, Feedback Alignment (FA) en Forward-Forward (FF).

Prestaties:
- MLPs: Projectiemethoden (vooral Douglas-Rachford) behaalden concurrerende nauwkeurigheid ten opzichte van SGD, vaak met aanzienlijk snellere stap-tijden (tot 10x sneller per stap in ondiepe netwerken).
- RNNs: Projectiemethoden toonden een structureel voordeel door Backpropagation Through Time (BPTT) te vermijden, waardoor ze het probleem van verdwijnende/exploiterende gradienten omzeilen en sneller convergeren in termen van stappen dan SGD.
- CNNs: De prestatiekloof met gradient-based methoden was groter, en de stap-tijden waren trager vanwege hoge geheugenkosten door gedeelde parameters (zie hieronder).
Diepte en Skip Connections: Diepe netwerken zonder skip connections hadden moeite met informatieverplaatsing in projectie-gebaseerde training. Het introduceren van skip connections (het verkorten van paden van vroege lagen naar de output) verbeterde de prestaties echter aanzienlijk, wat de noodzaak van architecturale aanpassingen in dit paradigma bevestigt.
Efficiëntie:
- Tijd per Stap: Projectiemethoden (AP/CP) hadden over het algemeen een lagere tijd-per-stap dan SGD door massaal parallelisme, hoewel de totale wandkloktijd tot convergentie varieerde.
- Geheugen: De methode vereist het opslaan van toestandsvariabelen voor elke rand in de graaf. Dit leidt tot $O(|E|)$ geheugencomplexiteit, wat hoger is dan de $O(|V|)$ van backpropagation, vooral voor architecturen met zware parameterdeling (CNNs, RNNs).

5. Betekenis en Toekomstige Richtingen

Biologische Plausibiliteit: De methode sluit beter aan bij biologische leerprincipes door lokale updates te gebruiken en globale foutbackpropagation te vermijden.
Omgaan met Niet-differentieerbaarheid: Het opent de deur tot het trainen van netwerken met discrete componenten (zoals gekwantiseerde neurale netwerken, logische poorten) zonder gradientbenaderingen te vereisen.
Schaalbaarheid: Het parallelle karakter van de updates maakt het zeer geschikt voor moderne hardware (GPUs/TPUs), wat potentieel de sequentiële bottlenecks van backpropagation in zeer diepe of brede netwerken kan overwinnen.
Beperkingen: De primaire beperking is geheugengebruik, wat schaalt met batchgrootte, sequentielengte en parameterdeling.
Toekomstig Werk: De auteurs suggereren het verkennen van adaptieve demping, hybride schema's (het mengen van projecties met gradienten), geheugensparende technieken (low-rank randtoestanden) en op maat gemaakte architecturen om de interactie tussen parameters en data te verminderen.

Kortom, dit paper presenteert een overtuigend alternatief voor gradient-based training, en toont aan dat haalbaarheidszoektocht via parallelle projecties een levensvatbaar, algemeen en efficiënt paradigma is voor deep learning, met name voor niet-differentieerbare en recurrente architecturen.