Technische Samenvatting: Adaptieve Multi-Schaal Goedheid-Aggregatie voor Forward–Forward Learning

1. Probleemstelling

Het Forward–Forward (FF) algoritme, geïntroduceerd door Hinton, biedt een biologisch plausibel alternatief voor backpropagatie door gebruik te maken van twee forward-passes (één op echte data, één op negatieve data) om lagen onafhankelijk te trainen. Deze aanpak elimineert de noodzaak om tussenliggende activaties op te slaan voor gradiëntberekening, waardoor het geheugengebruik wordt verminderd en het probleem van "gewichtstransport" wordt vermeden. Het basis-FF-algoritme lijdt echter aan aanzienlijke prestatiekloven in vergelijking met op backpropagatie gebaseerde modellen (bijvoorbeeld ~92% versus ~98% op MNIST).

De auteurs identificeren dat deze prestatiekloof niet voortkomt uit het kernconcept van FF, maar uit vier specifieke, te simplistische ontwerpkeuzes in de originele implementatie:

1. Enkel-Schaal Goedheid: Het originele algoritme berekent "goedheid" (een maatstaf voor activatiekwaliteit) als een enkele scalar (som van gekwadrateerde activaties), waardoor het informatie op verschillende niveaus van abstractie niet kan vastleggen.
2. Statische Negatieve Sampling: Negatieve samples worden gegenereerd via willekeurige shuffle, wat resulteert in trainingsignalen die ofwel triviaal makkelijk ofwel destructief moeilijk zijn, zonder een op curriculum gebaseerde progressie.
3. Vaste Drempels: Een enkele, statische drempel ($\theta$) wordt toegepast over alle lagen en gedurende het volledige trainingsproces, waarbij wordt voorbijgegaan aan het feit dat activatiedistributies veranderen met netwerkdiepte en trainingsvoortgang.
4. Statische Leersnelheden: Het gebruik van een vaste leersnelheid houdt geen rekening met de instabiliteit van de vroege trainingsfasen, waarbij goedheidsscores en drempels nog in beweging zijn.

2. Methodologie: Adaptieve Multi-Schaal Goedheid-Aggregatie (AMSGA)

Het artikel stelt AMSGA voor, een raamwerk dat de kernstructuur van FF per laag en zonder backpropagatie behoudt, terwijl het de vier zwakke ontwerpkeuzes vervangt door adaptieve mechanismen.

A. Multi-Schaal Goedheid-Aggregatie

In plaats van één goedheidsmaatstaf, berekent AMSGA goedheid op drie schalen en combineert deze met diepte-afhankelijke gewichten:

• Lokale Goedheid ($g_{local}$): Het gemiddelde gekwadrateerde activatie per neuron. Dit legt fijne, laag-niveau kenmerken vast, met een zwaar gewicht in vroege lagen.
• Intermediaire Goedheid ($g_{inter}$): Neuronen worden gegroepeerd in partities, en de gemiddelde gekwadrateerde activatie wordt binnen groepen gemiddeld. Dit levert een stabiel mid-level signaal op.
• Globale Goedheid ($g_{global}$): De gemiddelde gekwadrateerde activatie over alle neuron en samples, wat de totale energie van de laag vastlegt. Dit wordt zwaarder gewogen in diepere lagen.
• Gewichtsysteem: De uiteindelijke goedheid $g(h, l)$ op laag $l$ is een lineaire combinatie:
  $$g(h, l) = w_{local}(l) \cdot g_{local} + 0.35 \cdot g_{inter} + w_{global}(l) \cdot g_{global}$$
  waarbij de gewichten lineair verschuiven van het bevoordelen van lokale structuur in vroege lagen naar globale activiteit in diepere lagen.

B. Adaptieve Negatieve Mining met Curriculum Learning

De selectie van negatieve samples wordt dynamisch aangepast op basis van trainingsvoortgang ($p = \text{huidige epoch} / \text{totale epochs}$):

• Vroege Fase ($p < 0.3$): Richt zich op "grensnabijheid", waarbij negatieven worden geselecteerd die dicht bij de beslissingsdrempel liggen om stabiele initiële leerprocessen te waarborgen.
• Middelfase ($0.3 \le p < 0.7$): Breidt het moeilijkheidsband uit en introduceert "zeer moeilijke" negatieven (die met hoge goedheidsscores) met een tarief van 40% om representaties te verfijnen.
• Late Fase ($p \ge 0.7$): Verfijnt het model agressief door het band te verbreden en het bemonsteringstarief van zeer moeilijke negatieven te verhogen naar 50%.
• Veiligheidsmechanisme: Als de selectiecriteria te weinig samples opleveren, garandeert het algoritme een minimale batchgrootte door de moeilijkste resterende samples toe te voegen.

C. Laag-afhankelijke Adaptieve Drempels

De drempel $\theta$ is geen globale constante meer. Deze wordt aangepast op basis van zowel laaggdiepte ($l$) als trainingsvoortgang ($p$):
$$\theta(l, p) = \theta_0 \times \left(1 + 0.15 \frac{l}{L}\right) \times (1 + 0.3 p)$$
Dit zorgt ervoor dat diepere lagen (die meer abstracte kenmerken verwerken) en latere trainingsfasen (waar representaties verfijnder zijn) hogere drempels gebruiken, waardoor de juiste kalibratie van de beslissingsgrens behouden blijft.

D. Leersnelheidsscheduling

Om instabiliteit tijdens de initiële settling van goedheidsscores en drempels te voorkomen, hanteert AMSGA een warm-up fase (lineaire verhoging van de leersnelheid voor de eerste 10% van de training) gevolgd door cosine annealing voor het resterende deel. Dit is cruciaal in FF om grote, destabiliserende updates te voorkomen voordat het systeem stabiliseert.

3. Belangrijkste Bijdragen

1. Nieuw Aggregatiemechanisme: Introductie van multi-schaal goedheid-aggregatie die lokale, intermediaire en globale signalen benut met diepte-afhankelijke weging.
2. Op Curriculum Gebaseerde Training: Implementatie van een adaptieve negatieve mining-strategie die de moeilijkheid van samples doet evolueren in synchronisatie met trainingsvoortgang.
3. Dynamische Kalibratie: Vervanging van vaste drempels door laag- en fase-afhankelijke adaptieve drempels.
4. Stabilisatiestrategie: Integratie van warm-up en cosine annealing, specifiek afgestemd op de unieke dynamiek van lokale leerregels.
5. Prestatievalidatie: Aantonen dat deze wijzigingen de prestatiekloof tussen FF en backpropagatie aanzienlijk verkleinen zonder de geheugenefficiëntie of biologische plausibiliteit van het algoritme te offeren.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op MNIST en Fashion-MNIST met Multi-Layer Perceptron (MLP) architecturen.

• MNIST:

  • Baseline FF: 92,00% testnauwkeurigheid.
  • AMSGA: 94,45% testnauwkeurigheid.
  • Verbetering: +2,45%.
  • Het model behaalde een train-test gap van <0,1%, wat wijst op sterke generalisatie.

• Fashion-MNIST:

  • Baseline FF: 81,00% testnauwkeurigheid.
  • AMSGA: 84,50% testnauwkeurigheid.
  • Verbetering: +3,5%.

• Berekeningsefficiëntie:

  • AMSGA introduceert minimale rekenkundige overhead. De tijd per epoch nam slechts licht toe (bijvoorbeeld van 2,5s naar 2,7s op MNIST), ondanks de toegevoegde complexiteit van de aggregatie- en mining-logica.
  • De methode behoudt de kernvoordelen van FF: geen backward pass, geen globale gradiëntopslag en optimalisatie per laag.

5. Betekenis en Claims

Het artikel betoogt dat de beperkingen van lokale leerregels (zoals FF) niet inherent zijn aan het concept, maar het gevolg zijn van "onambitieuze standaard" ontwerpkeuzes. Door te adresseren hoe goedheid wordt gemeten, hoe negatieve samples worden geselecteerd en hoe trainingsdynamiek wordt vormgegeven, tonen de auteurs aan dat biologisch plausibel leren concurrerend kan worden gemaakt met backpropagatie op standaard benchmarks.

De auteurs beweren dat AMSGA een stap voorwaarts is om biologisch plausibel leren "werkelijk concurrerend te maken, niet alleen theoretisch interessant". Ze benadrukken dat hoewel er nog een kloof blijft bestaan ten opzichte van state-of-the-art backpropagatie-modellen op moeilijkere taken, de hier bereikte prestatiewinsten bewijzen dat de kloof grotendeels te wijten is aan trainingsdynamiek en niet aan het fundamentele onvermogen van lokale regels om complexe representaties te leren. Het werk suggereert dat toekomstige verbeteringen kunnen liggen in het verfijnen van hoe labelinformatie wordt ingebed en hoe laag-onafhankelijkheid wordt beheerd, in plaats van het lokale leerparadigma te verlaten.