Riepilogo Tecnico: Aggregazione Adattiva Multi-Scala della Bontà per l'Apprendimento Forward–Forward

1. Enunciato del Problema

L'algoritmo Forward–Forward (FF), introdotto da Hinton, offre un'alternativa biologicamente plausibile alla retropropagazione (backpropagation) sfruttando due passaggi in avanti (uno su dati reali, uno su dati negativi) per addestrare i livelli in modo indipendente. Questo approccio elimina la necessità di memorizzare le attivazioni intermedie per il calcolo del gradiente, riducendo così l'utilizzo di memoria ed evitando il problema del "trasporto dei pesi". Tuttavia, l'algoritmo FF di base soffre di divari prestazionali significativi rispetto ai modelli basati sulla retropropagazione (ad esempio, ~92% contro ~98% su MNIST).

Gli autori identificano che questo divario prestazionale non deriva dal concetto fondamentale di FF, ma da quattro scelte progettuali specifiche e eccessivamente semplificate nell'implementazione originale:

1. Bontà a Scala Singola: L'algoritmo originale calcola la "bontà" (una misura della qualità dell'attivazione) come un singolo scalare (somma dei quadrati delle attivazioni), fallendo nel catturare informazioni a diversi livelli di astrazione.
2. Campionamento Negativo Statico: I campioni negativi sono generati tramite mescolamento casuale, risultando in segnali di addestramento che sono o banalmente facili o distruttivamente difficili, mancando di una progressione basata su un curriculum.
3. Soglie Fisse: Una singola soglia statica ($\theta$) viene applicata su tutti i livelli e per l'intero processo di addestramento, ignorando il fatto che le distribuzioni di attivazione cambiano con la profondità della rete e il progresso dell'addestramento.
4. Tassi di Apprendimento Statici: L'uso di un tasso di apprendimento fisso non tiene conto dell'instabilità delle fasi iniziali dell'addestramento, dove i punteggi di bontà e le soglie sono ancora in fase di stabilizzazione.

2. Metodologia: Aggregazione Adattiva Multi-Scala della Bontà (AMSGA)

Il documento propone AMSGA, un framework che mantiene la struttura fondamentale per livelli e non basata sulla retropropagazione di FF, sostituendo le quattro scelte progettuali deboli con meccanismi adattivi.

A. Aggregazione Multi-Scala della Bontà

Invece di una singola metrica di bontà, AMSGA calcola la bontà su tre scale e le combina utilizzando pesi dipendenti dalla profondità:

• Bontà Locale ($g_{local}$): La media quadratica dell'attivazione per neurone. Questo cattura caratteristiche fini e di basso livello, pesate fortemente nei livelli iniziali.
• Bontà Intermedia ($g_{inter}$): I neuroni sono raggruppati in partizioni e la media quadratica dell'attivazione viene calcolata all'interno dei gruppi. Questo fornisce un segnale stabile di livello medio.
• Bontà Globale ($g_{global}$): La media quadratica dell'attivazione su tutti i neuroni e i campioni, catturando l'energia complessiva del livello. Questo è pesato più fortemente nei livelli più profondi.
• Schema di Ponderazione: La bontà finale $g(h, l)$ al livello $l$ è una combinazione lineare:
  $$g(h, l) = w_{local}(l) \cdot g_{local} + 0.35 \cdot g_{inter} + w_{global}(l) \cdot g_{global}$$
  dove i pesi si spostano linearmente dal favorire la struttura locale nei livelli iniziali all'attività globale nei livelli più profondi.

B. Estrazione Adattiva dei Negativi con Apprendimento a Curriculum

La selezione dei campioni negativi viene adattata dinamicamente in base al progresso dell'addestramento ($p = \text{epoca corrente} / \text{epoche totali}$):

• Fase Iniziale ($p < 0.3$): Si concentra sulla "prossimità al confine", selezionando negativi vicini alla soglia decisionale per garantire un'iniziale stabilità dell'apprendimento.
• Fase Intermedia ($0.3 \le p < 0.7$): Espande la banda di difficoltà e introduce negativi "molto difficili" (quelli con alti punteggi di bontà) a un tasso del 40% per affinare le rappresentazioni.
• Fase Tardiva ($p \ge 0.7$): Affina aggressivamente il modello ampliando la banda e aumentando il tasso di campionamento dei negativi molto difficili al 50%.
• Meccanismo di Sicurezza: Se i criteri di selezione producono troppo pochi campioni, l'algoritmo garantisce un lotto minimo aggiungendo i campioni rimanenti più difficili.

C. Soglie Adattive Dipendenti dal Livello

La soglia $\theta$ non è più una costante globale. Viene adattata in base sia alla profondità del livello ($l$) sia al progresso dell'addestramento ($p$):
$$\theta(l, p) = \theta_0 \times \left(1 + 0.15 \frac{l}{L}\right) \times (1 + 0.3 p)$$
Ciò garantisce che i livelli più profondi (che gestiscono caratteristiche più astratte) e le fasi successive dell'addestramento (dove le rappresentazioni sono più raffinate) utilizzino soglie più elevate, mantenendo una corretta calibrazione del confine decisionale.

D. Programmazione del Tasso di Apprendimento

Per prevenire l'instabilità durante la fase iniziale di stabilizzazione dei punteggi di bontà e delle soglie, AMSGA impiega una fase di warm-up (aumento lineare del tasso di apprendimento per il primo 10% dell'addestramento) seguita da annullamento cosinoidale (cosine annealing) per il resto. Questo è critico in FF per evitare aggiornamenti grandi e destabilizzanti prima che il sistema si stabilizzi.

3. Contributi Chiave

1. Meccanismo di Aggregazione Innovativo: Introduzione di un'aggregazione multi-scala della bontà che sfrutta segnali locali, intermedi e globali con ponderazione dipendente dalla profondità.
2. Addestramento Basato su Curriculum: Implementazione di una strategia adattiva di estrazione dei negativi che evolve la difficoltà dei campioni in sincronia con il progresso dell'addestramento.
3. Calibrazione Dinamica: Sostituzione delle soglie fisse con soglie adattive dipendenti dal livello e dalla fase.
4. Strategia di Stabilizzazione: Integrazione di warm-up e annullamento cosinoidale specificamente adattati alle dinamiche uniche delle regole di apprendimento locale.
5. Validazione delle Prestazioni: Dimostrazione che queste modifiche riducono significativamente il divario prestazionale tra FF e retropropagazione senza sacrificare l'efficienza di memoria o la plausibilità biologica dell'algoritmo.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su MNIST e Fashion-MNIST utilizzando architetture di Perceptron Multistrato (MLP).

• MNIST:

  • FF di base: 92,00% di accuratezza sul test.
  • AMSGA: 94,45% di accuratezza sul test.
  • Miglioramento: +2,45%.
  • Il modello ha raggiunto un divario train-test <0,1%, indicando una forte generalizzazione.

• Fashion-MNIST:

  • FF di base: 81,00% di accuratezza sul test.
  • AMSGA: 84,50% di accuratezza sul test.
  • Miglioramento: +3,5%.

• Efficienza Computazionale:

  • AMSGA introduce un sovraccarico computazionale minimo. Il tempo per epoca è aumentato solo leggermente (ad esempio, da 2,5s a 2,7s su MNIST) nonostante la complessità aggiuntiva della logica di aggregazione ed estrazione.
  • Il metodo mantiene i vantaggi fondamentali di FF: nessun passaggio all'indietro, nessun archivio globale dei gradienti e ottimizzazione per livelli.

5. Significato e Affermazioni

Il documento sostiene che i limiti delle regole di apprendimento locale (come FF) non sono intrinseci al concetto, ma sono il risultato di scelte progettuali "poco ambiziose di default". Affrontando come viene misurata la bontà, come vengono selezionati i campioni negativi e come vengono plasmate le dinamiche di addestramento, gli autori dimostrano che l'apprendimento biologicamente plausibile può diventare competitivo con la retropropagazione su benchmark standard.

Gli autori affermano che AMSGA rappresenta un passo verso il rendere l'apprendimento biologicamente plausibile "effettivamente competitivo, non solo teoricamente interessante". Sottolineano che, sebbene un divario rimanga rispetto ai modelli di retropropagazione all'avanguardia su compiti più difficili, i guadagni prestazionali ottenuti qui dimostrano che il divario è dovuto in gran parte alle dinamiche di addestramento piuttosto che all'incapacità fondamentale delle regole locali di apprendere rappresentazioni complesse. Il lavoro suggerisce che i futuri miglioramenti potrebbero risiedere nel perfezionare come le informazioni di etichetta vengono incorporate e come viene gestita l'indipendenza per livelli, piuttosto che nell'abbandonare il paradigma dell'apprendimento locale.