Sintesi Tecnica: Rete di Feromoni Locali (Local Pheromone Network)

Definizione del Problema

Le reti neurali contemporanee si affidano a moduli densi e differenziabili addestrati tramite backpropagation globale. Sebbene potenti, questo approccio accoppia l'apprendimento attraverso vasti set di parametri, portando al oblio catastrofico quando nuovi compiti sovrascrivono parametri essenziali per compiti precedenti. I sistemi biologici offrono un paradigma alternativo in cui le sinapsi sono locali, la plasticità è modulata da segnali neuromodulatori e le memorie si consolidano nel tempo. Tuttavia, i modelli computazionali esistenti spesso mancano di un prototipo ingegneristico unificato che aderisca rigorosamente a regole di apprendimento locali, sparse e non basate sulla backpropagation.

Metodologia: Rete di Feromoni Locali (LPN)

Il documento introduce la Local Pheromone Network (LPN), un prototipo di ricerca per reti neurali sparse, locali e aggiornate manualmente. L'architettura evita interamente la differenziazione automatica, affidandosi invece a una regola di apprendimento locale personalizzata.

Architettura Core

• Connettività Locale Sparsa: Ogni unità di output si connette solo a un vicinato fisso e a budget limitato di unità di input ($K$ vicini). La connettività è vincolata da:
  • Distanza Geometrica: Le unità sono posizionate su una griglia 1D o 2D.
  • Tag Molecolari: Le connessioni sono ammesse solo tra unità con tag interi compatibili (entro una distanza $\Delta t$).
• Rappresentazione dello Stato: Ogni sinapsi memorizza:
  • Un peso addestrabile ($W$).
  • Una traccia di feromone a breve termine ($s$) e una traccia di feromone a lungo termine ($p$).
  • Uno stato di consolidamento ($c$) opzionale.
• Forward Pass: Il peso effettivo è modulato da un gate di feromone ($g$), che normalizza la massa combinata di feromone a breve e lungo termine. Ciò consente alla rete di pesare dinamicamente i percorsi locali durante l'inferenza senza alterare i pesi base.

Regola di Apprendimento

L'addestramento procede tramite un aggiornamento di tipo Hebbiano locale e a budget limitato piuttosto che tramite discesa del gradiente:

1. Segnale di Errore: Un tensore di errore locale viene calcolato. Per gli strati nascosti, un segolo di feedback approssimato viene propagato attraverso pesi locali effettivi e derivate delle attivazioni (un'approssimazione ingegneristica, non l'esattezza biologica).
2. Adattamento del Budget: Il numero di sinapsi aggiornate per ogni unità di output ($B$) si adatta online in base alle tendenze della perdita (loss):
   • Modalità Exploit: Se la perdita migliora, il budget si restringe.
   • Modalità Neighbor-Follow: Se la perdita peggiora, il budget si espande verso i vicinati recentemente attivi per incoraggiare l'esplorazione locale.
3. Selezione della Sinapsi: Un sottoinsieme di sinapsi viene selezionato per l'aggiornamento in base a un punteggio che combina l'ampiezza del segnale locale ($|q|$) e il feromone a lungo termine ($p$).
4. Meccanismo di Aggiornamento: I pesi selezionati vengono aggiornati utilizzando il segnale locale e un moltiplicatore di plasticità ($\rho$) derivato dallo stato di consolidamento.
5. Dinamica dei Feromoni:
   • Rinforzo: La co-attività e i segnali di errore rinforzano sia i feromoni a breve che quelli a lungo termine.
   • Evaporazione: Le tracce decadono a ritmi diversi ($\lambda_s, \lambda_p$), creando una memoria multi-scala.
6. Consolidamento: Quando vengono soddisfatti criteri specifici (bassa perdita, rinforzo positivo, alto feromone a lungo termine), una sinapsi entra in uno stato di consolidamento. Questo riduce la sua plasticità ($\rho$), proteggendola dall'essere sovrascritta da compiti conflittuali.
7. Plasticità Strutturale e Replay:
   • Plasticità Strutturale: Le sinapsi con basso contenuto di feromone e non selezionate possono essere rimosse (pruning) e sostituite con nuovi collegamenti a candidati compatibili per tag nei vicinati attivi.
   • Local Replay: Se un nuovo aggiornamento causa un picco di perdita (indicando un conflitto), esempi di bassa perdita memorizzati durante le modalità precedenti di "exploit" o "steady" vengono riprodotti (replay) utilizzando la stessa regola di aggiornamento locale per mitigare l'oblio.

Contributi Chiave

I contributi del documento sono principalmente descrittivi e architettonici, formalizzando una specifica classe di sistemi di apprendimento locale:

1. Formalizzazione di uno Strato Locale Sparso: Uno strato in cui la connettività è strettamente definita dalla località spaziale e dalla compatibilità dei tag, memorizzata come matrici sparse anziché tensori densi.
2. Apprendimento Gated dal Feromone: Un meccanismo in cui l'apprendimento è regolato da tracce di feromone multi-scala, distinguendo tra attività transitoria e memoria stabile.
3. Selezione della Sinapsi Adattiva al Budget: Un meccanismo dinamico che restringe o espande il budget di apprendimento in base alle prestazioni, dando priorità all'esplorazione locale quando gli errori aumentano.
4. Stabilità Guidata dal Consolidamento: Un meccanismo di consolidamento per singola sinapsi che riduce la plasticità per le connessioni mature, scambiando esplicitamente adattabilità con stabilità.
5. Integrazione del Local Replay: Un metodo per la risoluzione dei conflitti che riapplica le regole di aggiornamento locale agli esempi memorizzati senza invocare la backpropagation.

Risultati Sperimentali

Gli autori presentano indagini comportamentali preliminari su compiti sintetici piuttosto che benchmark competitivi:

• Regressione Locale: La rete ha appreso con successo semplici mappature lineari locali (12 input $\to$ 3 output) con un MSE sceso da ~1.17 a ~0.008, confermando l'efficacia della regola di aggiornamento locale quando la geometria corrisponde alla struttura del compito.
• Memoria Partizionata: Compiti assegnati a diverse regioni di output e tag sono stati preservati indipendentemente.
• Memoria Conflittuale: Quando due compiti hanno competuto per le stesse sinapsi locali, la rete ha mostrato un oblio catastrofico (rapporto di perdita ~92x), come previsto senza consolidamento.
• Conflitto Consolidato: Con il consolidamento abilitato, l'oblio è stato significativamente ridotto (rapporto di perdita ~49x rispetto a ~1481x del baseline), sebbene l'apprendimento del nuovo compito conflittuale sia diventato più lento. Ciò dimostra il voluto trade-off tra stabilità e plasticità.
• Plasticità Strutturale e Replay: Il sistema ha gestito con successo l'aggiustamento dei vicinati locali e ha attivato i passaggi di replay quando i conflitti sono stati rilevati.
• Memoria Ibrida: In un compito sintetico a lungo contesto, un modello ibrido che combina un predittore convoluzionale standard con un ramo di memoria LPN ha raggiunto il 100% di accuratezza, mentre la base convoluzionale da sola è fallita (8% di accuratezza).

Significato e Rivendicazioni

Il documento posiziona la Local Pheromone Network come un modesto prototipo ingegneristico piuttosto che un sostituto per i Transformer o lo standard del deep learning.

• Cosa dimostra:
  1. Strati locali sparsi e con restrizioni di tag possono apprendere semplici funzioni locali senza autograd.
  2. Maschere di output e tag possono separare efficacemente le memorie attraverso le regioni.
  3. Il conflitto diretto sulle sinapsi condivise causa oblio, ma il consolidamento può mitigarlo riducendo la plasticità.
  4. Il local replay e la plasticità strutturale possono essere integrati in un unico ciclo di aggiornamento locale.
• Cosa NON dimostra:
  • Non è un sostituto competitivo per le architetture di modellazione di sequenze (Transformer, RNN).
  • Non risolve problemi di modellazione di sequenze su larga scala.
  • Il segnale di feedback dello strato nascosto è un'approssimazione ingegneristica, non una regola biologicamente esatta.

Gli autori concludono che l'architettura funge da banco di prova concreto per investigare la memoria locale, la partizione delle regioni cerebrali e la dinamica stabilità-plasticità, suggerendo un potenziale futuro in modelli ibridi dove gli apprendimenti convenzionali forniscono feature dense e i rami LPN memorizzano associazioni a lungo termine partizionate.