Learning in Deep Networks under Dale's Constraint

Sintesi Tecnica: Apprendimento in Reti Profonde sotto il Vincolo di Dale

Enunciato del Problema
Il deep learning è diventato un framework primario per le neuroscienze sistemiche, tuttavia l'algoritmo standard di backpropagation affronta ostacoli significativi in termini di plausibilità biologica. Un ostacolo centrale è il vincolo di Dale: i neuroni biologici sono o puramente eccitatori o puramente inibitori, e le sinapsi non possono cambiare segno. Inoltre, l'attività neuronale (frequenze di scarica) è intrinsecamente non negativa. La backpropagation standard si basa su attivazioni con segno, segnali di errore con segno e pesi sinaptici privi di vincoli di segno per propagare i gradienti. I modelli di apprendimento esistenti (ad esempio, codifica predittiva, feedback alignment) spesso non riescono a soddisfare simultaneamente la legge di Dale e la non negatività dell'attività pur recuperando gli aggiornamenti esatti del gradiente. Nello specifico, molti modelli permettono ai neuroni di rappresentare valori con segno misto o si affidano a segnali di errore globali che violano i vincoli sinaptici locali.

Metodologia
Gli autori propongono una nuova architettura neurale e una regola di apprendimento che aderisce rigorosamente al vincolo di Dale e all'attività non negativa, supportando al contempo un apprendimento simile alla backpropagation.

1. Motivo del Circuito On-Off:

   • Il nucleo costruttivo è un piccolo motivo di circuito composto da neuroni eccitatori e inibitori.
   • Questo motivo mappa due input non negativi ($x_1, x_2 \ge 0$) in due canali di output non negativi, denotati come $y^+$ (On) e $y^-$ (Off).
   • Il circuito implementa un'operazione di differenza "soft". Se $x_1 > x_2$, si attiva il canale On; se $x_2 > x_1$, si attiva il canale Off.
   • Una quantità con segno $d = x_1 - x_2$ non è rappresentata da un singolo neurone a segno misto, ma dalla coppia di canali non negativi: una differenza positiva è codificata in $y^+$, e una differenza negativa in $y^-$ con la stessa magnitudo. Al massimo un canale è attivo alla volta (o entrambi sono zero se la differenza è al di sotto di una soglia).

2. Architettura della Rete:

   • Le reti standard vengono costruite sostituendo ogni neurone nascosto a segno misto con un motivo on-off.
   • La rete opera in due flussi:
     • Bottom-Up (BU): Calcola le attivazioni feedforward utilizzando i motivi on-off.
     • Top-Down (TD): Propaga i segnali di feedback per l'apprendimento. Per ogni motivo BU, ci sono due corrispondenti motivi TD (uno per il canale BU On, uno per il canale BU Off).
   • Il flusso TD utilizza anch'esso coppie di canali non negativi per rappresentare aggiornamenti sinaptici positivi e negativi.

3. Regola di Apprendimento Hebbiana Locale:

   • L'apprendimento è guidato da un aggiornamento Hebbiano locale che combina l'attività presinaptica BU con i segnali di feedback TD accoppiati.
   • Per una sinapsi con attività presinaptica $x_j$, l'aggiornamento è determinato da due canali TD:
     • L'attività nel canale TD positivo ($\bar{\partial}_i$) guida un aumento Hebbiano del peso sinaptico.
     • L'attività nel canale TD negativo ($\partial_i$) guida una diminuzione Hebbiana.
   • L'aggiornamento effettivo è $\Delta W_{ij} = \eta x_j (\bar{\partial}_i - \partial_i)$.
   • Fondamentalmente, il peso sinaptico $W_{ij}$ ha un segno fisso (eccitatorio o inibitorio), ma la sua magnitudo viene aggiornata in base alla differenza tra i due segnali TD non negativi.

Analisi Teorica
Gli autori forniscono una prova teorica dimostrando che, sotto specifiche condizioni, questo schema di apprendimento locale recupera esattamente la backpropagation:

• Assunzioni: La rete BU consiste in operazioni lineari seguite da non linearità ReLU, e i pesi BU e TD sono allineati (simmetrici).
• Meccanismo: La propagazione TD soddisfa la stessa ricorsione dei segnali di errore della backpropagation ($\delta_l$). Nello specifico, la differenza tra i due canali TD non negativi ($\bar{\partial}_l - \partial_l$) si propaga all'indietro esattamente come il segnale di errore con segno $\delta_l$ nella backpropagation standard, mediato dalla derivata della ReLU (che corrisponde al canale BU attivo).
• Risultato: Di conseguenza, l'aggiornamento Hebbiano locale $\eta (\bar{\partial}_l - \partial_l) h_{l-1}^T$ è matematicamente equivalente all'aggiornamento del gradiente della discesa del gradiente $-\eta \frac{\partial L}{\partial W_l}$.

Risultati Sperimentali
Il modello è stato valutato su benchmark di classificazione di immagini:

• Esperimenti Controllati (MNIST, Fashion-MNIST, CIFIA-10):
  • Il modello Hebbiano simmetrico (dove i pesi BU e TD sono allineati) ha raggiunto un'accuratezza di test comparabile alle reti addestrate con backpropagation standard della stessa larghezza effettiva.
  • Varianti con "debole simmetria" (allineamento rumoroso) e pesi del "motivo appreso" hanno performato bene, suggerendo che l'architettura è robusta all'allineamento imperfetto e non richiede pesi interni a unità fissa.
  • Il modello on-off ha superato le MLP ReLU standard di dimensioni comparabili, suggerendo che la rappresentazione a canali accoppiati offre benefici computazionali oltre al semplice raddoppio del numero di neuroni.
• Scaling (Tiny ImageNet):
  • Sul benchmark più impegnativo Tiny ImageNet (200 classi), il modello on-off con apprendimento Hebbiano locale ha raggiunto un'accuratezza top-1 del 42,31%.
  • Ha superato significativamente i recenti baseline a ispirazione biologica come lo Self-Contrastive Forward-Forward (SCFF, 35,7%) e i classici baseline convoluzionali di larghezza corrispondente (35,58%).
  • I risultati indicano che l'architettura scala efficacemente a reti convoluzionali più profonde.

Significato e Rivendicazioni
Il lavoro sostiene di risolvere una discrepanza di lunga data nell'apprendimento biologicamente plausibile: come implementare un efficace assegnamento del credito in reti vincolate dalla legge di Dale e dall'attività non negativa.

• Plausibilità Biologica: Il modello dimostizza che segnali di apprendimento con segno possono emergere da interazioni strutturate tra popolazioni neurali non negative (canali On/Off) senza richiedere che i neuroni sparino negativamente o che le sinapsi cambino segno. Ciò è coerente con le evidenze biologiche dei percorsi on-off nella retina e nella corteccia visiva, nonché con le recenti scoperte sul feedback dendritico vettorizzato.
• Efficacia Computazionale: Contrariamente all'assunzione che i vincoli biologici debbano necessariamente degradare le prestazioni, l'architettura on-off non solo eguaglia ma spesso supera le prestazioni delle reti "vanilla" standard di dimensioni comparabili. Gli autori suggeriscono che la rappresentazione a canali accoppiati fornisce un modo efficiente per codificare le caratteristiche visive (ad esempio, polarità complementari dei bordi o contrasti oggetto-sfondo), offrendo un vantaggio computazionale insieme al realismo biologico.
• Limitazioni: Gli autori riconoscono che il modello non è un modello biologico completo dell'apprendimento corticale. Richiede il raddoppio di neuroni (o canali) rispetto alle reti standard e si basa sull'allineamento dei percorsi BU e TD, sebbene dimostrino che tale allineamento non debba essere esatto.

In sintarsi, il lavoro fornisce un meccanismo concreto per l'apprendimento simile alla backpropagation in reti vincolate da Dale, colmando il divario tra la potenza computazionale dell'apprendimento basato sul gradiente e i vincoli fisici dei circuiti neurali biologici.