Sintesi Tecnica: HERO-SNN

Definizione del Problema

I dati cerebrali spazio-temporali, come l'elettroencefalografia (EEG) e la risonanza magnetica funzionale (fMRI), esibiscono dinamiche temporali complesse e un'attività spaziale distribuita che sono difficili da modellare. Sebbene le Reti Neurali Spiking (SNN) offrano un quadro biologicamente plausibile per rappresentare queste dinamiche attraverso l'elaborazione basata su spike, i meccanismi standard di apprendimento non supervisionato come la Plasticità Dipendente dal Tempo di Spiking (STDP) operano puramente sulla temporizzazione locale degli spike. Di conseguenza, le rappresentazioni interne formate dalla STDP sono agnostiche rispetto al compito; esse catturano correlazioni generali del segnale, ma non si allineano esplicitamente con gli obiettivi di classificazione o con la rilevanza comportamentale.

Quando le SNN addestrate con STDP vengono accoppiate con strati di lettura supervisionati (ad esempio, deSNN), la connettività interna rimane statica dopo l'addestramento non supervisionato. Ciò significa che la rete può preservare le caratteristiche dominanti del segnale, ma può fallire nel catturare pattern sottili e discriminativi essenziali per specifici stati cognitivi o clinici. Inoltre, l'esito della classificazione non influenza la struttura sinaptica interna, lasciando un divario tra l'apprendimento della rappresentazione spazio-temporale non supervisionata e l'ottimizzazione guidata dal compito. I metodi SNN esistenti, basati sulla supervisione o sul rinforzo, spesso sacrificano la plausibilità biologica (località) per ottenere prestazioni nel compito, oppure non riescono a raffinare le rappresentazioni interne in base ai risultati del compito.

Metodologia: HERO-SSNN

Per affrontare queste limitazioni, gli autori propongono HERO-SNN (Homeostatic Eligibility-based Reward-Optimised Spiking Neural Network). Questo framework estende l'architettura NeuCube esistente introducendo una terza fase di apprendimento che raffina la connettività sinaptica interna in base alle prestazioni del compito, preservando al contempo l'apprendimento locale basato su spike. La metodologia consiste in tre fasi distinte:

1. Apprendimento Spazio-Temporale Non Supervisionato

• Codifica dei Dati: I segnali EEG vengono convertiti in treni di spike utilizzando un metodo di codifica temporale basato su soglia. Uno spike viene generato quando la variazione dell'ampiezza del segnale supera una soglia predefinita ($\theta$).
• Mappatura della Rete: Le caratteristiche di input (canali EEG) sono mappate su un serbatoio (reservoir) SNN 3D basato su coordinate anatomiche (ad esempio, atlante di Talairach). La rete è inizializzata con una connettività "small-world", imitando i sistemi biologici con un mix di connessioni eccitatorie e inibitorie.
• Apprendimento STDP: I pesi sinaptici vengono aggiornati utilizzando regole STDP non supervisionate, permettendo alla rete di auto-organizzarsi secondo le correlazioni temporali nei dati di input.

2. Apprendimento Supervisionato (deSNN)

• Dopo l'addestramento STDP, i pesi sinaptici nel reservoir vengono congelati.
• Una Rete Neurale Spiking Evolutiva Dinamica (deSNN) viene addestrata per associare i pattern spazio-temporali appresi alle etichette di classe. Vengono creati neuroni prototipo per ogni classe e le connessioni sono inizializzate tramite l'apprendimento dell'Ordine di Rango (Rank Order - RO), dove gli spike precoci hanno un'importanza maggiore.

3. Raffinamento Consapevole del Compito (HERO-SNN)

Questa fase innovativa introduce un ciclo di feedback in cui la confidenza della classificazione modula gli aggiornamenti sinaptici interni. Il processo prevede:

• Propagazione in Avanti e Computazione della Confidenza: I campioni di addestramento vengono riprodotti attraverso la SNN addestrata. Un neurone di output temporaneo stima il vettore di confidenza della classe ($p_c(s)$) confrontando l'attuale pattern di spike con i neuroni prototipo memorizzati.
• Segnale di Ottimizzazione: Un segnale di ottimizzazione scalare ($O$) viene calcolato come la differenza tra la confidenza della classe reale e quella della classe predetta. Questo segnale indica se la rappresentazione interna supporta o contrasta l'esito corretto del compito.
• Tracce di Eleggibilità: Per identificare quali sinapsi hanno contribuito alla decisione corrente, una traccia di eleggibilità ($e_{ij}$) viene mantenuta per ogni sinapsi. Questa traccia registra le sinapsi attivate durante la propagazione dello spike del campione riprodotto.
• Raffinamento Sinaptico: I pesi sinaptici vengono aggiornati utilizzando il segnale di ottimizzazione e la traccia di eleggibilità: $\Delta w_{ij} = \eta \cdot O(s) \cdot e_{ij}(t)$. Questo rafforza o indebolisce selettivamente le sinapsi coinvolte nei percorsi rilevanti per il compito.
• Regolazione Omeostatica: Per prevenire dinamiche di rete instabili (ad esempio, eccessiva attivazione o silenziamento) causate da ripetuti aggiornamenti dei pesi, un meccanismo omeostatico adatta la soglia di attivazione ($V_{th}$) di ogni neurone. Se un neurone scatta sopra un tasso target, la sua soglia aumenta (riducendo l'eccitabilità); se scatta sotto il target, la sua soglia diminuisce. Ciò garantisce un'attività di spiking sparsa e stabile, consentendo al contempo l'adattamento.

Contributi Chiave

1. Raffinamento Interno Consapevole del Compito: A differenza degli approcci ibridi in cui solo lo strato di lettura è supervisionato, HERO-SNN consente alle rappresentazioni spazio-temporali interne della SNN di essere raffinate in base al feedback del compito.
2. Integrazione di Segnali Locali e Globali: Il framework riesce a colmare il divario tra le regole di apprendimento biologico locale (STDP, tracce di eleggibilità) e gli obiettivi globali del compito (confidenza del classificatore) senza abbandonare la località basata su spike.
3. Stabilità Omeostatica: L'inclusione dell'adattamento della soglia omeostatica assicura che la rete mantenga dinamiche di firing stabili durante il processo di raffinamento, prevenendo l'instabilità spesso associata alla plasticità modulata dalla ricompensa.
4. Interpretabilità: Raffinando specifici percorsi in base alla rilevanza del compito, il modello migliora l'interpretabilità delle rappresentazioni neurali interne.

Risultati Sperimentali

Il framework è stato validato utilizzando un dataset EEG benchmark da uno studio di intervento Havening, distinguendo tra un protocollo di tocco nutriente (H+) e un protocollo senza tocco (H−).

• Dataset: 276 campioni EEG spazio-temporali (64 canali, 512 punti temporali) da 23 partecipanti, suddivisi in set di addestramento e test a livello di partecipante per garantire la generalizzabilità.
• Prestazioni:
  • HERO-SNN ha raggiunto un'accuratezza di classificazione del 91,30% (F1-score: 0,91).
  • Il baseline STDP+deSNN (senza raffinamento) ha raggiunto un'accuratezza dell'84,62%.
  • Ciò rappresenta un miglioramento dell'11% nell'accuratezza rispetto all'approccio non supervisionato standard.
  • HERO-SNN ha superato i modelli di deep learning allo stato dell'arte, inclusi CNN (83,64%) e LSTM (69,05%), nelle stesse condizioni di suddivisione a livello di partecipante.
• Analisi: I risultati hanno indicato che il processo di raffinamento ha portato a cambiamenti localizzati nella connettività, rafforzando selettivamente le sinapsi rilevanti per il compito pur preservando la struttura complessiva appresa durante la STDP.

Significato e Rivendicazioni

L'articolo afferma che l'incorporazione del feedback del compito direttamente nell'adattamento delle rappresentazioni neurali spazio-temporali interne migliora significativamente sia le prestazioni di classificazione che l'interpretabilità del modello. Gli autori sostengono che HERO-SNN dimostri che le SNN possono andare oltre l'apprendimento puramente non supervisionato della struttura per raggiungere l'ottimizzazione specifica del compito, mantenendo la plausibilità biologica attraverso regole di apprendimento locali e la regolazione omeostatica.

Lo studio suggerisce che questo approccio è particolarmente prezioso per segnali cerebrali ad alta dimensionalità e rumorosi (come l'EEG), dove le informazioni rilevanti sono spesso deboli e distribuite. Raffinando la connettività interna per catturare meglio i pattern discriminativi, il modello supera i limiti della STDP standard, che spesso non riesce ad allineare le rappresentazioni interne con specifici stati cognitivi o clinici. Gli autori posizionano HERO-SNN come un framework robusto applicabile ad altri tipi di dati spazio-temporali, come le serie temporali fMRI, per applicazioni di salute mentale e neurologiche.