Neuromorphic Wireless Split Computing with Resonate-and-Fire Neurons

Sintesi Tecnica: Calcolo Split Wireless Neuromorfico con Neuroni Resonate-and-Fire

Problematica
L'intelligenza edge moderna affronta una sfida critica nell'elaborazione di dati di serie temporali in streaming, come i segnali a radiofrequenza (RF) e audio, che possiedono ricche caratteristiche spettrali. Gli acceleratori convenzionali per reti neurali profonde (DNN) sono spesso inadatti per questi compiti continui e "always-on" a causa dell'elevato consumo energetico. Sebbene il calcolo neuromorfico tramite Reti Neurali Spiking (SNN) offra un'alternativa efficiente dal punto di vista energetico e basata sugli eventi, le implementazioni standard che si affidano a neuroni Leaky Integrate-and-Fire (LIF) mancano di una selettività in frequenza intrinseca. Di conseguenza, le SNN basate su LIF richiedono tipicamente costose fasi di pre-elaborazione, come la Trasformata Rapida di Fourier (FFT) o spettrogrammi, per estrarre caratteristiche nel dominio della frequenza prima dell'elaborazione basata su spike. Questa pre-elaborazione genera input ad alta dimensionalità che necessitano di modelli ampi, rischiando di annullare i benefici di energia e latenza del calcolo neuromorfico, in particolare nelle architetture di calcolo split dove la trasmissione di spike attraverso canali wireless costituisce un significativo collo di bottiglia energetico.

Metodologia
Il documento propone un'architettura di calcolo split wireless neuromorfico che sostituisce i convenzionali neuroni LIF con neuroni Balanced Resote-and-Fire (BRF). Questo approccio mira a elaborare direttamente i segnali nel dominio del tempo, eliminando la necessità di una pre-elaborazione spettrale esplicita.

• Modello del Neurone: Il sistema utilizza neuroni BRF, che esibiscono oscillazioni del potenziale di membrana sottosoglia e risuonano a frequenze sintonizzabili. Funzionalmente, agiscono come filtri passa-banda, accumulando input oscillatori e generando spike solo quando la frequenza di input corrisponde alla frequenza di risonanza naturale del neurone. Il modello incorpora meccanismi di rifrattarietà adattiva per controllare l'attività di spiking e preservare la memoria dei dati passati, garantendo una scarsità di impulsi (sparsity).
• Architettura di Sistema: La SNN è partizionata tra un trasmettitore (Tx) e un ricevitore (Rx). Il Tx codifica i segnali grezzi (audio o banda base) in treni di spike utilizzando una SNN di codifica con neuroni BRF. Questi spike vengono trasmessi su un canale wireless utilizzando un'interfaccia analogica basata su OFDM, dove gli eventi di spike modulano le sottoportanti OFDM. Il Rx decodifica il segnale ricevuto utilizzando una SNN di decodifica per prendere una decisione finale di classificazione.
• Ottimizzazione: Il sistema viene addestrato utilizzando una funzione di perdita che combina la cross-entropy loss con un regolarizzatore che promuove la sparsità. Questo regolarizzatore, basato sul rapporto tra la norma $\ell_1$ e la norma $\ell_2$ dei potenziali di membrana normalizzati, incoraggia un minor numero di spike per ridurre sia l'energia computazionale che quella di trasmissione.
• Modellazione Energetica: Gli autori sviluppano un modello energetico completo che tiene conto sia delle operazioni sinaptiche (accumulo dei pesi) che delle operazioni somatiche (dinamica del neurone). A differenza di lavori precedenti che spesso trascurano i costi somatici, questo modello calcola esplicitamente l'energia delle addizioni e delle moltiplicazioni richieste per le complesse dinamiche dei neuroni BRF rispetto alle dinamiche a valori reali di ALIF (Adaptive LIF) e LIF.

Contributi Chiave

1. Neuroni RF per il Calcolo Split Wireless: Il documento introduce l'uso di neuroni Resonate-and-Fire (RF) e BRF in un'architettura SNN split. Questi neuroni estraggono intrinsecamente caratteristiche spettrali localizzate nel tempo dai segnali grezzi, producendo rappresentazioni a bassa dimensionalità e una riduzione significativa dell'attività di spiking rispetto alle SNN basate su LIF, con o senza pre-elaborazione FFT.
2. Design del Sistema e Analisi Energetica: Viene presentato un design completo del sistema, caratterizzato da un'interfaccia analogica basata su OFDM per la trasmissione degli spike. Gli autori forniscono una caratterizzazione analitica del consumo energetico totale, che comprende sia la computazione (sinaptica e somatica) che la trasmissione wireless, dimostrando come la scarsità degli spike si traduca direttamente in risparmi di energia di trasmissione.
3. Valutazione Sperimentale: Il sistema di calcolo split RF-SNN proposto è valutato su due compiti distinti:
   • Classificazione Audio: Utilizzando il dataset Spiking Heidelberg Digits (SHD).
   • Classificazione della Modulazione RF: Utilizzando il dataset di segnali radio ITS (forme d'onda a banda base complessa).
     Lo studio confronta le BRF-SNN con LIF-SNN, ALIF e le reti neurali artificiali (ANN) convenzionali.

Risultati
I risultati sperimentali su entrambi i dataset dimostrano che l'architettura BRF-SNN raggiunge un'accuratezza competitiva riducendo sostanzialmente il consumo energetico:

• Audio (SHD): Il modello BRF ha raggiunto un'accuratezza fino al 93,3% con un'energia di calcolo di 8,77 µJ (RF) e 4,33 µJ (BRF), superando significativamente il modello LIF (82,0% di accuratezza, 30,44 µJ) e ALIF (89,7% di accuratezza, 22,01 µJ). Negli scenari di calcolo split a una distanza di 100 m, la BRF ha ottenuto il 92,9% di accuratezza con un'energia totale (calcolo + trasmissione) di 6,73 µJ, rispetto ai 41,39 µJ della LIF.
• Radiofrequenza (ITS): I neuroni BRF hanno raggiunto l'87,7% di accuratezza con 1,61 µJ di energia di calcolo, superando i modelli ALIF e LIF che richiedevano un'energia maggiore per un'accuratezza inferiore.
• Suddivisione dell'Energia: L'analisi conferma che, sebbene i neuroni BRF abbiano una complessità somatica leggermente superiore, la massiccia riduzione dei tassi di spiking porta a risparmi dominanti nell'energia sinaptica e di trasmissione. Il sistema sfrutta efficacemente la proprietà di "risonanza" per filtrare il rumore e concentrarsi sulle caratteristiche spettrali rilevanti per il compito.
• Quantizzazione: I modelli BRF hanno dimostrato una maggiore resilienza alla quantizzazione dei pesi (da 4 a 8 bit) rispetto ai modelli ALIF, mantenendo un'alta accuratezza anche con precisione ridotta.

Significatività e Rivendicazioni
Il documento afferma che, integrando l'analisi di frequenza appresa direttamente nelle dinamiche dei singoli neuroni, l'architettura proposta consente l'elaborazione efficiente di segnali temporali ricchi di spettro senza l'overhead di latenza ed energia della pre-elaborazione spettrale esterna. Gli autori sostengono che la combinazione della sensibilità spettrale dei neuroni RF con un'interfaccia wireless analogica a basso overhead crei una soluzione unicamente efficiente per applicazioni edge come il sensing wireless e il riconoscimento audio.

Il lavoro sottolinea che la selettività in frequenza intrinseca dei neuroni RF e BRF consente una maggiore discriminazione spettrale, traducendosi in migliori compromessi tra accuratezza ed efficienza energetica rispetto ai modelli LIF e ALIF convenzionali. Gli autori concludono che i modelli neuromorfici basati su RF detengono un potenziale significativo per abilitare l'intelligenza a basso consumo e bassa latenza all'edge wireless, particolarmente in scenari in cui minimizzare l'energia di trasmissione è critico. Si suggerisce come lavoro futuro l'estensione di questa architettura a modalità sensoriali più complesse e l'indagine di implementazioni circuitali analogiche delle dinamiche BRF.