Convolutional Sparse Coding via the Locally Competitive Algorithm on Loihi 2

Sintesi Tecnica: Codifica Sparsa Convoluzionale tramite l'Algoritmo di Competizione Locale su Loihi 2

Definizione del Problema
La codifica sparsa offre un quadro rigoroso per la rappresentazione dei segnali, esprimendo gli input come combinazioni lineari di un piccolo numero di funzioni di base. Sebbene l'Algoritmo di Competizione Locale (LCA) sia ben adatto al calcolo neuromorfico grazie al suo allineamento con lo stato locale, l'aggiornamento guidato dagli eventi e la comunicazione sparsa, gli studi neuromorfici precedenti si sono concentrati ampiamente su contesti non convoluzionali. L'LCA non convoluzionale manca della struttura spaziale, della condivisione dei pesi e dei campi recettivi sovrapposti essenziali per i carichi di lavoro pratici di inferenza sparsa. La codifica sparsa convoluzionale introduce queste proprietà, cambiando fondamentalmente il problema da una semplice questione di scalatura vettoriale a un carico di lavoro di inferenza strutturato e distinto. La sfida consiste nell'implementare questo setting convoluzionale su hardware neuromorfico (specificamente Intel Loihi 2) preservando al contempo le dinamiche essenziali e valutandone la fattibilità rispetto ai baseline dell'hardware convenzionale.

Metodologia
Gli autori presentano un'implementazione su Loihi 2 della codifica sparsa convoluzionale utilizzando una formulazione LCA ricorrente a un singolo strato. La metodologia prevede:

• Formulazione Algoritmica: Il problema è definito come la minimizzazione di una funzione di energia composta da un termine di fedeltà di ricostruzione e una penalità di sparsità $\ell_1$. Le dinamiche LCA evolvono attraverso interazioni locali dove le unità integrano la spinta feedforward, competono tramite inibizione laterale ed emettono attivazioni sogliate. La regola di aggiornamento utilizza una discretizzazione Euler forward a tempo discreto con dinamiche di membrana a virgola fissa.
• Mappatura Hardware: L'implementazione mappa la codifica sparsa convoluzionale su Loihi 2 rappresentando i coefficienti sparsi come un singolo strato ricorrente di neuroni.
  • Spinta Feedforward: Precomputata tramite convoluzione dell'input con il dizionario e iniettata come un bias fisso.
  • Inibizione Laterale: Derivata dalle correlazioni pairwise del dizionario ($W = (\Phi * \Phi) - \delta$), dove l'auto-sovrapposizione viene rimossa per prevenire una banale auto-inibizione. Ciò crea kernel inibitori locali.
  • Dinamiche: I neuroni utilizzano l'aritmetica a virgola fissa per gli stati di membrana e regole di aggiornamento personalizzate per il soft-thresholding. Le unità attive emettono output graduati corrispondenti alle attivazioni sogliate, generando traffico di eventi sparso.
• Configurazione Sperimentale:
  • Dataset: Benchmark d'immagine Set12 con input in scala di grigi.
  • Configurazione: Gli esperimenti utilizzano dizionari convoluzionali 3×3 e 5×5 con un numero variabile di kernel. Sono testati due regimi di stride: Stride-1 (dimensioni target 50×50 fino a 200×200) e Stride-2 (400×400 fino a 800×800).
  • Addestramento: I dizionari vengono appresi offline tramite addestramento alternato (codifica sparsa tramite LCA seguita da aggiornamento del dizionario tramite SGD) e mantenuti fissi durante l'inferenza.
  • Baseline: Un'implementazione GPU corrispondente (NVIDIA RTX A6000, PyTorch) che utilizza gli stessi dizionari, immagini, parametri di sparsità ($\lambda$) e un budget fisso di 1000 iterazioni LCA.
  • Metriche: La qualità della ricostruzione (PSNR, SSIM, MSE, sparsità) è trattata come indipendente dall'hardware. Le metriche dipendenti dall'hardware includono latenza on-chip ($time\_chip\_ms$), latenza wall-clock, potenza dinamica ed energia dinamica per inferenza.

Contributi Chiave

1. Prima Implementazione: Per quanto ne sappiano gli autori, questa è la prima implementazione e il primo benchmark dell'LCA convoluzionale su Loihi 2.
2. Benchmark Strutturato: Il lavoro stabilisce un setup di benchmarking corrispondente che separa le metriche algoritmiche (qualità della ricostruzione) dalle metriche dipendenti dall'hardware (latenza, potenza, energia).
3. Analisi dei Regimi: Lo studio analizza i trade-off attraverso molteplici impostazioni di regolarizzazione ($\lambda$), dimensioni dei filtri e configurazioni di stride per identificare i regimi operativi in cui l'inferenza sparsa convoluzionale è attraente su hardware neuromorfico.

Risultati

• Comportamento Solo-Loihi: L'aumento del parametro di sparsità $\lambda$ agisce come un controllo affidabile. All'aumentare di $\lambda$, la qualità della ricostruzione (PSNR) diminuisce moderatamente, mentre la latenza on-chip e l'energia dinamica diminuiscono significativamente. L'entità di questi risparmi dipende dal regime, variando con stride e dimensione del filtro.
• Confronto Cross-Platform:
  • Latenza: Il baseline GPU dimostra costantemente una latenza inferiore rispetto a Loihi 2, in particolare nei regimi Stride-1. Il divario di latenza si restringe nei regimi Stride-2, ma rimane a favore della GPU.
  • Energia: Loihi 2 mostra un vantaggio sostanziale nell'energia dinamica per inferenza in tutti i regimi testati, richiedendo molta meno energia rispetto al baseline GPU.
  • Qualità della Ricostruzione: La qualità della ricostruzione cross-platform dipende dal regime piuttosto che essere uniformemente ordinata. Le deviazioni tra i risultati di Loihi 2 e GPU sono più pronunciate nei regimi operativi più densi ( $\lambda$ inferiore) e diminuiscono man mano che le rappresentazioni diventano più sparse ( $\lambda$ maggiore). Gli autori attribuiscono ciò agli effetti di quantizzazione a virgola fissa nell'implementazione di Loihi 2 che si accumulano sulle dinamiche ricorrenti.

Significatività e Rivendicazioni
Il paper posiziona l'LCA convoluzionale su Loihi 2 non come un sostituto universale dell'esecuzione su GPU convenzionale, ma come un substrato di inferenza sparsa dipendente dal regime. La significatività primaria risiede nel dimostrare la fattibilità e chiarire le specifiche condizioni operative in cui l'hardware neuromorfico diventa vantaggioso.

• Identificazione dei Trade-off: Lo studio chiarisce che, sebbene le GPU offrano una latenza superiore e generalmente una migliore qualità della ricostruzione (specialmente nei regimi densi), Loi히 2 offre un vantaggio convincente nell'efficienza energetica dinamica.
• Contesto Applicativo: I risultati suggeriscono che Loihi 2 è particolarmente attraente per applicazioni in cui l'inferenza sparsa iterativa è preziosa ma la latenza assoluta è secondaria rispetto ai vincoli energetici, come pipeline di sensori a consumo ridotto o elaborazione front-end "always-on".
• Valore del Benchmark: L'LCA convoluzionale è proposto come un utile benchmark per i sistemi neuromorfici emergenti perché espone una famiglia strutturata di trade-off (qualità vs latenza vs energia) che dipendono sia dal regime operativo che dal substrato hardware.

Gli autori notano esplicitamente i limiti, tra cui la restrizione ai dizionari addestrati offline, l'uso dell'aritmetica a virgola fissa che impatta la precisione nei regimi densi, e l'uso di un budget fisso di 1000 iterazioni che potrebbe non riflettere i criteri di arresto ottimizzati per l'applicazione. Il confronto è inquadrato come un benchmark corrispondente per contestualizzare Loihi 2 rispetto a un forte riferimento convenzionale, piuttosto che come una rivendicazione di superiorità neuromorfica universale.