NeuroMorse: A Temporally Structured Dataset For Neuromorphic Computing

Technische Samenvatting van NeuroMorse: Een Temporeel Gestructureerde Dataset voor Neuromorfische Computing

Probleemstelling
Neuromorfisch engineering streeft ernaar de efficiënte verwerking van het brein na te bootsen door gebruik te maken van asynchrone temporele gebeurtenissen (spikes) in plaats van synchrone datakaders, waardoor het energieverbruik wordt geminimaliseerd. Hoewel Spiking Neural Networks (SNNs) theoretisch goed geschikt zijn voor gebeurtenisgestuurde taken die zowel spatiale als temporele domeinen benutten, schieten veel huidige benchmarking-praktijken er vaak naast als het gaat om het adequaat testen van deze temporele capaciteiten. Veel bestaande datasets, zoals statische beeldconversies (bijv. MNIST) of zelfs gebeurtenisgestuurde gebaren-datasets, geven prioriteit aan spatiale hiërarchieën. In deze benchmarks is de temporele informatie vaak secundair; de prestaties kunnen hoog blijven, zelfs wanneer de temporele data wordt gebinned of verwijderd, wat suggereert dat huidige evaluaties niet volledig in staat zijn de unieke sterktes van neuromorfische systemen te vatten. Er is een kritiek gat in datasets waarbij temporele dynamiek het primaire mechanisme is voor de codering van complexe informatie.

Methodologie: De NeuroMorse Dataset
Om dit gat te dichten, introduceren de auteurs NeuroMorse, een dataset die specif으로 ontworpen is om de representatie van temporele data prioriteit te geven boven spatiale of kanaalwijze representaties. De dataset wordt geconstrueerd door de 50 meest gebruikte woorden in de Engelse taal om te zetten naar temporele Morse-code spike-sequenties.

• Coderingsschema: De dataset maakt gebruik van slechts twee input-spikekanalen: één voor "dots" (punten) en één voor "dashes" (strepen). Complexe semantische informatie wordt volledig gecodeerd via de temporele patronen van deze spikes.
• Temporele Hiërarchie: De codering introduceert een multi-schaal temporele hiërarchie:
  • $\Delta t_1$ (5 tijdstappen): Interval tussen opeenvolgende Morse-tekens (dots/dashes).
  • $\Delta t_2$ (10 tijdstappen): Interval tussen opeenvolgende Engelse letters.
  • $\Delta t_3$ (15 tijdstappen): Interval tussen opeenvolgende Engelse woorden.
• Dataset Samenstelling:
  • Trainingsset: Bevat de top 50 Engelse woorden omgezet in spike-sequenties.
  • Testset: Gegenereerd uit een corpus van 50.441 Simple Wikipedia-artikelen (interpunctie verwijderd). De primaire taak is het identificeren van voorkomens van de 50 trainings-keywords binnen deze continue stroom. De testset bevat 1.768.231 keyword-instanties.
  • Ruisvariaties: Om de moeilijkheidsgraad te verhogen, hebben de auteurs drie soorten ruis geïntroduceerd (spike-verwijdering/dropout, temporele jitter en Poissoniaanse spike-treinen) op lage en hoge niveaus, wat resulteert in 27 totale dataset-variaties.
• Formaat: De data wordt opgeslagen in Hierarchical Data Format 5 (HDF5), met spike-timestamps, kanaalinformatie en labels (inclusief start/eindtijden van keywords in de testset).

Belangrijkste Bijdragen

1. Temporeel-Centrische Benchmark: NeuroMorse wordt gepresenteerd als de eerste neuromorfische dataset die expliciet prioriteit geeft aan temporele datarepresentatie, waarbij de spatiale input wordt gereduceerd tot een minimale twee kanalen terwijl vertrouwd wordt op temporele patronen voor informatiedichtheid.
2. Hiërarchische Complexiteit: De dataset embedt feature-hiërarchieën op meerdere temporele schalen (dot/dash, letter, woord), wat algoritmen uitdaagt om inputpatronen te deconstrueren in zowel spatiale als temporele hiërarchieën.
3. Uitgebreid Evaluatiekader: Het artikel biedt een gestructureerd evaluatiekader inclusief een lineaire classifier, een ongesuperviseerd Spike-Timing Dependent Plasticity (STDP) netwerk, en een gesuperviseerd diep SNN, die allemaal zijn getest op schone en ruizige data.

Experimentele Resultaten
De auteurs evalueerden de moeilijkheid van de dataset met drie verschillende architecturale benaderingen, die alle drie werden uitgevoerd zonder ruis om een baseline van moeilijkheid vast te stellen:

1. Lineaire Classifier: Een eenvoudige Leaky Integrate-and-Fire (LIF) neuron verbonden met een Ordinary Least Squares regressiemodule bereikte slechts 4% nauwkeurigheid op de trainingsset (dubbel de willekeurige baseline van 2%), wat aangeeft dat de temporele patronen niet lineair scheidbaar zijn.
2. Ongesuperviseerd STDP Netwerk: Een netwerk dat gebruikmaakt van gewicht-afhankelijke STDP-synapsen en laterale inhibitie bereikte een classificatienauwkeurigheid van slechts 0,19% op de testset. De auteurs merken op dat het overgrote deel van de fouten te wijten was aan de misclassificatie van null-klassen (niet-keyword segmenten), wat de moeilijkheid benadrukt om signalen van ruis te onderscheiden in een continue stroom.
3. Gesuperviseerd Diep SNN: Een 3-laags netwerk getraind met spiking backpropagation met surrogate gradients bereikte 66% nauwkeurigheid op de trainingsset en 4,25% op de volledige testset. Wanneer de testset werd gefilterd om niet-keywords te verwijderen (waardoor alleen een willekeurige sequentie van keywords overbleef), steeg de nauwkeurigheid naar 12,46%.

Betekenis en Claims
Het artikel beweert dat NeuroMorse effectief de beperkingen van huidige neuromorfische architecturen aantoont bij het leren van temporele hiërarchieën. De resultaten suggereren dat:

• Standaard lineaire classifiers falen in het decoderen van de temporele structuur.
• Ongesuperviseerde STDP-mechanismen aanzienlijk moeite hebben met keyword-identificatie in continue stromen, met name wat betreft fout-positieven op null-klassen.
• Zelfs gesuperviseerde deep learning-benaderingen moeite hebben met het generaliseren van de trainingsset naar de complexe, continue testset.

De auteurs concluderen dat NeuroMorse dient als een rigoureuze benchmark om SNNs te evalueren en te verbeteren, specifiek gericht op de temporele verwerkingscapaciteiten die centraal staan in neuromorfische computing maar vaak worden verwaarloosd in huidige evaluaties. De dataset en code worden publiekelijk beschikbaar gesteld om verder onderzoek in dit domein te faciliteren.