Timing-Based Backpropagation in Spiking Neural Networks Without Single-Spike Restrictions

Technische Samenvatting: Tijdsgebaseerde Backpropagation in Spiking Neural Networks zonder Beperkingen tot Eén Spike

Probleemstelling
Spiking Neural Networks (SNN's) bieden een biologisch plausibel kader voor informatieverwerking door data te coderen in precieze spike-tijdstippen. Supervised learning in SNN's staat echter voor aanzienlijke uitdagingen, voornamelijk de niet-differentieerbaarheid van de binaire spike-functie. Bestaande benaderingen vallen over het algemeen in twee categorieën:

1. Op snelheid gebaseerde methoden: Deze benaderen gradiënten met behulp van surrogate gradients (SG) en tijdsdiscretisatie. Hoewel effectief, slagen ze er vaak niet in om exacte temporele coderingseigenschappen te vangen en behandelen ze spikes meer als continue activatiefuncties.
2. Op tijd gebaseerde methoden: Deze berekenen exacte gradiënten op basis van spike-tijdstippen (bijv. SpikeProp, Mostafa). Conventionele op tijd gebaseerde methoden leggen echter doorgaans een beperking tot één spike op, waarbij elke neuron maximaal één keer vuurt per invoerpatroon (vaak gebruikmakend van Time-To-First-Spike of TTFS-codering). Deze beperking beperkt de rekenkracht van SNN's en staat in strijd met biologisch bewijs dat suggereert dat meervoudige spike-vuurpatronen essentieel zijn voor efficiënte neurale codering. Eerdere pogingen om op tijd gebaseerd leren uit te breiden naar scenario's met meerdere spikes hebben geen prestaties getoond die superieur zijn aan modellen met een beperking tot één spike.

Methodologie
De auteurs stellen een nieuw backpropagation-algoritme voor voor feedforward SNN's dat het mogelijk maakt dat neuronen meerdere keren vuren, terwijl er exacte gradiëntberekening wordt behouden puur op basis van spike-tijdstippen, zonder afhankelijkheid van surrogate gradients of heuristische benaderingen.

• Neuronemodel: De studie maakt gebruik van het Leaky Integrate-and-Fire (LIF)-model in continue tijd. Een cruciaal onderscheid ten opzichte van sommige bestaande studies met meerdere spikes is het resetmechanisme: alleen het membraanpotentiaal wordt bij het vuren teruggezet naar nul, terwijl de postsynaptische stroom niet wordt gereset. Dit behoudt de geschiedenis van synaptische inputs, waardoor informatie uit het verleden toekomstige spikes binnen dezelfde neuron kan beïnvloeden.
• Wiskundige Formulering:
  • De auteurs definiëren twee concepten voor spike-volgorde: lokale spike-volgorde (de volgorde van spikes voor een enkele neuron) en globale spike-volgorde (de volgorde van alle spikes over een laag heen).
  • Door tijd $t$ te transformeren naar een variabele $z = \exp(t/\tau_I)$, worden de differentiaalvergelijkingen die het membraanpotentiaal en de stroom regeren omgezet in algebraïsche vormen. Dit maakt de expliciete en analytische berekening mogelijk van het volgende spike-tijdstip $z^{(n+1)}_j$ op basis van eerdere spike-tijdstippen en synaptische gewichten.
  • De forward pass berekent spike-tijdstippen sequentieel. De backward pass propageert fouten via deze exacte spike-tijdstippen, inclusief de "reset-paden" (gradiënten die stromen via de reset van het membraanpotentiaal), die vaak worden genegeerd in methoden met surrogate gradients.
• Verliesfuncties:
  • Verlies Membraanpotentiaal: Voor classificatie wordt het membraanpotentiaal van output-neuronen waargenomen op een vooraf ingesteld eindtijdstip $t_{out}$ (zonder dat er wordt gevurd), en wordt cross-entropy berekend.
  • Verlies voor Dode Neuronen: Om het probleem van "dode neuronen" (neuronen die nooit vuren door slechte initialisatie, waardoor ze in op tijd gebaseerde methoden niet trainbaar zijn) aan te pakken, wordt een strafverlies geïntroduceerd. Dit verlies straft neuronen die niet vuren voor een voldoende aantal invoerpatronen, en trekt ze effectief terug in het leerproces.
• Efficiëntie: Er wordt een tweestaps gepartitioneerd algoritme voorgesteld om de reken- en geheugeneisen van dynamica in continue tijd te hanteren. Deze benadering ontkoppelt de berekening van specifieke tijdstappen, waardoor parallelle verwerking mogelijk is op basis van spike-aantallen, wat is geoptimaliseerd voor GPU/TPU-uitvoering.

Belangrijkste Bijdragen

1. Exacte Backpropagation voor Meerdere Spikes: Het artikel presenteert het eerste supervised learning-algoritme voor multi-spike SNN's dat exacte gradiënten berekent uitsluitend met behulp van spike-tijdstippen, waardoor de noodzaak voor surrogate gradients of op snelheid gebaseerde benaderingen wordt geëlimineerd.
2. Prestatiebenchmarking: Met behulp van het MNIST-dataset demonstreren de auteurs dat multi-spike SNN's die met deze methode zijn getraind, betere prestaties leveren dan bestaande op tijd gebaseerde SNN's met een beperking tot één spike, en een nauwkeurigheid bereiken die vergelijkbaar is met niet-convolutionele Artificial Neural Networks (ANN's) en op snelheid gebaseerde SNN's.
3. Karakterisering van Lektijdconstanten: De studie onthult een unieke relatie tussen de synaptische lektijdconstante ($\tau_I$) en de netwerkprestaties in multi-spike SNN's. In tegenstelling tot modellen met één spike vertonen multi-spike-netwerken een optimale lektijdconstante (in hun experimenten gevonden als $\tau_I = 0,8$) die de testnauwkeurigheid maximaliseert.
4. Dynamiek van Spike-aantallen: Het onderzoek toont aan dat de verdeling van spike-aantallen per neuron zeer gevoelig is voor lektijdconstanten. Kleinere tijdconstanten (hogere lekkage) leiden tot hogere gemiddelde spike-aantallen en een verschuiving naar multimodale verdelingen, terwijl grotere tijdconstanten ervoor zorgen dat het netwerk convergeert naar een lager, stabiel spike-aantal.

Resultaten

• Nauwkeurigheid: Op het MNIST-dataset (architectuur 784-400-10) bereikte de voorgestelde op tijd gebaseerde multi-spike SNN een testnauwkeurigheid van 98,43 ± 0,05% met een optimale lekkageconstante. Dit overtreft de beste resultaten voor op tijd gebaseerde modellen met één spike (97,96%) en is vergelijkbaar met state-of-the-art op snelheid gebaseerde SNN's en ANN's.
• Optimale Parameters: De experimenten identificeerden een duidelijke optimum voor de lektijdconstante in multi-spike-netwerken. In tegenstelling hiermee vertoonden netwerken met één spike een monotoon convergentie zonder een duidelijk piek in prestaties ten opzichte van de lektijdconstante.
• Sparsiteit: Multi-spike SNN's bleken sparser te zijn (gemiddeld minder spikes per neuron) dan op tijd gebaseerde SNN's met een beperking tot één spike over een breed scala aan lektijdconstanten, wat wijst op een efficiëntere informatieverwerking.

Betekenis en Claims
Het artikel claimt een solide fundament te bieden voor gradiëntgebaseerd leren in op tijd gebaseerde SNN's door de kunstmatige beperking tot één spike te verwijderen. De auteurs betogen dat hun methode:

• Biologische Plausibiliteit Valideert: Door meerdere spikes toe te staan en exacte gradiënten te berekenen, reflecteert het model biologische neurale systemen beter, waar informatie wordt gecodeerd in de timing van meerdere spikes.
• Rekenkracht Verbeterd: De uitbreiding naar meervoudig vuren verhoogt op natuurlijke wijze de informatieverwerkingscapaciteit van SNN's zonder in te leveren op de precisie van temporele codering.
• Oplossing voor Gevoeligheid bij Initialisatie: De introductie van de "straf voor dode neuronen" vermindert de afhankelijkheid van initiële gewichtsvariabelen, een bekende hindernis in op tijd gebaseerd leren waarbij niet-vurende neuronen geen gradiënten kunnen ontvangen.
• Energie-efficiëntie: De auteurs merken op dat hun model, dat vertrouwen stelt op precieze spike-timing, het potentieel heeft bij te dragen aan de ontwikkeling van zeer energie-efficiënte computersystemen, aangezien het leerproces zelf energie-efficiënt kan zijn.

De studie concludeert dat, hoewel de op tijd gebaseerde methode inherente uitdagingen kent met betrekking tot plotselinge spike-variaties door gewichtsupdates, het voorgestelde algoritme succesvol aantoont dat multi-spike SNN's superieure prestaties kunnen behalen en unieke leerdynamieken vertonen die verschillen van hun tegenhangers met één spike.