A Linear Implementation of an Analog Resonate-and-Fire Neuron

Technische Samenvatting: Een Lineaire Implementatie van een Analoge Resonate-and-Fire Neuron

Probleemstelling
Oscillatoire dynamiek is een krachtig principe geworden binnen machine learning, met name binnen State-Space Models (SSM's) die gebruikmaken van gestructureerde lineaire recurrences voor efficiënte verwerking van langetermijn-temporele relaties. Hoewel Resonate-and-Fire (RAF) neuronen een spiking-framework bieden dat deze oscillatoire dynamiek van nature belichaamt, kampten eerdere analoge implementaties met aanzienlijke uitdagingen. Vroege analoge RAF-circuits vertrouwden op niet-lineaire koppeling (vaak geïnspireerd door Lotka–Volterra-oscillatoren), wat hen gevoelig maakte voor procesvariaties, device-mismatch en temperatuurschommelingen. Bovendien konden deze niet-lineaire ontwerpen de lineaire recurrente vergelijkingen, die centraal staan in moderne SSM's, niet direct modelleren. Daarentegen missen digitale implementaties, hoewel robuust, de energie-efficiëntie van analoge signalering. Er is behoefte aan een analoge RAF-neuron die aansluit bij de lineaire principes van SSM's, terwijl de energie-efficiëntie en expressiviteit van spike-gebaseerde communicatie behouden blijft.

Methodologie
De auteurs stellen een lineaire analoge implementatie van een RAF-neuron voor, gefabriceerd in 22 nm Fully-Depleted Silicon on Insulator (FDSOI) technologie. Het ontwerp is gericht op het getrouw reproduceren van de continue-time SSM-dynamiek beschreven door de vergelijking $\dot{x}(t) = A_{RAF}x(t) + B_{RAF}I(t)$, waarbij de toestandsvector bestaat uit twee variabelen, $u$ en $v$.

De circuitarchitectuur hanteert een modulaire aanpak met twee primaire componenten:

1. Lineaire Transconductantie Versterkers (TCA's): Om een lineaire koppeling tussen de twee toestandsvariabelen ($u$ en $v$) te bereiken, maakt het ontwerp gebruik van bulk-gedreven gekascadeerde TCA's. Deze topologie is gekozen om een hoge lineariteit en een hoge uitgangsimpedantie te bieden over een brede voltageswing (0 V tot 0,8 V) zonder de noodzaak van grote tail-weerstanden. De transconductantie ($g_m$), die de resonantiefrequentie ($\omega$) bepaalt, wordt afgestemd via een bias-stroom ($I_{bias}$).
2. Switched-Capacitor (SC) Circuits: Om de intrinsieke vervalmechanismen (tijdconstanten $\tau_u, \tau_v$) van de toestanden te implementeren, gebruiken de auteurs SC-circuits in plaats van DC-gevoede subthreshold transistors. Deze aanpak vermindert mismatch en behoudt de getrouwheid aan een ideale exponentiële vervalcurve. De tijdconstanten zijn programmeerbaar door de schakelfrequentie ($f_{SC}$) aan te passen.

De auteurs erkennen dat de eindige uitgangsimpedantie van de TCA's een parasitair lekpad introduceert dat de effectieve tijdconstanten moduleert, met name bij hogere bias-stromen. Om dit aan te pakken, hanteren zij een co-design aanpak: de niet-ideale eigenschappen van het circuit (inclusief de variantie in TCA-lineariteit en tijdconstante-compressie) worden gekarakteriseerd en geïntegreerd in een compact gedragsmodel voor systeem-niveau simulaties.

Belangrijkste Bijdragen

• Lineair Analoge RAF-circuit: De introductie van een 22 nm FDSOI RAF-neuron die toestandsvariabelen lineair koppelt, wat direct aansluit bij SSM-principes, in tegen tegenstelling tot eerdere niet-lineaire analoge ontwerpen.
• Circuit Karakterisering: Gedetailleerde analyse van de TCA-lineariteit en de SC-vervalmechanismen, waarbij een resonantiefrequentiebereik van 100 Hz tot 500 kHz en instelbare tijdconstanten van 1 ms tot 500 ms worden aangetoond.
• Hardware-bewuste Co-Design: Een methodologie die de kloof overbrugt tussen ideale wiskundige modellen en fysieke circuit-niet-ideale eigenschappen door gemeten afwijkingen (mismatch, lineariteitsfouten, ruis) in te voegen in systeem-niveau simulaties.
• Energie-efficiëntie: Het ontwerp bereikt een ultra-laag stroomverbruik, variërend van 1,6 nW tot 132,6 nW, afhankelijk van de vereiste resonantiefrequentie en bias-stroom.

Resultaten

• Circuitprestaties: Het circuit bereikt een groot dynamisch bereik voor resonantiefrequenties en tijdconstanten. Het stroomverbruik schaalt lineair met de bias-stroom ($I_{bias}$), met een helling van 16,5 nW/nA. De oppervlakte is 6524 $\mu m^2$.
• Systeem-niveau Evaluatie: De auteurs hebben het circuit geëvalueerd op een keyword-spotting taak met de Spiking Heidelberg Digits (SHD) dataset. Zij simuleerden vijf niveaus van hardware-bewustzijn, voortschrijdend van een ideaal wiskundig model naar een volledig hardware-gekalibreerd model inclusief TCA-niet-lineariteit, device-mismatch en ruis.
• Nauwkeurigheid: De resultaten tonen aan dat de niet-ideale eigenschappen van het analoge circuit de prestaties niet significant belemmeren. De classificatienauwkeurigheid daalde met slechts 1,5% (van 93,4% in het ideale model naar 91,9% in het volledig hardware-gekalibreerde model), wat de robuustheid van de RAF-neuron aantoont, zelfs met analoge imperfecties.

Betekenis
Dit onderzoek vestigt RAF-neuronen als robuuste en energie-efficiënte computationele primitieven voor neuromorfische hardware. Door de kenmerken van een lineair analoog circuit succesvol in kaart te brengen in een systeem-niveau simulatie, toont dit werk aan dat analoge implementaties effectief moderne machine learning-architecturen zoals SSM's kunnen ondersteunen. De auteurs stellen dat deze co-design aanpak ervoor zorgt dat de hardware consistent blijft met algoritmische verwachtingen, wat het gebruik van analoge RAF-neuronen voor real-time signaalverwerkingstaken zoals keyword spotting valideert. Het werk suggereert dat deze neuronen kunnen dienen als een biologisch geïnspireerde, maar hardware-efficiënte brug tussen continue oscillaties en discrete spiking-netwerken.