Online Continual Learning on Intel Loihi 2 via a Co-designed Spiking Neural Network

Dit artikel introduceert CLP-SNN, een co-ontworpen spiking-neuraal netwerk geïmplementeerd op Intel Loihi 2 dat online continue learning bereikt met een nauwkeurigheid die overeenkomt met methoden op basis van replay, terwijl het tot 6.600 keer lager energieverbruik en 113 keer lagere latentie levert vergeleken met edge-GPU-baselines door traditionele afwegingen tussen nauwkeurigheid en efficiëntie te doorbreken.

De kern

Stel je voor dat je een robot leert objecten te herkennen in een rommelig huis. In de echte wereld ziet de robot niet zomaar één keer een kat en stopt dan; het ziet een kat, dan een hond, dan een nieuw type stoel, dan weer een kat, allemaal in een continue stroom.

De meeste huidige AI-systemen zijn als studenten die studeren voor een eindexamen, alles memoriseren en vervolgens te horen krijgen: "Oké, vergeet nu alles wat je hebt geleerd over katten en honden, en begin opnieuw met alleen maar stoelen." Als je probeert hen iets nieuws te leren zonder hun oude notities opnieuw te lezen, vergeten ze het oude materiaal vaak volledig. Dit wordt "catastrofaal vergeten" genoemd.

Om dit op te lossen, laten ingenieurs de AI meestal "repeteren" door haar keer op keer oude afbeeldingen te tonen. Maar dit is traag en verbruikt veel batterijvermogen, wat een probleem is voor kleine apparaten zoals robots of gezondheidsmonitoren die op kleine batterijen moeten draaien.

Het Grote Idee: Een Chip die op een Brein lijkt
Dit artikel introduceert een nieuwe manier om AI te leren die nabootst hoe een biologisch brein werkt, en draait op een speciale computerchip genaamd Intel Loihi 2. In plaats van een standaardcomputer die gegevens in grote, trage batches verwerkt, werkt deze chip als een zenuwstelsel: het "wordt wakker" en verricht werk alleen wanneer er iets nieuws gebeurt (een gebeurtenis).

De auteurs hebben een systeem ontwikkeld genaamd CLP-SNN (Continually Learning Prototypes - Spiking Neural Network). Hier is hoe het werkt, met eenvoudige analogieën:

1. Het "Mentale Archief" (Prototypes)

Stel je voor dat de AI niet probeert om elke enkele foto van een kat te memoriseren. In plaats daarvan houdt het een paar "ideale voorbeelden" of prototypes voor elke categorie in zijn hoofd.

• De Oude Manier: Wanneer een nieuwe foto binnenkomt, vergelijkt de AI deze met elke foto die het ooit heeft gezien. Dit is traag en vereist een enorme bibliotheek.
• De CLP-SNN Manier: De AI houdt een kleine, evoluerende "mentale schets" bij van hoe een kat eruitziet. Wanneer een nieuwe foto arriveert, vraagt het: "Lijkt dit op mijn katten-schets?" Zo ja, dan past het de schets lichtjes aan. Zo nee, dan beseft het: "Dit is iets nieuws!" en maakt er een nieuwe schets voor.

2. De "Zelfcorrigerende Pen" (De Leerregel)

Normaal gesproken moet je, wanneer je een schets aanpast, de hele pagina wissen en perfect opnieuw tekenen om de verhoudingen correct te houden. Dit is als een globale "renormalisatie"-stap die veel energie en tijd vereist.

• De Innovatie: De auteurs hebben een speciale wiskundige truc bedacht (een "zelf-normaliserende regel"). Het is alsof je een pen hebt die automatisch de inktstroom aanpast terwijl je tekent. Je hoeft niet te stoppen en de hele pagina opnieuw te tekenen; de pen houdt de schets van nature in balans terwijl je nieuwe details toevoegt. Hierdoor kan de AI direct leren, precies daar waar de actie plaatsvindt, zonder dat er een centrale baas nodig is om het werk te controleren.

3. De "Neurogenese" (Het Groeien van Nieuwe Neuronen)

Wat gebeurt er als de robot een compleet nieuw object ziet, zoals een "hoverboard", dat het nog nooit heeft gezien?

• De Oplossing: Het systeem heeft een "novelty detector" (nieuwheidsdetector). Als niets in zijn huidige archief overeenkomt met het nieuwe object, activeert dit neurogenese. Dit is alsof de robot zegt: "Ik heb geen map voor dit! Laten we nu direct een nieuwe map en een nieuwe schets maken." Het breidt zijn capaciteit op vraag uit, net zoals een menselijk brein nieuwe verbindingen groeit bij het leren van een nieuwe vaardigheid.

4. De "Stille Bibliotheek" (Sparsiteit)

In een normale computer staan de lichten aan en zijn de werknemers druk, zelfs wanneer er niets gebeurt. In dit nieuwe systeem (Spiking Neural Network) worden de werknemers alleen wakker wanneer er een "spike" (een signaal) plaatsvindt.

• De Analogie: Stel je een bibliotheek voor waar de lichten uit zijn en de bibliothecarissen slapen. Het moment dat er een boek wordt aangevraagd (een spike), wordt de specifieke bibliothecaris wakker, pakt het boek en gaat weer slapen. Omdat het systeem zo stil is en alleen werkt wanneer nodig, verbruikt het bijna geen energie.

De Resultaten: Een Enorme Overwinning

Het team testte dit op een robotische visietaken (objecten herkennen uit video). Ze vergeleken hun nieuwe systeem op de Loihi 2-chip met de beste standaardcomputers (zoals de NVIDIA Jetson Orin Nano die in veel robots wordt gebruikt).

• Snelheid: Het Loihi 2-systeem was 113 keer sneller (0,33 milliseconden versus 37 milliseconden). Het is als het verschil tussen een slak en een raceauto.
• Energie: Het Loihi 2-systeem verbruikte 6.600 keer minder energie (0,05 millijoule versus 333 millijoule). Het is als het vergelijken van de energie die nodig is om één LED-lampje een seconde aan te houden versus het laten draaien van een magnetron gedurende een minuut.
• Nauwkeurigheid: Ondanks dat het zo snel en efficiënt was, leerde het net zo goed als de trage, energievretende systemen, zonder wat het eerder had geleerd te vergeten.

Waarom Dit Belangrijk Is

Het artikel toont aan dat we door een brein-achtig algoritme (CLP-SNN) te combineren met brein-achtige hardware (Loihi 2), eindelijk AI kunnen bouwen die continu in real-time leert op kleine, batterij-aangedreven apparaten. Het doorbreekt de oude regel dat je moet kiezen tussen slim zijn (nauwkeurig) en efficiënt zijn (snel/laag energieverbruik).

De auteurs hebben de softwarecode publiek gemaakt zodat anderen hierop kunnen bouwen, hoewel de daadwerkelijke chip-hardware momenteel alleen beschikbaar is voor onderzoekers die met Intel werken. Dit werk bewijst dat "online continue learning" – leren terwijl je gaat, zonder te vergeten – niet zomaar een droom is, maar een praktische realiteit voor de toekomst van edge AI.

Technische samenvatting

Technische Samenvatting: Online Voortdurend Leren op Intel Loihi 2 via een Geco-ontworpen Spiking Neural Network

Probleemstelling

Artificiële intelligentiesystemen die op randapparaten (edge devices) worden ingezet, staan voor een kritieke uitdaging: de noodzaak van Online Voortdurend Leren (OCL). Rand-systemen, zoals service-robots of gezondheidsmonitoren, moeten zich in real-time aanpassen aan niet-stationaire datastromen en onbekende klassen zonder catastrofale vergeetachtigheid, terwijl ze tegelijkertijd strikte beperkingen op het gebied van stroomverbruik en latentie moeten respecteren.

Traditionele benaderingen falen in deze setting om verschillende redenen:

• Statische Modellen: Vooraf getrainde neurale netwerken gaan uit van een gesloten wereld waar de verdelingen van training en implementatie identiek zijn, wat leidt tot prestatiedegradatie in open-wereldscenario's.
• Beperkingen bij Opnieuw Trainen: Periodiek opnieuw trainen is te traag en te energievretend voor randplatforms.
• Contextueel Leren: Hoewel veelbelovend, vereisen grote taal- en visiemodellen cloud-schaal resources en gigabytes aan geheugen, waardoor ze onpraktisch zijn voor energie-beperkte randapparaten.
• Huidige Tekortkomingen bij OCL: Bestaande OCL-algoritmen vertrouwen vaak op grote replay-buffers (wat in strijd is met geheugenbeperkingen), dichte gradiënt-updates (wat in strijd is met localiteit), of globale normalisatie-operaties die incompatibel zijn met neuromorfe hardware.

Biologische hersenen lossen deze problemen op door middel van metaplasticiteit, neurogenese, lokale leerverbinten en asynchrone, gebeurtenisgestuurde communicatie. Het vertalen van deze principes naar technische praktijk is echter tot nu toe onbereikbaar gebleven, met name bij het implementeren van robuuste OCL-algoritmen op daadwerkelijke neuromorfe hardware zoals Intel's Loihi 2.

Methodologie: CLP-SNN

De auteurs introduceren CLP-SNN, een Spiking Neural Network (SNN)-architectuur die is ontworpen om het Continually Learning Prototypes (CLP)-algoritme natief te implementeren op de neuromorfe processor Loihi 2 van Intel. Het systeem is geco-ontworpen om de gebeurtenisgestuurde, spaarzame en lokale leercapaciteiten van de hardware optimaal te benutten.

Kernarchitectuur

CLP-SNN bestaat uit vier interacterende neuronpopulaties die zijn geïmplementeerd als aangepaste, met microcode geprogrammeerde spiking-modellen:

1. Input-Neuronen: Toestandsloze, gegradeerde-spike-relais die featurevectoren doorgeven.
2. Prototype-Neuronen: Bewaren klassenprototypen in hun synaptische gewichten. Ze concurreren via een 'Winner-Take-All' (WTA)-mechanisme met behulp van laterale inhibitie.
3. Novelty Detector: Bewaakt het ontbreken van prototype-spijken binnen een vertragingvenster om de toewijzing van nieuwe neuronen te activeren.
4. Modulator: Fungeert als een neurale toestandsmachine, routeert feedbacksignalen (beloning/straf) en activeert neurogenese.

Belangrijkste Algoritmische Innovaties

Om CLP compatibel te maken met Loihi 2, introduceerden de auteurs twee kritieke modificaties:

1. Zelf-normaliserende Drie-factor Lokale Leerverbint:
   Het oorspronkelijke CLP-algoritme vereist expliciete $L_2$-renormalisatie van gewichtsvector na elke update, een globale operatie die in strijd is met het localiteitsprincipe van neuromorfe chips. De auteurs hebben een zelf-normaliserende regel afgeleid met behulp van een Taylor-ontwikkeling onder de aanname van een kleine leersnelheid.

   • De update-regel is: $\Delta w = \alpha r (x - w y)$, waarbij $x$ de input is, $w$ het gewicht, $y$ de post-synaptische activatie (dot product), $\alpha$ de leersnelheid en $r$ een derde-factor modulair signaal.
   • De term $-wy$ fungeert als een lokale multiplicatieve verval die de gewichtsgroei impliciet begrenst, waardoor de noodzaak voor globale normberekening wordt geëlimineerd. Dit maakt volledig on-chip leren mogelijk zonder CPU-ingrijpen.

2. Gebeurtenisgestuurde Neurale Toestandsmachine:
   Het systeem implementeert de volledige CLP-stroom (winnaarselectie, novelty-detectie, modulator-feedback, leergating, metaplasticiteit en neurogenese) als een op spiking gebaseerde toestandsmachine.

   • Time-to-First-Spike (TTFS) Coding: Prototypen met een hogere cosinus-achtigheid vuren eerder, wat asynchrone winnaarselectie mogelijk maakt zonder expliciete argmax-operaties.
   • Neurogenese: Wanneer een nieuw input wordt gedetecteerd (geen prototype vuurt), wordt er op vraag een nieuw prototype-neuron toegewezen.
   • Metaplasticiteit: De leersnelheid ($\alpha$) van een prototype wordt aangepast op basis van de correctheid van de inferentie om volwassen geheugens te stabiliseren en interferentie te voorkomen.

Belangrijkste Bijdragen

1. Eerste Loihi 2 OCL-implementatie: Dit is de eerste studie die online voortdurend leren demonstreert dat natief is ontworpen en ingezet op Loihi 2, met benchmarking tegen conventionele randhardware.
2. Hardware-natieve Algoritme-herontwerp: De afleiding van de zelf-normaliserende leerverbint overbrugt de kloof tussen het CLP-algoritme en de beperkingen van neuromorfe hardware, waardoor de stap voor globale $L_2$-renormalisatie wordt verwijderd.
3. Op Spijken Gebaseerde Stroom: De implementatie van de volledige CLP-logica (inclusief novelty-detectie en neurogenese) als een aangepaste, met microcode geprogrammeerde toestandsmachine op Loihi 2, wat ruimtelijk-tijds spaarzame updates realiseert.
4. Cross-platform Benchmarking: Een uitgebreide evaluatie op de OpenLORIS robotische visiedataset tegen een NVIDIA Jetson Orin Nano, met analyse van nauwkeurigheid, latentie en energie-efficiëntie.

Resultaten

De experimenten werden uitgevoerd op de OpenLORIS-dataset (40 objectklassen) in een strikte OCL-instelling met een batchgrootte van 1.

Prestatiemetingen

• Nauwkeurigheid: CLP-SNN komt overeen met of overtreft de nauwkeurigheid van op replay gebaseerde en niet-replay baselines (bijv. CLP, NCM, Replay, SLDA) in few-shot experimenten. Bij 25-shot leren bereikt CLP-SNN 90,0% nauwkeurigheid, vergelijkbaar met het CLP-algoritme (93,0%) en superieur aan NCM (84,5%) en Replay (91,6%).
• Latentie: CLP-SNN op Loihi 2 bereikt 0,33 ms per leerverbint, wat 113× lager is dan de sterkste rand-GPU-baseline (SLDA op Jetson Orin Nano bij 37,3 ms).
• Energie: CLP-SNN verbruikt 0,05 mJ per update, wat een 6.600× reductie in energie vertegenwoordigt ten opzichte van de SLDA-baseline (333 mJ).

Efficiëntie-decompositie

De auteurs ontleden de efficiëntiewinsten in twee factoren:

1. Algoritmische Efficiëntie: Het CLP-algoritme zelf is efficiënter dan standaard OCL-methoden (zoals SLDA) vanwege lichtere prototype-update-berekeningen. Op dezelfde GPU is CLP ongeveer 14,5× sneller en ongeveer 22,6× energie-efficiënter dan SLDA.
2. Neuromorfe Co-ontwerp: De Loihi 2-implementatie biedt een extra verbetering van ongeveer 7,8× in latentie en ongeveer 295× in energie ten opzichte van het CLP-algoritme dat op een GPU draait. Dit wordt toegeschreven aan gebeurtenisgestuurd leren en spaarzame, gegradeerde-spike communicatie.

Spaarzaamheidsanalyse

Karakteriseringsstudies onthulden dat temporele spaarzaamheid van leren (het uitvoeren van de leerverbint intermitterend, bijvoorbeeld elke 20 tijdstappen) de dominante efficiëntiehefboom is, wat het dynamische stroomverbruik met 3,5× verlaagt en de latentie met 20× ten opzichte van per-tijdstap leren. Input-spaarzaamheid droeg ook bij aan een reductie van 28% in inferentielatentie.

Betekenis en Beweringen

Het artikel beweert dat geco-ontworpen, door de hersenen geïnspireerde algoritmen en neuromorfe hardware de traditionele afweging tussen nauwkeurigheid en efficiëntie in edge AI kunnen doorbreken.

• Haalbaarheid van Edge OCL: Het werk demonstreert dat real-time, energie-efficiënt voortdurend leren zonder herhaling haalbaar is op resource-beperkte randapparaten, een vermogen dat eerder onbereikbaar leek.
• Voorbij Pareto-grenzen: CLP-SNN doorbreekt de Pareto-grens die wordt waargenomen in conventionele hardware, en bereikt hoge nauwkeurigheid met aanzienlijk lagere latentie en energie dan enige baseline.
• Schaalbaarheid en Duurzaamheid: De aanzienlijke verbeteringen in energie-efficiëntie (tot 6.600×) suggereren een pad naar duurzame AI-systemen die de CO2-voetafdruk van randimplementaties kunnen verkleinen.
• Synergie tussen Hardware en Algoritme: De resultaten benadrukken dat neuromorfe processors niet slechts snellere versnellers zijn, maar fundamenteel verschillende, efficiëntere leerparradigma's mogelijk maken (lokaal, gebeurtenisgestuurd, spaarzaam) die niet efficiënt kunnen worden gerepliceerd op von Neumann-architecturen.

De auteurs merken beperkingen op, zoals de huidige afhankelijkheid van vaste feature-extractors en een vereenvoudigde strategie voor prototype-toewijzing op hardware die 2–3× meer prototypen gebruikt dan een volledig adaptieve simulatie. Zij stellen echter dat de kernvoordelen op het gebied van energie en latentie geldig blijven voor volledig adaptieve implementaties.