Quantization-Aware Neuromorphic Architecture for Skin Lesion Classification on Resource-Constrained Devices
Het artikel introduceert QANA, een kwantisatiebewuste neuromorfische architectuur die robuuste, nauwkeurige classificatie van huidlaesies op apparaten met beperkte middelen mogelijk maakt door de CNN-naar-SNN-conversie te optimaliseren en superieure prestaties, latentie en energie-efficiëntie te bereiken op de BrainChip Akida-processor.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een robot probeert te leren om het gezicht van een vriend te herkennen, maar je hebt alleen een pieklein, batterijgestuurd horloge om het denkwerk te doen. Dit is de wereld van edge computing: het draaien van slimme programma's direct op kleine apparaten zoals telefoons of wearables, in plaats van gegevens naar een gigantische, stroomverslindende cloudserver te sturen. Het is alsof je een complexe wiskundige som in je hoofd probeert op te lossen terwijl je over een drukke straat loopt, in plaats van een supercomputer om hulp te bellen. De uitdaging is dat de "hersenen" die we hiervoor meestal gebruiken—Convolutionele Neurale Netwerken (CNN's)—als zware, energieverslindende vrachtwagens zijn. Ze zijn geweldig in het herkennen van patronen, zoals huidvlekken, maar ze verbruiken te veel batterij en doen er te lang over om te draaien op een klein horloge.
Om dit op te lossen, verkennen wetenschappers neuromorfische computing, wat gebruikmaikt van een ander soort brein genaamd een Spiking Neural Network (SNN). Denk aan een standaard CNN als een bouwlamp die constant schijnt en elke pixel de hele tijd controleert. Een SNN is echter als een bewegingssensor-lamp: deze "vuurt" of stuurt alleen een kleine elektrische vonk (een "spike") wanneer er iets interessants gebeurt. Dit maakt het ongelooflijk snel en energiezuinig, perfect voor een apparaat dat de hele dag moet meegaan op een enkele lading. Maar er is een addertje onder het gras: deze spiking-hersenen zijn erg kieskeurig. Als je probeert een standaard "bouwlamp"-brein te laten werken als een "bewegingssensor"-brein, raakt het vaak in de war, verliest het zijn geheugen of begint het fouten te maken, vooral wanneer de gegevens rommelig of ongebalanceerd zijn.
Hier begint het verhaal van QANA. De onderzoekers, onder leiding van Haitian Wang en collega's, wilden een classificatiemodel voor huidlaesies bouwen dat direct kan draaien op een kleine, energiezuinige neuromorfische chip (specifiek de BrainChip Akida), zonder het vermogen te verliezen om het verschil te zien tussen een onschuldige moedervlek en een gevaarlijk melanoom. Ze realiseerden zich dat het simpelweg nemen van een standaard AI-model en dit converteren naar een spiking model hetzelfde was als proberen een vierkant blokje in een rond gat te passen—het breekt vaak of presteert slecht.
Daarom ontwierpen ze een nieuwe architectuur genaamd QANA (Quantization-Aware Neuromorphic Architecture), die fungeert als een brug tussen deze twee werelden. In plaats van alleen een standaard model te nemen en te hopen dat het goed converteert, bouwden ze een quantization-aware CNN-backbone die specifiek is ontworpen om het vertaalproces te overleven. Ze gebruikten een slimme truc genaamd Ghost modules, die als een meesterkok zijn die een enorme, heerlijke maaltijd bereidt met heel weinig ingrediënten door ze creatief uit te rekken. Hierdoor kon het systeem rijke kenmerken genereren zonder dat daarvoor een enorme hoeveelheid rekenkracht nodig was. Ze voegden ook speciale "attention"-mechanismen toe die werken als een spotlight, waardoor de AI zich kan concentreren op de belangrijkste delen van een huidafbeelding terwijl de achtergrondruis wordt genegeerd.
Cruciaal is dat ze het probleem van "conversiefalen" hebben opgelost. Normaal gesproken, wanneer je een standaard AI naar een spiking AI converteert, worden de getallen rommelig en daalt de nauwkeurigheid. QANA gebruikt een techniek genaamd quantization-aware training, wat lijkt op het oefenen van een liedje met een metronoom die alleen op specifieke beats klikt. Door het model vanaf het begin te trainen om deze specifieke, beperkte "klikken" (low-bit getallen) te verwachten, leert het model stabiel te blijven, zelfs wanneer het later wordt geconverteerd naar een spiking formaat. Ze gebruikten ook een meth�te genaamd SMOTE in de digitale "embedding space" (een wiskundige representatie van de afbeelding) om de AI beter te laten leren over zeldzame soorten huidlaesies, zodat het de minder voorkomende maar gevaarlijke gevallen niet negeert.
De resultaten waren indrukwekkend. Bij tests op een grote publieke dataset van huidafbeeldingen genaamd HAM10000 behaalde QANA een nauwkeurigheid van 91,6%, wat aanzienlijk beter was dan andere geconverteerde modellen. Nog spannender is dat toen ze het op de eigenlijke neuromorfische hardware (de BrainChip Akida) draaiden, het systeem ongelooflijk snel en efficiënt was. Het verwerkte een enkele afbeelding in slechts 1,5 milliseconde en verbruikte slechts 1,7 millijoule aan energie. Om dit in perspectief te plaatsen: het was ongeveer 21% sneller en 23% energiezuiniger dan de beste concurrerende modellen van een vergelijkbare grootte. Ze testten het ook op een echte klinische dataset uit een ziekenhuis in China, waarbij het een hoge nauwkeurigheid van 90,8% behield, wat bewees dat het in staat is om met echte medische gegevens om te gaan zonder dat patiëntgegevens naar de cloud gestuurd hoeven te worden.
Kortom, het artikel laat zien dat door de AI te laten leren in de taal van de spiking hardware tijdens de training en conversie, in plaats van te proberen het later te vertalen, we medische diagnostische instrumenten kunnen creëren die niet alleen slim zijn, maar ook snel, privé en batterijvriendelijk genoeg om in je zak te passen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.