Sign-Symmetry Learning Rules are Robust Fine-Tuners

Stel je voor dat je een robot leert om katten, honden en auto's te herkennen. Decennialang was de gouden standaard voor het trainen van deze digitale hersenen een methode genaamd "Backpropagation". Denk hierbij aan een strenge, perfectionistische coach die elke beweging van de robot observeert, de exacte fout tot op de kleinste decimaal berekent, en een nauwkeurig correctiesignaal terugstuurt door het hele zenuwstelsel van de robot. Het werkt ongelooflijk goed, waardoor de robot slim en snel wordt. De coach heeft echter een geheim zwak punt: als iemand een minuscuul, bijna onzichtbaar stofje op een foto van een kat smeert, kan de robot plotseling uitroepen: "Het is een broodrooster!" omdat de perfecte berekeningen van de coach te gevoelig zijn voor zo'n klein trucje. Dit wordt een "adversarial attack" genoemd, en het is een groot probleem voor het vertrouwen in AI in de echte wereld. Wetenschappers proberen al lang een andere manier te vinden om robots te onderwijzen—een manier die de manier waarop ons eigen menselijke brein leert nabootst—door gebruik te maken van ruwere, meer biologische signalen in plaats van perfecte wiskunde. Maar deze "biologisch plausibele" methoden maakten de robots meestal dommer en langzamer, waardoor de meeste mensen het opgaven.

Nu heeft een team onderzoekers besloten om een slimme hybride aanpak te proberen. Ze vroegen zich af: "Wat als we de strenge coach gebruiken om de basis aan de robot te leren, maar dan overschakelen naar de ruwere, biologische coach voor de laatste afwerking?" In hun nieuwe studie hebben ze neurale netwerken (de hersenen van de robot) voorgetraind met de standaard, perfecte methode. Vervolgens, in plaats van de training af te ronden met dezelfde strenge coach, gebruikten ze een reeks regels genaamd "Sign-Symmetry". Deze regels zijn als een coach die alleen geeft om de richting van de fout (omhoog of omlaag, links of rechts), in plaats van de exacte grootte van de fout. Ze hoeven niet de exacte waarde van elke verbinding te weten; ze hoeven alleen te weten in welke richting ze een duwtje moeten geven. De onderzoekers ontdekten dat deze "ruwere" laatste afwerking de robot niet minder slim maakte bij het herkennen van dingen. Sterker nog, het maakte de robot ongelooflijk taai. Wanneer aanvallers probeerden de robot te misleiden met die minuscule, onzichtbare stofjes, week de robot die getraind was met de Sign-Symmetry-regels nauwelijks van zijn koers, terwijl de robot die volledig getraind was met de strenge coach instortte. Het blijkt dat door niet zo geobsedeerd te zijn door perfecte precisie, de robot veel moeilijker te misleiden is.

Het Verhaal van de Ruwe Afwerking

Laten we dieper ingaan op hoe dit werkt. De onderzoekers begonnen met het idee dat de strenge coach (Backpropagation) geweldig is voor het bouwen van een sterke fundering. Het is als het leren fietsen met zijwieltjes die je perfect evenwicht geven. Maar zodra je kunt fietsen, heb je die perfecte sensoren misschien niet meer nodig. Het team nam voorgetrainde modellen—neurale netwerken die al hadden geleerd om afbeeldingen te herkennen met de standaardmethode—en gaf ze een "fine-tuning" sessie met de Sign-Symmetry-regels.

Er zijn verschillende smaken van deze regels, zoals uSF (Uniform Sign-concordant Feedback), frSF (Fixed Random-magnitude Sign-concordant Feedback) en brSF (Batchwise Random Magnitude Sign-concordant Feedback). Je kunt dit zien als verschillende manieren om de robot een duwtje te geven. In plaats van te zeggen: "Je zat 0,043 eenheden naar links," zegt de Sign-Symmetry-coach alleen: "Hé, je leunt naar links, duw naar rechts!" De coach negeert de exacte getallen en focust op het teken (positief of negatief) van de fout.

Het team testte dit op twee hoofdtaken: Image Classification (vertellen wat er op een foto staat) en Hashing-based Image Retrieval (het vinden van gelijkaardige foto's in een enorme database). Ze gebruikten populaire robotbreinen zoals AlexNet, VGG-16 en ResNet-18, en testten deze op bekende datasets zoals CIFAR-10, MS-COCO en ImageNet.

De resultaten waren verrassend en opwindend. Wat betreft pure intelligentie waren de robots die werden bijgeschaafd met Sign-Symmetry net zo goed als de robots die volledig met de strenge coach waren getraind. In sommige gevallen waren ze zelfs beter! Bijvoorbeeld, op de CIFAR-10 dataset met een AlexNet-brein haalden de Sign-Symmetry-methoden een top-1 nauwkeurigheid van 93,75%, waarmee ze de standaardcoach van 90,62% versloegen. Op de ImageNet-dataset met een ResNet-18 brein evenaarden ze de nauwkeurigheid van de standaardcoach van 87,5%. De belangrijkste les hier is dat je geen intelligentie verliest door over te schakelen naar de ruwere coach voor de laatste stappen.

Maar de echte magie gebeurde toen ze testten hoe goed deze robots omgingen met problemen. De onderzoekers lanceerden "adversarial attacks" op hen. Dit zijn digitale hackers die proberen de robot te misleiden door kleine hoeveelheden ruis aan een afbeelding toe te voegen. Ze gebruikten twee soorten aanvallen: FGSM en PGD. Dit zijn "white-box" aanvallen, wat betekent dat de hackers precies wisten hoe de robot dacht en die kennis gebruikten om de perfecte truc te creëren.

Wanneer ze de standaardrobots (getraind met enkel Backpropagation) aanvielen, stortten de robots snel in. Naarmate de hackers de ruis vergrootten (vertegenwoordigd door een waarde genaamd $\epsilon$), kelderde de nauwkeurigheid van de standaardrobots. Op de ImageNet-dataset, wanneer het ruisniveau 0,5 bereikte, daalde de nauwkeurigheid van de standaardrobot naar bijna 0%. Hij werd volledig misleid.

Echter, de robots die waren bijgeschaafd met Sign-Symmetry waren als taaie, oude laarzen. Ze zakten niet in elkaar. Zelfs met dezelfde zware ruis behielden ze hun nauwkeurigheid veel beter. In de ResNet-18 experimenten was het verschil tussen de standaardrobot en de Sign-Symmetry-robot enorm—soms wel 71,88% verschil in nauwkeurigheid onder aanval. De lijn van de standaardrobot daalde als een steen, terwijl de lijn van de Sign-Symmetry-robot geleidelijk naar beneden ging, als een glijbaan. Dit suggereert dat omdat de Sign-Symmetry-regels niet afhankelijk zijn van perfecte, exacte gradiënten, de hackers niet gemakkelijk de perfecte truc kunnen berekenen om hen te misleeden. Het is als proberen een slot te kraken wanneer de pinnetjes een beetje los en willekeurig zijn; de perfecte sleutel werkt niet meer.

Het team controleerde ook of deze robots kwetsbaar waren voor "black-box" aanvallen, waarbij de hacker niet weet hoe de robot denkt en gewoon willekeurige trucs probeert. In deze gevallen presteerden de Sign-Symmetry-robots net zo goed als de standaardmodellen. Dit is een cruciaal detail: het betekent dat de robots niet zwakker zijn geworden in het algemeen; ze zijn alleen specifiek moeilijker te misleiden door hackers die vertrouwen op de interne wiskunde van de robot.

De onderzoekers keken ook naar de "hashing"-taak, wat lijkt op het organiseren van een bibliotheek door boekomslagen om te zetten in korte, unieke codes. Ze vonden hier vergelijkbare resultaten. Wanneer ze werden aangevallen met methoden zoals HAG en SDHA, zag de prestatie van de standaardrobots (gemeten in Mean Average Precision, of mAP) dramatisch dalen. Bijvoorbeeld, op ImageNet daalde de mAP van de standaardrobot naar ongeveer 12% bij hoge ruisniveaus, terwijl de Sign-Symmetry-robots rond de 40% bleven.

Een van de meest interessante bevindingen was dat de methode genaamd frSF (Fixed Random-magnitude Sign-concordant Feedback) de meest stabiele en presterende van de groep leek te zijn. Deze hield consistent stand over verschillende soorten robotbreinen en datasets heen.

Dus, wat betekent dit alles? Het artikel suggereert dat we niet hoeven te kiezen tussen slim zijn en taai zijn. We kunnen beide hebben. Door de strenge, perfecte coach te gebruiken om de fundering te leggen en vervolgens over te schakelen naar de ruwe, biologisch geïnspireerde coach voor de laatste toets, krijgen we een robot die net zo slim is, maar veel moeilijker te misleiden. De auteurs stellen voor dat deze "Sign-Symmetry" aanpak een nieuwe manier kan zijn om AI veiliger en betrouwbaarder te maken, vooral in situaties waarin we het ons niet kunnen veroorloven om misleid te worden. Ze geven toe dat er meer werk nodig is om te zien hoe dit werkt op nog grotere en complexere systemen, maar de eerste resultaten zijn een sterk aanwijzing dat de ruwe en ongepolijste leerstijl van de natuur het geheime ingrediënt kan zijn dat we hebben gemist om onze digitale hersenen echt robuust te maken.