In Two Minds about Lifelong Learning: Exploring Hemispheric Redundancy and Specialisation in Neural Models

Het menselijk brein is een meester in leren. Het kan een nieuwe vaardigheid oppikken, zoals het spelen van een gitaarakkoord, zonder onmiddellijk te vergeten hoe men een fiets bestuurt. Dit vermogen om gedurende een leven kennis te accumuleren wordt continu leren genoemd. In contrast hiermee worstelen kunstmatige intelligentiesystemen, die zijn opgebouwd uit lagen wiskundige verbindingen genaamd neurale netwerken, diepgaand met precies deze taak. Wanneer deze machines een nieuwe set informatie leren, overschrijven ze vaak de oude, waardoor ze weten wat ze eerder wisten uitwissen. Dit fenomeen, bekend als catastrofale vergetelheid, gebeurt omdat de interne instellingen van de machine worden aangepast om bij de nieuwe data te passen, waarbij per ongeluk de patronen die nodig zijn voor de oude data worden vernietigd. Voor robots of software om werkelijk persistent en aanpasbaar te worden, moeten ze dit probleem oplossen: continu leren zonder het verleden te verliezen.

Om te begrijpen hoe dit opgelost kan worden, kijken onderzoekers vaak naar de biologie. In het zoogdierbrein fungeert een structuur genaamd de hippocampus als een tijdelijke opslagplaats voor nieuwe herinneringen, terwijl de neocortex langetermenkennis opslaat. Elke nacht, tijdens de slaap, speelt het brein recente ervaringen opnieuw af, waarbij ze van de tijdelijke opslagplaats naar de langetermijnopslag worden overgebracht. Bovendien is het brein verdeeld in twee hemisferen die vaak verschillend werken: de ene kant heeft de neiging om nieuwe, nieuwe informatie met flexibiliteit te verwerken, terwijl de andere kant gevestigde routines met stabiliteit beheert. Een team van onderzoekers van Monash University en CSIRO Robotics heeft deze biologische principes genomen en een nieuwe computerarchitectuur gebouwd om te zien of ze kunstmatige intelligentie kunnen stoppen met vergeten.

De onderzoekers creëerden een systeem dat ze 4MAS noemen, wat staat voor 4 Module Awake/Sleep (4 Module Wakker/Slaap). In plaats van een enkelvoudig, monolithisch brein, is dit systeem gebouwd met twee duidelijke helften, of hemisferen, die de linker- en rechterkant van een biologisch brein nabootsen. Elke helft bevat zijn eigen geheugensystemen: een kortetermijnbuffer die enkele recente voorbeelden vasthoudt van wat het heeft gezien, en een langetermijngenerator die de algemene vorm van de data leert. Het systeem werkt in een cyclus die afwisselt tussen wakker zijn en slapen. Tijdens de wakkere fase leert het systeem een nieuwe taak met echte data, terwijl het ook voorbeelden uit zijn kortetermijngeheugen herhaalt. Tijdens de slaapfase wordt er geen nieuwe data geïntroduceerd. In plaats daarvan praten de twee hemisferen met elkaar. Ze genereren synthetische voorbeelden van wat ze hebben geleerd en gebruiken deze om elkaar te verfijnen, waardoor de oude kennis wordt versterkt terwijl de nieuwe wordt geïntegreerd.

Een belangrijke innovatie in dit ontwerp is dat de twee hemisferen niet identiek zijn. De onderzoekers hebben de hemisferen geprogrammeerd om verschillende persoonlijkheden te hebben. De ene hemisfeer is afgestemd om stabiel en conservatief te zijn, met de focus op het behouden van wat het al weet. De andere is afgestemd om plastisch en verkennend te zijn, gretig om zich aan te passen aan nieuwe patronen. Deze taakverdeling stelt het systeem in staat om de balans te vinden tussen de noodzaak om nieuwe dingen te leren en de noodzaak om oude dingen te onthouden. De onderzoekers testten deze architectuur op verschillende standaard beeldherkenningsuitdagingen waarbij de machine nieuwe categorieën afbeeldingen na elkaar moest leren, zonder de oude ooit weer te zien.

De resultaten waren opmerkelijk. Op een eenvoudige dataset van handgeschreven cijfers bereikte het systeem een nauwkeurigheid van 98,3 procent, wat bijna overeenkomt met de prestaties van een model dat alle data in één keer heeft gezien. Op een complexere dataset van kledingafbeeldingen bereikte het 84,9 procent nauwkeurigheid, waarmee het andere methoden die proberen vergeten te voorkomen, aanzienlijk overtrof. Zelfs op een zeer moeilijke dataset met 100 verschillende categorieën objecten slaagde het systeem erin om continu te leren, met een nauwkeurigheid van 29,29 procent, wat beter was dan de voorheen beste methoden. De studie toonde aan dat het systeem de nieuwe data niet alleen memoriseerde; het behield de oude data met zeer weinig verlies, een metriek die de onderzoekers "representationele drift" noemen. Het vermogen van het systeem om het verleden vast te houden terwijl het de toekomst leert, was direct gekoppeld aan de slaapfase. Wanneer de onderzoekers de slaapcyclus verwijderden, daalde de prestatie van het systeem en slaagden de twee hemisferen er niet in om effectief samen te werken.

De experimenten onthulden ook dat de specifieke verschillen tussen de twee hemisferen cruciaal waren. Wanneer beide kanten identiek werden gemaakt, presteerde het systeem slechter. Het was pas wanneer één kant flexibel werd toegestaan en de andere stabiel, dat het systeem floreerde. Dit suggereert dat het hebben van gespecialiseerde onderdelen die verschillende taken uitvoeren effectiever is dan een enkelvoudig, uniform onderdeel dat alles probeert te doen. De onderzoekers ontdekten dat het systeem het beste werkte wanneer de "slaap"-leersnelheid zeer laag werd gehouden, wat zachte aanpassingen mogelijk maakte in plaats van drastische veranderingen. Ze ontdekten ook dat het systeem een kleine hoeveelheid geheugen nodig had om recente voorbeelden op te slaan, maar zodra dat geheugen een bepaalde omvang bereikte, hielp het groter maken ervan niet veel meer.

Dit werk beweert niet het probleem van kunstmatige intelligentie voor altijd te hebben opgelost, noch suggereert het dat machines binnenkort zullen dromen zoals mensen. De gebruikte modellen waren relatief eenvoudig en werkten op specifieke, gecontroleerde datasets. De bevindingen bieden echter een duidelijke weg vooruit. Door de biologische strategie te kopiëren waarbij geheugentaken tussen twee gespecialiseerde zijden worden gesplitst en een periode van rust wordt gebruikt om kennis te consolideren, kunnen ingenieurs machines bouwen die meer leren zoals levende wezens. De studie demonstreert dat het stabiliteit-plasticiteit-dilemma, dat kunstmatige intelligentie al lange tijd tegenspreekt, niet beheerst kan worden door één enkel systeem alles te laten doen, maar door een team van gespecialiseerde agenten te creëren die elkaar ondersteunen door cycli van werk en rust.