Cortico-subcortical multi-head self-attention as a substrate for cognitive performance

Stel je je brein voor als de ultieme supercomputer, maar een die draait op zacht, levend weefsel in plaats van op siliciumchips. Al een lange tijd proberen wetenschappers te ontrafelen hoe deze biologische machine precies de truc van het "denken" volbrengt—hoe we taal begrijpen, problemen oplossen en dingen onthouden. Aan de ene kant hebben we de neocortex, de rimpelige buitenste laag van het brein die ons geavanceerde denken beheert. Aan de andere kant hebben we diepe, oudere structuren zoals de thalamus en de basale ganglia, die fungeren als de interne bedrading en verkeersregelaars van het brein. Recentelijk is een nieuw soort kunstmatige intelligentie, genaamd "transformers", beroemd geworden vanwege haar vermogen om te chatten, verhalen te schrijven en talen te vertalen. Deze AI-systemen werken met een slimme truc genaamd "attention" (aandacht), waardoor ze zich kunnen concentreren op de belangrijkste delen van een zin terwijl ze de rest negeren. De grote vraag in de wetenschap op dit moment is: zou ons eigen, biologische brein een vergelijkbare "attention"-truc gebruiken om dezelfde dingen te doen? Als we het biologische blauwdruk hiervoor kunnen vinden, zou dat ons helpen begrijpen hoe zoogdieren zoals wij zo slim zijn geworden.

Dit artikel suggereert dat het antwoord een overtuigend "misschien" is, door een specifiek biologisch blauwdruk voor te stellen waarbij de cortex en de thalamus van het brein samenwerken om een natuurlijke versie van deze AI-aandachtsnetwerken te bouwen. De auteurs suggereren dat het brein niet alleen passief informatie ontvangt; in plaats daarvan draait het een complex, meerlagig systeem waarbij verschillende delen van het brein fungeren als een hoogtechnologische zoekmachine. In dit model werken de neocortex (de denklaag) en de thalamus (een centraal schakelstation) samen om te creëren wat de auteurs "cortico-subcorticale multi-head self-attention" noemen.

Hier is hoe de magie volgens de studie gebeurt. Stel je voor dat de cortex van het brein is verdeeld in kleine buurten die micro-kolommen worden genoemd. In deze theorie fungeert een specifiek type hersencel, de laag 2/3 piramidaalcel, als een enorme bibliotheek van plaknotities. Deze cellen houden een "recurrent key-value memory" vast, wat simpelweg een chique manier is om te zeggen dat ze informatie opslaan die later kan worden opgezocht. Vervolgens fungeert een ander type cel, de laag 5 piramidaalcel, als een detective. Wanneer er nieuwe informatie (een "query") binnenkomt, scannen deze detectives de bibliotheek om de bijbehorende plaknotities (de "keys" en "values") te vinden die relevant zijn voor de huidige taak.

Het artikel suggereert dat de thalamus de cruciale bezorgdienst is die deze zoektocht mogelijk maakt. Het stuurt signalen die fungeren als de "keys", "values" en "queries" die nodig zijn om de zoekopdracht uit te voeren. Deze signalen reizen via specifieke paden, waarvan sommige de kern van de thalamus met de cortex verbinden en andere de matrix van de thalamus met de cortex. De auteurs stellen voor dat één specifiek gebied van de cortex functioneert als één "head" van een aandachtsnetwerk, en wanneer je al deze gebieden bij elkaar optelt, wordt de hele cortex een "multi-head self-attention network", net als de AI-modellen die poëzie kunnen schrijven of code kunnen programmeren.

Maar het brein leest niet alleen; het leert ook. Het artikel suggereert dat dezezelfde kleine schakeling het brein helpt te begrijpen wanneer het fout zit. Het berekent "sensory prediction errors", wat in feits de manier van het brein is om te zeggen: "Ik dacht dat je X zou zeggen, maar je zei Y!" Dit foutensignaal helpt het brein om zijn verbindingen bij te werken via een proces dat "gradient-based synaptic plasticity" wordt genoemd, wat de biologische versie is van leren van fouten. Bovalloos heeft het systeem een "poortwachter" in de basale ganglia. Deze poortwachter gebruikt "reward-prediction errors" (een signaal dat het brein vertelt of iets goed of slecht is) om te beslissen of de output van de cortex de wereld in mag of dat er herinneringen uit de hippocampus (de harde schijf van het brein voor langetermijngeheugen) moeten worden geactiveerd.

De auteurs testten dit idee door een computersimulatie van deze schakeling te trainen en het gedrag ervan te vergelijken met echte menselijke data. Ze ontdekten dat wanneer het gesimuleerde netwerk spraak verwerkte, de activiteitspatronen verrassend goed overeenkwamen met werkelijke opnames die vanuit menselijke hersenen zijn gemaakt tijdens spraakperceptie. Hoewel het artikel niet beweert dat dit exact is bewezen hoe het brein in elk detail werkt, suggereert het sterk dat deze specifieke arrangement van cellen en verbindingen de fysieke fundering zou kunnen zijn voor de ongelooflijke cognitieve vermogens die zoogdieren bezitten. Het is een overtuigende kaart die de stippen verbindt tussen de natte, rommelige biologie van onze hersenen en de gestroomlijnde, krachtige logica van moderne AI.