A transformer-based model reveals sparse, stimulus-dependent orientation readout from macaque V1 population activity
Deze studie toont aan dat een transformer-gebaseerd model de oriëntatie van stimuli nauwkeurig kan reconstrueren uit de populatieactiviteit van de macaque V1, wat onthult dat redundante neurale codering een flexibele, ijle en stimulusafhankelijke readout-mechanisme ondersteunt die wordt gemedieerd door self-attention.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer
De primaire visuele cortex, een dunne laag weefsel aan de achterkant van de hersenen, fungeert als de eerste belangrijke verwerkingsstation voor alles wat we zien. Wanneer licht het oog raakt, reizen signalen naar deze regio, waar miljoenen individuele neuronen vuren als reactie op specifieke kenmerken van de visuele wereld. Een van de meest fundamentele eigenschappen die deze neuronen detecteren, is oriëntatie: de hoek waaronder een lijn of rand gekanteld is. Decennia aan onderzoek hebben aangetoond dat deze neuronen niet uniform zijn; elk heeft een voorkeurshoek, zoals een klein kompasnaaldje dat in een specifieke richting wijst. De hersenen vertrouwen echter niet op een enkel neuron om te vertellen naar welke hoek men kijkt. In plaats daarvan activeert een visuele stimulus een enorme, overlappende menigte van duizenden neuronen, elk met licht verschillende voorkeuren en variërende niveaus van activiteit. Dit creëert een complexe, redundante code waarbij dezelfde informatie verspreid is over een grote populatie. Het centrale mysterie voor neurowetenschappers is al lang hoe de hersenen door deze enorme, ruisige menigte heen filteren om één enkel, precies antwoord over de wereld te extraheren. Als elk neuron een beetje bijdraagt, hoe beslissen de hersenen dan naar welke ze luisteren, en luisteren ze wel aan al hen evenveel?
Om dit puzzelstuk op te lossen, maakten onderzoekers gebruik van een krachtig nieuw hulpmiddel uit het veld van kunstmatige intelligentie: een transformer-gebaseerd model. Oorspronkelijk ontworpen voor taalverwerking, is dit type computerprogramma uniek goed in het uitzoeken welke delen van een complexe input het belangrijkst zijn voor een specifieke taak. Het team, geleid door wetenschappers van Peking University en Zhejiang University, paste dit model toe op echte biologische data. Ze registreerden de activiteit van meer dan 1.000 neuronen tegelijkertijd uit de visuele cortex van zeven wakkere macro's. De apen kregen eenvoudige afbeeldingen van gestreepte patronen te zien, bekend als Gabor-stimuli, op verschillende hoeken. De onderzoekers voedden vervolgens de collectieve calciumresponsen van deze neuronen aan hun computermodel, met de vraag om de exacte afbeelding te reconstrueren die de aap had gezien. Het doel was niet alleen om te zien of de computer de hoek kon raden, maar om te observeren hoe het besliste aan welke neuronen het aandacht moest besteden tijdens het proces.
De resultaten waren opmerkelijk. Het computermodel reconstrueerde de gestreepte afbeeldingen met ongelooflijke precisie en legde de oriëntatie van de lijnen vast met een gemiddelde fout van minder dan één graad. Dit niveau van nauwkeurigheid overtrof wat eenvoudigere computermodellen zou kunnen bereiken, wat bewees dat de transformer-architectuur uniek geschikt was om dit complexe biologische signaal te decoderen. Maar de echte doorbraak kwam van het kijken in de "geest" van het model. Terwijl de computer de gegevens verwerkte, genereerde het een kaart van aandacht, die liet zien hoeveel gewicht het aan elk neuron toekende bij het nemen van een beslissing. De onderzoekers ontdekten dat het model de 1.000 neuronen niet als gelijke partners behandelde. In plaats daarvan werd de reconstructie voor een gegeven hoek gedomineerd door een kleine, ijle groep van slechts twee of drie neuronen. Deze specifieke neuronen waren niet willekeurig; het waren de neuronen waarvan de voorkeurshoeken overeenkwamen met de getoonde afbeelding, en zij waren degenen die de sterkste "aandachtssignalen" van de rest van het netwerk ontvingen.
Deze bevinding daagt een algemeen aanvaarde aanname uit dat de hersenen de signalen van duizenden neuronen moeten middelen om een helder beeld te krijgen. De studie suggereert dat de hersenen informatie redundant opslaan over een grote populatie, maar die informatie op een zeer selectieve en flexibele manier uitlezen. Het model onthulde dat deze sleutelneuronen speciaal waren, niet alleen omdat ze de juiste hoek leuk vonden, maar ook omdat ze minder afhankelijk waren van hun buren, waarbij ze minder gedeelde ruis of variabiliteit vertoonden. Bovendien toonde het model aan dat het de signalen van deze enkele sleutelneuronen kon verscherpen, door effectief het volume op de meest nuttige informatie op te draaien terwijl het de ruis van de rest van de menigte naar beneden bracht. Dit proces stelde het systeem in staat om een precieze oriëntatie te extraheren uit een chaotische zee van activiteit.
Misschien wel het meest overtuigende bewijs voor dit flexibele systeem kwam uit een "wat als"-experiment. De onderzoekers verwijderden de kleine groep hoog gewogen neuronen uit het model en vroegen het om het opnieuw te proberen. In plaats van te falen, paste het model zich snel aan. Het rekruteerde een nieuwe, andere set vervangende neuronen die vergelijkbare eigenschappen hadden als de verwijderde neuronen. Deze nieuwe neuronen waren evene kind afgestemd op de juiste hoek en waren in staat om de taak van het decoderen van de oriëntatie met dezelfde hoge precisie over te nemen. Dit demonstreert dat de hersenen niet vertrouwen op een vaste, onveranderlijke set van "ster"-neuronen. In plaats daarvan is het vermogen om visuele informatie uit te lezen een dynamisch proces, waarbij een redundante populatie cellen een vangnet biedt, waardoor het systeem kan overschakelen naar verschillende subsets van neuronen zonder aan nauwkeurigheid in te boeten.
De studie bevestigt dat de visuele cortex werkt volgens een principe van redundante opslag maar ijle, stimulus-afhankelijke uitlezing. De hersenen houden dezelfde informatie op veel plaatsen vast, wat zorgt voor robuustheid, maar wanneer ze een beslissing moeten nemen, richten ze hun middelen op een zeer kleine, hoogst effectieve subset van de populatie. Dit mechanisme maakt zowel de stabiliteit van een groot netwerk mogelijk als de snelheid en precisie van een gefocuste uitlezing. Door een transformer-model te gebruiken om de activiteit van echte neuronen te decoderen, hebben de onderzoekers een helder venster geboden op hoe de hersenen het probleem van het extraheren van specifieke details uit een massieve, overlappende code zouden kunnen oplossen. De bevindingen suggereren dat de efficiëntie van de hersenen niet komt door minder neuronen te hebben, maar door een slimme, flexibele manier te hebben om te kiezen welke er in elk gegeven moment toe doen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.