Linking macroscale structure and function in brain-like recurrent neural networks

Deze studie introduceert BrainRNN, een hersenachtig recurrente neurale netwerkarchitectuur die aantoont dat het toepassen van structurele beperkingen uit de menselijke cortex leidt tot een vergelijkbare functionele organisatie, waardoor een directe koppeling tussen structuur en functie mogelijk wordt.

De kern

Hoe een digitaal brein net als een echt brein wordt: Een verhaal over ruimte, kosten en slimme netwerken

Stel je voor dat je een enorme stad wilt bouwen. In een gewone computer (een standaard kunstmatig neuronaal netwerk) zijn de straten en gebouwen willekeurig geplaatst. Alles is met alles verbonden, en het maakt niet uit hoe ver twee gebouwen van elkaar verwijderd zijn; de kosten voor een kabel zijn altijd hetzelfde. Dit werkt goed voor het oplossen van problemen, maar het lijkt niet op ons menselijk brein.

Ons echte brein is anders. Het is een stad waar de fysieke locatie van alles ertoe doet. De visuele cortex (waar we zien) zit achterin, de motorische cortex (waar we bewegen) zit vooraan, en de "associatiegebieden" (waar we nadenken en plannen) zitten ertussenin. En het allerbelangrijkste: in het brein kost het energie om lange kabels te leggen. Hoe verder twee gebieden van elkaar vandaan zijn, hoe duurder het is om ze te verbinden.

Het experiment: BrainRNN
De auteurs van dit onderzoek, Peiyu Chen en collega's, hebben een nieuw type computermodel bedacht dat ze BrainRNN noemen. Ze hebben dit model niet zomaar gebouwd; ze hebben het ontworpen om precies te lijken op de structuur van een menselijk brein.

Ze deden drie dingen:

1. Een kaart: Ze plaatsten de "neuronen" (de bouwstenen van het model) op een virtuele halve bol, net zoals het brein in ons hoofd.
2. Ingangen en uitgangen: Ze zorgden dat alleen de neuronen achterin (visueel) informatie kregen over wat er te zien was, en alleen de neuronen vooraan (motorisch) de opdracht kregen om een beweging te maken. De rest waren "denk-neuronen" in het midden.
3. De "elektriciteitsrekening": Ze voegden een regel toe: "Hoe langer de kabel tussen twee neuronen, hoe meer het kost." Het model moest dus slim zijn en niet zomaar overal lange draden trekken.

Wat ontdekten ze?

1. De "Denk-Neuronen" worden belangrijker voor moeilijke taken
Toen ze het model lieten oefenen op simpele taken (zoals "kijk naar links en beweeg naar links"), werkten vooral de neuronen in het visuele en motorische gebied. Maar toen ze het model moeilijke taken gaven (zoals "onthoud deze positie en wacht even, en kies dan de juiste richting"), gebeurde er iets fascinerends: het model begon massaal gebruik te maken van de neuronen in het midden, de associatiegebieden.

Analogie: Stel je voor dat je een simpele boodschap moet bezorgen. Je loopt gewoon naar de deur. Maar als je een complexe boodschap moet onthouden, plannen en uitvoeren, moet je eerst naar het kantoor in het centrum van de stad (de associatiegebieden) om het plan te maken. Het model leerde dat voor slimme taken, je die centrale kantoren nodig hebt.

2. De structuur bepaalt de functie
In gewone computermodellen moet je vaak kijken naar wat er gebeurt tijdens een taak om te begrijpen wat een bepaald deel doet. In dit nieuwe model bleek dat je de functie al kon voorspellen door alleen naar de structuur te kijken. Omdat de neuronen op een specifieke plek zaten en de "elektriciteitsrekening" (de kosten voor lange verbindingen) hoog was, vormden zich vanzelf groepen die leken op de modules in ons brein.

Analogie: Het is alsof je een stad bouwt waarbij de wegen alleen worden aangelegd als ze economisch rendabel zijn. Uiteindelijk vormt zich vanzelf een centrum, een woonwijk en een industriegebied, zonder dat je dat van tevoren hebt opgelegd. De structuur van de wegen (de connecties) bepaalt hoe de stad (het brein) werkt.

3. Het brein is een brug tussen ruimte en tijd
Het onderzoek toonde aan dat in dit model, net als in het menselijk brein, er een duidelijke lijn is tussen hoe ver neuronen van elkaar vandaan zitten en hoe ze met elkaar communiceren. De "gradiënten" (de overgangen van simpele zintuiglijke verwerking naar complexe planning) volgden precies de fysieke route van achter naar voren in het model.

Waarom is dit belangrijk?

Vroeger dachten wetenschappers dat kunstmatige intelligentie (AI) vooral goed was in het nabootsen van wat het brein doet, maar dat de onderliggende bouwplaatjes totaal anders waren. Dit onderzoek laat zien dat als we AI modellen bouwen met dezelfde fysieke beperkingen als ons brein (zoals ruimte en kosten voor verbindingen), ze vanzelf dezelfde slimme organisatiestructuren ontwikkelen.

Het betekent dat we in de toekomst misschien niet hoeven te raden hoe een AI werkt door te kijken naar wat hij doet, maar dat we het kunnen begrijpen door te kijken naar hoe hij is gebouwd. Het is alsof we eindelijk begrijpen dat de architectuur van een gebouw bepaalt hoe mensen zich erin gedragen.

Kortom:
Deze studie laat zien dat als je een computermodel bouwt dat "gevangen" zit in de fysieke wetten van een brein (ruimte en kosten), het vanzelf slimme, mensachtige patronen ontwikkelt. Het bewijst dat de manier waarop ons brein is gebouwd, direct de reden is waarom het zo goed kan denken, plannen en beslissingen nemen.

Technische samenvatting

Probleemstelling

Het verbinden van structuur en functie is een centraal probleem zowel in de neurobiologie als in de kunstmatige intelligentie (KI). In het menselijk brein is de functionele organisatie (modules, hiërarchieën) nauw verweven met de macroscopische anatomische structuur. Functie kan vaak worden afgeleid uit structuur (bijv. via intrinsieke connectiviteit). In contrast hiermee worden kunstmatige neurale netwerken (ANN's) doorgaans geoptimaliseerd voor taakprestatie met vrij gekozen connectiviteit, zonder rekening te houden met biologische ruimtelijke beperkingen. Bestaande interpretatiemethoden voor ANN's zijn vaak post hoc (na het trainen) en baseren zich op taak-geactiveerde representaties, in plaats van functie af te leiden uit de onderliggende architectuur. Het is onduidelijk of de structurele principes die het menselijk brein organiseren (zoals topografie en topologie) ook kunnen worden toegepast op ANN's om vergelijkbare functionele organisatie te genereren.

Methodologie: BrainRNN

De auteurs introduceren BrainRNN, een recurrente neurale netwerkarchitectuur die is ontworpen om de macroscopische structuur van de menselijke cortex na te bootsen. De kernmethodologische innovaties zijn:

1. Topografische Embedding: Recurrente eenheden worden niet willekeurig georganiseerd, maar zijn ingebed in een driedimensionaal hemisferisch coördinatenstelsel (gebaseerd op een Fibonacci-rooster). De eenheden zijn verdeeld over drie functionele regio's die overeenkomen met biologische gebieden:
   • Visuele regio: Posterior (achterste) regio, ontvangt externe visuele input.
   • Motorische regio: Anterieure (voorste) regio, levert motorische output (saccades).
   • Associatieregio: De overige eenheden, gelegen tussen de visuele en motorische zones.
2. Wiring-Cost Constraints (Bedradingkosten): Het netwerk wordt getraind met een regularisatieterm in de verliesfunctie die de "bedradingkosten" straft. Dit wordt berekend als het product van de connectiviteitssterkte en de fysieke afstand tussen eenheden ($L_{cost} = \lambda \sum |W_{ij}| \cdot D_{ij}$).
   • Dit creëert een economisch compromis: sterke connecties worden gestimuleerd over korte afstanden, terwijl lange afstanden worden ontmoedigd.
   • De parameter $\lambda$ varieert om de strengheid van de structurele beperkingen te testen.
3. Trainingsparadigma: De BrainRNN's (met 128 eenheden) worden getraind op 22 cognitieve taken uit vier families: visumotorisch, werkgeheugen, match-nonmatch en besluitvorming.
4. Validatie: De resultaten worden vergeleken met empirische data van het menselijk brein (Human Connectome Project, HCP), specifiek met betrekking tot structurele connectiviteit (witte stof), functionele connectiviteit (fMRI) en ruimtelijke afstand.

Belangrijkste Bijdragen

• Framework voor Structureel-Gebaseerde KI: Het biedt een model waarin functionele organisatie niet alleen uit taakoptimalisatie voortkomt, maar direct wordt gevormd door biologisch plausibele structurele beperkingen.
• Mechanistisch Koppelen: Het demonstreert hoe topografische (ruimtelijke) en topologische (netwerk) structuren samenwerken om functionele modules en gradiënten te vormen.
• Afleiding van Functie uit Structuur: Het toont aan dat, net als in de neurowetenschappen, functie in deze ANN's kan worden voorspeld op basis van de structuur, zonder noodzaak voor complexe post hoc analyse.

Resultaten

1. Invloed op Activatie en Cognitieve Capaciteit:

   • Naarmate de bedradingkosten ($\lambda$) toenemen, neemt het totale aantal geactiveerde eenheden af, voornamelijk in de associatieregio's.
   • Eenvoudige visumotorische taken blijven goed presteren zelfs bij hoge kosten (met beperkte activatie in visuele/motorische zones).
   • Complexe taken (werkgeheugen, besluitvorming) vereisen echter een brede rekrutering van eenheden in de associatieregio. Strikte structurele beperkingen leiden tot een daling in prestaties voor deze hogere cognitieve taken. Dit suggereert dat de expansie van associatiegebieden in het brein een noodzaak is voor complexe cognitie onder economische bedradingbeperkingen.

2. Structuur-Functie Koppeling (Structure-Function Coupling):

   • BrainRNN's vertonen een sterke negatieve correlatie tussen ruimtelijke afstand en functionele connectiviteit (verre eenheden zijn functioneel minder gelijkaardig), net zoals in het menselijk brein.
   • Er is een positieve correlatie tussen de cosinus-similariteit van structurele connectiviteit en functionele connectiviteit.
   • Deze koppeling is sterker in BrainRNN's dan in conventionele RNN's of ruimtelijk ingebedde RNN's zonder specifieke input/output interfaces, wat aantoont dat de specifieke anatomische organisatie cruciaal is.

3. Ontstaan van Functionele Modules:

   • Functionele modules (geclusterd op basis van taakvariatie) in BrainRNN's zijn noch puur lokaal noch willekeurig verdeeld, maar vertonen een hybride organisatie die overeenkomt met de menselijke cortex (bijv. Yeo-netwerken).
   • De overlap tussen functionele modules en structurele netwerkmodes (berekend via de Louvain-algoritme) neemt toe naarmate de bedradingkosten stijgen.
   • De structurele beperkingen dwingen een topografisch gelokaliseerde netwerkmodes af, wat de koppeling tussen structuur en functie versterkt.

4. Functionele Gradiënten:

   • Net als in het menselijk brein ontstaan er functionele gradiënten in BrainRNN's die een overgang vertegenwoordigen van sensorimotorische naar associatieve functies.
   • Deze gradiënten zijn afgeleid uit de topologische structuur (recurrente connectiviteit) en zijn systematisch gerelateerd aan de onderliggende topografie (ruimtelijke positie).
   • Striktere structurele beperkingen verminderen het aantal significante gradiënten, wat correleert met een lagere cognitieve capaciteit.

Betekenis en Conclusie

De studie toont aan dat het integreren van macroscopische structurele beperkingen (ruimtelijke embedding en economische bedrading) in kunstmatige neurale netwerken leidt tot een functionele organisatie die fundamenteel lijkt op die van het menselijk brein.

• Neurobiologische Inzicht: Het biedt een mechanistische verklaring voor waarom associatiegebieden in het brein disproportioneel zijn uitgebreid: ze zijn nodig om complexe cognitieve taken te ondersteunen binnen de beperkingen van fysieke bedradingkosten.
• KI en Interpretatie: Het opent een nieuwe weg voor interpreteerbare AI. In plaats van alleen te kijken naar wat een netwerk doet (output), kan men nu afleiden wat het is (functie) op basis van hoe het is gebouwd (structuur).
• Toekomst: BrainRNN's fungeren als een in silico laboratorium om hypothesen te testen over de relatie tussen breinanatomie en cognitie, wat experimenten in biologische systemen aanvult of vervangt die ethisch of technisch moeilijk uitvoerbaar zijn.

Kortom, dit werk bewijst dat de principes die de menselijke hersenen structureren, ook kunnen worden toegepast op kunstmatige systemen om een dieper, biologisch onderbouwd begrip van intelligentie te bereiken.