Face-selective responses correlate with deep networks that learn from environment feedback

Dit onderzoek toont aan dat een versterkingsleermodel, dat gezichtswaarneming simuleert door feedback uit de omgeving te gebruiken, neurale responsen in gezichtsspecifieke hersengebieden even goed kan verklaren als toezichthoudende en onzichthoudende modellen.

De kern

De Geheime Code van het Brein: Hoe AI Leren van de Wereld Net als Wij

Stel je voor dat je brein een enorme, super-snelle computer is die de wereld om je heen probeert te begrijpen. Wetenschappers hebben al jaren geprobeerd om deze computer te nabootsen met kunstmatige intelligentie (AI), vooral als het gaat om het herkennen van gezichten. Maar er was een groot probleem: de meeste AI-modellen leren op een manier die voor mensen onrealistisch is.

Het Probleem: De "Cursus" vs. De "Straat"

Stel je voor dat je wilt leren wie je buren zijn.

• De oude manier (Supervised Learning): Je krijgt een boek met foto's en een lijstje erbij met de namen erbij geschreven. "Dit is meneer Jansen, dit is mevrouw De Vries." Je leert door dit boek uit je hoofd te leren. Dit werkt goed, maar in het echte leven heeft niemand zo'n boekje bij zich. Je weet niet van tevoren wie je tegenkomt.
• De nieuwe manier (Unsupervised Learning): Je krijgt alleen maar foto's, zonder namen. Je probeert zelf patronen te vinden, zoals "deze twee foto's lijken op elkaar". Dit is slimmer, maar het mist een belangrijk stukje: feedback. Het leert niet of een persoon aardig of onvriendelijk is.
• De echte wereld: In het echt leren we door ervaring. Als je iemand ontmoet die je een lachend gezicht geeft en een handdruk, denk je: "Deze persoon is leuk, ik ben blij dat ik hem zag." Als iemand je boos aankijkt, denk je: "Blijf uit de buurt." Je brein leert door beloningen (positieve gevoelens) en straffen (negatieve gevoelens) uit de omgeving.

De Oplossing: Een AI die Loopt in de Straat

De auteurs van dit onderzoek wilden weten: Kunnen we een AI maken die leert zoals wij? Niet door een boekje te lezen, maar door te "proberen" en te "voelen" wat er gebeurt?

Ze bouwden een nieuw soort AI-model, een Versterkend Leermodel (RL-model).

• Hoe het werkt: De AI kreeg foto's van gezichten te zien. Het moest dan een keuze maken: "Benader deze persoon" of "Blijf weg".
• De beloning: Als de AI een "aardig" gezicht benaderde, kreeg hij een puntje (beloning). Als hij een "boos" gezicht benaderde, kreeg hij een straf.
• Het doel: De AI moest leren welke gezichten het beste waren om te benaderen, puur op basis van de punten die hij verdiende. Geen namen, geen boekjes, gewoon ervaring.

De Test: De Brein-Scan

Om te zien of dit model echt slim was, keken de onderzoekers naar het brein van mensen. Ze hadden 11 vrijwilligers die al in het ziekenhuis lagen (voor epilepsie-onderzoek) en die elektroden in hun hersenen hadden. Deze elektroden konden heel precies meten welke delen van het brein reageerden als de mensen naar gezichten keken.

De onderzoekers stelden de vraag: Reageert het menselijke brein op gezichten op dezelfde manier als onze nieuwe AI?

De Resultaten: Een Verassende Overwinning

Het resultaat was verbazingwekkend:

1. De nieuwe AI deed het net zo goed als de oude: Het model dat leerde door beloningen (de "straat-leraar") kon de hersenactiviteit net zo goed voorspellen als de modellen die leerden met boekjes (namen) of zonder feedback.
2. De architectuur telt: Dit werkte alleen als ze een heel specifiek type "hersenen" voor de AI gebruikten (een combinatie van twee geavanceerde netwerken). Met een standaard AI-ontwerp werkte het niet zo goed.
3. De timing: De overeenkomst tussen de AI en het menselijke brein was het sterkst in de eerste 125 tot 175 milliseconden nadat iemand een gezicht zag. Dat is het moment waarop je brein eigenlijk al weet: "Oh, dat is een gezicht!"

Waarom is dit belangrijk?

Dit onderzoek is als het vinden van de ontbrekende schakel in een puzzel.

• Het laat zien dat we niet hoeven te vertrouwen op "boekjes" (labels) om te begrijpen hoe het brein werkt.
• Het bewijst dat ervaring en feedback (zoals "deze persoon is leuk") cruciaal zijn voor hoe we gezichten zien en onthouden.
• Het suggereert dat als we AI willen maken die echt menselijk denkt, we hem niet alleen moeten laten "studeren", maar hem de kans moeten geven om te "leven" en te leren van de wereld om hem heen.

Kort samengevat:
Wetenschappers hebben een nieuwe manier gevonden om computers te laten leren over gezichten. In plaats van ze te laten studeren met een lijstje namen, lieten ze ze "proberen" en "voelen" wat er gebeurt. Het bleek dat deze manier van leren, net als bij mensen, leidt tot een heel goed begrip van hoe ons eigen brein werkt. Het is alsof we eindelijk hebben ontdekt dat het brein niet werkt als een bibliotheek, maar als een avonturier die leert door de wereld te verkennen.

Technische samenvatting

Probleemstelling

Diepe neurale netwerken (DNN's) hebben bewezen zeer effectief te zijn in het modelleren van neurale responsen in het visuele systeem, met name voor gezichtherkenning. Echter, de meeste bestaande modellen vertrouwen op supervised learning (toezichtleren), waarbij training plaatsvindt met "ground-truth" labels (bijv. identiteit van een persoon). In realistische, natuurlijke omgevingen zijn dergelijke labels vaak niet beschikbaar voor menselijke waarnemers.

Aan de andere kant kunnen unsupervised models (onbeheerde modellen) deze beperking omzeilen, maar ze negeren een cruciaal aspect van biologische visie: visuele representaties worden gevormd door feedback uit de omgeving. Bestaande onbeheerde modellen leren vaak puur uit beeldreconstructie of het minimaliseren van dissimilariteit, zonder rekening te houden met de gedragsrelevante taken die een organisme moet uitvoeren (zoals het vermijden van gevaar of het benaderen van beloningen). Er is een kloof in het modelleren van hoe visuele representaties worden gevormd door interacties met de omgeving, specifiek in de context van gezichtswaarneming.

Methodologie

1. De Reinforcement Learning (RL) Benadering
De auteurs introduceerden een nieuw RL-model voor gezichtswaarneming. In plaats van labels te gebruiken, werd het model getraind in een gesimuleerde omgeving met individuen (identiteiten) die elk een kansverdeling van beloning (reward) hadden.

• Taak: Het model moest leren om gezichten te benaderen die positieve interacties opleverden en gezichten te vermijden die negatieve interacties opleverden.
• Mechanisme: Het model ontving een gezicht als input en koos of het de identiteit zou benaderen. De beloning was stochastisch (Gaussisch verdeeld) om variabiliteit in sociale interacties na te bootsen. Het doel was het maximaliseren van de totale beloning.

2. Architectuur en Vergelijkende Modellen
Om de invloed van de leermechanismen te isoleren, werden zes modellen getraind met twee verschillende encoder-architecturen:

• ResNet-18: Een standaard residual network, veel gebruikt in neurowetenschap.
• VIB DenseNet: Een variatie die DenseNet (dicht verbonden lagen) combineert met Variational Autoencoders (VAE) en een Variational Information Bottleneck (VIB). Dit introduceert stochasticiteit en regularisatie.

Voor elke architectuur werden drie decoder-taken geïmplementeerd:

1. SUP (Supervised): Identiteitsclassificatie (ground-truth labels).
2. UNSUP (Unsupervised): Beeldreconstructie.
3. RL (Reinforcement Learning): Voorspelling van verwachte beloning en keuze voor benadering/vermijding.
4. VIB UNSUP+RL: Een multi-task model dat zowel beeldreconstructie als beloningsvoorspelling combineerde.

3. Neurofysiologische Data en Analyse

• Data: Intracorticaal elektro-encefalografie (iEEG) data van 10 patiënten (na uitsluiting van ruis) met elektroden in gezicht-selectieve gebieden (ventrale en laterale temporale lobben).
• Stimuli: Gezichtsfoto's uit het KDEF-dataset (Karolinska Directed Emotional Faces) met variatie in identiteit, expressie en gezichtshoek.
• Analyse: Representational Similarity Analysis (RSA) werd gebruikt. Representational Dissimilarity Matrices (RDM's) werden berekend voor zowel de neurale data (over verschillende tijdvensters: 125-175ms, 175-225ms, 225-275ms) als voor de interne representaties van de modellen. De correlatie werd gemeten met de Kendall $\tau$ rangcorrelatiecoëfficiënt.

Kernbijdragen

1. Validatie van RL-modellen voor visuele representaties: Het is de eerste studie die aantoont dat een RL-model, getraind op basis van omgevingsfeedback (benaderen/vermijden), neurale responsen in gezicht-selectieve gebieden kan verklaren met een vergelijkbare nauwkeurigheid als toezichtlerende (SUP) en onbeheerde (UNSUP) modellen.
2. Belang van Architectuur: De studie benadrukt dat het leermechanisme (taak) niet de enige factor is; de encoder-architectuur is cruciaal. RL-modellen presteerden alleen op gelijke niveau met SUP-modellen wanneer ze gebruikmaakten van de geavanceerde VIB DenseNet architectuur. Met de standaard ResNet-architectuur presteerde de RL-oplossing slechter dan de SUP-oplossing.
3. Multi-task Learning: De auteurs testten een model dat zowel onbeheerde leren (reconstructie) als RL combineerde. Hoewel dit model beide taken uitvoerde, was de prestatie op individuele taken lager dan gespecialiseerde modellen, en de correlatie met neurale data was niet significant hoger dan die van de losse modellen.

Resultaten

• Correlatie met Neurale Data: De VIB RL-modellen toonden een significante correlatie met de iEEG-data in gezicht-selectieve elektroden. In de VIB-architectuur waren er geen significante verschillen in correlatie tussen SUP, UNSUP en RL-modellen. Dit suggereert dat RL een even geldige benadering is voor het modelleren van visuele representaties als supervised learning.
• Invloed van Architectuur: Bij gebruik van de ResNet-architectuur presteerde het SUP-model (identiteitsclassificatie) aanzienlijk beter dan het RL- en UNSUP-model. Dit benadrukt dat de keuze van de encoder (VIB vs. ResNet) de representatieve geometrie en de overeenkomst met het brein sterk beïnvloedt.
• Tijdsdynamiek: De correlatie tussen modellen en neurale data was het sterkst in het eerste tijdvenster (125-175 ms na stimuluspresentatie) en nam af in latere vensters.
• Ventrale vs. Laterale Gebieden: Een logistische regressie kon ventrale en laterale elektroden onderscheiden op basis van hun correlatiepatronen met de modellen. Ventrale gebieden toonden over het algemeen een sterkere correlatie met de modellen dan laterale gebieden, vooral in de vroege tijdvensters. Dit wordt mogelijk veroorzaakt door het feit dat de modellen getraind zijn op statische beelden, terwijl laterale gebieden bekend staan om hun responsiviteit op dynamische stimuli.
• Unieke Variatie: Semi-partiële correlatieanalyses toonden aan dat SUP-modellen unieke informatie bevatten die niet door andere modellen wordt verklaard, en dat de VIB-architectuur ook unieke neurale variatie vastlegt.

Betekenis en Conclusie

Deze studie heeft belangrijke implicaties voor de visuele neurowetenschap en kunstmatige intelligentie:

• Biologisch Plausibiliteit: RL-modellen bieden een meer biologisch plausibel kader dan supervised learning, omdat ze leren zonder vooraf bekende labels, maar wel door interactie met de omgeving (beloningen/straffen). Dit sluit beter aan bij hoe dieren en mensen in de echte wereld leren.
• Rol van Feedback: De resultaten bevestigen dat visuele representaties niet alleen worden gevormd door de input (pixels), maar ook door de gedragsrelevante feedback uit de omgeving.
• Toekomstige Richting: Hoewel het huidige RL-model een benadering is, suggereert het dat het verbeteren van de complexiteit en realisme van de RL-taken (bijv. meer dynamische interacties) de overeenkomst met neurale data verder kan vergroten. De studie onderstreept ook het belang van het combineren van variational architectures met dense connections voor het modelleren van complexe perceptuele taken.

Kortom, de paper toont aan dat deep networks die leren door omgevingsfeedback (RL), in staat zijn om de neurale representaties van gezichten net zo goed te modelleren als traditionele modellen, mits ze worden ondersteund door de juiste architectuur (VIB DenseNet).