Toward defining loss functions in neuroscience: an XOR-based neuronal mechanism

Dit artikel stelt een elementaire verliesfunctie voor die gebaseerd is op het XOR-beginsel en het vergelijken van externe en interne neurale signalen, waarmee een biologisch plausibel mechanisme wordt geboden om optimalisatie in neurale netwerken mogelijk te maken.

De kern

Hoe de hersenen leren zonder een "foutenrekenmachine": Een verhaal over XOR en de hersenen

Stel je voor dat je een kunstmatige intelligentie (AI) bouwt. Om die te leren, geef je hem een taak en een straf. Als hij een fout maakt, zegt de computer: "Oeps, je hebt 5 punten afgetrokken." De AI kijkt dan naar zijn hele netwerk, rekent precies uit waar hij het mis had, en past zijn verbindingen aan om die straf de volgende keer te voorkomen. Dit heet backpropagation. Het werkt geweldig, maar het is alsof je een hele fabriek moet afsluiten om één schroef vast te draaien.

Biologische hersenen doen dit niet. Ze hebben geen centrale computer die de hele fabriek afsluit. De vraag die de auteurs van dit artikel zich stellen, is simpel maar diep: Hoe leren onze hersenen zonder die centrale "strafmachine"?

Hier is hun creatieve antwoord, vertaald naar alledaags taal:

1. De Grote Idee: De "Niet-Gelijk" Detector

De auteurs stellen voor dat de hersenen geen ingewikkelde wiskunde gebruiken om fouten te meten, maar iets heel simpels: een XOR-schakeling.

Wat is XOR? In de wereld van de logica is XOR (Exclusief OF) een regel die zegt: "Ik geef een signaal af als de twee dingen die ik zie, niet hetzelfde zijn."

• Is het links hetzelfde als rechts? -> Geen signaal (alles is goed).
• Is het links anders dan rechts? -> Signaal af! (Er is een probleem!).

De auteurs denken dat de hersenen kleine circuits hebben die precies dit doen. Ze vergelijken twee dingen:

1. Het externe signaal: Wat je net ziet of hoort (bijvoorbeeld een foto van een kat).
2. Het interne signaal: Wat je hersenen verwachten te zien (hun "voorspelling" van een kat).

Als je hersenen een kat verwachten en er is echt een kat, dan is er geen verschil. De XOR-circuit is stil. Maar als je een kat verwacht en er is een hond, dan schreeuwt het circuit: "FOUT!" Dit "FOUT!"-signaal is het equivalent van de straf in de AI, maar dan lokaal en direct.

2. Het Experiment: De Auto-Encoder als Spiegel

Om dit te testen, bouwden ze een digitaal model dat lijkt op een auto-encoder.

• De Analogie: Stel je een spiegel voor die je gezicht moet nabootsen.
• De Taak: Het netwerk krijgt een zwart-wit plaatje (bijvoorbeeld een cijfer '7') en moet proberen datzelfde plaatje weer te produceren aan de andere kant.
• De Leerregel: Er is geen leraar die zegt "Dat is een 7". In plaats daarvan kijkt het netwerk naar elk klein puntje (pixel) van het origineel en vergelijkt het met wat het zelf heeft getekend.
  • Als het origineel een witte stip heeft en de tekening ook, dan is het XOR-schakeling stil.
  • Als het origineel wit is, maar de tekening zwart, dan gaat het XOR-schakeling af. Dat signaal zegt: "Verander de verbindingen hier, zodat de volgende keer wel wit wordt!"

Het resultaat? Het netwerk leerde in korte tijd om de cijfers perfect na te tekenen, zonder dat er ooit een globale "rekenmachine" de hele fout berekende. Het leerde puur door duizenden kleine, lokale "niet-gelijk"-checks.

3. Wat betekent dit voor ons?

Dit onderzoek is belangrijk omdat het een brug slaat tussen de wereld van de AI en de biologie.

• Voor de AI: Het laat zien dat je niet altijd die zware, complexe backpropagation nodig hebt. Je kunt leren met simpele, lokale regels.
• Voor de Biologie: Het geeft een antwoord op de vraag hoe onze hersenen leren. Misschien zijn onze neuronen geen rekenmachines die complexe vergelijkingen maken, maar simpelweg vergelijkers. Ze kijken naar wat er binnenkomt en wat ze verwachten. Als er een verschil is, passen ze zich aan. Zodra het klopt, stoppen ze met leren.

De Creatieve Metafoor: De Klokmaker

Stel je een horloge voor met duizenden tandwieltjes.

• De oude manier (AI): Je stopt de hele fabriek, meet elke tandwiel, berekent precies hoeveel je elk moet verdraaien, en zet alles weer aan.
• De nieuwe manier (Hersenen/XOR): Elke tandwiel heeft een kleine veer. Als twee tandwieltjes niet perfect in elkaar grijpen (een "fout"), duwt de veer ze een beetje bij. Als ze wel perfect in elkaar grijpen, gebeurt er niets.
  • Na een tijdje, door duizenden van deze kleine duwtjes, loopt het hele horloge perfect. Niemand heeft het hele horloge gemeten; iedereen heeft gewoon gekeken naar zijn eigen buurman.

Conclusie

Deze paper suggereert dat de hersenen geen ingewikkelde "strafsystemen" nodig hebben om te leren. Ze gebruiken een simpel, biologisch circuit dat werkt als een verschil-detector. Zolang er een verschil is tussen wat we verwachten en wat we zien, blijven we leren. Zodra het klopt, zijn we in balans.

Het is een elegante oplossing: leren is niet het minimaliseren van een grote wiskundige vergelijking, maar het simpelweg oplossen van kleine mismatches tot alles in harmonie is.

Technische samenvatting

Probleemstelling

Het artikel adresseert een fundamentele kloof tussen kunstmatige neurale netwerken (ANN) en biologische neurale netwerken. In machine learning wordt leren gestuurd door een goed gedefinieerde verliesfunctie (loss function) en een global optimalisatiealgoritme zoals backpropagation. In de biologie is echter onduidelijk wat het equivalent van een verliesfunctie is en hoe "credit assignment" (het aanpassen van synaptische gewichten) plaatsvindt zonder globale backpropagation, wat biologisch gezien onwaarschijnlijk wordt geacht.

De kernvraag is: Hoe kan het brein een lokale foutmeting genereren die synaptische plasticiteit stuurt, zonder een globale error-signalering? Bestaande theorieën, zoals predictieve codering, suggereren dat het brein interne voorspellingen vergelijkt met externe zintuiglijke input, maar het specifieke neurale mechanisme voor deze vergelijking en de daaruit voortvloeiende foutsignalering blijft onbekend.

Methodologie

De auteurs stellen een nieuw mechanisme voor: een XOR-gebaseerd neuronale motief dat fungeert als een lokale verliesfunctie.

1. Het XOR-Motief:

   • Het mechanisme vergelijkt twee signalen: een extern signaal (de input/realiteit) en een intern signaal (de voorspelling/reconstructie).
   • De logische XOR-operatie (Exclusive OR) geeft een output van 1 als de signalen verschillen (fout) en 0 als ze overeenkomen (geen fout).
   • Dit wordt geïmplementeerd als een microcircuit van zes neuronen (volgens Dale's wet: vier excitatoire en één inhibitoir neuron) dat een foutsignaal genereert bij mismatch.

2. Netwerkarchitectuur:

   • De auteurs testten dit concept in een autoencoder (een type neurale netwerk dat input probeert te reconstrueren).
   • Architectuur: Een invoerlaag, een verborgen laag (latente representatie) en een uitvoerlaag van dezelfde grootte als de invoer.
   • Data: Het MNIST-dataset (binariseerde handgeschreven cijfers, 28x28 pixels) en EMNIST (uitgebreid met letters).
   • Activering: Neuronen zijn binair (0 of 1) en activeren als de som van de input een drempelwaarde overschrijdt.

3. Lokale Leerregels (zonder Backpropagation):

   • Decoder (Hidden -> Output): De XOR-foutbits sturen een Hebbiaanse update-regel aan. Als een output-bit verkeerd is (XOR=1), worden de gewichten van de actieve verborgen neuronen naar die output aangepast (versterken als de output te laag was, verzwakken als te hoog).
   • Encoder (Input -> Hidden): Omdat de fout op de output wordt gedetecteerd, maar de encoder aan de input zit, gebruiken de auteurs Feedback Alignment. Een vaste, willekeurige matrix projecteert de foutsignalen terug naar de verborgen laag. Dit omzeilt de noodzaak voor exacte backpropagation en blijft biologisch plausibel.

4. Experimentele Opzet:

   • Het netwerk werd getraind op MNIST zonder externe labels (onzelftoezicht).
   • De prestaties werden gemeten aan de hand van reconstructie-accuratie, F1-score, en LPIPS (visuele perceptuele gelijkenis).
   • Er werd ook een CNN-variant (Convolutional Neural Network) getest om de schaalbaarheid te evalueren.

Belangrijkste Bijdragen

• Definitie van een Biologische Verliesfunctie: Het artikel proposeert dat de XOR-operatie de biologische basis kan vormen voor een verliesfunctie. Het fungeert als een lokale "error comparator" die alleen actief is bij discrepantie.
• Lokale Credit Assignment: Het demonstreert dat leren kan plaatsvinden puur via lokale foutsignalen per output-neuron, zonder globale berekening van een verliesfunctie over het hele netwerk.
• Biologische Plausibiliteit: Het mechanisme vereist geen backpropagation en maakt gebruik van eenvoudige circuit-architecturen die mogelijk bestaan in het biologische brein.
• Unsupervised Feature Learning: Het toont aan dat een dergelijk mechanisme voldoende is om een nuttige latente representatie te leren die geschikt is voor classificatie, zelfs zonder labels tijdens de training.

Resultaten

De experimenten leverden de volgende resultaten op:

1. Reconstructie:

   • Na slechts 5 trainingsepochen op MNIST bereikte het volledig verbonden autoencoder een bit-accuratie van 97,71% en een F1-score van 0,914.
   • Het netwerk leerde niet alleen de meerderheidsklasse (0-pixels), maar ook de zeldzame "aan"-pixels (1-pixels), wat aantoont dat het mechanisme effectief is ondanks data-ongelijkheid.
   • De reconstructie van testdata (zowel MNIST als EMNIST) was zeer hoog, wat wijst op goede generalisatie.

2. Feature Learning & Classificatie:

   • De verborgen laag (latent space) organiseerde zich zodanig dat cijfers clusterden.
   • Een eenvoudige lineaire classifier getraind op deze verborgen laag bereikte ~89,8% accuratie op MNIST.
   • Dit bewijst dat de XOR-gedreven onzelftoezichtelijke training effectieve kenmerken leert die relevant zijn voor de taak.

3. CNN-Implementatie:

   • In een CNN-architectuur (met veel minder parameters: ~280 vs ~790.000) bereikte het netwerk een reconstructie-accuratie van 95,60%.
   • Hoewel de classificatie-accuratie op EMNIST lager was dan bij de volledig verbonden versie, toonde de CNN betere generalisatie in de structuur van de features.

4. Iteratieve Correctie:

   • Het systeem kon iteratief werken (meerdere correctiecycli per input), waarbij de accuratie verder steeg (naar ~97,7%), wat doet denken aan predictieve codering in het brein.

Significantie en Conclusie

Dit werk biedt een concreet, biologisch plausibel alternatief voor backpropagation. Het suggereert dat het brein geen complexe globale verliesfuncties nodig heeft, maar dat leren kan worden gedreven door lokale XOR-motieven die mismatch signaleren tussen verwachting en realiteit.

• Theoretisch: Het verbindt concepten uit deep learning (autoencoders, verliesminimalisatie) met neurobiologie (synaptische plasticiteit, lokale circuits).
• Praktisch: Het biedt een kader voor het begrijpen van hoe organismen snel kunnen leren met weinig data en zonder globale supervisie.
• Toekomst: De auteurs wijzen op de noodzaak om dit mechanisme uit te breiden naar spiking neural networks (SNN) en complexere leerparadigma's (zoals toezichtgeleerd leren via "teacher signals").

Kortom, het artikel stelt dat de XOR-functie de sleutel kan zijn tot het ontrafelen van de "verliesfunctie" in het biologische brein, waardoor leren een lokaal, zelforganiserend proces wordt dat stopt zodra homeostase (geen fout meer) is bereikt.