Het Grote Detective-spel: Wanneer Wiskunde en Machine Learning elkaar ontmoeten

Stel je voor dat je een mysterie probeert op te lossen, maar je hebt slechts de helft van de aanwijzingen. In de wereld van de wetenschap is dit een veelvoorkomend probleem. Wetenschappers hebben vaak een solide theorie over hoe de wereld werkt—een reeks regels, zoals de wetten van de fysica of biologie—die ze een mechanistisch model noemen. Denk hierbij aan een recept voor een cake: je weet dat je bloem, eieren en suiker nodig hebt, en je weet de algemene stappen om ze te mengen. Maar soms ontbreekt er een cruciale ingrediënt in het recept, of verandert de oventemperatuur op een vreemde manier die het oorspronkelijke recept niet had voorzien.

Aan de andere kant van de kamer hebben we Deep Learning (of neurale netwerken). Dit zijn als superintelligente detectives die een berg foto's kunnen bekijken en direct een kat kunnen herkennen, zelfs als ze die specifieke kat nog nooit eerder hebben gezien. Ze zijn ongelooflijk goed in het vinden van patronen in data, maar ze zijn vaak "black boxes" (zwarte dozen). Je voert ze data, en ze geven je een antwoord, maar ze kunnen niet altijd uitleggen waarom of wat de onderliggende regels zijn. Ze hebben een enorme hoeveelheid data nodig om te leren, en als je hen vra't te raden wat er gebeurt in een situatie die ze nog nooit hebben gezien, kunnen ze zomaar dingen verzinnen.

De grote vraag die wetenschappers zich stellen is: Kunnen we het beste van beide werelden combineren? Kunnen we onze betrouwbare, op regels gebaseerde recepten nemen en de superintelligente detectives de ontbrekende stukjes laten invullen? Dit is precies wat het vakgebied van Hybrid Neural Modelling probeert te doen. Het gaat om het bouwen van een systeem waarbij de harde wetenschap het skelet levert, en de AI de spieren en zenuwen leert die we nog niet volledig begrijpen. Dit is belangrijk omdat we in de echte wereld zelden over perfecte data beschikken. Of we nu een virus volgen, het weer voorspellen of bestuderen hoe een brein vuurt, we hebben modellen nodig die slim genoeg zijn om van beperkte data te leren, maar ook stevig genoeg verankerd om zin te geven aan de toekomst.

Het Papier: Recepten Mengen met Robots

In hun paper, "Hybrid Neural Modelling: Theory and Applications," treden Thomas Gaskin, Anastasia Bankowski en Stefanie Winkelmann op als de architecten van deze nieuwe vorm van wetenschap. Ze zeggen niet alleen "laten we ze mengen"; ze bouwen een rigoureus wiskundig kader om uit te leggen hoe en wanneer deze vermenging werkt, en wanneer het mis kan gaan.

Het Spectrum van "Grey Boxes"
De auteurs introduceren een leuke manier om over deze modellen na te denken met behulp van een "spectraal" perspectief. Stel je een schuifregelaar voor:

• White Box (Witte Doos): Een puur wiskundig model waarbij elke regel bekend is en is opgeschreven (zoals een perfecte, klassieke natuurkundige vergelijking).
• Black Box (Zwarte Doos): Een puur AI-model waarbij de computer de regels volledig uit data raadt, zonder menselijke input.
• Grey Box (Grijs Model/Hybride): Dit is het ideale middengebied. Het is een model waarbij we de bekende regels behouden (de witte doos), maar de verwarrende, onbekende delen vervangen door een neuraal netwerk (de zwarte doos).

Het paper betoogt dat hoewel sommigen denken dat we de oude regels gewoon weg moeten gooien en de AI alles moeten laten doen, dit een slecht idee is. AI heeft enorme hoeveelheden data nodig om goed te functioneren, en in veel velden (zoals biologie of sociale wetenschappen) hebben we simpelweg niet zoveel data. Bovendien is pure AI moeilijk te vertrouwen omdat het een black box is. Door de bekende regels te behouden, houden we het model interpreteerbaar en in staat om dingen te voorspellen die het nog niet heeft gezien.

De Magie van het "Leren van de Ontbrekende Stukjes"
De kern van het paper is een methode om de AI te leren de "ontbrekende ingrediënten" in onze wetenschappelijke recepten te vinden.

• De Opstelling: Stel je een model van een epidemie voor (hoe een virus zich verspreidt). We kennen de basiswiskunde: mensen worden ziek, herstellen en worden misschien opnieuw ziek. Maar we weten niet precies hoe snel ze ziek worden of of die snelheid verandert met het weer.
• De Truc: De auteurs laten zien hoe je een neuraal netwerk in de vergelijking kunt plaatsen om die ontbrekende snelheden te raden. Het netwerk kijkt naar echte data (zoals hoeveel mensen er op dinsdag ziek waren) en past zijn gok aan totdat de voorspelling van het wiskundige model overeenkomt met de echte data.
• Het Resultaat: In hun simulaties ontdekten ze dat als je alleen een paar eenvoudige getallen probeert te raden (zoals een constante snelheid), de AI het antwoord snel en perfect vindt. Maar als je de AI vraagt om een complexe, veranderende snelheid te raden zonder voldoende aanwijzingen, raakt de AI in de war. De AI kan dan een oplossing vinden die de data uit het verleden perfect verklaart, maar die bij het voorspellen van de toekomst volledig faalt.

Het "Manifold"-Mysterie
Een van de meest fascinerende ideeën in het paper gaat over identificeerbaarheid. Soms is er niet één juist antwoord; er zijn veel verschillende combinaties van ontbrekende stukjes die er voor de data hetzelfde uitzien. De auteurs beschrijven dit als een "manifold" (variëteit)—een vorm in een hoogdimensionale ruimte waar alle juiste antwoorden zich bevinden.

• De Analogie: Stel je voor dat je probeert de vorm van een verborgen object te raden door naar de schaduw ervan te kijken. Soms kunnen een bol en een platte schijf vanuit één hoek exact dezelfde schaduw werpen. De AI kan vast komen te zitten in de gedachte dat het een schijf is, terwijl het eigenlijk een bol is.
• De Oplossing: Het paper suggereert het gebruik van een speciaal type AI-architectuur (zoals een encoder-decoder) om de volledige "vorm" van deze mogelijke antwoorden in kaart te brengen. In plaats van de AI te dwingen om slechts één antwoord te kiezen, leert het de hele landschappelijke structuur van mogelijkheden kennen, wat ons een beter begrip geeft van de onzekerheid.

Geheugen en Tijd
Het paper behandelt ook het probleem van geheugen. In de echte wereld hangt alles niet alleen af van wat er nu gebeurt; het hangt ook af van wat er gisteren, vorige week of vorige maand is gebeurd.

• Het Experiment: Ze testten dit met een model van de neurotransmissie bij fruitvlieen (hoe zenuwcellen met elkaar communiceren). Ze gebruikten een speciaal type AI genaamd een Recurrent Neural Network (RNN) dat over "geheugen" beschikt.
• De Bevinding: De AI slaagde erin te leren dat de snelheid van de zenuwsignalen afhankelijk was van een geschiedenis van temperatuurveranderingen, en niet alleen van de huidige temperatuur. Dit stelde het model in staat om het toekomstige gedrag van de vlieg veel beter te voorspellen dan een model dat alleen naar het huidige moment kijkt.

Real-World Toepassingen (Gesimuleerd)
De auteurs zijn niet alleen gebleven bij de theorie; ze hebben simulaties uitgevoerd om te laten zien hoe dit in de praktijk werkt:

1. Epidemieën: Ze lieten zien dat een hybride model kon leren hoe infectieratio's in de loop van de tijd veranderen, maar alleen als het model niet te "vrij" was. Als ze de AI toestonden om elk deel van de vergelijking te veranderen, faalde het model bij het voorspellen van de toekomst, ook al had het het verleden perfect onthouden.
2. Lasercontrole: Ze simuleerden een lasersysteem waarbij de omgeving constant verandert (zoals de lucht die warmer of kouder wordt). Een neuraal netwerk fungeerde als een controller die de instellingen van de laser constant aanpaste om de straal stabiel te houden. De simulatie toonde aan dat de AI zich in realtime aan deze veranderingen kon aanpassen en effectief leerde hoe hij een complex fysisch systeem kon aansturen.

Wat het Papier Uitsluit
Het is belangrijk om te vermelden wat dit paper niet zegt. Het voert expliciet argumenten aan tegen het idee dat we simpelweg al onze wetenschappelijke modellen moeten vervangen door pure AI. De auteurs laten zien dat in hun simulaties een "black box" AI (één zonder regels) vaak faalt in het generaliseren naar nieuwe situaties als de trainingsdata beperkt is. Ze verduidelijken ook dat hoewel hybride modellen krachtig zijn, ze geen magie zijn; als het probleem te complex is of de data te schaars, kan de AI nog steeds vastlopen in een "lokaal minimum" (een fout antwoord dat er goed uitziet) of er niet in slagen de ware onderliggende fysica te vinden.

De Kernboodschap
Gaskin, Bankowski en Winkelmann hebben een "gebruiksaanwijzing" geleverd voor de toekomst van wetenschappelijke modellering. Ze bewijzen dat door de onbekende delen van onze vergelijkingen te behandelen als een puzzel die een neuraal netwerk moet oplossen, we modellen kunnen bouwen die zowel datagedreven als wetenschappelijk onderbouwd zijn. Ze suggereren dat het succes niet alleen afhangt van het slimmer maken van de AI, maar van het begrijpen van de "vorm" van het probleem dat we proberen op te lossen. Als we weten dat een probleem veel mogelijke oplossingen heeft (een manifold), hebben we een AI nodig die die hele vorm in kaart kan brengen, in plaats van slechts één punt te kiezen. Deze aanpak biedt een veelbelovend pad voor gebieden waar data schaars is en de belangen groot zijn, waardoor we uit het verleden kunnen leren zonder het zicht op de regels die onze wereld beheersen te verliezen.