Stel je voor dat je een superintelligente robotvriend hebt die elk boek kan lezen, elk verhaal kan schrijven en kan praten als een mens. Deze robot is een "Large Language Model" (LLM). Het is geweldig in het klinken zelfverzekerd en vloeiend. Maar hier zit de adder onder het gras: als je deze robot vraagt om wiskunde te doen of specifiek medisch advies te geven op basis van jouw persoonlijke gegevens, kan het zomaar dingen verzinnen om maar goed te klinken. Het is als een getalenteerde acteur die een overtuigende toespraak over het weer kan improviseren, maar als je naar de exacte temperatuur vraagt, kan hij "22 graden" gokken terwijl het eigenlijk regent en vriest. In de wereld van de gezondheid is dit gevaarlijk. Als een robot tegen je zegt dat je bloedsuikerspiegel prima is terwijl dat niet zo is, of een risico verzint dat je niet hebt, kan dit leiden tot slechte beslissingen. Wetenschappers proberen uit te vogelen hoe ze deze robots kunnen stoppen met "hallucineren" (dingen verzinnen) en ze kunnen dwingen zich aan de harde feiten te houden, vooral als het gaat om ons lichaam.

Dit artikel, getiteld "Grounding Health AI", gaat over het bouwen van een vangnet voor deze gezondheidsrobots. De onderzoekers hebben een systeem ontwikkeld genaamd de "Human Phenotype Project Personal Health Agent" (PHA). Denk eraan als het geven van een strikt regelboek aan de robot, een team van deskundige rekenmachines en een enorme bibliotheek met echte menselijke gegevens om tegen te controleren voordat de robot spreekt. Ze testten dit systeem door het te voeden met twee weken aan echte gegevens van mensen die glucosemonitoren (apparaten die de bloedsuikerspiegel bijhouden) en voedingslogs droegen. Het resultaat? Wanneer de robot dit nieuwe systeem gebruikte, stopte hij met het verzinnen van getallen. In plaats van je bloedsuikerpatronen te gokken, berekende hij ze met echte hulpmiddelen. In plaats van risico's te verzinnen, gaf hij toe wanneer hij niet genoeg informatie had. Het team ontdekte dat door deze "tools" te combineren met "skills" (regels over hoe te communiceren), ze een robot die slechts ongeveer 37% accuraat was in zijn structuur en feiten, konden veranderen in een robot die 91% accuraat was. Het is een grote stap naar het maken van AI waar artsen en patiënten echt op kunnen vertrouwen.

Het Problek: De Robot die Liegt om Goed te Klinken

Stel je voor dat je een futuristische robot een dagboek geeft van alles wat je twee weken lang hebt gegeten en een grafiek van je bloedsuikerniveaus. Je vraagt: "Hoe is mijn metabolisme?" Een standaard, superintelligente AI zou een prachtig, vloeiend rapport schrijven. Het zou kunnen zeggen: "Je had 172 maaltijden!" (terwijl je er eigenlijk 70 had) of "Je bloedsuikerschommelingen waren mild," terwijl ze eigenlijk enorm waren. Het klinkt perfect, maar het is een leugen. De robot is zo goed in schrijven dat hij de gaten opvult met gokjes die goed klinken, maar volkomen fout zijn.

De onderzoekers ontdekten dat zelfs de beste AI-modellen ter wereld dit deden. Ze verzonnen een metriek genaamd "MAGE" (die meet hoeveel je bloedsuikerspiegel op en neer gaat) en zeiden dat deze 41 was, terwijl de echte berekening 84,8 liet zien. Ze beweerden 172 maaltijden te hebben geanalyseerd terwijl de data er slechts 70 bevatte. Ze voorspelden zelfs toekomstige gezondheidsrisico's zonder daadwerkelijk de middelen te hebben om ze te berekenen. Het is als een chef die niet weet hoe hij moet koken, maar een vijfsterrenrecensie schrijft over een maaltijd die hij nooit heeft geproefd. Voor een gewone persoon is dit verwarrend. Voor een arts is dit gevaarlijk.

De Oplossing: De "Grounding" Stack

Om dit op te lossen, bouwde het team een nieuw soort AI-agent genaamd PHA. Ze zeiden de robot niet alleen om "voorzichtig te zijn". In plaats daarvan bouwden ze een vierlaags "grounding"-systeem. Stel je voor dat de robot een student is die een toets maakt.

1. De Referentielibrarie (The Human Phenotype Project): Eerst gaven ze de robot een enorme bibliotheek met gegevens van meer dan 13.000 echte mensen. Dit zijn niet zomaar willekeurige getallen; het is een diepe blik op hoe de lichamen van echte mensen reageren op voedsel en beweging. Als de robot wil zeggen: "Je bloedsuiker is hoog," moet hij deze bibliotheek controleren om te zien hoeveel andere mensen van jouw leeftijd en geslacht hetzelfde niveau hebben. Het is alsof je een enorme klas van 13.000 studenten hebt om jouw toetsresultaat tegen te vergelijken, in plaats van te gokken of je het goed hebt gedaan.
2. De Deskundige Tools (De Rekenmachines): Vervolgens gaven ze de robot een gereedschapskist met 21 specifieke rekenmachines. De robot mag de wiskunde niet in zijn hoofd doen. Als hij moet weten wat het gemiddelde van je bloedsuiker is, moet hij een specifieke tool vragen om de berekening te doen. Als hij je hartrisico moet weten, moet hij een specifieke hartrisico-calculator gebruiken. De robot is slechts de boodschapper; de tools doen het zware werk.
3. De Gedragsvaardigheden (Het Regelboek): Dit is het slimste deel. De robot heeft een reeks "skills" die geschreven zijn in eenvoudige tekstbestanden (zoals een regelboek). Deze regels vertellen de robot wat hij wel en niet mag zeggen. Bijvoorbeeld, een regel kan zijn: "Als je het aantal maaltijden niet met de tool hebt berekend, mag je niet zeggen hoeveel maaltijden de persoon heeft gegeten." Een andere regel kan zijn: "Als je geen bloeddrukgegevens hebt, mag je het hartrisico niet raden." Deze regels stoppen de robot met het verzinnen van zaken, zelfs als hij dat wil.
4. De Test-gestuurde Cyclus (De Beoordelaar): Ten slotte bouwde het team een systeem dat de robot test terwijl ze hem bouwen. Elke keer dat de robot een fout maakt (zoals het verzinnen van een getal), schrijft het team een specifieft test om die exacte fout de volgende keer te vangen. Het is als een videogame waarbij elke keer dat je in een kuil valt, de game een nieuwe valstrik toevoegt om ervoor te zorgen dat je daar nooit meer in valt.

Wat ze Vonden: Tools versus Regels

De onderzoekers voerden een groot experiment uit. Ze namen de gegevens van 14 echte mensen en vroegen de robot om rapporten te schrijven met verschillende opstellingen. Ze vergeleken:

• De Baseline: Alleen de slimme robot zonder tools of regels.
• Alleen Tools: De robot met de rekenmachines maar zonder regelboek.
• Het Volledige Systeem: De robot met zowel de rekenmachines als het regelboek.

De resultaten waren duidelijk en verrassend.

• De Baseline Robot: Deze behaalde een score van 0,37 (op een schaal van 1,0) op een "betrouwbaarheidstest". Hij was vloeiend maar vol met verzonnen feiten.
• Alleen Tools: Toen ze de robot de rekenmachines gaven maar geen regelboek, steeg de score een beetje naar 0,49. De robot kon nu de wiskunde doen, maar wist nog steeds niet hoe hij het correct moest rapporteren. Hij zou soms vergeten de wiskunde te vermelden of dingen te zeggen die de tools niet ondersteunden.
• Het Volledige Systeem: Toen ze het regelboek (skills) bovenop de tools voegden, sprong de score naar 0,91.

De grote les hier is dat tools en regels verschillende taken hebben. De tools maakten de getallen accuraat (van 14% nauwkeurigheid naar 90% nauwkeurigheid). Maar de regels maakten het rapport compleet, eerlijk en goed gestructureerd. Zonder de regels had de robot wel de antwoorden, maar wist hij niet hoe hij ze moest presenteren. Met de regels werd hij een betrouwbare assistent.

De "Weiger"-Superkracht

Een van de coolste dingen die het nieuwe systeem leerde, was hoe het "Ik weet het niet" kan zeggen. In de oude tests, wanneer de robot niet genoeg gegevens had (zoals ontbrekende bloeddrukmetingen), raadde hij het hartrisico toch gewoon. Hij zei: "Je risico is hoog," ook al kon hij het niet berekenen.

Het nieuwe systeem leerde echter te stoppen. Wanneer de robot probeerde het hartrisico te berekenen zonder bloeddruk, dwongen de regels hem om te zeggen: "Ik kan dit niet berekenen omdat ik de bloeddrukgegevens mis. Haal eerst deze gegevens op." Hij weigerde te liegen. Dit is een enorme verschuiving. In plaats van een robot die altijd een antwoord heeft (zelfs een foutief antwoord), werd het een robot die zijn grenzen kent.

Werkt het voor andere zaken?

Het team testte ook of dit systeem andere soorten gezondheidsvragen kon afhandelen. Ze probeerden vragen te stellen over algemene metabole gezondheid en zelfs hartgezondheid (cardiovasculair risico). Het systeem werkte voor beide goed, waarbij de score steeg van een lage 0,37 naar een hoge 0,70 of 0,72. Dit suggereert dat het "recept" dat ze hebben gevonden — het combineren van echte data, specifieke tools en strikte regels — kan worden gebruikt voor verschillende delen van de geneeskunde, niet alleen voor de bloedsuikerspiegel.

De Kernboodschap

Dit artikel laat zien dat om AI veilig te maken voor de gezondheid, we niet alleen kunnen vertrouwen op het feit dat de AI "slimmer" wordt. We moeten een systeem bouwen waarin de AI gedwongen wordt om echte rekenmachines te gebruiken, te controleren tegen echte menselijke data en zich aan strikte regels te houden over wat hij mag zeggen. Het resultaat is een systeem dat veel minder waarschijnlijkscary of foute feiten verzint.

De onderzoekers geven toe dat dit nog geen perfecte oplossing is. Ze hebben het getest op een kleine groep mensen en voornamelijk op geschreven rapporten, niet op levende gesprekken. Ze merken ook op dat de "essentie" van een rapport — hoe behulpzaam of vriendelijk het tegen een patiënt klinkt — moeilijk door computers te testen is en menselijke artsen nodig heeft om het te controleren. Maar voor de "vorm" van het rapport — de getallen, de bronnen en de eerlijkheid — is het nieuwe systeem een enorme verbetering. Het verandert een robot die zelfverzekerd maar fout klinkt, in een robot die zelfverzekerd klinkt omdat hij het juist heeft.