In de wereld van de moderne geneeskunde is het werk van een arts niet louter het benoemen van een ziekte. Het is een proces van het verzamelen van aanwijzingen, het stellen van de juiste vragen, het aanvragen van specifieke tests en het interpreteren van resultaten die ontbrekend of onduidelijk kunnen zijn, terwijl tegelijkertijd de veiligheidsbeperkingen van een menselijk lichaam worden gerespecteerd. Wanneer een patiënt een kliniek binnenloopt, moet de arts beslissen wat de volgende vraag is op basis van wat hij al weet, wat hij heeft gezien en wat nog verborgen blijft. Dit is een vorm van redeneren onder onzekerheid, waarbij een verkeerde gok kan leiden tot onnodige schade, en een gemiste aanwijzing levensreddende zorg kan vertragen. Jarenlang hebben onderzoekers geprobeerd kunstmatige intelligentie te leren handelen als een arts, door computerprogramma's te creëren die met patiënten kunnen chatten en behandelingen kunnen voorstellen. Deze programma's worstelen echter vaak met de rommelige realiteit van het klinische werk. Ze kunnen een diagnose stellen zonder voldoende bewijs, een ontbrekende testuitslag behandelen alsof deze normaal is, of de veiligheidsregels vergeten die gevaarlijke fouten voorkomen. De uitdaging is niet alleen om het uiteindelijke antwoord juist te krijgen, maar om ervoor te zorgen dat de hele weg naar dat antwoord veilig, logisch en geworteld is in feiten.

Een team van onderzoekers heeft een nieuw systeem geïntroduceerd genaamd MediSkill-Evo, ontworpen om kunstmatige intelligentie te helpen dit complexe proces te navigeren zonder dat het constant getraind hoeft te worden op enorme hoeveelheden nieuwe gegevens. In plaats van te proberen elke mogelijke medische casus uit het hoofd te leren, leert dit systeem door zijn eerdere ervaringen te organiseren in vier verschillende categorieën, vergelijkbaar met een arts die aparte notitieblokken bijhoudt voor verschillende soorten kennis. Eén notitieblok bevat algemene strategieën voor het diagnosticeren van specifieke aandoeningen. Een ander legt de strikte regels van de medische workflow vast, zoals welke tests moeten worden uitgevoerd voordat een behandeling kan starten. Een derde notitieblok definieert precies wat als geldig bewijs telt en waar het vandaan kan komen, om te garanderen dat het systeem geen feiten verzint. Het vierde notitieblok bevat procedures voor het bekijken van medische beelden. Wanneer het systeem een nieuwe patiënt tegenkomt, raadpleegt het deze notitieblokken om de vragen en acties te sturen. Cruciaal is dat, voordat het ooit een behandeling voorstelt, een veiligheidscontrole verifieert dat het plan de regels volgt en dat er geen gevaarlijke stappen zijn overgeslagen. Dit proces stelt het systeem in staat om zijn eigen kennisbasis te laten evolueren, waardoor de prestaties in de loop van de tijd verbeteren door te leren van zowel fouten als successen op een gecontroleerde, veilige manier.

De onderzoekers testten dit systeem in een reeks rigoureuze simulaties die echte klinische interacties nabootsten. Ze zetten hun nieuwe systeem af tegen andere bestaande medische AI-programma's met behulp van een set van 300 ongeziene patiëntencasussen. In deze tests presteerde het MediSkill-Evo-systeem aanzienlijk beter dan zijn concurrenten. Het identificeerde de diagnose correct in 69 procent van de gevallen, vergeleken met 61 procent voor het voorheen beste systeem. Belangrijker nog, het was veel beter in het volgen van het juiste proces. Het vroeg succesvol de noodzakelijke medische tests aan en verzamelde de vereiste patiëntgeschiedenis in 66 procent van de gevallen, een enorme verbetering ten opzichte van de 33 procent die door het oudere systeem werd behaald. Het nieuwe systeem maakte ook veel minder kritieke fouten, zoals het voorstellen van onveilige behandelingen of het missen van urgente waarschuwingssignalen. In het oudere systeem kwamen deze kritieke fouten voor in 31 procent van de gevallen, maar met MediSkill-Evo daalde dat aantal naar slechts 16 procent. Het systeem toonde aan dat door verschillende soorten kennis strikt te scheiden en veiligheidsregels bij elke stap af te dwingen, een AI betrouwbaarder en effectiever kan worden zonder fundamenteel herschreven te hoeven worden.

Om te waarborgen dat het systeem werkelijk robuust was, onderwerpen de onderzoekers het aan een "stresstest" die bedoeld is om moeilijke en onvoorspelbare situaties te simuleren. Ze creëerden scenario's waarin cruciale informatie verborgen, vertraagd of niet beschikbaar was, waardoor de AI gedwongen werd uit te zoeken hoe zij verder moest gaan zonder te gokken. Bijvoorbeeld, ze testten of het systeem correct zou omgaan met een situatie waarin een patiënt weigerde een vraag te beantwoorden of waar een specifieke testuitslag permanent ontbrak. In deze hooggespannen situaties toonde het systeem een opmerkelijke veerkracht. Wanneer geconfronteerd met moeilijk patiëntgedrag, slaagde het er 93 procent van de tijd in om de benodigde feiten te achterhalen. Bij het omgaan met ontbrekende tijdlijninformatie, herstelde het 100 procent van de tijd de juiste sequentie van gebeurtenissen. Zelfs wanneer een kritiek waarschuwingssignaal pas aan het einde van het gesprek verborgen bleef, identificeerde en handelde het systeem hier 92 procent van de tijd naar. Deze resultaten suggereren dat het systeem niet alleen antwoorden memoriseert, maar een flexibel proces heeft geleerd voor het verzamelen van bewijs en het nemen van veilige beslissingen, zelfs wanneer het pad geblokkeerd is.

De onderzoekers verkenden ook hoe dit systeem zou kunnen werken met medische beelden, zoals röntgenfoto's of CT-scans, die een essentieel onderdeel zijn van de moderne diagnose. Ze testten een versie van het systeem die een gespecialiseerde tool kon gebruiken om specifieke gebieden in een beeld te markeren, wat het systeem helpt zich te concentreren op de meest relevante details. In een kleine set van 100 gevallen met complexe medische beelden was het systeem dat deze visuele tool gebruikte, in staat om vaker een correcte diagnose te produceren dan de versie zonder deze tool. De onderzoekers merkten echter voorzichtig op dat dit een verkennende test was om te zien of de interface werkte, en niet een definitief bewijs dat de tool het systeem slimmer maakte. Ze benadrukten dat het vermogen van het systeem om met beelden om te gaan nog in ontwikkeling is en dat het primaire succes van het project lag in het vermogen om het gesprek en de logica van de diagnose te beheren.

Ondanks deze veelbelovende resultaten zijn de auteurs duidelijk over de beperkingen van hun werk. Ze stellen dat hun bevindingen gebaseerd zijn op simulaties en niet bewijzen dat het systeem klaar is om echte patiënten te behandelen. De tests werden uitgevoerd in een gecontroleerde omgeving waar de "patiënten" computerprogramma's waren die strikte scripts volgden, en de "artsen" AI-modellen waren. De onderzoekers waarschuwen expliciet dat hun systeem niet is gevalideerd door echte artsen, noch is het getest op diverse groepen echte mensen. Ze waarschuwen dat de automatische veiligheidsscores die zij gebruikten geen vervanging zijn voor menselijk oordeel en dat het systeem niet voor werkelijke medische zorg gebruikt mag worden zonder verdere tests en toezicht. Het doel van dit onderzoek was niet om artsen te vervangen, maar om een nieuwe manier te demonstreren om AI te bouen die de regels van bewijsvoering en veiligheid respecteert. Door aan te tonen dat een AI kan leren haar kennis te organiseren en een strikt proces te volgen, biedt de studie een blauwdruk voor het creëren van toekomstige medische instrumenten die veiliger, betrouwbaarder en beter in staat zijn om de complexiteit van de menselijke gezondheid aan te kunnen.

De implicaties van dit werk reiken verder dan alleen medische diagnose. Het suggereert een nieuwe aanpak voor het bouwen van intelligente systemen die in situaties met hoge inzet moeten opereren. In plaats van te vertrouwen op één enkel, massaal brein dat alles probeert te onthouden, gebruikt het systeem een gestructureerd geheugen dat verschillende soorten informatie gescheiden houdt en deze controleert aan de hand van strikte regels. Deze methode zorgt ervoor dat het systeem niet per ongeluk een algemene strategie verwart met een specifieke veiligheidsregel, of een ontbrekende feit behandelt als een bekend feit. De onderzoekers vonden dat wanneer deze verschillende soorten kennis apart worden beheerd en tegen elkaar worden gecontroleerd, het systeem veel betrouwbaarder wordt. Deze aanpak zou kunnen worden toegepast op andere gebieden waar veiligheid en nauwkeurigheid van cruciaal belang zijn, zoals juridisch advies, financiële planning of noodhulp, waar de kosten van een fout te hoog zijn om op gokwerk te vertrouwen.

Uiteindelijk gaat het verhaal van MediSkill-Evo niet over een machine die het mysterie van ziekte heeft opgelost. Het gaat over een machine die heeft geleerd te handelen als een zorgvuldige, gedisciplineerde professional. Het laat zien dat we, door een AI een duidelijke set regels, een gestructureerde manier om haar verleden te onthouden en een mechanisme te geven om haar eigen werk te controleren, systemen kunnen creëren die minder waarschijnlijk gevaarlijke fouten maken. Het systeem beweert niet alles te weten, en het pretendeert geen menselijke arts te zijn. In plaats daarvan beweert het een hulpmiddel te zijn dat het proces volgt, het bewijs respecteert en veiligheid boven alles stelt. Terwijl de onderzoekers vooruitgaan, zijn ze van plan de regels verder te verfijnen en het systeem in complexere scenario's te testen, waarbij ze altijd in het achterhoofd houden dat het uiteindelijke doel is om menselijke artsen te ondersteunen, niet om hen te vervangen. De weg naar veilige en effectieve medische AI is lang, maar deze studie biedt een duidelijke en veelbelovende stap in de juiste richting.