Intelligence Preserves The System It Assists

In het moderne ziekenhuis vindt een stille revolutie plaats waarbij computers leren medische beelden te lezen en patiëntuitkomsten te voorspellen. Jarenlang was de standaardmanier om succes in dit veld te meten een eenvoudige wedstrijd: een computeralgoritme tegenover een menselijke arts plaatsen en kijken wie vaker het juiste antwoord geeft. Als de machine hoger scoort, wordt het een doorbraak genoemd; als de arts wint, wordt de machine als een mislukking beschouwd. Deze benadering gaat ervan uit dat de arts en de computer rivalen zijn die strijden om dezelfde baan, en dat het doel is om één perfecte voorspeller te vinden die het menselijk oordeel kan vervangen. Dit standpunt ziet echter een fundamentele realiteit van de geneeskunde over het hoofd: de handeling van het behandelen van een patiënt verandert de patiënt. Wanneer een chirurg weefsel doorsnijdt, een verpleegkundige een medicijninfuus aanpast, of een arts een nieuwe therapie start, is de situatie die zij observeren niet langer hetzelfde als een moment daarvoor. De handeling zelf die wordt ondernomen om de patiënt te helpen, verandert het verloop van de ziekte, waardoor een voorspelling gebaseerd op gegevens uit het verleden potentieel nutteloos is op het exacte moment dat deze het hardst nodig is.

Een nieuwe studie door Maurice Antony Ewing daagt deze competitieve mindset uit door te kijken naar hoe computers en artsen samen kunnen werken in plaats van tegen elkaar. In plaats van te vragen welke agent over het algemeen nauwkeuriger is, stelt het onderzoek een andere vraag: wanneer vullen hun sterktes en zwaktes elkaar aan? De studie suggereert dat hoewel computers uitstekend zijn in het voorspellen van wat er zal gebeuren als er niets verandert, ze vaak struikelen wanneer een behandeling de conditie van een patiënt actief vormgeeft. Daartegenover staan menselijke artsen, die bekwaam zijn in het opmerken wanneer een situatie afwijkt van het verwachte pad, maar zij kunnen subtiele patronen in enorme hoeveelheden gegevens missen. Het kernidee is dat de werkelijke waarde van een computer in een ziekenhuis misschien niet ligt in het zijn van de beste voorspeller, maar in het fungeren als een gespecialiseerde sensor die een alarm slaat specifiek wanneer de toestand van de patiënt op onverwachte manieren verandert als gevolg van medische interventie.

Om dit idee te testen, onderzocht de onderzoeker vijf verschillende soorten medische gegevens, variërend van de fracties van een seconde durende bewegingen van een robotische chirurgische arm tot het langzame, maandenlange verloop van een kankerbehandeling. In elk geval werd eerst een standaard computermodel getraind om het "normale" pad te leren dat een patiënt of procedure zou volgen. Bijvoorbeeld, bij robotchirurgie leerde het model de typische snelheid en richting van een naald die door weefsel gaat. In de intensive care leerde het hoe de bloeddruk van een patiënt gewoonlijk reageert op medicatie. De onderzoeker introduceerde vervolgens een tweede, "geaugmenteerd" model dat ontworpen was om iets anders te doen: in plaats van alleen de toekomst te voorspellen, monitorde het voor momenten waarop de werkelijke gebeurtenissen significant afweken van het voorspelde pad. De onderzoekers onthulden de specifieke wiskundige formules of de exacte code die werd gebruikt om dit tweede model te bouwen niet, om die details als een beschermde implementatie te houden, maar ze maten wel hoe goed dit systeem presteerde in vergelijking met menselijke artsen en standaard computermodellen.

De resultaten toonden een opvallend patroon dat in alle vijf de medische settings standhield. In situaties waarin alles soepel verliep en de toestand van de patiënt stabiel was, was het geaugmenteerde model feitelijk slechter dan zowel de menselijke arts als het standaard computermodel. In de gegevens van de intensive care was het geaugmenteerde model bijvoorbeeld slechts in ongeveer 25,6% van de gevallen correct in stabiele staten, terwijl de menselijke arts in 34,6% van de gevallen correct was. Echter, het verhaal draaide volledig om wanneer de toestand van de patiënt onverwacht begon te veranderen. In die momenten van "afwijking", waar de fysiologie van de patiënt of de chirurgische procedure afweek van de norm, werd het geaugmenteerde model de duidelijke leider. In diezelfde intensive care-gegevens, toen de toestand van de patiënt onstabiel was, was het geaugmenteerde model in 46,9% van de gevallen correct, waarmee het de menselijke arts (die in 20,5% van de gevallen correct was) en het standaard computermodel (dat in 19,6% van de gevallen correct was) aanzienlijk versloeg.

Dit kruiseffect was geen toevalstreffer; het kwam consistent voor in de verschillende soorten gegevens. In de robotchirurgie signaleerde het systeem momenten vlak voordat een chirurg zijn techniek veranderde, zoals het overschakelen van het leggen van een knoop naar het doorgeven van een naald, waarbij deze overgangen werden geïdentificeerd als momenten waarop de gebruikelijke regels van beweging niet langer van toepassing waren. Bij laparoscopische video legde het systeem complexe fasen van chirurgie uit, zoals wanneer een chirurg een galblaas retraheert, waarbij de visuele scène chaotisch en onvoorspelbaar werd. In het geval van hersenkankerbehandeling bleek het systeem alleen nuttig bij het bekijken van de volledige reeks behandelingen over weken heen, omdat de "deformatie" van het ziekteverloop een traag proces was dat niet in een enkel snapshot kon worden gezien. De studie vond dat de waarde van dit geaugmenteerde systeem niet afhing van hoe goed de initiële voorspelling was. Zelfs wanneer het standaard computermodel zeer nauwkeurig was in het voorspellen van de toekomst, vond het geaugmenteerde systeem nog steeds waarde in het signaleren van de momenten waarop die voorspelling niet langer standhield.

Het onderzoek benadrukte ook dat deze bruikbaarheid volledig afhangt van de timing. Net zoals een camera de juiste sluitertijd nodig heeft om een snel bewegend object vast te leggen zonder dat het bewogen is, had dit systeem de juiste hoeveelheid tijd nodig om de verandering te zien. In de kankerstudie maakte het kijken naar korte, losstaande tijdsvensters het systeem minder effectief, maar het kijken naar de volledige behandelreeks stelde het systeem in staat om de deformatie van het ziektepad te zien. Dit suggereert dat het systeem geen universele vervanging is voor een arts, maar een gespecialiseerd hulpmiddel dat pas essentieel wordt wanneer de situatie in beweging is. De studie merkt expliciet op dat zij niet beweert het probleem van autonome chirurgie of behandeling te hebben opgelost, noch biedt zij een kant-en-klaar softwareproduct aan voor ziekenhuizen om te installeren. De specifieke methoden voor hoe het systeem deze veranderingen detecteert blijven niet bekend gegeven, en de bevindingen zijn gebaseerd op het terugkijken naar gegevens uit het verleden in plaats van testen in een live operatiekamer.

Uiteindelijk betoogt het artikel dat de toekomst van medische kunstmatige intelligentie niet ligt in het bouwen van machines die proberen betere artsen dan mensen te zijn, maar in het creëren van systemen die begrijpen wanneer de regels van het spel zijn veranderd. De meest effectieve samenwerking kan een samenwerking zijn waarbij een standaard computer de routineuze, voorspelbare delen van een geval afhandelt, terwijl een gespecialiseerd, interventie-bewust systeem waakt voor de momenten waarop de toestand van de patiënt verschuift op manieren die het plan tarten. In deze kritieke momenten van afwijking kan het systeem een ander soort intelligentie bieden, één die herkent dat de grond onder de voorspelling is verschoven. De studie concludeert dat de juiste vraag voor het vakgebied niet is of een machine een arts kan verslaan, maar waar hun informatie het meest complementair is, om ervoor te zorgen dat de technologie het systeem dat zij ondersteunt helpt te behouden door clinici te helpen navigeren door de onvoorspelbare momenten van zorg.