Ask Twice, Look Twice: Training-Free Consistency Filtering for Reliable Medical VQA

In de hooggestoken wereld van de moderne geneeskunde vertrouwen artsen steeds vaker op kunstmatige intelligentie om te helpen bij het interpreteren van complexe medische beelden, van röntgenfoto's tot MRI-scans. Een specifiek type AI, bekend als een visueel vraag-antwoord-systeem (visual question answering system), is ontworpen om naar een afbeelding te kijken en een vraag in natuurlijke taal over die afbeelding te beantwoorden, zoals "Welk orgaan is hier zichtbaar?" of "Is er een breuk?". Hoewel deze systemen enorme beloften inhouden voor het ondersteunen van klinische beslissingen, worden ze geconfronteerd met een kritische hindernis: betrouwbaarheid. Net zoals een mens zou kunnen aarzelen of een ander antwoord zou geven als een vraag net iets anders wordt geformuleerd, kunnen deze computerprogramma's soms struikelen wanneer de bewoording van een vraag verandert, zelfs als de betekenis exact hetzelfde blijft. Als een AI een zelfverzekerd maar foutief antwoord geeft omdat een arts de vraag op een nieuwe manier stelde, zouden de gevolgen in een ziekenhuisomgeving ernstig kunnen zijn. De kernuitdaging is daarom niet alleen om deze modellen slimmer te maken, maar om ze consistent te maken—ervoor zorgen dat ze hetzelfde juiste antwoord geven, ongeacht hoe de vraag wordt gesteld of hoe de afbeelding licht wordt gewijzigd.

Een team van onderzoekers van de Universiteit van Sydney en Macquarie University heeft een nieuwe methode ontwikkeld om dit probleem op te lossen zonder de kunstmatige intelligentiemodellen vanaf nul opnieuw te hoeven trainen. Ze noemen hun aanpak "Ask Twice, Look Twice" (Vraag twee keer, kijk twee keer). In plaats van te proberen de AI nieuwe dingen te laten leren, hebben ze een veiligheidsfilter gebouwd dat het vertrouwen van het model controleert voordat het een antwoord mag geven. Het systeem werkt door een enkele medische afbeelding en een vraag te nemen, en vervolgens automatisch verschillende versies van die vraag te genereren die exact hetzelfde betekenen. Bijvoorbeeld, als de oorspronkelijke vraag is "Wat is de ziekte die links in de long wordt getoond?", kan het systeem variaties maken zoals "Wat wordt waargenomen in de linkerlong?" of "Welke bevinding is aanwezig aan de linkerzijde?". Het stelt de AI vervolgens al deze verschillende versies van de vraag. Als de AI bij elke enkele variatie hetzelfde antwoord geeft, accepteert het systeem het resultaat als betrouwbaar. Als de antwoorden van de AI wankelen of elkaar tegenspreken, verwerpt het systeem de output en markeert het deze als onzeker, in plaats van het risico te lopen op een foute diagnose.

Om dit idee te testen, moesten de onderzoekers eerst een manier ontwikkelen om deze vraagvariaties automatisch te genereren. Ze gebruikten een groot taalmodel, een type geavanceerde AI die getraind is op enorme hoeveelheden tekst, om de vragen in bestaande medische datasets te herschrijven. Ze stelden strikte regels op voor dit proces: de nieuwe vragen moesten exact dezelfde betekenis behouden als de originele, en ze mochten geen nieuwe feiten introduceren die niet al in de afbeelding of de oorspronkelijke vraag aanwezig waren. Dit zorgde ervoor dat de AI werd getest op zijn vermogen om het kernconcept te begrijpen, en niet op zijn vermogen om nieuwe informatie te raden. Ze controleerden ook de kwaliteit van deze gegenereerde vragen om ervoor te zorgen dat ze grammaticaal correct waren en werkelijk equivalent waren aan de originelen. Dit proces stelde hen in staat om een veel rijkere testomgeving te bouwen, waar elke medische afbeelding gekoppeld was aan tientallen verschillende manieren om erover te vragen, in plaats van slechts één.

De onderzoekers testten deze methode vervolgens met behulp van twee verschillende medische AI-modellen op een dataset genaamd SLAKE, die duizenden medische afbeeldingen en vragen bevat. Ze creëerden vier verschillende versies van deze dataset om realistische uitdagingen te simuleren. Eén versie gebruikte alleen de nieuwe, gevarieerde vragen om te testen hoe de modellen omgaan met taalveranderingen. Een andere versie gebruikte afbeeldingen die licht waren aangepast met standaard computerechnieken, zoals het veranderen van de helderheid of het toevoegen van een beetje onscherpte, om de visuele robuustheid te testen. Ze combineerden deze veranderingen ook en voegden zelfs afbeeldingen toe die subtiel waren gemanipuleerd om de AI te misleiden, bekend als adversarial attacks (adversariële aanvallen). Toen ze de modellen op deze datasets draalden zonder hun nieuwe veiligheidsfilter, waren de resultaten onthullend. De modellen waren verrassend fragiel als het aankwam op taal; zelfs kleine veranderingen in de formulering van een vraag zorgden ervoor dat hun nauwkeurigheid aanzienlijk daalde. In contrast hiermee waren de modellen enigszinds veerkrachtiger tegen veranderingen in de afbeeldingen zelf, hoewel ze nog steeds worstelden wanneer zowel de tekst als de afbeelding werden aangepast.

De ware kracht van de "Ask Twice, Look Twice"-methode kwam naar voren toen de onderzoekers hun consistentiefilter toepasten. Ze stelden een regel in waarbij de AI alleen een antwoord mocht geven als het zichzelf over een bepaald aantal vraagvariaties heen eens was. Bijvoorbeeld, als ze vereisten dat het model bij minstens elf verschillende versies van een vraag hetzelfde antwoord gaf, werd het systeem veel betrouwbaarder. Op de dataset met variërende taal steeg de betrouwbaarheid van een van de topmodellen van ongeveer 77% naar 89% toen deze strikte regel werd toegepast. Op de dataset met visuele veranderingen steeg de betrouwbaarheid van ongeveer 80% naar 87%. Deze verbetering ging gepaard met een trade-off: omdat het systeem nu antwoorden afwees waarvan het niet zeker was, daalde het aantal vragen dat het daadwerkelijk beantwoordde. In de dataset met variërende taal daalde het acceptatiepercentage met ongeveer 29%, wat betekent dat het systeem koos om stil te blijven in plaats van te gokken. De antwoorden die het echter wel gaf, waren veel waarschijnlijker correct, en de onzekerheid in de voorspellingen daalde met ongeveer een kwart.

De studie benadrukte ook een cruciaal verschil in hoe deze medische AI-modellen verschillende soorten fouten afhandelen. De onderzoekers ontdekten dat de modellen veel gevoeliger waren voor veranderingen in taal dan voor veranderingen in de afbeeldingen. Zelfs toen de afbeeldingen iets onscherp werden gemaakt of de contrastinstellingen werden aangepast, presteerden de modellen relatief goed. Maar wanneer de vragen werden geherformuleerd, faalden de modellen vaak in het herkennen dat de vraag hetzelfde was. Dit suggereert dat huidige medische AI-systemen zwaar leunen op de specifieke woorden die in een vraag worden gebruikt, in plaats van echt de visuele informatie in de afbeelding te begrijpen. De onderzoekers merkten op dat traditionele beeldveranderingen de prestaties meer schaadden dan de subtiele, door de computer gegenereerde aanvallen die bedoeld waren om de AI te misleiden, een bevinding die de aannames over de kwetsbaarheid van deze systemen uitdaagt.

Door dit consistentiefilter te gebruiken, hebben de onderzoekers aangetoond dat het mogelijk is om de betrouwbaarheid van medische AI aanzienlijk te vergroten zonder de modellen op nieuwe data te hoeven trainen of hun onderliggende architectuur te veranderen. De methode fungeert als een poortwachter, die ervoor zorgt dat het systeem alleen spreekt wanneer het zelfverzekerd is. Hoewel dit betekent dat het systeem soms zal besluiten om een vraag niet te beantwoorden, stellen de onderzoekers dat een stil systeem in een klinische setting veel veiliger is dan een systeem dat zelfverzekerd een foutief antwoord geeft. De aanpak werkt over verschillende soorten modellen en verschillende soorten data, wat suggereert dat het een praktisch hulpmiddel kan zijn om de veiligheid in echte ziekenhuizen te verbeteren. De studie concludeert dat hoewel deze systemen nog werk behoeven om volledig robuust te worden, vooral in hoe ze omgaan met verschillende manieren van vragen stellen, deze eenvoudige "ask twice"-strategie een krachtige manier biedt om onzekerheid te filteren en ervoor te zorgen dat de antwoorden die aan artsen worden gegeven, betrouwbaar zijn.