Interpretability Methods for Causal Predictions in Biomedical AI: A Systematic Review of Approaches and Evaluation Practices
Deze systematische review van 47 biomedische AI-studies onthult dat hoewel interpreteerbaarheidsmethoden zoals SHAP en LIME breed worden gebruikt om causale voorspellingsmodellen uit te leggen, hun evaluatie overwegend steunt op eigenschapsgebaseerde metrieken en zelden de werkelijke causale validiteit valideert, wat een kritieke kloof tussen modeluitleg en causale inferentie benadrukt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de wereld van de moderne geneeskunde is kunstmatige intelligentie een krachtig hulpmiddel geworden voor het opsporen van patronen die het menselijk oog zou kunnen missen. Deze computersystemen kunnen duizenden medische afbeeldingen scannen of jaren aan patiëntendossiers doorzoeken om te voorspellen wie er ziek kan worden of hoe een ziekte zal verlopen. Er is echter een cruciaal verschil tussen weten dat twee dingen samen voorkomen en weten dat het ene het andere daadwerkelijk veroorzaakt. Een computer kan leren dat een specifieke huidafwijking vaak samen met een ernstige ziekte voorkomt, maar dat betekent niet dat de afwijking de ziekte veroorzaakt; het kan ook gewoon een bijwerking zijn van iets heel anders. Als een arts vertrouwt op een computer die alleen deze verbanden ziet, kan hij de verkeerde beslissing nemen bij het behandelen van een patiënt, omdat het behandelen van de afwijking de ziekte niet zal genezen. Deze kloof tussen het herkennen van een patroon en het begrijpen van de werkelijke oorzaak is de centrale uitdaging die onderzoekers proberen op te lossen.
Een nieuwe systematische review door Albert Schulle van de Technische Universiteit München onderzoekt hoe goed huidige instrumenten ons helpen deze oorzaken te begrijpen. De studie bestudeerde honderden papers om te zien of de methoden die worden gebruikt om uit te leggen hoe AI haar voorspellingen doet, daadwerkelijk in staat zijn om ware biologische oorzaken te onthullen. De onderzoekers ontdekten dat hoewel wetenschappers zeer enthousiast zijn over het gebruik van deze uitleginstrumenten, ze voornamelijk de verkeerde instrumenten voor de klus gebruiken. De meest populaire tools, die belang scores toekennen aan verschillende kenmerken zoals leeftijd of bloeddruk, zijn uitstekend in het laten zien wat de computer heeft opgemerkt, maar zijn erg slecht in het laten zien wat de uitkomst daadwerkelijk heeft veroorzaakt. Sterker nog, de review ontdekte dat expliciete beoordeling van causale validiteit zeldzaam was en slechts in 9% van de onderzochte studies voorkwam, wat betekent dat de overgrote meerderheid nooit echt heeft getest of hun verklaringen de waarheid spraken over oorzaak en gevolg.
De review onderzocht 47 studies gepubliceerd tussen 2016 en 2025 die probeerden deze uitlegmethoden toe te passen op medische problemen waarbij oorzaak en gevolg van belang zijn, zoals het voorspellen van hoe een patiënt zal reageren op een specifiek medicijn. De onderzoekers ontdekten dat de overgrote meerderheid van deze studies, ongeveer 68 procent, vertrouwde op feature attribution-methoden. Dit zijn technieken die benadrukken welke inputvariabelen het computermodel het meest heeft gebruikt om een beslissing te nemen. De twee meest voorkomende tools waren SHAP en LIME, die fungeren als een spotlight die schijnt op de datapunten die het model het belangrijkst vond. Hoewel deze tools erg goed zijn in het laten zien naar welke cijfers de computer keek, betoogt de review dat ze fundamenteel beperkt zijn omdat ze alleen associaties beschrijven. Ze kunnen een arts vertellen dat een hoge bloeddruk een belangrijke factor was in een risicovoorspelling, maar ze kunnen de arts niet vertellen of het verlagen van de bloeddruk daadwerkelijk een hartaanval zal voorkomen.
De studie keek ook naar andere, meer geavanceerde methoden die dichter bij de waarheid zouden kunnen komen. Ongeveer 15 procent van de studies gebruikte contrafactuele verklaringen, die zich voorstellen wat er zou zijn gebeurd als een patiënt iets anders had gedaan, zoals een ander medicijn had genomen. Deze liggen conceptueel dichter bij hoe artsen over oorzaak en gevolg denken, maar ze werden nog steeds in een klein deel van het onderzoek gebruikt. Nog zeldzamer waren conceptgebaseerde methoden, die proberen beslissingen uit te leggen met behulp van menselijk begrijpelijke concepten zoals "tumoromvang" in plaats van ruwe datapunten, wat in slechts 6 procent van de studies voorkwam. De review concludeerde dat het veld zwaar naar de voorkeur neigt voor de eenvoudigere tools die associaties verklaren, wat het risico met zich meebrengt dat artsen een correlatie zullen aanzien voor een oorzaak.
Misschien wel de meest opvallende bevinding betreft hoe deze verklaringen worden getest. Wanneer onderzoekers een model bouwen en het verklaren, moeten ze controleren of de verklaring goed is. De review vond dat 72 procent van de studies controleerde op fideliteit, wat simpelweg betekent of de verklaring overeenkomt met wat het computermodel daadwerkelijk deed. Een ander 43 procent controleerde op stabiliteit, om te verzekeren dat de verklaring niet willekeurig veranderde elke keer dat het model draaide. Dit zijn belangrijke technische controles, maar ze beantwoorden niet de belangrijkste vraag: is de verklaring juist over de oorzaak? De review vond dat slechts 9 procent van de studies ooit probeerde te valideren of de verklaring daadwerkelijk een ware causale relatie weerspiegelde. In de weinige gevallen waarin onderzoekers wel probeerden causaliteit te controleren, vertrouwden ze voornst op het vragen aan menselijke experts of de verklaring "plausibel aanvoelde", in plaats van rigoureuze tests te gebruiken om het te bewijzen.
Deze kloof tussen wat de tools doen en wat het veld nodig heeft, is aanzienlijk. De auteur wijst erop dat het gebruiken van een instrument dat ontworpen is om associaties te verklaren om een causaal probleem op te lossen, vergelijkbaar is met het gebruiken van een kaart van verkeerspatronen om een wandelroute te plannen; de kaart laat misschien zien waar auto's rijden, maar het zal je niet vertellen welk pad veilig is om te wandelen. De review suggereert dat de huidige aanpak methodologisch gefragmenteerd is, waarbij onderzoekers krachtige uitleginstrumenten toepassen op modellen die nooit gebouwd zijn om oorzaak en gevolg te begrijpen. Het artikel concludeert dat voor kunstmatige intelligentie om werkelijk betrouwbaar te zijn in de geneeskunde, het veld verder moet kijken dan alleen controleren of een verklaring consistent lijkt. Het moet nieuwe manieren ontwikkelen om te testen of een verklaring daadwerkelijk correct is over de onderliggende biologie, met betere benchmarks en duidelijkere aannames over hoe ziekten werken. Tot die tijd blijft de belofte van AI die werkelijk kan verklaren waarom een patiënt ziek is, buiten bereik.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.