Toward a Common Language for Trustworthy AI in Healthcare
Via een scoping review van 675 artikelen identificeert dit artikel significante conceptuele inconsistenties in de definities van principes voor betrouwbare AI binnen de gezondheidszorg en stelt het een verenigd kader en onderzoeks-prioriteiten voor om deze concepten te standaardiseren en de bewijsvoeringsfundamenten van het vakgebied te versterken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Kunstmatige intelligentie wordt razendsnel een partner in de gezondheidszorg, waarbij het artsen helpt bij het diagnosticeren van ziekten, het voorspellen van patiëntuitkomsten en het kiezen van behandelingen. Toch, naarmate deze computersystemen complexer worden, is er een stil probleem ontstaan: veel van hen werken als een 'black box'. Ze nemen medische gegevens in en produceren een resultaat, maar het pad tussen die twee is verborgen. Wanneer een machine een diagnose suggereert, moet een arts weten waarom. Ze moeten de redenering begrijpen, erop kunnen vertrouwen dat het systeem eerlijk is, en zeker weten dat het consistent werkt voor elke patiënt, en niet alleen voor de patiënten waarop het getraind is. Om dit vertrouwen op te bouwen, heeft het vakgebied een reeks leidende principes ontwikkeld, vaak "betrouwbare AI" genoemd. Deze principes omvatten ideeën zoals transparantie, wat betekent dat men open is over hoe een systeem werkt; eerlijkheid, wat ervoor zorgt dat geen enkele groep mensen onrechtvaardig wordt behandeld; en betrouwbaarheid, wat betekent dat het systeem consistent presteert. Echter, voor deze principes te laten werken, moet iedereen het eens zijn over wat ze daadwerkelijk betekenen. Als de ene onderzoeker een systeem "uitlegbaar" noemt terwijl een ander diezelfde term gebruikt om iets net iets anders te betekenen, begint het fundament van vertrouwen te barsten.
Een team van onderzoekers aan de McMaster University in Canada zette zich in om te zien of de medische AI-gemeenschap dezelfde taal sprak. Ze voerden een enorme review uit van 675 artikelen gepubliceerd tussen 2015 en 2025, waarbij ze onderzochten hoe wetenschappers acht kernconcepten definiëren en gebruiken: interpreteerbaarheid, uitlegbaarheid, transparantie, eerlijkheid, bias (vooringenomenheid), robuustheid, betrouwbaarheid en validiteit. Wat zij vonden, was een landschap van verwarring. De studie toonde aan dat deze termen vaak door elkaar worden gebruikt, zelfs wanneer ze verschillende dingen zouden moeten beschrijven. Zo werden de woorden "interpreteerbaarheid" en "uitlegbaarheid" frequent omgewisseld, ondanks dat de onderzoekers voorstelden dat ze eigenlijk verschillende niveaus van begrip beschrijven. Op dezelfde manier varieerden definities voor "betrouwbaarheid" en "validiteit" zo sterk dat de ene studie een systeem betrouwbaar zou noemen simpelweg omdat het werkte op dezelfde data waarop het getraind was, terwijl een andere studie zou vereisen dat het op volledig andere data werkte om die titel te verdienen. Dit gebrek aan een gemeenschappelijke vocabulaire maakt het moeilijk om studies te vergelijken, kennis te delen of systemen te bouwen die werkelijk veilig zijn voor patiënten.
Om dit op te lossen, stelden de onderzoekers een nieuw, verenigd kader voor dat deze concepten duidelijk scheidt. Ze definieerden "transparantie" als het breedste concept, wat betekent dat het systeem zijn interne werking en databronnen openbaart, zodat belanghebbenden kunnen zien hoe beslissingen worden genomen. Binnen die transparantie ligt "uitlegbaarheid", wat zij beschrijven als het vermogen om een technische rechtvaardiging voor een beslissing te geven, waarbij het "hoe" en "waarom" wordt uitgelegd op een manier die een deskundige gebruiker kan volgen. "Interpreteerbaarheid" is volgens hen iets anders; het is het vermogen voor een gebruiker om de beslissing te begrijpen zonder de technische details te hoeven kennen, waarbij de focus ligt op het "waarom" in plaats van op de mechanica. Het team verduidelijkte ook dat "robuustheid" betekent dat een systeem stabiel blijft wanneer de invoergegevens veranderen of ruis bevatten, terwijl "betrouwbaarheid" betekent dat het stabiel blijft wanneer de omstandigheden exact hetzelfde blijven. "Eerlijkheid" werd gedefinieerd als het doel om discriminerende uitkomsten te elimineren, wat eerst het identificeren van "bias" vereist, de systematische fouten die leiden tot onrechtvaardige behandeling. Ten slotte werd "validiteit" gepositioneerd als de ultieme test: een systeem is pas valide als het zowel robuust als betrouwbaar is, en naar behoren functioneert in de echte wereld.
Toen de onderzoekers naar de werkelijke studies keken die over het afgelopen decennium zijn gepubliceerd, ontdekten ze dat het vakgebied snel groeit, met een scherpe stijging van het aantal papers tussen 2015 en 2025. De research is echter niet gelijkmatig verdeeld. De meeste studies richten zich op een paar specifieke gebieden, zoals neurologie, oncologie en cardiologie, en vertrouwen zwaar op elektronische patiëntendossiers en medische afbeeldingen. De meest gebruikte kunstmatige intelligentiemodellen zijn klassieke machine learning-algoritmen en deep learning-netwerken, waarbij het overgrote deel van de studies eenvoudige classificatietaken uitvoert, zoals bepalen of een scan een tumor laat zien of niet. Wat betreft de instrumenten die worden gebruikt om deze systemen begrijpelijk te maken, is één techniek genaamd SHAP (wat staat voor SHapley Additive exPlanations) verreweg het populairst. Het helpt onderzoekers te zien welke kenmerken in de data, zoals een specifieke bloedtestuitslag of een pixel in een afbeelding, het meest hebben bijgedragen aan een voorspelling.
Ondanks deze groei bracht de review significante hiaten aan het licht. Hoewel onderzoekers goed zijn in het controleren of hun modellen werken op de data die ze al hebben, zijn ze minder succesvol in het testen of die modellen zullen werken op nieuwe, verschillende data of op populaties die niet goed vertegenwoordigd waren in de oorspronkelijke trainingsset. De studie vond dat minder dan de helft van de artikelen kwesties van eerlijkheid of bias behandelde, en nog minder een diep niveau van transparantie bood dat vereist is om het besluitvormingsproces van een model volledig te begrijpen. Belangrijker nog, de onderzoekers merkten op dat zeer weinig studies daadwerkelijk "uitlegbaarheid" behandelden in de strikte zin van het onthullen van de onderliggende mechanismen van het model. In plaats daarvan bleven de meeste steken bij "interpreteerbaarheid", waarbij werd getoond welke datapunten belangrijk waren zonder de volledige logica van de machine uit te leggen. Dit suggereert dat hoewel het vakgebied vooruitgang boekt, het nog steeds grotendeels gericht is op het begrijpelijk maken van de output van AI, in plaats van het de AI zelf werkelijk transparant te maken.
De auteurs concluderen dat voor kunstmatige intelligentie om een vertrouwde partner in de gezondheidszorg te worden, de gemeenschap moet stoppen met deze termen losjes te gebruiken en moet beginnen met het adopteren van de verenigde definities die zij hebben voorgesteld. Zonder een gemeenschappelijke taal zal het onmogelijk zijn om de rigoureuze standaarden te bouwen die nodig zijn om de patiëntveiligheid te waarborgen. Ze bevelen aan dat toekomstig onderzoek zich verder uitbreidt dan de meest voorkomende medische specialismen en datatypen om een breder scala aan condities en informatiebronnen te verkennen. Ze dringen wetenschappers er ook toe aan om betere manieren te ontwikkelen om te testen hoe goed deze systemen omgaan met nieuwe situaties en diverse populaties. Door te verhelderen wat we bedoelen met vertrouwen, betrouwbaarheid en eerlijkheid, kan het vakgebied bewegen van het simpelweg bouwen van complexe modellen naar het bouwen van systemen waar artsen en patiënten werkelijk op kunnen vertrouwen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.