FRAME: separating sampling variation from representational cause in medical imaging fairness
Dit artikel introduceert FRAME, een tweestaps raamwerk dat onderscheid maakt tussen steekproefvariatie en werkelijke representatieve bias in de eerlijkheid van medische beeldvorming door een referentiemodel voor eerlijkheid vast te stellen en de resterende verschillen te testen, waarbij wordt onthuld dat een aanzienlijk deel van de gerapporteerde verschillen tussen subgroepen kan worden toegeschreven aan statistische ruis in plaats aan modelmechanismen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Medische beeldvorming is een vakgebied waar kunstmatige intelligentie is begonnen met het lezen van röntgenfoto's, huidfoto's en retinale scans met een opmerkelijke snelheid, waarbij het vaak ziekten opspoort die het menselijk oog zou kunnen missen. Toch presteren deze systemen niet altijd gelijkwaardig voor iedere persoon. Wanneer een computerprogramma wordt getest op verschillende patiëntengroepen, maakt het soms meer fouten voor de ene groep dan voor de andere. Zo kan een systeem bijvoorbeeld iets minder accuraat zijn in het diagnosticeren van hartaandoeningen bij zwarte patiënten vergeleken met witte patiënten, of bij vrouwen vergeleken met mannen. Deze inconsistentie is een ernstige zorg. Als een medisch hulpmiddel beter werkt voor sommige mensen dan voor anderen, loopt het risico bestaande gezondheidsongelijkheid te verdiepen. De standaardreactie in het vakgebied is geweest om ervan uit te gaan dat de computer iets over de ras of leeftijd van een patiënt leert van de afbeelding zelf en die informatie gebruikt om bevooroordeelde beslissingen te nemen. Gevolgelijk hebben onderzoekers jarenlang geprobeerd modellen te bouwen die deze demografische details vergeten, in de hoop dat het wissen van deze informatie de systemen automatisch eerlijk zou maken.
Een team van onderzoekers heeft deze aanname nu uitgedaagd met een nieuwe aanpak genaamd FRAME. In plaats van de modellen onmiddellijk de schuld te geven van vooroordelen, stelden zij een simpelere, meer fundamentele vraag: hoeveel van het geobserveerde verschil is eigenlijk gewoon het resultaat van wiskunde veroorzaakt door het aantal patiënten in elke groep? Wanneer een studie een grote groep patiënten vergelijkt met een zeer kleine groep, produceert de kleine groep van nature meer grillige resultaten, simpelweg omdat er minder datapunten zijn om de willekeur te middelen. De onderzoekers realiseerden zich dat deze statistische ruis, bekend als steekproefvariatie, een illusie van onrechtvaardigheid creëert, zelfs wanneer het model volkomen eerlijk is. Om dit te testen, bouwden zij een framework dat eerst berekent hoe het verschil zou moeten zijn als het model volkomen eerlijk zou zijn, gegeven de exacte groepsgroottes van de onderzochte groepen. Dit creëert een "eerlijk-model referentie", een basislijn die rekening houdt met de natuurlijke schommelingen door kleine steekproeven. Alleen als het werkelijke verschil groter is dan deze basislijn, beschouwen de onderzoekers het als een echt probleem dat opgelost moet worden.
Het team paste dit framework toe op een enorme dataset van meer dan 700.000 medische beelden, inclusief borstfoto's, huidfoto's en oogscans, verspreid over duizenden patiënten in meerdere ziekenhuizen. Ze testten tientallen verschillende AI-modellen en keken naar hoe ze presteerden over verschillende groepen gedefinieerd door ras, leeftijd en geslacht. De resultaten waren opvallend. Toen ze de gerapporteerde verschillen vergeleken met hun eerlijk-model referentie, ontdekten ze dat de natuurlijke variatie in groepsgroottes een groot deel van het probleem verklaarde. Voor verschillen in ras bij borstfoto's verklaarde de eerlijk-model referentie een mediaan van 41% van de gerapporteerde kloof. Voor verschillen in leeftijd verklaarde het 22%. In veel gevallen was het verschil dat de onderzoekers zagen niet groter dan wat zij zouden verwachten door puur toeval, zelfs als het model iedereen precies hetzelfde zou behandelen. Dit suggereert dat veel studies die beweren vooroordelen te hebben gevonden, in werkelijkheid statistische ruis meten in plaats van een fout in de logica van de AI.
De onderzoekers namen vervolgens de volgende stap om te zien of de resterende verschillen werkelijk werden veroorzaakt doordat het model iets "weet" over ras of leeftijd. Ze gebruikten een methode waarbij ze kunstmatig demografische informatie in het interne geheugen van het model injecteerden om te zien of dit de resultaten zou veranderen. Ze ontdekten dat het simpelweg beter laten herkennen van ras de prestatiekloof niet veranderde. Echter, toen ze ziektepatronen kunstmatig koppelden aan de demografische groepen, groeide de kloof aanzienlijk. Dit geeft aan dat het probleem niet is dat het model ras als een afkorting gebruikt, maar dat de ziekte zelf er anders uit kan zien of moeilijker te detecteren kan zijn in bepaalde groepen door factoren buiten de controle van het model. Bovendien testten ze negen verschillende methoden die gewoonlijk worden gebruikt om deze vooroordelen te corrigeren, zoals het hertrainen van het model of het aanpassen van de scores. Ze ontdekten dat deze interventies de resultaten slechts een klein beetje veranderden, vaak minder dan de verandering veroorzaakt door simpelweg hetzelfde model te draaien met een andere willekeurige startwaarde. Sterker nog, de meest effectieve manier om de prestaties van het systeem voor de slechtst bedeelde groep te verbeteren, was niet het verwijderen van demografische gegevens, maar het trainen van het model met een combinatie van beelden en tekstbeschrijvingen, wat de prestaties voor de meest benadeelde groep met ongeveer 0,05 verhoogde.
De studie concludeert dat het vakgebied naar de verkeerde getallen heeft gekeken. Door het ruwe verschil tussen groepen te behandelen als bewijs voor vooroordelen, hebben onderzoekers statistische ruis geteld als een falen van de technologie. Het FRAME-framework biedt een manier om de twee te scheiden. Het laat zien dat in veel gevallen de gerappoteerde onrechtvaardigheid consistent is met wat een volkomen eerlijk model zou produceren, gezien het kleine aantal patiënten in bepaalde groepen. Dit betekent niet dat vooroordelen niet bestaan, maar het suggereert dat we grotere, diversere datasets nodig hebben om de echte problemen duidelijk te zien. Tot die tijd zijn veel van de "oplossingen" die op medische AI worden toegepast, wellicht gericht op een fantoomprobleem, terwijl de werkelijke weg naar eerlijkheid ligt in het verzamelen van meer data en het begrijpen van de biologische en sociale redenen waarom ziekten zich in verschillende populaties anders presenteren. De onderzoekers betogen dat we, voordat we proberen het model te veranderen, eerst de cohort moeten begrijpen waarop we het testen, om er zeker van te zijn dat we echte problemen oplossen in plaats van achter wiskundige spoken aan te jagen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.