Does the Model See the Disease or the Shortcut? Causal Lesion Grounding for Chest Radiograph Diagnosis
Het artikel introduceert RADAR, een op laesies gebaseerd framework voor de diagnose van röntgenfoto's van de borstkas dat causale afhankelijkheid van pathologie afdwingt door modellen te trainen om te vertrouwen op specifieke laesiekaarten in plaats van op spurieuze sluiproutes, waardoor het een superieure lokalisatie nauwkeurigheid bereikt en het aantal fout-positieve voorspellingen aanzienlijk vermindert wanneer laesies synthetisch worden verwijderd in vergelijking met conventionele classificatiesystemen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de wereld van medische beeldvorming kan een computerprogramma vaak naar een röntgenfoto van de borstkas kijken en een ziekte met een nauwkeurigheid identificeren die die van een menselijke arts evenaart. Dit succes heeft geleid tot een stille maar cruciale vraag: ziet de computer de ziekte werkelijk, of ontdekt hij simpelweg een trucje? Deep learning-modellen staan erom bekend dat ze kortwegen vinden. In plaats van de complexe visuele patronen van een longontsteking te leren, kan een programma leren om de specifieke ziekteverwekker van het ziekenhuis te herkennen waar de foto is genomen, het type machine dat werd gebruikt om de foto te maken, of zelfs de kleine tekstlabels die in de hoek van de film zijn gebrand. Als een model op deze ongerelateerde aanwijzingen vertrouwt, kan het het juiste antwoord geven om de verkeerde reden, een gebrek dat gevaarlijk kan worden wanneer de computer wordt gebruikt in een nieuw ziekenhuis of bij een ander type patiënt. Het doel van betrouwbare kunstmatige intelligentie is niet alleen om het juiste label te krijgen, maar om te zorgen dat de beslissing gebaseerd is op het werkelijke bewijs van de ziekte.
Een team van onderzoekers heeft een nieuwe aanpak ontwikkeld genaamd RADAR om dit probleem op te lossen. In plaats van een computer te trainen om een diagnose te raden en dan achteraf de gok te proberen uit te leggen, hebben ze een systeem gebouwd waarbij de diagnose gedwongen wordt rechtstreeks uit een kaart van de ziekte zelf te komen. Stel je voor dat de computer wordt gevraagd om longontsteking te vinden. In plaats van de hele afbeelding te scannen op elk patroon dat op "ziek" lijkt, tekent het systeem eerst een specifieke omtrek van waar de longontsteking zich bevindt. Vervolgens berekent het de waarschijnlijkheid van de ziekte uitsluitend op basis van de pixels binnen die omtrek. Als de omtrek leeg is of de pixels binnenin er gezond uitzien, kan de computer niet zeggen dat de patiënt ziek is. Dit ontwerp zorgt ervoor dat de locatie van de ziekte en de beslissing over de ziekte hetzelfde zijn, wat de mogelijkheid wegneemt voor het model om op irrelevante delen van de afbeelding te vertrouwen door naar het verkeerde deel van de afbeelding te kijken.
Om de computer te leren deze kaarten correct te tekenen, gebruikten de onderzoekers een mix van echte annotaties van artsen en slimme computervermoedens. Ze toonden het systeem duizenden röntgenfoto's waarbij radiologen kaders rond specifieke problemen hadden getekend, samen met anatomische gidsen die de computer vertellen waar het hart en de longen gewoonlijk zitten. Maar het belangrijkste deel van hun training was een reeks gecontroleerde experimenten. De onderzoekers leerden het model door het een afbeelding met een ziekte te tonen, en vervolgens het aangetaste gebied digitaal te vervangen door gezond weefsel van een andere patiënt. Ze trainden de computer om te begrijpen dat als de ziekte verdwenen is, de diagnose ook moet verdwijnen. Tegelijkertijd lieten ze de computer afbeeldingen zien waar ze de gezonde delen van de borstkas veranderden of neptekstmarkeringen toevoegden, waardoor de computer leerde dat deze veranderingen de diagnose niet zouden mogen wijzigen. Dit proces, bekend als counterfactual training (tegenfeitelijke training), dwingt het model om te leren dat de ziekte de oorzaak is van de voorspelling, en niet slechts een toevallig patroon.
Toen het team dit nieuwe systeem testte tegen standaardmodellen, waren de resultaten opmerkelijk. Op een set ongeziene afbeeldingen identificeerde het nieuwe systeem ziekten net zo vaak correct als de conventionele modellen, maar het gedroeg zich heel anders wanneer het werd uitgedaagd. Wanneer de onderzoekers het specifieke gebied dat het model als de ziekte had geïdentificeerd digitaal verwijderden, bleven de conventionele modellen in 62% tot 80% van de gevallen beweren dat de patiënt ziek was, wat bewees dat ze vertrouwden op andere delen van de afbeelding. Het nieuwe systeem daarentegen liet echter zijn vertrouwen zakken en stopte met het voorspellen van de ziekte in 84% tot 93% van diezelfde gevallen. Bovendien bleef de diagnose van het nieuwe systeem stabiel wanneer de onderzoekers de gezonde delen van de afbeelding veranderden of neptekst toevoegden, wat aantoonde dat het niet gemakkelijk werd misleid door irrelevante details. De kaarten die het nieuwe systeem tekende, kwamen ook veel nauwer overeen met de eigen markeringen van de radiologen dan de standaardmethoden die worden gebruikt om andere modellen te verklaren.
De studie onthulde ook waar het systeem nog steeds mee worstelt. Hoewel het goed werkte voor veelvoorkomende aandoeningen zoals vocht rond de longen, had het meer moeite met kleinere of minder frequente problemen, zoals kleine noduli of ingeklapte longen, simpelweg omdat er minder voorbeelden van deze specifieke problemen in de trainingsdata aanwezig waren. In sommige gevallen van falen identificeerde het systeem correct dat er een ziekte aanwezig was, maar tekende het de omtrek te breed, waardoor ook gezond weefsel werd meegenomen. De onderzoekers merkten op dat hun methode steunt op het wisselen van patches van gezond weefsel, wat een nuttige simulatie is, maar geen perfect vervanging voor een echt, gezond exemplaar van de long van die specifieke patiënt. Ondanks deze beperkingen laat het werk zien dat het mogelijk is om een medische AI te bouwen die niet alleen het antwoord raadt, maar ook daadwerkelijk naar het bewijs wijst dat de beslissing rechtvaardigt. Door de computer zijn werk te laten laten zien voordat hij een beslissing neemt, hebben de onderzoekers een belangrijke stap gezet naar het creëren van diagnostische instrumenten die niet alleen accuraat, maar ook betrouwbaar en begrijpelijk zijn.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.