CBAM-Enhanced MaxViT-Tiny for Gastrointestinal Endoscopy Image Classification: Robustness, Explainability, and External Validation

Binnen het menselijk lichaam is het spijsverteringskanaal een lange, kronkelende tunnel die artsen moeten inspecteren om tekenen van ziekte te vinden. Om dit te doen, gebruiken ze een flexibele slang met een camera, een endoscoop genoemd, die tijdens een enkele procedure duizenden afbeeldingen vastlegt. Deze foto's tonen de wand van de maag en de darmen, en onthullen alles van normale plooien tot gevaarlijke gezwellen zoals poliepen of ontstoken weefsel. Hoewel getrainde specialisten deze beelden kunnen interpreteren, maakt de enorme hoeveelheid gegenereerde gegevens het moeilijk om elk afzonderlijk frame te beoordelen zonder vermoeidheid op te lopen. Dit heeft ertoe geleid dat onderzoekers zich afvragen of kunstmatige intelligentie zou kunnen helpen, als een onvermoeibare tweede paar ogen om door de beelden te sorteren en potentiële problemen te signaleren. De hoop is dat een computerprogramma kan leren om de subtiele visuele patronen van ziekte te herkennen, waardoor een betrouwbare en snelle manier wordt geboden om de diagnose te ondersteunen.

Er zit echter een aanzienlijke adder onder het gras bij het vertrouwen op deze computersystemen. Hoewel ze ongelooflijk nauwkeurig kunnen zijn bij het bekijken van heldere, standaard medische foto's, kunnen ze verrassend fragiel zijn. Als de afbeelding zelfs maar licht wordt gewijzigd door onzichtbare ruis of als de verlichting verandert, kan de computer plotseling in de war raken en een volkomen fout antwoord geven. Deze kwetsbaarheid is een grote zorg voor de medische veiligheid, aangezien een systeem dat faalt wanneer de omstandigheden niet perfect zijn, niet in een echt ziekenhuis vertrouwd kan worden. Bovendien, zelfs wanneer een computer het juiste antwoord geeft, blijft het vaak een mysterie waarom dat zo is. Het kan zich concentreren op de werkelijke ziekte, of het kan vertrouwen op een tijdstempel of een rand op het scherm die toevallig aanwezig is op de foto's van zieke patiënten. Om nuttig te zijn, moet een kunstmatige intelligentie niet alleen nauwkeurig zijn, maar ook robuust tegen deze fouten en transparant over hoe het zijn beslissingen neemt.

Een team van onderzoekers zette zich in om een nieuw type kunstmatige intelligentie te bouwen en te testen, ontworpen om deze gastro-intestinale beelden te classificeren. Ze begonnen met een krachtig computermodel genaamd MaxViT-Tiny, een hybride systeem dat twee verschillende manieren combineert om visuele informatie te verwerken: één die naar kleine lokale details kijkt en een andere die het grotere plaatje begrijpt. Om dit model te helpen zich te concentreren op de belangrijkste delen van een afbeelding, voegden ze een gespecialiseerd aandachtmechanisme toe, een functie die werkt als een spotlight, die de computer vertelt om irrelevante achtergrondruis te negeren en zich op het weefsel zelf te concentreren. Ze trainden dit systeem op een grote collectie van bijna 4.000 endoscopische beelden, waarbij ze duplicaten zorgvuldig verwijderden om de data schoon te houden. De beelden bestonden uit acht verschillende categorieën, waaronder normale oriëntatiepunten zoals de opening van de maag en het begin van de dikke darm, evenals diverse aandoeningen zoals ulcera, ontstekingen en poliepen.

De onderzoekers verdeelden deze beelden in drie groepen: één voor het trainen van het model, één voor het controleren van de voortgang, en een laatste groep die het model nog nooit eerder had gezien, om de werkelijke vaardigheid te testen. Toen ze de test uitvoerden, presteerde het nieuwe systeem uitzonderlijk goed; het identificeerde de conditie in meer dan 94 procent van de ongeziene beelden correct. Het presteerde beter dan vijf andere populaire computermodellen die op dezelfde manier werden getest, wat aantoonde dat deze specifieke combinatie van architectuur en aandacht effectief was. Het systeem was ook zeer goed in het onderscheiden van de verschillende soorten weefsel, met een succespercentage dat hoog bleef tijdens meerdere testruns. Dit suggereerde dat het model werkelijk had geleerd om de visuele kenmerken van de ziekten te herkennen in plaats van alleen de trainingsfoto's te memoriseren.

Maar de onderzoekers wisten dat een hoge nauwkeurigheid op een schone test slechts de helft van het verhaal was. Ze wilden weten of het systeem stand zou houden als iemand het probeerde te misleiden. Om dit te ontdekken, onderwierpen ze het model aan een reeks digitale aanvallen, waarbij ze kleine, onzichtbare verstoringen aan de beelden toevoegden die onmerkbaar zijn voor het menselijk oog, maar een computer in verwarring kunnen brengen. De resultaten waren sober. Wanneer zij werden geconfronteerd met deze verraderlijke, gemanipuleerde beelden, stortte de nauwkeurigheid van het model in. In sommige gevallen gaf het systeem het antwoord correct in minder dan vier procent van de gevallen. Zelfs toen ze probeerden het model te hertrainen om weerbaarder te zijn tegen één specifere soort truc, bleef het kwetsbaar voor andere, complexere aanvallen. Dit onthulde een kritieke zwakte: het model was niet robuust genoeg voor echt wereldgebruik waar het onverwachte variaties of bewuste interferentie zou kunnen tegenkomen.

Het team keek ook in de "geest" van de computer om te zien waar het systeem daadwerkelijk naar keek wanneer het een beslissing nam. Ze gebruikten visualisatietools om hittekaarten over de beelden te tekenen, waarbij de gebieden werden geaccentueerd die het model het belangrijkst vond. In veel gevallen focuste het systeem correct op het zieke weefsel of de anatomische oriëntatiepunten. Echter, in andere gevallen werd het model afgeleid door niet-medische artefacten, zoals tekstoverlays, de randen van het scherm of de tijdstempels die door de camera op de beelden werden geprint. Dit betekende dat de computer soms gebruikmaakte van sluiproutes, door te vertrouwen op aanwijzingen die niet aanwezig zouden zijn in een ander ziekenhuis of met een andere camera. Wanneer de onderzoekers het model testten op een volledig andere set beelden uit een andere bron, daalde de prestatie merkbaar, wat bevestigde dat het model niet zo goed had geleerd te generaliseren als gehoopt.

Uiteindelijk concludeerde de studie dat hoewel dit nieuwe kunstmatige intelligentiemodel een sterke presteerder is op standaard, schone afbeeldingen, het nog niet klaar is voor de klinische omgeving. De hoge nauwkeurigheid gezien in het laboratorium vertaalde zich niet naar veiligheid tegen digitale trucs, en de afhankelijkheid van het model van beeldartefacten suggereert dat het in verschillende omgevingen zou kunnen falen. De onderzoekers benadrukken dat het behalen van een hoge score op een test niet hetzelfde is als het bouwen van een betrouwbaar medisch hulpmiddel. Voordat een dergelijk systeem kan worden gebruikt om artsen bij het diagnosticeren van patiënten te helpen, moet het veel robuuster worden gemaakt tegen fouten en getraind worden om irrelevante details te negeren. Het werk dient als een noodzakelijke reality check, die laat zien dat de weg naar betrouwbare medische kunstmatige intelligentie meer vereist dan alleen een hoge nauwkeurigheid; het vraagt om veerkracht, transparantie en validatie onder diverse real-world condities.