CBAM-Enhanced MaxViT-Tiny for Gastrointestinal Endoscopy Image Classification: Robustness, Explainability, and External Validation

Im Inneren des menschlichen Körpers ist der Verdauungstrakt ein langer, gewundener Tunnel, den Ärzte inspizieren müssen, um Anzeichen von Krankheiten zu finden. Um dies zu tun, verwenden sie einen flexiblen Schlauch mit einer Kamera, bekannt als Endoskop, das während eines einzigen Eingriffs tausende Bilder aufnimmt. Diese Bilder zeigen die Auskleidung des Magens und des Darms und offenbaren alles, von normalen Falten bis hin zu gefährlichen Wucherungen wie Polypen oder entzündetem Gewebe. Obwohl geschulte Spezialisten diese Bilder lesen können, macht das schiere Volumen der generierten Daten es schwierig, jedes einzelne Bild zu überprüfen, ohne zu ermüden. Dies hat Forscher dazu veranlasst, die Frage aufzuwerfen, ob künstliche Intelligenz helfen könnte, indem sie als unermüdliches zweites Augenpaar fungiert, um die Bilder zu sortieren und potenzielle Probleme zu markieren. Die Hoffnung ist, dass ein Computerprogramm lernen kann, die subtilen visuellen Muster von Krankheiten zu erkennen, und so eine zuverlässige und schnelle Möglichkeit zur Unterstützung der Diagnose bietet.

Es gibt jedoch einen bedeutenden Haken beim Vertrauen in diese Computersysteme. Während sie bei der Betrachtung klarer, Standard-Medizinfotos unglaublich genau sein können, können sie überraschend fragil sein. Wenn das Bild auch nur geringfügig durch unsichtbares Rauschen verändert wird oder sich die Beleuchtung ändert, kann der Computer plötzlich verwirrt werden und eine völlig falsche Antwort geben. Diese Anfälligkeit ist ein großes Bedenken hinsichtlich der medizinischen Sicherheit, da ein System, das versagt, wenn die Bedingungen nicht perfekt sind, in einem echten Krankenhaus nicht vertrauenswürdig ist. Darüber hinaus bleibt es oft ein Rätsel, warum ein Computer selbst dann die richtige Antwort liefert, wenn er sie gefunden hat. Er könnte sich auf die eigentliche Krankheit konzentrieren, oder er könnte sich auf einen Zeitstempel oder einen Rand auf dem Bildschirm verlassen, der zufällig in den Bildern kranker Patienten vorhanden ist. Um nützlich zu sein, muss eine künstliche Intelligenz nicht nur genau, sondern auch robust gegenüber diesen Fehlern und transparent darüber sein, wie sie ihre Entscheidungen trifft.

Ein Team von Forschern setzte sich zum Ziel, eine neue Art von künstlicher Intelligenz zu entwickeln und zu testen, die darauf ausgelegt ist, diese gastrointestinalen Bilder zu klassifizieren. Sie begannen mit einem leistungsstarken Computermodell namens MaxViT-Tiny, einem Hybridsystem, das zwei verschiedene Arten der Verarbeitung visueller Informationen kombiniert: eine, die nach kleinen lokalen Details sucht, und eine andere, die das Gesamtbild versteht. Um diesem Modell zu helfen, sich auf die wichtigsten Teile eines Bildes zu konzentrieren, fügten sie einen spezialisierten Aufmerksamkeitsmechanismus hinzu – ein Merkmal, das wie ein Scheinwerfer wirkt und dem Computer sagt, er solle irrelevante Hintergrundgeräusche ignorieren und sich stattdlich auf das Gewebe selbst konzentrieren. Sie trainierten dieses System mit einer großen Sammlung von fast 4.000 endoskopischen Bildern und entfernten dabei sorgfältig Duplikate, um sicherzustellen, dass die Daten sauber waren. Die Bilder deckten acht verschiedene Kategorien ab, darunter normale Landmarken wie die Öffnung des Magens und den Beginn des Dickdarms sowie verschiedene Zustände wie Geschwüre, Entzündungen und Polypen.

Die Forscher teilten diese Bilder in drei Gruppen auf: eine für das Lehren des Modells, eine für die Überprüfung seiner Fortschritte und eine letzte Gruppe, die das Modell noch nie zuvor gesehen hatte, um seine wahre Geschicklichkeit zu testen. Als sie den Test durchführten, schnitt das neue System außergewöhnlich gut ab und identifizierte den Zustand in mehr als 94 Prozent der ungesehenen Bilder korrekt. Es übertraf fünf andere populäre Computermodelle, die auf die gleiche Weise getestet wurden, und zeigte damit, dass diese spezifische Kombination aus Architektur und Aufmerksamkeit effektiv war. Das System war auch sehr gut darin, zwischen den verschiedenen Arten von Gewebe zu unterscheiden, wobei die Erfolgsrate bei mehreren Testläufen hoch blieb. Dies deutete darauf hin, dass das Modell tatsächlich gelernt hatte, die visuellen Merkmale der Krankheiten zu erkennen, anstatt nur die Trainingsbilder auswendig zu lernen.

Doch die Forscher wuszten, dass eine hohe Genauigkeit in einem sauberen Test nur die halbe Wahrheit war. Sie wollten wissen, ob das System standhalten würde, wenn jemand versuchen würde, es zu täuschen. Um dies herauszufinden, unterzogen sie das Modell einer Reihe digitaler Angriffe, bei denen sie winzige, unsichtbare Verzerrungen zu den Bildern hinzufügten, die für das menschliche Auge unmerklich sind, aber einen Computer verwirren können. Die Ergebnisse waren ernüchternd. Angesichts dieser trickreichen, manipulierten Bilder brach die Genauigkeit des Modells drastisch ein. In einigen Fällen lieferte das System in weniger als vier Prozent der Fälle die richtige Antwort. Selbst als sie versuchten, das Modell gegen einen spezifischen Typ von Trick zu trainieren, um es widerstandsfähiger zu machen, blieb es gegenüber anderen, komplexeren Angriffen anfällig. Dies offenbarte eine kritische Schwäche: Das Modell war nicht robust genug für den realen Einsatz, in dem es auf unerwartete Variationen oder gezielte Störungen stoßen könnte.

Das Team schaute auch in den „Verstand“ des Computers, um zu sehen, worauf er tatsächlich achtete, wenn er eine Entscheidung traf. Sie verwendeten Visualisierungswerkzeuge, um Heatmaps über die Bilder zu legen, die die Bereiche hervorheben, die das Modell als am wichtigsten erachtete. In vielen Fällen konzentrierte sich das System korrekt auf das erkrankte Gewebe oder die anatomischen Landmarken. In anderen Fällen wurde das Modell jedoch durch nicht-medizinische Artefakte abgelenkt, wie etwa Texteinblendungen, die Ränder des Bildschirms oder die auf den Bildern der Kamera gedruckten Zeitstempel. Dies bedeutete, dass der Computer manchmal Abkürzungen nutzte und sich auf Hinweise verließ, die in einem anderen Krankenhaus oder mit einer anderen Kamera nicht vorhanden wären. Als die Forscher das Modell an einem völlig separaten Satz von Bildern aus einer anderen Quelle testeten, sank seine Leistung merklich, was bestätigte, dass es nicht so gut generalisiert hatte, wie gehofft.

Letztendlich kam die Studie zu dem Schluss, dass dieses neue Modell der künstlichen Intelligenz zwar ein starker Performer auf Standard- und sauberen Bildern ist, aber noch nicht bereit für das klinische Umfeld ist. Die hohe Genauigkeit, die im Labor beobachtet wurde, übertrug sich nicht auf die Sicherheit gegen digitale Tricks, und die Abhängigkeit des Modells von Bildartefakten deutet darauf hin, dass es in anderen Umgebungen versagen könnte. Die Forscher betonen, dass das Erreichen einer hohen Punktzahl in einem Test nicht dasselbe ist wie der Bau eines zuverlässigen medizinischen Werkzeugs. Bevor ein solches System helfen kann, Ärzte bei der Diagnose von Patienten zu unterstützen, muss es wesentlich robuster gegenüber Fehlern gemacht und darauf trainiert werden, irrelevante Details zu ignorieren. Die Arbeit dient als notwendige Realitätsprüfung, die zeigt, dass der Weg zu vertrauenswürdiger medizinischer künstlicher Intelligenz mehr als nur hohe Genauigkeit erfordert; er verlangt Resilienz, Transparenz und Validierung unter vielfältigen realen Bedingungen.