Post-hoc reliability assessment and visual explanation for deep learning-based oral mucosal lesion detection
Dieses Paper präsentiert ein Post-hoc-Framework, das die Zuverlässigkeit und Interpretierbarkeit eines eingefrorenen YOLOv11-Detektors für orale Schleimhautläsionen verbessert, indem es die Dichte der Feature-Embeddings analysiert, um unzuverlässige Vorhersagen zu identifizieren, und Nearest-Neighbor-Retrieval verwendet, um visuelle Erklärungen bereitzustellen, und dies alles, ohne ein erneutes Trainieren des Modells zu erfordern.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der Welt der medizinischen Bildgebung ist künstliche Intelligenz zu einem leistungsstarken Werkzeug geworden, um Krankheiten aufzuspüren, die dem menschlichen Auge entgehen könnten. Diese Systeme werden mit Tausenden von Fotografien trainiert und lernen, Muster zu erkennen, die auf eine Erkrankung hindeuten. Es bleibt jedoch ein erhebliches Problem bestehen: Wenn diese Computerprogramme eine Vorhersage treffen, liefern sie oft einen Konfidenzwert, der irreführend sein kann. Ein System könnte eine Diagnose mit einer Sicherheit von 99 Prozent verkünden, während es sich ein Bild ansieht, das sich völlig von allem unterscheidet, was es jemals zuvor gesehen hat. In sicherheitskritischen Bereichen wie der Medizin, in denen eine falsche Einschätzung lebensrettende Behandlungen verzögern kann, ist das Wissen darüber, wann man der Maschine vertrauen kann, genauso wichtig wie die Fähigkeit der Maschine zu sehen. Die Herausforderung besteht darin, einen Weg zu finden, die Zuverlässigkeit einer Vorhersage zu überprüfen, ohne das gesamte System von Grund auf neu aufbauen zu müssen.
Forscher mehrerer deutscher und internationaler Institutionen haben dieses Problem angegangen, indem sie eine neue Methode zur Überprüfung der Entscheidungen einer künstlichen Intelligenz entwickelt haben, die darauf ausgelegt ist, orale Schleimhautläsionen zu erkennen. Dabei handelt es sich um Zustände, die das Weichgewebe im Mund betreffen, die von harmlosen weißen Flecken bis hin zu potenziell krebsartigen Wucherungen reichen. Das Team konzentrierte sich auf einen speziellen Typ von KI-Detektor namens YOLO, der exzellent darin ist, Objekte in Bildern zu finden und Kästchen um sie herum zu zeichnen. Obwohl der Detektor bereits darauf trainiert war, drei Arten von Läsionen und gesundes Gewebe zu identifizieren, wollten die Forscher das „Warum“ hinter jeder Entscheidung verstehen und feststellen, ob die KI wirklich sicher oder nur am Raten war. Sie haben das Modell nicht neu trainiert oder seinen internen Code geändert. Stattdessen betrachteten sie die mathematischen Fingerabdrücke, bekannt als Embeddings, die die KI für jedes analysierte Bild erstellte. Diese Fingerabdrücke repräsentieren die visuellen Merkmale, die die KI für ihre Entscheidung genutzt hat.
Die Forscher nahmen diese hochdimensionalen Fingerabdrücke und bildeten sie auf einer einfachen zweidimensionalen Landschaft ab. Auf dieser Karte gruppieren sich Bilder, die sich sehr ähnlich sehen, eng zusammen, während verschiedene Arten von Läsionen ihre eigenen, deutlichen Gruppen bilden. Durch die Analyse dessen, wie dicht besiedelt oder leer ein bestimmter Bereich auf dieser Karte war, konnten sie einen Zuverlässigkeitswert berechnen. Wenn eine Vorhersage in einem dichten Cluster aus ähnlichen, korrekt identifizierten Trainingsbildern landete, betrachtete das System die Vorhersage als zuverlässig. Wenn die Vorhersage in einem spärlichen, leeren Bereich weit entfernt von bekannten Beispielen landete, markierte das System dies als unsicher. Dieser Ansatz ermöglichte es ihnen, die Vertrauenswürdigkeit jeder einzelnen Detektion zu bewerten, ohne den ursprünglichen Detektor zu verändern. Sie fanden heraus, dass dieser auf Dichte basierende Score weitaus besser darin war, unsichere Vorhersagen zu identifizieren als die Standard-Konfidenzwerte, die die KI normalerweise liefert. In Tests mit über 3.500 Bildern unterschied diese Methode erfolgreich zwischen zuverlässigen und unzuverlässigen Vorhersagen mit einem AUC-Wert zwischen 0,92 und 0,95 über die verschiedenen Krankheitskategorien hinweg.
Um diese abstrakten Scores für Ärzte nützlich zu machen, fügte das Team ein visuelles Erklärungs-Tool hinzu. Wenn das System eine Vorhersage als unsicher markierte, konnte es sofort die vier ähnlichsten Bilder aus seiner Trainingsdatenbank abrufen und anzeigen. Dies erzeugte ein Mosaik, das dem Arzt genau zeigte, womit die KI das aktuelle Patientenbild verglich. Wenn die KI beispielsweise eine bestimmte Art von weißem Fleck falsch identifizierte, zeigte die visuelle Erklärung, dass sie den Patienten mit einer anderen, aber visuell ähnlichen Erkrankung verglich. Dies ermöglichte es Klinikern, den Entscheidungsprozess der KI in Aktion zu sehen. Die Studie ergab, dass die KI oft Schwierigkeiten mit Läsionen hatte, die sich ähnlich sehen, wie etwa bestimmte Formen von Leukoplakie und Lichen planus, die überlappende visuelle Merkmale aufweisen. In diesen Grenzfallen identifizierte die neue Methode korrekt, dass die KI in einer Zone der Mehrdeutigkeit operierte, während der Standard-Konfidenzwert fälschlicherweise hoch geblieben wäre.
Die Forscher testeten das System auch an Bildern von Läsionen, die nicht Teil des ursprünglichen Trainingssatzes waren, wie etwa Blasenbildungen oder friktive Keratosen. Sie fanden heraus, dass die KI diese unbekannten Zustände manchmal der am nächsten liegenden bekannten Kategorie zuordnete, und der Dichtescore markierte sie nicht immer als völlig unbekannt. Dies verdeutlicht eine entscheidende Einschränkung: Das System misst, wie gut eine Vorhersage zu den Trainingsdaten passt, nicht ob das Bild eine völlig neue Krankheit darstellt. Dennoch erwies sich das visuelle Abruf-Tool auch hier als wertvoll. Selbst wenn die KI einen Fehler machte, halfen die angezeigten „Nachbarn“ aus dem Training dem menschlichen Experten zu erkennen, dass die visuelle Ähnlichkeit irreführend war und die Diagnose mehr als nur ein Foto erforderte. Die Studie kommt zu dem Schluss, dass Mediziner durch die Kombination einer auf Dichte basierenden Zuverlässigkeitsprüfung mit visuellen Beispielen besser verstehen können, wann sie einer KI-Diagnose vertrauen können und wann sie eine Zweitmeinung einholen sollten, ohne die bereits im Einsatz befindlichen komplexen Modelle neu trainieren zu müssen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.