Ask Twice, Look Twice: Training-Free Consistency Filtering for Reliable Medical VQA

In der hochriskanten Welt der modernen Medizin verlassen sich Ärzte zunehmend auf künstliche Intelligenz, um komplexe medizinische Bilder, von Röntgenaufnahmen bis hin zu MRT-Scans, zu interpretieren. Ein spezieller Typ von KI, bekannt als Visual Question Answering System (VQA), ist darauf ausgelegt, ein Bild anzusehen und eine Frage in natürlicher Sprache dazu zu beantworten, wie etwa „Welches Organ ist hier sichtbar?“ oder „Liegt ein Bruch vor?“. Obwohl diese Systeme immenses Potenzial zur Unterstützung klinischer Entscheidungen bieten, stehen sie vor einer kritischen Hürde: der Zuverlässigkeit. Genau wie ein Mensch zögern oder eine andere Antwort geben könnte, wenn eine Frage leicht anders formuliert wird, können diese Computerprogramme manchmal stolpern, wenn sich die Wortwahl einer Frage ändert, selbst wenn die Bedeutung exakt dieselbe bleibt. Wenn eine KI eine selbstbewusste, aber falsche Antwort gibt, weil ein Arzt die Frage auf eine neue Weise gestellt hat, könnten die Folgen in einem Krankenhaus schwerwiegend sein. Die Kernherausforderung besteht daher nicht nur darin, diese Modelle intelligenter zu machen, sondern sie konsistent zu gestalten – sicherzustellen, dass sie die gleiche korrekte Antwort geben, unabhängig davon, wie die Frage gestellt wird oder wie das Bild leicht verändert wurde.

Ein Team von Forschern der University of Sydney und der Macquarie University hat eine neue Methode entwickelt, um dieses Problem zu lösen, ohne die Modelle der künstlichen Intelligenz von Grund auf neu trainieren zu müssen. Sie nennen ihren Ansatz „Ask Twice, Look Twice“ (Zweimal fragen, zweimal schauen). Anstatt zu versuchen, die KI zu zwingen, neue Dinge zu lernen, haben sie einen Sicherheitsfilter gebaut, der das Vertrauen des Modells prüft, bevor es eine Antwort geben darf. Das System funktioniert, indem es ein einzelnes medizinisches Bild und eine Frage nimmt und dann automatisch mehrere verschiedene Versionen dieser Frage generiert, die exakt dasselbe bedeuten. Wenn die ursprüngliche Frage beispielsweise „Welche Krankheit ist auf der linken Seite der Lunge zu sehen?“ lautet, könnte das System Variationen wie „Was wird in der linken Lunge beobachtet?“ oder „Welcher Befund liegt auf der linken Seite vor?“ erstellen. Es stellt der KI dann all diese verschiedenen Versionen der Frage. Wenn die KI zu jeder einzelnen Variation die gleiche Antwort gibt, akzeptiert das System das Ergebnis als zuverlässig. Wenn die Antworten der KI schwanken oder sich widersprechen, lehnt das System die Ausgabe ab und kennzeichnet sie als unsicher, anstatt das Risiko einer falschen Diagnose einzugehen.

Um diese Idee zu testen, mussten die Forscher zunächst eine Möglichkeit schaffen, diese Fragenvariationen automatisch zu generieren. Sie verwendeten ein großes Sprachmodell, eine Art fortgeschrittene KI, die auf riesigen Textmengen trainiert wurde, um die in bestehenden medizinischen Datensätzen gefundenen Fragen umzuformulieren. Sie legten strenge Regeln für diesen Prozess fest: Die neuen Fragen mussten exakt dieselbe Bedeutung wie das Original beibehalten und durften keine neuen Fakten einführen, die nicht bereits im Bild oder in der ursprünglichen Frage enthalten waren. Dies stellte sicher, dass die KI auf ihre Fähigkeit getestet wurde, das Kernkonzept zu verstehen, und nicht auf ihre Fähigkeit, neue Informationen zu erraten. Sie überprüften auch die Qualität dieser generierten Fragen, um sicherzustellen, dass sie grammatikalisch korrekt und tatsächlich äquivalent zu den Originalen waren. Dieser Prozess ermöglichte es ihnen, einen viel reichhaltigeren Testgrund zu schaffen, bei dem jedes einzelne medizinische Bild mit Dutzenden von verschiedenen Arten, danach zu fragen, gepaart war, anstatt mit nur einer.

Die Forscher stellten diese Methode dann unter Verwendung von zwei verschiedenen medizinischen KI-Modellen auf einem Datensatz namens SLAKE getestet, der tausende medizinische Bilder und Fragen enthält. Sie erstellten vier verschiedene Versionen dieses Datensatzes, um reale Herausforderungen zu simulieren. Eine Version verwendete nur die neuen, variierten Fragen, um zu testen, wie die Modelle mit Sprachänderungen umgehen. Eine andere Version verwendete Bilder, die durch Standard-Computertechniken leicht verändert worden waren, wie etwa das Ändern der Helligkeit oder das Hinzufügen eines leichten Unschärfeeffekts, um die visuelle Robustheit zu testen. Sie kombinierten diese Änderungen auch und schlossen sogar Bilder ein, die subtil modifiziert wurden, um die KI zu täuschen, bekannt als adversarielle Angriffe (adversarial attacks). Als sie die Modelle auf diesen Datensätzen ohne ihren neuen Sicherheitsfilter laufen ließen, waren die Ergebnisse aufschlussreich. Die Modelle waren überraschend fragil, wenn es um die Sprache ging; selbst kleine Änderungen in der Formulierung einer Frage führten dazu, dass ihre Genauigkeit signifikant sank. Im Gegensatz dazu waren die Modelle gegenüber Änderungen an den Bildern etwas widerstandsfähiger, obwohl sie immer noch Schwierigkeiten hatten, wenn sowohl Text als auch Bild gleichzeitig verändert wurden.

Die wahre Stärke der „Ask Twice, Look Twice“-Methode zeigte sich, als die Forscher ihren Konsistenzfilter anwandten. Sie legten eine Regel fest, nach der die KI nur dann eine Antwort geben durfte, wenn sie sich über eine bestimmte Anzahl von Fragenvariationen hinweg mit sich selbst einig war. Wenn sie beispielsweise verlangten, dass das Modell auf mindestens elf verschiedene Versionen einer Frage die gleiche Antwort gibt, wurde das System viel vertrauenswürdiger. Auf dem Datensatz mit variierender Sprache stieg die Zuverlässigkeit eines der Top-Modelle von etwa 77 % auf 89 %, als diese strenge Regel angewendet wurde. Auf dem Datensatz mit visuellen Änderungen stieg die Zuverlässigkeit von etwa 80 % auf 87 %. Dieser Verbesserung ging ein Trade-off anheim: Da das System nun Antworten ablehnte, bei denen es sich nicht sicher war, sank die Anzahl der tatsächlich beantworteten Fragen. Im Datensatz mit variierender Sprache fiel die Akzeptanzrate um etwa 29 %, was bedeutet, dass das System sich entschied, zu schweigen, anstatt zu raten. Die Antworten, die es jedoch lieferte, waren jedoch weitaus wahrscheinlicher korrekt, und die Unsicherheit in seinen Vorhersagen sank um etwa ein Viertel.

Die Studie hob auch einen entscheidenden Unterschied hervor, wie diese medizinischen KI-Modelle verschiedene Arten von Fehlern handhaben. Die Forscher fanden heraus, dass die Modelle weitaus sensibler auf Änderungen in der Sprache reagierten als auf Änderungen in den Bildern. Selbst wenn die Bilder leicht unscharf gemacht oder ihr Kontrast angepasst wurde, performten die Modelle relativ gut. Aber wenn die Fragen umformuliert wurden, scheiterten die Modelle oft daran, zu erkennen, dass es dieselbe Frage war. Dies deutet darauf hin, dass aktuelle medizinische KI-Systeme stark auf die spezifischen Wörter angewiesen sind, die in einer Frage verwendet werden, anstatt die visuellen Informationen im Bild wirklich zu verstehen. Die Forscher merkten an, dass traditionelle Bildänderungen die Leistung stärker beeinträchtigten als die subtilen, computergenerierten Angriffe, die darauf abzielen, die KI zu täuschen – ein Befund, der einige Annahmen darüber infrage stellt, wogegen diese Systeme verwundbar sind.

Durch die Verwendung dieses Konsistenzfilters demonstrierten die Forscher, dass es möglich ist, das Vertrauen in die medizinische KI erheblich zu steigend, ohne die Modelle auf neuen Daten neu trainieren oder deren zugrunde liegende Architektur ändern zu müssen. Die Methode fungt als Torwächter, der sicherstellt, dass das System nur spricht, wenn es sich sicher ist. Während dies bedeutet, dass das System manchmal entscheiden wird, eine Frage nicht zu beantworten, argumentieren die Forscher, dass ein Schweigen des Systems in einem klinischen Umfeld weitaus sicherer ist, als eine selbstbewusst falsche Antwort zu geben. Der Ansatz funktioniert über verschiedene Arten von Modellen und verschiedene Arten von Daten hinweg, was darauf hindeutet, dass er ein praktisches Werkzeug zur Verbesserung der Sicherheit in realen Krankenhäusern sein könnte. Die Studie kommt zu dem Schluss, dass diese Systeme zwar noch Arbeit benötigen, um vollkommen robust zu werden, insbesondere im Hinblick darauf, wie sie mit verschiedenen Arten der Fragestellung umgehen, aber dass diese einfache „Ask Twice“-Strategie eine kraftvolle Möglichkeit bietet, Unsicherheit herauszufiltern und sicherzustellen, dass die Antworten, die Ärzte erhalten, zuverlässig sind.