Interpretability Methods for Causal Predictions in Biomedical AI: A Systematic Review of Approaches and Evaluation Practices
Diese systematische Übersicht über 47 biomedizinische KI-Studien zeigt, dass Interpretierbarkeitsmethoden wie SHAP und LIME zwar weit verbreitet eingesetzt werden, um kausale Vorhersagemodelle zu erklären, deren Evaluierung jedoch überwiegend auf eigenschaftsbasierten Metriken beruht und selten die tatsächliche kausale Validität überprüft, was eine kritische Lücke zwischen Modellerklärung und kausaler Inferenz verdeutlicht.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der Welt der modernen Medizin ist künstliche Intelligenz zu einem mächtigen Werkzeug geworden, um Muster zu erkennen, die dem menschlichen Auge entgehen könnten. Diese Computersysteme können Tausende von medizinischen Bildern scannen oder jahrelange Patientendaten durchforsten, um vorherzusagen, wer krank werden könnte oder wie eine Krankheit fortschreiten wird. Es gibt jedoch einen entscheidenden Unterschied zwischen dem Wissen, dass zwei Dinge zusammen auftreten, und dem Wissen, dass das eine tatsächlich das andere verursacht. Ein Computer könnte lernen, dass ein bestimmtes Hautmerkmal häufig zusammen mit einer schweren Krankheit auftritt, aber das bedeutet nicht, dass das Merkmal die Krankheit verursacht; es könnte lediglich eine Nebenwirkung von etwas ganz anderem sein. Wenn ein Arzt sich auf einen Computer verlässt, der nur diese Verbindungen sieht, könnte er bei der Behandlung eines Patienten eine falsche Entscheidung treffen, da die Behandlung des Merkmals die Krankheit nicht heilen wird. Diese Lücke zwischen dem Erkennen eines Musters und dem Verständnis der wahren Ursache ist die zentrale Herausforderung, die Forscher zu lösen versuchen.
Ein neuer systematischer Review von Albert Schulle von der Technischen Universität München untersucht, wie gut aktuelle Werkzeuge uns dabei helfen, diese Ursachen zu verstehen. Die Studie untersuchte hunderte von Papieren, um zu sehen, ob die Methoden, die erklären, wie die KI ihre Vorhersagen trifft, tatsächlich in der Lage sind, wahre biologische Ursachen aufzudecken. Die Forscher fanden heraus, dass Wissenschaftler zwar bestrebt sind, diese Erklärungsmodelle zu nutzen, aber meistens die falschen Werkzeuge für die Aufgabe verwenden. Die populärsten Tools, die Wichtigkeitswerte für verschiedene Merkmale wie Alter oder Blutdruck zuweisen, sind exzellent darin zu zeigen, was der Computer bemerkt hat, aber sie sind schlecht darin, zu zeigen, was tatsächlich das Ergebnis verursacht hat. Tatsächlich stellte die Übersicht fest, dass eine explizite Bewertung der kausalen Validität selten war und nur in 9 % der untersuchten Studien vorkam, was bedeutet, dass die große Mehrheit nie tatsächlich getestet hat, ob ihre Erklärungen die Wahrheit über Ursache und Wirkung wiedergaben.
Der Review untersuchte 47 Studien, die zwischen 2016 und 2025 veröffentlicht wurden und versuchten, diese Erklärungsmethoden auf medizinische Probleme anzuwenden, bei denen Ursache und Wirkung eine Rolle spielen, wie etwa die Vorhersage, wie ein Patient auf ein bestimmtes Medikament reagieren wird. Die Forscher fanden heraus, dass die überwiegende Mehrheit dieser Studien, etwa 68 Prozent, sich auf Merkmalsattributionsmethoden (Feature Attribution) stützte. Dies sind Techniken, die hervorheben, welche Eingabevariablen das Computermodell am stärksten genutzt hat, um eine Entscheidung zu treffen. Die zwei gängigsten Werkzeuge waren SHAP und LIME, die wie ein Scheinwerfer wirken und auf die Datenpunkte leuchten, die das Modell als besonders wichtig erachtet hat. Während diese Werkzeuge sehr gut darin sind zu zeigen, auf welche Zahlen der Computer geschaut hat, argumentiert der Review, dass sie fundamental begrenzt sind, weil sie nur Assoziationen beschreiben. Sie können einem Arzt sagen, dass hoher Blutdruck ein Schlüsselfaktor in einer Risikovorhersage war, aber sie können dem Arzt nicht sagen, ob die Senkung des Blutdrucks tatsächlich einen Herzinfarkt verhindern wird.
Die Studie untersuchte auch andere, fortgeschrittenere Methoden, die der Wahrheit näher kommen könnten. Etwa 15 Prozent der Studien verwendeten kontrafaktische Erklärungen, die sich vorstellen, was passiert wäre, wenn ein Patient etwas anders gemacht hätte, wie zum Beispiel ein anderes Medikament eingenommen hätte. Diese sind konzeptionell näher daran, wie Ärzte über Ursache und Wirkung nachdenken, wurden aber dennoch nur in einem kleinen Bruchteil der Forschung eingesetzt. Noch seltener waren konzeptbasierte Methoden, die versuchen, Entscheidungen mithilfe von menschenverständlichen Ideen wie „Tumorgröße“ statt roher Datenpunkte zu erklären, was in nur 6 Prozent der Studien der Fall war. Der Review fand, dass das Feld stark zu den einfacheren Werkzeugen neigt, die Assoziationen erklären, was das Risiko birgt, dass Ärzte eine Korrelation mit einer Ursache verwechseln.
Der vielleicht frappierendste Befund betrifft die Frage, wie diese Erklärungen getestet werden. Wenn Forscher ein Modell bauen und es erklären, müssen sie prüfen, ob die Erklärung gut ist. Der Review ergab, dass 72 Prozent der Studien die Treue (Fidelity) prüften, was schlicht bedeutet, zu kontrollieren, ob die Erklärung mit dem übereinstimmt, was das Computermodell tatsächlich getan hat. Weitere 43 Prozent prüften die Stabilität (Stability), um sicherzustellen, dass die Erklärung nicht jedes Mal zufällig variiert, wenn das Modell läuft. Dies sind wichtige technische Prüfungen, aber sie beantworten nicht die wichtigste Frage: Ist die Erklärung richtig in Bezug auf die Ursache? Der Review fand, dass nur 9 Prozent der Studien jemals versucht haben zu validieren, ob die Erklärung tatsächlich eine wahre kausale Beziehung widerspiegelte. In den wenigen Fällen, in denen Forscher versuchten, die Kausalität zu prüfen, verließen sie sich meist darauf, menschliche Experten zu fragen, ob sich die Erklärung „plausibel anfühlt“, anstatt rigorose Tests einzusetzen, um sie zu beweisen.
Diese Lücke zwischen dem, was die Werkzeuge leisten und dem, was das Feld benötigt, ist signifikant. Der Autor weist darauf hin, dass die Verwendung eines Werkzeugs, das zur Erklärung von Assoziationen entwickelt wurde, um ein kausales Problem zu lösen, dem Vergleich mit einer Karte von Verkehrsmustern zur Planung einer Wanderroute gleicht; die Karte mag zeigen, wohin Autos fahren, aber sie wird Ihnen nicht sagen, welcher Pfad sicher zum Wandern ist. Der Review legt nahe, dass der aktuelle Ansatz methodisch fragmentiert ist, da Forscher leistungsstarke Erklärwerkzeuge auf Modelle anwenden, die niemals dafür gebaut wurden, Ursache und Wirkung zu verstehen. Das Paper kommt zu dem Schluss, dass für die Tatsache, dass Künstliche Intelligenz in der Medizin wirklich vertrauenswürdig sein soll, das Feld über das bloße Prüfen, ob eine Erklärung konsistent aussieht, hinausgehen muss. Es muss neue Wege entwickeln, um zu testen, ob eine Erklärung tatsächlich korrekt über die zugrunde liegende Biologie ist, indem bessere Benchmarks und klarere Annahmen darüber verwendet werden, wie Krankheiten funktionieren. Bis dahin bleibt das Versprechen einer KI, die wirklich erklären kann, warum ein Patient krank ist, außer Reichweite.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.