Beyond Predictive Fairness: Quantifying Attribution Consistency Across Demographic Groups in Diabetic Retinopathy Screening
Dieses Paper führt den Explanation Consistency Score (ECS) ein, um die Ähnlichkeit von Attributionskarten über demografische Gruppen hinweg beim Screening auf diabetische Retinopathie zu quantifizieren, wobei aufgezeigt wird, dass die visuelle Evidenz, die von Modellen verwendet wird, konsistent bleibt, während die Vorhersageleistung nach Ethnizität variiert, wodurch demonstriert wird, dass prädiktive Fairness und Erklärungskonsistenz komplementäre Dimensionen des Modellverhaltens sind.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der Welt der medizinischen Bildgebung sind Computer bemerkenswert geschickt darin geworden, Krankheiten auf Fotografien des menschlichen Körpers zu entdecken. Sie können Bilder der Retina scannen – der lichtempfindlichen Schicht an der Rückseite des Auges – und Anzeichen einer diabetischen Retinopathie identifizieren, einer Erkrankung, die bei unbehandelter Anwendung zur Erblindung führen kann. Damit diese Systeme in einem Krankenhaus vertrauenswürdig sind, müssen sie fair sein. Das bedeutet, dass sie für einen Patienten aus einem Hintergrund genauso gut funktionieren müssen wie für einen Patienten aus einem anderen. Traditionell haben Ärzte und Forscher die Fairness geprüft, indem sie auf das Endergebnis schauten: Hat der Computer die Diagnose richtig gestellt? Wenn er die Krankheit bei einer Gruppe von Menschen übersehen hat, sie aber bei einer anderen erkannt hat, ist das ein Problem. Doch die richtige Antwort zu erhalten, ist nur die halbe Wahrheit. Ein Computer könnte zu der richtigen Diagnose aus den falschen Gründen gekommen sein, indem er beispielsweise ein subtiles Artefakt im Bild bemerkt hat, das in einer bestimmten Gruppe häufiger vorkommt, anstatt die Krankheit selbst zu sehen. Um diesen Werkzeugen wirklich zu vertrauen, müssen wir nicht nur wissen, was sie entscheiden, sondern wie sie die Welt sehen.
Ein Forschungsteam der Universität Tübingen in Deutschland machte sich daran, diese tiefere Ebene des Verständnisses zu untersuchen. Sie stellten eine einfache, aber tiefgreifende Frage: Wenn ein Computer auf ein Augenbild blickt, um diabetische Retinopathie zu finden, konzentriert er sich dann unabhängig von der ethnischen Zugehörung auf dieselben Teile des Auges? Um die Antwort zu finden, wandten sie sich einer massiven Sammlung von Netzhautbildern aus dem EyePACS-Datensatz zu, der Fotografien von Patienten aus fünf großen ethnischen Hintergründen enthielt: lateinamerikanischer, afrikanischer, indischer, kaukasischer und asiatischer Herkunft. Sie trainierten ein Standard-Computervisionssystem, um zwischen gesunden Augen und solchen, die frühe Anzeichen der Krankheit zeigen, zu unterscheiden. Sobald das System bereit war, prüften die Forscher nicht nur, ob es richtig oder falsch lag; sie baten das System, seinen Rechenweg offenzulegen. Mit einer Technik, die die spezifischen Bereiche eines Bildes hervorhebt, die die Entscheidung beeinflusst haben, erstellten sie visuelle Karten, die genau zeigten, wohin der Computer blickte.
Die Forscher entwickelten daraufhin eine neue Methode, um zu messen, wie ähnlich sich diese visuellen Karten über verschiedene Gruppen hinweg waren. Sie verglichen die durchschnittlichen Aufmerksamkeitsmuster des Computers für jede Ethnie, um zu sehen, ob sich der Fokus je nach Patient verschob. Sie fanden eine frappierende Diskrepanz zwischen Leistung und Aufmerksamkeit. Die Fähigkeit des Computers, die Krankheit korrekt zu identifizieren, variierte signifikant zwischen den Gruppen. Beispielsweise war der Computer wesentlich besser darin, die Krankheit bei Patienten indischer Herkunft zu erkennen, mit einem AUC von 0,83, im Vergleich zu einem AUC von 0,54 bei kaukasischen Patienten. Dies ist eine erhebliche Lücke in der prädiktiven Fairness. Doch als die Forscher die visuellen Karten betrachteten, änderte sich die Geschichte völlig. Der Computer blickte für jede Gruppe auf dieselben Stellen der Retina. Ob der Patient indischer, afrikanischer oder kaukasischer Abstammung war, das System konzentrierte sich konsistent auf dieselben retinalen Merkmale, um seine Entscheidung zu treffen. Die Ähnlichkeit dieser visuellen Muster war extrem hoch, mit Konsistenzwerten zwischen 0,85 und 0,92 auf einer Skala, bei der der Wert eins eine perfekte Übereinstimmung darstellt.
Um sicherzustellen, dass diese Ergebnisse nicht einfach darauf zurückzuführen waren, dass einige Gruppen schwerere Krankheitsverläufe hatten als andere, wiederholten die Forscher die Analyse, indem sie die Patienten strikt nach dem Schweregrad ihrer Erkrankung gruppierten. Selbst wenn sie Patienten mit exakt demselben Krankheitsstadium verglichen, blickte der Computer weiterhin auf dieselben Regionen für alle Beteiligten. Die Konsistenz blieb hoch, was darauf hindeutet, dass der Unterschied in der Leistung nicht dadurch verursacht wurde, dass der Computer eine andere Logik oder andere Hinweise für verschiedene Menschen verwendete. Stattdessen schien der Computer dieselbe visuelle Argumentation auf alle Patienten anzuwenden, auch wenn er diese Argumentation bei bestimmten Gruppen weniger erfolgreich anwandte.
Diese Entdeckung legt nahe, dass die zwei Hauptwege, auf denen wir Fairness in der künstlichen Intelligen Intelligenz üblicherweise beurteilen, tatsächlich unterschiedliche Dinge messen. Ein System kann in der Art und Weise, wie es denkt – also indem es für jeden die gleichen medizinischen Beweise fokussiert –, fair sein, während es gleichzeitig in seinen Ergebnissen unfair ist, indem es bestimmte Gruppen öfter nicht diagnostiziert als andere. Die Forscher fanden keinen starken Zusammenhang zwischen der Leistungsfähigkeit des Computers und der Konsistenz, mit der er die Bilder betrachtete. Das bedeutet, dass die bloße Verbesserung der Genauigkeit eines Modells für eine Gruppe nicht automatisch die Art und Weise korrigieren wird, wie es die Welt sieht, und umgekehrt ein Modell, das die richtigen Dinge ansieht, dennoch Schwierigkeiten haben kann, für alle die richtigen Antworten zu geben. Die Studie kommt zu dem Schluss, dass wir, um wirklich vertrauenswürdige medizinische KI aufzubauen, über das bloße Endergebnis hinausblicken müssen. Wir müssen die Logik hinter der Entscheidung verstehen und sicherstellen, dass der Computer die Krankheit nicht nur korrekt errät, sondern sie für jeden einzelnen Patienten auf die gleiche Weise sieht.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.