FRAME: separating sampling variation from representational cause in medical imaging fairness
Dieses Paper führt FRAME ein, ein zweistufiges Framework, das zwischen Stichprobenvariation und echtem repräsentativen Bias bei der Fairness medizinischer Bildgebung unterscheidet, indem es eine Referenz für ein faires Modell etabliert und verbleibende Differenzen testet, wodurch aufgedeckt wird, dass ein signifikanter Teil der berichteten Subgruppen-Disparitäten auf statistisches Rauschen statt auf Modellmechanismen zurückzuführen ist.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die medizinische Bildgebung ist ein Bereich, in dem künstliche Intelligenz begonnen hat, Röntgenbilder, Hautfotografien und Netzhautscans mit bemerkenswerter Geschwindigkeit zu analysieren und dabei oft Krankheiten erkennt, die dem menschlichen Auge entgehen könnten. Dennoch arbeiten diese Systeme nicht immer für jeden Menschen gleichermaßen gleich gut. Wenn ein Computerprogramm an verschiedenen Patientengruppen getestet wird, macht es manchmal bei einer Gruppe mehr Fehler als bei einer anderen. Beispielsweise könnte ein System bei der Diagnose von Herzerkrankungen bei schwarzen Patienten etwas weniger genau sein als bei weißen Patienten oder bei Frauen im Vergleich zu Männern. Diese Inkonsistenz ist ein ernstes Problem. Wenn ein medizinisches Werkzeug für manche Menschen besser funktioniert als für andere, besteht das Risiko, dass bestehende gesundheitliche Ungleichheiten vertieft werden. Die Standardreaktion in diesem Fachbereich bestand bisher darin, davon auszugehen, dass der Computer das Geschlecht oder das Alter eines Patienten aus dem Bild „lernt“ und diese Informationen nutzt, um voreingenommene Entscheidungen zu treffen. Folglich haben Forscher jahrelang versucht, Modelle zu entwickeln, die diese demografischen Details „vergessen“, in der Hoffnung, dass das Löschen dieser Informationen das System automatisch fair machen würde.
Ein Team von Forschern hat diese Annahme nun mit einem neuen Ansatz namens FRAME infrage gestellt. Anstatt dem Modell sofort eine Voreingenommenheit vorzuwerfen, stellten sie eine einfachere, grundlegendere Frage: Wie viel des beobachteten Unterschieds ist tatsächlich nur ein mathematisches Ergebnis der Anzahl der Patienten in jeder Gruppe? Wenn eine Studie eine große Gruppe von Patienten mit einer sehr kleinen Gruppe vergleicht, liefert die kleine Gruppe aufgrund der geringeren Anzahl an Datenpunkten zur Glättung der Zufälligkeit naturgemäß unbeständigere Ergebnisse. Die Forscher erkannten, dass dieses statistische Rauschen, bekannt als Stichprobenvariation, die Illusion von Unfairness erzeugt, selbst wenn das Modell vollkommen fair ist. Um dies zu testen, entwickelten sie ein Framework, das zuerst berechnet, wie groß der Unterschied sein müsste, wenn das Modell vollkommen fair wäre, unter Berücksaden der exakten Gruppengrößen, die untersucht werden. Dies schafft eine „Referenz für ein faires Modell“, eine Baseline, die die natürlichen Schwankungen kleiner Stichproben berücksichtigt. Nur wenn der tatsächliche Unterschied größer als diese Baseline ist, betrachten die Forscher ihn als ein echtes Problem, das behoben werden muss.
Das Team wandte dieses Framework auf einen riesigen Datensatz von über 700.000 medizinischen Bildern an, darunter Thorax-Röntgenaufnahmen, Hautfotografien und Augen-Scans, die tausende Patienten über mehrere Krankenhäuser hinweg abdeckten. Sie testeten Dutzende verschiedener KI-Modelle und untersuchten deren Leistung über verschiedene Gruppen hinweg, die nach Hautfarbe, Alter und Geschlecht definiert waren. Die Ergebnisse waren frappierend. Als sie die berichteten Unterschiede mit ihrer Referenz für ein faires Modell verglichen, stellten sie fest, dass die natürliche Variation der Gruppengrößen einen großen Teil des Problems erklärte. Für die Unterschiede beim Hautkolorit bei Thorax-Röntgenaufnahmen erklärte die Referenz für ein faires Modell einen Median von 41 % der berichteten Lücke. Für Altersunterschiede erklärte sie 22 %. In vielen Fällen war der von den Forschern beobachtete Unterschied nicht größer als das, was man allein durch Zufall erwarten würde, selbst wenn das Modell alle Menschen exakt gleich behandeln würde. Dies deutet darauf hin, dass viele Studien, die behaupten, Voreingenommenheit gefunden zu haben, in Wirklichkeit eher statistisches Rauschen als einen Fehler in der Logik der KI messen.
Die Forscher gingen dann den nächsten Schritt, um zu sehen, ob die verbleibenden Unterschiede wirklich dadurch verursacht wurden, dass das Modell etwas über Hautfarbe oder Alter „weiß“. Sie verwendeten eine Methode, bei der sie dem internen Gedächtnis des Modells künstlich demografische Informationen einspeisten, um zu sehen, ob dies die Ergebnisse verändern würde. Sie fanden heraus, dass allein die Verbesserung der Fähigkeit des Modells, Hautfarben zu erkennen, die Leistungsdifferenz nicht veränderte. Wenn sie jedoch die Krankheitsmuster künstlich mit den demografischen Gruppen verknüpften, vergrößerte sich die Lücke signifikant. Dies deutet darauf hin, dass das Problem nicht darin besteht, dass das Modell die Hautfarbe als Abkürzung nutzt, sondern dass die Krankheit selbst möglicherweise anders aussieht oder in bestimmten Gruppen schwerer zu erkennen ist, was auf Faktoren außerhalb der Kontrolle des Modells zurückzuführen ist. Darüber hinaus testeten sie neun verschiedene Methoden, die üblicherweise verwendet werden, um solche Bias zu korrigieren, wie etwa das Nachtrainieren des Modells oder die Anpassung seiner Scores. Sie fanden heraus, dass diese Interventionen die Ergebnisse nur minimal veränderten, oft weniger als die Änderung, die durch das bloße Ausführen desselben Modells mit einem anderen zufälligen Startwert entstehen würde. Tatsächlich war der effektivste Weg, die Leistung des Systems für die am schlechtesten gestellte Gruppe zu verbessern, nicht das Entfernen demografischer Daten, sondern das Training des Modells unter Verwendung einer Kombination aus Bildern und Textbeschreibungen, was die Leistung für die am meisten benachteiligte Gruppe um etwa 0,05 steigerte.
Die Studie kommt zu dem Schluss, dass das Fachgebiet auf die falschen Zahlen schaut. Indem Forscher den rohen Unterschied zwischen Gruppen als Beweis für Voreingenommenheit behandeln, zählen sie statistisches Rauschen als Versagen der Technologie. Das FRAME-Framework bietet einen Weg, diese beiden zu trennen. Es zeigt, dass die berichtete Unfairness in vielen Fällen mit dem konsistent ist, was ein vollkommen faires Modell angesichts der geringen Anzahl von Patienten in bestimmten Gruppen produzieren würde. Dies bedeutet nicht, dass Voreingenommenheit nicht existiert, aber es legt nahe, dass wir größere, vielfältigere Datensätze benötigen, um die realen Probleme klar zu sehen. Bis dahin könnten viele der „Lösungen“, die bei medizinischer KI angewendet werden, ein Phantomproblem adressieren, während der eigentliche Weg zur Fairness im Sammeln von mehr Daten und dem Verständnis der biologischen und sozialen Gründe liegt, warum Krankheiten in verschiedenen Populationen unterschiedlich auftreten. Die Forscher argumentieren, dass wir, bevor wir versuchen, das Modell zu ändern, zuerst die Kohorte verstehen müssen, die wir testen, um sicherzustellen, dass wir reale Probleme lösen und nicht bloß mathematischen Geistern nachjagen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.