🤖 machine learning

FairSAM: Fair Classification on Corrupted Image Data Through Sharpness-Aware Minimization

Das Paper stellt FairSAM vor, ein Framework, das fairnessorientierte Strategien in die Sharpness-Aware Minimization integriert, um Robustheit und Fairness über demografische Subgruppen hinweg bei der Klassifizierung korrumpierter Bilddaten effektiv auszubalancieren.

Ursprüngliche Autoren: Yucong Dai, Jie Ji, Xiaolong Ma, Yongkai Wu

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yucong Dai, Jie Ji, Xiaolong Ma, Yongkai Wu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen sehr intelligenten Roboter gebaut, der exzellent darin ist, Menschen auf Fotos zu identifizieren. Sie haben ihn in einem perfekten, sauberen Studio mit perfekter Beleuchtung trainiert. Doch in der realen Welt sind Fotos selten perfekt. Sie könnten verschwommen sein, mit Schnee bedeckt, körnig durch statisches Rauschen oder durch eine zittrige Hand aufgenommen worden sein.

Wenn dieser Roboter diese „korrumpierten“ Fotos sieht, wird er nicht nur ein wenig schlechter; er wird verwirrt. Und hier ist der beängstigende Teil: Er wird je nach Person im Foto unterschiedlich verwirrt.

Ein Beispiel: Der Roboter erkennt einen jungen Mann in einem verschneiten Foto vielleicht immer noch fast perfekt, aber er scheitert bei einer älteren Frau im selben verschneiten Foto möglicherweise völlig. Dies schafft eine unfaire Situation, in der der Roboter für einige Gruppen hervorragend funktioniert, aber für andere versagt, was bestehende Vorurteile verstärkt.

Dieses Paper mit dem Titel FairSAM stellt eine neue Methode vor, um diese Roboter so zu trainieren, dass sie nicht nur „widerstandsfähiger“ gegen schlechte Fotos werden, sondern auch für alle gleichermaßen widerstandsfähig.

Das Problem: Der „Einheits-Schild“ funktioniert nicht

Die Autoren erklären, dass bisherige Methoden versuchten, Roboter gegen schlechte Fotos „robust“ (stark) zu machen, indem sie eine Technik namens SAM (Sharpness-Aware Minimization) einsetzten.

Die Analogie: Stellen Sie sich SAM wie einen Schüler vor, der lernt, in einer lauten Bibliothek zu lernen. Es hilft dem Schüler, das Rauschen zu ignorieren und eine gute Note zu bekommen.
Der Fehler: Während die durchschnittliche Note des Schülers steigt, prüft die Methode nicht, ob der Schüler seinen Lernpartnern gegenüber gleichermaßen hilft. In der realen Welt bedeutet dies, dass der Roboter insgesamt besser wird, aber die „benachteiligten“ Gruppen (wie ältere Menschen oder bestimmte Geschlechter) unter schlechten Fotos immer noch viel mehr leiden als die „privilegierten“ Gruppen. Der Roboter wird robust, aber nicht fair.

Die Lösung: FairSAM (Der Fairness-bewusste Schild)

Die Autoren schlagen FairSAM vor, eine neue Trainingsmethode, die die „Rauschbekämpfungs-Kraft“ von SAM mit einer Fairness-Regel kombiniert.

Stellen Sie es sich wie einen Trainer vor, der ein Sportteam für ein Spiel im Regen trainiert.

Alte Methode (SAM): Der Trainer trainiert das gesamte Team darauf, durch den Regen zu laufen. Das Team wird insgesamt schneller. Aber der Trainer bemerkt nicht, dass die kleineren Spieler viel öfter ausrutschen und hinfallen als die großen Spieler.
FairSAM: Der Trainer erkennt, dass die kleineren Spieler mehr Schwierigkeiten haben. Also passt er das Training an. Er widmet den kleineren Spielern zusätzliche Aufmerksamkeit und spezifische Übungen, während er gleichzeitig das gesamte Team trainiert. Er stellt sicher, dass, wenn der Regen einsett, niemand signifikant mehr ausrutscht als alle anderen.

Wie es funktioniert (Die Mechanik in einfachem Deutsch)

Das Paper führt eine neue Art der Messung des Problems ein, die „Corrupted Degradation Disparity“ (Disparität der korrumpierten Verschlechterung) genannt wird.

Die Metrik: Anstatt nur zu fragen: „Wie viele Fotos hat der Roboter richtig erkannt?“, fragen sie: „Um wie viel stärker ist die Leistung des Roboters für Gruppe A im Vergleich zu Gruppe B gesunken?“
Das Ziel: Sie wollen, dass der Leistungsabfall für alle gleich ist. Wenn die Leistung des Roboters bei Gruppe A um 10 % sinkt, sollte sie auch bei Gruppe B nur um 10 % sinken.

Um dies zu erreichen, tut FairSAM zwei Hauptdinge:

Gewichtung der Schwierigkeiten: Während des Trainings schenkt es den „schwierigeren“ Beispielen und den Gruppen, die normalerweise zurückgelassen werden, besondere Aufmerksamkeit. Es ist wie bei einem Test, bei dem den Schülern, die am meisten kämpfen, zusätzliche Punkte gegeben werden, damit der Lehrer sich auf deren spezifische Schwächen konzentrieren kann.
Batch-Verarbeitung: Dies geschieht effizient. Anstatt jedes einzelne Foto einzeln zu prüfen (was ewig dauern würde), prüft es Gruppen von Fotos gleichzeitig und berechnet das „Rauschen“ für die gesamte Gruppe, um das Training schnell zu halten.

Was sie herausgefunden haben

Die Forscher testeten dies an realen Foto-Datensätzen (wie Promi-Gesichtern und medizinischen Röntgenbildern) mit verschiedenen Arten von „Rauschen“ (Schnee, Unschärfe, statisches Rauschen).

Das Ergebnis: FairSAM machte den Roboter nicht nur stärker, sondern verteilte die Stärke gleichmäßig.
Der Trade-off: Normalerweise macht die Erhöhung der Fairness eines Systems es insgesamt etwas weniger genau. FairSAM gelang es jedoch, die Gesamtgenauigkeit hoch zu halten, während es die Kluft zwischen der Leistung für verschiedene Gruppen drastisch reduzierte.
Der Beweis: In ihren Tests wies FairSAM im Vergleich zu allen anderen Methoden den niedrigsten „Unfairness-Score“ (Corrupted Degradation Disparity) auf, was bedeutet, dass die Leistung des Roboters bei schlechten Fotos für alle gleichermaßen sank.

Das Fazame Fazit

Das Paper argumentiert, dass wir in der realen Welt, in der Daten oft chaotisch sind, nicht einfach nur „starke“ KI bauen können. Wir müssen KI bauen, die für alle stark ist. FairSAM ist ein Werkzeug, das sicherstellt, dass, wenn das „Wetter“ schlecht wird (die Daten korrumpiert werden), die KI bestimmte Gruppen nicht in der Kälte zurücklässt. Es bringt die Waagschalen ins Gleichgewicht, sodass Robustheit und Fairness Hand in Hand gehen.

Technisches Resümee: FairSAM: Faire Klassifizierung auf korrumpierten Bilddaten durch Sharpness-Aware Minimization

Problemstellung

Tiefe neuronale Netze, die auf sauberen Daten trainiert wurden, leiden oft unter einem scharfen Leistungsabfall, wenn sie auf korrumpierten Testdaten eingesetzt werden (z. B. Bilder, die durch Impulsrauschen, Gauß-Rauschen, Witterungseffekte oder Bewegungsunschärfe beeinträchtigt sind). Jüngste Erkenntnisse zeigen, dass dieser Leistungsabfall nicht gleichmäßig erfolgt; er betrifft bestimmte demografische Untergruppen unverhältnismäßig stark, wodurch algorithmische Voreingenommenheit (Bias) verstärkt wird. Während bestehende robuste Lernmethoden wie Sharpness-Aware Minimization (SAM) die allgemeine Generalisierung und Resilienz gegenüber Rauschen verbessern, versagen sie dabei, die ungleiche Verteilung des Leistungsabfalls über demografische Gruppen hinweg zu adressieren. Umgekehrt haben Standardmethoden zur Gewährleistung von Fairness oft Schwierigkeiten, unter Datenkorruption robust zu bleiben. Dies erzeugt ein inhärentes Spannungsverhältnis zwischen der Erzielung von Robustheit und der Gewährleistung von Fairness in korrumpierten Umgebungen.

Methodik: FairSAM

Um dieses Spannungsverhältnis zu adressen, schlagen die Autoren FairSAM vor, ein Framework, das fairnessorientierte Strategien in den SAM-Optimierungsprozess integriert. Die Methodik besteht aus drei Kernkomponenten:

1. Neue Fairness-Metrik: Korrumpierte Degradationsdisparität ( $\Delta p$ )

Die Autoren formalisieren das Problem durch die Einführung einer Metrik, die speziell die Fairness hinsichtlich des Leistungsabfalls quantifiziert.

Korrumpierte Degradation ( $\Delta p_s$ ): Definiert als der absolute Unterschied in den Leistungsmetriken zwischen sauberen Trainingsdaten ( $D_T$ ) und korrumpierten Testdaten ( $D_C$ ) für eine spezifische demografische Untergruppe $s$ : $\Delta p_s = |M(D_T^{s}, f) - M(D_C^{s}, f)|$ .
Korrumpierte Degradationsdisparität ( $\Delta p$ ): Der absolute Unterschied in der Degradation zwischen der privilegierten ( $s^+$ ) und der benachteiligten ( $s^-$ ) Gruppe: $\Delta p = |\Delta p_{s^+} - \Delta p_{s^-}|$ .
Ein niedrigeres $\Delta p$ zeigt an, dass die Robustheit des Modells über die Untergruppen hinweg gerechter verteilt ist.

2. Instanz-reweighted SAM

Standard-SAM minimiert den maximalen Verlust innerhalb einer Nachbarschaft von Parametern, behandelt aber alle Stichproben gleich, was dazu führen kann, dass Mehrheitsgruppen die Optimierung dominieren. FairSAM führt einen Reweighting-Mechanismus ein, um die Gradientenbeiträge auszubalancieren:

Gruppenbeschränkungen: Die Methode beschränkt die Summe der Gewichte für Stichproben innerhalb jeder demografischen Gruppe auf eine Konstante $c$ , wodurch sichergestellt wird, dass jede Gruppe unabhängig von ihrer Größe gleichermaßen zum Ziel beiträgt.
Sharpness-basiertes Reweighting: Innerhalb jeder Gruppe erhalten Stichproben mit höherer pro-Instanz-Sharpness (größerer maximaler Verlust unter Störung) höhere Gewichte. Dies priorisiert "schwierigere" Beispiele innerhalb jeder Gruppe, während die Balance auf Gruppenebene gewahrt bleibt.

3. Effiziente Per-Batch-Perturbation

Um den Rechenaufwand für die Berechnung individueller adversarieller Perturbationen für jede Stichprobe zu vermeiden (was $N$ Vorwärtsläufe pro Batch erfordern würde), leitet FairSAM eine effiziente Approximation ab:

Es approximiert das gewichtete pro-Instanz-Ziel mittels einer Taylor-Entwicklung zweiter Ordnung.
Es konstruiert einen gewichteten Batch-Verlust $\ell_b(w) = \sum g_i \ell_i(w)$ , wobei die Gewichte $g_i$ sowohl Gruppenmitgliedschafts-Beschränkungen als auch Instanz-Sharpness berücksichtigen.
Eine einzige Per-Batch-Perturbation $\epsilon^*$ wird basierend auf dem Gradienten dieses gewichteten Batch-Verlusts berechnet, wodurch die Recheneffizienz von SAM beibehalten und gleichzeitig die Fairness-Beschränkungen durchgesetzt werden.

Zentrale Beiträge

Problemformulierung: Das Paper identifiziert und formalisiert die Herausforderung des "Robustheits-Bias" in der Bildklassifizierung unter Datenkorruption und hebt hervor, dass Standard-Robustheitsmethoden die Fairness-Disparitäten unbeabsichtigt verschlimmern können.
Vorschlag einer Metrik: Einführung der Korrumpierten Degradationsdisparität, um die Fairness des Leistungsabfalls über demografische Untergruppen hinweg zu bewerten, was sich von Einmal-Fairness-Konzepten unterscheidet.
Framework-Entwicklung: Vorschlag von FairSAM, dem ersten Framework, das Fairness-Strategien in SAM integriert. Es nutzt Instanz-Reweighting und Per-Batch-Perturbation, um gleichzeitig Robustheit und Fairness zu fördern.
Empirische Validierung: Umfassende Experimente zeigen, dass FairSAM im Vergleich zu Baselines wie Vanilla SAM, GroupSAM, FairReg und GroupDRO einen überlegenen Trade-off zwischen Genauigkeit und Fairness erzielt.

Experimentelle Ergebnisse

Die Autoren evaluierten FairSAM auf mehreren realen Datensätzen (CelebA, FairFace, LFW, CheXpert) unter verschiedenen Korruptionstypen (Schnee, Gauß-Rauschen, Unschärfe) und Schweregraden.

Leistung vs. Fairness Trade-off: Über imbalancierte (Celebä) und balancierte (FairFace) Datensätze hinweg erreichte FairSAM konsistent die niedrigste korrumpierte Degradationsdisparität ( $\Delta p$ ) unter allen Baselines, einschließlich Vanilla SAM, GroupSAM, FairReg und GroupDRO.
Genauigkeitserhaltung: Im Gegensatz zu einigen Fairness-Methoden, die die Gesamtgenauigkeit opfern, behielt FairSAM eine wettbewerbsfähige oder überlegene korrumpierte Genauigkeit bei. Beispielsweise erreichte FairSAM bei CelebA mit Gauß-Rauschen die höchste korrumpierte Genauigkeit (0,9291) bei gleichzeitiger Minimierung von $\Delta p$ (0,0073).
Robustheit gegenüber Asymmetrie: In Experimenten, in denen privilegierte Gruppen weniger starkem Rauschen ausgesetzt waren als benachteiligte Gruppen (asymmetrisches Rauschen), behielt FairSAM die niedrigste Degradationsdisparität über verschiedene Backbones (ResNet-18 und DINOv3) hinweg bei.
Out-of-Distribution (OOD) Generalisierung: Wenn Modelle auf einem Datensatz (z. B. CelebA) trainiert und auf einem anderen (z. B. LFW) getestet wurden, zeigte FairSAM das niedrigste $\Delta p$ , was auf eine bessere gerechte Generalisierung im Vergleich zu GroupSAM hindeutet, welches das Risiko barg, die privilegierte Gruppe in eine benachteiligte Position zu verschieben.
Hyperparameter-Sensitivität: Das Framework erwies sich als robust gegenüber Hyperparameter-Wahlen, wobei $\rho=0,05$ (Perturbationsradius) und $c=1$ (Gruppen-Gewicht-Budget) das beste Gleichgewicht lieferten.

Bedeutung und Ansprüche

Das Paper behauptet, dass FairSAM eine strukturierte Lösung für die faire und robuste Bildklassifizierung in Gegenwart von Datenkorruption bietet. Seine primäre Bedeutung liegt in der Adressierung eines kritischen blinden Flecks in der Robustheitsforschung: der Annahme, dass aggregierte Robustheitsverbesserungen allen Gruppen gleichermaßen zugutekommen.

Die Autoren argumentieren:

Robustheit und Fairness sind miteinander verknüpft; robuste Modelle weisen oft eine ungleiche Leistungsdegradation über demografische Gruppen hinweg auf, was gesellschaftliche Ungleichheiten perpetuieren kann, wenn dies nicht adressiert wird.
Fairness-bewusste Optimierung während des Trainings kann gerechte Ergebnisse erzielen, ohne die Gesamtgenauigkeit signifikant zu beeinträchtigen.
Die Vorteile dieses Ansatzes erstrecken sich über imbalancierte Datensätze hinaus auch auf balancierte Datensätze, was darauf hindeutet, dass Leistungsdisparitäten unter Korruption eher durch algorithmische Bias als durch reine Datenverteilungsprobleme getrieben werden.

Die Arbeit positioniert sich als Schritt hin zu einem sichereren KI-Einsatz in Hochrisiko-Anwendungen (z. B. Gesundheitswesen, Strafjustiz), in denen Systeme unter realen, verrauschten Bedingungen Fairness wahren müssen. Die Autoren räumen Einschränkungen ein, indem sie darauf hinweisen, dass der aktuelle Fokus auf binären sensitiven Attributen in der Bildklassifizierung liegt, und schlagen vor, dass zukünftige Arbeiten intersektionale Gruppen und andere Domänen untersuchen sollten.