🤖 AI

FairSHAP: Preprocessing for Fairness Through Attribution-Based Data Augmentation

Der Artikel stellt FairSHAP vor, ein transparentes Vorverarbeitungsframework, das Shapley-Werte nutzt, um diskriminierende Instanzen in Trainingsdaten zu identifizieren und durch gruppenübergreifendes Matching gezielt zu modifizieren, wodurch sowohl die individuelle als auch die gruppenbezogene Fairness verbessert werden, ohne die Datenintegrität oder die Modellgenauigkeit zu beeinträchtigen.

Ursprüngliche Autoren: Lin Zhu, Yijun Bian, Lei You

Veröffentlicht 2026-02-24

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Lin Zhu, Yijun Bian, Lei You

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

FairSHAP: Der faire Koch für KI-Modelle

Stell dir vor, du bist ein Koch, der für ein Restaurant (das ist deine Künstliche Intelligenz) neue Rezepte entwickelt. Deine Aufgabe ist es, Gerichte zuzubereiten, die für alle Gäste schmecken – egal ob sie jung oder alt, reich oder arm sind.

Das Problem: Das Restaurant hat in der Vergangenheit oft Gerichte serviert, die für bestimmte Gruppen (z. B. Frauen oder Minderheiten) weniger gut waren. Vielleicht lag es daran, dass die Zutatenliste (die Daten) verzerrt war oder der Koch unbewusst bestimmte Vorurteile hatte.

Bisherige Methoden, um das zu beheben, waren oft wie ein Bumerang:

Man warf einfach alle Zutaten weg, die verdächtig aussahen (zu viel Datenverlust).
Oder man mischte alles wild durcheinander, bis es „neutral" aussah, aber der Geschmack (die Genauigkeit) litt darunter.
Oder man versuchte, das Gericht erst nach dem Servieren zu korrigieren (zu spät).

FairSHAP ist eine neue, clevere Methode, die vor dem Kochen ansetzt. Sie funktioniert wie ein Super-Schnüffler, der genau erkennt, welche Zutaten das Gericht unfair machen, und diese dann geschickt austauscht.

Wie funktioniert FairSHAP? (Die 3 Schritte)

1. Der „Super-Schnüffler" (Shapley-Werte)

Stell dir vor, du hast ein Gericht, das für Männer lecker ist, aber für Frauen fade schmeckt. Warum?
FairSHAP nutzt eine mathematische Methode namens Shapley-Werte (erfunden von einem Wirtschaftswissenschaftler namens Shapley). Das ist wie ein Detektiv, der sich jedes einzelne Gericht genau ansieht und sagt:

„Aha! Das Salz macht das Gericht für Frauen ungenießbar."
„Nein, das Pfeffer war es nicht."
„Es ist wirklich nur das Salz, das den Unterschied ausmacht."

In der KI-Sprache heißt das: FairSHAP schaut sich jeden einzelnen Datensatz an und berechnet, welche Eigenschaften (z. B. Einkommen, Wohnort) am meisten dazu beigetragen haben, dass die KI eine unfaire Entscheidung trifft.

2. Das „Spiegelbild" (Matching)

Jetzt kommt der zweite Trick. FairSHAP sucht für jede Person aus einer benachteiligten Gruppe (z. B. eine Frau) eine Spiegelbild-Person aus der privilegierten Gruppe (z. B. einen Mann), die in allem fast identisch ist (gleicher Job, gleiches Alter, gleicher Wohnort), außer bei dem einen kritischen Faktor (dem Geschlecht).

Es ist, als würdest du zwei fast identische Autos vergleichen: Das eine ist rot, das andere blau. Wenn das rote Auto schneller ist, liegt es nicht an der Farbe, sondern vielleicht am Motor. FairSHAP vergleicht die „Motoren" (die Daten) der beiden Gruppen, um zu sehen, wo der Unterschied liegt.

3. Der „Zutatentausch" (Data Augmentation)

Sobald der Detektiv (Shapley) weiß, welche Zutat (z. B. das „Salz") unfair ist, und das Spiegelbild gefunden hat, macht FairSHAP etwas Magisches:
Es tauscht die verdächtige Zutat in der Datenliste der benachteiligten Gruppe gegen die Zutat aus dem Spiegelbild der privilegierten Gruppe.

Wichtig: Es wird nicht alles geändert! Nur die wenigen Zutaten, die wirklich das Problem verursachen.
Das Ergebnis: Die Daten bleiben fast so, wie sie waren (die „Geschmacksnote" oder Genauigkeit bleibt erhalten), aber die Ungerechtigkeit verschwindet.

Warum ist das so toll? (Die Vorteile)

Kein Blindflug: Früher haben viele Methoden einfach geraten, was sie ändern müssen. FairSHAP sagt dir genau: „Ändere dieses Merkmal bei dieser Person." Das ist wie ein Chirurg, der nur den entzündeten Bereich entfernt, statt das ganze Organ zu entfernen.
Fairness für jeden Einzelnen: Viele Methoden sorgen nur dafür, dass die Durchschnittswerte für Gruppen fair sind (z. B. „50% Männer und 50% Frauen bekommen den Job"). FairSHAP sorgt aber dafür, dass auch jeder einzelne Mensch fair behandelt wird. Wenn zwei Menschen fast identisch sind, sollen sie auch fast identische Chancen haben.
Der Geschmack bleibt: Da FairSHAP nur minimale Änderungen vornimmt, wird die KI nicht „dumm". Sie bleibt genau und zuverlässig, wird aber fairer.

Zusammenfassung in einem Satz

FairSHAP ist wie ein geschickter Koch, der mit einer Lupe (Shapley-Werte) genau die eine Zutat findet, die das Gericht unfair macht, sie durch eine bessere Zutat aus einem ähnlichen Rezept ersetzt und so ein Gericht serviert, das für alle Gäste gleichermaßen lecker und gerecht ist.

Das Paper zeigt, dass diese Methode auf vielen verschiedenen Daten (von Kreditanträgen bis zu Jobbewerbungen) funktioniert und dabei oft sogar bessere Ergebnisse liefert als die alten Methoden, ohne die Daten zu zerstören.

1. Problemstellung

Maschinelles Lernen (ML) wird zunehmend in hochriskanten Bereichen wie Gesundheitswesen, Finanzen und Justiz eingesetzt. Ein zentrales Problem ist die Verzerrung (Bias) in Modellen, die zu unfairen Entscheidungen führen kann. Bestehende Ansätze zur Fairness-Minderung lassen sich in drei Kategorien einteilen: Preprocessing (Vorverarbeitung), In-Processing (während des Trainings) und Post-Processing (nach dem Training).

Die Autoren identifizieren zwei wesentliche Lücken in der aktuellen Forschung:

Mangelnde Transparenz: Viele Preprocessing-Methoden modifizieren Daten, ohne transparent zu machen, welche Merkmale für die Ungerechtigkeit verantwortlich sind. Dies führt zu einer „Black Box" bei den Datenänderungen und birgt das Risiko von „Fairwashing" (das Vortäuschen von Fairness durch irreführende Erklärungen).
Fokus auf Gruppenfairness: Die meisten Methoden optimieren nur für Gruppenmetriken (z. B. Demografische Parität), vernachlässigen dabei aber individuelle Fairness und die Wechselwirkungen zwischen Merkmalen. Es fehlt ein Ansatz, der individuelle Verzerrungen direkt adressiert, um gleichzeitig auch die Gruppenfairness zu verbessern.

2. Methodik: FairSHAP

FairSHAP ist ein neues Preprocessing-Framework, das Shapley-Werte (aus der kooperativen Spieltheorie) nutzt, um Fairness durch datengetriebene Augmentierung zu verbessern. Der Ansatz ist modellagnostisch, aber algorithm-adaptiv (passt sich den Eigenschaften des Modells an).

Der Kernprozess besteht aus zwei Schritten:

Identifikation fairheitskritischer Instanzen:
- Der Trainingsdatensatz wird basierend auf dem sensiblen Attribut (z. B. Geschlecht, Ethnie) in privilegierte und nicht-privilegierte Gruppen unterteilt.
- Mithilfe von Nearest-Neighbor-Matching (oder Optimal Transport) werden Instanzen aus beiden Gruppen gepaart, die sich in ihren nicht-sensiblen Merkmalen ähneln.
- Für jede Instanz werden Shapley-Werte berechnet. Diese quantifizieren den Beitrag jedes Merkmals zur Vorhersage des Modells.
- Ein Schwellenwert $T$ (standardmäßig 0,05) definiert, welche Merkmale als „fairheitskritisch" gelten (d. h., deren Shapley-Wert einen signifikanten Einfluss auf die Diskriminierung hat).
Gezielte Datenmodifikation (Augmentation):
- Für Instanzen, deren Shapley-Werte den Schwellenwert überschreiten, werden die entsprechenden Merkmalswerte durch die Werte der gepaarten Referenzinstanz aus der anderen Gruppe ersetzt.
- Dieser Prozess erfolgt bidirektional: Beide Gruppen dienen jeweils als Referenz für die andere, um eine ausgewogene Anpassung zu gewährleisten.
- Das Ergebnis ist ein modifizierter Trainingsdatensatz, der weniger verzerrt ist, aber die Datenintegrität (Fidelity) weitgehend bewahrt.

Theoretische Fundierung:
Das Paper liefert theoretische Garantien, dass die Reduktion des Diskriminierungsrisikos (DR) – ein Maß für individuelle Fairness – durch den Austausch dieser Merkmale gewährleistet ist.

Theorem 3.1: Zeigt, dass die DR nach der Modifikation um die Summe der Shapley-Werte der getauschten Merkmale sinkt (bis auf einen Interaktions-Residualterm).
Proposition 3.2: Beweist, dass dieser Residualterm bei lokaler Nachbarschafts-Matching (kleiner Abstand zwischen gepaarten Instanzen) von zweiter Ordnung ist und somit vernachlässigbar klein wird.
Theorem 3.3 & 3.4: Zeigen, dass eine Reduktion der individuellen Fairness (DR) theoretisch auch zu einer Verringerung der Gruppen-Fairness-Metriken (wie Demografische Parität DP) führt.

3. Wichtige Beiträge

Neuer Framework: Einführung von FairSHAP, das Shapley-Werte nutzt, um gezielt und interpretierbar Daten zu augmentieren.
Individuelle und Gruppenfairness: Der Ansatz adressiert primär individuelle Fairness (DR), was sich theoretisch und empirisch positiv auf Gruppenmetriken (DP, EO) auswirkt.
Minimale Eingriffe: Im Gegensatz zu Methoden, die große Teile der Daten neu projizieren (wie Correlation Remover), verändert FairSHAP nur spezifische, kritische Merkmale, was die Datenintegrität erhält.
Transparenz: Da Shapley-Werte verwendet werden, ist genau nachvollziehbar, welche Merkmale geändert wurden und warum.
Modellagnostisch: Die Methode kann in bestehende ML-Pipelines integriert werden, ohne das Modellarchitektur zu ändern.

4. Ergebnisse

Die Autoren evaluierten FairSHAP auf fünf tabellarischen Datensätzen (German Credit, COMPAS, Adult, Census Income KDD, Default Credit) und verglichen es mit Baselines (RSA, DIR, CR) und Ablationsstudien.

Fairness-Verbesserung: FairSHAP reduzierte das Diskriminierungsrisiko (DR) signifikant (bis zu 80% bei German Credit, ~40% bei COMPAS). Auch die Gruppenmetriken DP (Demografische Parität) und EO (Gleichheit der Chancen) wurden verbessert.
Datenintegrität: Die Methode führte zu minimalen Änderungen im Datensatz (Training Adjustment Rate oft < 2%), was durch eine sehr niedrige Wasserstein-Distanz (Data Fidelity) belegt wird. Im Vergleich dazu änderten Methoden wie Correlation Remover oft >95% der Daten.
Genauigkeit (Accuracy): In den meisten Fällen blieb die Vorhersagegenauigkeit erhalten oder verbesserte sich sogar leicht. Es gab keine signifikanten Einbußen.
Vergleich mit SOTA: FairSHAP schnitt in den meisten Metriken besser ab als etablierte Preprocessing-Methoden wie DIR (Disparate Impact Remover) oder CR (Correlation Remover), insbesondere im Hinblick auf den Trade-off zwischen Fairness und Datenintegrität.
Robustheit: Die Ergebnisse waren stabil über verschiedene Modelle (XGBoost, SVM, TabPFN) und verschiedene Shapley-Schätzer (Kernel, Sampling, Permutation) hinweg.

5. Bedeutung und Ausblick

FairSHAP stellt einen wichtigen Schritt hin zu verantwortungsvoller KI dar, indem es Fairness und Interpretierbarkeit eng verknüpft.

Praxisrelevanz: Da es sich um eine Preprocessing-Methode handelt, ist sie einfach in bestehende Workflows integrierbar und erfordert keine Änderungen am Trainingsalgorithmus selbst.
Erklärbarkeit: Sie liefert „actionable insights" (handlungsrelevante Erkenntnisse) über die Quellen von Bias, was für Audits und regulatorische Anforderungen entscheidend ist.
Zukünftige Arbeiten: Die Autoren planen, effizientere Matching-Methoden zu erforschen und die Rechenkomplexität durch schnellere Shapley-Schätzverfahren zu reduzieren, um die Skalierbarkeit für sehr große Datensätze zu erhöhen.

Zusammenfassend bietet FairSHAP einen transparenten, theoretisch fundierten und empirisch erfolgreichen Weg, um Bias in ML-Daten auf individueller Ebene zu adressieren und dadurch systematisch die Fairness auf Gruppenlevel zu verbessern, ohne dabei die Qualität der Daten oder die Modellleistung zu opfern.