Procedural Fairness in Machine Learning

Diese Arbeit definiert erstmals prozedurale Fairness für Machine-Learning-Modelle, schlägt eine neue Metrik ($GPF_{FAE}$) zur deren Messung vor und entwickelt Methoden zur Verbesserung sowohl der prozeduralen als auch der distributiven Fairness durch Identifikation und Anpassung unfairer Merkmale.

Das Wesentliche

Das große Problem: Nur das Ergebnis zählt?

Stellen Sie sich vor, Sie bewerben sich um einen Job. Zwei Bewerber haben fast identische Fähigkeiten. Der eine bekommt den Job, der andere nicht.

• Verteilungsgerechtigkeit (Distributive Fairness): Das ist das, worüber wir meistens reden. Es geht nur um das Ergebnis: „Wer hat den Job bekommen? Waren die Chancen fair verteilt?" Wenn beide gleich gut sind und einer den Job bekommt, ist das Ergebnis vielleicht unfair.
• Verfahrensgerechtigkeit (Procedural Fairness): Das ist das, was dieses Papier untersucht. Es geht nicht darum, wer den Job bekommt, sondern wie die Entscheidung getroffen wurde. Wurde der Lebenslauf fair gelesen? Wurden die gleichen Kriterien für beide angewendet? Oder hat der Computer bei Bewerber A auf das Alter geachtet, bei Bewerber B aber auf die Schulnoten?

Bisher haben Forscher fast nur auf das Ergebnis geschaut. Dieses Papier sagt: „Moment mal! Wenn der Prozess unfair ist, ist das Ergebnis auch nicht wirklich fair, auch wenn es zufällig gut aussieht."

Die neue Idee: Den „Gedanken" des Computers lesen

Das größte Problem bei KI ist, dass sie oft wie eine „Blackbox" funktioniert. Wir sehen den Input (die Bewerbung) und den Output (die Entscheidung), aber wir wissen nicht, warum die KI so entschieden hat.

Die Autoren des Papiers haben eine geniale Lösung gefunden: Sie nutzen eine Technik namens FAE (Feature Attribution Explanation).

• Die Analogie: Stellen Sie sich vor, die KI ist ein Richter. Normalerweise hören wir nur das Urteil. Mit FAE können wir aber den Richter fragen: „Warum haben Sie so entschieden?" Und der Richter zeigt uns eine Liste: „Ich habe zu 40 % auf das Alter geachtet, zu 30 % auf die Erfahrung und zu 30 % auf das Geschlecht."
• Die Forscher nutzen diese Liste, um zu prüfen, ob der Richter bei zwei ähnlichen Bewerbern (z. B. Mann und Frau) dieselbe Liste verwendet.
  • Wenn der Mann wegen „Erfahrung" abgelehnt wird, die Frau aber wegen „Geschlecht", dann ist das Verfahren unfair. Der Prozess war nicht konsistent.

Der neue Maßstab: GPFFAE

Die Autoren haben einen neuen Messstab erfunden, den sie GPFFAE nennen.

• Wie funktioniert er? Er vergleicht die „Gedankenlisten" (die FAE-Erklärungen) von ähnlichen Leuten aus zwei verschiedenen Gruppen.
• Das Ziel: Wenn die Listen sehr ähnlich sind, ist der Prozess fair. Wenn die Listen völlig unterschiedlich sind (z. B. bei Gruppe A zählt Feature X, bei Gruppe B zählt Feature Y), dann ist der Prozess unfair.
• Das Überraschende: Sie haben herausgefunden, dass ein Computer manchmal faire Ergebnisse liefern kann, aber einen völlig ungerechten Prozess haben (und umgekehrt). Ein Computer kann also „zufällig" gerecht sein, aber im Inneren unfair arbeiten. Das ist wie ein Schiedsrichter, der den falschen Pfiff gibt, aber zufällig die richtige Mannschaft pfeift – das ist trotzdem kein fairer Sport.

Die Lösung: Die „Bösen" Features finden und entfernen

Was tun, wenn man einen ungerechten Prozess gefunden hat? Die Autoren schlagen zwei Wege vor:

1. Der radikale Weg (Neu trainieren):
   Man sucht heraus, welche Merkmale (Features) die KI unfair behandelt (z. B. „Geschlecht" oder „Wohnort"). Man entfernt diese Merkmale komplett aus den Daten und lässt die KI neu lernen.

   • Vorteil: Sehr effektiv, die KI vergisst die Vorurteile.
   • Nachteil: Die KI muss komplett neu lernen, wie ein Schüler, der die ganze Schule wechseln muss. Das kostet Zeit und die KI wird vielleicht etwas weniger schlau.

2. Der sanfte Weg (Anpassen):
   Man nimmt die bereits trainierte KI und „zupft" sie ein wenig. Man sagt ihr: „Hey, du darfst auf das Merkmal X nicht mehr so stark achten." Man ändert die KI also nur leicht, ohne sie komplett neu zu erfinden.

   • Vorteil: Die KI behält ihr ursprüngliches Wissen bei (sie ist „treuer" zum Original).
   • Nachteil: Man muss vorsichtig sein, damit die KI nicht zu sehr an Leistung verliert.

Das Fazit

Die Forscher haben bewiesen, dass man mit ihrer Methode genau herausfinden kann, warum eine KI unfair entscheidet. Und wenn man die Ursache findet, kann man die KI reparieren.

Die große Erkenntnis:
Man kann KI fairer machen, indem man nicht nur auf das Endergebnis schaut, sondern sicherstellt, dass der Weg zur Entscheidung für alle gleich ist. Es ist wie bei einem Spiel: Es reicht nicht, dass alle Spieler am Ende gleich viele Punkte haben; es muss auch fair sein, wie sie diese Punkte erreicht haben.

Dieses Papier ist ein wichtiger Schritt, um KI nicht nur „schlau", sondern auch wirklich „gerecht" zu machen.

Technische Zusammenfassung

1. Problemstellung

Das Thema Fairness im maschinellen Lernen (ML) hat in den letzten Jahren stark an Bedeutung gewonnen. Die aktuelle Forschung konzentriert sich jedoch fast ausschließlich auf die verteilende Fairness (distributive fairness), also die Fairness der Ergebnisse oder Vorhersagen (z. B. gleiche Fehlerraten für verschiedene Gruppen).

Ein zweites, ebenso wichtiges Dimension der Fairness, die prozedurale Fairness (procedural fairness), wird hingegen vernachlässigt. Prozedurale Fairness bezieht sich auf die Fairness des Entscheidungsprozesses selbst – also darauf, ob die Logik und die Regeln, die zu einer Entscheidung führen, für alle Individuen oder Gruppen gleich und transparent sind.

• Lücke in der Literatur: Bisherige Definitionen (z. B. Grgić-Hlača et al., 2018) definierten prozedurale Fairness oft nur basierend auf der Fairness der eingesetzten Eingabemerkmale. Das Paper argumentiert, dass dies unzureichend ist: Ein Modell kann auch dann prozedural unfair sein, wenn es faire Merkmale nutzt (wenn die interne Logik verzerrt ist), oder fair sein, auch wenn es sensible Merkmale nutzt (wenn diese im Prozess keine diskriminierende Rolle spielen).
• Fehlende Metrik: Es gibt keine standardisierte, quantitative Metrik, um die prozedurale Fairness von ML-Modellen zu messen, die den Entscheidungsprozess direkt analysiert.

2. Methodik

Das Paper schlägt einen systematischen Ansatz vor, der Definition, Messung und Verbesserung der prozeduralen Fairness umfasst.

A. Definition der Prozeduralen Fairness

Die Autoren definieren prozedurale Fairness neu, indem sie Konzepte aus Philosophie und Psychologie auf ML übertragen. Der Fokus liegt auf der Konsistenz der Entscheidungslogik:

• Individuelle prozedurale Fairness: Ähnliche Datenpunkte sollten einen ähnlichen Entscheidungsprozess durchlaufen.
• Gruppen-prozedurale Fairness: Ähnliche Datenpunkte aus zwei verschiedenen Gruppen (z. B. basierend auf Geschlecht oder Ethnie) sollten einen ähnlichen Entscheidungsprozess durchlaufen.

Um dies messbar zu machen, wird der interne Entscheidungsprozess $\Phi$ des Modells durch Feature Attribution Explanations (FAE) repräsentiert. FAE-Methoden (wie SHAP, Gradient*Input, Integrated Gradients) weisen jedem Eingabemerkmals einen Wichtigkeitswert (Attribution Score) für eine spezifische Vorhersage zu.

B. Die Metrik: GPFFAE

Die Autoren führen eine neue Metrik namens GPFFAE (Feature Attribution-based Group Procedural Fairness) ein.

• Prinzip: Die Metrik vergleicht die Verteilung der FAE-Erklärungen (die Wichtigkeitsvektoren der Merkmale) für ähnliche Datenpunkte aus zwei Gruppen ($D_1$ und $D_2$).
• Berechnung:
  1. Es werden $n$ Paare ähnlicher Datenpunkte aus den beiden Gruppen ausgewählt (basierend auf einem Distanzmaß im Merkmalsraum).
  2. Für jedes Paar werden die FAE-Erklärungen berechnet.
  3. Der Unterschied zwischen den Verteilungen der Erklärungen der beiden Gruppen wird mittels Maximum Mean Discrepancy (MMD) gemessen.
  4. Ein niedriger MMD-Wert (bzw. ein hoher p-Wert bei einem Permutationstest) deutet auf hohe prozedurale Fairness hin (die Entscheidungslogik ist für beide Gruppen gleich). Ein hoher Wert deutet auf Unfairness hin.

C. Identifikation unfairer Merkmale

Wenn ein Modell als prozedural unfair identifiziert wird, schlägt das Paper eine Methode vor, um die spezifischen Merkmale zu finden, die diese Unfairness verursachen (Unfair Features, UFs).

• Dazu wird für jedes einzelne Merkmal geprüft, ob die Verteilung der Attribution-Scores zwischen den beiden Gruppen signifikant unterschiedlich ist (ebenfalls mittels MMD). Merkmale mit signifikantem Unterschied werden als „unfair" markiert.

D. Minderungsstrategien (Mitigation)

Basierend auf den identifizierten unfairen Merkmalen werden zwei Methoden zur Verbesserung der Fairness vorgeschlagen:

1. Neutrainieren ohne UFs: Die identifizierten unfairen Merkmale werden aus dem Datensatz entfernt und das Modell wird neu trainiert.
2. Modifikation des bestehenden Modells: Statt das Modell neu zu trainieren, wird ein Penalty-Term (Verlustfunktion) hinzugefügt, der die Wichtigkeit (Attribution) der identifizierten unfairen Merkmale im Entscheidungsprozess des bereits trainierten Modells reduziert. Dies geschieht durch Optimierung einer zusätzlichen Verlustkomponente, die auf den Gradienten der Erklärung basiert.

3. Wichtige Beiträge

1. Formale Definition: Eine präzise Definition von individueller und gruppenbasierter prozeduraler Fairness, die sich auf die Konsistenz der Entscheidungslogik (nicht nur auf die Eingabemerkmale) stützt.
2. Neue Metrik (GPFFAE): Entwicklung einer quantitativen Metrik zur Bewertung der prozeduralen Fairness unter Nutzung von Explainable AI (XAI) Techniken.
3. Diagnose-Tool: Eine Methode zur genauen Identifizierung der spezifischen Merkmale, die für prozedurale Unfairness verantwortlich sind.
4. Minderungsansätze: Zwei praktische Algorithmen zur Verbesserung der Fairness, die sowohl die prozedurale als auch die verteilende Fairness erhöhen, bei nur geringen Einbußen bei der Modellgenauigkeit.
5. Analyse der Beziehung: Eine empirische Untersuchung zeigt, dass prozedurale und verteilende Fairness oft korrelieren, aber nicht immer identisch sind. Ein Modell kann faire Ergebnisse liefern, aber einen unfairen Prozess haben (und umgekehrt).

4. Ergebnisse

Die Autoren validierten ihre Methoden auf einem synthetischen Datensatz und acht realen Datensätzen (z. B. Adult, COMPAS, German Credit, KDD).

• Validierung der Metrik: GPFFAE konnte zuverlässig zwischen Modellen mit fairer und unfairer Entscheidungslogik unterscheiden. Auf synthetischen und realen Daten zeigten fair konstruierte Modelle hohe GPFFAE-Werte (nahe 1,0), während unfair konstruierte Modelle Werte nahe 0,0 aufwiesen.
• Korrelation: Es wurde gezeigt, dass ein Modell, das auf dem COMPAS-Datensatz trainiert wurde, trotz signifikanter Verteilungs-Ungerechtigkeit (distributive unfairness) eine relativ faire Entscheidungslogik (hohe prozedurale Fairness) aufweisen kann. Dies widerlegt die Annahme, dass die Nutzung sensibler Merkmale automatisch zu prozeduraler Unfairness führt.
• Wirksamkeit der Minderung:
  • Beide Minderungs-methoden (Neutrainieren und Modifikation) verbesserten die prozedurale Fairness signifikant (GPFFAE-Werte stiegen stark an).
  • Gleichzeitig verbesserten sich auch die Metriken für verteilende Fairness (DP, EO, EOD).
  • Performance-Verlust: Der Rückgang der Modellgenauigkeit war minimal (im Durchschnitt ca. 0,8% beim Neutrainieren und 1,8% bei der Modifikation).
• Robustheit: Die Metrik funktionierte konsistent über verschiedene FAE-Methoden (SHAP, GI, IG) hinweg, wobei SHAP zwar rechenintensiver, aber modellagnostisch ist.

5. Bedeutung und Ausblick

Dieses Paper ist ein Meilenstein für das Feld der KI-Ethik, da es den Fokus von reinen Ergebnismetriken auf den Entscheidungsprozess selbst lenkt.

• Praktische Relevanz: In kritischen Bereichen wie Justiz, Kreditvergabe oder Personaleinstellungen ist es oft entscheidend, dass der Weg zur Entscheidung nachvollziehbar und fair ist, nicht nur das Endergebnis. GPFFAE bietet ein Werkzeug, um diese Transparenz zu messen.
• Regulatorische Implikationen: Die Arbeit unterstützt die Anforderungen neuer Gesetze (wie den EU AI Act), die Transparenz und Fairness von Prozessen fordern, indem sie eine technische Methode zur Überprüfung dieser Prozesse liefert.
• Zukünftige Forschung: Die Autoren sehen Potenzial in der Weiterentwicklung von Gegenbeispiel-Generierung (Counterfactuals) für kleine Datensätze, der Integration prozeduraler Fairness direkt in den Trainingsprozess und der Erweiterung auf individuelle Fairness.

Zusammenfassend bietet das Paper einen vollständigen Rahmenwerk („Definition -> Messung -> Diagnose -> Verbesserung") für die Behandlung prozeduraler Fairness in ML-Systemen und demonstriert, dass Fairness im Prozess ohne massive Einbußen bei der Leistung erreichbar ist.