📊 statistics

Tuning Derivatives for Causal Fairness in Machine Learning

Dieser Beitrag stellt ein neuartiges Rahmenwerk für kausale Fairness vor, das auf kontinuierliche geschützte Merkmale zugeschnitten ist, indem es statistische und prädiktive Parität durch path-spezifische partielle Ableitungen formalisiert und so die Konstruktion fairer Prädiktoren ermöglicht, die eine Unabhängigkeit von diskriminierenden Pfaden mit der Wahrung legitimer geschäftlicher Einflüsse in Einklang bringen.

Ursprüngliche Autoren: Filip Edström, Guilherme W. F. Barros, Tetiana Gorbach, Xavier de Luna

Veröffentlicht 2026-05-08

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Filip Edström, Guilherme W. F. Barros, Tetiana Gorbach, Xavier de Luna

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie stellen einen Koch ein, um eine Mahlzeit für eine große Gruppe von Menschen zu zubereiten. Sie möchten, dass das Essen köstlich ist (genau), aber Sie wollen auch sicherstellen, dass der Koch nicht heimlich eine Gruppe von Gästen aufgrund ihrer Rasse, ihres Geschlechts oder ihres Alters gegenüber einer anderen bevorzugt. Dies ist das Kernproblem der Fairness in der Künstlichen Intelligenz.

Dieser Artikel behandelt eine spezifische, knifflige Variante dieses Problems: Wie verhindern wir, dass eine KI gegen bestimmte Menschen voreingenommen ist, während wir ihr gleichzeitig erlauben, wichtige Informationen zu nutzen, die zufällig mit diesen Menschen verknüpft sind?

Hier ist die Aufschlüsselung ihrer Lösung unter Verwendung einfacher Analogien.

Das Problem: Das Dilemma der „betrieblichen Notwendigkeit"

Stellen Sie sich einen Richter vor, der eine KI nutzt, um zu entscheiden, ob ein Straftäter wahrscheinlich erneut straffällig wird.

Die geschützten Merkmale: Die Rasse und das Alter des Straftäters. Das Gesetz besagt, dass die KI diese nicht zur Entscheidungsfindung verwenden darf.
Die betriebliche Notwendigkeit: Die Anzahl der vorherigen Straftaten. Der Richter muss dies wissen, um eine faire Vorhersage zu treffen.

Hier liegt der Haken: In der realen Welt beeinflusst die Rasse oder das Alter einer Person oft, wie viele vorherige Straftaten in ihrem Fall aktenkundig sind (aufgrund historischer Vorurteile in der Polizeiarbeit).

Wenn die KI „vorherige Straftaten" ignoriert, um nicht durch die „Rasse" voreingenommen zu sein, wird sie zu einem schrecklichen Richter (sie übersieht wichtige Fakten).
Wenn die KI „vorherige Straftaten" verwendet, könnte sie versehentlich die Voreingenommenheit aus der „Rasse" „lernen" und wieder unfair werden.

Der alte Weg vs. der neue Weg

Der alte Weg (Statistische Parität):
Dies ist wie dem Koch zu sagen: „Sie müssen jedem genau dasselbe Gericht servieren, egal wer er ist." Wenn der Koch versucht, dies zu tun, muss er möglicherweise ignorieren, dass einige Menschen allergisch gegen Nüsse sind (eine „betriebliche Notwendigkeit" für die Sicherheit). Das Ergebnis ist eine Mahlzeit, die im strengen Sinne „fair" ist, aber nutzlos oder sogar gefährlich.

Der neue Weg (Kausale Fairness):
Dieser Artikel schlägt einen intelligenteren Ansatz vor. Er sagt: „Die KI darf auf 'vorherige Straftaten' schauen (der erlaubte Pfad), muss aber den direkten Zusammenhang von 'Rasse' zur endgültigen Entscheidung ignorieren (der verbotene Pfad)."

Allerdings funktionierten die meisten früheren Methoden dafür nur gut, wenn die geschützten Merkmale einfache Kategorien waren (wie „Männlich" oder „Weiblich"). Sie hatten Schwierigkeiten mit kontinuierlichen Merkmalen wie dem Alter (wo man 20, 20,1, 20,2 usw. Jahre alt sein kann).

Die Lösung: „Knöpfe justieren" mit Ableitungen

Die Autoren stellen ein neues mathematisches Werkzeug vor, das Ableitungen heißt.

Stellen Sie sich ein KI-Modell als eine komplexe Maschine mit vielen Knöpfen und Hebeln vor.

Statistische Parität (SPD): Die Autoren möchten den „Knopf" für den verbotenen Pfad (Rasse $\to$ Entscheidung) so drehen, dass das Drehen nichts am Ausgang bewirkt. In mathematischen Begriffen ist die „Ableitung" (die Änderungsrate) null. Wenn man die Rasse leicht ändert, sollte die Vorhersage sich nicht rühren.
Prädiktive Parität (PPD): Gleichzeitig wollen sie sicherstellen, dass der „Knopf" für den erlaubten Pfad (Vorherige Straftaten $\to$ Entscheidung) genau richtig gedreht ist. Die KI sollte auf „vorherige Straftaten" genau so reagieren, wie es die reale Welt tut.

Die Analogie des Seiltänzers:
Stellen Sie sich vor, Sie gehen auf einem Seil.

Auf der einen Seite steht Fairness (Ignorieren der Voreingenommenheit).
Auf der anderen Seite steht Genauigkeit (Verwenden der notwendigen Daten).
Manchmal ist das Seil gerade, und Sie können perfekt auf beiden Seiten gleichzeitig gehen.
Manchmal ist das Seil verdreht. Sie können nicht gleichzeitig perfekt fair und perfekt genau sein.

Der Artikel beweist, dass die Mathematik es manchmal erlaubt, gleichzeitig perfekt fair und genau zu sein. Aber oft muss man einen Kompromiss eingehen.

Der „Fair-Tuning"-Algorithmus

Die Autoren haben ein Rezept (einen Algorithmus) entwickelt, um KI-Entwicklern zu helfen, den besten Punkt auf diesem Seil zu finden.

Schritt 1: Trainieren Sie zuerst die KI so genau wie möglich und ignorieren Sie die Fairness für einen Moment.
Schritt 2: Dann „justieren" Sie die KI. Der Algorithmus überprüft die „Knöpfe" (Ableitungen).
- Wenn die KI immer noch zu stark auf das verbotene Merkmal (Rasse) reagiert, dreht der Algorithmus diesen Knopf herunter.
- Wenn die KI das notwendige Merkmal (vorherige Straftaten) zu stark ignoriert, dreht der Algorithmus diesen Knopf wieder hoch, um der Realität zu entsprechen.
Das Ergebnis: Die KI lernt, Vorhersagen zu treffen, die so fair wie möglich sind, ohne ihre gesamte Genauigkeit zu opfern.

Was sie herausfanden

Sie testeten dies an zwei Dingen:

Simulierte Daten: Sie schufen fiktive Welten mit verschiedenen Regeln.
- In einer „linearen" Welt (wo Dinge einfach sind) stellten sie fest, dass man gleichzeitig perfekt fair und genau sein kann.
- In einer „multiplikativen" Welt (wo Dinge komplex und verdreht sind) stellten sie fest, dass man in beiden Dingen nicht perfekt sein kann. Man muss einen Ausgleich wählen. Ihre Methode ermöglichte es ihnen, den bestmöglichen Ausgleich zu finden.
Echte Daten (COMPAS): Sie verwendeten einen echten Datensatz über die Wiederstraffälligkeit von Straftätern.
- Sie zeigten, dass ihre Methode (genannt „Fair Tuning") ein Modell schuf, das viel besser darin war, Fairness und Genauigkeit auszubalancieren als ältere Methoden.
- Insbesondere war sie besser darin, die „erlaubten" Informationen (wie vorherige Straftaten) nützlich zu halten, während sie die „verbotene" Voreingenommenheit entfernte.

Das Fazit

Dieser Artikel gibt uns einen neuen mathematischen „Justierknopf" für KI. Er ermöglicht es uns, kontinuierliche Variablen (wie das Alter) viel besser zu handhaben als zuvor. Er erkennt an, dass wir manchmal keine perfekte Welt haben können, in der die Voreingenommenheit null und die Genauigkeit 100 % ist, aber er gibt uns eine präzise Methode, den bestmöglichen Kompromiss zu finden, und stellt sicher, dass die KI das Gesetz (Fairness) respektiert und gleichzeitig ihre Arbeit verrichtet (Genauigkeit).

Technische Zusammenfassung: Feinabstimmung von Ableitungen für kausale Fairness im maschinellen Lernen

Problemstellung
Künstliche Intelligenzsysteme erben häufig gesellschaftliche Vorurteile bezüglich geschützter Attribute wie Rasse, Geschlecht und Alter. Klassische Fairness-Metriken wie die Statistische Parität (SP), die fordern, dass Vorhersagen unabhängig von geschützten Attributen sein müssen, sind oft zu restriktiv. Dies gilt insbesondere dann, wenn geschützte Attribute „geschäftliche Notwendigkeiten" oder „auflösende Variablen" (z. B. frühere Straftaten bei der Risikobewertung von Rückfälligkeit) beeinflussen, die für Vorhersagen legitim erforderlich sind. Neuere kausale Formulierungen adressieren dies, indem sie zwischen „nicht-zugelassenen" Pfaden (direkte Effekte geschützter Attribute) und „zugelassenen" Pfaden (indirekte Effekte über geschäftliche Notwendigkeiten) unterscheiden und häufig die Vorhersageparität (PP) einbeziehen, um sicherzustellen, dass legitime Einflüsse erhalten bleiben. Bestehende pfadbasierte Definitionen, die auf kausalen Kontrasten beruhen, sind jedoch primär für kategoriale Attribute konzipiert. Bei der Anwendung auf kontinuierliche geschützte Attribute (z. B. Alter) werden diese Methoden aufgrund der Notwendigkeit, Kontraste an unendlich vielen Punkten zu evaluieren, unpraktisch.

Methodik
Die Autoren schlagen einen Rahmen für kausale Fairness innerhalb struktureller kausaler Modelle (SCMs) vor, der speziell für kontinuierliche geschützte Attribute zugeschnitten ist.

Ableitungsbasierte Definitionen:
- Statistische Parität in Ableitungen (SPD): Anstelle von Kontrasten definieren die Autoren SP entlang eines Pfades $\pi$ als das Produkt der partiellen Ableitungen der strukturellen Mechanismen entlang dieses Pfades, das gleich null ist. Dies stellt sicher, dass der Prädiktor bezüglich des geschützten Attributes entlang nicht-zugelassener Pfade konstant ist.
- Vorhersageparität in Ableitungen (PPD): PP wird definiert, indem die partiellen Ableitungen des Prädiktors bezüglich Variablen entlang zugelassener Pfade den partiellen Ableitungen der wahren Zielvariable im datengenerierenden Prozess (DGP) gleichgesetzt werden. Dies stellt sicher, dass der Prädiktor den legitimen Einfluss geschäftlicher Notwendigkeiten repliziert.
Existenzbedingungen:
Der Artikel stellt eine notwendige und hinreichende Bedingung für die Existenz eines Prädiktors auf, der gleichzeitig SPD und PPD erfüllt. Für einen direkten nicht-zugelassenen Pfad ( $X \to Y$ ) und einen zugelassenen Pfad ( $W \to Y$ ) existiert ein fairer Prädiktor genau dann, wenn die gemischte partielle Ableitung des erwarteten Ergebnisses null ist: $\frac{\partial^2}{\partial w \partial x} E[Y | P_A^Y = p] = 0$ . Wenn diese Bedingung nicht gilt, ist ein Kompromiss zwischen SPD und PPD unvermeidbar.
Fair-Tuning-Algorithmus:
Um solche Prädiktoren zu konstruieren, schlagen die Autoren einen „Fair-Tuning"-Algorithmus für neuronale Netze vor:
- Schritt 1: Anpassung eines unbeschränkten Prädiktors ( $\hat{Y}_{\theta_U}$ ), um den Vorhersageverlust (z. B. MSE) zu minimieren.
- Schritt 2: Initialisierung eines fairen Prädiktors mit den Parametern des unbeschränkten Prädiktors.
- Schritt 3: Optimierung einer zusammengesetzten Verlustfunktion ( $L_{FT}$ $L_{F T}$ ), bestehend aus:
  - Vorhersageverlust (MSE zwischen dem abgestimmten Prädiktor und dem unbeschränkten Prädiktor).
  - SPD-Verlust (L1-Norm der partiellen Ableitungen entlang nicht-zugelassener Pfade).
  - PPD-Verlust (L1-Norm der Differenz zwischen den Ableitungen des Prädiktors und den Ableitungen des unbeschränkten Prädiktors entlang zugelassener Pfade).
- Hyperparameter $\lambda_{SPD}$ und $\lambda_{PPD}$ ermöglichen es den Anwendern, ein Fairness-Kriterium gegenüber dem anderen zu priorisieren, wenn die Kompatibilitätsbedingung nicht erfüllt ist.

Hauptbeiträge

Formalisierung: Der Artikel formalisiert SP und PP mittels pfadspezifischer partieller Ableitungen, wodurch kausale Fairness-Definitionen auf kontinuierliche geschützte Attribute anwendbar werden, ohne den Rechenaufwand der Evaluierung unendlicher Kontraste.
Theoretische Charakterisierung: Es werden Bedingungen hergeleitet, unter denen diese ableitungsbasierten Definitionen mit früheren kontrastbasierten kausalen Definitionen übereinstimmen, und das Kompatibilitätskriterium (Satz 1) für das gleichzeitige Vorhandensein fairer Prädiktoren wird etabliert.
Algorithmische Lösung: Es wird ein praktischer Tuning-Algorithmus eingeführt, der faire Prädiktoren konstruiert, wenn das Kompatibilitätskriterium erfüllt ist, und einen flexiblen Kompromissmechanismus bietet, wenn dies nicht der Fall ist.
Empirische Validierung: Die Methode wird auf simulierten Daten (lineare und multiplikative DGPs) und dem realen COMPAS-Datensatz evaluiert, wobei die Leistung mit Methoden verglichen wird, die sich ausschließlich auf SP (SPT) und Marginalisierungsschemata konzentrieren.

Ergebnisse

Simulierte Daten: In linearen Szenarien, in denen SPD und PPD kompatibel sind, minimiert der Fair-Tuning-Algorithmus (FT) beide Verluste erfolgreich gleichzeitig. In nicht-linearen (multiplikativen) Szenarien, in denen sie inkompatibel sind, demonstriert der Algorithmus den erwarteten Kompromiss: Eine Verschärfung der Einschränkungen für eine Metrik verschlechtert die andere. Die FT-Methode übertrifft Marginalisierungs- und rein SPT-basierte Ansätze darin, die Vorhersageleistung unter Einhaltung von Fairness-Einschränkungen zu erhalten, insbesondere wenn PPD berücksichtigt wird.
COMPAS-Datensatz: Bei der Anwendung auf die Vorhersage von Rückfälligkeit erreichte der FT-Algorithmus (insbesondere mit ausgewogenen Gewichten) einen überlegenen Kompromiss zwischen SPD und PPD im Vergleich zu SPT- und Marginalisierungs-Methoden. Während alle beschränkten Modelle im Vergleich zur unbeschränkten Basislinie eine reduzierte Vorhersageleistung aufwiesen, behielt FT 10 eine höhere Genauigkeit und F1-Werte bei und reduzierte gleichzeitig den PPD-Verlust signifikant.
Ableitung vs. Kontrast: Bei der Anwendung auf binäre Merkmale im COMPAS-Datensatz führte die Minimierung ableitungsbasierter Verluste (SPD/PPD) im Allgemeinen zu reduzierten kontrastbasierten Verlusten (CSP/CPP), obwohl in einigen Szenarien mit hohen Einschränkungen Abweichungen beobachtet wurden.

Bedeutung und Behauptungen
Der Artikel behauptet, dass sein ableitungsbasierter Rahmen eine praktische und theoretisch fundierte Lösung für kausale Fairness in kontinuierlichen Domänen bietet, eine Lücke, die von bestehenden kontrastbasierten Methoden offen gelassen wurde. Er argumentiert, dass durch die explizite Modellierung des Kompromisses zwischen statistischer und Vorhersageparität mittels partieller Ableitungen Praktiker Prädiktoren konstruieren können, die geschäftliche Notwendigkeiten respektieren und gleichzeitig Diskriminierung mindern. Die Autoren betonen, dass ihre Methode keine Annahmen über die strukturellen Gleichungen des DGP erfordert, sondern nur ein kausales Diagramm, was sie für reale Szenarien anwendbar macht. Die Arbeit schließt, dass ableitungsbasierte Fairness zwar nicht immer perfekt mit kontrastbasierter Fairness für binäre Attribute übereinstimmt, aber einen robusten und flexiblen Ansatz für kontinuierliche Attribute sowie einen gangbaren Weg zur Bewältigung der Spannung zwischen statistischer Unabhängigkeit und Vorhersagenützlichkeit bietet.