🤖 machine learning

Fairness of Classifiers in the Presence of Constraints between Features

Dieser Artikel schlägt vor, die Fairness von Klassifikatoren durch das Vorhandensein „fairer Erklärungen" (Prime-Implicant-Gründe, die geschützte Merkmale ausschließen) zu definieren, die Merkmalsbeschränkungen berücksichtigen, und analysiert die Beziehungen sowie die rechnerische Komplexität von drei unterschiedlichen Fairnisdefinitionen unter diesen Bedingungen.

Ursprüngliche Autoren: Martin C. Cooper, Imane Bousdira

Veröffentlicht 2026-05-04

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Martin C. Cooper, Imane Bousdira

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Richter, der entscheidet, wer einen Job, einen Kredit oder eine Prämie erhält. In der Welt der Künstlichen Intelligenz (KI) wollen wir sicherstellen, dass diese Richter fair sind. Normalerweise bedeutet „fair", dass der Richter keine sensiblen Merkmale wie das Geschlecht oder die Rasse einer Person berücksichtigt.

Dieser Artikel argumentiert jedoch, dass es nicht ausreicht, nur auf die „sensiblen" Merkmale zu achten. Man muss auch die Regeln des Spiels (die Einschränkungen) betrachten, die verschiedene Informationen miteinander verknüpfen. Wenn man diese Regeln ignoriert, könnte man einen Richter für unfair halten, obwohl er eigentlich fair ist, oder umgekehrt.

Hier ist eine Aufschlüsselung der Hauptideen des Artikels anhand einfacher Analogien.

1. Die Falle der „versteckten Regeln"

Stellen Sie sich einen Club vor mit der Regel: „Sie dürfen nur eintreten, wenn Sie einen roten Hut tragen UND Mitglied sind."

Die Merkmale: „Einen roten Hut tragen" und „Mitglied sein".
Die Einschränkung: In diesem spezifischen Club dürfen nur Mitglieder rote Hüte tragen. Wenn Sie kein Mitglied sind, können Sie keinen roten Hut haben.

Stellen Sie sich nun vor, ein KI-Richter entscheidet, wer hereinkommt.

Szenario A (Regeln ignorieren): Die KI sieht eine Person mit einem roten Hut, aber ohne Mitgliedsausweis (was in der Realität unmöglich ist, aber die KI kennt die Regel nicht). Sie sagt: „Nein, weil Sie keinen Ausweis haben." Es sieht so aus, als würde die KI den Hut ignorieren.
Szenario B (Regeln kennen): Die KI kennt die Regel: „Rote Hüte existieren nur für Mitglieder." Wenn also jemand einen roten Hut hat, muss er ein Mitglied sein. Die KI sagt: „Ja, Sie dürfen eintreten, weil Sie einen roten Hut tragen."

Der Artikel sagt: Wenn Sie die Regel (die Einschränkung) nicht kennen, könnten Sie denken, die KI sei unfair, weil sie scheinbar den Hut berücksichtigt. Wenn Sie die Regel jedoch kennen, erkennen Sie, dass der Hut nur ein Abkürzungsweg für die Mitgliedschaft ist. Die KI ist tatsächlich fair.

Die Behauptung des Artikels: Man kann Fairness nicht allein durch die Betrachtung der Eingabedaten beurteilen; man muss betrachten, wie diese Eingabedaten rechtlich oder logisch miteinander verknüpft sind.

2. Der Test der „fairen Erklärung"

Die Autoren schlagen eine neue Methode vor, um zu prüfen, ob eine Entscheidung fair ist. Statt zu fragen: „Hat die KI das Geschlecht betrachtet?", fragen sie: „Kann die KI ihre Entscheidung erklären, ohne das Geschlecht zu erwähnen?"

Sie nennen dies eine „faire Erklärung".

Die Analogie: Stellen Sie sich vor, Sie beantragen einen Kredit.
- Unfaire Erklärung: „Sie wurden abgelehnt, weil Sie eine Frau sind." (Das ist schlecht).
- Faire Erklärung: „Sie wurden abgelehnt, weil Ihr Einkommen zu niedrig ist." (Das ist gut).
- Der Twist: Manchmal ist die Logik der KI verworren. Sie könnte sagen: „Abgelehnt wegen (Sie sind eine Frau UND Einkommen ist niedrig) ODER (Sie sind ein Mann UND Einkommen ist niedrig)."
- Die Lösung des Artikels: Wenn die KI einen einfachen Grund finden kann, der das Geschlecht nicht erwähnt (z. B. „Einkommen ist niedrig"), dann ist die Entscheidung existenziell fair. Wenn jeder mögliche Grund, den sie geben könnte, das Geschlecht beinhaltet, dann ist sie unfair.

3. Drei Ebenen der Fairness

Der Artikel definiert drei Arten, wie ein gesamtes KI-System (ein Klassifikator) als fair betrachtet werden kann:

Existenzielle Fairness (Die „mindestens eine"-Regel):
- Analogie: Kann die KI für jede Entscheidung, die sie trifft, mindestens eine Entschuldigung finden, die das Geschlecht nicht erwähnt?
- Urteil: Wenn ja, besteht das System diesen Test. Es ist, als würde man sagen: „Ich kann diese Entscheidung rechtfertigen, ohne sexistisch zu sein, auch wenn ich andere sexistische Gründe in meinem Kopf habe."
Universelle Fairness (Die „alle Gründe"-Regel):
- Analogie: Sind für jede Entscheidung alle möglichen Erklärungen frei vom Geschlecht?
- Urteil: Dies ist viel strenger. Es bedeutet, dass die KI das Geschlecht gar nicht als Grund verwenden kann, selbst wenn sie es wollte.
Fairness durch Unwissenheit (Die „Verhüllungs"-Regel):
- Analogie: Wenn zwei Personen in jeder Hinsicht identisch sind, außer ihrem Geschlecht, erhalten sie dann das gleiche Ergebnis?
- Urteil: Der Artikel zeigt, dass in einer Welt mit Regeln (Einschränkungen) dieser „Verhüllungs"-Test knifflig sein kann. Manchmal können zwei Personen aufgrund der Regeln nicht identisch sein, außer im Geschlecht (z. B. kann man kein Mann im Mutterschaftsurlaub sein). Daher kann der Verhüllungs-Test fehlschlagen, selbst wenn die KI fair ist.

4. Die „Magie" der Einschränkungen

Der Artikel verwendet Mathematik, um einige überraschende Dinge aufzuzeigen:

Das Ignorieren von Einschränkungen kann eine faire KI unfair erscheinen lassen. (Wie im Beispiel des Mutterschaftsurlaubs: Wenn Sie nicht wissen, dass nur Frauen Mutterschaftsurlaub nehmen, könnten Sie denken, eine KI diskriminiere Männer, obwohl sie einfach nur dem Gesetz folgt).
Das Ignorieren von Einschränkungen kann eine unfaire KI fair erscheinen lassen. (Wenn eine KI eine versteckte Regel verwendet, um zu diskriminieren, Sie diese Regel aber nicht sehen, könnten Sie denken, sie sei unschuldig).

5. Die Kosten der Fairnessprüfung

Der Artikel endet mit einer Warnung vor der Komplexität.

Die Analogie: Zu prüfen, ob eine einfache „Verhüllungs"-Regel eingehalten wird, ist wie das Abhaken einer Einkaufsliste; es geht schnell.
Die Realität: Zu prüfen, ob eine KI eine „faire Erklärung" hat (besonders wenn Regeln im Spiel sind), ist wie der Versuch, ein riesiges, mehrschichtiges Puzzle zu lösen, bei dem Sie jede mögliche Version der Realität vorstellen müssen.
Das Ergebnis: Die Autoren fanden heraus, dass die Prüfung dieser fortgeschrittenen Fairness-Definitionen rechnerisch sehr schwierig ist (mathematisch gesehen liegt sie in einer hohen Schwierigkeitsstufe). Allerdings entdeckten sie einige Abkürzungen (wie „lockere Einschränkungen"), bei denen die Prüfung wieder einfacher wird.

Zusammenfassung

Dieser Artikel argumentiert, dass Fairness nicht nur davon abhängt, welche Daten man der KI zuführt, sondern von den Regeln, die diese Daten verbinden.

Wenn Sie die Regeln ignorieren, könnten Sie eine faire KI bestrafen oder eine voreingenommene durchkommen lassen.
Der beste Weg, Fairness zu prüfen, ist die Frage: „Können Sie diese Entscheidung erklären, ohne das geschützte Merkmal zu verwenden?"
Diese Prüfung perfekt durchzuführen, ist für Computer sehr schwierig, aber notwendig, um echte Fairness zu gewährleisten.

1. Problemstellung

Das Papier adressiert eine kritische Lücke in der Definition und Bewertung von Fairness bei Machine-Learning-Klassifikatoren: das Vorhandensein logischer Constraints zwischen Merkmalen.

Kontext: Standarddefinitionen von Fairness (z. B. Fairness Through Unawareness) gehen oft davon aus, dass eine Entscheidung fair ist, wenn sie nicht von geschützten Merkmalen (z. B. Geschlecht, Ethnie) abhängt.
Das Problem: In realen Szenarien sind Merkmale selten unabhängig. Constraints bestehen aufgrund von:
- Codierung: z. B. One-Hot-Encoding, bei dem genau ein boolesches Merkmal wahr sein muss.
- Realwelt-Logik: z. B. „Wenn eine Person in Mutterschaftsurlaub ist, muss sie weiblich und erwerbstätig sein."
Die Konsequenz: Das Ignorieren dieser Constraints kann zu falsch positiven Ergebnissen (ein fairer Klassifikator wird als unfair eingestuft) oder falsch negativen Ergebnissen (ein unfairer Klassifikator wird als fair eingestuft) führen.
- Beispiel: Ein Modell mag aufgrund von Geschlechtswechseln so erscheinen, als würde es vom Geschlecht abhängen, doch wenn die Constraint impliziert, dass ein Wechsel des Geschlechts auch eine Änderung eines anderen Merkmals (z. B. Beschäftigungsstatus) erzwingt, könnte die Entscheidung im gültigen Merkmalsraum tatsächlich unabhängig vom Geschlecht sein.
Ziel: Fairness in Gegenwart von Constraints ( $C$ ) formal zu definieren und die rechnerische Komplexität der Verifizierung dieser Definitionen zu analysieren.

2. Methodik und Kernkonzepte

Die Autoren nutzen abduktive Erklärungen (AXp) und primäre Implikanten (PI) innerhalb eines durch Constraints eingeschränkten Merkmalsraums.

Wichtige Definitionen

Merkmalsraum ( $F$ ): Das kartesische Produkt der Merkmalsdomänen.
Constraints ( $C$ ): Eine Menge logischer Regeln, die gültige Instanzen einschränken. Der gültige Raum ist $F[C]$ .
Geschützte Merkmale ( $P$ ) vs. ungeschützte Merkmale ( $N$ ): $P$ enthält sensible Attribute (z. B. Geschlecht); $N$ enthält die anderen.
Abduktive Erklärung (AXp): Eine Teilmenge von Merkmalen $S$ , sodass das Festlegen der Werte von $S$ auf diejenigen der Instanz $x$ die Klassifikatorausgabe $\kappa(x)$ garantiert, unter Berücksichtigung nur von Instanzen in $F[C]$ .
Primärer Implikant-Erklärung (PI-Erklärung): Eine AXp, die nicht strikt von einer anderen AXp subsumiert wird. In Constraint-Räumen wird Subsumption durch logische Implikation innerhalb von $F[C]$ definiert, nicht nur durch Mengeninklusion.
Faire PI-Erklärung: Eine PI-Erklärung, die keine geschützten Merkmale enthält ( $S \cap P = \emptyset$ ).

Vorgeschlagene Fairness-Definitionen

Das Papier schlägt drei verschiedene Definitionen für die Fairness eines Klassifikators $\kappa$ vor:

Constraint-basierte Fairness Through Unawareness (FTU):
- Für alle $x, y \in F[C]$ , wenn $x_N = y_N$ (ungeschützte Merkmale sind identisch), dann gilt $\kappa(x) = \kappa(y)$ .
- Dies stellt sicher, dass die Entscheidung im gültigen Raum nur von ungeschützten Merkmalen abhängt.
Existenzielle Fairness:
- Für jede Entscheidung $\kappa(x) = c$ existiert mindestens eine faire PI-Erklärung.
- Bedeutung: Es gibt einen gültigen Grund für die Entscheidung, der sich nicht auf geschützte Merkmale stützt.
Universelle Fairness:
- Für jede Entscheidung $\kappa(x) = c$ sind alle PI-Erklärungen fair.
- Bedeutung: Jeder minimale Grund für die Entscheidung vermeidet geschützte Merkmale.

Theoretische Analyse

Die Autoren analysieren die Beziehungen zwischen diesen Definitionen unter verschiedenen Constraint-Szenarien:

Constraints zwischen $P$ und $N$ : Das Ignorieren dieser kann Fairnessbewertungen drastisch verändern. Eine Entscheidung kann im $F[C]$ universell fair sein, aber im unbeschränkten $F$ unfair erscheinen, oder umgekehrt.
Nur Constraints innerhalb von $P$ : Wenn Constraints nur zwischen geschützten Merkmalen bestehen, bleibt die Existenz einer fairen PI-Erklärung von unbeschränkten zu eingeschränkten Räumen erhalten (Proposition 1).
Nur Constraints innerhalb von $N$ : Die Existenz einer fairen PI-Erklärung ist unabhängig von diesen Constraints (Proposition 2). Allerdings können Constraints innerhalb von $N$ unfaire PI-Erklärungen erzeugen, die im unbeschränkten Raum nicht existierten (Beispiel 7).

Besondere Bedingungen für Äquivalenz

Das Papier identifiziert Bedingungen, unter denen die komplexen Definitionen (Existenziell/Universell) zur einfacher zu prüfenden Constraint-basierten FTU vereinfacht werden:

Lose Constraints: Wenn keine partielle Zuweisung eines geschützten Merkmals die Zuweisung aller ungeschützten Merkmale strikt subsumiert, dann impliziert Constraint-basierte FTU existenzielle Fairness.
Entkoppelte Klassifikatoren: Ein Klassifikator ist „entkoppelt", wenn die Menge der ungeschützten Merkmale $N$ eine schwache AXp ist, die nicht strikt von einer unfairen AXp subsumiert wird. Dies garantiert existenzielle Fairness.

3. Hauptbeiträge

Formalisierung von Fairness mit Constraints: Das Papier geht über die Standard-„Unawareness"-Definition hinaus, indem es logische Constraints direkt in die Definition von Erklärungen (PI-Erklärungen) integriert.
Nachweis des Constraint-Einflusses: Durch mehrere Beispiele (z. B. Mutterschaftsurlaub, Adoptionsagenturen) beweisen die Autoren, dass das Ignorieren von Constraints zu falschen Fairnessbewertungen führt.
Hierarchie der Fairness-Definitionen: Das Papier etabliert die logischen Beziehungen zwischen Constraint-basierter FTU, existenzieller Fairness und universeller Fairness.
- Universell $\implies$ Existenziell $\implies$ Constraint-basierte FTU.
- Die umgekehrten Implikationen gelten im Allgemeinen nicht, es sei denn, bestimmte Bedingungen (wie „lose Constraints" oder „keine Constraints zwischen P und N") sind erfüllt.
Komplexitätsanalyse: Die Autoren kartieren die rechnerische Komplexität der Verifizierung dieser Fairnessbegriffe innerhalb der Polynomhierarchie.

4. Ergebnisse und Komplexitätsanalyse

Das Papier liefert eine rigorose Komplexitätsanalyse für das Testen dieser Fairnessdefinitionen:

Fairness-Begriff	Komplexitätsklasse	Anmerkungen
Existenz einer fairen PI-Erklärung (für eine einzelne Entscheidung)	$\Sigma^P_3$	Beinhaltet $\exists \forall \exists$ Quantorenalternierung.
Existenz einer unfairen PI-Erklärung	$\Sigma^P_3$	Komplement des oben genannten.
Testen existenzieller Fairness (Klassifikator)	$\Pi^P_4$	Erfordert das Prüfen aller Instanzen ( $\forall x$ ) auf die $\Sigma^P_3$ -Eigenschaft.
Testen universeller Fairness (Klassifikator)	$\Pi^P_3$	Entspricht dem Prüfen, dass für keine Instanz eine unfaire Erklärung existiert.
Testen Constraint-basierter FTU	coNP-vollständig	Kann durch einen einzigen SAT-Löser-Aufruf gelöst werden (Prüfen, ob $\exists x, y$ mit gleichem $N$ , aber unterschiedlichen Ausgaben existieren).

Wichtige Komplexitätserkenntnis:

Das Testen von Constraint-basierter FTU ist rechnerisch machbar (coNP-vollständig) und kann von Standard-SAT-Lösern behandelt werden.
Das Testen von existenzieller/universeller Fairness ist erheblich schwieriger ( $\Pi^P_3$ oder $\Pi^P_4$ ) und erfordert Quantified Boolean Formula (QBF)-Löser.
Praktische Implikation: Die Autoren schlagen vor, „lose Constraints"- oder „Entkoppelungs"-Prüfungen (die $\Pi^P_2$ sind) als hinreichende Bedingungen zu verwenden, um existenzielle Fairness zu garantieren, wodurch einfachere SAT-Löser anstelle von QBF-Lösern eingesetzt werden können.

5. Bedeutung und Fazit

Theoretische Grundlage: Das Papier stellt fest, dass Fairness nicht im luftleeren Raum bewertet werden kann; die logische Struktur des Merkmalsraums (Constraints) verändert die Definition eines „Grundes" für eine Entscheidung fundamental.
Praktische Anleitung: Es warnt Praktiker davor, dass Standard-Fairness-Tools (die oft Constraints ignorieren) irreführende Ergebnisse liefern können.
Abwägung: Es besteht ein Zielkonflikt zwischen der Strenge der Fairnessdefinition und der rechnerischen Handhabbarkeit.
- Universelle Fairness ist die strengste, aber am schwierigsten zu verifizieren.
- Constraint-basierte FTU ist am einfachsten zu verifizieren, kann jedoch Fälle übersehen, in denen eine Entscheidung technisch über Constraints von geschützten Merkmalen abhängt.
Zukünftige Richtungen: Die Autoren schlagen vor, diesen logischen Rahmen auf statistische Korrelationen zu erweitern und die „Wahl der geschützten Merkmale" unter Verwendung von kausalen Graphen zu untersuchen (Fairness Through Causal Independence - FTCI).

Zusammenfassend argumentiert dieses Papier, dass Fairness kontextabhängig von Merkmals-Constraints ist. Es bietet einen formalen Rahmen, um Fairness über primäre Implikant-Erklärungen zu definieren, und liefert einen Fahrplan zur Verifizierung dieser Definitionen, der theoretische Strenge mit rechnerischer Machbarkeit in Einklang bringt.