🤖 machine learning

Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing

Dieser Beitrag untersucht die Rolle des Vergleichsmaßstabs bei Diskriminierungstests neu, indem er zwischen dem herkömmlichen „ceteris paribus"-Ansatz und einem neuartigen „mutatis mutandis"-Rahmenwerk unterscheidet, das berücksichtigt, wie geschützte Merkmale nicht-geschützte Merkmale kausal beeinflussen, und damit eine komplexere, aber wirkungsvollere Alternative für die maschinell gestützte Erkennung von Diskriminierung bietet.

Ursprüngliche Autoren: Jose M. Alvarez, Salvatore Ruggieri

Veröffentlicht 2026-05-04

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Jose M. Alvarez, Salvatore Ruggieri

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind Richter und müssen entscheiden, ob ein Einstellungsmanager eine Bewerberin namens Clara diskriminiert hat. Clara ist eine Frau, und sie wurde abgelehnt. Sie behauptet, sie sei abgelehnt worden, weil sie eine Frau ist.

Um dies zu beweisen, müssen Sie sie mit jemand anderem vergleichen. Aber wem? Dies ist das zentrale Rätsel, das die Arbeit löst.

Die Autoren, José M. Álvarez und Salvatore Ruggieri, argumentieren, dass die Wahl dieser „Vergleichsperson" (genannt Comparator) das gesamte Ergebnis des Tests verändert. Sie schlagen zwei verschiedene Methoden vor, um diese Person auszuwählen: die „Alles Übrige Gleich" (All Else Equal) Methode und die „Anpassungen Vornehmen" (Make Adjustments) Methode.

Hier ist eine einfache Aufschlüsselung ihrer Argumentation mit alltäglichen Analogien.

1. Die Standardmethode: „Alles Übrige Gleich" (Ceteris Paribus)

Dies ist die traditionelle Art, wie Diskriminierungstests funktionieren. Stellen Sie sich vor, Sie wollen herausfinden, ob ein Rennwagen schneller ist als ein Lkw. Sie setzen sie auf exakt die gleiche Strecke, mit exakt demselben Kraftstoff und bei exakt demselben Wetter. Das einzige, was Sie ändern, ist der Fahrzeugtyp.

In den Begriffen der Arbeit ist dies der CP-Comparator.

Das Szenario: Clara (weiblich) hat sich für eine Stelle beworben. Um ihre Behauptung zu testen, finden wir einen Mike (männlich), der exakt denselben Lebenslauf, exakt die gleiche Anzahl von Berufsjahren und exakt dieselben Noten hat.
Die Logik: Wenn Mike den Job bekommt und Clara nicht, trotz identischer Lebensläufe, dann wurde Clara diskriminiert.
Das Problem: Die Autoren argumentieren, dies sei eine „idealisierte" Fantasie. In der realen Welt verändert das Frau-Sein (oder das Angehörigsein einer geschützten Gruppe) Ihr Leben oft, bevor Sie sich überhaupt für einen Job bewerben. Vielleicht hat Clara Zeit genommen, um Kinder großzuziehen, oder sie wurde aufgrund gesellschaftlicher Erwartungen von bestimmten Fächern abgelenkt. Wenn Sie einen Mike mit dem exakt gleichen Lebenslauf finden, ignorieren Sie die Tatsache, dass die Gesellschaft sie bevor der Lebenslauf geschrieben wurde unterschiedlich behandelt hat. Sie tun so, als hätte die Vergangenheit nicht existiert.

2. Die neue Methode: „Anpassungen Vornehmen" (Mutatis Mutandis)

Die Autoren schlagen eine intelligentere, komplexere Art vor, die Vergleichsperson auszuwählen. Dies ist der MM-Comparator.

Denken Sie daran wie an eine Zeitreise-Simulation.

Das Szenario: Wir haben immer noch Clara. Aber anstatt einen Mike mit dem exakt gleichen Lebenslauf zu finden, fragen wir: „Wenn Clara als Mann geboren worden wäre, wie hätte sich ihr Leben anders entwickelt?"
Die Anpassung: Wenn das Frau-Sein bedeutete, dass Clara weniger Zeit zum Lernen hatte oder weniger Networking-Möglichkeiten, sagt die MM-Methode: „Lassen Sie uns Mikes Lebenslauf so anpassen, dass er dem entspricht, was Claras Leben gewesen wäre, wenn sie ein Mann gewesen wäre."
Das Ergebnis: Vielleicht hat Mike am Ende mehr Erfahrung oder bessere Noten als die Clara, die wir heute sehen, weil er nicht denselben gesellschaftlichen Hürden ausgesetzt war.
Die Logik: Wir vergleichen die echte Clara mit diesem angepassten Mike. Wenn der angepasste Mike den Job bekommt und die echte Clara nicht, haben wir starke Beweise für Diskriminierung. Diese Methode erkennt an, dass das Spielfeld von Anfang an nicht eben war.

Das „Tenure"-Beispiel

Die Arbeit verwendet eine Geschichte über eine Universitätsprofessorin namens Clara, um dies zu veranschaulichen:

Clara (weiblich) hat 12 Publikationen und wurde die Tenure verweigert.
Mike (männlich) hat 12 Publikationen und wurde die Tenure verweigert.
Vincent (männlich) hat 18 Publikationen und hat die Tenure erhalten.

Unter Verwendung der „Alles Übrige Gleich" (CP) Methode:
Sie vergleichen Clara mit Mike. Beide haben 12 Papers. Da Mike ebenfalls abgelehnt wurde, könnten Sie sagen: „Siehst du? Es lag nicht daran, dass sie eine Frau ist; sie hatte einfach nicht genug Papers." Sie könnten ihre Behauptung abtun.

Unter Verwendung der „Anpassungen Vornehmen" (MM) Methode:
Sie fragen: „Wenn Clara ein Mann gewesen wäre, hätte sie dann 12 Papers gehabt, oder hätte sie 18 gehabt?" Die Autoren argumentieren, dass Frauen oft zusätzliche Belastungen (wie Kinderbetreuung) haben, die Männer nicht haben, und ein Mann in Claras Position vielleicht mehr Zeit gehabt hätte, Papers zu schreiben. Also hätte die „angepasste" Version von Clara (nennen wir sie „Mann-Clara") vielleicht 18 Papers.
Dann vergleichen Sie die echte Clara (12 Papers) mit Vincent (18 Papers, der die Tenure erhalten hat). Wenn die Universität die Bewerberin mit 12 Papers ablehnt, aber die Bewerberin mit 18 Papers annimmt, und wir wissen, dass die Bewerberin mit 12 Papers durch geschlechtsspezifische gesellschaftliche Rollen zurückgehalten wurde, ist die Diskriminierung klarer.

Warum ist das wichtig?

Die Autoren sagen, dass die meisten aktuellen Werkzeuge zur Aufdeckung von Diskriminierung die CP (Alles Übrige Gleich) Methode verwenden. Sie sind wie eine Kamera, die nur Fotos des gegenwärtigen Moments macht und die Geschichte ignoriert, die uns dorthin gebracht hat.

Die MM (Anpassungen Vornehmen) Methode ist wie eine Kamera mit einer „Zurückspulen und Bearbeiten"-Taste. Sie versucht zu rekonstruieren, wie die Welt aussehen würde, wenn das geschützte Attribut (wie Rasse oder Geschlecht) den Lebensweg der Person nicht beeinflusst hätte.

Der Haken:
Die Autoren geben zu, dass die MM-Methode viel schwieriger zu entwickeln ist. Sie erfordert komplexe maschinelle Lernmodelle, um diese „Was-wäre-wenn"-Szenarien zu simulieren. Es ist wie der Versuch, einen perfekten alternativen Geschichtsroman zu schreiben. Die CP-Methode ist einfach (finde einfach einen Zwilling), aber sie könnte das echte Unrecht übersehen. Die MM-Methode ist komplex und erfordert mehr Vorstellungskraft, aber sie könnte die Wahrheit darüber aussagen, wie das System tatsächlich funktioniert.

Das Fazit

Die Arbeit sagt nicht, dass der alte Weg „falsch" oder der neue Weg „perfekt" ist. Stattdessen sagt sie: „Wir müssen aufhören zu tun, als gäbe es nur eine Art, Menschen zu vergleichen."

Wenn wir auf Diskriminierung testen, treffen wir eine Wahl darüber, wie „Fairness" aussieht.

Wenn wir sehen wollen, ob zwei Menschen mit dem gleichen Lebenslauf unterschiedlich behandelt werden, nutzen Sie den alten Weg.
Wenn wir sehen wollen, ob zwei Menschen, die aufgrund ihrer Identität unterschiedliche Lebenswege hatten, fair behandelt werden, brauchen wir den neuen Weg.

Die Autoren glauben, dass wir, da wir jetzt leistungsfähige KI-Tools haben, anfangen sollten, die „Anpassungen Vornehmen"-Methode zu verwenden, um ein klareres und ehrlicheres Bild von Diskriminierung zu erhalten.

1. Problemstellung

Das Papier adressiert eine grundlegende Einschränkung in aktuellen Diskriminierungstest-Methodologien, insbesondere hinsichtlich der Konstruktion des Vergleichspersonen (Comparator).

Kontext: Diskriminierungstests beruhen auf dem Vergleich einer „Beschwerdeführenden" (einer Person, die Diskriminierung aufgrund eines geschützten Merkmals $A$ , z. B. Rasse oder Geschlecht, behauptet) mit einer „Vergleichsperson" (einer ähnlichen Person aus einer nicht-geschützten Gruppe).
Der Standardansatz (Ceteris Paribus - CP): Die meisten bestehenden Tools (sowohl rechtliche als auch algorithmische) verwenden einen ceteris paribus („unter sonst gleichen Bedingungen")-Vergleich. Dies geht davon aus, dass die Vergleichsperson in allen nicht-geschützten Merkmalen ( $X$ ) identisch mit der Beschwerdeführenden ist und sich nur im geschützten Merkmal ( $A$ ) unterscheidet.
Der Mangel: Die Autoren argumentieren, dass der CP-Ansatz ein idealisiertes Vergleichsszenario darstellt, das der kausalen Realität nicht gerecht wird, in der geschützte Merkmale oft nicht-geschützte Merkmale beeinflussen (z. B. systemischer Rassismus, der Bildungsniveau oder Einkommen beeinflusst). Indem $X$ als identisch gehalten wird, wenn sich $A$ ändert, ignoriert der CP-Vergleich die nachgelagerten Effekte von Diskriminierung, was indirekte Diskriminierung möglicherweise verschleiert oder das wahre „Was-wäre-wenn"-Szenario nicht erfasst.
Kernfrage: Wie können wir eine Vergleichsperson ableiten, die den kausalen Einfluss des geschützten Merkmals auf andere Merkmale berücksichtigt, anstatt eine statische, idealisierte Welt anzunehmen, in der sich nur das geschützte Merkmal ändert?

2. Methodik

Die Autoren schlagen einen kausalen Modellierungsrahmen vor, um die Vergleichsperson neu zu definieren, und wechseln von einer statischen Distanzmetrik zu einem generativen, kontrafaktischen Ansatz.

A. Kausaler Rahmen

Das Papier nutzt Strukturelle Kausale Modelle (SCM) ( Pearls Rahmenwerk), um Diskriminierungstests zu formalisieren.

Variablen: $A$ (Geschütztes Merkmal), $X$ (Nicht-geschützte Merkmale), $Y$ (Entscheidungsoutput).
Kontrafaktisches Schließen: Die Herleitung einer Vergleichsperson wird als Beantwortung einer kontrafaktischen Frage formuliert: „Wie wäre der Ausgang gewesen, wenn die Beschwerdeführende ein anderes geschütztes Merkmal gehabt hätte?"
Verfahren: Die Autoren übernehmen die standardmäßigen Abduktion-Aktion-Vorhersage-Schritte:
1. Abduktion: Inferenz der latenten exogenen Variablen ( $U$ ) aus den beobachteten Daten.
2. Aktion: Intervention auf $A$ (Setzen von $A := \alpha$ ).
3. Vorhersage: Propagation der Änderung durch die strukturellen Gleichungen, um die kontrafaktische Verteilung von $X$ und $Y$ zu generieren.

B. Die zwei Typen von Vergleichspersonen

Das Papier führt eine formale Klassifizierung von Vergleichspersonen ein:

Ceteris Paribus (CP) Vergleichsperson:
- Definition: Findet eine Individuum $i'$ , sodass $d(x_i, x_{i'}) \leq \epsilon$ und $a_i \neq a_{i'}$ .
- Mechanismus: Minimiert die Distanz bei nicht-geschützten Merkmalen $X$ , während $A$ umgekehrt wird.
- Einschränkung: Geht davon aus, dass $X$ in der kontrafaktischen Welt unabhängig von $A$ ist, und ignoriert historische oder systemische kausale Zusammenhänge.
Mutatis Mutandis (MM) Vergleichsperson:
- Definition: Findet eine Individuum $i'$ , sodass $\tilde{d}((x_i, a_i), (x_{i'}, a_{i'})) \leq \epsilon$ und $a_i \neq a_{i'}$ .
- Mechanismus: Verwendet eine geschütztes-Merkmal-bewusste Distanzfunktion $\tilde{d}$ . Entscheidend ist, dass sie $x_i \neq x_{i'}$ zulässt.
- Implementierung: Die MM-Vergleichsperson erfordert die Generierung einer kontrafaktischen Darstellung $\tilde{X}$ der nicht-geschützten Merkmale der Beschwerdeführenden. Dieses $\tilde{X}$ repräsentiert, wie die Merkmale der Beschwerdeführenden gewesen wären, wenn sie zur nicht-geschützten Gruppe gehört hätte, und passt effektiv die nachgelagerten Effekte von $A$ auf $X$ an.
- Mathematische Formulierung: Die Autoren schlagen die Verwendung eines generativen Modells $g(\cdot)$ (z. B. basierend auf SCM) vor, um $\tilde{X} = g(X, A)$ zu lernen, sodass $\tilde{X} \perp A$ (faire Darstellung). Die Vergleichsperson wird dann gefunden, indem die Distanz zwischen $\tilde{X}$ und den tatsächlichen $X$ -Werten der nicht-geschützten Gruppe minimiert wird.

C. Experimenteller Aufbau

Um den Unterschied zu validieren, vergleichen die Autoren zwei Tools auf dem Zulassungsdaten für Juristische Fakultäten (Law School Admissions):

Situationsprüfung (Situation Testing - ST): Implementiert die CP-Vergleichsperson. Sie findet die nächsten Nachbarn im Datensatz basierend auf $X$ (GPA, LSAT) nach dem Umkehren des geschützten Merkmals.
Kontrafaktische Situationsprüfung (Counterfactual Situation Testing - CST): Implementiert die MM-Vergleichsperson. Sie verwendet ein SCM, um kontrafaktische Profile zu generieren (Anpassung von GPA/LSAT basierend auf dem kausalen Einfluss von Rasse/Geschlecht), bevor die nächsten Nachbarn gefunden werden.

3. Hauptbeiträge

Kausale Neuinterpretation: Die Autoren argumentieren, dass die Herleitung einer Vergleichsperson inhärent ein kausales Modellierungsproblem und nicht nur eine Ähnlichkeitssuche ist. Die Vergleichsperson ist eine kontrafaktische Darstellung der faktischen Beschwerdeführenden.
Das Konzept der MM-Vergleichsperson: Sie führen die Mutatis Mutandis-Vergleichsperson als eine gangbare Alternative zum Standard-CP-Vergleich ein. Dies verschiebt das Ziel von „ähnliche Menschen gleich behandeln" (formale Gleichheit) hin zu „substantielle Gleichheit erreichen", indem systemische Benachteiligungen berücksichtigt werden.
Formale Unterscheidung: Das Papier liefert eine rigorose mathematische Unterscheidung zwischen CP- und MM-Vergleichspersonen und hebt hervor, dass MM Dissimilarität in nicht-geschützten Merkmalen zulässt, wenn diese Unterschiede durch das geschützte Merkmal verursacht werden.
Integration von ML: Die Autoren positionieren maschinelles Lernen (insbesondere generative Modelle und SCMs) als wesentlich für die Implementierung der MM-Vergleichsperson, im Gegensatz zu Ansichten, die kausale Modellierung in Diskriminierungstests ablehnen.

4. Ergebnisse

Das illustrative Experiment mit dem Datensatz für Zulassungen an Juristischen Fakultäten ergab signifikante Befunde:

Erkennungsraten: Das CST (MM)-Tool erkannte signifikant mehr prima facie-Diskriminierungsfälle als das ST (CP)-Tool.
- Rasse: CST erkannte ca. 3-mal mehr Fälle als ST (z. B. 17,26 % vs. 3,08 % bei $k=500$ ).
- Geschlecht: CST erkannte etwas mehr Fälle, aber die Lücke war kleiner, was darauf hindeutet, dass der kausale Einfluss des Geschlechts auf die spezifischen Merkmale (GPA/LSAT) in diesem Datensatz weniger ausgeprägt war als bei der Rasse.
Verteilungsverschiebungen: Die visuelle Analyse (Boxplots) zeigte, dass unter ST die Testgruppe (Vergleichspersonen) Verteilungen von GPA/LSAT aufwies, die nahezu identisch mit der Kontrollgruppe waren. Unter CST waren die Verteilungen der Testgruppe verschoben, was die kontrafaktische Anpassung widerspiegelt, bei der der Einfluss des geschützten Merkmals auf die Merkmale entfernt wurde.
Implikation: Der CP-Ansatz (ST) erkennt indirekte Diskriminierung oft nicht, weil er davon ausgeht, dass ein Bewerber aus einer Minderheit, der denselben GPA/LSAT wie ein weißer Bewerber hat, „ähnlich" ist. Der MM-Ansatz (CST) erkennt, dass das Erreichen dieses GPA/LSAT möglicherweise das Überwinden systemischer Barrieren erfordert hat, und daher sollte die „faire" Vergleichsperson unterschiedliche Merkmalswerte aufweisen.

5. Bedeutung und Fazit

Substantielle vs. Formale Gleichheit: Das Papier argumentiert, dass die alleinige Abhängigkeit von CP-Vergleichspersonen formale Gleichheit durchsetzt (Menschen mit identischen aktuellen Statistiken gleich behandeln), was bestehende Ungleichheiten perpetuieren kann. Die MM-Vergleichsperson zielt auf substantielle Gleichheit ab, indem sie eine Welt imaginiert, in der systemische Barrieren beseitigt sind.
Normative Wirkung: Die Wahl der Vergleichsperson ist nicht nur ein technischer Parameter; sie ist eine normative Aussage darüber, was einen „fairen" Vergleich ausmacht. Die MM-Vergleichsperson zwingt Stakeholder, sich den kausalen Mechanismen der Diskriminierung zu stellen.
Zukünftige Richtungen: Die Autoren schlagen vor, dass zukünftige Diskriminierungstest-Tools über einfache Distanzmetriken hinausgehen und generative Modelle (wie SCMs oder Fair Representation Learning) einbeziehen sollten, um MM-Vergleichspersonen abzuleiten. Dies ermöglicht es dem Feld, von der Erkennung direkter Diskriminierung zur Aufdeckung komplexer, indirekter Diskriminierungsmuster zu wechseln, die in systemischen Verzerrungen verwurzelt sind.

Zusammenfassend postuliert das Papier, dass wir, um Diskriminierung in einer komplexen, voreingenommenen Gesellschaft wirklich zu testen, aufhören müssen zu fragen: „Wer ist genau wie diese Person, aber mit einer anderen Rasse/Geschlecht?" und beginnen müssen zu fragen: „Wer wäre diese Person, wenn die systemischen Effekte ihrer Rasse/des Geschlechts entfernt wären?" Die Mutatis Mutandis-Vergleichsperson bietet den technischen Rahmen, um die letztere Frage zu beantworten.