What Is the Point of Equality in Machine Learning Fairness? Beyond Equality of Opportunity

Dieses Papier argumentiert, dass der ausschließliche Fokus auf verteilende Gleichheit als ethische Grundlage für Fairness im maschinellen Lernen unzureichend ist, und schlägt stattdessen einen umfassenderen egalitären Rahmen vor, der sowohl verteilende als auch relationale Gleichheit integriert, um sowohl allozierende als auch repräsentative Schäden zu bekämpfen und strukturelle Ungleichheit zu überwinden.

Das Wesentliche

Das große Problem: Warum ist „Fairness" in KI nicht einfach nur eine Frage der Verteilung?

Stell dir vor, du bist der Koch in einer riesigen Küche, die für die ganze Welt kocht. Die Maschine (die KI) soll entscheiden, wer was bekommt: Jobs, Kredite, Werbung oder sogar, welche Gesichter auf Fotos zu sehen sind.

Bisher haben sich die meisten Experten darauf konzentriert, wie man die Portionen gerecht verteilt. Das nennen sie „Verteilungsgleichheit" (Distributive Equality).

• Die Idee: Wenn 100 Leute da sind, sollen 50 Männer und 50 Frauen einen Job bekommen. Wenn 100 Leute da sind, sollen alle die gleiche Chance haben, den Job zu kriegen.
• Das Problem: Diese Methode ignoriert, wie die Leute behandelt werden, während sie in der Küche stehen. Sie kümmert sich nur um das Ergebnis (den Teller), nicht um die Atmosphäre.

Der Autor dieses Artikels sagt: Das reicht nicht! Es gibt eine zweite Art von Ungerechtigkeit, die durch reine Zahlen nicht erfasst wird. Er nennt sie „Beziehungsgleichheit" (Relational Equality).

---

Die zwei Arten von Schaden: Der Teller und die Schande

Der Artikel unterscheidet zwei Hauptarten von Schaden, die KI-Systeme anrichten können. Stell dir vor, die KI ist ein riesiger Spiegel, der die Gesellschaft widerspiegelt.

1. Der materielle Schaden (Allocative Harm) – „Der Teller ist leer"

Das ist das, was die meisten kennen. Die KI nimmt jemandem etwas weg, das er braucht.

• Beispiel: Eine KI für Stellenanzeigen zeigt Jobs nur Männern an. Frauen sehen die Angebote gar nicht.
• Die Lösung (Verteilungsgleichheit): Wir programmieren die KI so, dass sie 50 % der Jobs an Frauen und 50 % an Männer verteilt. Das ist gut, aber es löst nur das Problem des „leeren Tellers".

2. Der symbolische Schaden (Representational Harm) – „Die Schande"

Hier wird jemand nicht nur benachteiligt, sondern herabgewürdigt, ignoriert oder als „falsch" dargestellt. Das ist wie eine Beleidigung, die in den Code der Maschine eingeschrieben ist.

• Beispiel A (Stereo-Typen): Wenn du in einer KI „Chef" eingibst, zeigt sie dir nur Männer. Wenn du „Krankenschwester" eingibst, zeigt sie nur Frauen. Die KI sagt damit: „Männer sind von Natur aus Führer, Frauen sind von Natur aus Pfleger." Das ist nicht nur eine falsche Verteilung, es ist eine Botschaft über den Wert der Menschen.
• Beispiel B (Verstümmelung): Eine KI erkennt Gesichter von schwarzen Frauen nicht. Sie ist für sie quasi blind. Das ist, als würde man sagen: „Du existierst in dieser Welt gar nicht."
• Beispiel C (Verunglimpfung): Eine KI zeigt bei der Suche nach „kriminell" oft dunkelhäutige Menschen, aber bei „Held" nur weiße. Das ist eine tiefe Demütigung.

Der Kernpunkt: Du kannst nicht einfach sagen: „Okay, wir verteilen die Bilder von kriminellem Verhalten jetzt zu 50/50 zwischen Schwarzen und Weißen." Das löst das Problem nicht. Das Problem ist nicht die Anzahl der Bilder, sondern die Botschaft, dass eine Gruppe per se verdächtig ist. Das ist eine Frage der Beziehung: Sehen wir uns als Gleiche an oder als Herr und Knecht?

---

Die neue Lösung: Ein zweibeiniger Stuhl

Der Autor schlägt vor, wir müssen aufhören, nur auf einen Stuhl zu schauen (nur Verteilung). Wir brauchen einen zweibeinigen Stuhl, damit wir nicht umfallen.

1. Bein 1: Verteilungsgleichheit (Der Teller)

   • Wir müssen sicherstellen, dass Ressourcen (Jobs, Kredite, Sichtbarkeit) fair verteilt werden.
   • Metapher: Niemand darf hungrig nach Hause gehen, nur weil er eine bestimmte Hautfarbe hat.

2. Bein 2: Beziehungsgleichheit (Der Stuhl)

   • Wir müssen sicherstellen, dass alle Menschen als gleiche Partner behandelt werden. Niemand darf als „unterlegen", „fremd" oder „gefährlich" dargestellt werden.
   • Metapher: Niemand darf im Raum sitzen, während andere stehen und auf ihn herabschauen. Alle müssen sich auf Augenhöhe begegnen.

Wenn wir nur das erste Bein reparieren (mehr Jobs für Frauen), aber das zweite Bein ignorieren (Frauen werden immer noch als schwach dargestellt), bleibt die Ungerechtigkeit bestehen.

---

Warum technische „Flickschusterei" nicht reicht

Viele versuchen, das Problem zu lösen, indem sie einfach die Zahlen ändern.

• Der Versuch: „Lass uns die KI so programmieren, dass sie bei der Suche nach 'Chef' genauso oft Frauen wie Männer zeigt."
• Das Problem: Das ist wie ein Klebeband auf einer Wunde.
  • Wenn die KI plötzlich einen schwarzen Papst oder einen asiatischen Nazi-Soldaten zeigt, nur um die Zahlen auszugleichen, ist das nicht fair. Das ist historisch falsch und respektlos.
  • Es ignoriert die tieferen Gründe: Warum denken wir überhaupt, dass bestimmte Gruppen „kriminell" oder „unterlegen" sind? Die KI spiegelt nur unsere Vorurteile wider. Wenn wir nur die Zahlen ändern, ohne die Vorurteile zu verstehen, machen wir die KI nur zu einem besseren Spiegel derselben alten Probleme.

---

Was müssen wir tun? (Der Weg nach vorne)

Der Autor sagt: Wir können das Problem nicht nur im Code lösen. Wir müssen den ganzen Prozess ändern, von der Planung bis zur Nutzung.

1. Die Zutaten mischen (Daten):

   • Statt dass eine große Tech-Firma allein entscheidet, welche Bilder in die KI kommen, müssen die betroffenen Gemeinschaften mitreden.
   • Metapher: Wenn du ein Gericht für eine ganze Familie kochst, fragst du die Familie, was sie essen wollen, statt einfach nur das zu kochen, was du magst. Wenn schwarze Communities helfen, Trainingsdaten zu erstellen, wird die KI weniger blind für sie.

2. Die Köche schulen (Bewusstsein):

   • Die Entwickler und die Nutzer müssen verstehen, dass KI nicht neutral ist. Sie muss lernen, Vorurteile zu erkennen.
   • Metapher: Ein Koch muss wissen, dass er Salz nicht blind hinzufügen darf, sondern schmecken muss, ob es passt.

3. Die Küche durchsichtig machen (Design):

   • Wir sollten nicht nur das fertige Ergebnis sehen, sondern verstehen, warum die KI so entschieden hat.
   • Metapher: Statt einer magischen Kiste, die ein Ergebnis spuckt, brauchen wir ein Fenster, durch das man sehen kann, welche Zutaten (Daten) reingegangen sind.

4. Es ist ein Marathon, kein Sprint:

   • Wir können nicht einfach eine KI einmal trainieren und fertig sein. Wir müssen ständig Feedback geben und nachbessern, weil sich die Gesellschaft ändert.

Fazit in einem Satz

Gerechte KI bedeutet nicht nur, dass alle die gleiche Chance bekommen (Verteilung), sondern dass alle Menschen in der digitalen Welt mit dem gleichen Respekt behandelt werden und niemand als „falsch" oder „minderwertig" dargestellt wird (Beziehung). Wir brauchen beides, um eine wirklich faire Welt zu bauen.

Technische Zusammenfassung

1. Problemstellung (Problem)

Der Bereich der Fairness im maschinellen Lernen (ML) hat sich stark auf die Entwicklung statistischer Metriken zur Messung von (Un-)Fairness konzentriert (z. B. Demografische Parität, Fehlerquoten-Parität). Ein zentrales Problem ist jedoch, dass die normative Grundlage für diese Metriken oft unzureichend oder irreführend ist.

• Dominanz der Verteilungsgleichheit (Distributive Equality - DE): Die meisten aktuellen Forschungsarbeiten stützen sich implizit oder explizit auf das Konzept der Verteilungsgleichheit, insbesondere der Chancengleichheit (Equality of Opportunity - EOP). Dabei wird Unfairness primär als ungerechte Verteilung von Ressourcen, Chancen oder Lasten (z. B. Kredite, Jobs, falsche Klassifizierungen) betrachtet.
• Lücke bei Repräsentationsschäden: Diese rein verteilungsbasierte Perspektive ist unvollständig, insbesondere bei generativen Modellen (Text- und Bildgenerierung). Sie kann erklären, warum allokative Schäden (z. B. wirtschaftlicher Verlust, verwehrte Chancen) falsch sind, versagt jedoch bei der ethischen Begründung von Repräsentationsschäden (z. B. Stereotypisierung, Demütigung, Auslöschung/Erasure, Essentialisierung).
• Kernfrage: Warum sind ML-Systeme, die soziale Hierarchien verstärken (z. B. durch Stereotype), moralisch verwerflich, wenn keine direkte Ressourcenverteilung betroffen ist? Die aktuelle DE-Perspektive kann dies nicht adäquat erklären, da sie Beziehungen zwischen Menschen nicht als „verteilbare Güter" begreift.

2. Methodik (Methodology)

Der Artikel verfolgt einen normativ-philosophischen Ansatz, der kritische Sozial- und Politische Philosophie mit ML-Forschung verbindet.

• Theoretische Analyse: Die Autorin analysiert die vorherrschenden normativen Rahmenwerke (insbesondere Barocas, Hardt und Narayanas Argumentation für EOP) und grenzt diese von alternativen Theorien ab.
• Konzeptuelle Unterscheidung: Sie unterscheidet zwischen zwei Hauptformen von Schäden durch ML-Systeme:
  1. Allokative Schäden (Allocative Harms): Verweigerung von Ressourcen/Chancen.
  2. Repräsentationsschäden (Representational Harms): Verstärkung von Unterordnung und sozialen Hierarchien (Stereotype, Demütigung, Auslöschung, Essentialisierung).
• Integration philosophischer Theorien:
  • Verteilungsgleichheit (DE): Wird als notwendig, aber unzureichend für Repräsentationsschäden identifiziert.
  • Relationale Gleichheit (Relational Equality - RE): Basierend auf den Arbeiten von Elizabeth Anderson, Iris Marion Young und Nancy Fraser. RE betrachtet Gleichheit nicht als Verteilung von Gütern, sondern als das Ideal, dass Menschen als Gleiche (nicht als Über- und Unterlegene) miteinander in Beziehung stehen.
• Analyse technischer Interventionen: Der Artikel bewertet bestehende technische „Fixes" (z. B. Prompt-Engineering, Daten-Diversifizierung) daraufhin, ob sie die tieferen relationalen Probleme adressieren oder diese nur auf eine Verteilungsproblematik reduzieren.

3. Schlüsselbeiträge (Key Contributions)

Der Artikel leistet drei wesentliche Beiträge zur ML-Fairness-Forschung:

1. Kritik der reinen Chancengleichheit (EOP): Die Autorin argumentiert, dass EOP (und DE im Allgemeinen) zwar notwendig ist, um allokative Schäden zu bekämpfen, aber moralisch unzureichend ist, um Repräsentationsschäden zu erklären. Repräsentationsschäden verletzen das Prinzip der relationalen Gleichheit, indem sie soziale Hierarchien (Status, Wertschätzung, Herrschaft) zementieren, anstatt nur Ressourcen ungleich zu verteilen.
2. Ein neues, multifaktorielles egalitäres Rahmenwerk: Es wird ein integriertes Framework vorgeschlagen, das Verteilungsgleichheit (DE) und Relationale Gleichheit (RE) vereint.
   • DE adressiert allokative Schäden (Ungleichverteilung von Chancen/Ressourcen).
   • RE adressiert repräsentative Schäden (Ungleichheit in sozialen Beziehungen, Stigmatisierung, Entmündigung).
   • Das Framework erkennt an, dass beide Schäden oft gleichzeitig auftreten und sich gegenseitig verstärken (z. B. führt Auslöschung zu mangelnden Chancen).
3. Kritik an rein technischen Lösungen: Der Artikel zeigt auf, dass aktuelle technische Ansätze (wie „Equal Representation" durch Prompt-Engineering oder Daten-Substitution) oft scheitern, weil sie Repräsentationsschäden fälschlicherweise als reine Verteilungsungleichgewichte behandeln. Das bloße Ausbalancieren von Statistiken (z. B. 50:50 Geschlechterverteilung in Bildern) ignoriert historische Kontexte, Machtstrukturen und die Gefahr, Stereotype nur umzudrehen, statt sie zu dekonstruieren.

4. Ergebnisse und Erkenntnisse (Results & Findings)

• Unzulänglichkeit der Verteilungsperspektive: Die Annahme, dass man Repräsentationsschäden durch eine „gerechte Verteilung" von Respekt oder Darstellungen beheben kann, ist theoretisch fehlerhaft. Soziale Beziehungen (Wertschätzung, Status) sind keine teilbaren Güter, die man wie einen Kuchen verteilen kann.
• Strukturelle Ungleichheit: ML-Systeme sind keine neutralen technischen Werkzeuge, sondern soziotechnische Systeme, die strukturelle Ungleichheit (Dominanz und Unterdrückung) reproduzieren. Dies manifestiert sich nicht nur in Fehlern, sondern in der Art und Weise, wie Gruppen als „normal" (überlegen) oder „abweichend" (unterlegen) konstruiert werden.
• Versagen aktueller Techniken:
  • Substitution: Das Ersetzen von Stereotypen durch das Gegenteil (z. B. weiße Männer als Kriminelle statt dunkelhäutige Frauen) löst das Problem der Racialisierung nicht.
  • Entfernung: Das Streichen negativer Begriffe führt oft zu asymmetrischen Ergebnissen (z. B. Verweigerung von Antworten bei muslimischen Namen, aber nicht bei westlichen).
  • Kontextlosigkeit: Das Erhöhen der Diversität ohne historischen Kontext kann zu respektlosen und unlogischen Ergebnissen führen (z. B. „Nazi-Soldaten" asiatischer Herkunft).
• Notwendigkeit ganzheitlicher Ansätze: Technische Fixes allein reichen nicht aus. Fairness erfordert Eingriffe in den gesamten ML-Lebenszyklus (Daten, Design, Deployment) und gesellschaftlichen Wandel.

5. Bedeutung und Implikationen (Significance)

Die Bedeutung dieses Artikels liegt in der Erweiterung des ethischen Fundaments für ML-Fairness:

• Paradigmenwechsel: Er fordert einen Wechsel von einer reinen „Chancengleichheit"-Perspektive hin zu einer umfassenden „Gleichheit der Beziehung" (Relational Equality). Dies ist besonders kritisch für die Ära der generativen KI (LLMs, Bildgeneratoren), wo Repräsentationsschäden dominieren.
• Praktische Leitlinien: Der Artikel schlägt konkrete, nicht-technische Wege vor, um das neue Framework umzusetzen:
  1. Partizipative Datenerhebung: Einbeziehung marginalisierter Gemeinschaften in die Erstellung von Datensätzen (z. B. Masakhane-Projekt), um Datenmonopole und Ausbeutung zu durchbrechen.
  2. Kritische Reflexion: Schulung von Entwicklern und Nutzern, um strukturelle Ungleichheiten und Vorurteile in Modellen zu erkennen.
  3. User Agency durch Design: Entwicklung von Modellen, die Transparenz bieten („Seamful Design") und Gegen-Narrative fördern, statt Nutzer als passive Empfänger zu behandeln.
  4. Iterativer Prozess: Fairness muss als kontinuierlicher, iterativer Prozess verstanden werden, der Feedback von betroffenen Gemeinschaften einbezieht.
• Gesellschaftliche Verantwortung: Der Artikel betont, dass algorithmische Probleme oft gesellschaftliche Probleme sind. Eine echte Lösung erfordert sowohl technische Reformen als auch den Kampf gegen gesellschaftliche Unterdrückungsstrukturen (Dominanz, Ausbeutung, kulturellen Imperialismus).

Fazit: Das Paper liefert ein robustes ethisches Argument dafür, dass ML-Fairness nicht nur die gerechte Verteilung von Ressourcen (DE) sicherstellen muss, sondern auch die Beseitigung von sozialen Hierarchien und die Förderung gleichberechtigter zwischenmenschlicher Beziehungen (RE) zum Ziel haben muss. Nur ein solches multifaktorielles Framework kann die volle Bandbreite der durch ML-Systeme verursachten Schäden adressieren.