Picturing Perceptions: An Open-Source Toolkit to Uncover Bias in Humans and Machines
Dieses Paper stellt PictoPercept vor, ein Open-Source-Toolkit, das visuelle Forced-Choice-Vergleiche gegenüber realen Arbeitsmarktdaten nutzt, um signifikante, oft divergierende Biases sowohl im menschlichen Urteil als auch in KI-Systemen hinsichtlich des Einkommens über verschiedene demografische Gruppen hinweg zu messen und aufzuzeigen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen zu erraten, wer mehr Geld verdient, nur indem Sie auf deren Gesicht schauen. Würden Sie richtig raten? Oder würde Ihr Gehirn auf alte Stereotypen zurückgreifen, wie ein defektes GPS, das Sie immer wieder auf die falsche Straße schickt?
Dieses Paper stellt ein neues Werkzeug namens PictoPercept (kurz für „Picturing Perceptions“) vor, das genau das testen soll. Es ist wie ein „Bias-Detektor“ (Voreingenommenheits-Detektor), der sowohl für Menschen als auch für Computer funktioniert.
Hier ist die Geschichte darüber, was die Forscher gemacht und herausgefunden haben, einfach erklärt:
Das Problem: Die alten Werkzeuge waren kaputt
Jahrelang versuchten Wissenschaftler, Voreingenommenheit mithilfe von Umfragen (indem sie Menschen direkt fragten) oder Reaktionszeit-Tests (indem sie die Geschwindigkeit beim Drücken von Knöpfen maßen) zu messen.
- Umfragen sind wie jemanden zu fragen: „Bist du rassistisch?“ Die meisten Menschen werden „Nein“ sagen, weil sie gut dastehen wollen. Es ist, als würde man einen Dieb fragen, ob er stiehlt; er wird lügen.
- Reaktionstests sind wie ein Videospiel, bei dem man schnell Wörter sortieren muss. Aber Computer haben nicht auf die gleiche Weise „Reaktionszeiten“ wie Menschen, daher konnten diese Tests nicht verwendet werden, um zu prüfen, ob eine KI voreingenommen ist.
- Die fehlende Karte: Keines dieser alten Werkzeuge prüfte, ob die Vermutungen der Menschen mit der Realität übereinstimmten. Sie maßen lediglich, ob Menschen Gruppe A gegenüber Gruppe B bevorzugten, ohne zu fragen: „Ist Gruppe A in der realen Welt tatsächlich reicher oder ärmer?“
Die Lösung: Ein visuelles „Forced Choice“-Spiel (Erzwungene Wahl)
Die Forscher entwickelten PictoPercept, ein Open-Source-Toolkit (das bedeutet, dass jeder es kostenlos nutzen kann).
- Das Spiel: Sie sehen zwei Gesichter auf einem Bildschirm. Die Aufforderung lautet: „Wer hat mit größerer Wahrscheinlichkeit ein höheres Einkommen?“ Sie müssen sich für eines entscheiden. Sie können nicht sagen: „Ich weiß es nicht.“
- Der Trick: Die Gesichter sind sorgfältig aufeinander abgestimmt, sodass sie gleichermaßen attraktiv und vertrauenswürdig wirken. Der einzige Unterschied ist ihre ethnische Zugehörigkeit und ihr Geschlecht.
- Die Karte: Die Forscher verglichen Ihre Entscheidungen mit echten Daten des U.S. Bureau of Labor Statistics. Wenn die Daten besagen, dass asiatische Männer am meisten verdienen, Sie aber ständig lateinamerikanische Männer als die Höchstverdiener wählen, berechnet das Tool dies als einen „Bias-Score“ (Voreingenommenheitswert).
Sie testeten dies an 283 echten amerikanischen Erwachsenen und fütterten auch GPT-5, ein leistungsstarkes KI-Modell, mit exakt denselben Bildern.
Die großen Überraschungen (Die Ergebnisse)
1. Der „Model Minority“-Blindspot (Der blinde Fleck gegenüber der „Muster-Minderheit“)
Die größte Überraschung betraf Asiatisch-Amerikaner.
- Die Realität: Laut Regierungsdaten sind asiatische Amerikaner tatsächlich die Gruppe mit dem höchsten Einkommen in den USA.
- Die Wahrnehmung: Menschen unterschätzten ihr Einkommen drastisch. Selbst wenn ihnen Gesichter asiatischer Männer und Frauen gezeigt wurden, schätzten die Menschen ihr Einkommen als geringer ein, als es tatsächlich ist.
- Die Ironie: Sogar asiatische Teilnehmer der Studie unterschätzten das Einkommen ihrer eigenen Gruppe. Es ist, als ob das ganze Land einen blinden Fleck gegenüber dem Erfolg dieser Gruppe hat, vielleicht weil sie in Führungspositionen oder in den Medien nicht genug gesehen werden.
2. Der „Ingroup“-Mythos (Der Mythos der Zugehörigkeit zur eigenen Gruppe)
Wir denken oft, dass Menschen immer ihre eigene Gruppe bevorzugen (z. B. Weiße, die Weiße bevorzugen; Schwarze, die Schwarze bevorzugen).
- Die Realität: Das war nicht für alle der Fall.
- Weiße Männer zeigten tatsächlich eine Bevorzugung, indem sie das Einkommen ihrer eigenen Gruppe überschätzten.
- Asiatische Teilnehmer hingegen taten das Gegenteil. Sie unterschätzten ihre eigene Gruppe erheblich. Sie ignorierten die Voreingenommenheit nicht nur, sie dachten aktiv, dass ihre eigene Gruppe weniger verdient, als sie tatsächlich tun.
- Andere Gruppen (wie schwarze und lateinamerikanische Teilnehmer) waren überraschend genau in Bezug auf ihre eigenen Gruppen und zeigten keine starke Bevorzugung oder Voreingenommenheit.
3. Die KI ist noch voreingenommener
Als sie GPT-5 (die KI) testeten, waren die Ergebnisse erschreckend.
- Die KI imitierte nicht nur die menschliche Voreingenommenheit; sie verstärkte sie sogar.
- Die KI war extrem schlecht darin, Frauen zu beurteilen. Sie ging systematisch davon aus, dass alle weiblichen Gruppen viel weniger verdienten, als sie tatsächlich verdienen.
- Sie glaubte, dass alle männlichen Gruppen viel mehr verdienten.
- Während Menschen Fehler machten, waren die Fehler der KI riesig, konsistent und extrem. Es ist, als wäre es ein Schüler, der nicht nur die Antwort falsch gibt, sondern sie um den Faktor zehn falsch gibt.
Warum das wichtig ist
Das Paper argumentet, dass Voreingenommenheit nicht nur daraus besteht, eine Gruppe zu „hassen“; es geht darum, eine verzerrte Wahrnehmung der Realität zu haben.
- Wenn Sie glauben, dass eine Gruppe weniger verdient, als sie tatsächlich tut, behandeln Sie sie vielleicht bei der Einstellung oder Kreditvergabe unfair.
- Das Tool zeigt, dass unsere Gehirne (und unsere Computer) oft mit veralteter Software laufen, die nicht zur realen Welt passt.
Das Fazit
PictoPercept ist ein neuer Open-Source-Weg, um zu prüfen, ob unsere Wahrnehmungen mit der Realität übereinstimmen. Es fand heraus, dass:
- Wir blind für das hohe Einkommen von asiatisch-amerikanern sind.
- Wir nicht immer unsere eigene Gruppe bevorzugen; manchmal unterschätzen wir uns selbst.
- KI-Modelle wie GPT-5 derzeit viel voreingenommener sind als Menschen, insbesondere gegenüber Frauen.
Die Autoren schlagen vor, dass wir, bevor wir KI große Entscheidungen treffen lassen (wie etwa wer einen Kredit oder einen Job bekommt), Werkzeuge wie dieses benötigen, um zu prüfen, ob die KI die Welt durch einen Jahrmarktsspiegel betrachtet.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.