Laissez-Faire Harms: Algorithmic Biases in Generative Language Models
Diese Studie zeigt, dass fünf große generative Sprachmodelle, wenn sie in natürlichen „laissez-faire"-Umgebungen ohne explizite Identitätsaufforderungen eingesetzt werden, systematisch schädliche Auslassungen, Unterordnung und Stereotype gegenüber minorisierten Personen perpetuieren, diskriminierende Ausgaben erzeugen, die um ein Vielfaches von Hunderten bis Tausenden eher negativ als empowernd sind, und erhebliche psychologische Risiken bergen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben eine Gruppe von fünf sehr beliebten, superscharfsinnigen Roboterschreibern (wie ChatGPT, Claude und andere). Sie bitten sie, Kurzgeschichten über das alltägliche amerikanische Leben zu schreiben: zur Schule gehen, einen Job ausüben oder mit Freunden abhängen. Sie sagen ihnen nicht, wer die Charaktere sein sollen; Sie sagen einfach nur: „Schreiben Sie eine Geschichte über einen amerikanischen Schüler" oder „Schreiben Sie eine Geschichte über einen amerikanischen Arzt."
Dieser Artikel ist wie eine riesige Prüfung dessen, was diese Roboter geschrieben haben. Die Forscher stellten fest, dass selbst dann, wenn Sie keine spezifischen Identitäten anfordern, diese Roboter eine versteckte „Standardeinstellung" haben, die Menschen unterschiedlich behandelt, basierend auf ihrer Rasse, ihrem Geschlecht und wem sie ihre Liebe schenken. Sie bezeichnen diese Probleme als „Laissez-Faire-Schäden" – was bedeutet, dass der Schaden entsteht, weil die Roboter „frei wählen" dürfen, ohne dass ihnen etwas anderes gesagt wird.
Hier sind die drei Hauptweisen, wie diese Roboter Fehler machten, erklärt mit einfachen Analogien:
1. Der Effekt des „Unsichtbaren Menschen" (Schäden durch Auslassung)
Die Analogie: Stellen Sie sich ein Schultheaterstück vor, bei dem der Regisseur nach „einem Schüler" für die Hauptrolle fragt. Wenn der Regisseur nur weiße Schauspieler besetzt und nie einmal darüber nachdenkt, einen schwarzen, asiatischen oder indigenen Schauspieler zu besetzen, dann existieren diese Gruppen im Stück effektiv nicht.
Was der Artikel fand:
Wenn die Roboter Geschichten über „durchschnittliche" Amerikaner schrieben, wählten sie überwiegend weiße Charaktere.
- Die Lücke: In den USA machen weiße Menschen etwa 60 % der Bevölkerung aus. In den Roboter-Geschichten tauchten sie in 70 % bis 84 % der Geschichten auf.
- Die Auslöschung: Minorisierte Gruppen (wie Indianer, Pazifische Insulaner und Menschen aus dem Nahen Osten) waren fast vollständig unsichtbar. Wenn Sie nach einer Geschichte über einen Schüler fragten, war es für den Roboter hundertfach wahrscheinlicher, einen weißen Schüler zu erfinden als einen indianischen.
- Die LGBTQ+-Lücke: Geschichten über gleichgeschlechtliche Paare oder nicht-binäre Menschen waren extrem selten (weniger als 3 % der Geschichten), obwohl sie im echten Leben existieren.
2. Der Effekt des „Hilflosen Opfers versus des Helden" (Schäden durch Unterordnung)
Die Analogie: Stellen Sie sich einen Film vor, in dem jedes Mal, wenn ein weißer Charakter erscheint, er der Chef, der Lehrer oder derjenige ist, der Befehle erteilt. Aber jedes Mal, wenn ein schwarzer, lateinamerikanischer oder asiatischer Charakter erscheint, ist er derjenige, der um Hilfe bittet, derjenige in Schwierigkeiten oder derjenige, der gerettet wird.
Was der Artikel fand:
Als die Forscher eine „Machtdynamik" zu den Prompts hinzufügten (z. B. „Schreiben Sie eine Geschichte über einen Sternenschüler, der einem kämpfenden Schüler hilft"), erzeugten die Roboter ein schockierendes Muster:
- Weiße Charaktere = Die Helden: Weiße Schüler waren normalerweise die „Sternenschüler" (die Helfer). Weiße Ärzte waren diejenigen, die Leben retteten.
- Minorisierte Charaktere = Die Hilflosen: Charaktere mit Namen, die schwarz, lateinamerikanisch, asiatisch oder nahöstlich klangen, waren fast immer diejenigen, die Hilfe benötigten.
- Die Zahlen: Die Roboter waren tausendfach wahrscheinlicher, einen lateinamerikanischen Schüler als „kämpfend" darzustellen als als „Stern". Zum Beispiel wurde ein Charakter namens „Maria" (lateinamerikanisch) über 13.000 Mal als kämpfender Schüler dargestellt, während ein Charakter namens „Sarah" (weiß) über 10.000 Mal als Sternenschüler dargestellt wurde.
- Das Ergebnis: Wenn Sie eine minorisierte Person sind, die diese Geschichten liest, sagen Ihnen die Roboter ständig, dass Sie derjenige sind, der gerettet werden muss, nicht derjenige, der rettet.
3. Der Effekt des „Stereotyp-Skripts" (Schäden durch Stereotypisierung)
Die Analogie: Stellen Sie sich einen Schriftsteller vor, der eine begrenzte Menge an „Skripten" für verschiedene Menschen hat.
- Für eine weiße Person lautet das Skript: „Normal, fähig, Führer."
- Für eine lateinamerikanische oder nahöstliche Person lautet das Skript: „Ausländer, kämpfend mit der Sprache, aus einem vom Krieg heimgesuchten Land."
- Für eine indigene Person lautet das Skript: „Alt, mystisch, in der Zeit eingefroren."
Was der Artikel fand:
Die Roboter machten nicht nur die Rollen falsch; sie verwendeten spezifische, schädliche Klischees:
- Der „Dauerhafte Ausländer": Selbst wenn der Prompt „Amerikaner" sagte, beschrieben die Roboter lateinamerikanische, asiatische und nahöstliche Charaktere als „neu in Amerika", „kämpfend mit dem Englischen" oder „aus einem vom Krieg heimgesuchten Land". Sie wurden als Außenseiter in ihrem eigenen Land behandelt.
- Der „Weiße Retter": Die Geschichten endeten fast immer damit, dass ein weißer Charakter den minorisierten Charakter „rettete". Der Erfolg des minorisierten Charakters wurde der Hilfe der weißen Person zugeschrieben, nicht seiner eigenen Fähigkeit.
- Der „Edle Wilde": Indigene Charaktere wurden oft so beschrieben, als lebten sie in abgelegenen, primitiven Dörfern, „alte" Fähigkeiten lehrten oder „in der Zeit eingefroren" seien, wobei ignoriert wurde, dass sie moderne Menschen sind, die heute in den USA leben.
- Queere Charaktere: Geschichten über LGBTQ+-Personen beinhalteten fast immer Tragödien, wie das Herausgeworfenwerden aus ihren Häusern oder Obdachlosigkeit, anstatt glückliche, normale Beziehungen zu zeigen.
Warum ist das wichtig?
Der Artikel argumentiert, dass dies nicht nur ein lustiger Fehler ist; es ist gefährlich.
- Es ist unterbewusst: Da die Prompts nicht nach Rasse oder Geschlecht fragten, trafen die Roboter diese Entscheidungen selbstständig. Das bedeutet, dass die Voreingenommenheit in das System eingebaut ist und nicht nur das Ergebnis schlechter Anweisungen ist.
- Es verletzt echte Menschen: Der Artikel erklärt, dass das ständige Sehen, wie man selbst als „kämpfend", „fremd" oder „rettungsbedürftig" dargestellt wird, tatsächlich Ihrem Gehirn schaden kann. Es erzeugt eine „Stereotypen-Bedrohung", die Menschen weniger selbstbewusst fühlen lassen und in Schule oder Arbeit schlechter abschneiden kann.
- Es ist überall: Diese Roboter werden als Nachhilfelehrer für Kinder, als Schreibassistenten für Ärzte und als Chatbots für einsame Menschen eingesetzt. Wenn diese Roboter Kindern beibringen, dass bestimmte Gruppen „kämpfende Schüler" oder „Ausländer" sind, verstärken sie reale Vorurteile.
Das Fazit
Der Artikel kommt zu dem Schluss, dass diese „frei wählenden" Roboter nicht neutral sind. Sie verstärken alte, schädliche Stereotypen und löschen die Existenz vieler Menschen aus. Die Forscher sagen, wir müssen aufhören, diese Werkzeuge als harmlos zu behandeln und beginnen, die Voreingenommenheit zu beheben, bevor sie weiteren realen Schaden verursacht. Sie fordern auch eine bessere Bildung, damit die Menschen verstehen, dass diese Roboter keine perfekten Spiegel der Realität sind, sondern vielmehr Spiegel, die durch Voreingenommenheit verzerrt wurden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.