Large Language Models Reproduce Racial Stereotypes When Used for Text Annotation
Die Studie zeigt, dass große Sprachmodelle bei der automatisierten Textannotation systematisch rassistische Stereotype reproduzieren, indem sie Texte mit Namen oder Dialekten von Minderheiten negativ bewerten, was zu verzerrten Datensätzen in Forschung und Entscheidungsfindung führt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Der unsichtbare Vorurteils-Filter: Wie KI unsere Texte falsch beurteilt
Stellen Sie sich vor, Sie haben 19 verschiedene digitale Richter (die großen Sprachmodelle oder „LLMs"). Diese Richter werden oft eingesetzt, um Texte automatisch zu bewerten – zum Beispiel, um zu entscheiden, ob ein Lebenslauf gut ist, ob eine Nachricht höflich klingt oder ob jemand als „intelligent" oder „aggressiv" wahrgenommen wird.
Die Studie von Petter Törnberg hat diese Richter auf den Prüfstand gestellt. Das Ergebnis ist beunruhigend: Diese Richter tragen unsichtbare, rassistische Vorurteile in sich, die sie aus ihrer Trainingsdaten-Menge „gelernt" haben.
Hier ist, was passiert, wenn man ihnen Texte mit unterschiedlichen Namen oder Dialekten vorlegt:
1. Der Name als „Vorurteils-Tattoo"
In einem Experiment wurden fast identische Texte mit verschiedenen Namen versehen. Die KI sollte dann bewerten, wie die Person wirkt.
- Schwarze Namen: Texte mit Namen, die typisch für schwarze Menschen sind, wurden von fast allen KI-Modellen als aggressiver und klatschsüchtiger eingestuft. Es war, als würde die KI automatisch eine „rote Warnlampe" aufleuchten lassen, obwohl der Textinhalt derselbe war.
- Asiatische Namen: Hier zeigte sich das sogenannte „Bambus-Decken"-Phänomen. Die KI sah diese Personen als sehr intelligent und kreativ an (wie ein „Smart-Box"-Label), aber gleichzeitig als weniger selbstbewusst, weniger gesellig und weniger führungstauglich. Es ist, als würde die KI sagen: „Du bist ein toller Ingenieur, aber du bist kein Chef."
- Arabische Namen: Diese trugen ein gemischtes Erbe. Die KI sah sie als intelligent und ehrgeizig, aber gleichzeitig als weniger warmherzig, weniger kommunikativ und emotionaler.
- Hispanische Namen: Auch hier gab es eine Spaltung: Sie wurden als intelligent gesehen, aber gleichzeitig ärmer und weniger führungstark eingestuft.
Die gemeinsame Strafe: Egal welcher Minderheitengruppe der Name zugeordnet wurde – fast alle Modelle bewerteten diese Personen als weniger diszipliniert als weiße Personen.
2. Der Dialekt als „sozialer Riss"
In einem zweiten Experiment war der Name gleich, aber die Sprache änderte sich. Ein und derselbe Satz wurde einmal in „Standard-Englisch" (SAE) und einmal in „African American Vernacular English" (AAVE – ein Dialekt, der von vielen schwarzen Amerikanern gesprochen wird) geschrieben.
Das Ergebnis war noch drastischer:
- Wenn der Text im Dialekt (AAVE) geschrieben war, bewerteten alle 19 KI-Modelle ihn als weniger professionell, weniger gebildet, wütender und giftiger (toxisch) als die Standard-Version.
- Selbst wenn der Inhalt exakt derselbe war, wurde der Dialekt als „Fehler" gewertet. Es ist, als würde ein Richter sagen: „Der Inhalt ist gut, aber weil du die Wörter anders aussprichst, bist du nicht qualifiziert."
3. Die seltsame Ausnahme: Die „Überkorrektur" bei der Einstellung
Es gab einen einzigen Bereich, in dem die KI das Gegenteil tat: Bei der Frage „Ist diese Person einstellbar?" bevorzugten die Modelle fast alle Bewerber mit Minderheiten-Namen gegenüber weißen Namen.
Warum? Die Forscher vermuten, dass die KI-Entwickler ihre Modelle speziell darauf trainiert haben, offensichtliche Diskriminierung bei Namen zu vermeiden. Da dies leicht zu testen ist (Name A vs. Name B), haben die Entwickler die KI so stark „überkorrigiert", dass sie nun sogar zu freundlich zu Minderheiten-Namen ist. Aber: Die tieferen, versteckten Vorurteile (wie „weniger diszipliniert" oder „weniger professionell im Dialekt") blieben bestehen.
Warum ist das wichtig?
Stellen Sie sich vor, diese KI-Richter wären die Türsteher für unsere Gesellschaft.
- Wenn sie Lebensläufe filtern, könnten sie talentierte Menschen mit bestimmten Namen oder Dialekten aussortieren, bevor ein Mensch sie überhaupt sieht.
- Wenn sie Forschungsdaten analysieren, könnten sie falsche Schlussfolgerungen über bestimmte Gruppen ziehen.
Die Kernbotschaft:
Künstliche Intelligenz ist nicht neutral. Sie ist wie ein Spiegel, der die Vorurteile der Gesellschaft widerspiegelt, in der sie trainiert wurde. Wenn wir diese Modelle blind vertrauen, um Texte zu bewerten oder Entscheidungen zu treffen, verfestigen wir alte Stereotype und bauen sie direkt in unsere Datenbanken und Algorithmen ein.
Die Studie warnt uns: Wir müssen vorsichtig sein, wenn wir KI als „objektiven Richter" einsetzen, denn dieser Richter hat oft eine unsichtbare Brille auf, die die Welt durch die Linse von Vorurteilen sieht.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.