Generating the Modal Worker: A Cross-Model Audit of Race and Gender in LLM-Generated Personas Across 41 Occupations
Die Studie zeigt, dass vier große Sprachmodelle bei der Generierung von 1,5 Millionen Berufspersonen über 41 Berufe hinweg systematische Verzerrungen aufweisen, die reale demografische Variationen zugunsten stereotyper, dominanter Profile verzerren und dabei bestimmte ethnische Gruppen wie Weiße und Schwarze unter-, während andere wie Hispanische und Asiaten überrepräsentiert werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Experiment: Wer sind die "Künstlichen Mitarbeiter"?
Stellen Sie sich vor, Sie haben vier sehr kluge, aber unterschiedlich erzogene digitale Assistenten (die KI-Modelle GPT-4, Gemini, DeepSeek und Mistral). Sie bitten diese Assistenten, für 41 verschiedene Berufe (von Softwareentwicklern bis zu Krankenschwestern) jeweils 10.000 fiktive Personen zu erfinden.
Die Forscher wollten wissen: Wenn diese KIs Menschen für Jobs erfinden, sehen diese Menschen so aus wie in der echten Welt, oder machen sie sich ihre eigenen, verzerrten Vorstellungen?
Um das zu überprüfen, haben sie die Ergebnisse mit den echten Zahlen des US-Arbeitsministeriums (BLS) verglichen. Das ist wie ein "Realitäts-Check".
Die wichtigsten Entdeckungen (in einfachen Worten)
1. Die KI mag keine Vielfalt (Der "Einheitsbrei"-Effekt)
In der echten Welt ist ein Beruf wie ein großer Topf mit Suppe, in dem viele verschiedene Zutaten (Männer, Frauen, verschiedene ethnische Gruppen) in unterschiedlichen Anteilen schweben.
Die KIs machen daraus aber eher einen Einheitsbrei.
- Beispiel: Wenn die KI gebeten wird, 1.000 "Softwareentwickler" zu erfinden, gibt sie fast immer nur Männer aus. Sie denkt nicht: "Nun, in der Realität sind es 80 % Männer und 20 % Frauen", sondern sie denkt: "Softwareentwickler = Mann" und macht alle 1.000 zu Männern.
- Das Problem: Die KIs verlieren die echte Vielfalt. Sie drücken jede Berufsgruppe auf ein einziges, dominantes Profil zusammen.
2. Die "Stereotypen-Verstärker"
Die KIs nehmen die Vorurteile unserer Gesellschaft und machen sie noch extremer.
- Frauen: In Berufen, die schon von Frauen dominiert werden (z. B. Krankenschwestern), stellen die KIs noch mehr Frauen dar als in der Realität. In Berufen, die von Männern dominiert werden (z. B. Ingenieure), stellen sie noch weniger Frauen dar. Sie schieben die Waage also noch weiter in die eine Richtung.
- Ethnische Gruppen: Hier wird es besonders seltsam.
- Weiße Arbeiter: Werden in fast allen Berufen seltener dargestellt, als sie es in der Realität sind.
- Schwarze Arbeiter: Werden in vielen Berufen fast komplett unsichtbar gemacht. Die KI vergisst sie einfach, außer in wenigen stereotypen Jobs (wie Sicherheitsdienst oder Busfahrer). Es ist, als würde die KI sagen: "Schwarze Menschen gehören hier nicht hin."
- Hispanische und asiatische Arbeiter: Werden in bestimmten Berufen massiv überrepräsentiert.
- Ein extremes Beispiel: Die KI stellt fast jeden Putzmann (Housekeeper) als Hispanic dar – in der Realität sind das zwar viele, aber bei weitem nicht alle. Die KI hat diese Verbindung so fest im Kopf, dass sie keine andere Möglichkeit mehr sieht.
3. Sind alle KIs gleich schief?
Das ist das Spannendste: Die Forscher haben vier KIs aus verschiedenen Ländern (USA, China, Frankreich) getestet.
- Ergebnis: Alle vier machen fast dasselbe.
- Die Analogie: Stellen Sie sich vor, vier verschiedene Köche aus verschiedenen Ländern bekommen den gleichen Auftrag, einen Salat zu machen. Wenn alle vier plötzlich nur Tomaten verwenden und das Dressing vergessen, dann liegt das nicht daran, dass einer der Köche einen schlechten Tag hatte. Es liegt daran, dass sie alle die gleichen Zutaten (die Trainingsdaten aus dem Internet) bekommen haben, die diese Verzerrung enthalten.
- Die Verzerrungen kommen also nicht von einem einzelnen "fehlerhaften" Modell, sondern sind ein strukturelles Problem, das in der gesamten KI-Welt steckt.
Was bedeutet das für uns?
Stellen Sie sich vor, diese KIs werden bald genutzt, um:
- Bilder für Werbung zu erstellen.
- Szenarien für Vorstellungsgespräche zu simulieren.
- Geschichten für Filme zu schreiben.
Wenn die KI dann sagt: "Hier ist ein Bild von einem Chef" und zeigt nur weiße Männer, oder "Hier ist ein Bild von einer Putzfrau" und zeigt nur hispanische Frauen, dann verstärkt sie alte Vorurteile.
- Für junge Menschen: Wenn sie in Büchern oder Spielen nur sehen, dass bestimmte Berufe nur von bestimmten Menschen ausgeübt werden, denken sie vielleicht: "Das ist nichts für mich."
- Für die Gesellschaft: Wir verlieren die Sichtbarkeit von Minderheiten. Schwarze Menschen werden in vielen Berufen "ausgelöscht", als wären sie dort nicht vorhanden.
Fazit
Die Studie sagt uns: KI ist nicht neutral. Sie ist wie ein Spiegel, der nicht nur die Welt widerspiegelt, sondern sie verzerrt. Sie nimmt unsere bestehenden Vorurteile, packt sie in einen Mixer und schmeißt sie dann mit voller Kraft zurück auf uns.
Die Forscher schlagen vor, dass wir diese KIs nicht einfach blind vertrauen dürfen. Wir müssen sie ständig "auditiert" (geprüft) werden, um sicherzustellen, dass sie nicht nur eine verzerrte, stereotypische Welt erschaffen, sondern die echte Vielfalt der Menschen widerspiegeln.
Kurz gesagt: Die KIs bauen gerade eine Welt, in der Putzfrauen fast immer hispanisch und Ingenieure fast immer weiße Männer sind – und das ist nicht die Welt, in der wir leben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.