🤖 AI

Generating the Modal Worker: A Cross-Model Audit of Race and Gender in LLM-Generated Personas Across 41 Occupations

Deze studie analyseert de raciale en genderbias in door vier grote taalmodellen gegenereerde beroepsprofielen en concludeert dat deze systematisch afwijken van de realiteit door demografische variatie te comprimeren en bepaalde groepen te onder- of oververtegenwoordigen, wat wijst op gedeelde structurele oorzaken van bias in generatieve AI.

Oorspronkelijke auteurs: Ilona van der Linden, Sahana Kumar, Arnav Dixit, Aadi Sudan, Smruthi Danda, David C. Anastasiu, Kai Lukoff

Gepubliceerd 2026-03-30

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Ilona van der Linden, Sahana Kumar, Arnav Dixit, Aadi Sudan, Smruthi Danda, David C. Anastasiu, Kai Lukoff

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De "Standaardwerker": Hoe AI een oneerlijk beeld van ons werk creëert

Stel je voor dat je een enorme, digitale poppenkast hebt. In deze kast zitten miljoenen poppen die allemaal een beroep hebben: een dokter, een leraar, een vrachtwagenchauffeur of een chef-kok. Je vraagt aan een slimme computer (een AI) om deze poppen te maken. Je denkt misschien: "Deze computer is slim, hij kent de hele wereld, dus hij maakt een eerlijke mix."

Maar wat deze studie van Santa Clara University ontdekt, is dat de computer eigenlijk een stereotiepe poppenkast bouwt. Hij maakt niet een realistische afspiegeling van de echte wereld, maar een versimpelde, soms zelfs vervormde versie.

Hier is wat de onderzoekers hebben gevonden, vertaald naar alledaags taalgebruik:

1. De "Standaardpop" (De Modale Werknemer)

De grootste verrassing is hoe de AI denkt. Als je vraagt om 10.000 verpleegsters, maakt de AI niet 10.000 verschillende mensen met verschillende achtergronden. Nee, hij maakt bijna altijd dezelfde pop.

De analogie: Het is alsof je een bakje M&M's hebt, maar in plaats van een mix van kleuren, pakt de AI alleen de rode M&M's voor de verpleegsters en alleen de blauwe voor de ingenieurs.
Het resultaat: Voor geslacht (man/vrouw) is dit extreem. De AI kiest vaak één geslacht per beroep en plakt dat op iedereen in dat beroep. Voor etniciteit doet hij iets vergelijkbaars, maar dan iets minder extreem. Het resultaat is een wereld zonder variatie, waar elke "chef-kok" er precies hetzelfde uitziet.

2. De "Verstevigde Stereotypen"

De AI neemt de vooroordelen uit onze wereld en maakt ze erger.

Vrouwen: De AI plaatst vrouwen vaker in beroepen die al "vrouwelijk" zijn (zoals verpleegkunde), maar ook in hoge, intellectuele beroepen (zoals ingenieur of schrijver). Dit klinkt misschien positief, maar het is eigenlijk een soort "overcorrectie". De AI probeert diversiteit te tonen, maar doet het zo grof dat het onrealistisch wordt.
Kleurlingen: Hier wordt het problematisch.
- Zwarte mensen: Ze worden in de AI-wereld vaak uitgewist. In veel beroepen (zoals arts of leraar) zijn ze bijna niet te vinden. Ze verschijnen alleen in een paar specifieke, vaak lage-status beroepen (zoals beveiliging of buschauffeur). Het is alsof de AI zegt: "Zwarte mensen horen hier niet."
- Latijns-Amerikanen en Aziaten: Deze groepen worden juist oververtegenwoordigd. Bijvoorbeeld: bijna elke huishoudelijke help (housekeeper) die de AI bedenkt, is Latijns-Amerikaans. Elke wetenschapper is Aziatisch. De AI pakt de stereotype associaties en haalt ze tot het uiterste.

3. Verschillende AI's, zelfde fouten

De onderzoekers keken naar vier verschillende AI's: GPT-4 (van OpenAI), Gemini (van Google), DeepSeek (uit China) en Mistral (uit Europa).

De analogie: Het is alsof je vier verschillende bakkers vraagt om een taart te bakken. Je zou denken dat de Franse bakker anders doet dan de Chinese bakker. Maar wat ze ontdekten? Ze bakken allemaal dezelfde, scheefgetrokken taart.
Zelfs als de AI's uit verschillende landen komen en anders zijn getraind, maken ze precies dezelfde vooroordelen. Dit betekent dat het probleem niet ligt bij één specifieke computer, maar in de "ingrediënten" (de data) die ze allemaal hebben gebruikt om te leren. Ze hebben allemaal geleerd van dezelfde internetteksten, en die teksten zitten vol met onze menselijke vooroordelen.

4. Waarom maakt dit uit?

Je zou kunnen denken: "Ach, het zijn maar computers, het zijn geen echte mensen." Maar dit heeft gevolgen:

Zichtbaarheid: Als je een kind bent en je ziet in de AI-gegenereerde verhalen dat alleen mannen ingenieurs zijn en alleen vrouwen verpleegsters, denk je misschien: "Dat is niet voor mij."
Versteviging: Als bedrijven deze AI's gebruiken om te beslissen wie ze in dienst nemen of welke advertenties ze tonen, versterken ze onbewust de ongelijkheid. Ze creëren een wereld waarin bepaalde groepen mensen "onzichtbaar" zijn in bepaalde rollen.

De Conclusie in één zin

Deze AI's zijn geen neutrale spiegels van de wereld; ze zijn vervormde spiegels die onze vooroordelen vergroten en bepaalde groepen mensen uit hun beroepen wissen, terwijl ze andere groepen in karikaturen veranderen.

De onderzoekers zeggen: we moeten stoppen met denken dat AI "neutraal" is. We moeten leren hoe deze systemen werken, zodat we ze kunnen corrigeren voordat ze onze realiteit gaan bepalen.

Probleemstelling

Met de toenemende inzet van generatieve AI voor het creëren van menselijke personages in professionele rollen, rijst de urgentie om raciale en gendergerelateerde vertegenwoordigingsbias te begrijpen. Bestaande audits tonen aan dat digitale platforms vaak minderheidsgroepen marginaliseren of stereotypen versterken (bijv. verpleegsters als vrouwen, ingenieurs als mannen). Het probleem is echter complexer dan alleen ondervertegenwoordiging; oververtegenwoordiging kan ook sociale betekenissen verstoren ("diversity washing") of historische onwaarschijnlijkheden creëren.

De kernvraag is hoe Large Language Models (LLM's) demografische patronen reproduceren, versterken of herschikken wanneer ze gevraagd worden om personages voor specifieke beroepen te genereren. Bestaande methoden focussen vaak op afzonderlijke modellen of specifieke modaliteiten (zoals tekst-naar-beeld), maar er ontbreekt een gestructureerde, cross-model audit die de structuur van deze distorties ontleedt (bijv. uniforme verschuivingen versus beroepsspecifieke stereotypering).

Methodologie

De auteurs voerden een grote schaal audit uit van 1,5 miljoen gegenereerde beroeps-persona's over 41 beroepen in de VS.

Geraadpleegde Modellen: Vier grote taalmodellen met verschillende institutionele en culturele oorsprong:
- GPT-4 (OpenAI, VS)
- Gemini 2.5 (Google, VS)
- DeepSeek V3.1 (DeepSeek, China)
- Mistral-medium (Mistral AI, Frankrijk)
Benchmark: De gegenereerde data werd vergeleken met officiële demografische gegevens van het U.S. Bureau of Labor Statistics (BLS) voor 2023 (CPSAA).
Proces: Voor elk beroep genereerde elk model 10.000 profielen (DeepSeek 1.000 door API-beperkingen) via een vast prompt: "Generate a profile for: in the United States." De output bevatte velden zoals naam, geslacht, etniciteit, salaris en biografie.
Statistische Analyse:
1. Gemiddelde Bias: Berekening van het verschil in percentagepunten (pp) tussen model-output en BLS-data.
2. Regressie Framework: Een logistische regressie om systematische patronen te kwantificeren:
  - Intercept ( $\alpha$ ): Meet systematische verschuivingen (over- of ondervertegenwoordiging).
  - Slope ( $\beta$ ): Meet stereotypering (versterking of verzwakking van demografische scheefheid). Een helling > 1 duidt op stereotypering (versterking), < 1 op verzwakking.
3. Concentratie-analyse: Gebruik van Shannon-entropy en top-1 share om te bepalen of modellen demografie "modaal" (één dominant profiel per beroep) of "distributieel" (variërende profielen) genereren.

Belangrijkste Bijdragen

Conceptueel Framework: De auteurs introduceren een decompositie van "Shift" (systematische verschuiving) en "Exaggeration" (stereotypering) om de structuur van bias te diagnosticeren. Dit onderscheidt uniforme demografische verschuivingen van beroepsspecifieke versterking van bestaande scheefheden.
Cross-Model Vergelijking: Het paper biedt een zeldzame vergelijking van vier modellen met verschillende culturele oorsprong (VS, China, Europa), wat inzicht geeft in of bias model-specifiek is of voortkomt uit gedeelde structurele bronnen.
Ontdekking van "Modale" Generatie: Het paper toont aan dat geslachtsgeneratie voornamelijk modaal is (modellen kiezen één dominant geslacht per beroep), in plaats van de variatie in de echte wereld na te bootsen.

Resultaten

1. Binnen-beroep Concentratie (Modaliteit)

Geslacht: De generatie is overweldigend modaal. Voor DeepSeek en Mistral is de mediane top-1 geslachtsaandeel 1,00 (elk profiel in een beroep heeft hetzelfde geslacht). GPT-4 ligt op 0,99. Gemini is een uitzondering met meer variatie (0,89), maar blijft toch sterk geconcentreerd.
Etniciteit: Ook hier is de concentratie hoog, maar met meer variatie tussen modellen. DeepSeek is het meest modaal (0,97). Gemini vertoont een distributieel patroon dat dichter bij de BLS-data ligt, maar valt terug op extreme stereotypen voor specifieke beroepen (bijv. 99,9% Hispanisch voor huishoudelijk personeel).
Multiraciale Identiteit: Er is sprake van bijna volledige uitwissing; minder dan 1% van de gegenereerde persona's kreeg een multiraciale label, terwijl dit in de BLS-data veel vaker voorkomt.

2. Systematische Verschuivingen (RQ1 & RQ2)

De regressieanalyse onthult duidelijke patronen:

Geslacht: Vrouwen worden gemiddeld lichtjes oververtegenwoordigd (+6,1 pp), maar er is een S-vormig patroon van stereotypering: modellen versterken bestaande scheefheden (meer vrouwen in vrouwelijke beroepen, meer mannen in mannelijke beroepen).
Etniciteit:
- Wit: Systematisch ondervertegenwoordigd (-31 pp), maar met een positieve helling (+1,13), wat betekent dat ze in beroepen waar ze al dominant zijn, nog meer worden versterkt.
- Zwart: Systematisch ondervertegenwoordigd (-9 pp) met een negatieve helling (-0,89). Dit duidt op stereotyperingsreductie door uitwissing: zwarte werknemers worden in de meeste beroepen genegeerd en verschijnen alleen in een handjevol stereotiepe rollen (bijv. beveiliging, buschauffeur).
- Hispaans en Aziatisch: Systematisch oververtegenwoordigd (+17 pp en +12 pp respectievelijk) met positieve hellingen, wat wijst op stereotyperingsversterking (bijv. Aziaten in wetenschappelijke rollen, Hispaans in service-rol).

3. Cross-Model Convergentie (RQ3)

Ondanks verschillende culturele en institutionele oorsprong (VS, China, Europa) tonen alle vier de modellen opvallend vergelijkbare bias-patronen.

De richting van de bias (bijv. ondervertegenwoordiging van zwarte werknemers, oververtegenwoordiging van Aziaten) is consistent.
Dit suggereert dat de bias voortkomt uit gedeelde structurele bronnen (zoals web-schaal trainingsdata en culturele associaties) en niet slechts uit model-specifieke ontwerpkeuzes.
Uitzondering: Gemini toont een iets andere verdeling voor etniciteit (meer distributieel), maar deelt de modale bias voor geslacht en de extreme stereotypen voor specifieke beroepen.

4. Salaris

Modellen compressen het geslachtsloonverschil aanzienlijk. Waar de BLS-data een mediaan verschil van ~$7.600 toont, genereren drie van de vier modellen vaak identieke salarissen voor mannen en vrouwen binnen hetzelfde beroep, behandelen salaris dus als een eigenschap van het beroep en niet van de demografie.

Significantie en Conclusie

Het paper concludeert dat representatieve bias in generatieve AI geen toevallige ruis is, maar een gestructureerde vervorming.

Gevaar van "Modale" Wereld: Doordat modellen vaak één dominant profiel per beroep kiezen, creëren ze een "algorithmic monoculture" die de diversiteit in de echte wereld verbergt.
Uitwissing vs. Stereotypering: De studie benadrukt dat uitwissing (zoals bij zwarte werknemers) even schadelijk kan zijn als stereotypering.
Beleid en Interventie: Aangezien bias structureel en cross-model is, zijn model-specifieke "fixes" (zoals post-training tuning) onvoldoende. Er is behoefte aan evaluatieframeworks die systematisch kijken naar hoe synthetische populaties demografische zichtbaarheid herschikken.
Aanbeveling: Toekomstige audits moeten multi-model zijn om onderscheid te maken tussen structurele patronen en idiosyncratische ontwerpkeuzes.

De auteurs waarschuwen dat het simpelweg "diverser" maken van output niet altijd goed is; het gaat om het begrijpen van de onderliggende structuren die bepalen wie zichtbaar is en wie wordt genegeerd in de door AI gegenereerde toekomst.