LLM Bias Evaluation: Gender, Racial, and Age Disparities in Occupational and Crime Scenarios

Technische Samenvatting: Evaluatie van gender-, raciale en leeftijdsbiases in Large Language Models

Probleemstelling
Ondanks aanzienlijke vooruitgang in Large Language Models (LLM's), wordt de brede adoptie door ondernemingen gehinderd door hardnekkige biasproblemen die het gebruiksgemak, de betrouwbaarheid en de eerlijkheid in gevaar brengen. Bias in LLM's is niet louter een technisch artefact, maar een maatschappelijk vraagstuk dat in staat is om stereotypen te versterken en misinformatie te verspreiden. Hoewel onderzoekers mitigatiestrategieën hebben ontwikkeld — zoals debiasing-lagen, gespecialiseerde referentiedatasets (bijv. Winogender, Winobias) en Reinforcement Learning with Human Feedback (RLHF) — blijft residuele bias bestaan. Dit artikel stelt dat de huidige toonaangeande LLM's, ondanks het toepassen van deze debiasing-technieken, nog steeds significante afwijkingen vertonen van de werkelijke statistische distributies in beroeps- en misdaadscenario's. Bovendien hypothetiseren de auteurs dat mitigatiepogingen onbedoeld kunnen leiden tot "over-indexering" op specifieke subklassen, wat de bias mogelijk eerder verergert dan oplost.

Methodologie
De studie voert een vergelijkende analyse uit van vier state-of-the-art LLM's die in 2024 zijn uitgebracht: Gemini 1.5 Pro, Llama 3 70B, Claude 3 Opus en GPT-4o. Het onderzoek richt zich op twee primaire bias-categorieën:

1. Occupationele Genderbias: Het beoordelen van de genderassociatie van 20 verschillende beroepen.
2. Demografische Bias in Misdaadscenario's: Het beoordelen van gender-, ras- en leeftijdassociaties over zes typen criminaliteit (beroving, fraude, moord, drugsmisbruik, DUI, vandalisme).

Datageneratie en Classificatie:
De auteurs maakten gebruik van API's om een robuuste dataset te genereren bestaande uit 10.400 verhalen (8.000 beroepsscenario's en 2.400 misdaadscenario's).

• Beroep: Prompts vroegen om inspirerende verhalen van 500 woorden voor specifieke beroepen.
• Misdaad: Prompts vroegen om verhalen van 500 woorden over individuen die specifieke misdaden begaan, waarbij de modellen expliciet de instructie kregen om demografische details op te nemen.
• Classificatie: Dezelfde vier LLM's werden ingezet om de gegenereerde verhalen te classificeren. Beroepssverhalen werden geclassificeerd op gender (binair: man/vrouw). Misdaadverhalen werden geclassificeerd op gender (man/vrouw/non-binair), leeftijdsgroepen (<18, 19-30, 30-50, >50) en ras (Zwart, Wit, Aziatisch).

Benchmarking:
De gegenereerde distributies werden getoetst aan gezaghebbende real-world data:

• Beroepsdata: U.S. Bureau of Labor Statistics (BLS).
• Misdaaddata: Rapporten van het U.S. Federal Bureau of Investigation (FBI).
• Validatie: Een handmatige menselijke kwaliteitscontrole (QA) werd uitgevoerd om de geautomatiseerde classificatieresultaten te verifiëren.

Belangrijkste Resultaten
De studie kwantificeerde bias door de standaarddeviatie van de modeloutputs ten opzichte van de real-world statistieken te berekenen.

• Occupationele Genderbias:

  • Alle vier de modellen vertoonden een consistent patroon: ze hielden zich grotendeels aan traditionele genderstereotypen voor door vrouwen gedomineerde (bijv. verpleegkundige, receptionist) en door mannen gedomineerde (bijv. brandweerman, bouwvakker) rollen.
  • Echter, significante afwijkingen traden op bij rollen met een hoge status of technische aard. Voor beroepen zoals Software Engineers, Advocaten en CEO's genereerden de modellen vaker vrouwelijke personages op een snelheid die aanzienlijk hoger lag dan de BLS-data, wat duidt op een poging tot correctie die resulteerde in overcompensatie.
  • De gemiddelde afwijking van de BLS-data over alle modellen heen was ongeveer 37%.

• Misdaadscenario-biases:

  • Gender: De modellen vertoonden uiteenlopend gedrag. GPT-4o weerspiegelde in sommige gebieden nauwlettend de mannelijke FBI-statistieken, maar oververtegenwoordigde mannen in andere gebieden. Gemini 1.5 Pro en Llama 3 70B ondervertegenwoordigden mannen in misdaadscenario's aanzienlijk (bijv. het voorspellen van 96% vrouwelijke betrokkenheid bij DUI-gevallen waar de FBI-data 74% mannelijk aangeeft). Claude 3 Opus presenteerde een meer gebalanceerde distributie. De gemiddelde genderdeviatie was 54%.
  • Ras: De meeste modellen (Claude, GPT-4o, Llama) oververtegenwoordigden witte individuen in misdaadscenario's vergeleken met de FBI-data, terwijl zij zwarte individuen ondervertegenwoordigden. Gemini 1.5 Pro vertoonde opvallend een lagere representatie van witte individuen. De gemiddelde raciale deviatie was 28%.
  • Leeftijd: Afwijkingen waren over het algemeen lager dan bij gender- en rasbiases (gemiddeld 17%), hoewel Llama 3 70B de neiging had de 31-50 leeftijdsgroep te oververtegenwoordigen, en Gemini 1.5 Pro de 18-30 groep oververtegenwoordigde.

• Samenvatting Modelprestaties (Standaarddeviatie van Real-World Data):

  • Llama 3 70B vertoonde de hoogste deviatie in Misdaad-Genderbias (71,87%).
  • Gemini 1.5 Pro vertoonde de hoogste deviatie in Misdaad-Racial bias (45,31%).
  • Claude 3 Opus vertoonde de hoogste deviatie in Misdaad-Age bias (30,59%).
  • Alle modellen vertoonden vergelijkbare niveaus van deviatie voor Occupationele Genderbias (variërend van 33% tot 39%).

Significantie en Claims
Het artikel claimt dat, ondanks de integratie van geavanceerde debiasing-technieken zoals RLHF en red teaming, toonaandeende LLM's nog steeds substantiële bias vertonen. Een cruciale bevinding is dat mitigatiestrategieën vaak resulteren in over-indexering op specifieke subklassen (bijv. het oververtegenwoordigen van vrouwen in door mannen gedomineerde beroepen of witte individuen in misdaadscenario's) in plaats van het bereiken van statistische pariteit.

De auteurs stellen dat deze bevindingen de beperkingen van huidige bias-mitigatiebenaderingen onderstrepen. De studie suggereert dat het simpelweg toepassen van debiasing-lagen of het fine-tunen op specifieke datasets onvoldoende is en kan leiden tot slechte generalisatie of nieuwe vormen van bias. Het artikel concludeert dat er een dringende behoefte is aan effectievere, genuanceerdere benaderingen van bias-mitigatie om verantwoordelijke AI-adoptie te waarborgen, vooral naarmate LLM's steeds vaker worden geïntegreerd in zakelijke applicaties, wervingsprocessen en juridische ondersteuningssystemen. Het voorgestelde framework dient als baseline voor het evalueren van toekomstige modellen en andere soorten bias (politiek, sociaal-economisch) via open-ended prompt engineering.