Bias in Large Language Models: Origin, Evaluation, and Mitigation

Het Grote Geheel: De "Superlezer" met een Blinde Vlek

Stel je een Large Language Model (LLM) voor als een supergeavanceerde student die bijna elk boek, elke website en elk sociaalmediabericht dat ooit is geschreven, heeft gelezen. Deze student is ongelooflijk slim en kan essays schrijven, vragen beantwoorden en talen vertalen beter dan bijna iedereen.

Echter, omdat deze student heeft geleerd van alles wat mensen hebben geschreven, heeft hij ook al onze vooroordelen, stereotypen en onrechtvaardige gewoonten geleerd. Net als een kind dat opgroeit in een wijk waar iedereen gelooft dat een bepaalde groep mensen slecht is in wiskunde, zou de student dat ook kunnen gaan geloven, zelfs als het niet waar is.

Dit artikel is een uitgebreide handleiding die drie hoofdvragen stelt:

1. Waar komen deze slechte gewoonten vandaan? (Oorsprong)
2. Hoe vangen we de student op het verkeerde been? (Evaluatie)
3. Hoe leren we hen om eerlijk te zijn? (Mitigatie)

---

Deel 1: Waar de Slechte Gewoonten Vandaan Komen (Oorsprong)

De auteurs splitsen de "slechte gewoonten" (bias) in twee soorten: Intrinsiek en Extrinsiek.

1. Intrinsieke Bias: Het "Interne Geheugen"

Denk hierbij aan het interne woordenboek en wereldbeeld van de student dat is gevormd tijdens het studeren.

• De Trainingsdata (De Leerboeken): De student las boeken waarin "artsen" bijna altijd mannen waren en "verpleegsters" bijna altijd vrouwen. Dus, in zijn interne geheugen koppelt hij "arts" aan "man" en "verpleegster" aan "vrouw". Dit is een data-bias.
• De Verzamelmethode (De Bibliotheek): Stel je voor dat de student alleen naar bibliotheken in één specifiek land ging. Hij zou denken dat de feestdagen van dat land de enige feestdagen ter wereld zijn. Dit is een ruimtelijke/temporele bias.
• De Hulpmiddelen (De Pen en Het Papier): Zelfs de manier waarop de student woorden in stukjes breek (tokenisatie) kan onrechtvaardig zijn. Als de "pen" van de student namen van minderheidsgroepen opbreekt in kleine, verwarrende fragmenten, maar veelvoorkomende namen heel houdt, kan hij de namen van minderheden niet even goed begrijpen. Dit is tokenisatie-bias.

2. Extrinsieke Bias: De "Slechte Prestatie"

Dit is wanneer de student zijn slechte gewoonten toepast tijdens een specifieke test of taak.

• Taken Begrijpen (NLU): Als je vraagt: "Wie is de arts?" en de tekst zegt "De arts arriveerde", zou de student misschien "Hij" raden, zelfs als de tekst de geslacht niet vermeldt, omdat zijn interne geheugen bevooroordeeld is.
• Taken Genereren (NLG): Als je de student vraagt om een verhaal te schrijven over een leider, zou hij automatisch de leider tot een man en de verpleegster tot een vrouw kunnen maken, zelfs als je dat niet hebt gevraagd.
• Het Resultaat: De student kan een sollicitatieadvies geven aan een man in plaats van een vrouw, of een zin vertalen op een manier die een cultuur beledigt, simpelweg omdat hij patronen herhaalt die hij in zijn trainingsdata heeft gezien.

---

Deel 2: Hoe We Het Bedrog Opsporen (Evaluatie)

Hoe weten we of de student bevooroordeeld is? Het artikel stelt voor om hem op drie verschillende niveaus te controleren, zoals een leraar die een student nakijkt.

1. Data-niveau Controle (Het Controleren van de Leerboeken):
   • Voordat de student zelfs maar begint, kijken we naar de boeken die hij leest. Zijn er te veel boeken over mannen en te weinig over vrouwen? Zijn er te veel boeken uit de VS en geen enkele uit Afrika? We gebruiken wiskunde om te tellen hoe vaak verschillende groepen voorkomen.
2. Model-niveau Controle (Het Controleren van het Brein):
   • We prikken in het brein van de student om te zien hoe hij ideeën verbindt. Als we vragen: "Is een verpleegster een man?" en het brein van de student licht op met "Nee", maar als we vragen "Is een arts een man?" licht het op met "Ja", dan weten we dat er een verborgen bias in zijn connecties zit. We gebruiken tools zoals Counterfactuelen (een naam veranderen van "Jan" in "Jantje" en kijken of het antwoord verandert).
3. Output-niveau Controle (Het Nakijken van het Huiswerk):
   • We kijken naar de daadwerkelijke antwoorden die de student geeft. Gebruiken ze kwetsende woorden voor bepaalde groepen? Geven ze verschillende adviezen aan verschillende mensen? We gebruiken ook Menselijke Beoordelaars (echte mensen) om de antwoorden te lezen en te zeggen: "Hé, dat klinkt onrechtvaardig."

---

Deel 3: Hoe We de Slechte Gewoonten Oplossen (Mitigatie)

Het artikel stelt drie manieren voor om de student "te ontbiasen", afhankelijk van wanneer je ingrijpt.

1. Pre-Model Debiasing (De Leerboeken Schoonmaken)

• Het Idee: Voordat de student begint met studeren, maken we de bibliotheek schoon.
• Hoe: We voegen meer boeken toe over ondervertegenwoordigde groepen (oversampling) of verwijderen de echt hatelijke boeken. We kunnen zelfs zinnen herschrijven om geslachten te wisselen (bijvoorbeeld "De arts is hij" veranderen in "De arts is zij") zodat de student beide opties leert.
• Voor- en Nadelen: Het is goedkoop en makkelijk om te beginnen, maar je kunt niet alles oplossen door alleen de boeken schoon te maken. Sommige slechte gewoonten zijn al in de structuur van het brein van de student gebakken.

2. Intra-Model Debiasing (Het Brein Herbedraden)

• Het Idee: Terwijl de student studeert, dwingen we hem om anders te leren.
• Hoe: We veranderen de regels van het spel. Als de student probeert "verpleegster" te koppelen aan "vrouw", geven we hem een "strafscore" (een verliesfunctie) zodat hij leert dit niet meer te doen. We kunnen ook specifieke delen van zijn brein die deze slechte connecties bevatten, "wegsnijden" (prunen).
• Voor- en Nadelen: Dit is zeer effectief in het oplossen van de oorzaak, maar het is duur en moeilijk. Het is alsof je probeert een computer opnieuw te bedraden terwijl deze draait.

3. Post-Model Debiasing (Het Huiswerk Bewerken)

• Het Idee: Laat de student het antwoord schrijven, maar bewerk het voordat we het aan de wereld tonen.
• Hoe: Als de student een bevooroordeelde zin schrijft, gebruiken we een filter om de woorden te veranderen. Of we gebruiken een "causale prompting"-truc waarbij we de student vragen om op een specifieke manier over het probleem na te denken, waardoor ze gedwongen worden om stereotypen te negeren.
• Voor- en Nadelen: Dit is snel en vereist geen hertraining van de student. Echter, het is alsof je een pleister op een wond plakt; het verhelpt het symptoom maar geneest de ziekte niet.

---

Deel 4: Waarom Dit Belangrijk Is (Ethiek en Wet)

Het artikel waarschuwt dat deze biases niet alleen vervelend zijn; ze zijn gevaarlijk.

• Representatieve Schade: De student zou kunnen zeggen: "Moslims zijn gewelddadig" of "Vrouwen zijn geen leiders". Dit doet mensen pijn en versterkt negatieve stereotypen in de samenleving.
• Toewijzingschade: Dit is waar mensen echte kansen in de echte wereld verliezen. Als een bevooroordeelde student een bedrijf helpt bij het aannemen van mensen, kan hij het cv van een gekwalificeerde vrouw afwijzen. Als een bevooroordeelde student een ziekenhuis helpt bij het diagnosticeren van patiënten, kan hij een ziekte bij een minderheidsgroep missen.

Het artikel merkt op dat wetten beginnen in te halen. Op plaatsen zoals New York City en de Europese Unie zijn bedrijven nu verplicht om hun AI-tools te auditeren om ervoor te zorgen dat ze mensen niet discrimineren op basis van ras, geslacht of leeftijd.

De Conclusie

Dit artikel is een routekaart. Het vertelt ons dat AI als een spiegel werkt die de gebreken van onze samenleving weerspiegelt. Om eerlijke AI te bouwen, kunnen we niet vertrouwen op één oplossing. We moeten onze data schoonmaken, onze modellen zorgvuldig trainen, hun werk constant controleren en de output repareren voordat deze mensen bereikt. Het is een continu proces, geen eenmalige klus.