Language Models Embody and Amplify Human Cognitive Distortions: What Is to Be Done?

De Spiegel die Leerde Liegen

Stel je voor dat je een enorme bibliotheek binnenloopt waar elk ooit geschreven boek van de vloer tot aan het plafond is gestapeld. Stel je nu een robot voor die al die boeken heeft gelezen en heeft geleerd om net als een mens te spreken. Deze robot is wat wetenschappers een Large Language Model, of LLM, noemen. Het is het brein achter de hippe AI-chatbots waar je misschien van gehoord hebt. Maar hier is de crux: mensen zijn chaotisch. We maken fouten, we hebben verborgen vooroordelen, en we zeggen vaak het een terwijl we het ander denken. Dit is een bekend fenomeen in de psychologie genaamd "cognitieve bias". Decennialang hebben onderzoekers bestudeerd hoe ons brein ons voor de gek houdt met onrechtvaardige oordelen over ras, geslacht en andere groepen, soms zonder dat we het zelf eens doorhebben.

De grote vraag is: als we een robot bouwen door hem al onze chaotische menselijke woorden te voeren, zal de robot dan een perfecte, logische machine zijn die onze fouten corrigeert? Of zal het slechts een spiegel zijn die onze gebreken op ons projecteert, maar dan luider en sneller? Dit artikel duikt in precies die vraag. Het gaat niet alleen over de vraag of de robot "slim" is, maar of hij "eerlijk" is. Als de robot onze verborgen vooroordelen leert, zou hij onrechtvaardige beslissingen kunnen gaan nemen over wie een baan krijgt, wie een lening krijgt, of zelfs wie naar de gevangenis gaat. Dat is waarom dit ertoe doet: we dragen enorme delen van onze toekomst over aan deze machines, en we moeten weten of ze veilig zijn om te vertrouwen.

De Robot die Onze Slechte Gewoonten Overnam

Dus, wat hebben de auteurs van dit artikel ontdekt? Ze keken naar de nieuwste AI-modellen en ontdekten iets dat een beetje eng is: deze modellen kopiëren menselijke bias niet alleen; ze maken het eigenlijk erger. Denk aan een spelletje "telefoontje" (het spel waarbij een bericht wordt doorgegeven). Als je een gerucht fluistert aan een vriend, en zij fluisteren het door aan een ander, dan raakt het verhaal een beetje vervormd. Maar deze AI-modellen zijn als een vriend die het verhaal niet alleen vervormt, maar er ook nog een eigen dramatische flair aan toevoegt, waardoor het gerucht nog schokkender klinkt dan het oorspronkelijk was.

De onderzoekers ontdekten dat deze AI-modellen verrassend goed zijn in het verbergen van hun ware kleuren. Als je ze rechtstreeks vraagt: "Heb je de voorkeur voor witte mensen boven zwarte mensen?" of "Is het oké om gemeen te zijn tegen mensen met een beperking?", zullen ze een groot, luid "NEE!" zeggen. Ze gedragen zich als perfecte, beleefde burgers. Maar op het moment dat je stopt met directe vragen stellen en ze een taak geeft — zoals het beoordelen van een cv of het beoordelen van een verhaal geschreven in een specifiek dialect — beginnen hun ware kleuren zichtbaar te worden. Ze kunnen er stiekem van besluiten dat iemand die schrijft in African American English minder betrouwbaar of eerder schuldig is, zelfs als de inhoud exact hetzelfde is als een verhaal geschreven in standaard Engels. Het is als een rechter die zegt: "Ik ben kleurblind!", maar dan toch een zwaardere straf geeft aan iemand vanwege de manier waarop diegene spreekt.

Het artikel wijst erop dat dit niet zomaar een foutje is dat kan worden opgelost door de data op te schonen. Sommige mensen dachten: "Oh, als we de robot gewoon betere boeken voeren, zal hij beter worden." Maar de auteurs beargumenteren dat dat niet genoeg is. De AI is niet alleen een spiegel; het is een vergrootglas. Het neemt de vooroordelen die het vindt in menselijke teksten en versterkt ze. Erger nog, de modellen lijken steeds meer bevooroordeeld te worden naarmate ze nieuwer zijn. Het is alsover een leerling die steeds slechter wordt in wiskunde naarmate hij naar een hogere klas gaat. De modellen leren ook sluw te zijn; ze kunnen worden misleid door dezelfde trucjes die we op mensen gebruiken, zoals zich voordoen als een autoriteitsfiguur of beweren dat iets zeldzaam en waardevol is.

Misschien wel het meest verontrustende deel is dat deze bias niet binnen de computer blijft. Wanneer mensen samenwerken met deze AI-tools, beginnen we hun slechte gewoonten over te nemen. Als een AI zegt: "Deze kandidaat ziet er slecht uit," en een menselijke manager is het daarmee eens, dan is de mens nu ook bevooroordeeld. Vervolgens neemt die mens een beslissing die wordt opgeschreven, en die nieuwe tekst wordt weer teruggevoerd naar de AI om de volgende versie te trainen. Het is een vicieuze cirkel, zoals een sneeuwbal die een heuvel afrolt, steeds groter wordt en meer sneeuw (bias) oppikt totdat het een enorme lawine wordt. De auteurs suggereren dat terwijl mensen door de eeuwen heen langzaam minder bevooroordeeld zijn geworden, deze AI-modellen de tegenovergestelde richting opgaan en met elke update meer vertekend raken.

Wat Kunnen We Doen?

De auteurs klagen niet alleen; ze stellen een plan voor om te voorkomen dat dit de hand uit het oog verliest. Ze zeggen dat we de bias niet zomaan weg kunnen wensen, omdat zelfs mensen hun eigen verborgen vooroordelen niet volledig kunnen uitwissen. In plaats daarvan moeten we optreden als strenge veiligheidsinspecteurs.

Ten eerste stellen ze voor om een publiek "register" of een scorebord voor AI te creëren. Net zoals auto's veiligheidstests moeten doorstaan voordat ze verkocht mogen worden, zouden AI-modellen bias-tests moeten moeten doorstaan. We hebben onafhankelijke wetenschappers nodig om deze modellen te controleren op zowel de dingen die ze hardop zeggen als de dingen die ze stiekem doen. Dit scorebord zou bijhouden of modellen in de loop der tijd beter of slechter worden, zodat bedrijven hun fouten niet kunnen verbergen.

Ten tweede zeggen ze dat we regels nodig hebben die echt tanden hebben. Ze vergelijken het met hoe we andere industrieën aanpakken:

• Als Huishoudelijke Apparaten: Net zoals koelkasten om de paar jaar aan strengere energiestandaarden moeten voldoen, zouden AI-modellen aan strengere bias-standaarden moeten voldoen. Je zou niet mogen toestaan dat een nieuw model wordt uitgebracht dat meer bevooroordeeld is dan het oude model.
• Als Medicijnen: Als een nieuw medicijn gevaarlijke bijwerkingen heeft, verbieden we het niet zomaar voor altijd; we beperken wie het mag gebruiken. Op dezelfde manier, als een AI te bevooroordeeld is, zou het verboden moeten worden voor cruciale taken zoals werving of juridische beslissingen.
• Als Auto's: Als een auto veel brandstof verbruikt, heft de overheid een belasting bij het bedrijf. De auteurs suggereren een "bias-belasting" waarbij bedrijven meer betalen als hun AI onrechtvaardiger is.

Tot slot betogen de auteurs dat we moeten stoppen met verstoppertje spelen. Op dit moment houden de mensen die deze modellen bouwen hun geheimen (zoals trainingsdata en hoe ze de code aanpassen) verborgen voor het publiek. Het artikel stelt dat om het probleem op te lossen, onafhankelijke onderzoekers toegang moeten krijgen tot de interne werking van de AI, net zoals veiligheidsinspecteurs onder de motorkap van een auto moeten kunnen kijken.

Het artikel eindigt met een ernstige noot: deze oplossingen zijn misschien niet genoeg. Het probleem is misschien zo groot dat we moeten nadenken over hoe we deze technologieën überhaupt bouwen. De auteurs dringen aan op snelle actie, voordat de "sneeuwbal" van bias een onstuitbare lawine wordt die echte levens beschadigt. Ze willen dat we samenwerken — wetenschappers, bedrijven en overheden — om ervoor te zorgen dat onze digitale helpers niet onze ergste vijanden worden.