Effects of Answer Format Variation on Gender Bias in Large Language Models
Dit artikel toont aan dat het formaat van de antwoordopties (gesloten, Likert-schaal of open-eind) de meting van genderbias en de distributieve uitlijning in grote taalmodellen significant verandert, wat vaak de rangschikking van modellen omkeert en een evaluatieontwerp met meerdere formaten noodzakelijk maakt voor een robuuste beoordeling.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de wereld van kunstmatige intelligentie zijn grote taalmodellen de digitale motoren die alles aandrijven, van chatbots tot zoekassistenten. Deze systemen worden getraind op enorme hoeveelheden tekst van het internet, waarbij ze leren te voorspellen welke woorden als volgende moeten komen. Omdat ze leren van menselijke teksten, absorberen ze onvermijdelijk de patronen, vooroordelen en stereotypen die in die data aanwezig zijn. Een van de meest hardnekkige en schadelijke patronen is genderbias, waarbij een model automatisch kan aannemen dat een arts een man is of een verpleegkundige een vrouw. Om dit te corrigeren, moeten onderzoekers meten hoe sterk deze vooroordelen zijn. Ze doen dit door de modellen vragen te stellen en te zien hoe ze antwoorden. Al decennia weten wetenschappers dat de manier waarop een vraag wordt gesteld de antwoorden verandert, zelfs bij mensen. Als je iemand vraagt om te kiezen tussen twee opties, kiezen ze misschien de één; als je hen vraagt hun mate van instemming te beoordelen op een schaal, geven ze misschien een ander antwoord. Dit is een goed gevestigd feit in de enquêteleer, maar lange tijd gingen onderzoekers die kunstmatige intelligentie testten ervan uit dat het formaat van de vraag er niet veel toe deed, of dat het antwoord van het model hetzelfde zou blijven, ongeacht hoe de vraag werd gepresenteerd.
Een team van onderzoekers aan de Universiteit van Stuttgart besloot deze aanname direct te testen. Ze wilden zien of de manier waarop zij een vraag over gender stelden, de bias die zij in de machine maten, zou veranderen. Ze namen drie verschillende soorten grote taalmodellen en stelden hen dezelfde set vragen over genderrollen, maar ze veranderden telkens het formaat van de antwoorden. In één versie moest het model een enkele letter kiezen uit een lijst met keuzes, zoals bij een meerkeuzetoets. In een andere versie moest het model zijn instemming beoordelen op een schaal van één tot tien, vergelijkbaar met hoe mensen opiniepeilingen beantwoorden. In de derde versie mocht het model een vrij vormgegeven antwoord in eigen woorden schrijven. De onderzoekers gebruikten twee verschillende sets vragen: één set die specifiek was ontworpen om bias te testen met duidelijke goede en foute antwoorden, en een andere set die afkomstig was uit echte publieke opiniepeilingen over hoe mensen naar gender in de samenleving kijken.
De resultaten waren opmerkelijk en lieten zien dat het formaat van de vraag het verhaal dat de onderzoekers verteld werd, volledig veranderde. Wanneer de modellen werden gedwongen om een enkele optie uit een lijst te kiezen, vertoonden ze sterke, consistente genderbiases. Ze kozen vaak het stereotype antwoord, zoals het kiezen van de man voor een leiderschapsrol. Echter, wanneer de onderzoekers overgingen op het open format, waarbij het model zijn eigen reactie kon schrijven, daalde de gemeten bias drastisch. In veel gevallen weigerden de modellen simpelweg een kant te kiezen of verklaarden zij dat de informatie onvoldoende was om een besluit te nemen. Dit kwam niet doordat de modellen plotseling minder bevooroordeeld waren; eerder gaf het open format hen een manier om de valstrik van de meerkeuzevraag te vermijden. De meest verrassende bevinding was dat de rangschikking van de modellen veranderde afhankelijk van het formaat. Een model dat het meest bevooroordeeld leek wanneer het werd gedwongen een letter te kiezen, bleek het minst bevooroordeeld wanneer het vrij kon schrijven. Een ander model vertoonde bijna geen bias in de meerkeuzetoets, maar onthulde significante bias wanneer er werd gevraagd om de instemming op een schaal te beoordelen.
De onderzoekers keken ook naar hoe goed deze modellen overeenkwamen met de meningen van echte menselijke respondenten in enquêtes. Ze ontdekten dat het formaat de overeenstemming eveneals veranderde. In sommige gevallen leken de antwoorden van een model erg op menselijke meningen bij het gebruik van één formaat, maar zagen ze er totaal anders uit bij een ander formaat. Bijvoorbeeld, wanneer modellen werden gevraagd een schaal te gebruiken, werkten hun antwoorden vaak tegen elkaar in, waardoor een gemiddelde ontstond dat neutraal leek, ook al uitten de modellen sterke, tegengestelde standpunten aan de extremen. Dit is anders dan hoe mensen zich gedragen; mensen gebruiken vaak het midden van een schaal om aan te geven dat ze onbeslist zijn, maar de modellen gebruikten het midden om extreme stereotypen te balanceren. De studie suggereert dat de bias die we in deze machines zien geen vaste, onveranderlijke eigenschap is zoals een fysiek kenmerk. In plaats daarvan is het een gedrag dat verschuift afhankelijk van de beperkingen die we eraan opleggen.
Dit werk daagt het idee uit dat een enkele test ons alles over een model kan vertellen. De onderzoekers ontdekten dat de keuze van het antwoordformaat niet slechts een klein detail van het experiment is; het is een belangrijke factor die de resultaten vormgeeft. Als een onderzoeker alleen naar meerkeuzetoetsen kijkt, zou hij kunnen concluderen dat een model diep bevooroordeeld is. Als hij alleen naar open antwoorden kijkt, zou hij kunnen concluderen dat het model perfect eerlijk is. Beide conclusies zijn incompleet. De studie bewijst niet dat de modellen vrij zijn van bias, noch bewijst het dat de bias volledig een illusie is. Het laat zien dat bias een complex gedrag is dat zich verschillend manifesteert onder verschillende omstandigheden. De onderzoekers betogen dat we, om deze systemen echt te begrijpen en te evalueren, moeten stoppen met het vertrouwen op één enkele manier van vragen stellen. We moeten kijken naar hoe de modellen zich gedragen over verschillende formaten om een volledig beeld van hun gedrag te krijgen, net zoals een arts niet één symptoom zou gebruiken om een patiënt te diagnosticeren, maar naar het volledige beeld van diens gezondheid zou kijken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.