Occupational Prompting Reveals Cultural Bias in Large Language Models
Dit artikel toont aan dat het prompten van open-weight grote taalmodellen met beroepsidentiteiten, in plaats van nationale identiteiten, gestructureerde culturele vooroordelen en duidelijke afwijkingen in waarden onthult binnen een breed genomen naar het Westen neigende culturele ruimte, wat aangeeft dat professionele rollen niet-neutrale waardepatronen oproepen in de reacties van AI.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een gigantische, onzichtbare kaart hebt die bijhoudt hoe verschillende culturen over de hele wereld naar het leven kijken. Op deze kaart vertegenwoordigt één kant "overleving en traditie" (met de focus op veiligheid, regels en familie), terwijl de andere kant "zelfexpressie en vrijheid" vertegenwoordigt (met de focus op creativiteit, persoonlijke keuze en nieuwe ideeën). Dit wordt de Inglehart–Welzel culturele ruimte genoemd.
Al een tijdje weten onderzoekers dat wanneer ze een Large Language Model (LLM) — een superintelligente AI-chatbot — algemene vragen stellen, deze de neiging heeft om in het midden van de "Westerse" kant van deze kaart te staan. Het gedraagt zich een beetje als een persoon uit een rijk, geschoold, Westers land, zelfs als je dat niet tegen de AI zegt.
Het Grote Experiment: De AI in een Uniform Stoppen
In deze nieuwe studie vroegen de onderzoekers een simpele maar slimme vraag: Wat gebeurt er als we de AI niet alleen vragen om "een mens" te zijn, maar het vertellen dat het een specifieke baan is?
Denk aan dit als een spelletje "verkleedpartij". In plaats van alleen te zeggen: "Jij bent een mens," zeiden de onderzoekers: "Jij bent een boekhouder," of "Jij bent een verpleegkundige," of "Jij bent een leraar." Vervolgens stelden ze deze "met een beroep geklede" AI's een reeks standaardvragen over geluk, religie, vertrouwen en autoriteit (dezelfde vragen die worden gebruikt in echte enquêtes).
De Resultaten: De Kaart Verandert Niet, Maar de AI Bewegt Wel
Dit is wat zij vonden, met behulp van enkele eenvoudige analogieën:
- De "Westerse" Magneet: Zelfs toen de AI de opdracht kreeg om een verpleegkundige, een ingenieur of een leraar te zijn, verliet het nooit de "Westerse" buurt van de culturele kaart. Het begon niet plotseling te klinken als een persoon uit een heel ander deel van de wereld (zoals het Midden-Oosten of Oost-Azië). De "thuisbasis" van de AI is nog steeds zeer Westers.
- Het "Beroepsuniform"-effect: De specifieke baan liet de AI echter wel bewegen binnen die Westerse buurt.
- De "Regelvolgers": Wanneer de AI werd gekleed als een boekhouder, auditor of cybersecurity-expert, verschoof het iets meer naar de kant van "overleving en traditie" op de kaart. Het klonk serieuzer, met een focus op risico, regels en veiligheid. Het was alsof een boekhouder een stijf pak aantrok en eerst aan veiligheid dacht.
- De "Dromers": Wanneer de AI werd gekleed als een leraar, kunstenaar, counselor of bibliothecaris, verschoof het naar de kant van "zelfexpressie". Het klonk meer gericht op creativiteit, persoonlijke groei en vrijheid. Het was alsof een kunstenaar een kleurrijke sjaal omdeed en aan nieuwe ideeën begon te denken.
- De "Bewakers": Beroepen zoals politieagenten, rechters en militairen bewogen de AI naar het midden van de kaart, dichter bij regio's die geassocieerd worden met strikte orde en openbare veiligheid.
Het "Kostuum" is Niet Neutraal
De belangrijkste les is: De AI behandelt een functietitel niet als een neutrale label (zoals gewoon een naamkaartje). In plaats daarvan fungeert de functietitel als een script. Wanneer je de AI zegt: "Jij bent een ingenieur," verandert het niet alleen zijn naam; het verandert zijn persoonlijkheid en zijn waarden om te passen bij wat het denkt dat een ingenieur zou moeten zijn.
Het Verschil tussen de "Modellen"
De onderzoekers testten vijf verschillende AI-modellen. Ze ontdekten dat hoewel alle modellen in de Westerse buurt bleven, ze verschillende paden bewandelden om daar te komen.
- Het ene model vindt misschien dat een "Politieagent" klinkt als een "Rechter".
- Een ander model vindt misschien dat een "Politieagent" meer lijkt op een "Bouwvakker".
- Ze waren het allemaal eens over de algemene sfeer, maar ze gebruikten verschillende "beroepskostuums" om daar te komen.
Wat Dit Betekent (en Wat Het Niet Betekent)
Deze studie laat zien dat als je een AI gebruikt om bij te helpen bij het nemen van beslissingen of het schrijven van rapporten, de "rol" die je het geeft (bijv. "Handel als een financieel adviseur") subtiel de waarden en prioriteiten zal veranderen die het uitdrukt. Het zal de AI niet laten klinken als een compleet andere cultuur, maar het zal het meer doen neigen naar "veiligheid en regels" of "creativiteit en vrijheid", afhankelijk van de baan die je toewijst.
Belangrijke Opmerking: De onderzoekers benadrukken dat dit niet betekent dat echte boekhouders of verpleegkundigen daadwerkelijk deze specifieke waarden bezitten. Het betekent alleen dat de AI heeft geleerd om deze beroepen te associëren met deze specifieke patronen van denken. Ook werd de lijst met beroepen die in de studie werd gebruikt, met hulp van een andere AI samengesteld, dus het is een instrument voor onderzoek en geen perfecte volkstelling van elk beroep in de wereld.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.