Large language models perceive cities through a culturally uneven baseline
Het onderzoek toont aan dat grote taalmodellen steden niet vanuit een neutraal perspectief waarnemen, maar via een cultureel ongelijkwaardig referentiekader dat Westerse normen als standaard hanteert en beïnvloed wordt door culturele prompting.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een groep zeer slimme, digitale reizigers hebt die nog nooit de wereld hebben verlaten, maar wel miljoenen boeken, foto's en verhalen hebben gelezen. Deze digitale reizigers zijn Grote Taalmodellen (zoals de AI's die we vandaag de dag gebruiken).
De vraag die de auteurs van dit onderzoek stellen, is simpel maar diep: Als deze AI's een stad beschrijven, zien ze dan de wereld zoals hij écht is, of kijken ze door een gekleurd raam?
Hier is de uitleg van hun onderzoek, vertaald in een verhaal met simpele vergelijkingen:
1. De "Neutrale" Bril die niet neutraal is
De onderzoekers gaven de AI's foto's van straten uit de hele wereld en vroegen: "Beschrijf deze plek." Ze deden dit op twee manieren:
- De "Neutrale" vraag: "Kijk gewoon naar de foto."
- De "Culturele" vraag: "Kijk alsof je uit Europa komt," of "Kijk alsof je uit Afrika komt," enzovoort.
Het verrassende resultaat: De "neutrale" vraag was helemaal niet neutraal.
Stel je voor dat je een kompas hebt dat altijd een beetje naar het noorden wijst, zelfs als je denkt dat het recht vooruit wijst. Zo werkt de AI. Als ze een "neutrale" beschrijving geven, klinkt dat het meest als een beschrijving vanuit Europa en Noord-Amerika.
Het is alsof de AI's een "standaardinstelling" hebben die is ingesteld op een westerse kijk op de wereld. Als je vraagt om een beschrijving vanuit een ander perspectief (bijvoorbeeld Latijns-Amerika), moet de AI eerst hard werken om die westerse bril af te zetten, en zelfs dan blijft de westerse "basis" voelbaar.
2. De "Groepsgevoel" (Ingroup Preference)
De onderzoekers keken ook naar hoe de AI's zich voelden over de plekken die ze beschreven.
- Als je de AI vraagt om te doen alsof ze uit Noord-Afrika komt, beschrijft ze straten in Noord-Afrika vaak positiever dan wanneer ze vraagt om te doen alsof ze uit Azië komt.
- Het is alsof de AI een beetje "thuis" voelt bij de cultuur die ze netjes navert. Ze geven hun eigen "stam" een glimlachje en een betere beoordeling, terwijl ze voor andere culturen iets minder enthousiast zijn.
3. De "Kleurloze" versus de "Kleurrijke" Mens
Vervolgens vergeleken ze de AI's met echte mensen. Ze gaven de AI's foto's van steden in het Verenigd Koninkrijk en vroegen hen die te beschrijven, net als echte mensen die dat al eerder hadden gedaan.
- De Mensen: Hun beschrijvingen waren als een prachtig, kleurrijk mozaïek. Iedereen zag iets anders, gebruikte verschillende woorden en had verschillende gevoelens. Het was levendig en divers.
- De AI's: Hun beschrijvingen waren als een grijs, gestandaardiseerd stempel. Ze waren allemaal erg beleefd, erg positief en gebruikten bijna dezelfde zinnen. Ze misten de "ruis" en de echte diversiteit van het menselijk denken.
Het is alsof je een orkest hebt waar elke muzikant precies hetzelfde instrument speelt, op precies hetzelfde tempo. Het klinkt netjes, maar het mist de ziel en de verrassing van een echt orkest.
4. De "Veiligheids- en Rijkdoms-Test"
In een tweede deel van het onderzoek gaven ze de AI's geen vrije tekst, maar vroegen ze om cijfers te geven op schaal van 0 tot 100 voor dingen als: Is het hier veilig? Is het hier rijk? Is het hier saai?
Zelfs hier bleek hetzelfde patroon:
- Als de AI's een "westerse" bril opzetten, zagen ze de wereld op een bepaalde manier.
- Als ze een "niet-westerse" bril opzetten, veranderden de cijfers, maar de basis bleef scheef.
- Bijvoorbeeld: De AI's konden goed voorspellen of een plek "mooi" was (dat is visueel), maar ze faalden als het ging om het voorspellen van complexe menselijke gevoelens, zoals "voel ik me hier veilig?" of "voel ik me hier thuis?", vooral als het ging om landen buiten Europa en Noord-Amerika.
De Grote Les: Er is geen "Geen-Plaats"
De belangrijkste conclusie van dit papier is: AI's kijken niet vanuit "niemand" (een neutrale plek).
Ze kijken vanuit een cultureel scheefgetrokken startpunt.
- Als je een AI vraagt om een stad te beschrijven, is het alsof je een schilderij laat maken door iemand die alleen maar foto's van Parijs en New York heeft gezien, maar die probeert te schilderen van een dorp in Kenia. Hij zal het dorp proberen te schilderen, maar hij zal onbewust de kleuren en vormen van Parijs gebruiken.
Wat betekent dit voor ons?
Als we AI gebruiken om steden te plannen, te beoordelen of te beschrijven, moeten we oppassen. We denken misschien dat de AI "objectief" is, maar in werkelijkheid vertelt hij ons vooral hoe hij (en zijn makers) de wereld ziet. Hij is niet de waarheid; hij is een spiegel van een specifieke cultuur, die zich soms voordoet als de hele wereld.
Kort samengevat:
De AI is als een reiziger die denkt dat hij de hele wereld kent, maar eigenlijk alleen maar de kaart van zijn eigen dorp heeft gelezen. Als hij een nieuwe stad beschrijft, gebruikt hij de termen van zijn eigen dorp, en dat kan leiden tot misverstanden en onrechtvaardige oordelen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.