Standard Language Ideology in AI-Generated Language
Dit artikel introduceert het concept van de "standaard AI-gegenereerde taalideologie" en een sociotechnische taxonomie om te analyseren hoe grote taalmodellen standaardtaalvooroordelen versterken via mechanismen zoals legitimering en uitwissing, om uiteindelijk aanbevelingen te doen ter bescherming van linguïstische diversiteit en ter waarborging van een rechtvaardigere AI-toekomst.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat Large Language Models (LLM's) zoals ChatGPT een soort gigantische, superintelligente bibliothecaris zijn die bijna alles op het internet heeft gelezen. Je stelt de bibliothecaris een vraag en zij schrijven een verhaal of een antwoord voor je.
Dit artikel betoogt dat deze bibliothecaris niet neutraal is. In plaats daarvan heeft zij een zeer sterke, onzichtbare bias: zij vindt dat er slechts één specifieke manier van spreken "correct", "slim" en "professioneel" is, terwijl alle andere manieren van spreken "kapot", "grappig" of "fout" zijn.
De auteurs noemen deze bias Standard Language Ideology (Ideologie van de Standaardtaal). In de echte wereld betekent dit meestal dat de bibliothecaris de voorkeur geeft aan "Standard American English" (de manier waarop rijk, wit, middenklasse mensen in de VS spreken) en alles wat daarvan afwijkt als minderwaardig behandelt.
Hier is een overzicht van de belangrijkste ideeën uit het artikel met behulp van eenvoudige analogieën:
1. De "Gouden Standaard" Filter
Stel je voor dat de bibliothecaris een filter op haar bureau heeft liggen. Wanneer je een briefje aanbiedt dat geschreven is in een dialect zoals African American English (AAE) of met een regionaal accent, herschrijft de filter het automatisch naar "Standard American English" voordat ze het zelfs maar leest.
- Het Probleem: Het artikel noemt dit Legitimatie. De AI behandelt de "standaard" versie als de enige legitieme manier om te communiceren.
- Het Resultaat: Als je in je natuurlijke dialect spreekt, kan de AI je negeren, je verkeerd begrijpen of een slechter antwoord geven. Het is als een restaurant dat alleen eten serveert aan mensen die een specifiek pak dragen, en iedereen anderen vertelt dat ze eerst van kleding moeten veranderen voordat ze kunnen bestellen.
2. "Slechte Service" voor Sommige Klanten
Omdat de bibliothecaris voornamelijk boeken heeft gelezen die in "Standaard Engels" zijn geschreven, is zij slecht in het begrijpen van andere dialecten.
- Het Probleel: Dit is Ongelijke Kwaliteit van Dienstverlening. Als je een vraag stelt in een minderheidsdialect, kan de AI in de war raken, weigeren te antwoorden, of je vraag zelfs markeren als "haatzaaiende taal" (hate speech), puur vanwege de woorden die je gebruikte.
- Het Resultaat: Mensen die deze dialecten spreken, worden gedwongen tot "code-switching" (doen alsof ze spreken zoals de "standaardgroep") om een behulpzaam antwoord te krijgen. Het is alsof je een masker op moet zetten om een gebouw binnen te mogen gaan, puur zodat de beveiliger je doorlaat.
3. Het "Cartoon" Effect
Soms probeert de AI wel jouw dialect te spreken, maar doet zij dat op een gemene of belachelijke manier.
- Het Probleem: Dit is Stereotypering en Racialisering. Als je de AI vraagt om in een specifiek dialect te schrijven, produceert zij vaak een karikatuur — een cartoonversie van die spreektaal vol met stereotypen, beledigingen of "foutieve" grammatica die geen echt persoon daadwerkelijk gebruikt.
- Het Resultaat: Dit versterkt het idee dat mensen die zo spreken, ongeschoold of grappig zijn. Het is als een komiek die een slechte imitatie doet van een groep mensen, maar de AI presenteert dit als een serieuze, feitelijke weergave van hoe zij spreken.
4. De "Dief" in de Bibliotheek
De AI kan leren om een minderheidsdialect te spreken, maar doet dat zonder de mensen te vragen die het daadwerkelijk spreken.
- Het Probleel: Dit is Toeëigening (Appropriation). De AI neemt de "coole" of "unieke" delen van een cultuur en taal, verandert ze in een product en verkoopt ze aan iedereen, terwijl de oorspronkelijke sprekers er niets aan hebben.
- Het Resultaat: Een wit persoon kan de AI gebruiken om te klinken alsof hij bij een zwarte gemeenschap hoort, zonder de racisme te ervaren waar die gemeenschap mee te maken krijgt. Het is als een dief die een familie-erfstuk (een recept) steelt, het op een doos met ontbijtgranen zet en het met winst verkoopt, terwijl de familie geen erkenning of geld krijgt.
5. De "Gum"
Ten slotte wist de AI deze dialecten soms gewoon weg.
- Het Probleem: Dit is Erasure (Uitwissing). Om de risico's van stereotypering of toeëigening te vermijden, kunnen ontwikkelaars ervoor kiezen om de AI simpelweg te programmeren om nooit in die dialecten te spreken.
- Het Resultaat: Als je wilt dat de AI in jouw moedertaal/dialect antwoordt, zal zij dat simpelweg niet doen. Het is als een bibliotheek die besluit om te stoppen met het inkopen van boeken in een bepaalde taal omdat het "te moeilijk te beheren is", wat die taal effectief onzichtbaar maakt in de digitale wereld.
De Grote Vraag: Wat Moet de AI Doen?
Het artikel stelt een moeilijke vraag: Moet de AI zich gewoon aan "Standaard" Engels houden om veilig te zijn, of moet zij proberen elk dialect te spreken?
- Als zij zich aan "Standaard" houdt, kwet zij mensen die niet zo spreken.
- Als zij probeert elk dialect te spreken, loopt zij het risico om hen belachelijk te maken of hun cultuur te stelen.
De auteurs zeggen dat er geen eenvoudige "technische oplossing" is (zoals simpelweg meer data toevoegen), omdat dit een probleem van macht is, niet alleen van code. De mensen die de AI hebben gebouwd (voornamelijk in grote Amerikaanse techbedrijven) hebben bepaald wat "Standaard" is, en zij hebben de gemeenschappen wiens talen werden genegeerd niet om hun mening gevraagd.
De Oplossing: Wie Houdt de Sleutels in Handen?
In plaats van alleen te proberen de AI "minder bevooroordeeld" te maken, suggereren de auteurs dat we moeten veranderen wie de leiding heeft. Zij stellen drie hoofdideeën voor:
- Meet de Schade: We moeten AI niet alleen testen op snelheid, maar ook op hoe het verschillende dialecten behandelt. Is het beledigend? Negeert het mensen?
- Laat Gemeenschappen Hun Eigen Tools Bouwen: In plaats van dat grote bedrijven data uit gemeenschappen halen, zouden die gemeenschappen hun eigen AI-tools moeten bouwen. (Het artikel noemt groepen in Afrika en Nieuw-Zeeland die dit al doen).
- Deel de Macht: Als grote bedrijven een taal van een gemeenschap willen gebruiken, moeten zij om tafel gaan met die gemeenschap, hen de beslissingen laten nemen en de winsten delen. Het gaat niet om het "raadplegen" van de gemeenschap; het gaat erom hen de eigenaarschap over het proces te geven.
Kortom: Het artikel betoogt dat AI momenteel het idee versterkt dat sommige manieren van spreken "beter" zijn dan andere. Om dit te oplossen, kunnen we niet alleen de software aanpassen; we moeten de macht teruggeven aan de mensen wier talen worden gebruikt, genegeerd of bespot.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.