What Is The Political Content in LLMs' Pre- and Post-Training Data?
Deze studie toont aan dat politieke vooroordelen in grote taalmodellen voortkomen uit een systematische linkse scheefheid in de trainingsdata, waarbij de samenstelling van de data een doorslaggevende rol speelt in het modelgedrag en deze biases al in de basismodellen aanwezig zijn en door de post-training blijven bestaan.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat een Large Language Model (LLM), zoals de slimme chatbots die we vandaag de dag gebruiken, een gigantische student is die zich voorbereidt op een examen over de wereld.
Deze paper van Tanise Ceron en haar collega's onderzoekt één cruciale vraag: Waarom antwoorden deze studenten soms zo politiek gekleurd? Waarom lijken ze vaak meer te denken als een linkse politicus dan als een rechtse?
Hier is de uitleg, vertaald naar alledaagse taal met een paar creatieve vergelijkingen.
1. Het Grote Geheim: De "Voeding" van de AI
De onderzoekers stellen dat de politieke voorkeur van een AI niet zomaar uit de lucht komt vallen. Het is net als bij een kind: je wordt wat je eet.
- De Pre-training (De basisschool): Dit is de eerste, enorme fase waarin de AI miljarden documenten leest. De onderzoekers keken naar de "boodschappenlijstjes" (de datasets) van verschillende modellen.
- De ontdekking: De lijstjes waren systematisch scheef. Er stonden veel meer "linkse" krantenartikelen, blogs en boeken op dan "rechtse" ones. In sommige gevallen waren er wel 12 keer meer linkse documenten dan rechtse!
- De analogie: Stel je voor dat je een kind alleen maar linkse kranten, blogs en tijdschriften geeft om te lezen. Uiteindelijk zal dat kind, als het over politiek praat, onbewust diezelfde linkse kijk op de wereld hebben. De AI is niet "boos" of "partijdig" in de menselijke zin; het is gewoon een spiegel van wat het heeft gelezen.
2. De Bronnen: Wie schrijft er eigenlijk?
De onderzoekers keken ook naar waar deze teksten vandaan kwamen.
- Linkse teksten: Kwamen vaak van grote, gevestigde nieuwsbureaus (zoals The Guardian of The New York Post). Dit is als het lezen van de officiële schoolkrant.
- Rechtse teksten: Kwamen vaker van blogs, persoonlijke websites en kleinere, online gemeenschappen. Dit is meer als het lezen van handgeschreven briefjes die onder elkaar worden doorgegeven.
- Het probleem: Omdat de AI meer "officiële" linkse kranten las dan "persoonlijke" rechtse blogs, kreeg het een beeld van de wereld dat meer leek op de linkse krant.
3. De "Basis" vs. De "Finishing Touch"
Een belangrijk deel van het onderzoek gaat over twee fases in het leren van de AI:
- Pre-training: Het lezen van de hele wereld (de basis).
- Post-training: Het leren van gesprekken en menselijke voorkeuren (de "finishing touch" of de "finishing school").
- De verrassing: Veel mensen dachten dat de AI pas politiek werd tijdens de tweede fase (waar mensen haar leren hoe ze moet praten). Maar de onderzoekers vonden dat de politieke kant al volledig was vastgelegd tijdens de eerste fase.
- De analogie: Stel je voor dat je een huis bouwt. De pre-training is het leggen van het fundament en de muren. De post-training is het schilderen en het kiezen van het meubilair. De onderzoekers ontdekten dat het fundament al scheef stond. Het schilderen (post-training) maakte het huis misschien mooier of netter, maar het kon de scheve muren niet rechttrekken. De politieke bias zat er al in voordat de "menselijke instructeurs" erbij kwamen.
4. De Spiegel: De AI is een trouwe kopie
De onderzoekers maten precies wat de AI zei over specifieke onderwerpen (zoals klimaat, migratie of economie) en vergeleken dit met wat er in de boeken stond die de AI had gelezen.
- Het resultaat: Er was een extreem sterke overeenkomst. Als de boeken in de dataset meer voor klimaatbeleid waren, dan was de AI ook voor klimaatbeleid. Als de boeken meer voor strengere migratie waren, dan was de AI dat ook.
- De conclusie: De AI is geen eigen denker met eigen meningen; het is een spiegel. Als de spiegel scheef hangt (door de data), dan zie je een scheef beeld.
5. Waarom is dit belangrijk? (De "Ethiek")
Waarom moeten we hierover nadenken?
- De "Stille Meerderheid": Als de AI alleen maar linkse meningen leest en doorgeeft, kunnen rechtse meningen (of andere perspectieven) onzichtbaar worden. Dit kan leiden tot polarisatie.
- Vertrouwen: Mensen gebruiken AI steeds vaker voor nieuws en advies. Als die AI onbewust een bepaalde politieke kant kiest, beïnvloedt dat hoe mensen over de wereld denken.
- De oplossing? De onderzoekers suggereren dat we duidelijker moeten zijn over wat we in de computer stoppen. Als bedrijven eerlijk zeggen: "We hebben 12 keer meer linkse kranten gebruikt dan rechtse", dan kunnen gebruikers dat in hun oren houden. Misschien moeten we in de toekomst de "voeding" van de AI bewuster samenstellen, zodat het een eerlijker beeld van de wereld krijgt.
Samenvattend in één zin:
Deze paper laat zien dat AI's niet "kieskeurig" zijn, maar gewoon slimme kopieerders die de politieke kant van de wereld weerspiegelen omdat ze in hun "voeding" (de trainingsdata) veel meer linkse teksten hebben gekregen dan rechtse, en dat deze bias al in de basisfase wordt gelegd, voordat mensen er überhaupt bij komen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.