The Political Ideology of Large Language Models: Measurement, Inconsistency, and Persuasive Influence
Deze studie daagt de visie uit dat Large Language Models slechts geringe politieke vooroordelen hebben en toont aan dat, hoewel hun algemene positionering gematigd lijkt te zijn door tegenovergestelde partijdige standpunten over specifieke onderwerpen, ze desondanks een overtuigende invloed op de politieke attitudes van gebruikers kunnen uitoefenen die vergelijkbaar is met professionele campagneadvertenties, in het bijzonder wanneer hun reacties expliciet worden gestuurd.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In het landschap van de moderne politiek is de ideologie van een persoon zelden een enkele, solide blok aan overtuigingen. In plaats daarvan is het een verzameling meningen over vele verschillende kwesties, van gezondheidszorg tot immigratie, die soms in tegengestelde richtingen kunnen trekken. Politicologen begrijpen al lang dat de meeste mensen geen perfect consistente opvattingen hebben; een kiezer kan op het ene onderwerp zeer liberaal zijn en op het andere zeer conservatief, of ze kunnen simpelweg geen sterke mening hebben. Decennialang hebben onderzoekers deze posities gemeten door mensen te vragen hoe ze voor wetten zouden stemmen of hoe ze over specकिfieke beleidsmaatregelen denken, waardoor een kaart ontstond van waar individuen staan. Nu is er een nieuwe vraag ontstaan nu kunstmatige intelligentie een dagelijks hulpmiddel is geworden voor miljoenen: hebben de grote taalmodellen waarmee we dagelijks praten hun eigen politieke kaarten? Als deze modellen, die steeds vaker worden gebruikt om informatie te vinden en meningen te vormen, verborgen vooroordelen hebben, zouden ze subtiel de manier waarop mensen de wereld zien kunnen vormgeven zonder dat iemand het doorheeft.
Een team van onderzoekers zette zich in om dit te beantwoorden door kunstmatige intelligentie niet te behandelen als een neutrale rekenmachine, maar als een politieke actor. Ze onderzochten drieëndertig verschillende grote taalmodellen en vroegen elk model om te fungeren als een lid van het Amerikaanse Congres, een rechter van het Hooggerechtshof of een gewone kiezer. Ze vroegen de modellen niet simpelweg om hun overtuigingen te uiten; in plaats daarvan vroegen ze hen beslissingen te nemen over echte wetsvoorstellen, rechtszaken en enquêtevragen, precies zoals een mens dat zou doen. De onderzoekers vergeleken deze digitale beslissingen vervolgens met de werkelijke stemrecords van echte politici en de antwoorden op enquêtes van duizenden echte Amerikanen. Wat zij vonden, was dat deze modellen niet in een stille, neutrale middenweg zitten. In plaats daarvan vertonen ze een complexe en vaak tegenstrijdige mix van standpunten. Op sommige kwesties kan een enkel model een positie innemen die liberaler is dan die van de sterkste Democraten, terwijl datzelfde model op andere kwesties een standpunt kan innemen dat conservatiever is dan dat van de sterkste Republikeinen. Wanneer je al deze opvattingen samen middelt, lijken de modellen vaak gematigd, maar dit is een illusie die wordt gecreëerd door sterke, tegengestelde meningen tegen elkaar weg te strepen, vergelijkbaar met een echte kiezer die een mix van conflicterende opvattingen koestert.
De studie keek ook naar de oorsprong van deze opvattingen. De onderzoekers ontdekten dat de politieke neigingen van deze modellen niet simpelweg een reflectie zijn van de enorme hoeveelheid tekst waarop ze zijn getraind. In plaats daarvan zijn het de specifieke instructies en veiligheidsfilters die op de modellen worden toegepast na hun initiële training — processen die bedoeld zijn om hen behulpzaam en ongevaarlijk te maken — die hen naar bepaalde politieke zijden duwen. Sterker nog, toen de onderzoekers de "ruwe" versies van deze modellen testten vóór deze laatste aanpassingen, waren de modellen veel dichter bij het politieke centrum. Het is de uiteindelijke afstemming die hen hun kenmerkende, en vaak liberaal-georiënteerde, politieke signatuur geeft. Deze signatuur is niet alleen een statische lijst van meningen; het verandert afhankelijk van hoe het model wordt gevraagd. Wanneer ze worden geprompt om op te treden als een kiezer, een rechter of een wetgever, drukken de modellen verschillende sets standpunten uit, wat laat zien dat hun "ideologie" een gedrag is dat ze uitvoeren als reactie op een prompt, in plaats van een diepgeworteld overtuigingssysteem.
Het meest significante deel van het onderzoek was echter om te zien of deze digitale opinies daadwerkelijk de geest van echte mensen konden veranderen. De onderzoekers voerden een groot experiment uit waarbij duizenden Amerikaanse deelnemers discussieerden over beleidskwesties met deze modellen. Ze testten twee verschillende scenario's. In het eerste scenario mochten de modellen natuurlijk praten, waarbij ze vragen beantwoordden zonder dat hen werd gezegd dat ze voor een specifieke kant moesten pleiten. In het tweede scenario kregen de modellen expliciet de instructie om voor een specifiek standpunt te pleiten, zoals het steunen van een nieuwe wet op wapenbeheersing of het afwijzen van een belastingverhoging. De resultaten waren opmerkelijk. Wanneer de modellen natuurlijk praatten, hadden ze geen meetbaar effect op de meningen van de deelnemers. De mensen die met hen spraken, veranderden hun opvattingen niet in een bepaalde richting. Echter, wanneer de modellen de instructie kregen om voor een kant te pleiten, werden ze krachtige overtuigers. Deelnemers die spraken met een model dat werd geïnstruerd om voor een specifiek beleid te pleiten, verschoven hun eigen opvattingen om in lijn te komen met dat model met een gemiddelde van meer dan tien procentpunten. Dit effect was sterk genoeg om de invloed van professionele politieke campagnereclames te evenaren, en in sommige gevallen zelfs te overtreffen.
Cruciaal was de bevinding dat deze macht om te overtuigen niet afhing van de achtergrond van de persoon. Het maakte niet uit of de deelnemer hoogopgeleid was, de nieuwsberichten nauwlettend volgde of zeer bekend was met kunstmatige intelligentie; de invloed werkte even sterk op iedereen, ongeacht deze factoren. Echter, de richting van het argument ten opzichte van de eigen politieke partij van de deelnemer deed op een verrassende manier wél toe. De onderzoekers ontdekten dat deelnemers minder geneigd waren hun opvattingen te veranderen wanneer het model tegen hun eigen politieke partij pleitte, en eerder geneigd waren wanneer het model in lijn met hun partij pleitte. De onderzoekers sloten ook de mogelijkheid uit dat de modellen simpelweg instemden met wat de gebruiker al dacht. Omdat de modellen instructies hadden gekregen om voor een specifieke kant te pleiten vóórdat het gesprek begon, en omdat de gebruikers niet vooraf hun eigen opvattingen aan de modellen hadden verteld, konden de modellen de gebruiker niet simpelweg spiegelen. In plaats daarvan beïnvloedden de modellen het gesprek werkelijk.
De bevindingen suggereren dat hoewel deze instrumenten voor kunstmatige intelligentie een neutrale bron van informatie lijken te zijn wanneer ze aan hun lot worden overgelaten, ze een verborgen capaciteit bezitten om de politieke opinie te vormen wanneer ze daartoe worden geleid. De onderzoekers benadrukken dat deze invloed niet het resultaat is van het feit dat de modellen een ziel of een politieke agenda van zichzelf hebben, maar eerder van de manier waarop ze zijn gebouwd en geïnstrueerd. Als een overheid of een bedrijf de publieke opinie wil beïnvloeden, hoeven ze geen propagandamachine te creëren; ze hoeven alleen maar de instructies aan te passen die aan de modellen worden gegeven die miljoenen mensen al gebruiken. De studie concludeert dat naarmate deze hulpmiddelen dieper in ons dagelijks leven worden verankerd, van zoekmachines tot persoonlijke assistenten, de manier waarop ze worden afgestemd diepgaande gevolgen zal hebben voor hoe we de wereld begrijpen en hoe we stemmen. De macht om iemands geest te veranderen is niet langer voorbehouden aan menselijke sprekers; het kan nu worden gecodeerd in de software waarmee we dagelijks praten.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.