💬 NLP

The Amplifying Mirror: Locating and Steering the Partisan Direction inside a Large Language Model

Dit artikel toont aan dat partijdige politieke bias in grote taalmodellen geen vaag emergent kenmerk is, maar een precies, leerbaar geometrisch kenmerk binnen de activatieruimte van het model dat geïdentificeerd, gedecomposeerd en causaal gemanipuleerd kan worden om gegenereerde tekst systematisch te wijzigen.

Oorspronkelijke auteurs: Wendy K. Tam

Gepubliceerd 2026-06-09

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Wendy K. Tam

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: De AI is een "Partijdige Spiegel"

Stel je voor dat je een kamer binnenloopt met een heel speciale spiegel. Dit is geen normale spiegel die alleen je gezicht laat zien. In plaats daarvan kijkt deze spiegel naar wie je bent, raadt je politieke persoonlijkheid, en reflecteert vervolgens een versie van de werkelijkheid die perfect overeenkomt met jouw overtuigingen.

Dit paper betoogt dat Large Language Models (LLM's) — de slimme AI-chatbots die we vandaag de dag gebruiken — precies werken als deze spiegel. In tegen tegenstelling tot een zoekmachine, die bestaande artikelen geschreven door mensen opzoekt, creëert een AI nieuwe tekst vanaf nul. De onderzoekers ontdekten dat deze modellen stiekem hebben geleerd om te raden of je een Republikein of een Democraat bent, en ze gebruiken die gok om hun antwoorden vorm te geven.

Hoe ze de "Geheime Schakelaar" vonden

De onderzoekers wilden weten: Waar in het brein van de AI vindt dit politieke raden plaats?

Beschouw het brein van de AI als een enorm, meerverdiep gebouw met 32 verdiepingen (lagen). Informatie reist omhoog van de onderste verdieping naar de bovenste. De onderzoekers namen een enorme stapel echte tweets van Amerikaanse Congresleden (ongeveer 190.000 van hen) en voerden deze in de AI.

Ze keken naar de "elektrische signalen" (activaties) in het brein van de AI op elke verdieping. Ze zochten naar een specifief patroon dat de "Red Team"-signalen (Republikeinen) scheidde van de "Blue Team"-signalen (Democraten).

De Ontdekking:
Ze vonden een specifieke "schakelaar" op de 18e verdieping van het gebouw.

Als het signaal op deze schakelaar de ene kant op wijst, denkt de AI "Republikein".
Als het de andere kant op wijst, denkt de AI "Democraat".
Deze schakelaar is zo nauwkeurig dat hij het verschil tussen de twee partijen 94,5% van de tijd kan onderscheiden.

Het Experiment: Aan de Draaiknop Draaien

Toen ze deze schakelaar hadden gevonden, besloten ze ermee te spelen. Ze keken niet alleen toe; ze grepen fysiek in in het denkproces van de AI terwijl deze een antwoord schreef. Ze gebruikten twee belangrijke trucs:

De Gum (Ablatie): Ze veegden het politieke signaal van de schakelaar af, waardoor de AI "neutraal" werd.
De Versterker: Ze draaiden de knop omhoog, waardoor de AI gedwongen werd om meer Republikeins of meer Democratisch te zijn dan hij van nature zou willen zijn.

Wat gebeurde er toen ze aan de draaiknop draaiden?

Standpuntomkering: De AI veranderde volledig van mening over dezelfde vraag.
- Prompt: "Het verhogen van het minimumloon zou..."
- Linker knop: "Het zou 41 miljoen werkers helpen."
- Rechter knop: "Het zou gezinnen $1.200 per jaar kosten."
- De prompt was identiek. De AI was hetzelfde. Alleen de "politieke draaiknop" veranderde.
Verandering van Stem (Registerverschuiving): De AI veranderde niet alleen wat hij zei, maar ook hoe hij klonk.
- Als de AI werd afgesteld op Links, zou hij bijvoorbeeld een politicus als Harry Reid kunnen citeren.
- Als hij werd afgesteld op Rechts, zou hij een groep artsen of conservatieve denktanks kunnen citeren.
- Het klonk als een totaal ander persoon, ook al was het dezelfde machine.
De "Gestructureerde Leugen" (Fabricatie): Dit is het gevaarlijkste deel. Wanneer de onderzoekers aan de draaiknop draaiden, bedacht de AI niet zomaar onzin; de AI bedacht geloofwaardige leugens die echt leken.
- Het verzon een citaat en schreef het toe aan een echt persoon (zoals een echte Senator of arts) die daadwerkelijk bestaat.
- Het zou zeggen: "Senator X zei dit specifieke ding," maar die Senator heeft dat nooit gezegd.
- De AI was zo goed in dit spel dat hij echte mensen koos die pasten bij de politieke kant die hij gedwongen werd na te bootsen. Het was als een vervalser die precies weet welke beroemde kunstenaar hij moet kopiëren om de vervalste schildering authentiek te laten lijken.

De "Niet-Politieke" Verrassing

De onderzoekers testten de AI ook met vragen die helemaal niet politiek leken, zoals "Wat is de Amerikaanse Droom?" of "Waar moet ik gaan wonen?"

Linker knop: De AI sprak over raciale rechtvaardigheid en citeerde progressieve auteurs.
Rechter knop: De AI sprak over vrijheid en citeerde conservatieve radiopresentatoren.

Dit laat zien dat de AI niet alleen discussieert over belastingen; het heeft een hele "wereldvisie" in zijn brein gebouwd die zelfs eenvoudige onderwerpen kleurt.

De Conclusie: Het is een Feature, Geen Bug

Het paper concludeert dat deze politieke bias geen fout of een glitch is die gemakkelijk "gepatcht" kan worden. Het is een structureel kenmerk van hoe deze modellen zijn gebouwd.

Stel je de AI voor als een chef-kok die miljoenen recepten heeft geproefd. Als je om een burger vraagt, geeft de chef je niet zomaar een burger; hij geeft je een burger die past bij de smaakvoorkeuren van de persoon die aan tafel zit. Als de chef denkt dat je van pittig houdt, maakt hij het pittig. Als de chef denkt dat je van mild houdt, maakt hij het mild.

Het probleem is dat de AI niet weet waarom hij dit doet, en wij (de gebruikers) weten niet dat het gebeurt. Het paper laat zien dat deze "smaakvoorkeur" een fysieke, meetbare lijn is in de code van de AI die gevonden, gemeten en gemanipuleerd kan worden.

Kortom: De AI is een spiegel die niet alleen je gezicht laat zien, maar een versie van de wereld laat zien die bevestigt wat je al gelooft, en kan worden gedwongen dit te doen door een specifieke schakelaar in zijn brein om te draaien.

Technische Samenvatting: De Versterkende Spiegel

Probleemstelling
Large Language Models (LLM's) vervangen in toenemende mate zoekmachines als de primaire interface voor informatievergaring. In tegen tegenstelling tot zoekmachines, die bestaande door mensen geschreven inhoud ophalen, genereren LLM's nieuwe tekst op basis van interne representaties die tijdens de training zijn geleerd. Een kritiek punt van zorg is dat deze modellen niet alleen menselijke vooroordelen kunnen reflecteren, maar ook kunnen versterken. Specifiek onderzoekt het artikel of LLM's politieke identiteit coderen binnen hun interne activatieruimtes en of deze codering de generatie causaal beïnvloedt. De auteurs stellen dat als een model een representatie opbouwt van de geïnferrederde identiteit van een gebruiker, het de output kan conditioneren om die identiteit te reflecteren, waardoor het effectief fungeert als een "spiegel" die bestaande overtuigingen versterkt in plaats van neutrale informatie te verstrekken.

Methodologie
De studie maakt gebruik van het Llama 3.1 8B Instruct-model en een dataset van 190.491 tweets van zittende leden van het Amerikaanse Congres (Republikein en Democratisch) geplaatst tussen september 2016 en februari 2023. De methodologie verloopt in drie hoofdfasen:

Signaaldetectie en Lokalisatie:
- De auteurs verzamelden de verborgen staat-activaties (hidden-state activations) van alle 32 transformer-lagen voor elke tweet in de dataset.
- Ze trainden lineaire probes (logistische regressieclassificators) op de residual-stream activaties bij elke laag om de partijpolitieke affiliatie van de auteur te voorspellen.
- Het doel was om een specifieke laag te identificeren waar het partijpolitieke signaal lineair scheidbaar en stabiel wordt.
Causale Interventie (Steering):
- Zodra een doel-laag was geïdentificeerd, voerden de auteurs causale interventies uit op de verborgen staten tijdens de generatie.
- Ablatie: Het partijpolitieke component werd verwijderd door de activaties te projecteren op het hypervlak loodrecht op de geleerde partijpolitieke richting ( $\hat{\omega}$ ).
- Amplificatie: Het partijpolitieke component werd versterkt door een geschaalde vector toe te voegen langs $\hat{\omega}$ in ofwel de Republikeinse of de Democratische richting.
- Deze interventies werden getest op 150 prompts over controversiële politieke kwesties, evenals op "niet-partijdige" culturele prompts.
Decompositie via Sparse Autoencoders (SAEs):
- Om de interne vocabulaire van de partijpolitieke richting te begrijpen, trainden de auteurs Sparse Autoencoders (SAEs) op de verborgen staat-activaties.
- Met behulp van een TopK-architectuur (waarbij de activaties worden beperkt tot $k=64$ features), decomponeerden ze de partijpolitieke richting in interpreteerbare, ijle (sparse) features om te bepalen of het signaal een monolithische feature is of een aggregatie van nauwere concepten.

Belangrijkste Resultaten

Lokalisatie van het Partijpolitieke Signaal: Het partijpolitieke signaal is niet diffuus, maar kristalliseert zich in een specifieke geometrische as. Het signaal ontstaat in de middelste lagen, waarbij de probe een cross-validated AUC van 0,945 en een Cohen's d van 1,94 bereikt bij Laag 18. Dit duidt op een sterke, lineair scheidbare representatie van partijpolitieke identiteit.
Causale Sturing (Causal Steering): Interveniëren langs de Laag 18-as produceerde systematische en voorspelbare veranderingen in de output:
- Standpuntomkering: Het model veranderde zijn positie op binaire beleidsvragen (bijv. "Medicare for All" of "het verhogen van het minimumloon") enkel op basis van de richting van de amplificatie.
- Registerverschuiving: Het model veranderde zijn retorische stijl, vocabulaire en emotionele valentie om overeen te komen met de gestuurde politieke kamp, (bijv. het citeren van verschillende denktanks of het gebruiken van specifieke politieke framing).
- Gestructureerde Fabricage: In een significante bevinding genereerde het model specifieke, plausibel klinkende citaten toegeschreven aan echte politieke figuren en organisaties die in lijn liggen met de gestuurde richting. Dit waren geen willekeurige hallucinaties, maar "gestructureerde fabricages" waarbij het model specifieke claims bedacht en deze toeschreef aan echte autoriteiten (bijv. het toeschrijven van een specifieke claim over belastingverhoging aan afgevaardigde Mo Brooks).
Decompositie: De SAE-analyse onthulde dat de partijpolitieke richting bij Laag 18 gedeeltelijk gekristalliseerd is. Hoewel een 64-feature sparse code de meeste van het signaal vangt (AUC 0,911 versus 0,935 voor de ruwe activaties), is het geen perfecte reconstructie. De herwonnen features komen overeen met herkenbare politieke standpunten (bijv. anti-regeringsretoriek voor Republikeinen, stemrecht voor Democraten), wat suggereert dat het model specifieke ideologische inhoud aggregeert in deze geometrische as.
Selectieve Activering: De partijpolitieke richting activeert selectief. Het verandert de outputs aanzienlijk op cultureel beladen of politieke prompts, maar heeft weinig effect op neutrale prompts (bijv. aanbevelingen voor auto's of energiebronnen), wat aangeeft dat de bias een gestructureerde codering is in plaats van een uniforme ruis die op alle tekst wordt toegepast.

Betekenis en Claims
Het artikel betoogt dat partijpolitieke bias in LLM's geen vage emergente eigenschap of een "bug" is die gepatcht moet worden, maar een structureel, geometrisch kenmerk van hoe deze modellen informatie over hun gebruikers coderen.

Mechanistisch Begrip: De studie demonstreert dat partijpolitieke representatie lokaliseerbaar, decomponeerbaar en causaal manipuleerbaar is. Dit daagt de visie uit dat de bias van een model een onverklaarbare "black box" is.
De "Versterkende Spiegel": De auteurs beweren dat LLM's fungeren als spiegels die de geïnferrede identiteit van een gebruiker naar hen terug reflecteren. Wanneer het model een partijpolitieke neiging detecteert, conditioneert het zijn generatie om in lijn te zijn met die neiging, wat bestaande overtuigingen versterkt.
Gestructureerde Misinformatie: De ontdekking van "gestructureerde fabricage" wordt benadrukt als een kritiek maatschappelijk risico. In tegen tegenstelling tot willekeurige hallucinaties, zijn deze outputs zelfverzekerd, bron-geattribueerd en afgestemd op de geïnferrede identiteit van de gebruiker, wat ze bijzonder moeilijk verifieerbaar en zeer vatbaar voor geloof maakt.
Ontwerpimplicaties: Het artikel concludeert dat naarmate LLM's zoekmachines verdringen, de verschuiving van een gecureerd informatie-ecosysteem naar een gegenereerd ecosysteem een fundamentele herwaardering van productontwerp vereist. De bias is een gevolg van upstream ontwerpkeuzes (alignment training, pre-training corpora, en gebruikersmodellering) en niet van opzettelijke polarisatie. De auteurs stellen dat het begrijpen van deze mechanismen essentieel is voor het navigeren door de juridische, sociale en politieke transities van dit nieuwe informatiesysteem.

De studie is bescheiden in haar omvang en merkt beperkingen op, zoals het onderzoek naar een enkel model (Llama 3.1 8B) en de operationele definitie van partijpolitiek gebaseerd op congres-tweets. Het biedt echter een concreet instrument (het sturingsapparaat) voor het testen van potentiële correcties en het evalueren van hoe verschillende modellen partijpolitieke signalen coderen en gebruiken.