💬 NLP

Locating and Controlling Implicit Personalization in Large Language Models

Dit artikel으로 toont aan dat impliciete demografische personalisatie in grote taalmodellen wordt gedreven door gelokaliseerde interne activatiesignalen die kunnen worden geïdentificeerd, causaal kunnen worden gecontroleerd en selectief kunnen worden verwijderd om bevooroordeelde outputs te onderdrukken terwijl de algemene modelprestaties behouden blijven.

Oorspronkelijke auteurs: Yueru Yan, Siqi Wu, Thai Le

Gepubliceerd 2026-08-13

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Yueru Yan, Siqi Wu, Thai Le

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je praat met een superintelligente robot die bijna elk boek op het internet heeft gelezen. Je zou kunnen denken dat hij iedereen precies hetzelfde behandelt, als een neutrale rechter. Maar in de wereld van Kunstmatige Intelligentie, specifiek bij Large Language Models (LLM's), is het een beetje meer als een kameleon. Deze modellen geven niet alleen antwoord op vragen; ze veranderen subtiel hun persoonlijkheid en aanbevelingen op basis van piepkleine, verborgen hints die je in het gesprek laat vallen. Dit komt niet doordat je tegen de robot hebt gezegd: "Ik ben een tiener" of "Ik kom uit een specifieke cultuur". In plaats daarvan noem je misschien een specifieke feestdag, gebruik je een straattaalwoord, of praat je over een hobby. De robot pikt deze "impliciete aanwijzingen" op en past zijn antwoorden stilletjes aan om te matchen met stereotypen die hij heeft geleerd over die groepen. Dit is een beetje zoals een ober die, zonder dat je een woord zegt, ervan uitgaat dat je een biefstuk wilt omdat je een bepa certain jas draagt, of een bibliothecaris die je een mystery roman geeft omdat je een bril draagt. Het probleem is dat dit geruisloos gebeurt. Je ziet de schakelaar niet omgaan, en je kunt de robot niet gemakkelijk vragen om daarmee te stoppen. Wetenschappers wisten al dat dit gebeurde, maar ze wisten niet hoe de robot het deed in zijn "brein". Ze wisten dat de output veranderde, maar ze konden de interne tandwielen niet zien draaien.

Dit artikel is als een monteur die de motorkap van die robot opent om precies te zien wat er onder de motorkap gebeurt. De onderzoekers wilden het specifieke "interne signaal" vinden — een minuscuul elektrisch patroon in het brein van het model — dat optreedt op het moment dat de robot besluit zijn antwoord te veranderen op basis van die verborgen hints. Ze behandelden het model als een complexe machine met lagen van verwerking. Door gesprekken te vergelijken waarin een hint aanwezig was versus bijna identieke gesprekken waarin die hint afwezig was, vonden ze een specifieke "vingerafdruk" in de interne wiskunde van het model. Ze ontdekten dat de grootte van deze vingerafdruk direct voorspelt hoeveel het antwoord van de robot zal veranderen. Het is alsof ze een volumeknop in het brein van de robot hebben gevonden: wanneer de knop wordt opengedraaid (een sterk intern signaal), verschuiven de aanbevelingen van de robot drastisch richting stereotypen; wanneer de knop op nul staat, blijft de robot neutraal.

Maar het verhaal wordt nog interessanter wanneer je meerdere hints tegelijk hebt. Stel je voor dat je zowel een specifieke feestdag en een specifieke leeftijdsgroep noemt. Je zou verwachten dat de robot deze twee invloeden perfect combineert, zoals het optellen van twee getallen. Echter, de onderzoekers ontdekten dat hoewel de interne hersensignalen van de robot lijken op te tellen (lineair, zoals het mengen van twee kleuren verf), het uiteindelijke antwoord dat het model geeft dat niet is. Het werkelijke gedrag is "sub-additief", wat betekent dat de uiteindelijke verschuiving kleiner is dan de som der delen. Het is alsof je suiker en zout aan een drankje toevoegt; de interne mengeling is misschien een perfecte blend van beide, maar de smaak die je ervaart is minder intens dan je zou verwachten als je simpelweg de twee hoeveelheden bij elkaar optelt.

Het meest opwindende deel van de studie is wat er gebeurt wanneer de onderzoekers probeerden de bias van de robot "uit te zetten". Ze ontdekten hoe ze de specifieke richting van die interne vingerafdruk voor één type hint (zoals ras) konden identificeren en deze vervolgens wiskundig uit het systeem "projecteerden", waardoor die specifieke invloed effectief werd verwijderd. Ze ontdekten dat deze interne chirurgie beter werkte dan de robot simpelweg beleefd vragen om "demografie te negeren" in een prompt. Sterker nog, de robot vertellen om de bias te negeren, maakte hem soms juist meer bevooroordeeld, zoals een kind dat rebelleriger wordt wanneer het wordt verteld ergens mee te stoppen. Door het interne signaal chirurgisch te verwijderen, konden ze de robot stoppen met het maken van ras-gebaseerde aannames zonder zijn vermogen om andere vragen te beantwoorden te verstoren of zijn algemene intelligentie te beschadigen. Deze oplossing is echter geen toverstaf die voor elke robotmodel of elk type bias werkt. Soms verandert het verwijderen van de invloed van de ene hint per ongeluk een andere, en soms werkt het perfect. Het is een krachtig nieuw instrument om deze AI-systemen te begrijpen en te controleren, waarbij het ons laat zien dat we de verborgen tandwielen kunnen vinden en bijsturen die hun gedrag aansturen, in plaats van alleen maar te hopen dat ze zich goed gedragen.

Technische Samenvatting: Het lokaliseren en beheersen van impliciete personalisatie in Large Language Models

Probleemstelling

Large Language Models (LLM's) vertonen impliciete personalisatie, waarbij ze hun outputs (bijv. film aanbevelingen) aanpassen als reactie op demografische aanwijzingen die in de dialoog van de gebruiker zijn ingebed, zelfs wanneer de gebruiker zijn identiteit nooit expliciet vermeldt. Hoewel eerder werk deze gedragsveranderingen heeft gedocumenteerd—zoals dialectkenmerken die leiden tot hardere strafmaten of impliciete geschiedenis die aanbevelingen naar stereotypen toe vernauwt—blijft de connectie tussen deze gedragsveranderingen en de interne activaties van het model onduidelijk.

Bestaande studies vertrouwen vaak op gedragsaudits of lineaire probes die bevestigen dat attribuutinformatie decodeerbaar is, maar falen in het vaststellen of deze attributen causaal de output aansturen. Bovendien gaan interacties in de echte wereld vaak gepaard met meerdere overlappende identiteitskenmerken (bijv. ras en leeftijd tegelijkertijd), wat de vraag oproept of interne representaties lineair uiteenvallen en of gedragsveranderingen simpelweg optellen. Dit paper probeert de kloof tussen impliciete personalisatie-gedrag en de interne mechanica van het model te overbruggen, door specifiek de volgende vragen te beantwoorden:

Is er een intern signaal dat de omvang van personalisatie bijhoudt?
Hoe combineren interne representaties en outputs wanneer meerdere aanwijzingen gelijktijdig voorkomen?
Kunnen specifieke demografische invloeden causaal worden onderdrukt zonder de algemene modelprestaties te verslechteren?

Methodologie

Dataset en Experimenteel Ontwerp

De auteurs maken gebruik van een matched-pair vergelijkingskader met $n=50$ scenario's over vijf LLM's (Llama-3-8B, Mistral-7B, Qwen3-8B, Qwen3-14B, en Phi-4).

Aanwijzingen (Cues): Dialogen worden gegenereerd met behulp van GPT-4o, waarbij impliciete demografische aanwijzingen worden opgenomen die gebaseerd zijn op een literatuur-gewortelde taxonomie (culturele referenties, hobby's, slang) voor drie dimensies: Ras (Zwart, Aziatisch, Wit), Geslacht (Man, Vrouw), en Leeftijd (Kind, Adolescent, Volwassene, Oudere volwassene).
Condities: Voor elk scenario genereren de auteurs:
- Cued contexts: Bevat impliciete identiteitskenmerken.
- Neutral contexts: Gebruikt identiteitsneutrale opvulling met identieke thematische inkadering.
- Explicit contexts: Vermeldt demografie direct (voor kalibratie).
Taak: De laatste beurt vraagt het model om vijf films aan te bevelen.
Intersectionaliteit: Experimenten combineren twee dimensies (bijv. Ras $\times$ Geslacht) met dose-matched controles om interactie-effecten te isoleren.

Gedragsmetrieken

Twee complementaire metrieken kwantificeren de verschuiving:

Semantic Embedding Distance op beschrijvingen (SED-desc): Meet de omvang van de semantische verschuiving tussen cued en neutrale aanbevelingen met behulp van de cosinusovereenkomst van plot-overzichten.
Content Alignment Ratio (CAR): Meet de richting van de verschuiving door het deel te berekenen van de aanbevolen items die getagd zijn als geassocieerd met de doelidentiteit met behulp van een vooraf gespecificeerde stereotype-taxonomie.

Interne Representatieve Grootheid

De kernbijdrage op technisch gebied is de definitie van het ruwe door de cue geïnduceerde activatiecontrast ( $\Delta A$ ):
$\Delta A^{(i)}_L = A_L(C^{(i)}_{cue}, x) - A_L(C^{(i)}_{neutral}, x)$
Dit vertegenwoordigt het verschil in de residual-stream activatie bij de laatste query-token tussen gematchte cued en neutrale contexten op specifieke lagen $L$ .

Genormaliseerde Magnitude ( $s_{\Delta A}$ ): De auteurs berekenen de genormaliseerde magnitude van dit contrast om de correlatie met gedragsveranderingen te testen.
Laalselectie ( $L^\star$ ): Specifieke lagen die de gedragsverandering mediëren, worden geïdentificeerd via activatie patching.

Interventiestrategie

Om personalisatie te controleren, passen de auteurs directionele ablatie toe tijdens de generatie. Ze berekenen een steekproefgemiddelde richtingvector ( $\hat{v}_{dim}$ ), die zij orthogonaliseren ten opzichte van andere dimensies, en projecteren deze uit de residual stream met behulp van een pre-hook:
$h' = (I - \alpha \hat{v}_{dim}\hat{v}_{dim}^\top)h$
waarbij $\alpha$ de sterkte van de interventie controleert. Dit wordt vergeleken met "ignore demographics" prompting en willekeurige richting-shams.

Belangrijkste Resultaten

1. Intern Signaal Volgt Gedragsverandering

De genormaliseerde magnitude van het activatiecontrast ( $s_{\Delta A}$ ) op doel-lagen ( $L^\star$ ) correleert sterk met de gedragsverandering op basis van individuele samples.

Correlatie: Pearson-correlaties bereiken tot wel $r = 0,87$ (bijv. Llama-3-8B met Aziatische cues op SED-desc).
Schaalbaarheid: De sterkte van het interne tracking-signaal schaalt met de omvang van de gedragsverandering. In condities waar geen gedragsverandering optreedt (bijv. White-cue condities), daalt de interne correlatie aanzienlijk.
Significantie: Dit vestigt een keten die strikt loopt van cue naar activatie naar gedrag, waarbij de magnitude van het interne signaal dient als een betrouwbaar tracking-signaal voor de omvang van de personalisatie, in plaats van dat het zelf de causale drijver is.

2. Lineaire Compositie van Interne Signalen versus Sub-additief Gedrag

Wanneer meerdere aanwijzingen gelijktijdig voorkomen:

Interne Representatie: Het gemengde cue-contrastvector ( $\Delta A_{AB}$ ) kan betrouwbaar worden gereconstrueerd als een lineaire combinatie van de enkelvoudige cue-vectoren ( $\alpha v_A + \beta v_B$ ). De gemiddelde reconstructie-fit ( $\rho$ ) varieert van 0,576 tot 0,704, wat aanzienlijk beter presteert dan enkelvoudige cue-verklaringen. Dit geeft aan dat het model meerdere identiteitsrichtingen intern actief integreert.
Gedragsoutput: De werkelijke gedragsverandering is strikt sub-additief. Wanneer beide aanwijzingen aanwezig zijn, is de resulterende personalisatie 28–38% lager dan de som van de individuele enkelvoudige cue-verschuivingen. De output weerspiegelt niet simpelweg de interne lineaire optelling; het comprimeert het effect op een modelspecifieke wijze.

3. Causale Controle via Directionele Ablatie

Het wegprojecteren van de interne richting geassocieerd met een specifieke aanwijzing onderdrukt de invloed ervan succesvol:

Effectiviteit: Interne ablatie presteert beter dan expliciete "ignore demographics" prompting. Op Qwen3-8B was ablatie tot wel 9,2 $\times$ effectiever dan prompting. In sommige gevallen werkte prompting averechts en verhoogde het stereotypering.
Selectiviteit: Het vermogen om de invloed van één dimensie te verwijderen terwijl een andere behouden blijft, is model- en attribuutspecifiek.
- Mistral-7B: Het verwijderen van de gender-richting verminderde gender-getagde content met 0,169, terwijl race-getagde content vrijwel onveranderd bleef (+0,004).
- Qwen3-8B: De selectiviteit was lager; het verwijderen van ras verminderde vaak ook de leeftijd-getagde content.
Behoud van Capaciteiten: Algemene redeneercapaciteiten (gemeten via MMLU) bleven robuust en daalden met maximaal 2,8 punten, zelfs bij maximale interventiekracht ( $\alpha=5$ ).

Betekenis en Claims

Het paper claimt de "ontbrekende verbinding" vast te stellen tussen impliciet personalisatiegedrag en de interne representatie van het model. De belangrijkste bijdragen zijn:

Identificatie van een Tracking-signaal: De magnitude van het door de cue geïnduceerde activatiecontrast op specifieke lagen dient als een meetbaar tracking-signaal voor de intensiteit van personalisatie, wat sterk correleert met gedragsveranderingen zonder te beweren dat het zelf de causale drijver is.
Ontkoppeling van Mechanisme en Gedrag: De studie onthult een dissociatie waarbij interne representaties lineair combineren, maar de uiteindelijke gedragsoutput niet-lineair en sub-additief is.
Gerichte Interventie: Het demonstreert dat impliciete personalisatie causaal kan worden gecontroleerd door specifieke interne richtingen te ableren. Deze methode is vaak effectiever dan prompting en behoudt de algemene modelcapaciteiten, wat een potentieel mechanisme biedt om representatieve schade in LLM's te verzachten zonder hertraining te vereisen.

De auteurs houden een bescheiden standpunt en merken op dat hun bevindingen specifiek zijn voor de geteste modellen en domeinen (voornamelijk film aanbevelingen) en dat de selectiviteit van de interventie per model varieert. Ze benadrukken dat dit werk dient als een diagnostisch hulpmiddel en een causaal mechanisme voor onderdrukking, in plaats van een universele, klaar voor gebruik zijnde oplossing voor eerlijkheid.