💬 NLP

The Illusion of Intervention: Your LLM-Simulated Experiment is an Observational Study

Dit artikel waarschuwt dat door LLM's gesimuleerde experimenten lijden aan "gebruikersdrift" als gevolg van training op observationele data, wat verstorende bias introduceert, en stelt het gebruik van negatieve controlemetingen voor om dit probleem op te sporen en verfijnde persona-specificaties om dit te mitigeren.

Oorspronkelijke auteurs: Victoria Lin, Taedong Yun, Maja Matarić, John Canny, Arthur Gretton, Alexander D'Amour

Gepubliceerd 2026-05-21

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Victoria Lin, Taedong Yun, Maja Matarić, John Canny, Arthur Gretton, Alexander D'Amour

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: Het "Chameleron"-Probleem

Stel je voor dat je een wetenschapper bent die twee verschillende gezondheidstrainers wil testen. Je wilt weten welke van de twee mensen beter motiveert om te sporten.

In een perfecte wereld zou je één persoon nemen, deze eerst aan Trainer A laten zien en daarna aan Trainer B. Omdat het dezelfde persoon is, is elk verschil in hun reactie zeker te wijten aan de trainer, en niet omdat de persoon zelf is veranderd.

Maar je kunt niet voor elke test echte mensen gebruiken (het is te duur en te traag). Daarom gebruiken onderzoekers AI-"Synthetische Gebruikers" (LLM's) om zich voor te doen als mensen. Ze geven de AI een simpele "persona", zoals: "Je bent een man van 30 jaar."

Het Probleem: Het paper stelt dat deze AI-gebruikers als chameleons zijn. Als je ze Trainer A laat zien, kan de AI stiekem besluiten: "Oh, deze trainer klinkt technisch, dus ik doe alsof ik een serieuze atleet ben." Maar als je ze Trainer B laat zien, kan de AI denken: "Deze trainer is informeel, dus ik doe alsof ik een bankpotato ben."

Hoewel je begon met exact dezelfde prompt "man van 30 jaar", is de AI tegen de tijd dat je om hun mening vraagt geëxtraveerd naar twee volledig verschillende soorten mensen. Dit laat het er uitzien alsof de trainers verschillend zijn, terwijl je eigenlijk gewoon een serieuze atleet hebt vergeleken met een bankpotato.

Het Kernprobleem: "Gebruikersdrift"

De auteurs noemen dit Gebruikersdrift.

De Illusie: We denken dat we een eerlijk, gecontroleerd experiment uitvoeren (zoals een wetenschappelijke proef).
De Realiteit: Omdat AI-modellen zijn getraind op real-world data (waar mensen hun eigen paden kiezen), hebben ze de neiging om de "leegtes" van een persona in te vullen op basis van de situatie.
Het Resultaat: De "populatie" van AI-gebruikers verandert afhankelijk van welke behandeling ze krijgen. Dit creëert Selectiebias. Het is alsof je een nieuwe auto test op een racecircuit voor Team A, maar per ongeluk Team B test op een modderig veld. Als Team A wint, is het dan de auto of het circuit?

Hoe Ze de AI Op heterdaad Pakten

Om te bewijzen dat de AI aan het drift was, gebruikten de onderzoekers een truc genaamd Negatieve Controle-uitkomsten.

Denk hierbij aan een leugendetektortest voor het experiment.

Ze stelden de AI-gebruikers vragen die niet zouden moeten veranderen, ongeacht welke trainer ze hadden gesproken. Bijvoorbeeld: "Wat is je ras?" of "Wat is je nationaliteit?"
Bij een experiment met echte mensen verandert je ras niet zomaar omdat je met een andere trainer hebt gesproken.
De Ontdekking: Bij de AI-experimenten veranderden de antwoorden wel. De AI die met Trainer A sprak, begon te beweren dat hij bij een andere politieke partij hoorde of andere hobby's had dan de AI die met Trainer B sprak, hoewel ze met dezelfde prompt waren begonnen.
De Conclusie: Als de "onveranderlijke" kenmerken van de AI verschuiven, dan verschuiven ook zijn "veranderlijke" meningen (het hoofdresultaat) waarschijnlijk. Het experiment is verontreinigd.

De Oplossing: De AI een "Achtergrondverhaal" Geven

De onderzoekers vonden een manier om te voorkomen dat de chameleon van kleur veranderde. Ze realiseerden zich dat ze de AI, voordat het experiment begon, een veel gedetailleerder "achtergrondverhaal" moesten geven.

De Oude Manier: "Je bent een man van 30 jaar." (Te vaag, de AI vult de leegtes in op basis van de trainer).
De Nieuwe Manier: "Je bent een man van 30 jaar die in Ohio woont, $50.000 verdient, van wandelen houdt, Democraat is en elke zondag naar de kerk gaat."

Door de AI expliciet deze specifieke details te geven (die de auteurs Verwarringfactoren noemen), "sloten" ze de persona op zijn plaats. De AI kon niet meer drift naar een ander type persoon omdat de instructies te specifiek waren.

Ze testten dit door stapsgewijs details toe te voegen. Eerst voegden ze alleen demografie toe (leeftijd, locatie). Dat hielp een beetje. Maar de echte magie gebeurde toen ze gerichte vragen toevoegden die gerelateerd waren aan het specifieke onderwerp (bijvoorbeeld: de AI vragen naar zijn specifieke meningen over het onderwerp voordat de test begon). Dit stopte de drift en maakte de resultaten stabiel.

De Conclusie

Het paper concludeert dat AI-simulaties geen magische spiegels van de realiteit zijn; ze zijn meer vergelijkbaar met observationele studies.

Alleen omdat je de AI vraagt om een "gebruiker" te zijn, betekent niet dat hij die gebruiker blijft. Als je de resultaten van een AI-experiment wilt vertrouwen, kun je niet zomaar aannemen dat de AI consistent is. Je moet:

Controleren op Drift: De AI vragen stellen die niet zouden moeten veranderen om te zien of hij stiekem zijn identiteit aan het veranderen is.
De Persona Vergrendelen: De AI een zeer gedetailleerd, specifiek achtergrondverhaal geven dat de dingen dekt die anders zouden kunnen veranderen.

Zonder deze stappen denk je misschien dat je een nieuwe waarheid over menselijk gedrag hebt ontdekt, maar heb je eigenlijk alleen ontdekt hoe goed de AI is in het doen alsof hij verschillende mensen is.

Technische Samenvatting: De Illusie van Interventie in door LLM's Gesimuleerde Experimenten

Probleemstelling

Grote Taalmodellen (LLM's) worden steeds vaker ingezet om menselijk gedrag te simuleren voor synthetische experimenten, zoals het evalueren van AI-agenten of het uitvoeren van grootschalige enquêtes. De heersende aanname is dat onderzoekers, door identieke LLM's te initialiseren met hetzelfde persona (bijvoorbeeld "een 30-jarige man") en ze bloot te stellen aan verschillende interventies (bijvoorbeeld Agent A versus Agent B), een gerandomiseerde gecontroleerde studie (RCT) kunnen nabootsen om causale effecten te schatten.

Deze paper betoogt echter dat dergelijke synthetische experimenten lijden aan gebruikersdrift, waardoor ze meer lijken op observationele studies dan op gerandomiseerde trials. Omdat LLM's getraind zijn op observationele data en opereren via abductief redeneren, leiden ze niet gespecificeerde latente attributen ( $X \setminus L$ ) af om coherentie te behouden met de interventiecontext ( $A$ ). Bijgevolg kunnen twee synthetische gebruikers die zijn geïnitieerd met identieke geobserveerde attributen ( $L$ ), drift vertonen naar verschillende latente populaties, afhankelijk van de interventie die ze ontvangen. Dit creëert selectiebias (verwarring), waarbij de verdeling van latente gebruikersattributen verschilt tussen behandelingscondities ( $P(X | A=1, L) \neq P(X | A=0, L)$ ), wat de geschatte behandelingseffect ( $\tau_{obs}$ ) vervormt ten opzichte van het ware causale effect ( $\tau_{ATE}$ ).

Methodologie

Formalisering van Bias

De auteurs formaliseren het probleem met behulp van het raamwerk van potentiële uitkomsten. In een ideale RCT zorgt random toewijzing voor een evenwicht in achtergrondfactoren. In LLM-simulaties factoriseert het generatieve proces de gezamenlijke verdeling als $P(L, A, X, Y)$ in plaats van de causale ordening $P(X, L, A, Y)$ . Wanneer een interventie $A$ wordt geïntroduceerd, leidt de LLM latente attributen $X \setminus L$ af die consistent zijn met $A$ , waardoor een open backdoor-pad van $A$ naar $Y$ ontstaat via niet-geobserveerde gebruikersattributen. Dit induceert een bias-term $\delta_{SB}$ zodat $\tau_{ATE} = \tau_{obs} - \delta_{SB}$ .

Diagnose: Negatieve Controle-uitkomsten

Om deze drift te detecteren zonder de volledige latente persona te observeren, stellen de auteurs het gebruik van negatieve controle-uitkomsten ( $Z$ ) voor. Dit zijn variabelen die:

Causaal niet beïnvloed zouden moeten worden door de interventie $A$ (invariant onder behandeling).
Afhankelijk zijn van dezelfde niet-geobserveerde latente attributen ( $X \setminus L$ ) die de drift in de primaire uitkomst aandrijven.

Voorbeelden zijn demografische attributen (ras, nationaliteit) of stabiele overtuigingen die niet zouden moeten veranderen op basis van of een gebruiker interacteert met een "positieve" of "negatieve" AI-agent. De auteurs kwantificeren drift met behulp van de Totale Variatieafstand (TVD) tussen de verdelingen van $Z$ onder verschillende interventiecondities ( $A=0$ versus $A=1$ ). Een niet-nul TVD geeft aan dat de interventie de latente gebruikerspopulatie heeft verschoven, wat wijst op verwarring.

Mitigatie: Iteratieve Confounder-aanpassing

Om bias te verminderen, stellen de auteurs een iteratieve procedure voor om aanvullende confounders ( $L'$ ) op te halen en te specificeren die fungeren als proxy voor de niet-geobserveerde latente attributen.

Ophalen: Het systeem vraagt de synthetische gebruiker om specifieke attributen (bijvoorbeeld inkomen, religie of gerichte vragen gerelateerd aan de interventie) na de interventie.
Sampling: Nieuwe confounders worden gesampled uit een behandelings-uniforme mengverdeling om ervoor te zorgen dat de aangepaste populatie een gerandomiseerd scenario weerspiegelt.
Iteratie: Deze opgehaalde attributen worden toegevoegd aan de persona-specificatie ( $\tilde{L} = L \cup L'$ ), en het experiment wordt opnieuw uitgevoerd. Deze lus wordt voortgezet totdat de TVD van negatieve controle-uitkomsten stabiliseert of onder een drempelwaarde daalt.

De auteurs benadrukken dat dit een iteratieve, gerichte aanpak is in plaats van een eenmalige specificatie van alle mogelijke attributen, om contextvenster-degradatie en sampling-bias te voorkomen.

Belangrijkste Bijdragen

Formalisatie van Gebruikersdrift: De paper biedt een raamwerk voor causale inferentie dat aantoont dat door LLM's gesimuleerde experimenten inherent lijden aan selectiebias als gevolg van interventie-afhankelijke verschuivingen in latente gebruikersattributen.
Empirische Diagnose: Het introduceert het gebruik van negatieve controle-uitkomsten en Totale Variatieafstand als een praktisch hulpmiddel om gebruikersdrift en selectiebias te diagnosticeren bij verschillende LLM-families.
Mitigatiestrategie: Het toont aan dat gerichte, iteratieve ophaling van confounders tijdens de persona-specificatie de selectiebias aanzienlijk kan verminderen en effectschattingen kan stabiliseren, zowel in enquête-achtige settings als in multi-turn agent-evaluaties.

Resultaten

De auteurs evalueerden hun aanpak over meerdere modellen (Qwen3, GPT-OSS, Gemma, Gemini) en datasets (OpinionQA, Book Opinions, MovieLens).

Aanwezigheid van Drift: Bij iteratie 0 (baseline) werd aanzienlijke TVD waargenomen in negatieve controle-uitkomsten bij de meeste modellen en datasets, wat bevestigt dat identieke initiële persona's drift vertonen naar verschillende latente populaties op basis van de interventie. Opvallend is dat modellen met sterkere abductieve redeneercapaciteiten (bijvoorbeeld Gemma-4) meer drift vertoonden dan kleinere, minder capabele modellen.
Effect van Aanpassing: Iteratieve confounder-aanpassing verlaagde over het algemeen de TVD, wat wijst op een vermindering van gebruikersdrift.
- In enquête-achtige settings (OpinionQA) nam de TVD consistent af over de iteraties.
- In agent-evaluatiesettingen varieerden de resultaten; sommige modellen (bijvoorbeeld Gemma-4) vertoonden duidelijke verminderingen, terwijl andere (bijvoorbeeld GPT-OSS-20B) een vlakke of zwak veranderende TVD vertoonden, wat suggereert dat conditionering op basis van prompts niet uniform effectief is in multi-turn settings.
Impact op Effectschattingen: De waargenomen behandelingseffecten ( $\tau_{obs}$ ) verschilden significant tijdens de vroege aanpassingsiteraties voordat ze stabiliseerden. Dit bevestigt dat naïeve schattingen verward waren door gebruikersdrift.
Ontwerpnuances: De studie vond dat het aanvankelijk toevoegen van generieke demografische attributen de TVD (selectiebias) soms kon verhogen voordat gerichte, taakspecifieke confounders deze verlaagden. Dit onderstreept het belang van het selecteren van confounders die relevant zijn voor de specifieke behandeling en uitkomst.

Betekenis en Claims

De paper concludeert dat evaluaties met synthetische gebruikers standaard moeten worden behandeld als observationele studies, niet als gerandomiseerde experimenten. De "illusie van interventie" ontstaat omdat de generatieve aard van de LLM toelaat dat de interventie retroactief invloed uitoefent op de latente toestand van de gesimuleerde gebruiker.

De auteurs claimen dat:

Zonder diagnose en mitigatie synthetische gebruikersexperimenten het risico lopen misleidende causale schattingen op te leveren als gevolg van niet-geobserveerde selectiebias.
Negatieve controle-uitkomsten een noodzakelijk diagnostisch hulpmiddel bieden om deze bias te detecteren.
Iteratieve, gerichte confounder-aanpassing een levensvatbare strategie is om de interne validiteit te verbeteren, hoewel het niet garandeert dat alle bias wordt geëlimineerd, vooral als aanzienlijke latente variatie niet wordt gemeten.

Het werk dient als een waarschuwend raamwerk voor onderzoekers die LLM's gebruiken om menselijke reacties te simuleren, en dringt aan op een verschuiving van het aannemen van causale validiteit naar het actief diagnosticeren en corrigeren van gebruikersdrift.