📊 statistics

GenAI Powered Dynamic Causal Inference with Unstructured Data

Dit artikel introduceert een nieuw statistisch raamwerk dat generatieve kunstmatige intelligentie benut om dynamische causale inferentie op ongestructureerde data mogelijk te maken, waardoor onderzoekers kunnen schatten hoe de positie van behandelingskenmerken binnen sequenties zoals tekst en video uitkomsten beïnvloedt, terwijl geldige betrouwbaarheidsintervallen worden geboden.

Oorspronkelijke auteurs: Kentaro Nakamura, Kosuke Imai

Gepubliceerd 2026-05-11

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Kentaro Nakamura, Kosuke Imai

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert precies uit te vinden welke zin in een toespraak een luisteraar ervan overtuigde van gedachten te veranderen.

In het verleden behandelden onderzoekers een hele toespraak (of een foto, of een video) als één enkel, statisch blok. Ze zouden vragen: "Werkte deze toespraak?" Maar ze konden niet beantwoorden: "Werkte de derde zin beter dan de eerste?" of "Maakt de volgorde van de argumenten uit?"

Dit artikel, geschreven door Kentaro Nakamura en Kosuke Imai, introduceert een nieuwe manier om die vragen te beantwoorden. Ze noemen het GenAI-aangedreven dynamische causale inferentie. Hier is hoe het werkt, opgesplitst in eenvoudige concepten en analogieën.

1. Het Probleem: De "Statische Foto" versus de "Film"

De meeste oude methoden behandelen een stuk tekst als een foto. Je kijkt naar het hele plaatje en beslist of het "goed" of "slecht" is. Maar het echte leven lijkt meer op een film. Scènes spelen zich één voor één af. Wat er in Scene 3 gebeurt, hangt af van wat er in Scene 1 en 2 is gebeurd.

Als je naar een film kijkt en een personage zegt iets schokkends, hangt je reactie ervan af of ze het aan het begin zeiden (toen je ze nog net leerde kennen) of aan het einde (toen je hun achtergrond al kende). Oude methoden konden dit "timing"-effect niet meten. Ze keken gewoon naar de hele film en gaven er één score.

2. De Oplossing: De "Magische Vertaler" (GenAI)

De auteurs gebruiken Generatieve AI (GenAI) als een speciaal hulpmiddel. Denk aan GenAI als een super-slimme vertaler die niet alleen woorden leest; hij begrijpt de diepe "sfeer" of "betekenis" erachter.

Wanneer je een zin in deze AI invoert, ziet hij niet alleen de letters; hij zet de zin om in een verborgen code (een "interne representatie" genoemd). Deze code vangt de betekenis, de toon en de context van die specifieke zin.

De auteurs gebruiken deze AI om twee dingen te doen:

Het "Ruis" vertalen: Elke zin heeft het hoofdpunt (de behandeling) en een hoop andere details (de "verwarrende factoren", zoals het lettertype, de grammatica of de omringende woorden). De AI helpt het hoofdpunt te scheiden van de ruis.
Een "Deconfounder" creëren: Stel je voor dat je probeert te zien of een specifiek ingrediënt een taart lekkerder maakt. Maar elke keer als je dat ingrediënt toevoegt, verandert de bakker ook de temperatuur van de oven. Je kunt niet zeggen wat het deed! De AI fungeert als een magisch filter dat wiskundig de "oventemperatuur constant houdt" zodat je het ware effect van dat ene ingrediënt kunt zien, zelfs al kun je de bakker fysiek niet stoppen met het veranderen ervan.

3. De Methode: Terugspoelen en Vooruitspoelen

De onderzoekers willen weten: "Wat zou er gebeurd zijn als we deze specifieke zin naar een andere plek hadden verplaatst?"

Omdat ze niet echt terug in de tijd kunnen gaan en de toespraak opnieuw kunnen opnemen, gebruiken ze een statistische truc genaamd Stochastische Interventie.

De Analogie: Stel je voor dat je een deck kaarten hebt dat verschillende volgorde van toespraken vertegenwoordigt. In plaats van een specifieke volgorde af te dwingen (wat misschien onmogelijk of onrealistisch is), "duwen" ze het deck zachtjes. Ze vragen: "Als we de kans iets vergrootten dat deze zin hier verschijnt in plaats van daar, hoe zou de reactie van het publiek dan veranderen?"

Ze gebruiken een Neuraal Netwerk (een soort computerbrein) om de regels van dit spel te leren. Het kijkt naar de "magische vertaler"-codes van de AI, legt de verborgen patronen bloot en berekent de oorzaak-en-gevolgrelatie voor elk enkel segment van de tekst.

4. De Realiteitstest: De Hongkong-Protesten

Om te bewijzen dat dit werkt, testten ze het op een echt experiment over de Hongkong-protesten.

De Opzet: Mensen kregen korte teksten (vignettes) te zien waarin werd betoogd waarom de VS de protestanten moeten steunen. Deze teksten hadden meerdere zinnen.
De Twist: Het belangrijkste argument (over Amerikaanse juridische verplichtingen) verscheen op verschillende plekken in verschillende teksten. Soms was het de eerste zin; soms was het de laatste.
De Oude Manier: Zou gewoon zeggen: "De tekst werkte."
De Nieuwe Manier: De methode van de auteurs vond dat timing uitmaakt. Het argument had een veel sterker effect wanneer het vroeg in de tekst verscheen, vergeleken met wanneer het later verscheen. Het "magische filter" isoleerde succesvol het effect van wanneer het argument werd gehoord, los van wat het argument was.

5. De Garantie: Het Is Niet Gewoon een Gissing

Het artikel zegt niet zomaar: "Het lijkt te werken." Ze deden twee dingen om zeker te zijn:

Simulaties: Ze creëerden nepdata waarbij ze van tevoren het antwoord wisten. Hun methode vond het antwoord elke keer correct, zoals een student die 100% haalt op een oefentoets.
Wiskundige Bewijzen: Ze gebruikten zware wiskunde om te bewijzen dat naarmate je meer data krijgt, hun methode nauwkeuriger wordt en hun betrouwbaarheidsintervallen (de "marge van fout") betrouwbaar zijn.

Samenvatting

Kortom, dit artikel geeft onderzoekers een nieuwe microscoop voor ongestructureerde data. In plaats van een hele tekst te bekijken als een wazige klomp, kunnen ze nu inzoomen op specifieke zinnen, hun verborgen context begrijpen met behulp van AI, en precies meten hoe de volgorde en timing van informatie de meningen van mensen veranderen. Het verandert een statische "werkte het?"-vraag in een dynamisch "hoe en wanneer werkte het?"-antwoord.

Technische Samenvatting: GenAI-gedreven Dynamische Causale Inferentie met Ongestructureerde Data

Probleemstelling

Bestaande methoden voor het schatten van causale effecten uit ongestructureerde data (tekst, afbeeldingen, video) behandelen deze objecten doorgaans als enkele, statische waarnemingen. Deze aanpak negeert het inherente sequentiële karakter van dergelijke data, waarbij kenmerken zich in de tijd ontvouwen (bijvoorbeeld zin voor zin in tekst, frame voor frame in video). In dynamische situaties hangt het verschijnen van latere kenmerken vaak af van eerdere, wat complexe verstorende structuren creëert. Standaard correctiemethoden falen hier omdat verstorende kenmerken hoogdimensionaal, onbekend zijn en in de tijd evolueren. Bovendien worstelen traditionele kaders voor causale inferentie met de 'positiviteit'-aanname in hoogdimensionale dynamische settings, waarbij eerdere sequenties bijna de daaropvolgende toewijzingen van behandelingen bepalen, waardoor deterministische interventies onuitvoerbaar worden.

Methodologie

De auteurs stellen een Dynamic GenAI-Powered Inference (GPI)-kader voor dat generatieve kunstmatige intelligentie (GenAI) benut om dynamische interventies in ongestructureerde data te hanteren. De methodologie bestaat uit vier hoofdbestanddelen:

1. Conceptueel Kader en Aannames

Sequentiële Structuur: Ongestructureerde data $X_i$ wordt gemodelleerd als een geordende reeks segmenten $X_{i1}, \dots, X_{iS_i}$ .
Behandeling en Verstorende Factoren: Voor elk segment mapt een deterministische functie de ruwe data naar een binaire behandelingseigenschap $W_{is}$ en een laagdimensionale vector van onwaargenomen verstorende eigenschappen $U_{is}$ .
Sequentiële Scheidbaarheid: Een cruciale aanname die stelt dat verstorende eigenschappen op een specifiek segment geen functies zijn van de behandelingseigenschap op datzelfde segment, hoewel behandelingseigenschappen wel van verstorende factoren kunnen afhangen.
Diepe Generatieve Modellen: Het kader maakt gebruik van interne representaties ( $R_{is}$ ) uit een diep generatief model (bijvoorbeeld LLM's). Er wordt een 'Gefactoriseerde Deterministische Decoding' aangenomen, waarbij het output-segment een deterministische functie is van de verborgen toestand van het model. Dit maakt het mogelijk om de onwaargenomen verstorende factoren te representeren als functies van deze interne latente toestanden.

2. Identificatie via Stochastische Interventies

Om de schending van de positiviteitsaanname die vaak voorkomt in dynamische settings aan te pakken, hanteren de auteurs een kader voor dynamische stochastische interventies (opgebouwd op Kennedy, 2019).

In plaats van een deterministische behandeling af te dwingen, wijzigt de interventie de waarschijnlijkheid van toewijzing van behandeling op elke stap $s$ via een incrementele parameter $\delta_s$ .
De doelstelling $\Psi(\delta)$ is het gemiddelde potentiële resultaat onder deze stochastische interventie, waarbij de kansen op behandeling verschuiven ten opzichte van het waargenomen data-genererende proces.
Niet-parametrische Identificatie: De auteurs bewijzen dat door te corrigeren voor een 'deconfounder' (een laagdimensionale samenvatting van de interne representaties $R_{is}$ ), de causale grootheid niet-parametrisch geïdentificeerd kan worden. Cruciaal is dat de deconfounder de ware verstorende factoren niet exact hoeft te herstellen; deze hoeft alleen te voldoen aan een voorwaarde van gemiddelde-onafhankelijkheid ten opzichte van het resultaat.

3. Schattingsstrategie

De schattingsprocedure combineert neurale netwerken met semiparametrische inferentie:

Neuraal Netwerk Architectuur: Een gedeelde neurale netwerkarchitectuur wordt getraind om gelijktijdig te leren:
1. De deconfounder-functie $f(R_{is}, s)$ , die interne representaties mapt naar een laagdimensionale ruimte.
2. Het resultaat-regressiemodel $\mu$ , dat het resultaat voorspelt gegeven de behandelingshistorie en deconfounders.
Semiparametrische Inferentie: Om geldige inferentie te waarborgen, leiden de auteurs een invloedsfunctie af voor de doelparameter. Deze functie houdt rekening met schattingsfouten in de storende parameters (deconfounder, propensiteitscores en resultaatmodellen).
Cross-Fitting: Een $K$ -voudige cross-fitting-procedure wordt toegepast om de storende functies en de doelparameter te schatten, waardoor asymptotische normaliteit en geldige betrouwbaarheidsintervallen worden gewaarborgd, zelfs wanneer flexibele machine learning-modellen worden gebruikt.

4. Theoretische Waarborgen

Het artikel stelt vast dat onder regulariteitsvoorwaarden (inclusief begrensd overlap en Lipschitz-continuïteit van storende functies) de voorgestelde schatter:

Consistent is: deze convergeert naar het ware causale effect.
Asymptotisch Normaal is: de schatter volgt een Gaussische verdeling, wat de constructie van geldige betrouwbaarheidsintervallen mogelijk maakt.
Convergentiesnelheid: De storende functies (deconfounder, propensiteitscores, enz.) moeten worden geschat met een snelheid van $N^{-1/4}$ , wat haalbaar is met standaard diepe neurale netwerken.

Belangrijkste Resultaten

Simulatiestudies

De auteurs voerden numerieke simulaties uit op basis van het motiverende voorbeeld (Hongkong-protesten) om de prestaties in eindige steekproeven te evalueren.

Nauwkeurigheid: De voorgestelde schatter herstelde de doel-causale effecten nauwkeurig over verschillende steekproefgroottes ( $N \in \{2000, \dots, 5000\}$ ) en interventieparameters ( $\delta$ ).
Dekking: De 95% betrouwbaarheidsintervallen behaalden in de meeste scenario's een dekking dicht bij het nominale niveau (0,95). De auteurs merken lichte onderdekking op in sommige gevallen waar het data-genererende proces niet Lipschitz-continu was, een noodzakelijke voorwaarde voor het simulatieontwerp.

Empirische Toepassing

De methode werd toegepast op een gerandomiseerd experiment van Fong en Grimmer (2023) met betrekking tot Amerikaanse steun voor Hongkong-protestanten.

Opzet: Tekstvignetten bestonden uit meerdere argumentcomponenten. De behandeling van belang (Amerikaanse toewijding aan Hongkong) verscheen op verschillende posities binnen de tekst.
Vinding: De studie onthulde dat het causale effect van de behandelingseigenschap heterogeen is op basis van zijn positie. Interventies toegepast op de eerste zin verschoven het gemiddelde contrafactuele antwoord significant, terwijl het effect aanzienlijk werd afgezwakt wanneer hetzelfde kenmerk in de tweede zin verscheen.
Validatie: Dit resultaat sluit aan bij bestaand enquêtemeetonderzoek naar orde-effecten (bijvoorbeeld Krosnick en Alwin, 1987), maar demonstreert het vermogen van de voorgestelde methode om dergelijke dynamieken in ongestructureerde data te detecteren, waar traditionele statische methoden deze zouden missen.

Betekenis en Claims

Het artikel claimt drie primaire bijdragen aan de literatuur:

Dynamische Causale Inferentie voor Ongestructureerde Data: Het breidt het GPI-kader (Imai en Nakamura, 2024, 2025) uit van statische naar dynamische settings, waardoor onderzoekers causale effecten kunnen schatten van reeksen behandelingseigenschappen en hun specifieke posities binnen tekst of video.
Integratie van GenAI en Causale Inferentie: Het demonstreert hoe interne representaties uit generatieve AI-modellen kunnen dienen als geldige deconfounders voor hoogdimensionale, evoluerende verstorende structuren zonder dat handmatige kenmerkenontwikkeling nodig is.
Methodologische Strenge: Het biedt een semiparametrisch schattingskader met formele bewijzen van consistentie en asymptotische normaliteit, wat geldige betrouwbaarheidsintervallen biedt voor dynamische interventies onder stochastische settings.

De auteurs concluderen dat, hoewel de huidige toepassing zich richt op tekst, de methodologie uitbreidbaar is naar andere modaliteiten zoals video en audio, en verder ontwikkeld kan worden voor settings met sequentiële uitkomsten. Het werk benadrukt dat het negeren van de sequentiële structuur van ongestructureerde data kan leiden tot misleidende causale conclusies, en dat rekening houden met het tijdstip en de plaatsing van kenmerken cruciaal is voor accurate inferentie.