📈 economics

Interventional Score Geometry for Causal Inference

Dit artikel stelt een geometrisch kader voor causale inferentie voor dat de observationele score-geometrie uitbreidt naar interventionele settings door causale invloed te definiëren via de variatie van marginale interventionele scorevelden, waardoor een geometisch woordenboek voor gerandomiseerde trials en instrumentele variabelen wordt vastgesteld terwijl de beperkingen van score-gebaseerde identificatie binnen Pearls Ladder of Causation worden verduidelijkt.

Oorspronkelijke auteurs: Mojtaba Eslami

Gepubliceerd 2026-07-27

📖 8 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Mojtaba Eslami

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Kaart versus de Film

Stel je voor dat je een detective bent die probeert te achterhalen wie wie heeft geduwd in een drukke kamer. Je hebt een foto met hoge resolutie van de scène. Op de foto staat Persoon A vlak naast Persoon B, en beiden lijken naar voren te leunen. Op basis van deze enkele snapshot kun je zeggen: "A en B staan dicht bij elkaar," maar je kunt niet zien wie wie heeft geduwd. Misschien duwde A tegen B, misschien duwde B tegen A, of misschien duwde een derde persoon beiden tegelijkertijd. In de wereld van data science wordt deze snapshot een observationele distributie genoemd. Het is slechts een plaatje van wat er de neiging heeft om samen te gebeuren.

Decennialang hebben wetenschappers geprobeerd om met ingewikkelde wiskunde die statische foto te veranderen in een film, in de hoop de actie te zien ontvouwen en de oorzaak-gevolgrelatie te ontdekken. Ze bouwden prachtige wiskundige kaarten genaamd informatiegeometrie, die data behandelen als een landschap met heuvels en dalen. Het idee was dat als je de vorm van het landschap maar nauwkeurig genoeg bestudeerde, de "duw" (de oorzaak) zichzelf wel zou onthullen. Maar er is een addertje onder het gras: een foto van een rivier vertelt je niet in welke richting het water stroomt; het laat alleen zien waar het water is. Om de richting te weten, moet je zien wat er gebeurt als je een steen erin gooit. Dit artikel gaat over het besef dat je de stroming niet kunt begrijpen door alleen naar het water te staren; je moet de steen daadwerkelijk gooien.

Het Grote Idee van het Papier: Waarom de Foto Niet Genoeg Is

Dit artikel, getiteld Interventional Score Geometry for Causal Inference, betoogt dat het kijken naar data alleen is als proberen een muziekinstrument te begrijpen door alleen te luisteren naar het geluid dat het maakt wanneer niemand het aanraakt. De auteurs, onder leiding van Mojtaba Eslami, laten zien dat de "vorm" van de data (de observationele geometrie) precies hetzelfde is, of de muziek nu werd veroorzaakt door een viool of een cello. Als twee verschillende verhalen (causale modellen) exact hetzelfde patroon in de data creëren, zullen ze op elke kaart die louter op basis van die data is gebouwd, identiek lijken.

Het artikel bewijst dat je niet magisch de "oorzaak" uit het "gevolg" kunt extraheren door simpelweg complexere wiskunde toe te passen op dezelfde oude cijfers. Het is also[f] een rivier te bepalen of deze naar het noorden of zuiden stroomt door alleen naar een stilstaande foto van het water te kijken; de foto is in beide gevallen hetzelfde. Om de richting te weten, moet je interveniëren. Je moet erin grijpen en iets veranderen.

De "Hard" Interventie: Een Snaar Klemmen

De auteurs introduceren een nieuwe manier om de wereld te veranderen, die ze een harde interventie noemen. Stel je een gitaar voor met zes snaren. Als je de snaren aanslaat, trillen ze en maken ze een akkoord. Dat is de observationele data. Stel je nu voor dat je een klem neemt en de "A"-snaar volledig stilhoudt op een specifieke toon. Je hebt de snaar niet alleen van volume veranderd; je hebt hem volledig uit het spel gehaald. De snaar kan niet meer trillen, en de andere snaren kunnen van klank veranderen omdat ze niet langer met deze interageren.

In de wiskunde van het artikel wordt dit "klemmen" do( $X_k = \xi$ ) genoemd. Dit betekent dat je een variabele (zoals een medicijndosis of een temperatuur) dwingt om een specifiek getal $\xi$ te zijn, ongeacht wat die variabele voorheen wilde zijn. Het artikel laat zien dat wanneer je dit doet, de wiskunde volledig verandert. Je kunt de oude kaart niet meer gebruiken omdat het landschap is afgeplat. De "score" (een wiskundige pijl die wijst naar waar de data het meest waarschijnlijk is) leeft nu op een lager-dimensionale ruimte, zoals een 2D-tekening van een 3D-object.

Het Nieuwe Instrument: De "Score" van de Verandering

Het artikel bouwt een nieuwe woordenlijst om deze veranderingen te begrijpen. In plaats van alleen naar de statische foto te kijken, kijken ze naar hoe de "score" (de richting van de data) verandert terwijl je aan de interventieknop draait.

Ze definiëren causale invloed simpelweg: Als je de instelling van $X$ verandert en het gedrag van $Y$ verandert, dan veroorzaakt $X$ de verandering in $Y$ . Maar ze gaan dieper. Ze laten zien dat je deze oorzaak kunt detecteren door te kijken naar een specifieke afgeleide (een veranderingssnelheid) van de nieuwe, geklemde data. Als deze "interventionele score" nul is, is er geen causale link. Als het niet nul is, is er wel een link.

Om te bewijzen dat dit werkt, gebruiken ze een eenvoudig voorbeeld met twee variabelen, $X$ en $Y$ , die eruitzien als een standaard klokcurve (een Gaussische distributie). Ze creëren twee verschillende verhalen:

Verhaal A: $X$ veroorzaakt $Y$ .
Verhaal B: $Y$ veroorzaakt $X$ .

Beide verhalen produceren exact dezelfde foto (dezelfde datadistributie). Als je alleen naar de foto kijkt, kun je ze niet van elkaar onderscheiden. Maar wanneer de auteurs hun nieuwe "klem"-wiskunde toepassen, zijn de resultaten totaal verschillend. In Verhaal A verandert het klemmen van $X$ de score van $Y$ . In Verhaal B doet het klemmen van $X$ absoluut niets met de score van $Y$ . De wiskunde scheidt de twee verhalen succesvol, maar alleen omdat ze een verandering afdwingen. De foto alleen had ze nooit van elkaar kunnen onderscheiden.

Wat Dit Uitsluit

Het artikel is zeer duidelijk over wat het niet doet. Het sluit expliciet de gedachte uit dat je simpelweg een lijst van "toegestane" veranderingen (zoals "we kunnen de prijs van een product aanpassen") kunt nemen en de oude data op die lijst kunt projecteren om het antwoord te vinden. Ze bewijzen dat zelfs als je precies weet welke hendels je kunt overhalen, de oude data niet de informatie bevat over wat er gebeurt als je ze overhaalt. Je hebt extra informatie nodig — structurele kennis of experimentele data — om die kloof te overbruggen.

Ze waarschuwen ook voor een veelvoorkomende verwarring in het vakgebied van machine learning. Er zijn andere methoden genaamd "score-gebaseerde" modellen (zoals gebruikt om nepafbeeldingen te genereren) die proberen de vorm van data te leren. Het artikel stelt dat deze modellen geweldig zijn in het leren van de foto, maar dat ze de film (de causale structuur) niet kunnen leren door simpelweg beter te worden in de foto. Hoe perfect de beeldgenerator ook is, hij kan je nog steeds niet vertellen wat er gebeurt als je op de knop drukt, tenzij je daadwerkelijk data krijgt van het moment waarop de knop werd ingedrukt.

De "Causale Metriek": Het Meten van de Duw

Ten slotte creëren de auteurs een nieuwe manier om te meten hoe gevoelig een systeem is voor een duw. Ze noemen dit een causale metriek. Denk aan het meten van hoeveel een veer uitrekt wanneer je eraan trekt. Als je een klein beetje trekt en hij rekt veel uit, is de veer erg gevoelig. Als hij nauwelijks beweegt, is hij stijf.

Het artikel laat zien dat je deze gevoeligheid kunt meten met een standaard statistisch hulpmiddel genaamd Fisher-informatie, maar je moet voorzichtig zijn dat je de informatie meet op de juiste "doorsnede" van de data (het deel dat niet geklemd is). Ze laten zien dat voor eenvoudige gevallen, zoals het verschuiven van een distributie langs een lijn, deze metriek slechts een constante waarde is die aangeeft hoe "scherp" de data is. Dit helpt onderzoekers te weten hoeveel data ze moeten verzamelen om een echt effect te zien. Als de metriek klein is, heb je een enorme hoeveelheid data nodig om de verandering te zien. Als de metriek groot is, zal een klein experiment het resultaat duidelijk laten zien.

De Kern van de Zaak

Dit artikel biedt ons geen toverstaf om oorzaken in elke dataset te vinden. In plaats daarvan geeft het ons een precieze woordenschat en een set regels voor het begrijpen van wat we wel en niet kunnen weten. Het bevestigt dat causaliteit leeft in de "wat als"-scenario's (de interventies), en niet in de "wat is"-scenario's (de observaties).

De auteurs benadrukken zorgvuldig dat ze niet alles hebben opgelost. Ze hebben niet uitgezocht hoe ze kunnen voorspellen wat er met een specifiek persoon zou zijn gebeurd als die een ander pad had gekozen (de "counterfactual" trede van de ladder). Ze hebben alleen een solide brug gebouwd tussen het "wat is" en het "wat gebeurt er als we het veranderen". Ze hebben aangetoond dat om de stroming van de rivier te begrijpen, je moet stoppen met naar het water te staren en moet beginnen met het gooien van stenen.

Technische Samenvatting: Interventionele Score-geometrie voor Causale Inferentie

Probleemstelling
Het artikel behandelt een fundamentele beperking in causale inferentie: het onvermogen om de causale richting of causale effecten te identificeren uitsluitend op basis van de gezamenlijke observationele dichtheid $p(x)$ van geobserveerde variabelen $X$ . De auteur voert aan dat de "observationele geometrie"—geconstrueerd uit de ondersteuning $M$ , een achtergrondmetriek $g$ en het scoreveld $\psi(x) = \nabla_x \log p(x)$ —volledig wordt bepaald door $p(x)$ . Bijgevolg induceren twee verschillende structurele causale modellen (SCM's) die dezelfde gereduceerde vorm-distributie $p(x)$ genereren, identieke observationele geometrieën. Dit weerspiegelt het klassieke probleem van niet-identificatie waarbij verschillende causale structuren (bijv. $X \to Y$ versus $Y \to X$ ) observationeel equivalent kunnen zijn. Het artikel stelt dat causale asymmetrie niet uit $p(x)$ alleen kan worden afgeleid, maar moet worden aangevuld via een expliciete interventie.

Methodologie en Raamwerk
Het artikel ontwikkelt een geometrisch raamwerk dat onderscheid maakt tussen observationele en interventionele toestanden, in lijn met de "Ladder van Causaliteit" van Pearl.

Definitie van de Interventionele Score:
De kern van de technische innovatie is de definitie van een interventionele score. Een harde interventie $do(X_k = \xi)$ fixeert een coördinaat $X_k$ op een waarde $\xi$ , waardoor de gezamenlijke dichtheid inklapt op een $(d-1)$ -dimensionale subvariëteit $\{x_k = \xi\}$ . Omdat de resulterende distributie geen dichtheid heeft ten opzichte van het oorspronkelijke $d$ -dimensionale volume, is een naïeve gradiënt slecht gedefinieerd.
- Definitie 1: De interventionele score $\psi^{(k, \xi)}_{-k}$ wordt strikt gedefinieerd op de resterende niet-geïntervenieerde coördinaten $X_{-k}$ . Het is de gradiënt van de log-dichtheid van de marginale interventionele distributie $p^{(k, \xi)}_{-k}(x_{-k})$ .
Causale Invloed en Diagnostiek:
- Definitie 2 (Distributioneel): Causale invloed $X_k \leadsto X_j$ wordt gedefinieerd als de variatie van de marginale wet van $X_j$ onder $do(X_k = \xi)$ naarmate $\xi$ verandert.
- Definitie 3 (Score-detecteerbare Invloed): Een voldoende voorwaarde voor causale invloed is het niet-verdwijnen van de gemengde afgeleide van de log-marginale dichtheid: $S_{k \to j}(\xi, x_j) = \frac{\partial}{\partial \xi} \frac{\partial}{\partial x_j} \log p^{(k, \xi)}_j(x_j) \neq 0$ .
- Propositie 2: Op een vaste, verbonden, strikt positieve ondersteuning is deze score-diagnostiek ook noodzakelijk. Als de score-afgeleide overal nul is, verandert de marginale distributie niet door de interventie.
De Toelaatbare Verzameling en Responsveld:
Het artikel verwerpt het idee dat een "toelaatbare verzameling" van interventierichtingen $A(x)$ (de set manipuleerbare coördinaten) voldoende is om causale effecten uit observationele data te extraheren.
- Propositie 3: Twee modellen kunnen dezelfde observationele score $\psi$ en dezelfde toelaatbare verzameling $A(x)$ delen, maar toch verschillende causale responsen bezitten. Daarom kan de projectie van $\psi$ op $A(x)$ geen causaal veld opleveren.
- Definitie 4 (Interventioneel Responsveld): Causale inhoud bevindt zich in een responsveld $S(v)$ , dat de gevoeligheid van de interventionele score beschrijft voor een specifieke structurele interventiefamilie. Dit veld moet worden aangeleverd via externe structurele kennis of experimenteel ontwerp; het kan niet alleen worden afgeleid uit $p(x)$ en $A(x)$ .
Causale Metriek:
Om de "afstand" of informatiegehalte van interventies te meten, definieert het artikel een Causale Metriek (Definitie 5). In tegenstelling tot naïeve constructies die proberen de sensitiviteiten over verschillende targets te vergelijken (die op verschillende coördinatieruimten leven), is deze metriek gebouwd als de Fisher-informatie-metriek op een familie van interventies die een gemeenschappelijk target $k$ delen. Dit zorgt ervoor dat de dichtheden op een gemeenschappelijke ruimte $X_{-k}$ leven.

Belangrijkste Resultaten en Illustraties

Bivariate Gaussische Voorbeeld: Het artikel biedt een volledig uitgewerkt voorbeeld met twee modellen (A en B) die observationeel equivalent zijn (identieke gezamenlijke Gaussische dichtheid en scoreveld).
- Model A: $Y = \beta X + \epsilon_Y$ . Een interventie op $X$ verschuift het gemiddelde van $Y$ . De interventionele score-sensitiviteit $S_{X \to Y} = \beta/\sigma^2 \neq 0$ .
- Model B: $X = \gamma Y + \epsilon_X$ . Een interventie op $X$ heeft geen effect op $Y$ . De interventionele score-sensitiviteit $S_{X \to Y} = 0$ .
- Dit demonstreert dat hoewel de statische observationele geometrie identiek is, de interventionele score-afgeleiden uiteenlopen, waardoor de causale richting correct wordt geïdentificeerd wanneer structurele aannames worden toegevoegd.
Klassieke Ontwerpen Herinterpreteerd:
- Gerandomiseerde Gecontroleerde Studies (RCT's): Randomisatie zorgt ervoor dat de behandeling $T$ onafhankelijk is van covariaten $Z$ . Geometrisch manifesteert dit zich als een blok-separatie in het gezamenlijke scoreveld $\psi_{T,Z}$ , waarbij het component van de covariaat invariant is voor veranderingen in $T$ . Het artikel verduidelijkt dat randomisatie een "eerlijke startlijn" garandeert (onafhankelijkheid van toewijzing), maar de causale relatie tussen behandeling en uitkomst niet geometrisch afvlakt.
- Instrumentele Variabelen (IV): De IV-estimand wordt geherinterpreteerd als een ratio van directionele afgeleiden van conditionele gemiddelde functies ( $D_{v_Z} m_Y / D_{v_Z} m_T$ ), in plaats van een ratio van ruwe variabelen.
- Score-gebaseerde Generatieve Modellen: Het artikel waarschuwt expliciet dat het trainen van generatieve modellen om de observationele score $\nabla \log p(x)$ te schatten, geen causale structuur oplevert. Zonder interventionele data om het responsveld te schatten, blijft het model op de "associatieve trede" van de causaliteit.

Betekenis en Claims
Het artikel claimt een "gecorrigeerd geometrisch woordenboek" te bieden voor causale inferentie dat strikt onderscheid maakt tussen wat geleerd kan worden uit observationele data versus wat structurele of experimentele input vereist.

Bescheidenheid van Claims: De auteur stelt expliciet dat het raamwerk geen identificatiekracht fabriceert die verder gaat dan bestaande aannames. Het biedt geen nieuwe asymptotische resultaten voor meta-learners of double machine learning, en het lost het identificatieprobleem niet op waar structurele aannames ontbreken.
Reikwijdte: Het raamwerk is doelbewust nauw en richt zich op de "interventionele trede" van de Ladder van Pearl. Het laat de "counterfactual trede" (unit-level cross-world structuur) voor toekomstig werk.
Terminologische Helderheid: Het artikel maakt een onderscheid in het gebruik van "score" (gradiënt van de log-dichtheid) ten opzichte van de "score" gebruikt in semiparametrische efficiëntie en double machine learning (estimating equations), om verwarring met deze afzonderlijke wiskundige objecten te voorkomen.

Samenvattend betoogt het artikel dat causale inferentie vereist dat men beweegt van een statische geometrie van $p(x)$ naar een dynamische geometrie van interventionele families. De "causale" informatie zit niet verborgen in de kromming van de observationele manifold, maar is gecodeerd in de deformatie van het scoreveld onder expliciete, structureel gedefinieerde interventies.