🤖 AI

Formalizing and falsifying causal pathways of rare events

Dit artikel stelt een formele definitie en toetsbare implicaties voor de causale paden van zeldzame gebeurtenissen binnen structurele vergelijkingsmodellen voor, waarbij een causale abstractie wordt geïntroduceerd die verbale verklaringen en gedetailleerde modellering overbrugt door zich te richten op padspecifieke condities in plaats van op de volledige systeemgrafiek.

Oorspronkelijke auteurs: Anahita Haghighat, Dominik Janzing

Gepubliceerd 2026-06-01

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Anahita Haghighat, Dominik Janzing

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die een mysterie probeert op te lossen: Waarom gebeurde er iets zeldzaams en onverwachts?

Misschien is het een beurscrash, een plotseling machinaal defect, of iemand die dakloos wordt. Meestal, wanneer we proberen deze gebeurtenissen te verklaren, wijzen we naar één enkele "grondoorzaak" (zoals "de machine ging kapot omdat een bout brak"). De auteurs van dit artikel beweren echter dat het aanwijzen van de gebroken bout niet genoeg is. We moeten de volledige keten van gebeurtenissen begrijpen die tot de ramp leidden, en we hebben een manier nodig om te bewijzen dat ons verhaal ook echt waar is en niet slechts een gok.

Hier is een eenvoudige uitsplitsing van hun ideeën met behulp van alledaagse analogieën.

1. Het Probleem: De "Gebroken Keten" versus de "Volledige Keten"

Beschouw een zeldzame gebeurtenis als een domino-toren die eindelijk is gevallen.

Oude benadering: De meeste wetenschappers wijzen gewoon naar de eerste domino die werd geduwd (de grondoorzaak) en zeggen: "Dat is waarom de toren viel."
Het standpunt van het artikel: De auteurs zeggen: "Dat is geen volledige verklaring." Alleen omdat de eerste domino viel, betekent niet dat de hele toren moest vallen. Misschien waren de middelste domino's wankel, of misschien trilde de tafel. Om de gebeurtenis werkelijk te verklaren, moet je het specifieke pad beschrijven dat de energie nam van het begin tot het einde.

Ze noemen dit een "Causaal Pad" (Causal Pathway). Het is niet alleen het startpunt; het is de specifieke route die het "slechte nieuws" aflegde om bij de uiteindelijke ramp uit te komen.

2. De Oplossing: Een "Scorekaart" voor Verklaringen

Hoe weten we of iemands verhaal over waarom iets is gebeurd een goed verhaal is? De auteurs hebben een mathematische scorekaart gemaakt (een "Explanation Score").

Stel je voor dat je een verhaal vertelt aan een jury: "Het huis is afgebrand omdat het kind een kaars op de tafel heeft laten staan."

De scorekaart vraagt: Als we de tijd terugdraaien en die kind dwingen om de kaars op de tafel te laten staan, hoe waarschijnlijk is het dan dat het huis afbrandt?
De wiskunde: Ze vergelijken twee getallen:
1. Hoe zeldzaam was de brand in de eerste plaats? (bijv. 1 op een miljoen).
2. Hoe waarschijnlijk is de brand als we weten dat de kaars op de tafel is gelaten? (bijv. 1 op 10).
Het resultaat: Als het tweede getal veel hoger is dan het eerste, krijgt jouw verklaring een hoge score. Als de brand zelfs met de kaars op tafel nog steeds super onwaarschijnlijk was, krijgt jouw verklaring een lage score (of zelfs een negatieve score, wat betekent dat jouw verhaal de brand juist minder waarschijnlijk lijkt te maken!).

Deze scorekaart helpt ons om slechte verklaringen te falsificeren. Als jouw verhaal een lage score krijgt, bewijst de wiskunde dat jouw verhaal zwak is, zelfs als het logisch klinkt.

3. De Truc: Complexe Realiteit Omzetten in Simpele "Ja/Nee"-Vragen

Het echte leven is rommelig. Variabelen zijn continu (temperatuur is 22,4 °C, niet alleen "warm" of "koud"). Maar om de wiskunde te kunnen doen, zetten de auteurs alles om in simpele Binaire Variabelen (Ja/Nee, 1/0).

De analogie: Stel je voor dat je een storm beschrijft. In plaats van te zeggen "De wind was 105 km/u", zeg je "De wind was Sterk (Ja)". In plaats van "De regen was 5 cm", zeg je "De regen was Hevig (Ja)".
De "Feature Monotonicity": Ze zorgen ervoor dat als de wind sterker wordt, de "Sterk"-vlag op "Ja" blijft staan. Ze willen niet in een situatie terechtkomen waarin een sterkere wind plotseling de "Sterk"-vlag naar "Nee" laat omslaan. Dit houdt hun verhaal logisch.

Door de wereld te vereenvoudigen in deze "Ja/Nee"-bakjes, kunnen ze een duidelijke kaart (een pad) bouwen van hoe één "Ja" leidt tot een andere "Ja", totdat de uiteindelijke ramp plaatsvindt.

4. Het "Context"-Probleem: Waarom het Midden Ertoe Doet

Soms is de grondoorzaak niet genoeg. Je hebt de context nodig.

De analogie: Stel je een auto-ongeluk voor.
- Grondoorzaak: De bestuurder drukte op het gaspedaal.
- Het probleem: Het drukken op het gaspedaal veroorzaakt meestal geen ongeluk. Het veroorzaakt alleen een ongeluk als de auto in de vrijstand (Neutral) staat of als de remmen zijn doorgezet.
Het inzicht van het artikel: Een goede verklaring moet de "context" bevatten (het feit dat de remmen zijn doorgezet). Als je de context weglaat, is je verklaring incompleet. De auteurs laten zien dat als je de context negeert, je "Explanation Score" daalt, wat bewijst dat je verhaal gebrekkig is.

5. Het Verhaal Testen met AI (Het "LLM"-Experiment)

Om aan te tonen dat dit werkt, vroegen de auteurs een AI (een Large Language Model) om een verhaal te verzinnen over hoe iemand in de VS dakloos werd.

De AI creëerde een keten: Mentale ziekte → Banen verloren → Spaargeld verloren → Familie verloren → Dakloosheid.
De auteurs vroegen de AI vervolgens: "Hoe waarschijnlijk is het dat 'Banen verloren' leidt tot 'Spaargeld verloren'?" De AI gaf een waarschijnlijkheid (bijv. 80%).
Ze haalden de getallen door hun Scorekaart.
Het resultaat: Het verhaal had een lage score bij één specifieke schakel (de sprong van "Spaargeld verloren" naar "Familie verloren"). De wiskunde toonde aan dat het verliezen van je appartement niet automatisch betekent dat je familie je van je af stoot.
De les: Het verhaal van de AI klonk dramatisch, maar de wiskunde bewees dat het een zwakke verklaring was omdat die specifieke schakel te onwaarschijnlijk was.

Samenvatting

Dit artikel geeft ons een formeel regelboek voor het verklaren van zeldzame rampen. Het zegt:

Wijs niet alleen naar het begin; breng het hele pad in kaart.
Zet complexe feiten om in simpele "Ja/Nee"-stappen.
Gebruik een score om te controleren of jouw verhaal de gebeurtenis daadwerkelijk waarschijnlijker maakt.
Als de score laag is, wordt jouw verklaring gefalsifieerd (bewezen onjuist), zelfs als het in een gesprek goed klinkt.

Het verandert "verhalen vertellen" in "wiskunde", waardoor we het onderscheid kunnen maken tussen goede wetenschappelijke verklaringen en slechte gissingen.

Technische Samenvatting: Formalisering en Falsificatie van Causale Paden van Zeldzame Gebeurtenissen

1. Probleemstelling

Het artikel behandelt de uitdaging van het bieden van causale verklaringen voor zeldzame gebeurtenissen (outliers), zoals natuurrampen, beurscrashes of systeemfouten. Hoewel bestaande methoden voor root cause analysis effectief een kleine set causale oorsprongen identificeren, slagen ze er vaak niet in om de specifieke mechanismen en subgrafen te vatten waardoor deze oorzaken voortplanten naar de geobserveerde uitkomst. Bovendien zijn volledige causale modellen vaak onbekend, en zijn standaardbenaderingen die steunen op asymptotische extreme-waardetheorie of aannames van continue variabelen minder geschikt voor zeldzame maar niet-extreme gebeurtenissen of discrete domeinen.

Het kernprobleem is het gebrek aan een formeel, toetsbaar begrip van een "causaal pad" dat de brug slaat tussen eenvoudige verbale verklaringen en gedetailleerde causale modellering. Huidige methoden worstelen met het kwantificeren van de vraag of een voorgestelde keten van gebeurtenissen een geldige verklaring vormt voor een specifieke zeldzame observatie, vooral wanneer de volledige causale graaf niet beschikbaar is of wanneer de verklaring robuust moet blijven onder gedeeltelijke modelkennis.

2. Methodologie

2.1 Formalisering van Causale Paden en Verklaring Scores

De auteurs introduceren een raamwerk gebaseerd op Structurele Vergelijkingen Modellen (SEM) en Gerichte Acyclische Grafen (DAG) om causale paden voor binaire gebeurtenissen te formaliseren.

Cluster van Gebeurtenissen: Een verzameling binaire variabelen $B$ die verbonden zijn door een causale DAG $C$ . Een deelverzameling $R$ vertegenwoordigt de worteloorzaken (root causes) waarbij mechanismen "gecorrumpeerd" zijn of waarop is geïntervenieerd.
Verklaring Score (Explanation Score): Voortbouwend op Oesterle et al. (2025), definieert het artikel een verklaring score $E(x \to y)$ voor een gebeurtenis $X=x$ die $Y=y$ verklaart als:
$E(x \to y) := 1 - \frac{\log P(Y=y | do(X=x))}{\log P(Y=y)}$
Deze score meet in welke mate de interventie $do(X=x)$ de waarschijnlijkheid van $Y=y$ verhoogt ten opzichte van de voorafgaande zeldzaamheid. Een score nabij 1 duidt op een sterke verklaring.
Pad Verklaring Score (Pathway Explanation Score): Om de beperking aan te pakken dat worteloorzaken alleen niet de volledige voortplanting verklaren, definiëren de auteurs een pad verklaring score $E^K_{R \to t}$ . Deze score evalueert of het instellen van de worteloorzaken $R$ op 1 de volledige cluster van gebeurtenissen (inclusief mediatoren) waarschijnlijk maakt, relatief aan de zeldzaamheid van de doelgebeurtenis.
$E^K_{R \to t} := 1 - \frac{\log P(B=1 | do(B_R=1))}{\log P(B_t=1)}$
Deze metriek straft verklaringen af waarbij tussenliggende gebeurtenissen zelfs na het instellen van de worteloorzaken onwaarschijnlijk blijven, wat ervoor zorgt dat het pad coherent is.

2.2 Causale Abstractie en Binarisatie

Om complexe of continue variabelen te behandelen, stelt het artikel Pad Abstractie (Pathway Abstraction) voor, een methode om gedetailleerde causale modellen te mappen naar vereenvoudigde binaire paden.

Kenmerk Monotoniciteit (Feature Monotonicity): Variabelen worden getransformeerd naar binaire gebeurtenissen met behulp van kenmerkfuncties $\tau$ (bijv. $X \ge x$ ). Het raamwerk vereist dat deze kenmerken voldoen aan "kenmerk monotoniciteit", wat garandeert dat het verhogen van de kenmerkwaarde van een ouder de waarschijnlijkheid van de kenmerkwaarde van het kind vergroot.
Natuurlijke Micro-realisatie: Om de slecht gedefinieerde aard van interventies op grofmazige (binaire) variabelen aan te pakken, definiëren de auteurs een "natuurlijke micro-realisatie" van een interventie $do(B_S=b_S)$ . Dit houdt in dat de onderliggende continue variabelen worden getrokken uit hun conditionele distributie gegeven de binaire beperking, wat effectief de interventie in het fijnmazige model simuleert.
Nauwkeurigheidsmetriek: De kwaliteit van een abstractie wordt gemeten door de KL-divergentie tussen de intersectionele distributies van het abstracte model en de werkelijke geprojecteerde distributie, genormaliseerd door de zeldzaamheid van de doelgebeurtenis.

2.3 Evaluatie via Consistentiecontroles

Het raamwerk maakt de falsificatie van causale verklaringen mogelijk via consistentiecontroles:

Kwantitatieve Consistentie: Als een pad wordt voorgesteld, moeten de waarschijnlijkheden van transities tussen knopen (bijv. $P(B_j=1 | B_i=1)$ ) consistent zijn met de verklaring score. Als het product van deze waarschijnlijkheden de waarschijnlijkheid van de doelgebeurtenis niet voldoende verhoogt, wordt de verklaring als zwak beschouwd.
Kwalitatieve Consistentie: Het raamwerk kan worden gebruikt om agenten (bijv. LLM's) te bevragen over sub-structuren van een voorgesteld pad om te verifiëren of de geclaimde causale links standhouden onder specifieke contexten.

3. Belangrijkste Bijdragen

Formele Definitie van Causale Paden: Het artikel definieert een causaal pad niet alleen als een set worteloorzaken, maar als een tupel $(C, P, B, B_t, B_R, P_B)$ waarbij $P$ een subgraaf is die de doelgebeurtenis verklaart. Dit onderscheidt de volledige causale graaf $C$ (gebruikt voor context) van het verklarende pad $P$ .
Pad Verklaring Score: Een nieuwe metriek die de kwaliteit van een verklaring kwantificeert door te beoordelen of de worteloorzaken de volledige sequentie van gebeurtenissen in het pad waarschijnlijk maken, in plaats van alleen de doelgebeurtenis. Deze score is additief over disjuncte verzamelingen van mechanismen en vermijdt de context-afhankelijkheidsproblemen van Shapley-waarden.
Gebeurtenis-niveau Abstractie: De introductie van pad abstractie maakt het mogelijk om eenvoudige, verbaal uitdrukbare causale verklaringen af te leiden uit complexe, continue of gedeeltelijk bekende modellen. Het biedt een rigoureuze manier om de "vergroving" (coarse-graining) van variabelen te behandelen terwijl de testbare implicaties behouden blijven.
Falsifieerbaarheid: Door expliciete toezeggingen te eisen over welke mechanismen zich naar verwachting gedroegen en welke werden gewijzigd, maakt het raamwerk causale verklaringen falsifieerbaar. Het biedt voorwaarden (bijv. Lemma 3.7 over log-likelihood gaps) waaronder een verklaring kan worden verworpen.

4. Resultaten en Demonstraties

Theoretische Grenzen: De auteurs bewijzen dat sterke lokale causale verklaringen (hoge paargewijze scores) geen sterke globale pad verklaring garanderen. Ze leiden noodzakelijke voorwaarden af voor hoge pad scores, zoals het vermijden van mediatoren die aanzienlijk minder waarschijnlijk zijn dan hun ouders.
Relatie tot Noodzakelijkheid: Het artikel demonstreert dat voor zeldzame gebeurtenissen een positieve verklaring score impliceert dat er een hoge waarschijnlijkheid van noodzakelijkheid (PN) is, wat betekent dat de worteloorzaak waarschijnlijk noodzakelijk is voor het optreden van de gebeurtenis, zelfs als de score niet perfect is.
LLM Evaluatie Casestudy: De auteurs pasten hun raamwerk toe om de causale paden te evalueren die door een Large Language Model (LLM) werden gegenereerd met betrekking tot de oorzaken van langdurige dakloosheid.
- De LLM genereerde een pad $A \to B \to C \to D \to E$ .
- Door de LLM te bevragen over transitiewaarrscheinlichheden, berekenden de auteurs een pad verklaring score van $\approx 0.29$ .
- De lage score werd toegeschreven aan een zwakke schakel ( $C \to D$ ), waarbij de transitie van "verlies van appartement" naar "familie vervreemding" niet voldoende waarschijnlijk was.
- Deze oefening toonde aan dat het raamwerk kwantitatief zwakke schakels in verbale verklaringen kan identificeren en suggesties voor revisies (bijv. het toevoegen van een directe link of het herformuleren van knopen) kan doen om de plausibiliteit te verbeteren.

5. Betekenis en Claims

Het artikel beweert de wetenschap van causale inferentie en Explainable AI (XAI) vooruit te helpen door een formele, kwantitatieve taal te bieden voor het bespreken van causale verklaringen van zeldzame gebeurtenissen.

Overbruggen van de Kloof: Het overbrugt de kloof tussen eenvoudige verbale verklaringen (die vaak intuïtief maar ontestbaar zijn) en gedetailleerde causale modellering (die vaak te complex of onbekend is).
Falsifieerbaarheid: De primaire betekenis ligt in het falsifieerbaar maken van causale verklaringen. Door te eisen dat een verklaring een specifieke set intersectionele waarschijnlijkheden impliceert, maakt het raamwerk empirische of logische controles tegen data of deskundige overtuigingen mogelijk.
AI-veiligheid en Transparantie: De auteurs positioneren dit werk als een stap naar het beoordelen van de waarheidsgetrouwheid van causale uitspraken gegenereerd door AI-systemen. Door verklaringen als expliciete paden te formaliseren, wordt het mogelijk om gebrekkige causale verslagen van maatschappelijk belangrijke gebeurtenissen te detecteren, wat bijdraagt aan de betrouwbaarheid van generatieve AI.

De auteurs blijven bescheiden en merken op dat het raamwerk niet automatisch de geldigheid van een causale DAG of de waarheid van intersectionele waarschijnlijkheden bewijst; het biedt eerder de concepten en metrieken die nodig zijn om plausibiliteit op een datagestuurde manier te bespreken en te evalueren.