🤖 AI

CauSim: Scaling Causal Reasoning with Increasingly Complex Causal Simulators

CauSim is een raamwerk dat de schaarste aan causale redeneerdata aanpakt door LLM's in staat te stellen steeds complexere, uitvoerbare structurele causale modellen (SCM's) te construeren die dienen als schaalbare simulatoren voor het genereren van verifieerbare trainingsdata en het verbeteren van modelprestaties over diverse representaties heen.

Oorspronkelijke auteurs: Nicolás Astorga, Anita Kriz, Mihaela van der Schaar

Gepubliceerd 2026-05-12

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Nicolás Astorga, Anita Kriz, Mihaela van der Schaar

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: LLM's zijn Geweldig in Feiten, Slecht in "Wat-Als"-Vragen

Stel je Large Language Models (LLM's) voor als ongelooflijk goed gelezen bibliothecarissen. Ze hebben bijna elk boek dat ooit geschreven is, gelezen. Als je ze vraagt: "Wie schreef Trots en Vooroordeel?" of "Hoe schrijf ik een Python-lus?", kunnen ze direct en perfect antwoorden.

Maar als je ze een "Wat-Als"-vraag stelt, struikelen ze vaak.

Voorbeeld: "Als ik gisteren dit specifieke medicijn had ingenomen, zou mijn tumor dan vandaag kleiner zijn?"

Om dit te beantwoorden, moet het model Causaal Redeneren. Het kan niet alleen gissen op basis van patronen; het moet een kettingreactie simuleren: Medicijn A verandert Cel B, wat Proteïne C verandert, wat Tumor D verkleint.

Het papier stelt dat LLM's hierom drie hoofdredenen worstelen:

Schaal: Wereldsystemen zijn enorm. Het bijhouden van een keten van 50 interactieve variabelen is als proberen een spelletje "telefoon" te volgen dat tegelijkertijd door 50 mensen wordt gespeeld.
Taal versus Code: Causale kennis staat meestal geschreven in rommelige natuurlijke taal (zoals aantekeningen van een arts). Computers hebben precieze code nodig om simulaties uit te voeren, maar het vertalen van rommelige aantekeningen naar perfecte code is moeilijk.
Geen Antwoordenlijst: In de echte wereld kunnen we niet terug in de tijd om te zien wat er zou zijn gebeurd als we een patiënt een ander medicijn hadden gegeven. We hebben geen "ground truth" (het juiste antwoord) om de AI te leren. Zonder een antwoordenlijst kan de AI niet leren.

De Oplossing: CauSim (De "Causale Simulator"-Fabriek)

De auteurs introduceren CauSim, een raamwerk dat de onmogelijke taak van leren uit schaarse real-world data omzet in een schaalbaar, toezichtbaar spel.

Stel CauSim voor als een videospel-engine die de AI voor zichzelf bouwt. In plaats van te proberen te leren van echte, rommelige geschiedenis, bouwt de AI een virtuele wereld waar het de regels kent, de simulatie uitvoert en een perfecte score behaalt.

Hier is hoe het werkt, stap voor stap:

1. De Wereld Steen voor Steen Bouwen (Incrementele Constructie)

Als je een AI vraagt om in één keer een complexe 3D-stad te bouwen, zal deze waarschijnlijk crashen of een puinhoop maken.

De Truc van het Papier: CauSim vraagt de AI om de wereld één kamer tegelijk te bouwen.
De Analogie: Stel je voor dat je een enorm LEGO-kasteel bouwt. In plaats van 10.000 stenen te dumpen en te hopen dat ze blijven plakken, bouw je één klein torentje, controleer je of het staat, voeg je dan het volgende torentje toe, controleer je opnieuw, en ga zo door.
Waarom het werkt: Door de "Causale Simulator" (een computerprogramma dat oorzaak en gevolg simuleert) incrementeel te bouwen, zorgt de AI ervoor dat elk nieuw stuk perfect past bij de oude stukken. Dit stelt hen in staat om ongelooflijk complexe systemen (met veel variabelen) te creëren die onmogelijk zouden zijn om in één stap te genereren.

2. Vertalen tussen "Menselijke Spraak" en "Computercode"

Het papier lost het probleem "Taal versus Code" op door te fungeren als een universele vertaler.

Formaliseren (Mens $\to$ Code): De AI neemt een rommelige, niet-uitvoerbare beschrijving (zoals een medische richtlijn) en vertaalt deze naar een strikt Python-programma. Nu kan de computer het uitvoeren en een definitief antwoord krijgen.
Informaliseren (Code $\to$ Mens): De AI neemt een strikt Python-programma en zet het terug om in een verhaal in natuurlijke taal.
Het Voordeel: Dit creëert een lus. De AI kan oneindig veel "Wat-Als"-scenario's in code genereren, ze uitvoeren om de juiste antwoorden te krijgen, en die scenario's vervolgens omzetten in tekst om zichzelf te leren redeneren in menselijke taal.

3. De Oneindige Antwoordenlijst

Omdat de AI de simulator zelf heeft gebouwd, kent het de antwoordenlijst.

In de echte wereld weten we niet of Medicijn X Ziekte Y geneest.
In de CauSim-wereld definieert de AI de regels. Het zegt: "In deze simulatie verkleint Medicijn X altijd Tumor Y."
Vervolgens genereert het miljoenen "Wat-Als"-vragen op basis van deze regels, voert de code uit om het antwoord te krijgen, en gebruikt die data om het model te trainen. Het verandert een "schaarste-label-probleem" (niet genoeg data) in een "schaalbaar, toezichtbaar probleem" (oneindige data met perfecte antwoorden).

Wat Hebben Ze Ontdekt? (De Resultaten)

Het papier voerde vier hoofdexperimenten uit om te zien of deze "zelfgemaakte simulator" de AI daadwerkelijk helpt beter na te denken.

1. Generalisatie (De "Transfer"-Test)

De Opzet: Ze trainden de AI op een simulator met onzinwoorden (bijv. "Als variabele A toeneemt, neemt variabele B af"). De AI wist niet wat A of B betekenden.
Het Resultaat: Toen ze de AI testten op echte medische termen (bijv. "Als Medicijn A toeneemt, neemt Tumor B af"), presteerde de AI veel beter.
De Conclusie: De AI heeft niet alleen medische feiten gememoriseerd; het heeft de logica van oorzaak en gevolg geleerd. Het heeft de "grammatica" van causaliteit geleerd, die het vervolgens kon toepassen op nieuwe, real-world onderwerpen.

2. Het Curriculum-effect (Leren door Moeilijkheidsgraad)

De Opzet: Ze testten of de AI beter leert als het begint met simpele simulators (weinig variabelen) en doorgaat naar complexe ones (veel variabelen), of als het gewoon in het diepe wordt gegooid.
Het Resultaat: De AI leerde het beste wanneer het een curriculum volgde—beginnen klein en steeds moeilijker worden.
De Conclusie: Net als een menselijke student moet de AI leren lopen voordat het kan rennen. Het opbouwen van complexe causale redenering vereist een stap-voor-stap aanpak.

3. Zelfverbetering (De "Bootstrapping"-Test)

De Opzet: Kan een AI zichzelf verbeteren door zijn eigen trainingsdata te genereren?
Het Resultaat: Ja. Een AI-model genereerde zijn eigen simulators, trainde daarop en werd beter in het beantwoorden van causale vragen.
De Conclusie: De AI kan optreden als zijn eigen leraar. Het heeft geen mens nodig om de "Wat-Als"-vragen te schrijven; het kan ze uitvinden, oplossen en leren van de oplossingen.

4. Data Augmentatie (Superchargen van Bestaande Kennis)

De Opzet: Ze namen een real-world dataset (NIH Stroke Scale) die zeer weinig voorbeelden had van "Wat-Als"-scenario's. Ze zetten de regels van deze dataset om in een simulator en genereerden 1.000 nieuwe voorbeelden.
Het Resultaat: De AI die op deze "augmented" data was getraind, presteerde aanzienlijk beter op de originele real-world vragen dan de AI die alleen op de kleine originele dataset was getraind.
De Conclusie: Je kunt een kleine, real-world dataset nemen en een simulator gebruiken om de "gaten in te vullen", waardoor een enorme trainingsset ontstaat die de AI helpt de realiteit beter te begrijpen.

Samenvatting

CauSim is een raamwerk dat AI helpt leren denken als een wetenschapper. In plaats van te wachten tot mensen perfecte "Wat-Als"-antwoorden geven (die zeldzaam en duur zijn), bouwt de AI zijn eigen virtuele laboratoria. Het bouwt deze laboratoria steen voor steen om ervoor te zorgen dat ze stabiel zijn, vertaalt ze tussen menselijke taal en computercode, en voert miljoenen experimenten uit om zijn eigen "Antwoordenlijst" te genereren.

Het resultaat is een AI die niet alleen feiten memoriseert, maar daadwerkelijk de onderliggende logica van oorzaak en gevolg leert, waardoor het complexe "Wat-Als"-vragen met veel grotere nauwkeurigheid kan beantwoorden.

Technische Samenvatting: CauSim: Schalen van Causaal Redeneren met Steeds Complexere Causale Simulatoren

1. Probleemstelling

Ondanks het behalen van supermenselijke prestaties in wiskunde, coderen en kennisintensieve taken, blijven Grootte Taalmodellen (LLM's) worstelen met causaal redeneren. Het artikel identificeert drie kernobstakels die LLM's beletten deze vaardigheid te beheersen:

Schaal (C1): Naarmate het aantal variabelen in een causaal systeem toeneemt (bijvoorbeeld bijwerkingen, patiëntkenmerken), wordt het traceren van alle interacties en afhankelijkheden computationeel en cognitief uitdagend.
Representatie (C2): Causale kennis wordt vaak uitgedrukt in niet-uitvoerbare vormen, zoals natuurlijke taal of diagrammen. Om vragen te beantwoorden, moeten modellen de onderliggende causale relaties correct extraheren en samenstellen; een proces dat vatbaar is voor fouten wanneer de representatie ongestructureerd is.
Gebrek aan Supervisie op Basis van Waarheid (C3): Causaal redeneren vereist antwoorden op interventie- en contrafactuele vragen. Echter, zijn antwoorden gebaseerd op waarheid voor deze vragen inherent schaars in real-world data; interventiedata is kostbaar om te verkrijgen, en contrafactuele uitkomsten zijn niet waarneembaar. Deze schaarste maakt directe supervisie voor causale inferentie onuitvoerbaar.

De centrale onderzoeksvraag is: Hoe kunnen we verifieerbare supervisie voor causaal redeneren verkrijgen over variërende schalen en representaties?

2. Methodologie: Het CauSim-kader

De auteurs introduceren CauSim, een kader dat is ontworpen om causaal redeneren te transformeren van een probleem met schaarse labels naar een schaalbaar, gesuperviseerd probleem. De kerninnovatie is de constructie van steeds complexere causale simulatoren—uitvoerbare Structurele Causale Modellen (SCM's) die stapsgewijs door LLM's worden gebouwd.

2.1 Incrementele Constructie van SCM's

Om de uitdaging Schaal (C1) aan te pakken, vermijdt CauSim eenmalige generatie van complexe modellen, wat vaak leidt tot structurele fouten. In plaats daarvan hanteert het een vierstaps, iteratieve procedure:

Specificatie: Een LLM specificeert een initiële uitvoerbare SCM (Python-code).
Planning: De LLM krijgt een semantisch overzicht (functionele samenvattingen en graafstructuur) van de huidige SCM en plant een bewerking door een nieuw structureel mechanisme ( $f_i$ ) en exogene steekproefnemer ( $U_i$ ) voor te stellen, waarbij hun ouders en kinderen worden gedefinieerd.
Uitvoering: De LLM implementeert de update met uitsluitend gelokaliseerde context (volledige code voor kinderen, docstrings voor ouders) om te waarborgen dat de nieuwe knooppunt correct integreert zonder bestaande logica te breken.
Verificatie: Deterministische checks dwingen acycliciteit, connectiviteit en uitvoerbaarheid tijdens runtime af. Als checks falen, wordt de bewerking afgewezen en opnieuw geprobeerd.

Deze incrementele aanpak maakt de generatie van globaal complexe systemen mogelijk (tot 10+ knooppunten in experimenten) terwijl structurele validiteit wordt behouden.

2.2 Vertaling over Representaties

Om de uitdaging Representatie (C2) aan te pakken, opereert CauSim bidirectioneel tussen uitvoerbare en niet-uitvoerbare vormen:

Formalisatie (Informeel $\to$ Uitvoerbaar): Het kader vertaalt ongestructureerde causale beschrijvingen (bijvoorbeeld klinische notities) naar uitvoerbare Python-SCM's. Dit maakt de generatie van antwoorden gebaseerd op waarheid mogelijk voor vragen die anders ongesuperviseerd zouden zijn.
Informalisatie (Uitvoerbaar $\to$ Informeel): Omgekeerd worden uitvoerbare SCM's vertaald naar natuurlijke taal. Dit maakt supervisie voor training op niet-uitvoerbare representaties mogelijk, waarbij gebruik wordt gemaakt van de waarheid die door de uitvoerbare versie is gegenereerd.

2.3 Generatie van Vragen en Training

Zodra een geverifieerde SCM is geconstrueerd, steekt het kader causale vragen op die vier typen omvatten: Deductie, Interventie, Abductie en Contrafactuelen.

Datageneratie: Het kader genereert effectief onbeperkte gesuperviseerde data door de SCM uit te voeren om antwoorden gebaseerd op waarheid te verkrijgen.
Trainingspijplijn: De auteurs hanteren een pijplijn voor fijnafstemming met afwijzingssteekproeven (vergelijkbaar met STaR/RAFT). Het basismodel genereert antwoorden; alleen die welke overeenkomen met de verifieerbare waarheid worden behouden voor Supervised Fine-Tuning (SFT).
Curriculum-schaling: Training wordt uitgevoerd over toenemende niveaus van SCM-complexiteit (aantal knooppunten) om de effecten van curriculumontwerp te bestuderen.

3. Belangrijkste Bijdragen

CauSim-kader: Een nieuwe methode voor het construeren van steeds complexere, uitvoerbare causale simulatoren die schalen over zowel systeemcomplexiteit als representatietypen.
Systematisch Empirisch Onderzoek: Een uitgebreide evaluatie die aantoont dat:
- Training op uitvoerbare SCM's generaliseert naar niet-uitvoerbare representaties en semantische inhoud buiten de verdeling.
- Prestatiewinsten consistent zijn met curriculum-schaling (progressieve moeilijkheidsgraad) en een toename van datavolume.
- LLM's zichzelf kunnen verbeteren door hun eigen causale simulatoren te genereren en erover te redeneren.
- Bestaande domeinkennis kan worden geformaliseerd tot uitvoerbare SCM's om datasets te verrijken en de prestaties op originele verdelingen te verbeteren.

4. Experimentele Resultaten

De auteurs hebben CauSim geëvalueerd met Qwen2.5-modellen en GPT-5 voor generatie, met focus op "Nonsens"-variabelen (strings van 4 letters) om causaal redeneren los te koppelen van voorkennis, evenals medische domeinen (NIH Stroke Scale) en externe benchmarks (bnlearn, GSM8K).

Generalisatie (V1): Modellen getraind op uitvoerbare SCM's met betekenisloze variabelen presteerden aanzienlijk beter dan basismodellen op onbekende medische termen en niet-uitvoerbare (natuurlijke taal) representaties. Dit suggereert dat de training causale logica leert in plaats van domeinfacten te memoriseren.
Schalingseffecten (V2):
- Curriculum: Een progressief curriculum (trainen op kleine SCM's voordat op grote) presteerde consistent beter dan trainen op alle complexiteiten tegelijk of trainen alleen op makkelijke/moeilijke subsets.
- Datavolume: Het verhogen van het aantal causale vragen per SCM (van 5 tot 135) leidde tot consistente verbeteringen in nauwkeurigheid, met name voor complexe SCM's.
Zelfverbetering (V3): Een LLM dat is fijnafgestemd op SCM's die door zichzelf zijn gegenereerd (Qwen2.5-7B), behaalde prestaties die vergelijkbaar waren met modellen getraind op SCM's gegenereerd door sterkere modellen (GPT-5), wat de levensvatbaarheid aantoont van het opstarten van causale redeneercapaciteiten.
Data-aanvulling (V4): Het formaliseren van de NIH Stroke Scale (NIHSS) tot een uitvoerbare SCM maakte de generatie van 1.000 extra interventie- en contrafactuele steekproeven mogelijk. Modellen getraind op deze aangevulde data presteerden aanzienlijk beter dan die getraind op slechts de originele 100 steekproeven, met winsten die toenamen naarmate de SCM-complexiteit groeide.

5. Betekenis en Beweringen

Het artikel beweert dat CauSim een schaalbare oplossing biedt voor het probleem van dataschaarste in causaal redeneren. Door gebruik te maken van de uitvoerbaarheid van code, creëert het kader een "verifieerbare trainingsomgeving" waar antwoorden gebaseerd op waarheid mechanisch worden afgeleid in plaats van door mensen te worden samengesteld.

De auteurs benadrukken dat hun werk zich richt op het verbeteren van causale redeneercapaciteiten in plaats van deze slechts te evalueren. Zij betogen dat de incrementele constructie van simulatoren essentieel is voor het behoud van betrouwbaarheid in complexe systemen, een prestatie die moeilijk te bereiken is met eenmalige generatie.

Beperkingen en Bescheidenheid:
De auteurs zijn bescheiden wat betreft de implicaties van hun bevindingen. Zij stellen expliciet dat:

Hoge nauwkeurigheid op causale vragen niet garandeert dat het model invariante causale mechanismen heeft geleerd of de ware onderliggende graaf heeft hersteld; het model kan nog steeds vertrouwen op voorspellende shortcuts.
Zelfverbetering wordt begrensd door de diversiteit en kwaliteit van de output van de generator; recursieve zelfverbetering zonder externe gronding riskeert modelinstorting of versterking van bias.
Huidige experimenten zijn voornamelijk deterministisch; uitbreiding naar stochastisch redeneren waar contrafactuelen dubbelzinnig zijn, blijft toekomstig werk.

Concluderend toont CauSim aan dat het omzetten van causaal redeneren in een schaalbaar, gesuperviseerd probleem via uitvoerbare simulatoren een levensvatbaar pad is om het vermogen van LLM's te versterken om complexe "wat-als"-scenario's over diverse representaties te hanteren.