Expert-Aided Causal Discovery of Ancestral Graphs

Dit artikel introduceert Ancestral GFlowNet (AGFN), een nieuw algoritme dat causale ontdekking onder latent verstorende factoren combineert met zowel voorafgaande als onzekere expertkennis via een Bayesiaanse versterkende leerbenadering, waarbij bewezen wordt dat het convergeert naar het ware causale model.

De kern

De Kaart van de Oorzaak: Hoe AGFN de Verborgen Oorzaken Ontdekt

Stel je voor dat je een enorme, ingewikkelde puzzel probeert op te lossen. De stukjes zijn data uit de echte wereld: temperatuur, ziektes, aandelenkoersen, of gedrag van mensen. Je doel is om een kaart te maken die laat zien wat de oorzaak is van wat. Dit noemen wetenschappers "causale ontdekking".

Het probleem is dat deze puzzel vaak stukjes mist. Er zijn verborgen factoren (zoals stress of genetica) die we niet kunnen meten, maar die wel alles beïnvloeden. Traditionele methoden proberen de puzzel op te lossen door alleen naar de zichtbare stukjes te kijken. Vaak maken ze hierdoor fouten: ze denken dat A de oorzaak is van B, terwijl in werkelijkheid een onzichtbare C beide beïnvloedt.

De auteurs van dit paper hebben een nieuwe, slimme manier bedacht om deze puzzel op te lossen, genaamd AGFN (Ancestral GFlowNet). Hier is hoe het werkt, vertaald naar alledaagse taal:

1. De "Bouwplaat" met Verborgen Deeltjes

Stel je voor dat je een huis moet bouwen, maar je hebt geen blauwdruk. Je hebt alleen een hoop bakstenen (data) en je moet raden hoe de muren eruitzien.

• Het probleem: Soms lijken twee muren op elkaar te staan, maar in werkelijkheid wordt ze beide ondersteund door een onzichtbare betonnen pijler in de grond (de "verborgen verwarring").
• De oude methode: Probeer elke mogelijke muurcombinatie te testen tot je een huis hebt dat eruitziet alsof het stabiel is. Dit duurt eeuwen en leidt vaak tot een huis dat er mooi uitziet, maar instabiel is.
• De AGFN-methode: In plaats van één huis te bouwen, bouwt AGFN een droomfabriek. Deze fabriek leert hoe je veel verschillende huizen tegelijkertijd kunt ontwerpen. Ze probeert niet één perfecte oplossing te vinden, maar een verzameling van huizen die het beste bij de bakstenen passen.

2. De Slimme Bouwmeester (De AI)

AGFN is als een zeer slimme, creatieve architect die een "droomfabriek" aanstuurt.

• Deze architect begint met een lege bouwplaat.
• Stap voor stap voegt hij muren en deuren toe (of laat ze weg).
• Hij gebruikt een slimme truc: hij bouwt alleen huizen die mogelijk zijn. Als een muurcombinatie leidt tot een huis dat fysiek onmogelijk is (bijvoorbeeld een trap die in de lucht hangt zonder steun), stopt hij die bouw direct. Dit zorgt ervoor dat hij geen tijd verspillen aan onzin.

3. De Expert in de Ring (De Mens of de AI)

Hier wordt het echt interessant. Soms is de architect niet zeker van een bepaalde muur. "Zit deze muur hier of daar?"

• De oude aanpak: De architect vraagt een expert (een mens of een slimme computer) om direct een antwoord. Maar experts maken fouten, of ze zijn het oneens.
• De AGFN-aanpak: De architect vraagt de expert niet zomaar iets. Hij vraagt: "Waar ben jij het meest onzeker over, en waar zou jouw antwoord ons het meest helpen?"
  • Dit noemen ze actieve kennis. Het is alsof je een gids vraagt: "We zijn verdwaald in dit bos. Waar moeten we nu precies kijken om de weg te vinden?" in plaats van "Kijk overal maar eens."
• Als de expert een antwoord geeft (bijvoorbeeld: "Deze muur hoort hier"), past de architect zijn droomfabriek aan. Hij maakt de kans groter dat de fabriek huizen bouwt die overeenkomen met dit advies.

4. Omgaan met Onzekerheid

Stel je voor dat je drie experts vraagt naar de richting van een windvaan.

• Expert 1 zegt: "Noorden."
• Expert 2 zegt: "Noord-Noordoost."
• Expert 3 zegt: "Noorden."
  De oude methoden zouden in paniek raken of willekeurig kiezen. AGFN is slimmer. Het zegt: "Oké, de meeste zeggen Noorden, maar er is twijfel. Laten we de kans dat het Noorden is iets verhogen, maar we houden de deur open voor Noord-Noordoost."
  Zelfs als de experts soms fout zijn (bijvoorbeeld door een LLM die soms hallucineert), leert AGFN door veel vragen te stellen dat de waarheid uiteindelijk naar boven komt. Het is als het luisteren naar een koor: als één zanger vals zingt, hoor je het nog steeds, maar als het hele koor in de juiste toon zingt, weet je zeker wat de melodie is.

Waarom is dit zo belangrijk?

1. Het werkt met verborgen dingen: Het kan omgaan met factoren die we niet kunnen meten (zoals "stress" of "economische sfeer").
2. Het is flexibel: Het kan zowel harde regels gebruiken ("Er mag geen muur tussen kamer A en B") als zachte adviezen ("Ik denk dat dit een deur is").
3. Het bespaart tijd: Door slim te vragen aan experts, heeft het veel minder vragen nodig dan andere methoden om de juiste kaart te vinden.

Kortom:
AGFN is een slimme, leergierige architect die samenwerkt met experts om de beste kaart van oorzaak en gevolg te tekenen, zelfs als de wereld vol onzichtbare krachten zit en de experts soms twijfelen. Het is een stap dichterbij het begrijpen van de complexe wereld om ons heen, zonder dat we alles perfect hoeven te weten.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Expert-Aided Causal Discovery of Ancestral Graphs" in het Nederlands.

Titel: Expert-geassisteerde Causale Ontdekking van Ancestral Graphs (AGFN)

1. Het Probleem

Causale ontdekking (Causal Discovery - CD) is essentieel voor het begrijpen van oorzaak-en-gevolgrelaties in wetenschappelijke toepassingen. Bestaande methoden hebben echter twee fundamentele beperkingen:

• Onbetrouwbaarheid: Statistische methoden leveren vaak onbetrouwbare punt-schattingen op die kunnen strijdig zijn met werkelijke causale structuren of expertkennis, vooral door schendingen van de "faithfulness"-aanname (bijv. door gebrek aan statistische power).
• Latente Verwarring: Veel bestaande algoritmen gaan uit van causale volledigheid (geen verborgen variabelen). In realistische scenario's met latente verwarring (onwaarneembare gemeenschappelijke oorzaken) worden systemen gemodelleerd met Ancestral Graphs (AGs). De zoekruimte voor AGs is exponentieel groter dan die voor Directed Acyclic Graphs (DAGs), wat het vinden van de juiste structuur extreem moeilijk maakt.
• Expertkennis Integratie: Bestaande methoden voor het integreren van expertkennis zijn vaak "ex-ante" (vooraf vastgelegde, deterministische constraints) en gaan uit van perfecte, ruisvrije feedback. In de praktijk is het vragen aan experts (of LLM's) duur en kan hun feedback ruis bevatten of conflicterend zijn. Er ontbreekt een framework dat zowel probabilistische inferentie over AGs mogelijk maakt als iteratief, onzeker expertfeedback verwerkt ("Expert-in-the-Loop").

2. Methodologie: Ancestral GFlowNets (AGFN)

De auteurs introduceren AGFN, een nieuw algoritme dat Reinforcement Learning (RL) en GFlowNets combineert om een probabilistische verdeling over Ancestral Graphs te leren.

• GFlowNets als Amortized Sampler:

  • Het algoritme modelleert het genereren van een graaf als een traject in een toestand-ruimte (State Graph).
  • Het begint met een initiële graaf en voegt iteratief relaties toe tussen variabeleparen (geen relatie, $A \to B$, $B \to A$, of $A \leftrightarrow B$).
  • Een masker zorgt ervoor dat alleen geldige AGs worden gegenereerd (geen gerichte of bijna-gerichte cycli), wat de zoekruimte beperkt tot de ruimte van Ancestral Graphs.
  • De policy wordt getraind om graafstructuren te samplen die evenredig zijn met een "goodness-of-fit" score (bijv. BIC) ten opzichte van de data.

• Integratie van Expertkennis (Ex-ante en Ex-post):

  • Ex-ante: Strikte structurele constraints (zoals sparsiteit of partities) kunnen worden ingebouwd in het initiële masker en de policy.
  • Ex-post (Iteratief): Het systeem gebruikt een Bayesiaans model om feedback van experts (mensen of LLM's) te verwerken.
    • Experts worden gevraagd naar de relatie tussen een specifiek variabelepaar.
    • De feedback wordt gemodelleerd als een ruisbevatte observatie van de ware relatie.
    • De auteurs bewijzen dat als de expert "beter dan willekeurig" is (kans op juiste antwoord > 25%), de posterior verdeling convergeert naar de ware relatie naarmate meer feedback wordt verzameld.

• Active Knowledge Elicitation:

  • Om de kosten van expertvragen te minimaliseren, kiest het algoritme actief het variabelepaar op te vragen dat de verwachte entropie van de posterior verdeling het meest verlaagt. Dit is een toepassing van Bayesiaanse experimentele design.
  • De expertfeedback wordt gecombineerd met de huidige policy van de GFlowNet via log-pooling, waardoor de zoekruimte wordt gefocust op structuren die zowel statistisch waarschijnlijk als expert-consistent zijn.

3. Belangrijkste Bijdragen

1. Eerste Probabilistische CD voor AGs: Het is het eerste algoritme dat een probabilistische verdeling leert over de ruimte van Ancestral Graphs (onder latente verwarring), in plaats van slechts één punt-schatting.
2. Expert-in-the-Loop (EITL) Framework: Het introduceert het eerste EITL-pipeline dat zowel strikte ex-ante constraints als ruisbevatte ex-post feedback kan verwerken. Dit is cruciaal voor scenario's waar experts (of LLM's) niet perfect zijn.
3. Theoretische Convergentie: De auteurs bewijzen wiskundig dat de modus van de verdeling convergeert naar de ware Ancestral Graph, mits de expertfeedback beter is dan willekeurig, zelfs bij lichte misspecificatie van het vertrouwen in de expert.
4. Efficiënte Maskering: Ze ontwikkelen een efficiënt, online algoritme om geldige overgangen te maskeren, wat zorgt dat het generatieve proces uitsluitend AGs produceert zonder de noodzaak van dure validatie na elke stap.

4. Resultaten

De methode is geëvalueerd op synthetische en realistische datasets (inclusief DREAM3 en Sachs datasets) met gesimuleerde menselijke experts en LLM's (GPT-4o).

• Verdelingsnauwkeurigheid: AGFN leert nauwkeurig de onderliggende verdeling van AGs, inclusief voorbeelden met 25 knopen (een schaal die groter is dan eerdere amortized inference-methoden).
• Prestaties ten opzichte van Baselines: AGFN presteert significant beter dan sterke baselines (zoals FCI, GFCI, DCD, en N-ADMG) op maatstaven zoals:
  • Structural Hamming Distance (SHD): AGFN vindt structuren die dichter bij de waarheid liggen.
  • Bayesian Information Criterion (BIC): De gevonden grafen passen beter bij de data.
• Efficiëntie: Het systeem bereikt hoge nauwkeurigheid met slechts een klein aantal expertfeedbacks (minder dan 4 per variabelepaar in sommige tests), wat aantoont dat de actieve selectie van vragen zeer effectief is.
• LLM Integratie: Het algoritme slaagt erin om de onzekerheid en inconsistentie van LLM-antwoorden te verwerken en toch superieure resultaten te behalen ten opzichte van traditionele methoden.

5. Betekenis en Impact

Dit werk is een belangrijke stap in de richting van mens-gealigneerde en data-efficiënte causale ontdekking.

• Het lost het probleem op van de enorme zoekruimte bij latente verwarring door gebruik te maken van GFlowNets.
• Het biedt een praktische oplossing voor het integreren van expertkennis in realistische scenario's waar experts niet perfect zijn en feedback duur is (bijv. via API's).
• Het opent de deur voor het gebruik van Large Language Models als "experts" in wetenschappelijke ontdekking, mits hun onzekerheid correct wordt gemodelleerd.
• Het framework is modulair en kan worden uitgebreid met andere scoringsfuncties of neurale architecturen, wat het een veelbelovende basis vormt voor toekomstig onderzoek in probabilistische inferentie en foundation models.

Kortom, AGFN combineert de kracht van data-gedreven statistiek met menselijke expertise op een manier die robuust is tegen onzekerheid en schaalbaar is voor complexe causale systemen met verborgen variabelen.