📊 statistics

A Closed-Loop Framework for Knowledge-Based Causal Model Refinement Using Process Mining and Human-AI Governance

Dit artikel stelt een gesloten, mens-AI-collaboratief framework voor dat iteratief kennisgebaseerde causale modellen (DAG's) verfijnt door middel van de integratie van process mining van empirische event logs met expertbeoordeling om de nauwkeurigheid en transparantie van causale inferentie bij complexe chronische ziekten te verbeteren.

Oorspronkelijke auteurs: Eduardo Illueca Fernandez, Kaile Chen, Carlos Fernandez Llatas, Fernando Seoane, Farhad Abtahi

Gepubliceerd 2026-08-14

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Eduardo Illueca Fernandez, Kaile Chen, Carlos Fernandez Llatas, Fernando Seoane, Farhad Abtahi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorme mysterie probeert op te lossen: waarom worden sommige mensen op specifieke manieren ziek terwijl anderen dat niet worden? In de wereld van de geneeskunde en wetenschap gebruiken onderzoekers speciale kaarten genaamd Directed Acyclic Graphs (DAGs). Denk aan deze kaarten als een stamboom voor ziekten, maar in plaats van te laten zien wie aan wie verwant is, laten ze zien wat wat veroorzaakt. Als je een lijn trekt van "Roken" naar "Longkanker", zeg je dat roken de kanker veroorzaakt. Deze kaarten zijn cruciaal, want als je de lijnen verkeerd tekent, is je hele onderzoek gebrekkig en wijs je misschien het verkeerde ding aan als oorzaak van een ziekte.

Het tekenen van deze kaarten is echter lastig. Meestal moeten experts verbindingen raden op basis van wat ze in boeken hebben gelezen of wat ze in klinieken hebben gezien. Maar de echte wereld is rommelig. Mensen worden op verschillende momenten ziek, sommigen overlijden voordat we het volledige verhaal kunnen zien, en soms ziet de data er verwarrend uit. Het is alsof je probeert het plot van een film te begrijpen door alleen willekeurige, door elkaar gehusselde fragmenten te kijken. De grote vraag is: hoe kunnen we ervoor zorgen dat onze "oorzaak-en-gevolg"-kaarten daadwerkelijk kloppen als de echte wereld zo ingewikkeld is? Hier besloot een nieuw team wetenschappers hulp in te schakelen van kunstmatige intelligentie, niet om de experts te vervangen, maar om te fungeren als een superkrachtige detective.

De Detective en de AI: Een Closed-Loop Mysterie

Maak kennis met de onderzoekers van het Karolinska Instituut en hun collega's. Ze hebben een closed-loop framework gebouwd, wat een chique manier is om te zeggen dat ze een "controle- en evenwichtssysteem" hebben gecreëerd voor het oplossen van medische mysteries. Stel je voor dat je een detective bent (de menselijke expert) die een zaak probeert op te lossen. Je hebt een theorie over hoe de misdaad is gebeurd (je initiële kaart). Normaal gesproken zou je die gewoon opschrijven en verdergaan. Maar dit nieuwe systeem voegt een robot-bijstander toe (de AI) die niet alleen met je mee eens is, maar ook daadwerkelijk de plaats delict gaat controleren op bewijs.

Zo werkt hun vierstaps-avontuur:

Stap 1: De Initiële Theorie (De gok van de expert)
Eerst tekent de menselijke expert (of een AI-assistent die boeken voor hen leest) de eerste versie van de kaart op basis van wat zij al weten. Laten we zeggen dat ze denken: "Medicijn A veroorzaakt nierziekte, wat vervolgens hartproblemen veroorzaakt." Dit is hun start-hypothese. Het is een goede gok, maar het is slechts een gok.

Stap 2: Het Onderzoek op de Plaats Delict (Process Mining)
Vervolgens kijkt het systeem naar een berg echte patiëntendossiers—zoals een gigantisch logboek van elke keer dat een patiënt de dokter bezocht, een pil nam of een test onderging. Dit wordt Process Mining genoemd. De AI scant deze logs om te zien wat er daadwerkelijk op volgorde is gebeurd. Gebeurde de nierproblematiek echt vóór de hartproblematiek? Of gebeurden ze tegelijkertijd? Of overleed de patiënt voordat de hartproblematiek zelfs maar geregistreerd kon worden? De AI tekent een nieuwe kaart op basis strikt van de tijdlijn van gebeurtenissen die het heeft gevonden.

Stap 3: De Confrontatie (Human-AI Governance)
Dit is het belangrijkste deel. Het systeem legt de "Gok van de Expert" en de "AI-Plaats Delict Kaart" nu naast elkaar.

Als ze overeenkomen: Geweldig! De theorie ziet er solide uit.
Als ze niet overeenkomen: De AI wijst de verschillen aan. "Hé, jouw kaart zegt dat Medicijn A leidt tot hartproblemen, maar de logs laten zien dat hartproblemen in deze groep vaak vóór de nierproblemen optreden."

Hier zit de crux: de AI mag de kaart niet aanpassen. Het zegt alleen maar: "Ik heb een vreemd patroon gevonden. Wil je je kaart aanpassen?" De menselijke expert beslist dan. Ze kunnen zeggen: "Ah, je hebt gelijk! Ik heb dat detail gemist," of: "Nee, dat vreemde patroon is gewoon een fout in de data, negeer het maar." Dit zorgt ervoor dat de mens de controle behoudt, waarbij de AI wordt gebruikt om dingen op te sporen die ze misschien over het hoofd hebben gezien.

Stap 4: Het Eindvonnis (Statistische Modellering)
Zodra de kaart is verfijnd en goedgekeurd door de mens, stelt het systeem de beste wiskundige instrumenten voor om de theorie te bewijzen. Het kan zeggen: "Omdat we nu weten dat de dood een belangrijke factor is, gebruik dit specifieke type wiskunde genaamd een 'Fine-Gray model' om het juiste antwoord te krijgen."

Wat Hebben Ze Gevonden?

Om te testen of dit systeem daadwerkelijk werkt, hebben de onderzoekers niet alleen gegokt; ze hebben een enorme simulatie uitgevoerd. Ze creëerden een fictieve wereld met 5.000 virtuele patiënten en een bekende "ware" geschiedenis over hoe een medicijn (Protonpompremmers, of PPI's) de nier- en hartgezondheid beïnvloedt. Ze hebben zelfs "vallen" in de data geplant—nepclues die leken op echte verbindingen, maar eigenlijk gewoon glitches waren in het registratiesysteem.

De resultaten waren indrukwekkend:

De "Ongestuurde" AI: Wanneer ze een AI de opdracht gaven om de kaart te corrigeren zonder een menselijke controle, trapte de AI in de vallen. De AI accepteerde de nepclues als echt, waardoor de kaart onjuist werd.
De "Gestuurde" Loop: Wanneer ze hun nieuwe closed-loop systeem gebruikten (AI stelt voor, Mens beslist), wees het systeem 100% van de nepvallen af. Het slaagde erin te identificeren dat de vreemde patronen slechts registratiefouten waren, en geen echte ziekten.
Het Ware Verhaal: Het systeem identificeerde correct dat het medicijn waarschijnlijk nierproblemen veroorzaakte, die vervolgens leidden tot hartproblemen, en het gaf correct aan dat veel patiënten stierven voordat de hartproblematiek volledig bestudeerd kon worden.

Ze testten dit ook op een "tutorial" met synthetische data die de echte patiëntendossiers uit een studie genaamd SCREAM nabootsten. Het systeem merkte succesvol op dat "Dood" een belangrijke concurrerende factor was (wat betekent dat veel mensen stierven voordat het hart-event kon plaatsvinden) en suggereerde de juiste wiskundige instrumenten om dit aan te pakken.

Waarom Dit Belangrijk Is

Het paper beweert niet dat het alle medische mysteries heeft opgelost of een nieuw medicijn heeft gevonden. In plaats daarvan biedt het een betere manier van denken. Het laat zien dat we AI kunnen gebruiken als een onvermoeibare detective die miljoenen dossiers scant op patronen, maar dat we een menselijke expert in de loop moeten houden om te beslissen of die patronen zinvol zijn.

De auteurs suggereren dat deze methode helpt om de veelvoorkomende fout te vermijden om de gok van een computer te veel te vertrouwen. Door onze initiële ideeën te behandelen als "testbare hypothesen" in plaats van vaststaande feiten, en door ze constant te controleren tegen de echte wereld, kunnen we veel betrouwbaardere kaarten bouwen van hoe ziekten werken. Het is een manier om er zeker van te zijn dat wanneer we zeggen "A veroorzaakt B", we niet alleen maar gokken en niet worden bedrogen door rommelige data. Het systeem is nu beschikbaar als een open-source tool, waarmee andere wetenschappers worden uitgenodigd om deze "detective en bijstander"-aanpak op hun eigen medische puzzels uit te proberen.

Technische Samenvatting: Een Closed-Loop Framework voor Kennisgebaseerde Verfijning van Causale Modellen

Probleemstelling
In de epidemiologische causale inferentie zijn Directed Acyclic Graphs (DAGs) essentieel voor het coderen van aannames over causale relaties en het sturen van statistische analyse. Traditionele kennisgebaseerde DAGs leunen echter zwaar op deskundige opinie en literatuur, en missen vaak empirische validatie. Dit leidt tot onzekerheid in causale structuren, met name bij complexe chronische ziekten die worden gekenmerkt door concurrerende risico's, temporele dynamiek en meerdere interagerende condities. Dergelijke onzekerheid kan de schatting van effecten verkenen, ongeacht de robuustheid van de gebruikte statistische methode. Omgekeerd biedt real-world data (RWD) weliswaar een enorme hoeveelheid longitudinale bewijslast, maar het toepassen van geautomatiseerde causale ontdekkingsalgoritmen (bijv. PC, FCI) faalt vaak door niet-voldane aannames (getrouwheid, causale sufficiëntie) en een gebrek aan klinische interpreteerbaarheid. Recentelijk pogingen om Large Language Models (LLMs) te gebruiken voor causaal redeneren roepen zorgen op over hallucinaties en het onvermogen om onderscheid te maken tussen associatieve en causale claims. Er is behoefte aan een framework dat empirische datapatronen integreert met deskundige kennis zonder de menselijke autoriteit over causale interpretatie te vervangen.

Methodologie
De auteurs stellen een closed-loop, governed framework voor dat kennisgebaseerde DAGs behandelt als toetsbare wetenschappelijke hypothesen, die iteratief worden verfijnd via een mens-AI-collaboratiecyclus gebaseerd op process mining. De methodologie bestaat uit vier afzonderlijke fasen:

Fase 1: Kennisgestuurde Constructie van de Event Log:
- Een initiële kennisgebaseerde DAG wordt gegenereerd met behulp van LLM's om literatuur en deskundige input te synthetiseren. Dit dient als een syntactische hypothese, niet als een causale waarheid.
- De DAG stuurt de constructie van een gestructureerde event log (patiëntniveau, longitudinaal geordende sequenties van tijdgestempelde klinische gebeurtenissen) aan, waarbij populaties, gebeurtenissen en covariaten worden gedefinieerd.
- Governance: Menselijke experts definiëren klinisch betekenisvolle gebeurtenissen en inclusiecriteria; AI assisteert bij de literatuursynthese.
Fase 2: Data-gestuurde Ontdekking:
- Process mining-algoritmen (specifiek Directly-Follows Graphs of DFGs) worden toegepast op de event log om werkelijke temporele transitiepatronen te ontdekken.
- De output is een DFG die de geobserveerde transities representeert (bijv. CKD-diagnose $\to$ cardiovasculaire gebeurtenis), geannoteerd met frequentie en timing.
- Governance: De DFG dient als een empirische baseline die geobserveerde temporele opeenvolging vastlegt in plaats van inherente causaliteit.
Fase 3: DAG-verfijning (De Mens-AI Loop):
- De empirische DFG wordt systematisch vergeleken met de initiële kennisgebaseerde DAG.
- Discrepanties (bijv. ontbrekende edges, onverwachte reverse transities of hoogfrequente concurrerende risico's) triggeren kandidaat-verfijningen voorgesteld door de AI.
- Governance: Een menselijke expert beoordeelt elk voorstel. De AI stelt wijzigingen voor (toevoegen/verwijderen van edges/nodes, herstructureren voor concurrerende risico's), maar de mens beslist op basis van biologische plausibiliteit en klinisch inzicht. Deze fase wijst expliciet observatie-geïnduceerde artefacten af (bijv. verschuivingen in post-event codering of surveillance bias) die geen biologische mechanismen weerspiegelen.
Fase 4: Statistische Modelselectie:
- De verfijnde, op bewijs gebaseerde DAG wordt gekoppeld aan passende statistische modellen met behulp van expliciete beslisregels (bijv. Fine-Gray modellen voor concurrerende risico's, causale mediatie-analyse voor mediatoren).
- Het framework beveelt specifieke analytische strategieën aan (bijv. propensity-score balancing, sensitiviteitsanalyses) die in lijn zijn met de verfijnde structuur.
- Governance: Menselijke experts beoordelen modelaannames en interpreteren effectgroottes; de AI biedt gestructureerde aanbevelingen.

De loop sluit door de resultaten en de verfijnde DAG terug te voeren naar de kennisbasis voor toekomstige iteraties, wat transparantie en traceerbaarheid garandeert.

Belangrijkste Bijdragen

Governed Human-AI Collaboration: Het artikel introduceert een framework waarin AI fungeert als een "checkpoint augmentation" instrument in plaats van een autonome besluitvormer. Het scheidt expliciet exploratieve verfijning (AI-gestuurde patroonontdekking) van bevestigende schatting (door mens beoordeelde causale interpretatie).
Process Mining als Diagnostische Beoordeling: In tegenstelling tot traditionele causale ontdekking, gebruikt deze aanpak process mining niet om causaliteit te bewijzen, maar om vooraf gespecificeerde causale aannames te diagnosticeren en uit te dagen tegen empirische temporele patronen.
Mechanisme voor Artefact-afwijzing: Het framework bevat specifieke "plausibiliteits-gates" (bijv. richtingregels, activiteitstype-regels) om artefacten af te wijzen zoals reverse coding shifts of administratieve feedback loops die causale paden in ruwe data nabootsen.
Open-Source Implementatie: De auteurs hebben een interactieve webtool (HealthProcessAI) en een simulatieomgeving ontwikkeld om de workflow te demonstreren.

Resultaten
Het framework werd geëvalueerd met twee benaderingen:

Tutorial Demonstratie (Synthetische Data): Gebruikmakend van data gekalibreerd aan de SCREAM-cohort (vergelijking tussen Proton Pump Inhibitors versus Histamine-2 Receptor Blockers), slaagde het framework erin:
- Death te identificeren als een kritieke concurrerende-risico-node, die ontbrak in de initiële literatuur-gebaseerde DAG.
- CKD progressie te valideren als een kandidaat-mediator op het PPI-naar-Cardiovasculair Adverse Event pad, terwijl een spurieuze reverse transitie (CVAE $\to$ CKD) werd afgewezen die niet significant verschilde tussen groepen.
- Appropriate statistische modellen (Fine-Gray, mediatie-analyse) aan te bevelen die consistent zijn met de epidemiologische best practices.
Ground Truth Simulatiestudie: Een gecontroleerde simulatie met bekende causale structuren en geïnjecteerde artefacten (een "drug-feedback decoy" en een "reverse coding shift") werd getest over 500 replicaties.
- Ongoverned Arm (Alleen AI): Accepteerde 100% van de geïnjecteerde artefacten, wat de precisie degradeerde.
- Governed Arm (Mens-AI Loop): Wees 100% van de geïnjecteerde artefacten af, terwijl alle hoog-ondersteunde ware transities en de concurrerende-risico-node werden hersteld.
- Estimand Recovery: Het model geselecteerd door het governed framework herstelde de ware cause-specific hazard ratio met verwaarloosbare bias en bijna nominale betrouwbaarheidsinterval-dekking, terwijl ongecorrigeerde of ongecorrigeerde modellen faalden door surveillance bias.

Betekenis en Claims
Het artikel beweert de methodologische discipline in de generatie van real-world evidence te bevorderen door een transparante, reproduceerbare en governed aanpak te bieden voor de integratie van AI in causale inferentie.

Het overbrugt de kloof tussen theoretische causale epidemiologie en empirische ontdekking door DAGs te behandelen als falsifieerbare hypothesen.
Het behoudt de menselijke autoriteit over causale interpretatie, waardoor AI dient als een diagnostisch instrument voor structurele verfijning in plaats van een vervanging voor domeinexpertise.
De reikwijdte van het framework is bescheiden: het claimt niet autonoom causaliteit te ontdekken of ongemeten confounding te elimineren. In plaats daarvan biedt het een systematisch mechanisme om observatie-geïnduceerde artefacten te identificeren en af te wijzen, waardoor de robuustheid van de causale modellen waarop de statistische schatting is gebaseerd, wordt verbeterd.
Door empirische beoordeling in de DAG-constructie in te bedden, beoogt het framework de kloof tussen conceptuele modellen en observationele data te overbruggen, in lijn met de iteratieve wetenschappelijke filosofie van John Snow.

De Detective en de AI: Een Closed-Loop Mysterie

Wat Hebben Ze Gevonden?

Waarom Dit Belangrijk Is

Meer zoals dit