📊 statistics

A Closed-Loop Framework for Knowledge-Based Causal Model Refinement Using Process Mining and Human-AI Governance

Cet article propose un cadre collaboratif humain-IA en boucle fermée qui affine de manière itérative des modèles causaux fondés sur la connaissance (DAG) en intégrant l'exploration de processus de journaux d'événements empiriques à l'adjudication d'experts afin d'améliorer l'exactitude et la transparence de l'inférence causale dans les maladies chroniques complexes.

Auteurs originaux : Eduardo Illueca Fernandez, Kaile Chen, Carlos Fernandez Llatas, Fernando Seoane, Farhad Abtahi

Publié 2026-08-14

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Eduardo Illueca Fernandez, Kaile Chen, Carlos Fernandez Llatas, Fernando Seoane, Farhad Abtahi

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de résoudre un mystère colossal : pourquoi certaines personnes tombent-elles malades de manières spécifiques alors que d'autres non ? Dans le monde de la médecine et de la science, les chercheurs utilisent des cartes spéciales appelées Graphes Acycliques Dirigés (GAD). Considérez ces cartes comme un arbre généalogique des maladies, mais au lieu de montrer qui est apparenté à qui, elles montrent ce qui cause quoi. Si vous tracez une ligne de « Tabagisme » vers « Cancer du poumon », vous affirmez que le tabagisme cause le cancer. Ces cartes sont cruciales car si vous tracez mal les lignes, toute votre enquête est faussée, et vous pourriez attribuer la cause d'une maladie à la mauvaise chose.

Cependant, dessiner ces cartes est délicat. Habituellement, les experts doivent deviner les connexions en se basant sur ce qu'ils ont lu dans les livres ou ce qu'ils ont vu en clinique. Mais le monde réel est désordonné. Les gens tombent malades à des moments différents, certains meurent avant que nous puissions voir l'histoire complète, et parfois les données semblent confuses. C'est comme essayer de comprendre l'intrigue d'un film en ne regardant que des extraits aléatoires et mélangés. La grande question est la suivante : comment pouvons-nous nous assurer que nos cartes de « cause à effet » sont réellement exactes lorsque le monde réel est aussi complexe ? C'est ici qu'une nouvelle équipe de scientifiques a décidé de faire appel à un petit coup de pouce de l'intelligence artificielle, non pas pour remplacer les experts, mais pour agir comme un détective surpuissant.

Le Détective et l'IA : Un Mystère en Boucle Fermée

Rencontrez les chercheurs de l'Institut Karolinska et leurs collègues. Ils ont construit un cadre en boucle fermée, ce qui est une façon sophistiquée de dire qu'ils ont créé un système de « contrôle et de vérification » pour résoudre les mystères médicaux. Imaginez que vous êtes un détective (l'expert humain) essayant de résoudre une affaire. Vous avez une théorie sur la façon dont le crime s'est produit (votre carte initiale). Habituellement, vous l'écririez simplement et passeriez à autre chose. Mais ce nouveau système ajoute un compagnon robot (l'IA) qui ne se contente pas d'être d'accord avec vous ; il va réellement vérifier la scène du crime pour trouver des preuves.

Voici comment fonctionne leur aventure en quatre étapes :

Étape 1 : La Théorie Initiale (Le pressentiment de l'expert)
D'abord, l'expert humain (ou un assistant IA lisant des livres pour lui) dessine la première version de la carte basée sur ce qu'il sait déjà. Disons qu'il pense : « Le Médicament A cause une Maladie Rénale, qui entraîne ensuite des Problèmes Cardiaques ». C'est son hypothèse de départ. C'est une bonne supposition, mais ce n'est qu'une supposition.

Étape 2 : L'Enquête sur la Scène du Crime (Process Mining)
Ensuite, le système examine une montagne de dossiers de patients réels — comme un journal de bord géant de chaque fois qu'un patient a consulté un médecin, pris un médicament ou passé un test. C'est ce qu'on appelle le Process Mining (exploration de processus). L'IA scanne ces registres pour voir ce qui s'est réellement passé dans l'ordre. Est-ce que le problème rénal est vraiment survenu avant le problème cardiaque ? Ou est-ce qu'ils sont survenus en même temps ? Ou bien le patient est-il décédé avant que le problème cardiaque ne puisse même être enregistré ? L'IA dessine une nouvelle carte basée strictement sur la chronologie des événements qu'elle a trouvés.

Étape 3 : Le Duel (Gouvernance Humain-IA)
C'est la partie la plus importante. Le système met maintenant le « Pressentiment de l'Expert » et la « Carte de la Scène du Crime de l'IA » côte à côte.

S'ils correspondent : Super ! La théorie semble solide.
S'ils ne correspondent pas : L'IA signale les différences. « Hé, votre carte dit que le Médicament A mène à des Problèmes Cardiaques, mais les registres montrent que les Problèmes Cardiaques surviennent souvent avant les problèmes rénaux dans ce groupe. »

Voici le piège : l'IA n'a pas le droit de modifier la carte. Elle dit simplement : « J'ai trouvé un motif étrange. Voulez-vous corriger votre carte ? » L'expert humain décide alors. Il peut dire : « Ah, vous avez raison ! J'ai manqué ce détail », ou « Non, ce motif étrange est juste une erreur dans les données, ignorez-le. » Cela garantit que l'humain reste aux commandes, utilisant l'IA pour repérer les choses qui auraient pu lui échapper.

Étape 4 : Le Verdict Final (Modélisation Statistique)
Une fois la carte affinée et approuvée par l'humain, le système suggère les meilleurs outils mathématiques pour prouver la théorie. Il pourrait dire : « Puisque nous savons maintenant que la mort est un facteur majeur, utilisez ce type spécifique de mathématiques appelé 'modèle de Fine-Gray' pour obtenir la bonne réponse. »

Qu'ont-ils découvert ?

Pour tester si ce système fonctionne réellement, les chercheurs ne se sont pas contentés de deviner ; ils ont lancé une simulation massive. Ils ont créé un monde fictif avec 5 000 patients virtuels et une histoire « vraie » connue sur la façon dont un médicament (les inhibiteurs de la pompe à protons, ou IPP) affecte la santé rénale et cardiaque. Ils ont même planté des « pièges » dans les données — de faux indices qui ressemblaient à de vraies connexions mais qui étaient en fait de simples bugs du système d'enregistrement.

Les résultats ont été impressionnants :

L'IA « non gouvernée » : Lorsqu'ils ont laissé une IA tenter de corriger la carte sans qu'un humain ne la vérifie, l'IA est tombée dans les pièges. Elle a accepté les faux indices comme étant réels, rendant la carte erronée.
La Boucle « gouvernée » : Lorsqu'ils ont utilisé leur nouveau système en boucle fermée (l'IA suggère, l'humain décide), le système a rejeté 100 % des faux pièges. Il a réussi à identifier que les motifs étranges n'étaient que des erreurs d'enregistrement, et non de réelles maladies.
La Vraie Histoire : Le système a correctement identifié que le médicament causait probablement des problèmes rénaux, qui entraînaient ensuite des problèmes cardiaques, et il a correctement signalé que de nombreux patients étaient décédés avant que le problème cardiaque ne puisse être pleinement étudié.

Ils ont également testé cela sur un « tutoriel » utilisant des données synthétiques imitant les dossiers réels de patients d'une étude appelée SCREAM. Le système a réussi à repérer que la « Décès » était un risque concurrent majeur (signifiant que beaucoup de personnes sont décédées avant l'événement cardiaque) et a suggéré les outils mathématiques appropriés pour gérer cela.

Pourquoi est-ce important ?

L'article ne prétend pas avoir résolu tous les mystères médicaux ou avoir trouvé un nouveau remède. Au contraire, il propose une meilleure façon de penser. Il montre que nous pouvons utiliser l'IA pour être un détective infatigable qui scanne des millions de dossiers à la recherche de modèles, mais que nous devons garder un expert humain dans la boucle pour décider si ces modèles font sens.

Les auteurs suggèrent que cette méthode aide à éviter l'erreur courante consistant à faire trop confiance au pressentiment d'un ordinateur. En traitant nos idées initiales comme des « hypothèses testables » plutôt que comme des faits fixes, et en les vérifiant constamment par rapport aux données du monde réel, nous pouvons construire des cartes beaucoup plus fiables de la manière dont les maladies fonctionnent. C'est une façon de s'assurer que lorsque nous disons « A cause B », nous ne sommes pas simplement en train de deviner, et que nous ne sommes pas dupes de données désordonnées. Le système est désormais disponible en tant qu'outil en libre accès (open-source), invitant d'autres scientifiques à essayer cette approche de « détective et de partenaire » sur leurs propres énigmes médicales.

Résumé Technique : Un Cadre en Boucle Fermée pour le Raffinement de Modèles Causaux Fondés sur la Connaissance

Énoncé du Problème
En inférence causale épidémiologique, les graphes acycliques dirigés (DAG) sont essentiels pour encoder les hypothèses concernant les relations causales et guider l'analyse statistique. Cependant, les DAG traditionnels fondés sur la connaissance reposent lourdement sur l'opinion d'experts et la littérature, manquant souvent de validation empirique. Cela génère une incertitude dans les structures causales, particulièrement dans les maladies chroniques complexes caractérisées par des risques concurrents, des dynamiques temporelles et de multiples conditions interactives. Cette incertitude peut biaiser l'estimation des effets, quelle que soit la robustesse de la méthode statistique utilisée. Inversement, si les données du monde réel (RWD) offrent de vastes preuves longitudinales, l'application d'algorithmes de découverte causale automatisés (ex: PC, FCI) échoue souvent en raison de non-respect des hypothèses (fidélité, suffisance causale) et d'un manque d'interprétabilité clinique. De plus, les tentatives récentes d'utiliser les modèles de langage de grande taille (LLM) pour le raisonnement causal soulèvent des inquiétudes concernant les hallucinations et l'incapacité à distinguer les affirmations associatives des affirmations causales. Il est nécessaire d'un cadre qui intègre les motifs de données empiriques avec la connaissance experte sans remplacer l'autorité humaine sur l'interprétation causale.

Méthodologie
Les auteurs proposent un cadre gouverné en boucle fermée qui traite les DAG fondés sur la connaissance comme des hypothèses scientifiques testables, raffinées de manière itérative via une boucle de collaboration humain-IA basée sur le processus mining (exploration de processus). La méthodologie se compose de quatre phases distinctes :

Phase 1 : Construction de l'historique d'événements fondée sur la connaissance :
- Un DAG initial fondé sur la connaissance est généré en utilisant des LLM pour synthétiser la littérature et les contributions d'experts. Cela sert d'hypothèse syntaxique, et non de vérité causale.
- Le DAG guide la construction d'un historique d'événements structuré (séquences d'événements cliniques horodatées, ordonnées longitudinalement au niveau du patient), définissant les populations, les événements et les covariables.
- Gouvernance : Des experts humains définissent les événements cliniquement significatifs et les critères d'inclusion ; l'IA assiste la synthèse de la littérature.
Phase 2 : Découverte fondée sur les données :
- Des algorithmes de processus mining (spécifiquement les graphes de succession directe ou DFG) sont appliqués à l'historique d'événements pour découvrir les modèles de transition temporelle réels.
- Le résultat est un DFG représentant les transitions observées (ex: diagnostic de MRC $\to$ événement cardiovasculaire) annoté par la fréquence et le délai.
- Gnance : Le DFG sert de base empirique, capturant la succession temporelle observée plutôt que la causalité intrinsèque.
Phase 3 : Raffinement du DAG (La boucle Humain-IA) :
- Le DFG empirique est systématiquement comparé au DAG initial fondé sur la connaissance.
- Les divergences (ex: arêtes manquantes, transitions inverses inattendues ou risques concurrents à haute fréquence) déclenchent des propositions de raffinements candidats proposées par l'IA.
- Gouvernance : Un expert humain arbitre chaque proposition. L'IA propose des changements (ajout/suppression d'arêtes/nœuds, restructuration pour les risques concurrents), mais l'humain décide en fonction de la plausibilité biologique et de l'expertise clinique. Cette phase rejette explicitement les artefacts induits par l'observation (ex: décalages de codage post-événement ou biais de surveillance) qui ne reflètent pas de mécanismes biologiques.
Phase 4 : Sélection du modèle statistique :
- Le DAG raffiné, fondé sur les preuves, est associé à des modèles statistiques appropriés en utilisant des règles de décision explicites (ex: modèles de Fine-Gray pour les risques concurrents, analyse de médiation causale pour les médiateurs).
- Le cadre recommande des stratégies analytiques spécifiques (ex: équilibrage par score de propension, analyses de sensibilité) alignées sur la structure raffinée.
- Gouvernance : Les experts humains examinent les hypothèses des modèles et interprètent les tailles d'effet ; l'IA fournit des recommandations structurées.

La boucle se referme en réinjectant les résultats et le DAG raffiné dans la base de connaissances pour les itérations futures, garantissant la transparence et la traçabilité.

Contributions Clés

Collaboration Humain-IA Gouvernée : Le papier introduit un cadre où l'IA agit comme un outil d'« augmentation de point de contrôle » plutôt que comme un décideur autonome. Il sépare explicitement le raffinement exploratoire (découverte de motifs par l'IA) de l'estimation confirmatoire (interprétation causale arbitrée par l'humain).
Le Process Mining comme Évaluation Diagnostique : Contrairement à la découverte causale traditionnelle, cette approche utilise le processus mining non pas pour prouver la causalité, mais pour diagnostiquer et remettre en question les hypothèses causales pré-spécifiées face aux motifs temporels empiriques.
Mécanisme de Rejet d'Artefacts : Le cadre inclut des « portes de plausibilité » spécifiques (ex: règles de directionnalité, règles de type d'activité) pour rejeter les artefacts tels que les décalages de codage inverse ou les boucles de rétroaction administrative qui imitent des voies causales dans les données brutes.
Implémentation Open-Source : Les auteurs ont développé un outil web interactif (HealthProcessAI) et un environnement de simulation pour démontrer le flux de travail.

Résultats
Le cadre a été évalué selon deux approches :

Démonstration Tutorielle (Données Synthétiques) : En utilisant des données calibrées sur la cohorte SCREAM (comparant les inhibiteurs de la pompe à protons vs les bloqueurs des récepteurs H2), le cadre a réussi à :
- Identifier le Décès comme un nœud critique de risque concurrent, manquant dans le DAG initial basé sur la littérature.
- Valider la progression de la MRC comme un candidat médiateur sur la voie PPI $\to$ Événement Cardiovasculaire indésirable, tout en rejetant une transition inverse spécieuse (CVAE $\to$ MRC) qui ne différait pas significativement entre les groupes.
- Recommander des modèles statistiques appropriés (Fine-Gray, analyse de médiation) cohérents avec les meilleures pratiques épidémiologiques.
Étude de Simulation de la Vérité Terrain : Une simulation contrôlée avec des structures causales connues et des artefacts injectés (un « leurre de rétroaction médicamenteuse » et un « décalage de codage inverse ») a été testée sur 500 réplications.
- Bras Non-Gouverné (IA seule) : A accepté 100 % des artefacts injectés, dégradant la précision.
- Bras Gouverné (Boucle Humain-IA) : A rejeté 100 % des artefacts injectés tout en récupérant toutes les transitions réelles à fort support et le nœud de risque concurrent.
- Récupération de l'Estimand : Le modèle sélectionné par le cadre gouverné a récupéré le vrai rapport de risque spécifique à la cause avec un biais négligeable et une couverture d'intervalle de confiance quasi nominale, tandis que les modèles non ajustés ou ajustés ont échoué en raison du biais de surveillance.

Signification et Revendications
Le papier affirme faire progresser la discipline méthodologique dans la génération de preuves du monde réel en fournissant une approche transparente, reproductible et gouvernée pour intégrer l'IA dans l'inférence causale.

Il comble le fossé entre l'épidémiologie causale théorique et la découverte empirique en traitant les DAG comme des hypothèses falsifiables.
Il préserve l'autorité humaine sur l'interprétation causale, garantissant que l'IA serve d'outil de diagnostic pour le raffinement structurel plutôt que de remplacement de l'expertise métier.
Le cadre est modeste dans son champ d'application : il ne prétend pas découvrir la causalité de manière autonome ou éliminer les facteurs de confusion non mesurés. Au contraire, il offre un mécanisme systématique pour identifier et rejeter les artefacts induits par l'observation, améliorant ainsi la robustesse des modèles statistiques sur lesquels repose l'estimation causale.
En intéant l'évaluation empirique dans la construction du DAG, le cadre vise à combler le fossé entre les modèles conceptuels et les données observationnelles, s'alignant sur la philosophie scientifique itérative de John Snow.

Le Détective et l'IA : Un Mystère en Boucle Fermée

Qu'ont-ils découvert ?

Pourquoi est-ce important ?

Résumé Technique : Un Cadre en Boucle Fermée pour le Raffinement de Modèles Causaux Fondés sur la Connaissance

Articles similaires