🤖 machine learning

GoT-CD: Graph-of-Thoughts Causal Discovery and the Fragility of Post-hoc Path-Specific Fairness Audits

Cet article introduit GoT-CD, un cadre de « Graph-of-Thoughts » qui génère des graphes causaux structurellement compétitifs tout en démontrant que même les méthodes de découverte à haute fidélité peuvent échouer à récupérer des voies spécifiques nécessaires à des audits d'équité path-spécifiques post-hoc précis, soulignant ainsi le besoin critique d'évaluer la découverte causale sous l'angle des exigences d'équité en aval.

Auteurs originaux : Nitish Nagesh, Elahe Khatibi, Thomas Dean Hughes, Mahdi Bagheri, Pratik Gajane, Amir M. Rahmani

Publié 2026-08-05

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Nitish Nagesh, Elahe Khatibi, Thomas Dean Hughes, Mahdi Bagheri, Pratik Gajane, Amir M. Rahmani

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un détective tentant de résoudre un mystère en utilisant uniquement une photo floue et en noir et blanc d'une scène de crime. Vous ne voyez pas clairement les suspects, mais vous devez déterminer qui a fait quoi et à qui. Dans le monde de la science des données, cela s'appelle la découverte causale. Au lieu de mener une expérience contrôlée où vous pourriez observer chaque mouvement, les scientifiques examinent des « données observationnelles » — comme un tas de dossiers médicaux ou des registres de trafic — et tentent de tracer une carte montrant quels facteurs en causent d'autres. Par exemple, est-ce que manger trop de sucre cause un mal de tête, ou est-ce qu'ils arrivent simplement en même temps ?

Une fois que vous avez cette carte, vous pourriez vouloir vérifier si elle est équitable. C'est là qu'intervient la équité spécifique aux chemins (path-specific fairness). Imaginez un algorithme de recrutement qui rejette des candidats. Vous voulez savoir : l'a-t-il rejeté à cause de leurs compétences (une raison légitime), ou à cause de leur genre ou de leur origine (une raison injuste) ? Pour répondre à cela, vous devez tracer le « chemin » spécifique sur votre carte, de l'identité de la personne jusqu'à la décision finale. Si la carte est fausse, votre vérification de l'équité est inutile. Vous pourriez penser que l'algorithme est équitable alors qu'il est en réalité biaisé, ou vice versa. C'est ce recoin complexe de la science que cet article explore : comment construire la meilleure carte possible, et comment s'assurer que cette carte ne nous trompe pas lorsque nous essayons de vérifier l'équité ?

L'article : GoT-CD et le piège du « faux certificat de propreté »

Les auteurs de cet article, Nitish Nagesh et son équipe, s'attaquent à un problème qui semble simple mais qui est en réalité un piège. Ils ont remarqué que lorsque les scientifiques utilisent l'Intelligence Artificielle (spécifiquement les modèles de langage étendus, ou LLM) pour dessiner ces cartes causales, ils se contentent généralement de vérifier si la carte semble « structurellement correcte ». C'est comme noter le dessin d'une maison par un élève en comptant combien de fenêtres et de portes sont aux bons endroits. Mais que se passe-t-il si l'élève a dessiné une maison parfaite, mais a oublié de dessiner la porte d'entrée ? Si vous essayez de vérifier si la maison est accessible pour une personne en fauteuil roulant, cette porte manquante est un désastre, même si le reste du dessin est parfait.

L'article présente une nouvelle méthode appelée GoT-CD (Graph-of-Thoughts Causal Discovery). Pour comprendre son fonctionnement, imaginez une équipe de trois détectives travaillant sur la même affaire, mais au lieu de débattre entre eux, chacun écrit sa propre théorie du crime sur une feuille de papier en même temps.

L'ancienne méthode (Pairwise ou Traversal) : Les anciennes méthodes d'IA étaient comme des détectives qui n'examinaient que deux indices à la fois (« Est-ce que A cause B ? ») ou qui construisaient l'histoire étape par étape, s'engageant immédiatement dans chaque hypothèse. S'ils commettaient une erreur au début, toute l'histoire était gâchée, et ils ne pouvaient pas revenir en arrière.
La méthode GoT-CD : Cette méthode génère plusieurs cartes complètes simultanément. Ensuite, un « arbitre » strict (une fonction de notation déterministe) les examine. Les meilleures parties des meilleures cartes sont fusionnées, mais avec une règle cruciale : vous ne pouvez pas inventer une nouvelle connexion qu'aucun détective n'a proposée. Cela empêche l'IA d'inventer des relations fictives simplement parce qu'elles semblent plausibles. Enfin, l'équipe s'assure que la carte ne comporte pas de boucles (on ne peut pas avoir A qui cause B, qui cause C, qui cause A), la transformant en une carte routière propre à sens unique appelée DAG (Directed Acyclic Graph ou Graphe Orienté Acyclique).

L'équipe a testé cette nouvelle méthode contre les algorithmes mathématiques classiques et d'autres méthodes d'IA en utilisant cinq ensembles de données différents, dont un sur la maladie d'Alzheimer. Ils ont utilisé une quantité fixe de données (100 observations) et un modèle d'IA spécifique (gpt-4o-mini) pour maintenir un terrain de jeu équitable.

La grande découverte : Le certificat de « fausse propreté »
La découverte la plus surprenante n'est pas seulement que GoT-CD dessine de meilleures cartes ; c'est ce qui se passe lorsque vous utilisez ces cartes pour vérifier l'équité. Les chercheurs se sont concentrés sur un ensemble de données sur la maladie d'Alzheimer où ils savaient avec certitude qu'il existait un chemin injuste : Sexe → Volume cérébral → Score MOCA (un test cognitif). Ils savaient que le genre influençait le volume cérébral, qui à son tour influençait le score au test.

Voici le retournement de situation :

L'une des anciennes méthodes d'IA (LLM-BFS) a dessiné une carte qui semblait plutôt bonne dans l'ensemble. Elle obtenait un score structurel (F1) de 0,649, ce qui est correct.
Cependant, lorsqu'ils ont vérifié cette carte pour le chemin injuste, celui-ci était totalement absent. La carte ne montrait aucune connexion entre le sexe et le score au test.
Parce que le chemin était manquant, l'audit d'équité a rapporté un résultat de 0. Cela ressemblait à un certificat de « propreté », disant : « Aucune injustice détectée ! ».
Mais c'était un mensonge. La véritable injustice était énorme (une valeur de 0,572). L'IA n'a pas trouvé le biais parce qu'elle avait oublié de dessiner la route où résidait le biais. Ce n'était pas que le système était équitable ; c'est que la carte était brisée.

En revanche, GoT-CD a dessiné une carte qui non seulement avait le meilleur score structurel (0,757), mais qui a également réussi à trouver ce chemin injuste spécifique. Elle a rapporté la direction correcte de l'effet, montrant que le biais était bel et bien présent.

Une autre méthode, appelée GES, a trouvé le chemin mais a ajouté tellement de chemins fictifs supplémentaires qu'elle a fait paraître l'injustice sept fois plus grande qu'elle ne l'était réellement (une valeur de 4,034 au lieu de 0,572).

Ce que cela signifie pour vous

L'article suggère que nous ne pouvons pas nous contenter de faire confiance à un « bon score » sur une carte pour nous dire si un système est équitable. Si la carte manque la route spécifique qui mène à un résultat biaisé, la vérification de l'équité vous affirera avec assurance que tout va bien, même quand ce n'est pas le cas. C'est ce que les auteurs appellent un « faux certificat de propreté ».

Ils soutiennent que si vous utilisez l'IA pour construire ces cartes pour des décisions médicales ou du recrutement, vous ne devez pas seulement regarder la précision globale. Vous devez vérifier spécifiquement : « La carte a-t-elle trouvé le chemin qui nous importe ? »

L'étude suggère que GoT-CD est un candidat sérieux car elle utilise une approche de « équipe de penseurs » pour construire la carte, garantissant qu'elle ne manque pas de connexions critiques ou n'en invente pas de fausses. Bien que les résultats soient basés sur des simulations et des ensembles de données spécifiques (comme l'exemple d'Alzheimer), la leçon est claire : dans la course à la construction d'une IA équitable, une jolie carte ne suffit pas ; vous avez besoin des bonnes routes dessinées dessus, sinon vous pourriez accidentellement certifier un système biaisé comme étant équitable.

Résumé Technique : GoT-CD et la fragilité des audits d'équité par spécification de chemin post-hoc

1. Énoncé du problème

La découverte causale est de plus en plus utilisée dans les contextes cliniques pour soutenir le raisonnement mécaniste et les audits d'équité des modèles prédictifs. Cependant, un écart critique existe entre la précision de la découverte structurelle et la fiabilité des évaluations d'équité en aval. Les estimands d'équité contrefactuelle spécifique au chemin sont définis par rapport à un graphe causal fourni ; ils dépendent entièrement de l'existence et de la structure des chemins dirigés allant d'un attribut protégé ( $S$ ) vers un résultat ( $Y$ ).

Les pratiques d'évaluation actuelles pour la découverte causale reposent sur des métriques structurelles agrégées (ex. : précision, rappel, F1, distance de Hamming structurelle) qui pondèrent tous les arcs de manière égale. Ces métriques ne parviennent pas à déterminer si la sous-structure spécifique requise pour un audit d'équité (le chemin $S \to Y$ ) survit au processus de découverte. Par conséquent, une méthode de découverte peut obtenir des scores F1 structurels compétitifs tout en échouant à récupérer le chemin d'iniquité critique. Lorsqu'un tel chemin est manquant, l'audit d'équité rapporte un effet nul avec assurance ( $PSE|_{\cdot}| = 0$ ), ce qui est indiscernable, dans le résultat, d'un modèle réellement équitable. Cela crée un certificat de « fausse propreté » où l'omission structurelle se fait passer pour de l'équité.

2. Méthodologie : GoT-CD

Les auteurs introduisent GoT-CD (Graph-of-Thoughts Causal Discovery), une méthode qui reformule la découverte causale comme un problème de raisonnement sur un graphe complet plutôt que comme une séquence de requêtes locales. Contrairement aux approches par paires (qui interrogent des paires de variables) ou aux approches de parcours (qui étendent les nœuds séquentiellement), GoT-CD traite l'unité de raisonnement comme un ensemble complet d'arcs candidats.

Le pipeline GoT-CD exécute un passage unique d'un Graphe d'Opérations :

Générer : Le LLM est sollicité avec des noms de variables, des descriptions et un préambule de domaine pour générer $k$ graphes candidats distincts (ensembles d'arcs) en parallèle.
Scorer : Une fonction de validité déterministe, non issue d'un LLM, évalue les candidats. Elle pénalise les variables non déclarées et les auto-boucles, récompense les arcs bien formés, applique un a priori de densité douce et ajoute un bonus pour l'acyclicité.
KeepBestN : Les $N$ meilleurs candidats (typiquement $N=2$ ) sont conservés.
Agrégation : Les candidats conservés sont fusionnés sous une contrainte d'union stricte. Le modèle a pour instruction de n'émettre que les arcs qui sont apparus dans au moins un candidat d'entrée. Cela empêche le modèle de synthétiser des arcs « plausibles en apparence » qu'aucune branche de raisonnement n'a proposé.
Améliorer : Le graphe fusionné est affiné. Le modèle ne peut introduire de nouveaux arcs que s'ils ne créent pas de cycles avec le noyau déjà accepté.
Projection gourmande : Une étape déterministe finale impose l'acyclicité en parcourant les arcs et en ne conservant que ceux qui ne forment pas de cycle dirigé avec les arcs précédemment conservés. Cela garantit que la sortie est toujours un DAG (graphe orienté acyclique).

La méthode utilise un protocole verrouillé avec $n=100$ observations et le moteur gpt-4o-mini.

3. Contributions clés

Le papier présente trois contributions principales :

Algorithme GoT-CD : Une méthode de découverte causale où l'unité de raisonnement est un ensemble complet d'arcs candidats, utilisant la génération parallèle, le scoring déterministe et une contrainte d'union stricte pour empêcher l'invention d'arcs tout en imposant l'acyclicité.
Benchmarking exhaustif : Une comparaison de GoT-CD contre quatre bases classiques (PC, GES, NOTEARS, DAGMA-linear) et trois bases LLM (Pairwise, LLM-BFS, GoT-CD-BFS) à travers cinq benchmarks (Asia, Child, Alzheimer's, COVID-Respiratory, Sweden-Traffic).
Audit d'équité spécifique au chemin post-hoc : Un cadre d'évaluation appliqué au benchmark Alzheimer's (où le chemin d'iniquité de vérité terrain est $Sex \to Brain Volume \to MOCA Score$ ) pour noter les méthodes non seulement sur le F1 structurel, mais sur la récupération verbatim du chemin spécifique $S \to Y$ .

4. Résultats

Sous un protocole verrouillé $n=100$ :

Performance structurelle : GoT-CD produit des DAG valides sur les cinq benchmarks. Il obtient le meilleur F1 de validité DAG parmi les méthodes LLM sur Asia (0.750), Alzheimer's (0.757) et COVID-Respiratory (0.688), surpassant LLM-BFS sur quatre des cinq jeux de données. Il rivalise favorablement avec les méthodes classiques, bien que les méthodes de relaxation continue (NOTEARS, DAGMA) dominent sur le jeu de données linéaire-gaussien Sweden-Traffic.
Validité du DAG : Contrairement à PC (cyclique sur tous les jeux de données) et GES (cyclique sur quatre), GoT-CD (et GoT-CD-BFS) renvoie systématiquement des DAG, évitant ainsi le besoin de bris de cycles heuristique avant l'analyse d'équité.
Fidélité de l'équité (Benchmark Alzheimer's) :
- GoT-CD : Récupère le chemin d'iniquité de vérité terrain avec le signe de l'effet correct ( $TE_{lin} = -0.580$ contre $-0.572$ pour le benchmark) et arrive en tête du F1 structurel.
- LLM-BFS : Malgré un F1 structurel compétitif (0.649), il échoue à récupérer tout chemin $S \to Y$ . Par conséquent, il rapporte $PSE|_{\cdot}| = 0$ , produisant un certificat d'équité faussement propre.
- GES : Récupère le chemin d'iniquité mais gonfle la masse totale du chemin de plus de sept fois ( $PSE|_{\cdot}| = 4.034$ ) en raison de huit routes spécieuses additionnelles.
- Autres méthodes : PC, NOTEARS, DAGMA-linear et GoT-CD-BFS échouent tous à récupérer le chemin $S \to Y$ , rapportant des effets nuls.

5. Signification et affirmations

Le papier soutient que la fidélité structurelle n'implique pas la fidélité de l'équité. Une méthode peut être structurellement précise (F1 élevé) tout en échouant à récupérer les arcs spécifiques requis pour un audit d'équité, menant à des conclusions d'équité aussi certaines qu'erronées.

Les auteurs affirment que les pipelines reliant la découverte causale à l'équité spécifique au chemin doivent :

Rapporter la récupération du chemin : Parallèlement à l'estimation de l'équité, les pipelines doivent explicitement rapporter si la sous-structure critique $S \to Y$ a été récupérée.
Réévaluer les métriques de découverte : Les méthodes de découverte destinées aux pipelines d'équité devraient être évaluées sur les arcs dont dépend l'analyse en aval, plutôt que uniquement sur l'accord structurel agrégé.
Exploiter le raisonnement global : Les résultats suggèrent que le raisonnement global (GoT) est supérieur au parcours local (BFS) ou aux requêtes par paires pour préserver les structures pertinentes à l'équité, car il évite l'« inondation d'arcs » des méthodes par paires et la « propagation d'erreurs irrévocable » des méthodes de parcours.

Le papier conclut que si les a priori des LLM sont efficaces sur des graphes riches en connaissances et compacts (comme Alzheimer's), ils complètent plutôt qu'ils ne remplacent les méthodes statistiques (qui excellent sur les données linéaires-gaussiennes), et que les travaux futurs devraient explorer des variantes guidées par le score et des objectifs de découverte sensibles à l'équité.