From Causal Plausibility to Causal Reliability: Evaluating LLMs as Calibrated Direct Causal-Edge Classifiers

La science cherche souvent à comprendre non seulement ce qui se passe, mais aussi pourquoi cela se passe. Lorsque les chercheurs tentent de cartographier les causes derrière un phénomène — qu'il s'agisse d'un virus se propageant dans une population ou d'une machine tombant en panne dans une usine — ils construisent un diagramme de connexions. Dans ce diagramme, une ligne directe d'une chose vers une autre signifie que la première cause immédiatement la seconde. Si un virus entraîne une infection, qui entraîne ensuite un résultat de test positif, le virus cause le résultat du test uniquement de manière indirecte, par l'intermédiaire de l'infection. Déterminer quelles lignes sont directes et lesquelles sont indirectes est un puzzle difficile connu sous le nom de découverte causale. Pendant des décennies, les scientifiques se sont appuyés sur des outils mathématiques complexes et de vastes ensembles d'observations pour résoudre ce puzzle, mais ces outils peinent parfois lorsque les données sont rares ou lorsque différents schémas semblent identiques.

Ces dernières années, un nouvel outil de type a émergé : les grands modèles de langage. Ce sont des systèmes informatiques entraînés sur de vastes quantités de texte qui peuvent répondre à des questions, écrire des histoires et raisonner sur des problèmes. Parce qu'ils ont beaucoup lu, ils semblent détenir un puits de connaissances profond sur le fonctionnement du monde, y compris sur la manière dont les choses se causent les unes les autres. Les chercheurs ont commencé à se demander si ces systèmes pouvaient agir comme des guides experts, nous indiquant quelles connexions dans un diagramme sont réelles et directes. L'espoir était que ces modèles puissent offrir un raccourci, proposant des jugements fiables sur la cause et l'effet sans avoir besoin de mener des expériences coûteuses. Cependant, une nouvelle étude suggère que, bien que ces modèles soient doués pour sentir que deux choses sont liées, ils sont souvent terribles pour savoir exactement comment elles sont connectées, et ils sont fréquemment bien trop confiants lorsqu'ils se trompent.

Une équipe de chercheurs s'est donné pour mission de tester cette fiabilité en traitant les grands modèles de langage comme des juges de relations de cause à effet directes. Ils ont rassemblé douze versions différentes de ces modèles, allant de systèmes plus petits et plus efficaces à des systèmes massifs et puissants. Ils ont ensuite présenté à ces modèles six scénarios réels différents, chacun représenté par une carte connue de causes et d'effets. Ces scénarios couvraient divers domaines, de conditions médicales comme l'hépatite et la COVID-19 aux processus industriels et aux systèmes écologiques. Pour chaque paire de variables dans ces cartes, les chercheurs ont posé aux modèles une question simple : Le premier élément cause-t-il directement le second ? Les modèles devaient répondre par oui ou par non et fournir un score de confiance, un nombre indiquant leur degré de certitude.

Les résultats ont révélé un schéma constant de surenthousiasme. Les modèles avaient tendance à dire « oui » bien trop souvent. Au lieu de dessiner une carte éparse avec seulement les connexions directes nécessaires, les modèles produisaient des réseaux denses où presque tout semblait être directement connecté à tout le reste. Ce comportement était si fort que même lorsque les chercheurs ont essayé différentes manières de poser les questions, les modèles n'ont pas pu être facilement entraînés pour être plus sélectifs. Ils identifiaient correctement que deux choses étaient liées, mais échouaient à distinguer une cause directe d'une cause indirecte. Par exemple, si un virus causait une infection qui causait une fièvre, le modèle affirmerait souvent que le virus causait directement la fièvre, ignorant l'étape intermédiaire. Cette erreur se produisait dans environ 40 % des cas où la relation était indirecte, et dans 36 % des cas où la direction était inversée.

La découverte la plus troublante fut peut-être le manque de conscience de soi des modèles concernant leurs erreurs. Lorsque les modèles commettaient ces erreurs structurelles, ils n'hésitaient pas. Dans plus de 80 % des cas où ils prétendaient à tort qu'un lien direct existait entre des éléments indirectement liés, ils attribuaient un score de confiance d'au moins 80 %. Ils ne faisaient pas que deviner ; ils étaient sûrement dans l'erreur. L'étude a également examiné si les modèles pouvaient être jugés dignes de confiance pour faire la différence entre une bonne intuition et une erreur en se basant sur leurs scores de confiance. Les chercheurs ont constaté que les chiffres de confiance que les modèles s'attribuaient étaient souvent peu fiables. Un modèle pouvait dire qu'il était sûr à 90 %, mais ce nombre ne correspondait pas réellement au fait que la réponse soit correcte ou non. La seule méthode qui montrait une légère amélioration consistait à poser la même question de différentes manières et à voir s'ils étaient d'accord entre eux, mais même cette méthode n'était pas une solution parfaite.

Les chercheurs ont également cherché à savoir si les modèles se contentaient de mémoriser les réponses aux questions de test qu'ils avaient déjà vues auparavant. Ils ont découvert que pour un ensemble de données spécifique impliquant une maladie médicale, plusieurs modèles performaient de manière suspecte, suggérant qu'ils avaient pu voir ces données lors de leur entraînement. Cependant, cette familiarité n'expliquait pas la faible performance sur les cinq autres ensembles de données, où les modèles luttaient toujours avec les mêmes types d'erreurs. Même lorsque les chercheurs forçaient les modèles à choisir entre trois options — cause directe, cause inverse ou absence de lien direct — au lieu de seulement deux, les modèles ne s'amélioraient pas de manière significative. Ils continuaient à prédire des liens directs là où il n'en existait pas, prouvant que le problème n'était pas seulement un défaut dans la manière de poser les questions, mais une limitation fondamentale dans la compréhension de la causalité par ces systèmes.

En fin de compte, l'étude conclut que, bien que les grands modèles de langage soient des outils puissants pour générer des idées, ils ne doivent pas être traités comme des preuves définitives de la façon dont le monde fonctionne. Ils sont mieux perçus comme des sources de suggestions souples, offrant un point de départ qui doit être vérifié et validé par d'autres méthodes. Ils peuvent nous dire que deux choses sont probablement connectées, mais ils ne peuvent pas être dignes de confiance pour tracer les lignes précises d'une carte causale par eux-mêmes. La confiance qu'ils expriment est souvent le reflet de leurs données d'entraînement plutôt qu'une véritable mesure de la vérité. Pour les scientifiques et les ingénieurs qui ont besoin de comprendre les mécanismes précis de la cause et de l'effet, se fier uniquement à ces modèles reviendrait à naviguer dans une ville complexe avec une carte qui relie chaque rue à toutes les autres ; elle pourrait paraître exhaustive, mais elle vous égarerait. La voie à suivre consiste à utiliser ces modèles pour générer des hypothèses qui sont ensuite rigoureusement testées, plutôt que d'accepter leurs jugements confiants comme des réponses finales.