"Cause" is Mechanistic Narrative within Scientific Domains: An Ordinary Language Philosophical Critique of "Causal Machine Learning"
Cet article critique le postulat de l'« apprentissage automatique causal » en appliquant la philosophie du langage ordinaire pour soutenir que la causalité véritable est fondamentalement mécaniste, affirmant que les affirmations causales définitives ne sont valides que dans des domaines dotés de modèles mécanistes complets (comme la physique) et nécessitent une accumulation de preuves à travers diverses disciplines pour les systèmes complexes (comme la biologie et les sciences sociales), exhortant ainsi à une plus grande prudence face à la surestimation de la certitude causale dans la recherche scientifique.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le Grand Jeu du Détective : Pourquoi la « Cause » n'est pas une chose unique
Imaginez que vous êtes un détective essayant de résoudre un mystère. Dans le monde de la science et de l'informatique, il existe actuellement une tendance majeure appelée « Apprentissage Automatique Causal » (Causal Machine Learning). C'est comme donner une loupe à un ordinateur super intelligent et lui demander de trouver la vraie raison pour laquelle les choses arrivent, plutôt que de simplement remarquer que deux choses se produisent souvent en même temps. Par exemple, le fait que les ventes de crème glacée et les attaques de requins augmentent toutes deux en juillet ne signifie pas que la crème glacée cause les attaques de requins ; elles sont toutes deux causées par la chaleur estivale. Trouver cette « vraie raison » est le Graal de la science car cela nous aide à résoudre des problèmes, à guérir des maladies et à construire de meilleures technologies.
Mais voici la partie délicate : que signifie réellement « cause » ? Dans un laboratoire de physique, la « cause » est comme une bille qui en frappe une autre ; c'est une poussée mathématique précise. Dans un hôpital, la « cause » peut être une chaîne complexe d'événements impliquant vos gènes, votre régime alimentaire et votre environnement. Dans une ville, la « cause » peut être une histoire sur la façon dont une nouvelle loi a changé le comportement des gens. Le document que nous allons explorer pose une question cruciale : pouvons-nous utiliser les mêmes outils informatiques pour trouver des causes dans tous ces mondes différents ? Les auteurs, une équipe de chercheurs, soutiennent que la réponse est un « non » retentissant. Ils suggèrent que vouloir forcer une formule informatique unique à tout expliquer revient à essayer d'utiliser un marteau pour réparer une montre, peindre un tableau et cuire un gâteau en même temps. Cela peut fonctionner pour le marteau, mais cela cassera la montre et ratera le gâteau.
La grande idée du papier : Une taille ne convient pas à tous
Ce document est une enquête philosophique sur le mot « cause ». Les auteurs utilisent une méthode appelée « philosophie du langage ordinaire », ce qui est essentiellement une façon sophistiquée de dire : « Regardons comment les gens réels utilisent les mots dans la vie réelle ». Ils soutiennent que le mot « cause » change de signification selon la « tribu » de scientifiques à laquelle vous vous adressez.
La Tribu de la Physique : La Machine Parfaite
En physique et en ingénierie, le monde est comme une horloge géante et parfaitement construite. Si vous connaissez les engrenages (les équations) et que vous en poussez un (la cause), vous pouvez calculer exactement où les autres engrenages iront (l'effet). Ici, la « cause » est une force mathématique. Si vous lâchez une pierre, la gravité la tire vers le bas. Les mathématiques décrivent parfaitement toute l'histoire. Dans ce monde, les modèles informatiques qui recherchent des motifs dans les données peuvent réellement trouver la « cause » car le système est fermé et les règles sont connues.
La Tribu de la Biologie : La Jungle Désordonnée
Maintenant, passez à la biologie et à la médecine. Le monde ici ressemble davantage à une jungle sauvage. C'est un « système ouvert », ce qui signifie que les choses interagissent constamment avec le monde extérieur de manières que nous ne pouvons pas totalement mesurer. Un corps humain est si complexe qu'on ne peut pas écrire une seule équation mathématique qui explique chaque cellule, chaque produit chimique et chaque pensée. Les auteurs disent qu'en biologie, on ne peut pas simplement regarder un graphique et dire : « A a causé B ». Au lieu de cela, vous devez construire un « récit ». Vous devez combiner des indices statistiques (comme les données d'un essai clinique) avec une histoire sur comment cela fonctionne (comme la façon dont un médicament bouche les artères). Vous avez besoin de preuves provenant de multiples angles pour en être certain.
La Tribu des Sciences Sociales : Les Conteurs
Enfin, il y a les sciences sociales (comme la psychologie, l'économie ou la sociologie). C'est là que les choses deviennent vraiment complexes. Les humains sont désordonnés, imprévisibles et pleins d'histoires. Les auteurs soutiennent que dans ces domaines, la « cause » est souvent une histoire qui nous aide à nous comprendre. Par exemple, un thérapeute peut aider un patient en racontant une histoire sur la façon dont son passé a façonné son présent. Cette histoire n'est pas une équation mathématique, mais elle est « vraie » d'une manière qui aide la personne à se sentir mieux et à agir différemment. Les auteurs soulignent que les sciences sociales sont actuellement en difficulté car elles tentent d'agir comme la physique, en utilisant des mathématiques strictes pour prouver des choses qui relèvent en réalité de la signification humaine et de l'interprétation.
Le problème de l'« Apprentissage Automatique Causal »
Le document examine de près la nouvelle tendance de l'« Apprentissage Automatique Causal ». Ce sont des programmes informatiques qui tentent de dessiner une carte (un graphe) montrant comment les variables sont connectées. Ils utilisent des règles telles que « si A arrive avant B, et qu'ils sont liés, alors A cause B ».
Les auteurs affirment que cette approche est dangereuse car elle suppose que le monde est une machine parfaite et fermée (comme la physique) alors qu'il est souvent un système ouvert et désordonné (comme la biologie ou la société). Ils soulignent que ces modèles informatiques échouent souvent dans le monde réel car ils ne peuvent pas tenir compte de tous les facteurs cachés (comme votre humeur, votre histoire ou la météo) qui influencent le résultat.
Le document argumente explicitement contre l'idée qu'un ordinateur puisse examiner un ensemble de données et affirmer de manière définitive : « Ceci est la cause ». Ils disent qu'à moins que l'ordinateur ne travaille dans un laboratoire de physique fermé où les règles sont connues, ces modèles ne font que deviner. Ils sont « trop confiants ». Les auteurs préviennent que si nous faisons trop confiance à ces cartes informatiques, nous pourrions prendre de mauvaises décisions en médecine ou en politique parce que l'ordinateur a manqué les parties humaines et désordonnées de l'histoire.
La Solution : Une Équipe de Détectives
Alors, quelle est la réponse ? Les auteurs suggèrent que nous devons être plus humbles. Au lieu de compter sur un seul modèle informatique pour nous dire la vérité, nous devons rassembler des preuves de partout.
Imaginez que vous essayiez de comprendre pourquoi une forêt meurt.
- Le Physicien examine les équations de la chimie du sol.
- Le Biologiste observe les insectes et les arbres.
- Le Sociologue observe comment les populations locales utilisent la terre.
- Le Conteur écoute les anciens sur ce que la forêt signifiait pour eux.
Le document suggère qu'une « cause » n'est réelle que lorsque tous ces points de vue concordent. C'est ce qu'on appelle une « prépondérance de preuves ». Il ne s'agit pas d'une preuve mathématique parfaite, mais d'un chœur de voix différentes racontant la même histoire.
Pour l'avenir, les auteurs suggèrent que nous devrions cesser de vouloir forcer les ordinateurs à être les juges ultimes de la cause et de l'effet. Au lieu de cela, nous devrions utiliser les ordinateurs comme des outils pour nous aider à voir des motifs, mais nous devons toujours vérifier ces motifs par rapport aux histoires du monde réel et aux connaissances des experts. Ils proposent une nouvelle façon de penser appelée « Herméneutique », qui est l'art de l'interprétation. Cela signifie comprendre que parfois, la « vérité » n'est pas un nombre ; c'est une histoire qui fait sens pour les gens.
À retenir
La conclusion principale de ce document est que la « cause » n'est pas une chose unique. Elle change de forme selon que l'on étudie une pierre qui tombe, un cœur qui bat ou un esprit humain. Les auteurs suggèrent que l'enthousiasme actuel pour l'« IA Causale » est un peu un pièat. Il tente d'utiliser un outil simple et rigide pour résoudre des problèmes complexes et désordonnés.
Ils ne disent pas qu'il faut arrêter d'utiliser les ordinateurs. Ils disent plutôt qu'il faut les utiliser avec prudence. Nous devons respecter les différences entre les sciences. En physique, les mathématiques sont reines. En biologie, nous avons besoin d'un mélange de mathématiques et de mécanismes. En sciences sociales, nous avons besoin que les mathématiques, les histoires et la compréhension humaine travaillent ensemble.
Le document se conclut par un appel à la « Vertu Épistémique », ce qui est une façon sophistiquée de dire « honnêteté intellectuelle ». Il demande aux scientifiques et aux développeurs d'IA d'admettre quand ils ne savent pas quelque chose avec certitude. Au lieu de crier : « Nous avons trouvé la cause ! », ils devraient dire : « Voici un motif qui suggère une possibilité, mais examinons l'histoire complète avant de décider. » C'est un rappel que dans un monde complexe, l'outil le plus puissant que nous possédons n'est pas un super-ordinateur, mais la capacité d'écouter différents types d'histoires et de les tisser ensemble en une vérité qui fait sens.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.