Interpretability Methods for Causal Predictions in Biomedical AI: A Systematic Review of Approaches and Evaluation Practices
Cette revue systématique de 47 études d'IA biomédicale révèle que, bien que les méthodes d'interprétabilité telles que SHAP et LIME soient largement utilisées pour expliquer les modèles de prédiction causale, leur évaluation repose massivement sur des métriques basées sur des propriétés et valide rarement la validité causale réelle, soulignant un écart critique entre l'explication du modèle et l'inférence causale.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde de la médecine moderne, l'intelligence artificielle est devenue un outil puissant pour repérer des schémas que l'œil humain pourrait manquer. Ces systèmes informatiques peuvent scanner des milliers d'images médicales ou passer au crible des années de dossiers de patients pour prédire qui pourrait tomber malade ou comment une maladie va progresser. Cependant, il existe une différence cruciale entre savoir que deux choses se produisent ensemble et savoir que l'une cause réellement l'autre. Un ordinateur peut apprendre qu'une marque cutanée spécifique apparaît souvent aux côtés d'une maladie grave, mais cela ne signifie pas que la marque cause la maladie ; il peut s'agir simplement d'un effet secondaire de tout autre chose. Si un médecin se fie à un ordinateur qui ne voit que ces connexions, il pourrait prendre la mauvaise décision en essayant de traiter un patient, car traiter la marque ne guérira pas la maladie. Ce fossé entre le repérage d'un schéma et la compréhension de la véritable cause est le défi central que les chercheurs tentent de résoudre.
Une nouvelle revue systématique d'Albert Schulle, de l'Université technique de Munich, examine la capacité des outils actuels à nous aider à comprendre ces causes. L'étude a examiné des centaines d'articles pour voir si les méthodes utilisées pour expliquer comment l'IA prend ses prédictions sont réellement capables de révéler de véritables causes biologiques. Les chercheurs ont découvert que, bien que les scientifiques soient impatients d'utiliser ces outils d'explication, ils utilisent principalement les mauvais pour cette tâche. Les outils les plus populaires, qui attribuent des scores d'importance à différentes caractéristiques comme l'âge ou la pression artérielle, sont excellents pour montrer ce que l'ordinateur a remarqué, mais ils sont très mauvais pour montrer ce qui a réellement causé le résultat. En fait, la revue a découvert que l'évaluation explicite de la validité causale était rare, n'apparaissant que dans 9 % des études examinées, ce qui signifie que la grande majorité n'a jamais réellement testé si leurs explications disaient la vérité sur la cause et l'effet.
La revue a examiné 47 études publiées entre 2016 et 2025 qui ont tenté d'appliquer ces méthodes d'explication à des problèmes médicaux où la cause et l'effet sont importants, tels que la prédiction de la réponse d'un patient à un médicament spécifique. Les chercheurs ont constaté que la grande majorité de ces études, environ 68 %, reposait sur des méthodes d'attribution de caractéristiques. Ce sont des techniques qui mettent en évidence les variables d'entrée que le modèle informatique a le plus fortement utilisées pour prendre une décision. Les deux outils les plus courants étaient SHAP et LIME, qui agissent comme un projecteur, éclairant les points de données que le modèle a jugés les plus importants. Bien que ces outils soient très bons pour montrer quels chiffres l'ordinateur a regardés, la revue soutient qu'ils sont fondamentalement limités car ils ne décrivent que des associations. Ils peuvent dire à un médecin que l'hypertension artérielle était un facteur clé dans une prédiction de risque, mais ils ne peuvent pas dire au médecin si abaisser la pression artérielle empêchera réellement l'accident cardiaque.
L'étude a également examiné des méthodes plus avancées qui pourraient se rapprocher de la vérité. Environ 15 % des études ont utilisé des explications contrefactuelles, qui imaginent ce qui se serait passé si un patient avait fait quelque chose de différent, comme prendre un médicament différent. Celles-ci sont conceptuellement plus proches de la façon dont les médecins pensent la cause et l'effet, mais elles n'ont été utilisées que dans une petite fraction de la recherche. Plus rares encore étaient les méthodes basées sur des concepts, qui tentent d'expliquer les décisions à l'aide d'idées compréhensibles par l'humain comme la « taille de la tumeur » plutôt que par des points de données bruts, n'apparaissant que dans 6 % des études. La revue a constaté que le domaine est fortement biaisé vers les outils plus simples qui expliquent les associations, créant un risque que les médecins confondent une corrélation avec une cause.
La découverte la plus frappante concerne la manière dont ces explications sont testées. Lorsque les chercheurs construisent un modèle et l'expliquent, ils doivent vérifier si l'explication est bonne. La revue a constaté que 72 % des études vérifiaient la fidélité, ce qui signifie simplement vérifier si l'explication correspond à ce que le modèle informatique a réellement fait. Un autre 43 % vérifiait la stabilité, s'assurant que l'explication ne changeait pas de manière aléatoire à chaque exécution du modèle. Ce sont des contrôles techniques importants, mais ils ne répondent pas à la question la plus importante : l'explication est-elle juste concernant la cause ? La revue a découvert que seulement 9 % des études ont un jour tenté de valider si l'explication reflétait une véritable relation causale. Dans les rares cas où les chercheurs ont tenté de vérifier la causalité, ils se sont principalement appuyés sur le fait de demander à des experts humains si l'explication « semblait » plausible, plutôt que d'utiliser des tests rigoureux pour la prouver.
Ce fossé entre ce que les outils font et ce dont le domaine a besoin est significatif. L'auteur souligne que l'utilisation d'un outil conçu pour expliquer des associations afin de résoudre un problème causal revient à utiliser une carte des modèles de trafic pour planifier un itinéraire de randonnée ; la carte peut montrer où vont les voitures, mais elle ne vous dira pas quel chemin est sûr pour marcher. La revue suggère que l'approche actuelle est méthodologiquement fragmentée, les chercheurs appliquant des outils d'explication puissants à des modèles qui n'ont jamais été conçus pour comprendre la cause et l'effet. L'article conclut que pour que l'intelligence artificielle soit véritablement digne de confiance en médecine, le domaine doit dépasser le simple fait de vérifier si une explication semble cohérente. Il doit développer de nouvelles façons de tester si une explication est réellement correcte concernant la biologie sous-jacente, en utilisant de meilleurs critères de référence et des hypothèses plus claires sur le fonctionnement des maladies. D'ici là, la promesse d'une IA capable d'expliquer véritablement pourquoi un patient est malade reste hors de portée.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.