SHAP and LIME Explainability in Financial Machine Learning: A Systematic Review of Methods, Evaluation Gaps, and Barriers to Deployment
Cette revue systématique de 297 études révèle que, bien que SHAP et LIME soient largement adoptés pour l'explicabilité dans l'apprentissage automatique financier — particulièrement pour la modélisation du crédit —, ils souffrent d'un manque critique d'évaluation formelle, avec seulement 9,1 % des articles évaluant la qualité de l'explication, ce qui souligne un besoin urgent de normes de validation et de déploiement plus strictes pour assurer la conformité réglementaire et la confiance.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde financier moderne, les banques, les assureurs et les sociétés de trading s'appuient lourdement sur des programmes informatiques complexes pour prendre des décisions à enjeux élevés. Ces programmes, souvent appelés modèles d'apprentissage automatique (machine learning), peuvent prédire si une personne remboursera un prêt, signaler une transaction frauduleuse ou déterminer le prix d'une police d'assurance. Bien que ces outils soient incroyablement puissants, ils fonctionnent souvent comme des « boîtes noires ». Cela signifie que même les personnes qui les ont conçus ne peuvent pas facilement voir comment l'ordinateur est parvenu à une réponse spécifique. Lorsqu'un prêt est refusé ou qu'un compte est gelé, le client, l'auditeur et le régulateur ont besoin de savoir pourquoi. Pour résoudre ce problème, des chercheurs ont développé un domaine appelé l'IA explicable (Explainable AI). Ce sont des outils conçus pour faire la lumière sur la boîte noire, traduisant les mathématiques complexes de l'ordinateur en raisons compréhensibles par l'humain. Deux des outils les plus populaires pour cette tâche sont connus sous les noms de SHAP et LIME. Ils agissent comme des traducteurs, prenant une prédiction terminée et travaillant à rebours pour montrer quels facteurs, tels que le revenu ou l'historique des dépenses, ont été les plus déterminants. Cependant, le fait qu'un outil puisse produire une explication ne signifie pas que cette explication est correcte, stable ou assez fiable pour être utilisée dans une véritable salle d'audience ou une agence bancaire.
Une équipe de chercheurs de l'Université de Boston, de l'Université de Californie à Irvine, de l'Université de Sharda et de l'Institut indien de technologie de Kanpur a décidé d'étudier précisément la manière dont ces outils sont utilisés dans le monde réel de la finance. Ils ne se sont pas contentés d'examiner de nouvelles idées ; ils ont mené une revue systématique massive de près de 300 études scientifiques publiées entre 2016 et 2026. Leur objectif était d'auditer les preuves. Ils voulaient voir si les chercheurs se contentaient de montrer de jolies images de la façon dont un modèle fonctionne, ou s'ils prouvaient réellement que ces images étaient précises et fiables. L'équipe a suivi un protocole strict, parcourant des milliers de dossiers académiques pour ne trouver que les études où SHAP ou LIME étaient véritablement appliqués à des données financières, telles que le score de crédit ou la détection de fraude. Ils ont ensuite examiné chaque détail : quel type de problème financier était résolu, quel type de modèle informatique était expliqué et, surtout, si les chercheurs avaient testé la qualité de leurs explications.
Les résultats de cette revue révèlent un écart important entre la rapidité avec laquelle ces outils sont adoptés et la rigueur avec laquelle ils sont testés. Les chercheurs ont constaté que le domaine a progressé très rapidement. La grande majorité des études analysées, soit environ 74 %, se concentraient sur des décisions simples de type oui-ou-non, comme l'approbation d'un prêt ou la détection d'une fraude. Dans ces études, l'outil connu sous le nom de SHAP était le favori incontesté, apparaissant dans près de 94 % de tous les articles. Cette popularité s'explique largement par le fait que SHAP fonctionne très bien avec le type spécifique de modèles informatiques que les banques utilisent le plus souvent. Le second outil, LIME, était utilisé beaucoup moins fréquemment et n'apparaissait généralement que comme une note secondaire à SHAP, plutôt que comme une méthode primaire. Si les chercheurs ont constaté que presque toutes les études rendaient compte de la performance de leur modèle informatique pour prédire le résultat, l'histoire changeait complètement lorsqu'ils examinaient les explications elles-mêmes.
La découverte la plus frappante fut que presque personne ne vérifiait réellement si ses explications étaient bonnes. Sur les 297 études examinées, seules 21, soit environ 7 %, ont procédé à un test formel pour voir si l'explication correspondait au comportement réel du modèle. Six autres études ont offert des preuves limitées, mais l'immense majorité se contentait de générer une explication et supposait qu'elle était correcte. Les chercheurs ont noté que c'est un oubli dangereux. En finance, une explication n'est pas seulement un support visuel ; c'est une partie critique du processus de prise de décision. Si une banque dit à un client qu'on lui a refusé un prêt en raison de son historique de crédit, mais que l'explication est en réalité erronée ou instable, cela crée des risques juridiques et éthiques. La revue a révélé que les chercheurs traitaient souvent l'acte de générer une explication comme étant la même chose que de la valider, mais les preuves montrent que ce sont deux choses très différentes.
L'étude a également examiné les obstacles qui empêchent ces outils d'être utilisés en toute sécurité dans les systèmes du monde réel. Les chercheurs ont découvert que 72 % des études mentionnaient des barrières techniques ou liées aux données. Le problème le plus souvent cité était le « déséquilibre des classes » (class imbalance), une situation où l'événement prédit, comme un défaut de paiement ou un cas de fraude, survient très rarement par rapport aux cas normaux. Cette rareté rend difficile la production de réponses cohérentes par les outils d'explication. D'autres barrières incluaient le besoin de résultats rapides, les préoccupations relatives à la confidentialité et le fait que les données financières changent au fil du temps. Cependant, la revue a mis en évidence un décalage : bien que les chercheurs citent fréquemment ces barrières comme des problèmes, ils testaient rarement comment ces problèmes nuisaient réellement à la qualité des explications. Ils nommaient les obstacles, mais ne mesuraient pas les dommages.
Lorsque les chercheurs ont examiné la manière dont les scientifiques tentaient de construire la confiance dans leurs résultats, ils ont constaté que la plupart reposaient sur des méthodes faibles. Environ 36 % des études mentionnaient une forme de validation, mais l'approche la plus courante consistait simplement à comparer les résultats de SHAP avec ceux de LIME. Si les deux outils étaient d'accord, les chercheurs supposaient souvent que l'explication était correcte. La revue soutient que cela ne constitue pas une preuve suffisante, car les deux outils pourraient se tromper de la même manière. Des méthodes plus robustes, comme tester la tenue de l'explication lorsque les données changent légèrement, ou demander à des experts humains de juger les résultats, n'étaient utilisées que dans une infime fraction des études. Les auteurs ont conclu que le domaine a maîtrisé l'art de produire des explications, mais a largement échoué à prouver que ces explications sont dignes de confiance. Ils proposent une nouvelle norme pour la recherche future, exhortant les scientifiques à ne plus traiter la génération d'une explication comme l'étape finale. Au lieu de cela, ils doivent traiter l'explication elle-même comme un produit qui nécessite des tests rigoureux, tout comme le modèle financier qu'elle décrit, avant d'être jamais utilisée pour prendre des décisions qui affectent la vie des gens.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.