Enhancing Interpretability in Credit Risk Modeling: A Synergistic Approach Integrating SHAP and Counterfactual Explanations

Chaque fois qu'une banque décide d'accorder un prêt, elle s'appuie sur un modèle pour peser l'historique financier d'une personne par rapport au risque de défaut de paiement. Pendant des décennies, ces modèles étaient suffisamment simples pour qu'un humain puisse en suivre la logique : si vous manquiez des paiements, votre score baissait. Mais à mesure que les banques ont commencé à utiliser des systèmes informatiques plus puissants pour déceler des motifs subtils dans de vastes quantités de données, la logique s'est retrouvée cachée à l'intérieur d'une « boîte noire ». Ces systèmes avancés pouvaient prédire le risque avec une grande précision, mais ils ne pouvaient pas expliquer pourquoi ils prenaient une décision spécifique. Cela a créé un problème sérieux. Les lois dans de nombreux endroits exigent désormais que les prêteurs expliquent leurs décisions aux demandeurs, et sans raison claire, un refus de crédit semble arbitraire et injuste. Le défi pour les scientifiques a été de trouver un moyen de conserver la haute précision de ces systèmes complexes tout en ouvrant la boîte noire pour révéler le raisonnement interne.

Deux nouveaux outils ont émergé pour aider à résoudre ce casse-tête. Le premier est une méthode qui agit comme une loupe, montrant exactement quelles informations — telles que le solde d'un compte courant ou la durée d'un prêt — ont poussé le modèle vers une conclusion spécifique. Le second outil ressemble davantage à un simulateur de « et si ». Il demande à l'ordinateur d'imaginer les plus petits changements possibles qu'une personne pourrait apporter à son profil financier pour transformer un rejet en une approbation. Bien que chaque outil soit utile individuellement, les chercheurs de l'Université d'État de l'Arizona se sont demandé si la combinaison de ces deux méthodes créerait une image plus claire. Ils ont entrepris de tester si l'utilisation conjointe de ces deux méthodes pouvait non seulement expliquer pourquoi une décision a été prise, mais aussi fournir une voie pratique et équitable pour la personne qui a été refusée.

Pour tester cette idée, les chercheurs ont utilisé une collection de données bien connue contenant mille véritables demandes de crédit provenant d'Allemagne. Ils ont construit deux types de modèles de prédiction différents pour observer leur comportement. Un modèle utilisait une approche linéaire directe, tandis que l'autre utilisait un système plus complexe qui construit de nombreux arbres de décision pour trouver des motifs. Ils ont ensuite appliqué leur méthode d'explication combinée à ces deux modèles. Les résultats ont montré que le modèle complexe n'était pas réellement plus performant que le modèle simple en termes de précision globale, mais que les deux modèles commettaient des types d'erreurs différents. Le modèle simple était meilleur pour détecter les personnes susceptibles de faire défaut, tandis que le modèle complexe était meilleur pour éviter les fausses alertes. Plus important encore, la méthode d'explication combinée a remarquablement bien fonctionné. En utilisant l'outil de la « loupe » pour identifier d'abord les facteurs les plus importants, les chercheurs ont pu guider le simulateur du « et si » pour trouver les meilleures solutions beaucoup plus rapidement.

L'étude a montré que cette approche combinée rendait les explications nettement plus efficaces. Lorsque les chercheurs demandaient à l'ordinateur de trouver les changements minimaux nécessaires pour transformer un rejet en une approbation, l'ancienne méthode exigeait qu'un demandeur imagine changer environ trois choses à la fois. Avec la nouvelle méthode guidée, le demandeur n'avait besoin d'imaginer changer qu'environ deux choses. Cette réduction de la complexité rend les conseils beaucoup plus faciles à comprendre et à mettre en œuvre pour un être humain. Le système a généré des suggestions valides avec un succès de cent pour cent, prouvant qu'il pouvait trouver de manière fiable un chemin vers un résultat différent sans enfreindre les règles du modèle.

Au-delà de la simple clarification du processus, les chercheurs ont utilisé ce cadre pour rechercher l'injustice. Ils ont découvert que les modèles traitaient les différents groupes de personnes différemment, même lorsque les demandeurs avaient des profils financiers similaires. Par exemple, les hommes célibataires étaient signalés comme présentant un risque élevé plus souvent que les hommes mariés ou veufs, même lorsque leurs situations financières étaient comparables. L'analyse a montré que le modèle était plus strict avec les hommes célibataires, exigeant d'eux des améliorations financières plus importantes pour être approuvés. En utilisant les outils combinés, les chercheurs ont pu localiser précisément où ce biais se produisait. Ils ont vu que l'absence de compte courant pénalisait davantage le score des hommes célibataires que celui des hommes mariés, suggérant que le modèle avait appris un biais caché à partir des données historiques sur lesquelles il avait été entraîné.

Les chercheurs ont également constaté que les facteurs les plus puissants dans ces décisions n'étaient pas des détails démographiques comme l'âge ou le genre, mais des réalités financières concrètes. Le statut d'un compte courant et l'historique de remboursement de crédit étaient les forces dominantes dictant les décisions. C'est un résultat rassurant, car cela suggère que les modèles se concentrent sur la capacité réelle de remboursement plutôt que sur des caractéristiques personnelles non pertinentes. Cependant, l'étude a également souligné que même lorsque les facteurs principaux sont équitables, la manière dont le modèle les pondère peut tout de même créer des résultats inégaux pour différents groupes. La méthode d'explication combinée a été capable d'exposer ces inégalités subtiles, montrant exactement quel effort supplémentaire un groupe devait fournir par rapport à un autre pour obtenir le même résultat.

En fin de compte, ce travail suggère que nous n'avons pas à choisir entre un modèle intelligent et un modèle juste et compréhensible. En tissant ensemble la capacité d'expliquer le passé et la capacité de suggérer un avenir meilleur, les institutions financières peuvent construire des systèmes qui sont à la fois précis et transparents. L'étude démontre que lorsque nous guidons la recherche de solutions en utilisant les facteurs les plus importants, nous pouvons donner aux demandeurs des conseils clairs et exploitables qui respectent leurs circonstances spécifiques. Cette approche va au-delà du simple fait de dire à une personne qu'elle a été refusée ; elle offre une feuille de route concrète et équitable pour la manière dont elle pourrait améliorer sa situation, garantissant que la technologie qui sert nos vies financières reste responsable envers les personnes qu'elle affecte.