💰 quantitative finance

Could Large Language Models work as Post-hoc Explainability Tools in Credit Risk Models?

Cette étude évalue l'utilisation des grands modèles de langage en tant qu'outils d'explicabilité post-hoc pour les modèles de risque de crédit et conclut que, bien qu'ils puissent reproduire de manière fiable les classements d'importance des variables sous des invites contrôlées, ils sont mieux déployés en tant qu'interfaces narratives plutôt qu'en tant que substituts aux méthodes d'attribution formelles en raison d'un alignement limité dans la génération d'explications autonomes.

Auteurs originaux : Wenxi Geng, Dingyuan Liu, Liya Li, Yiqing Wang

Publié 2026-07-07

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Wenxi Geng, Dingyuan Liu, Liya Li, Yiqing Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un agent de crédit dans une banque. Vous avez un robot informatique super intelligent mais mystérieux (un « modèle d'apprentissage automatique ») qui décide qui obtient un prêt et qui ne l'obtient pas. Ce robot est excellent pour prédire qui remboursera l'argent, mais c'est une « boîte noire ». Il donne simplement un « Oui » ou un « Non », mais il ne parle pas le langage humain. Il se contente de donner une liste de chiffres disant : « Ce facteur a compté pour 5 %, celui-ci pour 3 % ».

Cependant, les régulateurs et les clients ne veulent pas voir une feuille de calcul remplie de chiffres. Ils veulent une histoire : « Nous avons refusé ce prêt parce que le demandeur a trop de dettes et un historique professionnel instable. »

Entrez en scène les Grands Modèles de Langage (LLM). Considérez-les comme les « traducteurs » ou les « conteurs » du monde de l'IA. Ce sont eux qui peuvent prendre ces chiffres ennuyeux et les transformer en un paragraphe convivial et lisible.

Ce document pose une question très spécifique : Pouvons-nous faire confiance à ces conteurs d'IA pour dire la vérité sur les raisons qui ont poussé le robot à prendre sa décision ?

Les chercheurs ont mis en place deux tests différents pour le découvrir, en utilisant des données de prêt réelles de LendingClub.

Test 1 : Le test de la « Dictée » (L'IA peut-elle suivre les ordres ?)

La configuration : Les chercheurs ont donné au conteur d'IA la liste exacte des raisons utilisées par le robot, classées de la plus importante à la moins importante. Ils ont ensuite demandé à l'IA : « Voici la liste des raisons. Veuillez réécrire cette liste sous forme d'histoire, mais veillez à conserver exactement le même ordre. »

Le résultat : Les conteurs d'IA ont été parfaits.
Imaginez un professeur strict remettant à un élève une liste de 24 ingrédients et lui disant : « Écris une recette en utilisant ceux-ci, dans cet ordre précis. » L'IA a fait exactement cela. Elle n'a pas interverti les ingrédients, elle n'en a oublié aucun et elle n'a pas ajouté ses propres idées. Elle a fidèlement traduit la « liste de chiffres » du robot en une « liste de mots » sans en changer le sens.

La leçon à retenir : Si vous donnez les faits à l'IA, elle est excellente pour les formater en une histoire lisible par l'homme. Elle agit comme une secrétaire très fiable.

Test 2 : Le test du « Détective » (L'IA peut-elle comprendre par elle-même ?)

La configuration : Cette fois, les chercheurs n'ont pas donné la liste des raisons à l'IA. Ils ont simplement donné à l'IA les données du demandeur (revenu, score de crédit, etc.) et la décision du robot. Ils ont demandé : « D'après les données de cette personne, quelles sont selon VOUS les principales raisons de cette décision ? »

Le résultat : Les conteurs d'IA ont eu des difficultés.
Imaginez demander à un détective de résoudre un crime sans lui montrer le rapport de police. L'IA a essayé de deviner les raisons en se basant sur ses connaissances générales du monde (comme : « Oh, généralement, une dette élevée est une mauvaise chose »).

Le problème : Le robot (le modèle d'apprentissage automatique) prend des décisions basées sur des schémas complexes et cachés qui diffèrent de la logique humaine générale. Les suppositions de l'IA manquaient souvent la cible.
L'astuce du « Few-Shot » : Les chercheurs ont tenté d'aider l'IA en lui montrant d'abord deux exemples (comme : « Voici comment nous avons expliqué un prêt "Oui", et voici comment nous avons expliqué un prêt "Non" »). Cela a aidé un peu, mais l'IA ne parvenait toujours pas à correspondre parfaitement au raisonnement réel du robot, surtout pour les modèles de robots plus complexes.

La leçon à retenir : Lorsque l'IA essaie de jouer au détective et de découvrir les raisons par elle-même, elle se trompe souvent dans son récit. Elle peut choisir des raisons qui semblent plausibles, mais qui ne sont pas les réelles raisons utilisées par le robot.

Le verdict final : Le « Traducteur » vs le « Détective »

Le document conclut par une règle claire sur la façon d'utiliser ces outils dans le monde bancaire :

N'utilisez PAS l'IA comme un Détective : Vous ne pouvez pas laisser l'IA deviner pourquoi un prêt a été refusé. Si vous le faites, vous risquez de donner à un client une raison qui semble bonne, mais qui est en réalité fausse. C'est dangereux pour la réglementation et la confiance.
Utilisez l'IA comme un Traducteur : Vous pouvez utiliser l'IA pour prendre les raisons officielles, mathématiquement prouvées (calculées par le robot), et les transformer en une lettre agréable et facile à lire pour le client.

La métaphore :
Considérez le Modèle d'Apprentissage Automatique comme un Chef qui cuisine un plat complexe.

Le Traducteur d'IA est un Critique Culinaire qui est excellent pour décrire le plat si le Chef lui donne la recette. Il peut écrire une magnifique description de menu.
Mais si vous demandez au Critique Culinaire de deviner la recette juste en goûtant le plat (sans l'aide du Chef), il risque de se tromper sur les ingrédients.

En bref : Les Grands Modèles de Langage sont excellents pour transformer les mathématiques en mots, mais ils sont très mauvais pour deviner les mathématiques au départ. Dans le domaine du risque de crédit, vous devez toujours laisser les mathématiques (le robot) décider des raisons, et laisser l'IA simplement écrire l'histoire.

Résumé Technique : Les modèles de langage de grande taille peuvent-ils servir d'outils d'explicabilité post-hoc pour les modèles de risque de crédit ?

1. Énoncé du problème

L'adoption rapide de modèles d'apprentissage automatique (ML) complexes, tels que XGBoost et les réseaux de neurones, dans le secteur du prêt FinTech a amélioré la précision prédictive mais a introduit une opacité, posant des défis pour la conformité réglementaire (ex. : ECOA, FCRA) et la gestion des risques. Bien que les méthodes d'IA explicable (XAI) post-hoc comme SHAP et LIME fournissent des attributions de caractéristiques numériques, elles manquent souvent de la clarté sémantique et de la structure narrative requises pour les décideurs humains et le reporting réglementaire.

Cette étude examine si les modèles de langage de grande taille (LLM) peuvent combler cette lacune en servant d'interfaces d'explicabilité post-hoc pour les modèles de risque de crédit. Plus précisément, elle répond à deux questions de recherche distinctes :

RQ1 (Le LLM comme Traducteur) : Les LLM peuvent-ils préserver et reproduire fidèlement les classements d'importance des caractéristiques fondés sur le modèle lorsque ces classements sont explicitement fournis en entrée ?
RQ2 (Le LLM comme Explicateur Autonome) : Les LLM peuvent-ils inférer de manière autonome les classements d'importance des caractéristiques qui s'alignent sur les explications fondées sur le modèle (ex. : SHAP ou coefficients logistiques) sans que les classements de référence ne soient fournis, en se basant uniquement sur les données de l'instance et les stratégies de prompting ?

2. Méthodologie

Données et modèles de référence

Jeu de données : Un jeu de données de prêts à la consommation LendingClub (2007–2011) comprenant 39 239 demandeurs de prêt avec 24 caractéristiques indépendantes. La variable cible est un indicateur binaire de défaut de paiement (Charged Off vs. Fully Paid).
Modèles de référence : Deux modèles de risque de crédit ont été entraînés pour générer des attributions de référence de vérité terrain :
1. Régression Logistique : Fournit des attributions linéaires intrinsèquement interprétables basées sur les coefficients.
2. XGBoost : Un modèle d'ensemble basé sur les arbres à l'état de l'art capturant les non-linéarités, avec des attributions dérivées via SHAP (SHapley Additive exPlanations).
Métriques d'évaluation : La performance prédictive a été évaluée à l'aide de la PR-AUC, du score F1 moyen (Macro-averaged) et de la statistique Kolmogorov–Smirnov (KS). XGBoost a nettement surperformé la régression logistique (PR-AUC : 0,38 vs 0,27 ; KS : 40,4 vs 28,79).

Conception expérimentale des LLM

Trois LLM commerciaux ont été évalués : GPT-4-turbo, Claude-Sonnet-4.5 et Gemini-2.5-Flash. Les expériences ont utilisé l'apprentissage en contexte (In-Context Learning - ICL) avec une température fixée à 0 pour assurer la reproductibilité.

RQ1 (Configuration Traducteur) :
- Entrée : Caractéristiques de l'instance, probabilité prédite et la liste classée des caractéristiques de référence dérivée du modèle de base.
- Tâche : Le LLM doit produire une liste classée de caractéristiques respectant strictement l'ordre de référence fourni.
- Contrainte : Format de sortie JSON strict ; aucune connaissance externe ou inférence autorisée.
- Métriques : Chevauchement Top-K (Top-K Feature Overlap) et coefficient de Kendall $\tau$ .
RQ2 (Configuration Explicateur Autonome) :
- Entrée : Caractéristiques de l'instance, probabilité prédite et instructions de tâche. Aucun classement de référence fourni.
- Stratégies : Comparaison entre Zero-shot (instructions uniquement) vs Few-shot (instructions + deux exemples de démonstration de cas à haut/bas risque avec leurs classements de référence).
- Conditions :
  1. Top-4 : Le LLM ne retourne que les 4 caractéristiques les plus importantes (simulant les avis de mesures défavorables).
  2. Classement Complet (Full-Ranking) : Le LLM retourne un classement complet des 24 caractéristiques.
- Métriques : Chevauchement Top-K et Kendall $\tau$ par rapport aux classements de référence de vérité terrain.

3. Résultats Clés

RQ1 : Le LLM comme Traducteur

Haute Fidélité Structurelle : Lorsque les classements de référence étaient explicitement fournis, les LLM ont fait preuve d'une fidélité quasi parfaite.
Métriques : Pour toutes les sorties valides selon le schéma, l'Overlap@K était de 1,000 et le Kendall's $\tau$ était de 1,000 pour tous les seuils ( $K=5, 10, 15, 20$ ) pour les deux modèles de base et les trois LLM.
Robustesse : Sur un total de 3 000 exécutions, un seul cas de substitution de nom de caractéristique a été observé (Claude-Sonnet-4.5 substituant "Past 2 Months" par "Past 2 Years"). Aucun doublon de caractéristique ou JSON malformé n'a été trouvé.
Conclusion : Les LLM sont hautement fiables pour reformater et reproduire les structures d'attribution fournies sous des contraintes strictes.

RQ2 : Le LLM comme Explicateur Autonome

Alignement Limité : Sans classements de référence, les LLM ont montré un alignement partiel avec les explications fondées sur le modèle.
Condition Top-4 :
- Zero-shot : La moyenne de l'Overlap@4 était très faible (ex. : 0,064–0,199 pour la régression logistique ; 0,102–0,233 pour XGBoost).
- Few-shot : La performance s'est améliorée mais est restée insuffisante pour une utilisation autonome. Pour la régression logistique, GPT-4-turbo est passé à 0,515, mais pour XGBoost, les améliorations ont été marginales (max 0,383).
- Observation : Le prompting few-shot a mieux aidé à récupérer les structures linéaires (Régression Logistique) qu'à récupérer les interactions complexes et non linéaires (XGBoost).
Condition de Classement Complet (Full-Ranking) :
- Validité du Schéma : Gemini-2.5-Flash a fréquemment échoué à générer des listes complètes de 24 caractéristiques sous des prompts longs, produisant des sorties tronquées.
- Alignement : Même pour les sorties valides (GPT-4-turbo, Claude-Sonnet), l'Overlap@K s'est amélioré avec le prompting few-shot (ex. : l'Overlap@5 de la régression logistique est passé d'environ 0,39 à 0,61) mais n'a jamais atteint la perfection.
- Cohérence de l'Ordre : Les valeurs de Kendall's $\tau$ sont restées modestes (principalement < 0,4), indiquant que bien que les LLM puissent identifier certaines caractéristiques pertinentes, ils échouent à préserver l'ordre relatif correct de la structure d'attribution complète.

4. Contributions et Revendications Principales

Principales Conclusions

L'étude établit une distinction claire entre les LLM en tant qu'interfaces narratives et en tant qu'expliqueurs autonomes :

Fiabilité en tant que Traducteurs : Les LLM peuvent reproduire de manière fiable les classements fondés sur le modèle lorsque ces classements sont fournis en entrée. Ils fonctionnent efficacement comme des "interfaces narratives" qui convertissent les attributions quantitatives en formats lisibles par l'humain sans altérer la logique sous-jacente.
Manque de Fiabilité en tant qu'Expliqueurs Autonomes : Les LLM ne peuvent pas inférer de manière fiable les classements d'importance des caractéristiques qui correspondent à des modèles de risque de crédit complexes (particulièrement les modèles non linéaires comme XGBoost) uniquement à partir des données d'entrée et des prompts. Leurs sorties sont dictées par des a priori de domaine généraux et des motifs linguistiques plutôt que par la structure spécifique du modèle ajusté.

Importance pour la Gouvernance du Risque de Crédit

Pas un Substitut à la XAI Formelle : L'article soutient que les LLM ne devraient pas remplacer les méthodes d'attribution formelles (comme SHAP ou la décomposition de coefficients) dans la gouvernance du risque de crédit. Les explications autonomes des LLM peuvent sélectionner des facteurs plausibles qui ne reflètent pas la logique de décision réelle du modèle approuvé, introduisant ainsi un risque de modèle.
Déploiement Orienté vers la Gouvernance : Le cas d'utilisation recommandé est un flux de travail hybride : les méthodes de XAI formelles génèrent les classements d'attribution auditables, et les LLM servent d'interface pour traduire ces classements en récits cohérents et informés du domaine pour les parties prenantes.
Limites : L'étude reconnaît des limites, notamment l'utilisation d'un seul jeu de données, le focus sur l'alignement des rangs plutôt que sur les résultats utilisateurs, et l'absence de tests de stress par perturbation (ex. : classements mélangés).

Conclusion

L'article conclut que bien que les LLM offrent des promesses pour améliorer l'accessibilité des explications de risque de crédit, ils manquent actuellement de la fidélité nécessaire pour servir de sources indépendantes de responsabilité explicative. Leur rôle doit être limité au formatage et à la narration d'attributions pré-calculées et auditables plutôt qu'à leur inférence autonome.