Evolutionary Rule Extraction from Corporate Default Prediction Models

Résumé Technique : Extraction de Règles Évolutionnaires à partir de Modèles de Prédiction de Défaut d'Entreprise

Énoncé du Problème
Les petites et moyennes entreprises (PME) constituent la majorité des entreprises dans la plupart des économies, mais font face à des contraintes financières significatives et à une vulnérabilité aux difficultés financières. La prédiction du défaut des PME est cruciale pour les institutions financières et les décideurs politiques. Bien que l'apprentissage automatique (ML) ait amélioré la performance prédictive dans la modélisation du risque de crédit par rapport aux méthodes économétriques traditionnelles, la nature « boîte noire » des modèles complexes soulève des préoccupations concernant la transparence et la conformité réglementaire. Les approches existantes d'intelligence artificielle explicable (XAI) se concentrent souvent sur l'attribution des caractéristiques plutôt que sur la reconstruction de la logique décisionnelle sous-jacente, et de nombreuses méthodes d'extraction de règles ne sont pas entièrement agnostiques au modèle ou n'ont été testées que dans des environnements synthétiques et de faible dimension. Il existe un besoin de cadres qui équilibrent une haute précision prédictive avec des règles décisionnelles interprétables et économiquement significatives dans des données financières de haute dimension et déséquilibrées.

Méthodologie
L'étude utilise un panel de 50 718 PME italiennes de 2015 à 2024, comprenant 6 695 entreprises en défaut et 44 023 entreprises actives. L'ensemble de données inclut des variables comptables au niveau de l'entreprise (bilan et compte de résultat), des caractéristiques structurelles et des indicateurs macroéconomiques/contextuels (taux de défaut sectoriels, PIB régional, inflation). Les données sont structurées sous forme d'un panel déséquilibré avec un objectif de prédiction à un an pour prévenir le biais de regard vers l'avenir.

La méthodologie se déroule en quatre étapes :

1. Prétraitement des données : Les données brutes sont transformées en un panel entreprise-année. Les ratios financiers sont plafonnés et transformés par logarithme pour gérer l'asymétrie. L'ensemble de données est divisé en ensembles d'entraînement (70 %), de validation (20 %) et de test (10 %) en utilisant un échantillonnage stratifié au niveau de l'entreprise pour préserver les proportions de classes (taux de défaut d'environ 1,4 %).
2. Estimation du modèle : Quatre classificateurs sont entraînés : Régression Logistique (référence), Forêt Aléatoire, XGBoost et Perceptron Multicouche (MLP). La performance est évaluée à l'aide de la Précision Équilibrée et de la Surface sous la Courbe Précision-Rappel (PR-AUC) pour traiter le déséquilibre des classes. Les hyperparamètres sont optimisés sur l'ensemble de validation.
3. Extraction de règles (DEXiRE-EVO) : L'étude introduit DEXiRE-EVO, un nouveau cadre d'extraction de règles évolutionnaire. Il étend le pipeline DEXiRE pour être agnostique au modèle, permettant son application à des modèles basés sur des arbres comme XGBoost. Le cadre emploie une optimisation évolutionnaire multi-objectif (algorithme NSGA-II) guidée par la méthode Importance et Utilité Contextuelles (CIU).
   • Objectif 1 (Fidélité) : Maximiser la capacité de l'ensemble de règles à reproduire les prédictions du modèle boîte noire (mesurée par la Précision Équilibrée).
   • Objectif 2 (Alignement CIU) : Maximiser la cohérence sémantique entre les variables dans les règles extraites et leur importance contextuelle telle qu'estimée par la CIU.
   • Le processus fait évoluer une population de règles décisionnelles (conjonctions de prédicats) pour approximer le comportement du modèle, sélectionnant des solutions Pareto-optimales qui équilibrent fidélité et interprétabilité.
4. Analyse : Les règles extraites sont analysées pour leur plausibilité économique, reliant les structures logiques aux modèles de vulnérabilité financière.

Contributions Clés

• Évaluation Empirique à Grande Échelle : L'article fournit une comparaison complète des modèles traditionnels et ML sur un grand ensemble de données réaliste et fortement déséquilibré de PME italiennes, comblant le manque de telles comparaisons systématiques dans des environnements de haute dimension.
• Nouveau Cadre (DEXiRE-EVO) : Il propose une approche évolutionnaire agnostique au modèle pour l'extraction de règles qui intègre la CIU dans la fonction de fitness. Cela garantit que les règles extraites sont non seulement fidèles au modèle original, mais aussi alignées sur la pertinence contextuelle des caractéristiques.
• Intégration du Contexte Macro : L'étude évalue l'impact de l'inclusion de variables macroéconomiques et sectorielles, ainsi que de dynamiques historiques (via des moyennes mobiles pondérées exponentiellement), sur la performance prédictive et l'importance des caractéristiques.

Résultats

• Performance Prédictive : XGBoost a nettement surpassé la référence de Régression Logistique, atteignant une Précision Équilibrée de 0,901 et une PR-AUC de 0,429, contre 0,551 et 0,016 pour la Régression Logistique, respectivement. La Forêt Aléatoire et le MLP ont également montré de fortes performances.
• Impact de la Structure des Données :
  • L'inclusion de variables macroéconomiques et sectorielles (Jeu de données D1) a amélioré la performance par rapport aux modèles utilisant uniquement des ratios au niveau de l'entreprise (Jeu de données D2), augmentant la Précision Équilibrée de 0,879 à 0,901 et la PR-AUC de 0,366 à 0,429.
  • L'ajout de dynamiques historiques (Jeu de données D3) a encore amélioré la performance de classement (PR-AUC 0,449) avec un changement minime de la Précision Équilibrée.
• Performance d'Explicabilité : DEXiRE-EVO a démontré une performance supérieure par rapport au cadre DEXiRE original, atteignant une fidélité plus élevée (moyenne 0,856 contre 0,832) et un alignement CIU nettement meilleur (moyenne 0,684 contre 0,444).
• Règles Extraites : Le processus évolutionnaire a identifié des modèles cohérents et économiquement significatifs associés au risque de défaut, notamment :
  • Une faible génération de liquidités internes (faible flux de trésorerie disponible par rapport aux actifs).
  • L'érosion du capital interne (bénéfices non distribués négatifs).
  • Un levier élevé (ratio dette/capitaux propres élevé).
  • Une inefficacité opérationnelle (faibles ratios de rotation).
  • Les règles ont mis en évidence que ces signaux sont particulièrement informatifs pour les entreprises au-delà de leur cycle de vie précoce et que la détresse sectorielle et la volatilité historique sont des facteurs contextuels critiques.

Signification et Revendications
L'article revendique que la combinaison du ML avec l'extraction de règles évolutionnaires via DEXiRE-EVO offre une voie viable pour résoudre le compromis entre précision prédictive et interprétabilité dans la modélisation du risque de crédit. En générant des règles décisionnelles transparentes et lisibles par l'homme qui maintiennent une haute fidélité aux modèles complexes et s'alignent sur l'importance contextuelle des caractéristiques, l'approche soutient une prise de décision plus transparente et fondée sur les données. L'étude souligne que les règles extraites reflètent des mécanismes économiques cohérents (par exemple, contraintes de liquidité, érosion du capital) plutôt que des corrélations statistiques arbitraires, renforçant ainsi la confiance et la conformité réglementaire dans les environnements financiers. Les auteurs notent que, bien que le cadre soit prometteur, les travaux futurs devraient explorer la modélisation explicite des séries temporelles pour des trajectoires financières plus riches et appliquer la méthode aux marchés du crédit privé où l'information qualitative est rare.