Evolutionary Rule Extraction from Corporate Default Prediction Models

Resumen Técnico: Extracción Evolutiva de Reglas a partir de Modelos de Predicción de Incumplimiento Corporativo

Enunciado del Problema
Las pequeñas y medianas empresas (PYME) constituyen la mayoría de las empresas en la mayoría de las economías, pero enfrentan importantes restricciones financieras y vulnerabilidad ante el estrés. Predecir el incumplimiento de las PYME es crítico para las instituciones financieras y los responsables políticos. Si bien el aprendizaje automático (ML) ha mejorado el rendimiento predictivo en la modelización del riesgo crediticio en comparación con los métodos econométricos tradicionales, la naturaleza de "caja negra" de los modelos complejos plantea preocupaciones sobre la transparencia y el cumplimiento normativo. Los enfoques existentes de IA explicable (XAI) a menudo se centran en la atribución de características en lugar de reconstruir la lógica de decisión subyacente, y muchos métodos de extracción de reglas no son completamente agnósticos al modelo o solo han sido probados en entornos sintéticos y de baja dimensionalidad. Existe una necesidad de marcos que equilibren una alta precisión predictiva con reglas de decisión interpretables y económicamente significativas en datos financieros de alta dimensionalidad y desequilibrados.

Metodología
El estudio utiliza un panel de 50.718 PYME italianas desde 2015 hasta 2024, que comprende 6.695 empresas en incumplimiento y 44.023 empresas activas. El conjunto de datos incluye variables contables a nivel de empresa (balance y estado de resultados), características estructurales e indicadores macroeconómicos/contextuales (tasas de incumplimiento sectoriales, PIB regional, inflación). Los datos están estructurados como un panel desequilibrado con un objetivo de predicción a un año de antelación para evitar el sesgo de visión hacia el futuro.

La metodología procede a través de cuatro etapas:

1. Preprocesamiento de Datos: Los datos crudos se transforman en un panel empresa-año. Los ratios financieros se limitan y se transforman logarítmicamente para manejar la asimetría. El conjunto de datos se divide en conjuntos de entrenamiento (70%), validación (20%) y prueba (10%) utilizando muestreo estratificado a nivel de empresa para preservar las proporciones de clase (tasa de incumplimiento aprox. 1,4%).
2. Estimación del Modelo: Se entrenan cuatro clasificadores: Regresión Logística (referencia), Random Forest, XGBoost y Perceptrón Multicapa (MLP). El rendimiento se evalúa utilizando la Precisión Equilibrada y el Área bajo la Curva de Precisión-Recall (PR-AUC) para abordar el desequilibrio de clases. Los hiperparámetros se optimizan en el conjunto de validación.
3. Extracción de Reglas (DEXiRE-EVO): El estudio introduce DEXiRE-EVO, un nuevo marco evolutivo de extracción de reglas. Extiende el flujo de trabajo DEXiRE para ser agnóstico al modelo, permitiendo su aplicación a modelos basados en árboles como XGBoost. El marco emplea una optimización evolutiva multiobjetivo (algoritmo NSGA-II) guiada por el método de Importancia y Utilidad Contextual (CIU).
   • Objetivo 1 (Fidelidad): Maximizar la capacidad del conjunto de reglas para replicar las predicciones del modelo de caja negra (medida por la Precisión Equilibrada).
   • Objetivo 2 (Alineación CIU): Maximizar la consistencia semántica entre las variables en las reglas extraídas y su importancia contextual estimada por CIU.
   • El proceso evoluciona una población de reglas de decisión (conjunciones de predicados) para aproximar el comportamiento del modelo, seleccionando soluciones Pareto-óptimas que equilibran la fidelidad y la interpretabilidad.
4. Análisis: Las reglas extraídas se analizan en busca de plausibilidad económica, vinculando estructuras lógicas con patrones de vulnerabilidad financiera.

Contribuciones Clave

• Evaluación Empírica a Gran Escala: El documento proporciona una comparación exhaustiva de modelos tradicionales y de ML en un conjunto de datos grande, realista y altamente desequilibrado de PYME italianas, abordando la escasez de tales comparaciones sistemáticas en entornos de alta dimensionalidad.
• Nuevo Marco (DEXiRE-EVO): Propone un enfoque evolutivo agnóstico al modelo para la extracción de reglas que integra CIU en la función de aptitud. Esto asegura que las reglas extraídas no solo sean fieles al modelo original, sino que también estén alineadas con la relevancia contextual de las características.
• Integración del Contexto Macro: El estudio evalúa el impacto de incluir variables macroeconómicas y sectoriales, así como dinámicas históricas (mediante medias móviles ponderadas exponencialmente), tanto en el rendimiento predictivo como en la importancia de las características.

Resultados

• Rendimiento Predictivo: XGBoost superó significativamente a la referencia de Regresión Logística, logrando una Precisión Equilibrada de 0,901 y un PR-AUC de 0,429, en comparación con 0,551 y 0,016 para la Regresión Logística, respectivamente. Random Forest y MLP también mostraron un rendimiento sólido.
• Impacto de la Estructura de Datos:
  • Incluir variables macroeconómicas y sectoriales (Conjunto de Datos D1) mejoró el rendimiento sobre los modelos que utilizan solo ratios a nivel de empresa (Conjunto de Datos D2), aumentando la Precisión Equilibrada de 0,879 a 0,901 y el PR-AUC de 0,366 a 0,429.
  • Añadir dinámicas históricas (Conjunto de Datos D3) mejoró aún más el rendimiento de clasificación (PR-AUC 0,449) con un cambio mínimo en la Precisión Equilibrada.
• Rendimiento de Explicabilidad: DEXiRE-EVO demostró un rendimiento superior al del marco DEXiRE original, logrando una mayor fidelidad (media 0,856 frente a 0,832) y una alineación CIU significativamente mejor (media 0,684 frente a 0,444).
• Reglas Extraídas: El proceso evolutivo identificó patrones consistentes y económicamente significativos asociados al riesgo de incumplimiento, incluyendo:
  • Débil generación interna de liquidez (bajo flujo de caja a activos).
  • Erosión del capital interno (beneficios retenidos negativos).
  • Alto apalancamiento (alta relación deuda-capital).
  • Ineficiencia operativa (bajos ratios de rotación).
  • Las reglas destacaron que estas señales son particularmente informativas para empresas más allá de su ciclo de vida temprano y que el estrés sectorial y la volatilidad histórica son factores contextuales críticos.

Significado y Afirmaciones
El documento afirma que combinar ML con la extracción evolutiva de reglas mediante DEXiRE-EVO ofrece un camino viable para resolver el compromiso entre la precisión predictiva y la interpretabilidad en la modelización del riesgo crediticio. Al generar reglas de decisión transparentes y legibles por humanos que mantienen una alta fidelidad con modelos complejos y se alinean con la importancia contextual de las características, el enfoque apoya una toma de decisiones más transparente y basada en datos. El estudio enfatiza que las reglas extraídas reflejan mecanismos económicos coherentes (por ejemplo, restricciones de liquidez, erosión de capital) en lugar de correlaciones estadísticas arbitrarias, mejorando así la confianza y el cumplimiento normativo en entornos financieros. Los autores señalan que, aunque el marco es prometedor, el trabajo futuro debería explorar la modelización explícita de series temporales para trayectorias financieras más ricas y aplicar el método a mercados de crédito privado donde la información blanda es escasa.