Enhancing Interpretability in Credit Risk Modeling: A Synergistic Approach Integrating SHAP and Counterfactual Explanations

Cada vez que un banco decide si prestar dinero, se apoya en un modelo para sopesar el historial financiero de una persona frente al riesgo de un impago. Durante décadas, estos modelos eran lo suficientemente simples como para que un humano pudiera rastrear la lógica: si dejabas de realizar pagos, tu puntuación bajaba. Pero a medida que los bancos comenzaron a utilizar sistemas informáticos más potentes para encontrar patrones sutiles en vastas cantidades de datos, la lógica quedó oculta dentro de una "caja negra". Estos sistemas avanzados podían predecir el riesgo con gran precisión, pero no podían explicar por qué tomaban una decisión específica. Esto creó un problema grave. Las leyes en muchos lugares exigen ahora que los prestamistas expliquen sus decisiones a los solicitantes, y sin una razón clara, la denegación de un crédito se siente arbitraria e injusta. El desafío para los científicos ha sido encontrar una manera de mantener la alta precisión de estos sistemas complejos mientras se abre la caja negra para revelar el razonamiento en su interior.

Dos nuevas herramientas han surgido para ayudar a resolver este enigma. La primera es un método que actúa como una lupa, mostrando exactamente qué piezas de información —como el saldo en una cuenta corriente o la duración de un préstamo— impulsaron al modelo hacia una conclusión específica. La segunda herramienta es más parecida a un simulador de "¿qué pasaría si?". Le pide a la computadora que imagine los cambios más pequeños posibles que una persona podría realizar en su perfil financiero para convertir un rechazo en una aprobación. Si bien cada herramienta es útil por sí sola, investigadores de la Universidad Estatal de Arizona se preguntaron si combinar ambas crearía una imagen más clara. Se propusyeron probar si el uso conjunto de estos dos métodos podría no solo explicar por qué se tomó una decisión, sino también proporcionar un camino práctico y justo para la persona que fue rechazada.

Para probar esta idea, los investigadores utilizaron una colección de datos muy conocida que contiene mil solicitudes de crédito reales de Alemania. Construyeron dos tipos diferentes de modelos de predicción para ver cómo se comportaban. Un modelo utilizó un enfoque lineal y directo, mientras que el otro utilizó un sistema más complejo que construye muchos árboles de decisión para encontrar patrones. Luego aplicaron su método de explicación combinada a ambos modelos. Los resultados mostaron que el modelo complejo no era realmente mucho mejor que el simple en términos de precisión general, pero los dos modelos cometían tipos distintos de errores. El modelo simple era mejor detectando a personas que probablemente entrarían en impago, mientras que el modelo complejo era mejor evitando falsas alarmas. Más importante aún, el método de explicación combinada funcionó de manera notable. Al utilizar la herramienta de la "lupa" para identificar primero los factores más importantes, los investigadores pudieron guiar al simulador de "¿qué pasaría si?" para encontrar las mejores soluciones mucho más rápido.

El estudio encontró que este enfoque combinado hizo que las explicaciones fueran significativamente más eficientes. Cuando los investigadores pidieron a la computadora encontrar los cambios mínimos necesarios para cambiar un rechazo en una aprobación, el método antiguo requería que un solicitante imaginara cambiar aproximadamente tres cosas a la vez. Con el nuevo método guiado, el solicitante solo necesitaba imaginar el cambio de aproximadamente dos cosas. Esta reducción en la complejidad hace que el consejo sea mucho más fácil de entender y de aplicar para un ser humano. El sistema generó con éxito sugerencias válidas el cien por ciento de las veces, demostrando que podía encontrar de manera fiable un camino hacia un resultado diferente sin romper las reglas del modelo.

Más allá de simplemente hacer el proceso más claro, los investigadores utilizaron este marco para buscar la injusticia. Descubrieron que los modelos trataban de manera diferente a distintos grupos de personas, incluso cuando los solicitantes tenían perfiles financieros similares. Por ejemplo, los hombres solteros eran señalados como de alto riesgo con más frecuencia que los hombres casados o viudos, incluso cuando sus situaciones financieras eran comparables. El análisis mostró que el modelo era más estricto con los hombres solteros, exigiéndoles mejoras financieras mayores para ser aprobados. Al usar las herramientas combinadas, los investigadores pudieron señalar exactamente dónde ocurría este sesgo. Observaron que la falta de una cuenta corriente perjudicaba las puntuaciones de los hombres solteros más de lo que perjudicaba a los hombres casados, lo que sugiere que el modelo había aprendido un sesgo oculto de los datos históricos con los que fue entrenado.

Los investigadores también descubrieron que los factores más poderosos en estas decisiones no eran detalles demográficos como la edad o el género, sino realidades financieras concretas. El estado de una cuenta corriente y el historial de pago de créditos eran las fuerzas dominantes que impulsaban las decisiones. Este es un hallazgo tranquilizador, ya que sugiere que los modelos se centran en la capacidad real de pago en lugar de en características personales irrelevantes. Sin embargo, el estudio también destacó que, incluso cuando los factores principales son justos, la forma en que el modelo los pondera aún puede crear resultados desiguales para diferentes grupos. El método de explicación combinada fue capaz de exponer estas desigualdades sutiles, mostrando exactamente cuánto esfuerzo adicional tenía que realizar un grupo en comparación con otro para lograr el mismo resultado.

En última instancia, este trabajo sugiere que no tenemos que elegir entre un modelo inteligente y uno justo y comprensible. Al entrelazar la capacidad de explicar el pasado con la capacidad de sugerir un futuro mejor, las instituciones financieras pueden construir sistemas que sean tanto precisos como transparentes. El estudio demuestra que, cuando guiamos la búsqueda de soluciones utilizando los factores más importantes, podemos ofrecer a los solicitantes consejos claros y accionables que respeten sus circunstancias específicas. Este enfoque va más allá de simplemente decirle a una persona que su solicitud fue denegada; ofrece una hoja de ruta concreta y justa sobre cómo podría mejorar su situación, asegurando que la tecnología que sirve a nuestras vidas financieras sea responsable ante las personas a las que afecta.