Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective

Imagina el mundo digital del dinero como una ciudad enorme y bulliciosa donde miles de millones de monedas viajan por túneles invisibles cada día. En esta ciudad, los bancos son los porteros, tratando de detectar a los carteristas y ladrones antes de que roben. Durante mucho tiempo, estos porteros utilizaron libros de reglas simples: "¡Si una transacción ocurre a las 3 AM, deténla!" o "¡Si el monto es superior a $10,000, deténla!". Pero la ciudad es demasiado grande y los ladrones son demasiado astutos; estas viejas reglas atrapan a demasiadas personas inocentes (falsas alarmas) y, lo que es peor, no pueden explicar por qué detuvieron a alguien. Es como un guardia de seguridad gritando "¡Alto!" sin decir qué hiciste mal.

Aquí es donde entra en juego un nuevo tipo de ciencia llamada Inteligencia Artificial Explicable (XAI). Piensa en la XAI no como una caja negra mágica que solo da respuestas, sino como un detective que no solo resuelve el crimen, sino que también escribe un informe claro y paso a paso explicando exactamente cómo encontró al culpable. El artículo que estás a punto de leer se adentra en este mundo, combinando una herramienta inteligente de detección de patrones llamada Isolation Forest (que encuentra cosas extrañas al ver qué tan fácilmente se pueden separar de la multitud) con un método matemático llamado SHAP (que actúa como una lupa, mostrando exactamente qué pistas —como una hora extraña o un monto enorme— hicieron que la computadora sospechara). El objetivo es ayudar a los auditores bancarios, que son los investigadores humanos, a confiar en las corazonadas de la computadora y a atrapar a los malos sin perderse en códigos confusos.

El Artículo: Un Kit de Herramientas para el Auditor Bancario

En el artículo "Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions", la autora Anupa Lodhi aborda un problema complejo en el mundo bancario. Los bancos están ahogados en datos, con miles de millones de transacciones ocurriendo diariamente, y necesitan encontrar aquellas pocas que son fraudulentas. El problema es que los programas informáticos inteligentes (Aprendizaje Automático o Machine Learning) que son buenos encontrando estas transacciones maliciosas suelen ser "cajas negras". Dicen: "Esta transacción es mala", pero no pueden decirle al auditor humano por qué. Sin una razón, los auditores no pueden escribir sus informes y los reguladores no pueden estar seguros de que el banco esté haciendo su trabajo.

La Solución: Un Equipo de Tres
Lodhi propone un nuevo sistema que actúa como un equipo de tres detectives, diseñado específicamente para los equipos de auditoría interna de los bancos:

1. El Localizador (Isolation Forest): Esta es la primera línea de defensa. Imagina un bosque gigante donde cada árbol es un camino. Las transacciones normales son como una multitud de personas caminando juntas; toman un camino largo y sinuoso para atravesar el bosque. Las anomalías (los defraudadores) son como valores atípicos; son tan extraños que se aíslan rápidamente, tomando un camino muy corto. El algoritmo Isolation Forest utiliza esta idea para marcar transacciones sospechosas sin necesidad de saber qué es el "fraude" de antemano. Simplemente sabe cómo se ve lo "normal" y detecta lo que no encaja.
2. El Explicador (SHAP): Una vez que el Localizador marca una transacción, el Explicador entra en acción. Utilizando un método llamado SHAP (que se basa en una rama de las matemáticas llamada teoría de juegos), desglosa la decisión. Se pregunta: "¿Cuánto contribuyó el monto de dinero a esta alerta? ¿Cuánto contribuyó la hora del día?". Le asigna una puntuación a cada pista, convirtiendo un número computacional aterrador en una frase sencilla en lenguaje natural como: "Esta transacción es sospechosa porque el monto fue enorme y ocurrió en una hora inusual".
   3.La Interfaz (Panel de Control Streamlit): Finalmente, el equipo construyó un panel de control sencillo y colorido. Esta es la herramienta que el auditor humano realmente utiliza. No requiere que sepan programar o entiendan matemáticas complejas. Solo cargan sus datos y el panel les muestra una lista de transacciones riesgosas, codificadas por colores como "Alto Riesgo" o "Bajo Riesgo", con las explicaciones de SHAP justo al lado.

Lo que Encontraron
Los autores probaron este sistema utilizando un conjunto de datos sintéticos (un conjunto de 10,000 transacciones bancarias falsas creadas en una computadora para imitar la vida real). No usaron datos bancarios reales para esta prueba, pero inyectaron cuidadosamente 500 transacciones fraudulentas "falsas" (el 5% del total) para ver si el sistema podía encontrarlas.

Aquí están los resultados, directamente del artículo:

• El nuevo sistema (Isolation Forest + SHSH) detectó los fraudes falsos con una precisión de 0.91 y un recall (exhaustividad) de 0.88.
  • Precisión significa que cuando el sistema decía "Esto es fraude", tenía razón el 91% de las veces.
  • Recall significa que logró encontrar el 88% de todos los fraudes falsos que estaban escondidos en los datos.
• Al comparar esto con otros métodos (como Autoencoders y One-Class SVMs), el nuevo sistema funcionó mejor. Por ejemplo, el Autoencoder solo alcanzó un F1-Score (una mezcla de precisión y recall) de 0.83, y el One-Class SVM fue incluso más bajo, con 0.77.
• Crucialmente, añadir la parte "Explicable" (SHAP) no ralentizó el sistema ni lo hizo menos preciso. El "Isolation Forest Estándar" sin la capa de explicación tenía exactamente las mismas puntuaciones de detección (0.91 de precisión, 0.88 de recall), demostrando que las explicaciones son un beneficio gratuito que no perjudica el rendimiento.

El Toque Humano
El artículo no solo analizó números; preguntó a personas reales si esto realmente ayuda. Cinco profesionales con experiencia en auditorías bancarias observaron las explicaciones que generaba el sistema. Calificaron la calidad de las explicaciones con 4.3 de 5.0. Los auditores dijeron que tener estas explicaciones a nivel de características les daba el "lenguaje justificativo" que necesitaban para escribir sus informes. Antes, tenían que adivinar por qué se marcaba una transacción; ahora, la computadora les dice exactamente qué pistas anotar.

Por qué esto Importa (y lo que NO hace)
Este artículo sugiere que podemos hacer que la IA sea útil para los auditores bancarios haciéndola transparente. Argumenta contra la idea de que tenemos que elegir entre una computadora inteligente y un humano que comprenda la decisión. En su lugar, puedes tener ambos.

Sin embargo, existen algunos límites sobre qué tan seguros podemos estar de estos resultados. El estudio utilizó un conjunto de datos sintéticos, lo que significa que los datos fueron creados por los autores, no tomados de las operaciones diarias de un banco real. Aunque los resultados parecen prometedores, el artículo admite que los datos bancarios del mundo real podrían ser más desordenados y complejos que esta versión falsa y limpia. El sistema también fue probado con solo cuatro características específicas (monto, tiempo, frecuencia y cambio de ubicación), mientras que los bancos reales podrían necesitar rastrear cientos de cosas diferentes.

A pesar de estos límites, el artículo concluye que este marco de trabajo es un paso práctico hacia adelante. Demuestra que es posible construir una herramienta que sea precisa, fácil de usar y que brinde al auditor humano la confianza para actuar. Es un puente entre el complejo mundo del aprendizaje automático y el mundo práctico y lleno de reglas de las auditorías bancarias, asegurando que cuando la computadora levanta una alarma, el humano a cargo sepa exactamente por qué.