💬 NLP

Understanding Structured Financial Data with LLMs: A Case Study on Fraud Detection

El artículo presenta FinFRE-RAG, un enfoque de dos etapas que combina la reducción de características guiada por importancia y el aprendizaje en contexto aumentado por recuperación para habilitar que los modelos de lenguaje grandes (LLMs) detecten fraudes financieros de manera competitiva y proporcionen explicaciones interpretables, superando las limitaciones de los métodos directos y reduciendo la carga de ingeniería de características.

Autores originales: Xuwei Tan, Yao Ma, Xueru Zhang

Publicado 2026-04-10

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Xuwei Tan, Yao Ma, Xueru Zhang

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que intentas encontrar una aguja en un pajar, pero el pajar es tan grande que tiene millones de agujas, y la mayoría son agujas normales, no las que buscas. Además, la aguja que buscas (el fraude) cambia de forma cada vez que la ves.

Así es el mundo de la detección de fraudes financieros. Tradicionalmente, los bancos usaban "detectives de datos" muy estrictos (modelos de tablas) que necesitaban que alguien les dijera exactamente qué buscar. Si el fraude cambiaba un poco, el detective se confundía. Además, estos detectives no podían explicar por qué pensaban que algo era malo, solo decían "es malo" o "es bueno", lo cual es frustrante para los humanos.

Aquí es donde entran los Modelos de Lenguaje Grande (LLMs), como los que usan para chatear con la IA. Son geniales explicando cosas, pero cuando les das una tabla llena de números fríos (como "monto: 100, tarjeta: 5, ciudad: 3"), se pierden. Es como si le dieras a un novelista famoso una hoja de Excel y le pidieras que escriba una novela; no sabe por dónde empezar.

La Solución: FinFRE-RAG (El Detective con una Libreta de Casos)

Los autores de este paper crearon un sistema llamado FinFRE-RAG. Para entenderlo, imagina que en lugar de darle al detective de IA toda la pila de datos desordenada, le das una libreta de casos anteriores que son muy parecidos al caso actual.

El sistema funciona en dos pasos mágicos:

El Filtro Inteligente (Reducción de Características):
Imagina que tienes una maleta llena de 1,000 objetos (datos) para un viaje, pero solo necesitas 10 para sobrevivir. Si metes los 1,000, la maleta pesa demasiado y el detective no puede pensar.
- Lo que hace el sistema: Antes de empezar, usa un algoritmo simple para encontrar los 10 objetos más importantes (por ejemplo, el monto de la transacción y el país) y descarta el resto del ruido. Convierte esos números fríos en una historia sencilla: "El cliente gastó 50 dólares en un país lejano con una tarjeta nueva".
El Detective con Memoria (RAG - Generación Aumentada por Recuperación):
Ahora, el detective de IA no tiene que adivinar. El sistema busca en su base de datos histórica y le dice: "Oye, mira estos 5 casos pasados que son muy parecidos a este. En 4 de ellos, era fraude. En 1, no lo era. ¿Qué opinas?".
- Esto es como darle al detective una libreta de casos similares para que compare. En lugar de memorizar reglas, el detective aprende por analogía: "Este caso se parece mucho a esos 4 casos de fraude, así que probablemente sea fraude también".

¿Por qué es genial esto?

Explicaciones Humanas: A diferencia de los modelos antiguos que solo dicen "Sí/No", este sistema puede decirte: "Parece fraude porque el monto es inusualmente alto para este tipo de tarjeta y el país no coincide con el historial del cliente". ¡Es como tener un detective que te explica su razonamiento!
Mejor que adivinar: Sin esta ayuda, las IAs fallaban estrepitosamente (como si tiraran una moneda al aire). Con FinFRE-RAG, su precisión mejora drásticamente, acercándose a la de los mejores detectives expertos.
No necesita reentrenamiento: No tienes que volver a "enseñar" a la IA desde cero cada vez que aparece un nuevo tipo de fraude. Solo le das nuevos casos de ejemplo en su libreta y listo.

El Resultado Final

El estudio probó esto con varios modelos de IA y bases de datos reales. Descubrieron que:

Si le das a la IA demasiados datos (demasiados números), se confunde. Menos es más.
Si le das ejemplos de casos similares (la libreta), la IA entiende el contexto mucho mejor.
Es mejor pedirle a la IA que dé una puntuación de riesgo (del 1 al 5) en lugar de un simple "sí o no", porque así puede expresar dudas y matices, igual que un humano.

En resumen: FinFRE-RAG es como convertir a un genio de la literatura (la IA) en un detective financiero experto, dándole las herramientas correctas: filtrar el ruido y comparar con casos reales para que pueda explicar sus decisiones con claridad. No reemplaza a los humanos, pero les da una herramienta poderosa para detectar estafas más rápido y entender por qué.

Resumen Técnico: FinFRE-RAG para Detección de Fraude

1. El Problema

La detección de fraude en transacciones financieras depende tradicionalmente de modelos tabulares (como XGBoost o Random Forest) que requieren una ingeniería de características intensiva y laboriosa. Aunque efectivos, estos modelos suelen tener una interpretabilidad limitada, lo que dificulta que los analistas humanos entiendan por qué se tomó una decisión.

Por otro lado, los Modelos de Lenguaje Grande (LLMs) ofrecen la capacidad de generar explicaciones legibles por humanos y realizar razonamiento complejo. Sin embargo, aplicar LLMs directamente a datos tabulares de fraude presenta dos desafíos fundamentales:

Desalineación de Entrada Tabular: Los datos financieros son principalmente numéricos y categóricos, a menudo con cientos o miles de características. Los LLMs, entrenados principalmente en texto natural, luchan para interpretar el significado semántico de estas estructuras o manejar valores numéricos con precisión. Además, incluir todas las características en un prompt excede los límites de contexto e introduce ruido.
Ambigüedad y Rareza del Fraude: El fraude es un evento extremadamente raro (a menudo <1% de las transacciones) y sus patrones varían según la institución. Sin guía específica, los LLMs tienden a tratar las entradas tabulares como números arbitrarios, produciendo predicciones cercanas al azar.

2. Metodología Propuesta: FinFRE-RAG

Los autores proponen FinFRE-RAG (Financial Feature-Reduced in-context learning with Retrieval-Augmented Generation), un marco de trabajo de dos etapas diseñado para adaptar los LLMs a la detección de fraude sin necesidad de entrenamiento específico (fine-tuning).

El flujo de trabajo se divide en una fase Offline y una fase Online:

Fase Offline: Reducción de Características Guiada por Importancia
- Se entrena un modelo de Random Forest en un conjunto de datos histórico externo para calcular la importancia de las características.
- Se seleccionan las top-k características más informativas (ej. k=10) para reducir la dimensionalidad y eliminar el ruido.
- Se normalizan las características numéricas y se precalculan representaciones vectorizadas para una recuperación eficiente.
Fase Online: Aprendizaje en Contexto (ICL) Aumentado por Recuperación (RAG)
- Recuperación de Instancias: Para una transacción de consulta ( $x_q$ $x_{q}$ ), el sistema recupera transacciones históricas similares utilizando una estrategia híbrida:
  1. Filtrado Categórico: Se aplican restricciones de igualdad en las características categóricas más importantes para encontrar casos estructuralmente similares.
  2. Búsqueda de Similitud Numérica: Dentro del grupo filtrado, se busca la similitud coseno en el espacio de características numéricas normalizadas.
- Construcción del Prompt: Las transacciones recuperadas y la consulta se convierten en oraciones descriptivas en lenguaje natural (ej. "El cliente tiene un saldo de crédito de 10540...").
- Razonamiento: El LLM recibe un prompt que incluye instrucciones de tarea, ejemplos few-shot (casos históricos con sus etiquetas reales de fraude/no fraude) y la consulta actual. El modelo debe inferir un puntuación de riesgo (1-5) y proporcionar una explicación basada en la comparación con los ejemplos recuperados.

3. Contribuciones Clave

Marco FinFRE-RAG: Un enfoque novedoso que combina reducción de características y RAG para adaptar LLMs a datos tabulares estructurados sin fine-tuning.
Evaluación Sistemática: Pruebas exhaustivas en cuatro conjuntos de datos públicos de fraude (CCF, CCFRAUD, IEEE-CIS, PAYSIM) y tres familias de LLMs de código abierto (Qwen, Gemma, GPT-OSS).
Análisis de Factores Críticos:
- Demostración de que la reducción de características es vital para el rendimiento.
- Análisis de cómo el número de ejemplos recuperados afecta a modelos de razonamiento (como Qwen) frente a modelos no de razonamiento (como Gemma).
- Comparación entre la salida binaria directa y la puntuación de riesgo granular (1-5 puntos).
Interpretabilidad: El sistema no solo clasifica, sino que genera justificaciones lógicas que imitan el razonamiento de un analista humano.

4. Resultados Principales

Mejora de Rendimiento: Los LLMs base (sin RAG) tienen un rendimiento muy pobre (MCC negativo o cercano a cero), comportándose casi como adivinanzas aleatorias. Con FinFRE-RAG, el rendimiento mejora drásticamente.
- Ejemplo: En el conjunto de datos IEEE-CIS, el F1-score de Qwen3-14B saltó de 0.04 a 0.62, y el MCC de -0.01 a 0.60.
Competitividad: En varios escenarios, FinFRE-RAG con LLMs alcanza o supera a modelos tabulares tradicionales como Random Forest y XGBoost, y compite con modelos neuronales de vanguardia (TabM).
Impacto de la Granularidad: Pedir al LLM una puntuación de riesgo de 5 niveles en lugar de una clasificación binaria directa mejora tanto el F1 como el MCC, permitiendo al modelo manejar mejor la incertidumbre en casos ambiguos.
Fine-tuning vs. ICL: Los modelos fine-tuned (ajustados) no superaron consistentemente a FinFRE-RAG. De hecho, los modelos fine-tuned tendieron a tener mayor precisión pero menor recuperación (recall), sugiriendo un sobreajuste a la clase mayoritaria. FinFRE-RAG mantuvo un equilibrio mejor gracias a la exposición a ejemplos heterogéneos en tiempo de inferencia.

5. Significado y Conclusión

El estudio demuestra que los LLMs, a menudo considerados inadecuados para datos tabulares, pueden convertirse en herramientas de detección de fraude altamente efectivas si se les proporciona el contexto adecuado.

Valor Práctico: FinFRE-RAG ofrece una vía práctica para implementar detección de fraude interpretable en entornos donde la privacidad de los datos impide el uso de modelos en la nube o el fine-tuning masivo.
Herramienta de Asistencia: Aunque los LLMs aún pueden quedar ligeramente por detrás de los clasificadores especializados en métricas puras, su capacidad para proporcionar rationales (justificaciones) legibles por humanos los convierte en herramientas superiores para apoyar a los analistas de fraude, reduciendo la carga de trabajo manual y facilitando la auditoría de decisiones.
Limitaciones: El estudio se basa en conjuntos de datos públicos (a veces sintéticos o con pocas características) y no evalúa la latencia en producción. Además, las explicaciones generadas son heurísticas y no deben considerarse explicaciones causales definitivas.

En resumen, FinFRE-RAG cierra la brecha de rendimiento entre los LLMs y los métodos tradicionales de tablas, transformando la detección de fraude de una "caja negra" a un proceso de razonamiento basado en casos comprensible para el humano.