🤖 machine learning

Interpretable vs Learned Encoders for High-Cardinality Fraud Detection

Este estudio evalúa siete métodos de codificación categórica en el conjunto de datos de fraude IEEE-CIS, encontrando que los embeddings de entidad logran el AUC-ROC más alto (empatados con CatBoost) al aprovechar representaciones conjuntas de múltiples columnas, mientras superan la codificación tradicional de grupos por niveles y no logran igualar a los procesos basados en árboles en AUC-PR.

Autores originales: Xiao Han, Jingjing Liu, Moxuan Zheng, Zhen Zhang, Chenyu Wu

Publicado 2026-07-02

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Xiao Han, Jingjing Liu, Moxuan Zheng, Zhen Zhang, Chenyu Wu

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un banco intentando detectar a un ladrón en una multitud de 590.000 personas. La mayoría de estas personas son honestas, pero aproximadamente el 3,5% son defraudadores. El problema es que el banco tiene una lista de "pistas" (como direcciones de correo electrónico, tipos de dispositivos o números de tarjeta), pero muchas de estas pistas tienen miles de variaciones únicas. Es como intentar reconocer a un ladrón por su talla de zapato cuando hay 13.000 tallas de zapatos diferentes en la multitud.

Para resolver esto, los investigadores tuvieron que averiguar la mejor manera de traducir estas pistas desordenadas y de alto número a un formato que una computadora pueda entender. Probaron siete "métodos de traducción" (codificadores) diferentes para ver cuál ayudaba a la computadora a detectar mejor el fraude.

Aquí está el desglose de su experimento y hallazgos, utilizando analogías sencillas:

La Configuración: El concurso del "Traductor"

Piensa en el modelo de la computadora (LightGBM) como un detective. Los "codificadores" son los traductores que toman las pistas brutas y se las explican al detective.

Los investigadores querían saber: ¿Importa quién es el traductor, o solo importa el detective? Para averiguarlo, mantuvieron al detective exactamente igual y solo cambiaron al traductor.

Probaron siete traductores:

El Diccionario (One-hot): Enumera cada elemento único. (Demasiado largo y tosco).
El Estadístico (Target Encoding): Reemplaza una pista con el promedio de la "puntuación de culpabilidad" de las personas que tuvieron esa pista.
El Contador de Frecuencia: Reemplaza una pista con qué tan común es.
El Gestor de Agrupación (Tier Grouping): Clasifica las pistas en cubetas (por ejemplo, "Riesgo Bajo", "Riesgo Medio", "Riesgo Alto") basadas en sus puntuaciones de culpabilidad. Esto está diseñado para ser fácil de leer para los auditores humanos.
La Red Neuronal (Entity Embeddings): Un sistema inteligente que aprende una "huella digital" única para cada pista observando cómo interactúan las pistas entre sí.
El Paquete Todo en Uno (CatBoost): Un sistema preempaquetado que realiza su propia traducción y su propio trabajo de detective.
El Aprendiz Profundo (TabNet): Una red neuronal muy compleja y moderna.

Los Resultados: ¿Quién ganó?

1. El Traductor más Inteligente (Entity Embeddings)
El método de Entity Embeddings ganó el concurso de precisión. Le dio al detective la mejor visión de los defraudadores (la puntuación AUC-ROC más alta).

El inconveniente: Es como contratar a un traductor genio que habla 30 idiomas a la vez. Encontró patrones al observar cómo trabajaban juntas las pistas (por ejemplo, un dominio de correo electrónico específico combinado con un tipo de dispositivo específico). Sin embargo, es computacionalmente costoso y más difícil de explicar para un humano el porqué de una decisión.

2. El Traductor "Suficientemente Bueno" y Auditable (Tier Grouping)
El método Tier Grouping quedó en segundo lugar (muy cerca del ganador).

La analogía: Imagina clasificar todas las pistas en 5 cubetas claras: "Muy Seguro", "Seguro", "Regular", "Riesgoso" y "Muy Riesgoso".
Por qué importa: Si un auditor bancario pregunta: "¿Por qué marcaron a esta persona?", la respuesta es simple: "Porque estaba en la cubeta de 'Riesgoso'". Es rápido, barato y fácil de explicar. Solo perdió una pizca de precisión comparado con el método genio.

3. El Campeón de Peso Pesado (CatBoost)
El sistema CatBoost (que es un tipo de detective completamente diferente) en realidad ganó en una métrica diferente (AUC-PR), la cual es mejor para detectar a los raros defraudadores en una multitud enorme. Fue un empate estadístico con los Entity Embeddings en la métrica principal.

4. La Decepción (TabNet)
El modelo TabNet, que es una herramienta de "aprendizaje profundo" muy popular, falló al no poder superar a los métodos más simples basados en árboles.

La analogía: Fue como llevar un robot supercomplejo a un trabajo que una simple linterna podría hacer. Cuando los datos eran escasos (había poca información disponible), el robot colapsó por completo y funcionó mal. Los investigadores encontraron que usar un TabNet estándar y de fábrica no ayudaba en este caso.

Los Grandes Compromisos (Trade-offs)

El documento destaca tres aspectos principales a considerar al elegir un método:

Precisión vs. Costo: El "Traductor Genio" (Embeddings) fue el más preciso, pero tardó 4 veces más en ejecutarse que el "Gestor de Agrupación" (Tier Grouping).
Precisión vs. Explicabilidad: En la banca, a menudo tienes que explicar tus decisiones a los reguladores (como la regla SR 11-7). El "Traductor Genio" es una "caja negra": no puedes explicar fácilmente su lógica. El "Gestor de Agrupación" es transparente; puedes mostrarle al auditor exactamente en qué cubeta cayó la persona.
El Problema de la Métrica: Dependiendo de qué tarjeta de puntuación utilices, el ganador cambia. Si te importa el ranking general, los Embeddings ganan. Si te importa capturar específicamente a los raros defraudadores, el sistema CatBoost gana.

La Conclusión Final

Los investigadores concluyeron que no existe un método único "perfecto".

Si quieres la máxima precisión y tienes la potencia de cómputo, usa Entity Embeddings.
Si necesitas explicar tus decisiones a los auditores y quieres velocidad, usa Tier Grouping. Fue casi tan bueno como el mejor método, pero mucho más fácil de entender.
No asumas que los modelos de aprendizaje profundo más complejos y modernos (como TabNet) siempre ganarán; a veces, un enfoque más simple y bien ajustado funciona mejor.

En resumen, no siempre necesitas una IA supercompleja para atrapar a un defraudador. A veces, un sistema de archivo inteligente y organizado (Tier Grouping) es casi tan efectivo y mucho más fácil de defender en un tribunal.

Resumen Técnico: Codificadores Interpretables frente a Aprendidos para la Detección de Fraude de Alta Cardinalidad

Declaración del Problema

El artículo aborda el desafío de representar variables categóricas de alta cardinalidad (por ejemplo, identificadores de tarjetas, dominios de correo electrónico, huellas digitales de dispositivos) en conjuntos de datos tabulares de detección de fraude. Mientras que los benchmarks clásicos de aprendizaje automático suelen centrarse en el rendimiento de los codificadores dentro de familias de modelos tradicionales, y los estudios de aprendizaje profundo suelen fijar las codificaciones para variar las arquitecturas de los modelos, existe una falta de evidencia controlada que compare los codificadores entre paradigmas. Esta brecha es crítica para el sector financiero regulado (por ejemplo, bajo la norma SR 11-7), donde se requiere transparencia y auditabilidad del modelo junto con una alta precisión. Los autores buscan determinar las compensaciones entre precisión, costo computacional e interpretabilidad al seleccionar una estrategia de codificación para datos de fraude de alta cardinalidad, aislando específicamente la contribución del codificador del aprendiz descendente (downstream learner).

Metodología

El estudio utiliza el conjunto de datos IEEE-CIS Fraud Detection (590,540 registros, clase positiva del 3.5%, 8 columnas de alta cardinalidad con cardinalidades que oscilan entre 4 y 13,553).

Diseño Experimental

Los autores realizaron un experimento controlado utilizando validación cruzada de 5 pliegues estratificada con 3 repeticiones (15 ejecuciones en total). La innovación central es fijar el aprendiz descendente para la mayoría de las comparaciones con el fin de aislar el efecto del método de codificación.

Siete Codificadores Evaluados:

E1 (One-hot): Codificación de indicador estándar con eliminación basada en frecuencia.
E2 (Codificación de Objetivo/Target Encoding): Media del objetivo fuera de la muestra (out-of-fold) con suavizado bayesiano ( $m=30$ ).
E3 (Frecuencia): Mapeo de valores a su frecuencia relativa.
E4 (Agrupación por Niveles/Tier Grouping): Un método interpretable donde las tasas de fraude con suavizado bayesiano se agrupan en $K$ niveles ordinales ( $K \in \{3, 5, 7\}$ ). Esto produce límites legibles para un auditor.
E5 (CatBoost): Utilizado como referencia de paradigma cruzado, consumiendo variables categóricas puras de forma nativa mediante estadísticas de objetivo ordenadas basadas en permutaciones.
E6 (Embeddings de Entidad $\to$ LightGBM): Una red neuronal poco profunda aprende embeddings densos para columnas de alta cardinalidad, que luego se extraen y se introducen en un aprendiz LightGBM congelado.
E7 (Codificación de Objetivo $\to$ TabNet): Utiliza la misma entrada codificada por objetivo que E2, pero la introduce en la arquitectura de aprendizaje profundo TabNet.

Comparaciones Controladas:

E1, E2, E3, E4, E6: Todos alimentan al mismo aprendiz LightGBM congelado (hiperparámetros fijos).
E5 y E7: Sirven como referencias de paradigma cruzado utilizando diferentes aprendices (CatBoost y TabNet, respectivamente).

Métricas y Estadísticas:

Métrica Primaria: AUC-ROC (fijada a priori para evitar la selección sesgada de métricas o metric shopping).
Métrica Secundaria: AUC-PR (para sensibilidad al desequilibrio).
Inferencia Estadística: Prueba t de remuestreo corregida de Nadeau–Bengio (para manejar pliegues de CV correlacionados) y pruebas de Friedman/Nemenyi para el ranking.

Resultados Clave

1. Precisión y Significancia Estadística

Embeddings de Entidad (E6) logró el AUC-ROC más alto (0.9612), empatado estadísticamente con CatBoost (E5) en 0.9602.
Agrupación por Niveles (E4) obtuvo 0.9548, siendo estadísticamente inferior a E6 (+0.0064, $p < 0.001$ ) pero empatado estadísticamente con TabNet (E7) y significativamente superior a la codificación de frecuencia.
Codificación de Objetivo (E2) (0.9571) superó a la Agrupación por Niveles por un margen pequeño pero significativo (0.0023, $p=0.0003$ ).
TabNet (E7) (0.9522) no superó a los flujos de trabajo basados en árboles y se comportó de manera comparable a la Agrupación por Niveles.

2. Divergencia de Métricas (AUC-ROC vs. AUC-PR)

El estudio destaca una divergencia crítica en el ranking de las métricas:

AUC-ROC: Liderado por E6 (Embeddings) y E5 (CatBoost).
AUC-PR: CatBoost (E5) lidera significativamente (0.8216) sobre E6 (0.7928). La brecha en AUC-PR (0.029) es un orden de magnitud mayor que la brecha en AUC-ROC (0.001).
Conclusión: Ningún codificador domina ambas métricas. La elección depende de los objetivos de despliegue (calidad de ranking vs. equilibrio de precisión-recuperación).

3. Costo Computacional y Eficiencia

Agrupación por Niveles (E4) es el más eficiente, requiriendo 24.5 segundos/pliegue.
Embeddings de Entidad (E6) requieren 104.6 segundos/pliegue (4.3x E4) para una ganancia marginal de AUC-ROC de 0.0064.
TabNet (E7) es el más costoso con 1654.3 segundos/pliegue (67x E4) y no ofrece ventaja de precisión sobre los métodos basados en árboles en esta configuración.

4. Robustez y Sensibilidad

Escasez de Datos: Bajo submuestreo (hasta el 10% de los datos), TabNet (E7) colapsó (el AUC-ROC cayó a 0.8108 con alta varianza), mientras que los codificadores de ruta de árbol (E1–E6) mostraron una degradación paralela y estable.
Análisis por Columna: Al entrenar con columnas individuales de alta cardinalidad, los Embeddings de Entidad (E6) se desempeñaron peor que los codificadores clásicos. Esto confirma que la ventaja de E6 surge de la representación conjunta de múltiples columnas (capturando coocurrencias latentes entre columnas como card1 y DeviceInfo) en lugar de una codificación de columna única superior.
Sensibilidad de Niveles: El rendimiento de E4 fue mayormente insensible al número de niveles ( $K$ ) o a las reglas de agrupación, con variaciones < 0.0019 en AUC-ROC.

Contribuciones Clave

Experimento Controlado de Paradigma Cruzado: Los autores aislaron el codificador como la variable controlada a través de tanto el paradigma clásico (LightGBM) como el de aprendizaje profundo (TabNet), atribuyendo aproximadamente 0.01 de varianza en AUC-ROC únicamente a las elecciones de codificación.
Codificación Operacionalizable y Legible para Auditores: El artículo evalúa la "Agrupación por Niveles", un método que agrupa tasas de fraude suavizadas en niveles ordinales, demostando que es una alternativa competitiva, de bajo costo y totalmente auditable a los embeddings aprendidos.
Enfoque de Prioridad en la Interpretabilidad: El estudio califica explícitamente la interpretabilidad y el cómputo junto con la precisión, proporcionando un marco para las finanzas reguladas donde los dueños del riesgo del modelo deben justificar las puntuaciones (por ejemplo, bajo SR 11-7).

Significado y Reivindicaciones

El artículo afirma que la elección del codificador es un grado de libertad independiente que a menudo se confunde en estudios previos que variaban las familias de modelos. Los hallazgos sugieren que:

Los embeddings aprendidos (E6) ofrecen el mayor AUC-ROC pero con un mayor costo computacional y una reducida interpretabilidad (vectores de 30 dimensiones frente a límites claros de niveles).
La Agrupación por Niveles (E4) ofrece un "punto óptimo" para entornos regulados: queda solo 0.0064 por detrás del mejor desempeño en AUC-ROC, pero proporciona límites transparentes y amigables para el auditor, y es significativamente más rápida.
TabNet "out-of-the-box" no supera a los flujos de trabajo basados en árboles en esta tarea y es altamente sensible a la escasez de datos.
La Selección de la Métrica Importa: En la detección de fraude, AUC-ROC y AUC-PR pueden producir "ganadores" diferentes (CatBoost gana en PR, Embeddings en ROC), lo que requiere que la elección de la métrica se alinee con los objetivos de despliegue específicos.

Los autores concluyen que, si bien los embeddings aprendidos proporcionan una ventaja marginal de precisión a través de la representación conjunta, la agrupación por niveles es una alternativa robusta, interpretable y computacionalmente eficiente que satisface los estrictos requisitos regulatorios sin una pérdida significativa de rendimiento.