🤖 machine learning

Interpretable vs Learned Encoders for High-Cardinality Fraud Detection

Este estudo avalia sete métodos de codificação categórica no conjunto de dados IEEE-CIS fraud, constatando que os embeddings de entidade alcançam o maior AUC-ROC (empatados com o CatBoost) ao aproveitar representações conjuntas de múltiplas colunas, enquanto superam a codificação tradicional de grupos de níveis e não conseguem igualar os pipelines baseados em árvores em AUC-PR.

Autores originais: Xiao Han, Jingjing Liu, Moxuan Zheng, Zhen Zhang, Chenyu Wu

Publicado 2026-07-02

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Xiao Han, Jingjing Liu, Moxuan Zheng, Zhen Zhang, Chenyu Wu

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um banco tentando identificar um ladrão em uma multidão de 590.000 pessoas. A maioria dessas pessoas é honesta, mas cerca de 3,5% são fraudadores. O problema é que o banco tem uma lista de "pistas" (como endereços de e-mail, tipos de dispositivos ou números de cartão), mas muitas dessas pistas têm milhares de variações únicas. É como tentar reconhecer um ladrão pelo tamanho do seu sapato quando existem 13.000 tamanhos de sapato diferentes na multidão.

Para resolver isso, os pesquisadores tiveram que descobrir a melhor maneira de traduzir essas pistas bagunçadas e de alto número para um formato que um computador possa entender. Eles testaram sete diferentes "métodos de tradução" (codificadores) para ver qual ajudava o computador a detectar a fraude da melhor forma.

Aqui está o detalhamento do experimento e das descobertas, usando analogias simples:

A Configuração: O Concurso de "Tradutores"

Pense no modelo de computador (LightGBM) como um detetive. Os "codificadores" são os tradutores que pegam as pistas brutas e as explicam ao detetive.

Os pesquisadores queriam saber: Importa quem é o tradutor, ou apenas o detetive importa? Para descobrir, eles mantiveram o detetive exatamente o mesmo e mudaram apenas o tradutor.

Eles testaram sete tradutores:

O Dicionário (One-hot): Lista cada item único. (Muito longo e desajeitado).
O Estatístico (Target Encoding): Substitui uma pista pela média da "pontuação de culpa" das pessoas que possuíam aquela pista.
O Contador de Frequência: Substitui uma pista por quão comum ela é.
O Gerente de Agrupamento (Tier Grouping): Organiza as pistas em baldes (ex: "Baixo Risco", "Médio Risco", "Alto Risco") com base em suas pontuações de culpa. Isso é projetado para ser fácil de ler para auditores humanos.
A Rede Neural (Entity Embeddings): Um sistema inteligente que aprende uma "impressão digital" única para cada pista, observando como as pistas interagem entre si.
O Pacote Tudo-em-Um (CatBoost): Um sistema pré-embalado que faz sua própria tradução e trabalho de detetive.
O Aprendiz Profundo (TabNet): Uma rede neural muito complexa e moderna.

Os Resultados: Quem Venceu?

1. O Tradutor Mais Inteligente (Entity Embeddings)
O método Entity Embeddings venceu o concurso de precisão. Ele deu ao detetive a melhor visão dos fraudadores (maior pontuação AUC-ROC).

A Ressalva: É como contratar um tradutor gênio que fala 30 idiomas ao mesmo tempo. Ele encontrou padrões ao observar como as pistas trabalhavam juntas (ex: um domínio de e-mail específico combinado com um tipo de dispositivo específico). No entanto, é computacionalmente caro e mais difícil para um humano explicar por que ele tomou uma decisão.

2. O Tradutor "Bom o Suficiente" e Auditável (Tier Grouping)
O método Tier Grouping ficou em segundo lugar (muito próximo do vencedor).

A Analogia: Imagine organizar todas as pistas em 5 baldes claros: "Muito Seguro", "Seguro", "Ok", "Arriscado" e "Muito Arriscado".
Por que isso importa: Se um auditor do banco perguntar: "Por que você sinalizou esta pessoa?", a resposta é simples: "Ela estava no balde 'Arriscado'". É rápido, barato e fácil de explicar. Ele perdeu apenas uma fração mínima de precisão em comparação ao método genial.

3. O Campeão Peso-Pesado (CatBoost)
O sistema CatBoost (que é um tipo de detetive inteiramente diferente) na verdade venceu em uma métrica diferente (AUC-PR), que é melhor para detectar os fraudadores raros em uma multidão enorme. Foi um empate estatístico com o Entity Embeddings na métrica principal.

4. A Decepção (TabNet)
O modelo TabNet, que é uma ferramenta de "aprendizado profundo" popular, falhou em superar os métodos de árvore mais simples.

A Analogia: Foi como trazer um robô super complexo para um trabalho que uma lanterna simples poderia fazer. Quando os dados eram escassos (pouca informação disponível), o robô colapsou completamente e teve um desempenho ruim. Os pesquisadores descobriram que usar um TabNet padrão, pronto para uso, não ajudou aqui.

As Grandes Trocas (Trade-offs)

O artigo destaca três coisas principais a considerar ao escolher um método:

Precisão vs. Custo: O "Tradutor Gênio" (Embeddings) foi o mais preciso, mas levou 4 vezes mais tempo para rodar do que o "Gerente de Agrupamento" (Tier Grouping).
Precisão vs. Explicabilidade: No setor bancário, você frequentemente precisa explicar suas decisões aos reguladores (como a regra SR 11-7). O "Tradutor Gênio" é uma "caixa preta" — você não consegue explicar facilmente sua lógica. O "Gerente de Agrupamento" é transparente; você pode mostrar ao auditor exatamente em qual balde a pessoa caiu.
O Problema da Métrica: Dependendo de qual cartão de pontuação você usa, o vencedor muda. Se você se importa com o ranking geral, os Embeddings vencem. Se você se importa em capturar especificamente os fraudadores raros, o sistema CatBoost vence.

A Conclusão

Os pesquisadores concluíram que não existe um método único "perfeito".

Se você quer precisão máxima e tem poder computacional, use Entity Embeddings.
Se você precisa explicar suas decisões para auditores e quer velocidade, use Tier Grouping. Foi quase tão bom quanto o melhor método, mas muito mais fácil de entender.
Não assuma que os modelos de aprendizado profundo mais complexos e modernos (como o TabNet) sempre vencerão; às vezes, uma abordagem mais simples e bem ajustada funciona melhor.

Em resumo, você nem sempre precisa de uma IA super complexa para pegar um fraudador. Às vezes, um sistema de arquivamento inteligente e organizado (Tier Grouping) é tão eficaz quanto e muito mais fácil de defender em tribunal.

Resumo Técnico: Codificadores Interpretáveis versus Aprendidos para Detecção de Fraude de Alta Cardinalidade

Declaração do Problema

O artigo aborda o desafio de representar variáveis categóricas de alta cardinalidade (ex: identificadores de cartão, domínios de e-mail, impressões digitais de dispositivos) em conjuntos de dados tabulares de detecção de fraude. Enquanto os benchmarks clássicos de aprendizado de máquina frequentemente focam no desempenho do codificador dentro de famílias de modelos tradicionais, e estudos de aprendizado profundo costumam fixar as codificações para variar as arquiteturas dos modelos, há uma falta de evidências controladas comparando codificadores entre paradigmas. Essa lacuna é crítica para o setor financeiro regulamentado (ex: sob a norma SR 11-7), onde a transparência e a auditabilidade do modelo são exigidas juntamente com alta precisão. Os autores buscam determinar as compensações entre precisão, custo computacional e interpretabilidade ao selecionar uma estratégia de codificação para dados de fraude de alta cardinalidade, isolando especificamente a contribuição do codificador em relação ao aprendiz subsequente.

Metodologia

O estudo utiliza o conjunto de dados IEEE-CIS Fraud Detection (590.540 registros, classe positiva de 3,5%, 8 colunas de alta cardinalidade com cardinalidades variando de 4 a 13.553).

Desenho Experimental

Os autores conduziram um experimento controlado usando validação cruzada de 5 dobras estratificada com 3 repetições (15 execuções no total). A inovação central é fixar o aprendiz subsequente para a maioria das comparações, a fim de isolar o efeito do método de codificação.

Sete Codificadores Avaliados:

E1 (One-hot): Codificação de indicador padrão com descarte baseado em frequência.
E2 (Target Encoding): Média da variável alvo fora da dobra (out-of-fold) com suavização Bayesiana ( $m=30$ ).
E3 (Frequency): Mapeamento dos valores para sua frequência relativa.
E4 (Tier Grouping): Um método interpretável onde taxas de fraude suavizadas por via Bayesiana são agrupadas em $K$ níveis ordinais ( $K \in \{3, 5, 7\}$ ). Isso produz limites legíveis por auditores.
E5 (CatBoost): Utilizado como uma referência entre paradigmas, consumindo variáveis categóricas puras nativamente via estatísticas de alvo ordenadas por permutação.
E6 (Entity Embeddings $\to$ LightGBM): Uma rede neural rasa aprende embeddings densos para colunas de alta cardinalidade, que são então extraídos e alimentados em um aprendiz LightGBM congelado.
E7 (Target Encoding $\to$ TabNet): Utiliza a mesma entrada codificada pelo alvo que o E2, mas a alimenta na arquitetura de aprendizado profundo TabNet.

Comparações Controladas:

E1, E2, E3, E4, E6: Todos alimentados pelo mesmo aprendiz LightGBM congelado (hiperparâmetros fixos).
E5 & E7: Servem como referências de cruzamento de paradigma usando diferentes aprendizes (CatBoost e TabNet, respectivamente).

Métricas e Estatística:

Métrica Primária: AUC-ROC (fixada a priori para evitar a escolha tendenciosa de métricas/metric shopping).
Métrica Secundária: AUC-PR (para sensibilidade ao desequilíbrio).
Inferência Estatística: Teste t reamostrado corrigido de Nadeau–Bengio (para lidar com dobras de CV correlacionadas) e testes de Friedman/Nemenyi para classificação.

Principais Resultados

1. Precisão e Significância Estatística

Entity Embeddings (E6) alcançou o maior AUC-ROC (0,9612), empatado estatisticamente com o CatBoost (E5) em 0,9602.
Tier Grouping (E4) obteve 0,9548, sendo estatisticamente inferior ao E6 (+0,0064, $p < 0,001$ ), mas empatado estatisticamente com o TabNet (E7) e significativamente superior ao codificador de Frequência.
Target Encoding (E2) (0,9571) superou o Tier Grouping por uma margem pequena, mas significativa (0,0023, $p=0,0003$ ).
TabNet (E7) (0,9522) não superou os pipelines baseados em árvores e teve desempenho comparável ao Tier Grouping.

2. Divergência de Métricas (AUC-ROC vs. AUC-PR)

O estudo destaca uma divergência crítica nas classificações das métricas:

AUC-ROC: Liderado por E6 (Embeddings) e E5 (CatBoost).
AUC-PR: O CatBoost (E5) lidera significativamente (0,8216) sobre o E6 (0,7928). A lacuna no AUC-PR (0,029) é uma ordem de magnitude maior do que a lacuna no AUC-ROC (0,001).
Conclusão: Nenhum codificador domina ambas as métricas. A escolha depende dos objetivos de implantação (qualidade de ranking vs. equilíbrio de precisão-recall).

3. Custo Computacional e Eficiência

Tier Grouping (E4) é o mais eficiente, exigindo 24,5 segundos/dobra.
Entity Embeddings (E6) exigem 104,6 segundos/dobra (4,3x o E4) para um ganho marginal de 0,0064 no AUC-ROC.
TabNet (E7) é o mais caro, com 1654,3 segundos/dobra (67x o E4) e não oferece vantagem de precisão sobre os métodos baseados em árvores neste cenário.

4. Robustez e Sensibilidade

Escassez de Dados: Sob subamostragem (redução para 10% dos dados), o TabNet (E7) colapsou (AUC-ROC caiu para 0,8108 com alta variância), enquanto os codificadores baseados em árvores (E1–E6) mostraram uma degradação paralela e estável.
Análise por Coluna: Quando treinados em colunas únicas de alta cardinalidade, os Entity Embeddings (E6) subperformaram os codificadores clássicos. Isso confirma que a vantagem do E6 advém da representação conjunta multicolunas (capturando coocorrências latentes entre colunas como card1 e DeviceInfo) em vez de uma codificação de coluna única superior.
Sensibilidade de Níveis (Tier): O desempenho do E4 foi amplamente insensível ao número de níveis ( $K$ ) ou regras de agrupamento, com variações < 0,0019 no AUC-ROC.

Principais Contribuições

Experimento Controlado entre Paradigmas: Os autores isolaram o codificador como a variável controlada através de ambos os paradigmas de aprendizado clássico (LightGBM) e aprendizado profundo (TabNet), atribuindo aproximadamente 0,01 de variância no AUC-ROC apenas às escolhas de codificação.
Codificação Operacionalizável e Auditável: O artigo faz o benchmarking do "Tier Grouping", um método que agrupa taxas de fraude suavizadas em níveis ordinais, demonstrando ser uma alternativa competitiva, de baixo custo e totalmente auditável aos embeddings aprendidos.
Enquadramento Focado em Interpretabilidade: O estudo pontua explicitamente a interpretabilidade e o processamento junto com a precisão, fornecendo um framework para o setor financeiro regulamentado, onde os proprietários de risco de modelos devem justificar as pontuações (ex: sob a norma SR 11-7).

Significância e Alegações

O artigo alega que a escolha do codificador é um grau de liberdade independente que frequentemente é confundido em estudos anteriores que variavam as famílias de modelos. As descobertas sugerem que:

Embeddings aprendidos (E6) oferecem o maior AUC-ROC, mas com um custo computacional mais elevado e reduzida interpretabilidade (vetores de 30 dimensões vs. limites claros de níveis).
Tier Grouping (E4) oferece um "ponto ideal" (sweet spot) para ambientes regulados: ele fica atrás do melhor desempenho por apenas 0,0064 no AUC-ROC, mas fornece limites transparentes e amigáveis para auditores, além de ser significativamente mais rápido.
TabNet pronto para uso não supera os pipelines baseados em árvores nesta tarefa e é altamente sensível à escassez de dados.
A Seleção da Métrica Importa: Na detecção de fraude, o AUC-ROC e o AUC-PR podem gerar "vencedores" diferentes (CatBoost vence em PR, Embeddings em ROC), o que exige que a escolha da métrica esteja alinhada com objetivos específicos de implantação.

Os autores concluem que, embora os embeddings aprendidos forneçam uma margem de precisão através da representação conjunta, o Tier Grouping é uma alternativa robusta, interpretável e computacionalmente eficiente que satisfaz rigorosos requisitos regulatórios sem perda significativa de desempenho.