🤖 machine learning

Interpretable vs Learned Encoders for High-Cardinality Fraud Detection

Cette étude évalue sept méthodes d'encodage catégoriel sur le jeu de données IEEE-CIS fraud, constatant que les plongements d'entités (entity embeddings) atteignent l'AUC-ROC la plus élevée (ex æquo avec CatBoost) en exploitant des représentations multi-colonnes conjointes, tout en surpassant l'encodage par groupes de paliers traditionnel et en ne parvenant pas à égaler les pipelines basés sur des arbres en termes d'AUC-PR.

Auteurs originaux : Xiao Han, Jingjing Liu, Moxuan Zheng, Zhen Zhang, Chenyu Wu

Publié 2026-07-02

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Xiao Han, Jingjing Liu, Moxuan Zheng, Zhen Zhang, Chenyu Wu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez une banque essayant de repérer un voleur dans une foule de 590 000 personnes. La plupart de ces personnes sont honnêtes, mais environ 3,5 % sont des fraudeurs. Le problème est que la banque dispose d'une liste d'« indices » (comme des adresses e-mail, des types d'appareils ou des numéros de carte), mais beaucoup de ces indices possèdent des milliers de variations uniques. C'est comme essayer de reconnaître un voleur grâce à sa pointure de chaussures alors qu'il y a 13 000 pointures différentes dans la foule.

Pour résoudre ce problème, les chercheurs ont dû trouver la meilleure façon de traduire ces indices désordonnés et à grand nombre de variations dans un format compréhensible par un ordinateur. Ils ont testé sept « méthodes de traduction » différentes (encodeurs) pour voir laquelle aidait le mieux l'ordinateur à repérer la fraude.

Voici le détail de leur expérience et de leurs résultats, en utilisant des analogies simples :

La configuration : Le concours de « Traducteurs »

Considérez le modèle informatique (LightGBM) comme un détective. Les « encodeurs » sont les traducteurs qui prennent les indices bruts et les expliquent au détective.

Les chercheurs voulaient savoir : Est-ce que le traducteur importe, ou est-ce que le détective est la seule chose qui compte ? Pour le savoir, ils ont gardé le détective exactement le même et n'ont changé que le traducteur.

Ils ont testé sept traducteurs :

Le Dictionnaire (One-hot) : Liste chaque élément unique. (Trop long et encombrant).
Le Statisticien (Target Encoding) : Remplace un indice par le « score de culpabilité » moyen des personnes ayant possédé cet indice.
Le Compteur de Fréquence : Remplace un indice par sa fréquence d'apparition.
Le Gestionnaire de Groupes (Tier Grouping) : Trie les indices en compartiments (ex: « Risque Faible », « Risque Moyen », « Risque Élevé ») basés sur leurs scores de culpabilité. Ceci est conçu pour être facile à lire pour les auditeurs humains.
Le Réseau de Neurones (Entity Embeddings) : Un système intelligent qui apprend une « empreinte digitale » unique pour chaque indice en observant comment les indices interagissent entre eux.
Le Pack Tout-en-un (CatBoost) : Un système pré-packagé qui effectue sa propre traduction et son propre travail de détective.
L'Apprenant Profond (TabNet) : Un réseau de neurones très complexe et moderne.

Les Résultats : Qui a gagné ?

1. Le Traducteur le plus Intelligent (Entity Embeddings)
La méthode des Entity Embeddings a remporté le concours de précision. Elle a donné au détective la meilleure vue des fraudeurs (score AUC-ROC le plus élevé).

Le bémol : C'est comme embaucher un traducteur de génie qui parle 30 langues à la fois. Il a trouvé des modèles en observant comment les indices fonctionnaient ensemble (par exemple, un domaine d'e-mail spécifique combiné à un type d'appareil spécifique). Cependant, cela coûte cher en ressources de calcul et il est plus difficile pour un humain d'expliquer pourquoi une décision a été prise.

2. Le Traducteur « Assez Bon » et Auditable (Tier Grouping)
La méthode Tier Grouping est arrivée en deuxième position (très proche du vainqueur).

L'analogie : Imaginez que vous triez tous les indices en 5 compartiments clairs : « Très Sûr », « Sûr », « Moyen », « Risqué » et « Très Risqué ».
Pourquoi c'est important : Si un auditeur bancaire demande : « Pourquoi avez-vous signalé cette personne ? », la réponse est simple : « Elle était dans le compartiment "Risqué" ». C'est rapide, peu coûteux et facile à expliquer. Cette méthode n'a perdu qu'un infime peu de précision par rapport à la méthode de génie.

3. Le Champion de Poids Lourds (CatBoost)
Le système CatBoost (qui est un type de détective entièrement différent) a en fait gagné sur une métrique différente (AUC-PR), qui est meilleure pour repérer les rares fraudeurs dans une immense foule. Il y avait une égalité statistique avec les Entity Embeddings sur la métrique principale.

4. La Déception (TabNet)
Le modèle TabNet, qui est un outil de « deep learning » populaire, a échoué à battre les méthodes plus simples basées sur les arbres de décision.

L'analogie : C'était comme apporter un robot super complexe pour un travail qu'une simple lampe torche pourrait accomplir. Lorsque les données étaient rares (peu d'informations disponibles), le robot s'est complètement effondré et a mal performé. Les chercheurs ont constaté que l'utilisation d'un TabNet standard et prêt à l'emploi ne servait pas à grand-chose ici.

Les Grands Compromis

L'article souligne trois points principaux à considérer lors du choix d'une méthode :

Précision vs Coût : Le « Traducteur de Génie » (Embeddings) est le plus précis, mais il prend 4 fois plus de temps à s'exécuter que le « Gestionnaire de Groupes » (Tier Grouping).
Précision vs Expliquabilité : Dans le secteur bancaire, vous devez souvent expliquer vos décisions à des régulateurs (comme la règle SR 11-7). Le « Traducteur de Génie » est une « boîte noire » — vous ne pouvez pas expliquer facilement sa logique. Le « Gestionnaire de Groupes » est transparent ; vous pouvez montrer à l'auditeur exactement dans quel compartiment la personne est tombée.
Le Problème de la Métrique : Selon le tableau de bord que vous utilisez, le vainqueur change. Si vous vous souciez du classement global, les Embeddings gagnent. Si vous voulez spécifiquement attraper les rares fraudeurs, le système CatBoost gagne.

L'Essentiel à Retenir

Les chercheurs ont conclu qu'il n'existe pas de méthode « parfaite » unique.

Si vous voulez une précision maximale et que vous avez la puissance de calcul, utilisez les Entity Embeddings.
Si vous avez besoin d'expliquer vos décisions à des auditeurs et que vous voulez de la rapidité, utilisez le Tier Grouping. Il est presque aussi bon que la meilleure méthode, mais beaucoup plus facile à comprendre.
Ne supposez pas que les modèles de deep learning les plus complexes et modernes (comme TabNet) gagneront toujours ; parfois, une approche plus simple et bien ajustée fonctionne mieux.

En résumé, vous n'avez pas toujours besoin d'une IA super complexe pour attraper un fraudeur. Parfois, un système de classement intelligent et organisé (Tier Grouping) est tout aussi efficace et bien plus facile à défendre devant un tribunal.

Résumé technique : Encodeurs interprétables versus appris pour la détection de fraude à haute cardinalité

Énoncé du problème

L'article traite du défi que représente la représentation des variables catégorielles à haute cardinalité (ex. : identifiants de cartes, domaines d'e-mails, empreintes numériques d'appareils) dans les ensembles de données tabulaires de détection de fraude. Alors que les benchmarks classiques en apprentissage automatique se concentrent souvent sur la performance des encodeurs au sein de familles de modèles traditionnels, et que les études sur l'apprentissage profond fixent souvent les encodages pour faire varier les architectures de modèles, il existe un manque de preuves contrôlées comparant les encodeurs entre les paradigmes. Cette lacune est critique pour la finance réglementée (ex. : sous la norme SR 11-7), où la transparence et l'auditabilité des modèles sont requises parallèlement à une précision élevée. Les auteurs cherchent à déterminer les compromis entre précision, coût computationnel et interprétabilité lors de la sélection d'une stratégie d'encodage pour les données de fraude à haute cardinalité, en isolant spécifiquement la contribution de l'encodeur de l'apprenant en aval.

Méthodologie

L'étude utilise l'ensemble de données IEEE-CIS Fraud Detection (590 540 enregistrements, classe positive de 3,5 %, 8 colonnes à haute cardinalité avec des cardinalités allant de 4 à 13 553).

Conception expérimentale

Les auteurs ont mené une expérience contrôlée utilisant une validation croisée de type k-fold stratifiée avec 5 répétitions (15 exécutions au total). L'innovation centrale consiste à fixer l'apprenant en aval pour la plupart des comparaisons afin d'isoler l'effet de la méthode d'encodage.

Sept encodeurs évalués :

E1 (One-hot) : Encodage d'indicateur standard avec suppression basée sur la fréquence.
E2 (Target Encoding) : Moyenne de la cible hors échantillon (out-of-fold) avec lissage bayésien ( $m=30$ ).
E3 (Fréquence) : Cartographie des valeurs vers leur fréquence relative.
E4 (Tier Grouping / Groupement par paliers) : Une méthode interprétable où les taux de fraude lissés par la méthode bayésienne sont regroupés en $K$ paliers ordonnés ( $K \in \{3, 5, 7\}$ ). Cela produit des limites lisibles par un auditeur.
E5 (CatBoost) : Utilisé comme référence inter-paradigme, consommant les variables catégorielles brutes nativement via des statistiques de cible ordonnées par permutation.
E6 (Entity Embeddings $\to$ LightGBM) : Un réseau de neurones peu profond apprend des plongements (embeddings) denses pour les colonnes à haute cardinalité, qui sont ensuite extraits et injectés dans un apprenant gelé, LightGBM.
E7 (Target Encoding $\to$ TabNet) : Utilise le même encodage de cible que E2 mais l'injecte dans l'architecture d'apprentissage profond TabNet.

Comparaisons contrôlées :

E1, E2, E3, E4, E6 : Tous alimentés par le même apprenant LightGBM gelé (hyperparamètres fixes).
E5 & E7 : Servent de références inter-paradigmes en utilisant des apprenants différents (CatBoost et TabNet, respectivement).

Métriques et statistiques :

Métrique principale : AUC-ROC (fixée a priori pour éviter le "metric shopping").
Métrique secondaire : AUC-PR (pour la sensibilité au déséquilibre).
Inférence statistique : Test t de resample corrigé de Nadeau–Bengio (pour gérer les plis de CV corrélés) et tests de Friedman/Nemenyi pour le classement.

Résultats clés

1. Précision et signification statistique

Les Entity Embeddings (E6) ont obtenu l'AUC-ROC la plus élevée (0,9612), statistiquement à égalité avec CatBoost (E5) à 0,9602.
Le Tier Grouping (E4) a obtenu 0,9548, ce qui est statistiquement inférieur à E6 (-0,0064, $p < 0,001$ ) mais statistiquement à égalité avec TabNet (E7) et significativement supérieur à l'encodage par fréquence.
Le Target Encoding (E2) (0,9571) a surpassé le Tier Grouping par une marge faible mais significative (0,0023, $p=0,0003$ ).
TabNet (E7) (0,9522) n'a pas surpassé les pipelines basés sur les arbres et s'est comporté de manière comparable au Tier Grouping.

2. Divergence des métriques (AUC-ROC vs. AUC-PR)

L'étude souligne une divergence critique dans les classements des métriques :

AUC-ROC : Menée par E6 (Embeddings) et E5 (CatBoost).
AUC-PR : CatBoost (E5) mène de manière significative (0,8216) devant E6 (0,7928). L'écart en AUC-PR (0,029) est un ordre de grandeur plus grand que l'écart en AUC-ROC (0,001).
Conclusion : Aucun encodeur ne domine les deux métriques. Le choix dépend des objectifs de déploiement (qualité du classement vs équilibre précision-rappel).

3. Coût computationnel et efficacité

Le Tier Grouping (E4) est le plus efficace, nécessitant 24,5 secondes/pli.
Les Entity Embeddings (E6) nécessitent 104,6 secondes/pli (4,3x E4) pour un gain marginal d'AUC-ROC de 0,0064.
TabNet (E7) est le plus coûteux à 1654,3 secondes/pli (67x E4) et n'offre aucun avantage de précision sur les méthodes basées sur les arbres dans cette configuration.

4. Robustesse et sensibilité

Rareté des données : Sous échantillonnage (jusqu'à 10 % des données), TabNet (E7) s'est effondré (l'AUC-ROC est tombée à 0,8108 avec une variance élevée), tandis que les encodeurs pilotés par des arbres (E1–E6) ont montré une dégradation parallèle et stable.
Analyse par colonne : Lorsqu'ils sont entraînés sur des colonnes uniques à haute cardinalité, les Entity Embeddings (E6) ont sous-performé les encodeurs classiques. Cela confirme que l'avantage de E6 provient de la représentation conjointe multi-colonnes (capturant les co-occurrences latentes entre les colonnes comme card1 et DeviceInfo) plutôt que d'un encodage de colonne unique supérieur.
Sensibilité des paliers : La performance de E4 était largement insensible au nombre de paliers ( $K$ ) ou aux règles de discrétisation, avec des variations < 0,0019 AUC-ROC.

Contributions clés

Expérience contrôlée inter-paradigme : Les auteurs ont isolé l'encodeur comme la variable contrôlée à travers les deux paradigmes (classique avec LightGBM et apprentissage profond avec TabNet), attribuant environ 0,01 de variance d'AUC-ROC uniquement aux choix d'encodage.
Opérationnalisation d'un encodage lisible par un auditeur : L'article évalue le "Tier Grouping", une méthode qui regroupe les taux de fraude lissés en paliers ordonnés, démontant qu'il s'agit d'une alternative compétitive, à faible coût et entièrement auditable aux plongements appris.
Cadrage axé sur l'interprétabilité : L'étude évalue explicitement l'interprétabilité et le calcul aux côtés de la précision, fournissant un cadre pour la finance réglementée où les responsables des risques de modèles doivent justifier les scores (ex. : sous la norme SR 11-7).

Signification et affirmations

L'article affirme que le choix de l'encodeur est un degré de liberté indépendant souvent confondu dans les études précédentes qui faisaient varier les familles de modèles. Les conclusions suggèrent que :

Les plongements appris (E6) offrent l'AUC-ROC la plus élevée mais avec un coût computationnel plus élevé et une interprétabilité réduite (vecteurs de 30 dimensions contre des limites de paliers claires).
Le Tier Grouping (E4) offre un "point d'équilibre" pour les environnements réglementés : il suit le meilleur performeur de seulement 0,0064 AUC-ROC, tout en étant nettement plus rapide et en fournissant des limites transparentes et compréhensibles pour les auditeurs.
TabNet "prêt à l'emploi" ne surpasse pas les pipelines basés sur les arbres sur cette tâche et est très sensible à la rareté des données.
Le choix de la métrique est crucial : Dans la détection de fraude, l'AUC-ROC et l'AUC-PR peuvent produire des "gagnants" différents (CatBoost gagne sur la PR, les Embeddings sur la ROC), ce qui nécessite que le choix de la métrique soit aligné sur les objectifs de déploiement spécifiques.

Les auteurs concluent que si les plongements appris offrent un avantage marginal de précision grâce à la représentation conjointe, le Tier Grouping est une alternative robuste, interprétable et efficace sur le plan computationnel qui satisfait les exigences réglementaires strictes sans perte de performance significative.