🤖 machine learning

TabSHAP

Ce papier présente TabSHAP, un cadre d'interprétabilité agnostique au modèle qui attribue la logique de décision locale des classificateurs tabulaires basés sur les LLM en quantifiant l'impact distributionnel de chaque fonctionnalité via une divergence Jensen-Shannon appliquée aux champs clés-valeurs masqués, surpassant ainsi les méthodes existantes en termes de fidélité sur des benchmarks réels.

Auteurs originaux : Aryan Chaudhary, Prateek Agarwal, Tejasvi Alladi

Publié 2026-04-24

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Aryan Chaudhary, Prateek Agarwal, Tejasvi Alladi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🧠 Le Dilemme : La Boîte Noire Intelligente

Imaginez que vous avez un super-cerveau numérique (une "Grande Modèle de Langage" ou LLM) qui a été entraîné à lire des tableaux de données, comme des dossiers médicaux ou des relevés bancaires. Ce cerveau est incroyable : il peut prédire si vous allez avoir une maladie cardiaque ou si vous gagnerez plus de 50 000 $ par an, souvent mieux que les anciens experts (les arbres de décision classiques).

Mais il y a un gros problème : c'est une boîte noire.
Quand ce cerveau dit "Oui, vous avez un risque", il ne vous dit pas pourquoi. Est-ce à cause de votre âge ? De votre salaire ? Ou d'une combinaison bizarre de facteurs ? Dans des domaines vitaux comme la santé ou la finance, on ne peut pas se contenter d'une réponse magique. Il faut savoir qui est responsable de la décision.

C'est là qu'intervient TabSHAP.

🕵️‍♂️ TabSHAP : Le Détective de la Décision

TabSHAP est un nouvel outil conçu pour ouvrir cette boîte noire sans la casser. Son but est de dire : "Regardez, c'est à cause de ce facteur précis que le modèle a pris cette décision."

Pour comprendre comment ça marche, utilisons une analogie culinaire.

1. La Recette (Le Prompt)

Imaginez que le modèle lit une recette de gâteau. Au lieu de dire "Mélangez 200g de farine et 3 œufs", le modèle voit une phrase écrite : "Farine: 200g Œufs: 3".

L'erreur des anciennes méthodes : Elles prenaient un mot au hasard dans la phrase et le gobaient. Par exemple, elles enlevaient juste le chiffre "2" dans "200". Résultat ? La phrase devient "Farine: 00g", ce qui est absurde et fait paniquer le modèle (il commence à halluciner).
La solution de TabSHAP (Masquage Atomique) : TabSHAP est plus malin. Il sait que "Farine: 200g" est un seul ingrédient complet. Il retire tout l'ingrédient d'un coup. Il enlève la ligne entière "Farine: 200g". La recette reste lisible, mais il manque un élément clé.

2. Le Test de Goût (La Divergence)

Une fois l'ingrédient retiré, TabSHAP demande au modèle : "Maintenant, sans la farine, que penses-tu du gâteau ?"

Les anciennes méthodes : Elles regardaient juste si le modèle changeait d'avis (ex: passer de "C'est un gâteau" à "Ce n'est pas un gâteau"). C'est trop binaire.
La méthode TabSHAP (La Divergence de Jensen-Shannon) : Elle regarde la confiance du modèle.
- Avant : Le modèle était sûr à 99% que c'était un gâteau.
- Après avoir retiré la farine : Le modèle est maintenant perdu, il hésite entre "gâteau", "pain" ou "rien". Sa certitude a chuté.
- TabSHAP mesure cette perte de certitude (le chaos dans la tête du modèle) plutôt que le simple changement de réponse. Plus la certitude s'effondre, plus l'ingrédient (le facteur) était important.

3. Le Jeu des Équipes (Les Coalitions)

Pour être juste, TabSHAP ne teste pas les ingrédients un par un. Il joue à un jeu de cartes avec des équipes.

Il crée des centaines de scénarios : "Et si on avait la farine mais pas les œufs ?", "Et si on avait tout sauf le sucre ?".
Il calcule à quel point chaque ingrédient est indispensable pour que l'équipe (le modèle) garde sa certitude. C'est comme calculer la contribution de chaque joueur dans une équipe de football pour gagner le match.

🏆 Ce que TabSHAP a découvert

Les auteurs ont testé leur détective sur deux cas célèbres :

Le Revenu (Adult Income) : Qui va gagner plus de 50k$ ?
La Maladie Cardiaque (Heart Disease) : Qui risque d'avoir un problème cardiaque ?

Les résultats sont fascinants :

Plus fiable que les devinettes : Quand on retire les facteurs identifiés par TabSHAP, le modèle perd confiance beaucoup plus vite que si on retirait des facteurs au hasard. C'est la preuve que TabSHAP a trouvé les vraies causes.
Différent des arbres de décision : Les modèles classiques (comme XGBoost) regardent les chiffres précis (ex: "Si l'âge > 45"). Mais TabSHAP a montré que le modèle IA utilise aussi le sens des mots. Par exemple, pour prédire le revenu, le modèle IA accorde une importance énorme à la "Profession" ou au "Niveau d'éducation" (des concepts sémantiques), là où un arbre de décision classique se focaliserait uniquement sur des seuils numériques.

🚀 En Résumé

TabSHAP, c'est comme un traducteur qui explique la pensée d'un génie.

Il ne triche pas en cassant la phrase (il retire les blocs entiers).
Il ne regarde pas juste la réponse finale, mais comment le modèle doute quand on lui enlève une information.
Il permet de faire confiance à l'IA dans des situations critiques, en nous disant exactement pourquoi elle a pris sa décision.

C'est un pas de géant pour rendre l'intelligence artificielle non seulement plus intelligente, mais aussi plus honnête et compréhensible par les humains.

1. Problématique

L'émergence des Grands Modèles de Langage (LLM) fine-tunés sur des données tabulaires sérialisées (transformées en prompts textuels) offre une alternative puissante aux modèles arborescents traditionnels (comme XGBoost), en particulier pour les ensembles de données hétérogènes ou riches en contexte. Cependant, leur déploiement dans des domaines à haut risque (santé, finance) est entravé par un manque d'interprétabilité fidèle.

Les défis majeurs identifiés sont :

Inadéquation des méthodes existantes : Les approches actuelles reposent souvent sur des proxies linéaires globaux ou des attributions au niveau des sous-mots (tokens), ce qui ne capture pas la logique décisionnelle non linéaire et spécifique à l'instance des LLM.
Problème de sémantique tabulaire : Dans les données tabulaires, une valeur de fonctionnalité (ex: "Age: 50") est souvent composée de plusieurs tokens. La suppression naïve d'un seul token corrompt la syntaxe du prompt et peut provoquer des hallucinations, faussant l'analyse d'importance.
Mesure de l'incertitude : Les méthodes traditionnelles mesurent l'impact par des changements de probabilité scalaires ou des flips de prédiction, ignorant l'incertitude probabiliste complète du modèle (la distribution sur toutes les classes).

2. Méthodologie : TabSHAP

Les auteurs proposent TabSHAP, un cadre d'interprétabilité agnostique au modèle conçu pour attribuer la logique décisionnelle locale des classificateurs tabulaires basés sur les LLM. La méthodologie repose sur trois piliers :

A. Agrégation de classe de style "Verbalizer"

Contrairement aux classificateurs discriminatifs, les LLM génératifs distribuent la masse de probabilité sur un vaste vocabulaire. Un même label (ex: "Oui") peut être représenté par plusieurs tokens ("Yes", " yes", "ye" + "s").

Solution : TabSHAP agrège les probabilités des top-K logits suivants qui correspondent à un label de classe donné avant de calculer les attributions. Cela assure une stabilité des scores, même pour les modèles distillés ou quantifiés.

B. Masquage Atomique au niveau des Champs (Feature-Level Atomic Masking)

Au lieu de masquer des tokens individuels, TabSHAP traite chaque paire clé-valeur sérialisée (ex: age:50) comme une unité atomique.

Mécanisme : Lors de l'évaluation d'une coalition de caractéristiques, si une fonctionnalité est absente, la chaîne entière key:value est omise du prompt. Cela préserve la syntaxe du prompt et évite les valeurs numériques invalides, garantissant que la perturbation correspond à une suppression de fonctionnalité sémantiquement significative.

C. Attribution Distributionnelle via Divergence de Jensen-Shannon (JSD)

TabSHAP ne mesure pas seulement si l'étiquette prédite change, mais l'impact sur la distribution de probabilité complète du modèle.

Fonction de valeur : La valeur d'une coalition $S$ est définie par sa similarité distributionnelle avec la sortie du modèle complet (toutes les fonctionnalités présentes).
Métrique : La similarité est calculée en utilisant la Divergence de Jensen-Shannon (JSD) entre la distribution des classes avec toutes les fonctionnalités ( $P_{full}$ ) et celle avec la coalition $S$ ( $P_S$ ).
$v(S) = 1 - \min\left(\frac{JSD_{nat}(P_{full} \parallel P_S)}{\ln 2}, 1\right)$
Estimation : Les valeurs de Shapley sont approximées via un échantillonnage Monte Carlo de coalitions (incluant toutes les coalitions "leave-one-out" et des coalitions aléatoires), en comparant la similarité moyenne des coalitions incluant une fonctionnalité $j$ à celles qui l'excluent.

3. Contributions Clés

Attribution Distributionnelle : Introduction de la JSD pour capturer les déplacements de confiance sur l'ensemble des classes, offrant une mesure plus complète de l'influence d'une fonctionnalité que les simples flips de prédiction.
Intégrité Sémantique : Le masquage au niveau des champs atomiques (key:value) préserve la structure du prompt, résolvant le problème de la fragmentation sémantique inhérente aux données tabulaires sérialisées.
Validation Empirique : Une évaluation rigoureuse démontrant que TabSHAP est plus fidèle que les baselines aléatoires et les proxies XGBoost, capable d'isoler les fonctionnalités critiques pour la décision.

4. Résultats Expérimentaux

Les expériences ont été menées sur deux benchmarks : Adult Income (revenu > 50k$) et Heart Disease (prédiction de maladie). Le modèle utilisé est un DeepSeek-R1-Distill-Llama-8B fine-tuné avec QLoRA.

Courbes de Fidélité (Deletion Curves) : Lorsque les fonctionnalités sont supprimées selon le classement de TabSHAP, la probabilité de la classe prédite initiale chute de manière abrupte. TabSHAP surpasse significativement les baselines aléatoires et les proxies TreeSHAP (XGBoost) en termes de fidélité.
Analyse Comparative (LLM vs XGBoost) :
- Une corrélation de rang de Spearman modérée ( $\rho \approx 0.65$ ) est observée, indiquant que les LLM capturent les signaux causaux fondamentaux mais utilisent une logique interne différente.
- Biais Sémantique : Les LLM accordent une importance disproportionnée aux fonctionnalités riches en texte sémantique (ex: Profession, Éducation), tandis que XGBoost privilégie les coupures numériques précises (ex: Heures travaillées). TabSHAP révèle cette nuance, masquée par les modèles linéaires globaux.
Étude d'Ablation sur les Métriques de Distance : Une comparaison entre l'utilisation de la JSD, de la divergence KL et de la distance L1 pour le calcul des attributions montre que la JSD offre les meilleures performances de fidélité dans ce contexte.

5. Signification et Conclusion

TabSHAP comble un vide critique en fournissant des attributions fidèles au niveau des fonctionnalités pour les classificateurs tabulaires basés sur les LLM.

Impact : Cela permet le déploiement responsable de ces modèles dans des domaines critiques en révélant les biais sémantiques et en validant la logique décisionnelle.
Limites : La méthode reste coûteuse en temps de calcul (nécessite de multiples passes avant), est actuellement limitée à des ensembles de données avec un nombre faible de fonctionnalités ( $M$ ), et ne modélise pas explicitement les interactions d'ordre supérieur.

En résumé, TabSHAP démontre que les LLM tabulaires ne sont pas de simples "boîtes noires" mais possèdent une logique décisionnelle complexe, riche en sémantique, qui peut être interprétée fidèlement grâce à une approche adaptée à la structure des données tabulaires.