🤖 AI

From Training to Deployment: Post-Hoc Causal Feature Identification via Sensitivity Ratios

Cet article introduit le Rapport de Sensibilité Normalisé (NSR), un diagnostic post-hoc et agnostique au modèle qui identifie les caractéristiques causales par rapport aux caractéristiques fallacieuses dans les modèles entraînés en exploitant la stabilité de la sensibilité à travers des changements environnementaux structurés, atteignant une identification exacte sous des conditions spécifiques et démontrant une grande précision sur des ensembles de données tant synthétiques que réels.

Auteurs originaux : Athanasios Vlontzos, Giorgos Papanastasiou, Bernhard Kainz, Sotirios Tsaftaris

Publié 2026-07-29

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Athanasios Vlontzos, Giorgos Papanastasiou, Bernhard Kainz, Sotirios Tsaftaris

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un détective essayant de comprendre pourquoi une boule de cristal magique prédit l'avenir. Vous savez que la boule de cristal fonctionne, mais vous ne savez pas comment. A-t-elle appris les véritables lois de la physique, ou a-t-elle simplement eu de la chance en remarquant que le ciel est toujours bleu les mardis ? C'est le monde de l'apprentissage automatique (machine learning), où les ordinateurs apprennent à faire des prédictions en trouvant des motifs dans les données. Parfois, ils trouvent les bons motifs (comme « la pluie rend l'herbe mouillée »), mais souvent, ils trouvent des motifs « spécieux » — des coïncidences qui semblent réelles mais qui se brisent dès que la situation change (comme « les mardis causent la pluie »).

Le gros problème est qu'une fois qu'un modèle informatique est entraîné, c'est comme une boîte noire. Nous ne pouvons pas facilement jeter un coup d'œil à l'intérieur pour voir s'il s'appuie sur la vérité ou s'il s'agit juste d'un coup de chance. Les outils précédents pour corriger cela nécessitaient de repartir de zéro et de réentraîner le modèle, ce qui est lent et coûteux. Ce document présente une nouvelle façon de jeter un coup d'œil à l'intérieur d'un modèle terminé sans rien changer à la façon dont il a été construit. C'est comme avoir une lampe de poche spéciale qui peut vous dire, simplement en observant comment le modèle réagit à différentes pièces, s'il regarde les vrais meubles ou juste les ombres sur le mur.

La nouvelle lampe de poche du détective : le NSR

Les auteurs de ce document, Athanasios Vlontzos et son équipe, ont inventé un outil appelé le Normalised Sensitivity Ratio (NSR) (Ratio de Sensibilité Normalisé). Considérez un modèle d'IA entraîné comme un chef qui a perfectionné une recette de soupe. Le chef sait que s'il ajoute une pincée de sel (un ingrédient « causal »), la soupe aura meilleur goût, peu importe où il cuisine. Mais s'il a appris que « chaque fois qu'il pleut dehors, la soupe a un goût salé » (une corrélation « spécieuse »), cette règle ne fonctionne que dans la cuisine où il pleut. Si le chef passe dans une cuisine ensoleillée, la soupe pourrait avoir un goût terrible parce que la pluie n'est plus là pour déclencher la « salinité ».

L'outil NSR fonctionne en demandant au chef de goûter la soupe dans différentes cuisines (environnements).

Le test causal : Si le chef ajoute du sel, le goût change de la même manière dans chaque cuisine. La sensibilité est constante.
Le test spécieux : Si le chef se repose sur la règle de la « pluie », le goût change radicalement selon qu'il pleut ou non dans cette cuisine spécifique. La sensibilité oscille.

Le NSR mesure cette « oscillation ». Si la réaction du modèle à une caractéristique est constante à travers différents environnements, le NSR dit : « C'est une caractéristique réelle et causale ! » Si la réaction saute d'un côté à l'autre, le NSR dit : « C'est une coïncidence spécieuse ! »

Comment la magie fonctionne (sans la magie)

Le document prouve que si vous avez au moins trois environnements différents (comme trois hôpitaux différents ou trois lots de données différents) où les choses « spécieuses » (comme le bruit des équipements ou la météo) changent, mais que les causes « réelles » restent les mêmes, l'outil NSR peut parfaitement séparer la vérité des mensonges.

Les auteurs ont soumis cette idée à une série de tests rigoureux :

Détection parfaite : Dans leurs simulations informatiques, lorsque les conditions étaient réunies — spécifiquement avec au moins 5 environnements et une magnitude de décalage de 1 ou plus — l'outil a obtenu un score parfait. Sous ces conditions de régime spécifiques, il a identifié chaque caractéristique causale et chaque caractéristique spécieuse avec une précision de 100 % (un AUROC de 1,000). C'était comme trouver une aiguille dans une botte de foin sans jamais toucher au foin.
Les zones d'exclusion : Le document est très honnête sur les moments où l'outil échoue. Si vous n'avez que deux environnements, l'outil devient aveugle. Si les changements entre les environnements sont trop symétriques (comme un miroir parfait), l'outil s'embrouille. Ils ont également constaté que si le « décalage » entre les environnements est minuscule par rapport au bruit, l'outil ne peut pas le voir. C'est comme essayer d'entendre un murmure dans un ouragan ; le signal se perd.
Test en conditions réelles : Ils l'ont testé sur des données réelles, spécifiquement un jeu de données de partage de vélos d'une ville. Ils savaient quels facteurs (comme la température et l'heure de la journée) causaient réellement la location de vélos, et lesquels n'étaient que des coïncidences. Sans réentraîner le modèle du tout, l'outil NSR a correctement identifié 6 des 8 facteurs causaux réels. Il a fait bien mieux que les autres méthodes standards qui se contentent d'observer la taille des nombres dans le modèle.

Pourquoi cela importe

La partie la plus excitante de cette découverte est qu'elle fonctionne après que le modèle a été entraîné. Habituellement, si vous soupçonnez qu'un modèle triche en utilisant des motifs spécieux, vous devez le jeter et recommencer à zéro. Avec le NSR, vous pouvez simplement prendre le modèle terminé, braquer la lampe de poche dessus et dire : « Ah, je vois que vous vous appuyez sur le jour de la semaine au lieu des symptômes médicaux réels. »

Les auteurs montrent que cette méthode est un diagnostic « post-hoc », ce qui signifie qu'il s'agit d'un examen que l'on peut donner à un modèle déjà en service. Elle n'a pas besoin de connaître le code interne du modèle, et elle n'a pas besoin de toucher au processus d'entraînement. Elle se contente d'observer comment le modèle se comporte lorsque le monde change autour de lui.

Cependant, le document trace aussi une ligne claire dans le sable. Cet outil fonctionne mieux lorsque les causes « réelles » (comme la biologie ou la physique) restent stables, et que seul le « bruit » (comme les différentes machines ou localisations) change. Si les causes réelles elles-mêmes changent d'un endroit à l'autre (par exemple, si la définition d'une « maladie » change entre deux hôpitaux), l'outil pourrait s'embrouiller et penser qu'une cause réelle est une simple coïncidence. Les auteurs précisent qu'il s'agit d'une limite, et non d'un bug.

En résumé, ce document nous offre un nouveau moyen de faire confiance à notre IA. Il fournit une garantie mathématique que si le monde change d'une certaine manière, nous pouvons repérer les menteurs dans la logique du modèle. Il transforme la boîte noire en une boîte de verre, nous permettant de voir exactement sur quoi le modèle s'appuie, afin de s'assurer qu'il ne se contente pas de deviner en fonction de la météo.

Résumé technique : Identification post-hoc de caractéristiques causales via les ratios de sensibilité

Énoncé du problème

L'article traite d'une lacune critique dans l'interprétabilité de l'apprentissage automatique : déterminer quelles caractéristiques un modèle pré-entraîné utilise de manière causale ou spécieuse, sans accès à la procédure d'entraînement, à la classe du modèle ou au graphe causal sous-jacent.

Les méthodes existantes d'identification de caractéristiques causales, telles que l'Invariant Risk Minimization (IRM) et l'Invariant Causal Prediction (ICP), nécessitent une intervention durant la phase d'entraînement (par exemple, en modifiant les fonctions de perte ou en effectuant des recherches exhaustives de sous-ensembles). Par conséquent, elles ne peuvent pas diagnostiquer des modèles qui ont déjà été déployés. Les auteurs se concentrent sur le régime de décalage structuré (structured-shift regime), un scénario courant dans les données cliniques multi-sites ou la génomique multi-lots, où les environnements diffèrent principalement par la moyenne des caractéristiques spécieuses (ex: décalages d'équipement, effets de lot) tandis que le mécanisme causal et la distribution des caractéristiques causales restent stables. Dans ce cadre, un modèle s'appuyant sur des caractéristiques spécieuses présentera une sensibilité dépendante de l'environnement, alors qu'un modèle s'appuyant sur des caractéristiques causales montrera une sensibilité constante.

Méthodologie : Ratio de Sensibilité Normalisé (NSR)

Les auteurs proposent le Ratio de Sensibilité Normalisé (NSR), une métrique de diagnostic post-hoc et agnostique au modèle.

Concept central

Le NSR quantifie la stabilité de la sensibilité d'un modèle à une caractéristique spécifique à travers différents environnements.

Ratio de Sensibilité Causale (CSR) : Pour une caractéristique $j$ et des environnements $e$ et une référence $e_{ref}$ , le CSR mesure le décalage moyen de la sortie du modèle lorsque la caractéristique $j$ est remplacée par un tirage de la distribution marginale de l'environnement de référence, en maintenant les autres caractéristiques fixes.
Normalisation : Le NSR est défini comme le carré du coefficient de variation ( $CV^2$ ) des valeurs du CSR à travers les environnements, normalisé par la moyenne du CSR.
$\text{NSR}_j(e_{ref}) := \frac{\text{Var}_{e \neq e_{ref}}[\text{CSR}_j(e, e_{ref})]}{(\mathbb{E}_{e \neq e_{ref}}[\text{CSR}_j(e, e_{ref})])^2}$

Propriétés clés

Invariance des poids : La normalisation annule les poids appris du modèle ( $\hat{w}_j^2$ ). Cela garantit que les caractéristiques spécieuses avec de petits coefficients (qui pourraient être ignorées par une analyse basée sur les poids) sont tout de même détectées si leur sensibilité varie selon les environnements.
Signal de diagnostic : Sous le régime de décalage structuré :
- Caractéristiques causales : Induisent une sensibilité constante à travers les environnements $\implies \text{NSR}_j = 0$ .
- Caractéristiques spécieuses : Induisent une sensibilité qui suit le décalage environnemental $\implies \text{NSR}_j > 0$ .
Implémentation : Le NSR nécessite uniquement un modèle boîte noire entraîné, des étiquettes d'environnement et des données de test (held-out data). Il peut être calculé en utilisant des passages avant (forward passes), des valeurs SHAP ou l'importance par permutation comme estimateurs interchangeables du signal de sensibilité.

Contributions clés

1. Théorème d'identification exacte

Sous un Modèle Causal Structurel (SCM) linéaire dans le régime de décalage structuré avec $K \ge 3$ environnements non dégénérés, le NSR atteint une identification exacte.

Théorème 1 : Pour tout prédicteur linéaire avec des poids non nuls, $\text{NSR}_j = 0 \iff j$ est une caractéristique causale.
La preuve démontre que le signal d'identification provient de la géométrie des décalages d'environnement, et non des poids du modèle. Ce résultat théorique s'étend empiriquement aux modèles non linéaires.

2. Caractérisation complète des modes de défaillance

L'article fournit des critères quantitatifs précis pour déterminer quand le NSR échoue, permettant aux praticiens d'évaluer la validité du régime :

Décalages faibles : Le NSR s'effondre en $O(\epsilon^4)$ lorsque l'amplitude du décalage $\epsilon$ est faible par rapport au bruit intra-environnement.
Géométrie dégénérée : Le NSR est identiquement nul si $K < 3$ ou si les décalages absolus par rapport à l'environnement de référence sont symétriques (ex: décalages de $+1, -1, 0$ ).
Atténuation par proxy : Pour les caractéristiques mélangeant signaux causaux et spécieux ( $X_j = \alpha X_C + (1-\alpha)X_S$ ), le NSR se dégrade en $O((1-\alpha)^4)$ .

3. Taux de convergence en échantillon fini

L'article établit un écart de taux entre les caractéristiques causales et spécieuses :

Sous l'hypothèse nulle (caractéristique causale, $\text{NSR}=0$ ), l'estimateur empirique converge à $O_p(n^{-1})$ .
Sous l'hypothèse alternative (caractéristique spécieuse, $\text{NSR}>0$ ), il converge à $O_p(n^{-1/2})$ .
Cet écart permet un seuillage par permutation sans hypothèses de distribution, car la distribution nulle rétrécit vers zéro plus rapidement que la séparation de l'alternative.

4. Incomparabilité avec IRM et ICP

Les auteurs prouvent que le NSR, l'IRM et l'ICP opèrent sous des conditions incomparables concernant les calendriers de décalage (shift schedules).

Il existe des configurations de décalage (ex: décalages symétriques) où l'IRM et l'ICP détectent les caractéristiques spécieuses mais pas le NSR.
Inversement, il existe des configurations (ex: décalages asymétriques où les variances au carré sont nulles) où le NSR détecte les caractéristiques spécieuses mais pas l'IRM.
Les méthodes sont complémentaires ; le choix dépend de la géométrie spécifique des décalages disponibles.

Résultats expérimentaux

Validation sur données synthétiques

Vérification du régime : Les expériences confirment la transition de phase théorique. Avec $K \ge 5$ et une amplitude de décalage $\epsilon \ge 1$ , le NSR atteint un AUROC de 1.000 avec une variance nulle sur 30 graines (seeds).
Modes de défaillance : Les expériences valident la netteté des conditions d'échec. Les décalages symétriques (géométrie dégénérée) entraînent une performance de niveau chance (AUROC $\approx 0,5$ ), tandis que la rupture de la symétrie restaure une détection parfaite.
Convergence : Les taux de convergence empiriques correspondent aux prédictions théoriques de $O(n^{-1})$ et $O(n^{-1/2})$ avec une erreur de seulement 2 à 8 %.

Agnosticisme du modèle

Le NSR a été testé sur cinq familles de modèles (OLS, Ridge, Random Forest, XGBoost, MLP). Les classements des caractéristiques étaient cohérents entre les familles (Kendall $\tau \ge 0,529$ ), confirmant que le signal réside dans la structure de l'environnement plutôt que dans la classe spécifique du modèle.

Applications réelles

Données de partage de vélos (Bike-Sharing) : En utilisant des partitions par quintiles de mois, le NSR a récupéré 6 des 8 caractéristiques causales (Précision@7 = 0,75), surpassant LASSO (0,58) sans modifier le modèle entraîné.
Données sur la qualité du vin : Le NSR a identifié les moteurs causaux dans un contexte de variation technique au niveau des lots.
Aperçu pratique : Les expériences soulignent que le NSR nécessite que le modèle de base généralise à l'intérieur des environnements (et non qu'il sur-apprenne). Une régularisation adaptative (visant un $R^2 \approx 0,75$ ) était nécessaire pour éviter que le bruit intra-environnement n'obscurcisse le signal de stabilité.

Signification et portée

L'article affirme que le NSR fournit un outil d'audit post-hoc fondé sur la théorie pour les modèles déployés. Sa signification réside dans :

Utilité opérationnelle : Il permet aux praticiens de diagnostiquer la dépendance spécieuse dans les modèles existants sans réentraînement ni accès aux données d'entraînement.
Limites explicites : Contrairement à de nombreux outils d'interprétabilité "boîte noire", le NSR est accompagné d'une carte complète de son régime de fonctionnement et de ses modes d'échec, fournissant des vérifications quantitatives (ex: vérification de l'amplitude du décalage et du nombre d'environnements) avant application.
Complémentarité : Il occupe une niche distincte de l'IRM et de l'ICP, ciblant spécifiquement les scénarios où la géométrie du décalage est asymétrique et où le modèle est déjà entraîné.

Limites reconnues par les auteurs :

Stabilité marginale causale : Le NSR suppose que la distribution des caractéristiques causales ( $P(X_C)$ ) est stable à travers les environnements. Si les covariables causales changent (ex: changements démographiques), le NSR peut les classer à tort comme spécieuses.
Structure du décalage : La formulation actuelle suppose un décalage scalaire uniforme pour les caractéristiques spécieuses. Les décalages spécifiques aux caractéristiques ou les décalages de covariance ne sont pas directement capturés sans extensions de sous-espaces.
Dépendance au régime : La méthode est strictement un outil de diagnostic pour le régime de décalage structuré ; elle n'est pas un outil de découverte causale généraliste pour des distributions de données arbitraires.