Résumé Technique : Borner l'impact causal de la prise de décision assistée par l'apprentissage automatique via la correction contrefactuelle

Énoncé du problème

Les modèles d'apprentissage automatique (ML) prédictifs sont de plus en plus déployés dans des domaines à haut risque (par exemple, la santé, la justice pénale) pour aider les décideurs humains. Bien que les essais contrôlés randomisés (ECR) fournissent des preuves de haute qualité sur l'impact causal d'interventions de ML spécifiques, une lacune critique subsiste : il est souvent irréalisable de mener de nouveaux ECR pour chaque mise à jour ou itération de réentraînement d'un modèle. Par conséquent, si un nouveau modèle présentant une précision prédictive supérieure est développé après un ECR initial, il n'existe aucune preuve causale directe concernant son impact sur les résultats en aval (par exemple, la survie des patients, la récidive).

Des travaux antérieurs ont tenté d'aborder ce problème via des cadres d'identification partielle. Par exemple, Nercessian et al. [2025] supposent que les résultats ne diffèrent pas entre les modèles ayant des prédictions concordantes, tandis que Chen et Oberst [2025] assouplissent cela en permettant des différences de résultats au niveau individuel basées sur des métriques de performance globales (par exemple, la précision), motivées par la confiance de l'utilisateur. Cependant, ces cadres ne parviennent pas à incorporer la correction de la prédiction au niveau individuel. Dans de nombreux scénarios, il est raisonnable de s'attendre à ce qu'une prédiction correcte mène à des résultats non inférieurs à une prédiction incorrecte, une notion que les auteurs nomment « correction contrefactuelle ».

Méthodologie

Les auteurs proposent une approche d'identification partielle pour construire des bornes sur l'effet causal d'un nouveau modèle non testé ($\pi_e$) en utilisant les données d'un ECR antérieur impliquant un ensemble de modèles testés ($T$).

Cadre causal

Le processus de génération des données est modélisé comme un modèle causal structurel (SCM) représenté par un graphe acyclique dirigé (DAG). Les variables clés sont :

• $D$ : Bras de l'ECR (contrôle vs traitement).
• $\Pi$ : Le modèle utilisé pour la prédiction.
• $X$ : Covariables/caractéristiques.
• $Z$ : La « vraie étiquette » (vérité terrain), observée pour tous les individus dans l'ECR.
• $\hat{Z}$ : L'étiquette prédite.
• $M$ : Une métrique de performance (ex. précision) conditionnée par $X$ et $\Pi$.
• $A$ : Action du décideur (non observée/latente).
• $Y$ : Résultat en aval.

L'objectif est d'estimer $E[Y(\pi_e)]$, l'espérance du résultat si le nouveau modèle $\pi_e$ avait été déployé.

Hypothèses structurelles

Pour dériver les bornes, les auteurs introduisent quatre hypothèses clés :

1. Correction contrefactuelle (Assump. 3.1) : Les prédictions correctes ne causent pas de tort. Formellement, pour une étiquette réelle $z$ fixée, si un modèle prédit $z$ (correctement), le résultat est au moins aussi bon que si un modèle prédisait $z' \neq z$ (incorrectement), tous les autres facteurs étant constants.

   • Falsification : Peut être testé en comparant les résultats de deux modèles testés sur le sous-ensemble de données où l'un est correct et l'autre est erroné.

2. Monotonie de la performance conditionnelle (Assump. 3.2) : Les résultats potentiels sont monotones par rapport à la performance du modèle, conditionnellement à la correction.

   • Si la prédiction est correcte ($\hat{z}=z$), une performance plus élevée conduit à de meilleurs (ou égaux) résultats.
   • Si la prédiction est incorrecte ($\hat{z} \neq z$), une performance plus élevée conduit à de moins bons (ou égaux) résultats (reflétant une confiance accrue dans un modèle erroné mais assuré).
   • Falsification : Testée en comparant des modèles avec différents niveaux de performance mais des prédictions identiques sur le sous-ensemble où la prédiction est correcte.

3. Prédiction neutre (Assump. 3.3) : Il existe une prédiction « neutre » (par exemple, s'en remettre à l'humain) où la performance du modèle n'influence pas le résultat. Cela lie le bras de contrôle à l'évaluation des nouveaux modèles.

4. Résultats bornés (Assump. 3.4) : La variable de résultat $Y$ est bornée dans un intervalle $[Y_{min}, Y_{max}]$ connu.

Bornes d'identification partielle

Les auteurs définissent des partitions de l'espace des modèles et des covariables basées sur le fait que les modèles testés concordent ou non avec le modèle non testé $\pi_e$ et leur ordre de performance relatif. Ils introduisent un sélecteur de branche ($b_L, b_U$) qui assigne chaque paire $(x, z)$ à l'une des quatre branches logiques :

• Neutre : $\pi_e$ effectue la prédiction neutre.
• Monotone : $\pi_e$ est en accord avec les modèles testés, et l'ordre de performance permet de borner via la monotonie.
• Correct : $\pi_e$ effectue la prédiction correcte, mais aucun modèle testé n'est en accord avec elle (ou ils sont tous « meilleurs » d'une manière qui n'aide pas la borne inférieure). Ici, la borne repose sur l'hypothèse qu'une prédiction correcte est au moins aussi bonne qu'une prédiction incorrecte.
• Par défaut : Repli conservateur vers $Y_{min}$ (borne inférieure) ou $Y_{max}$ (borne supérieure).

Les bornes résultantes $L(\pi_e)$ et $U(\pi_e)$ sont construites en prenant l'espérance des bornes ponctuelles sur la distribution de $X$ et $Z$.

Estimation

Le papier fournit des estimateurs cohérents et asymptotiquement normaux pour ces bornes. La stratégie d'estimation traite trois défis :

1. Estimer les espérances conditionnelles $E[Y|X, Z, \Pi]$ via des modèles de nuisance.
2. Gérer les opérateurs max/min non lisses (par exemple, sélectionner le pire ou le meilleur modèle performant dans un ensemble).
3. Estimer les métriques de performance ($M$) à partir de données finies plutôt que de supposer une connaissance oracle.

Les auteurs proposent un estimateur de type Pondération par l'Inverse de la Propension Augmentée (AIPW). Sous des conditions de marge spécifiques (assurant une séparation suffisante entre les performances des modèles et les résultats) et des taux de convergence pour les fonctions de nuisance, les estimateurs sont prouvés comme étant cohérents et asymptotiquement normaux, permettant la construction d'intervalles de confiance valides.

Contributions clés

1. Extension des cadres causaux : Ce travail étend le cadre de Chen et Oberst [2025] en incorporant la correction de la prédiction au niveau individuel. Il suppose que si un nouveau modèle prédit correctement, le résultat n'est pas pire que si une prédiction incorrecte était faite.
2. Intégration de la performance par sous-groupe : Contrairement aux travaux antérieurs reposant sur des métriques de performance globales, ce cadre incorpore la performance prédictive conditionnelle par sous-groupe, reflétant l'intuition selon laquelle les décideurs développent des heuristiques sur les points où les modèles performent bien ou mal.
3. Estimation basée sur les données : Les auteurs fournissent des estimateurs cohérents pour les bornes qui ne nécessitent pas de connaissance a priori des mesures de performance des modèles ; celles-ci sont estimées à partir des données.
4. Bornes plus serrées : Les résultats théoriques et empiriques démontrent que l'incorporation de la correction contrefactuelle conduit à des bornes significativement plus serrées (plus informatives) par rapport aux méthodes précédentes d'identification partielle.

Résultats expérimentaux

Les auteurs évaluent leur méthode à l'aide d'une simulation semi-synthétique basée sur le jeu de données de sentences de caution de Imai et al. [2023].

• Configuration : Ils simulent le comportement des juges et les résultats des prévenus (échec à se présenter) sous divers modèles d'alerte.
• Comparaison : Ils comparent leurs bornes à celles dérivées de Chen et Oberst [2025].
• Résultats :
  • Dans toutes les expériences (changement de seuils d'alerte, réentraînement de modèles, et absence d'ECR), la méthode proposée a produit des bornes systématiquement plus étroites (par exemple, une largeur de 0,12 contre 0,36 dans une expérience).
  • Les bornes contenaient systématiquement l'espérance réelle du résultat.
  • Les études d'ablation suggèrent que l'amélioration est principalement pilotée par l'hypothèse de correction contrefactuelle plutôt que par la simple stratification de la performance par les covariables.
  • La méthode reste robuste (bien que produisant des bornes plus larges) même lorsque les étiquettes réelles ($Z$) sont partiellement manquantes, à condition que des hypothèses spécifiques sur le mécanisme de données manquantes soient respectées.

Signification et affirmations

Le papier affirme offrir une solution pratique pour évaluer l'impact causal des mises à jour de modèles de ML lorsque la réexécution d'ECR est irréalisable. En exploitant l'existence d'étiquettes de vérité terrain dans les essais précédents, la méthode utilise l'information « directionnelle » fournie par la correction de la prédiction pour resserrer les bornes causales.

Les auteurs sont modestes dans leurs affirmations, reconnaissant des limites :

• Tests de falsification : Ils sont en espérance ; des violations au niveau individuel des hypothèses pourraient passer inaperçues.
• Données manquantes : La méthode présente des limites lorsque les étiquettes réelles ($Z$) sont manquantes, bien qu'ils discutent de mécanismes pour les gérer.
• Sorties continues : Le cadre actuel suppose des prédictions discrètes ; les sorties continues nécessitent une discrétisation ou une application simplifiée.
• Données observationnelles : Le cadre actuel repose sur des données d'ECR ; l'incorporation de données observationnelles est notée comme une direction future.

En fin de compte, ce travail fournit un cadre rigoureux, basé sur des hypothèses, pour aller au-delà de la simple précision prédictive et raisonner sur l'impact causal en aval des systèmes d'IA dans des environnements de prise de décision à enjeux élevés.