Résumé technique : Prédiction conforme pour les effets causaux de traitements continus

1. Formulation du problème

L'article traite du besoin critique de quantification de l'incertitude (UQ) dans l'apprentissage automatique causal, spécifiquement pour les traitements continus. Bien que le ML causal soit largement utilisé dans des domaines critiques pour la sécurité comme la médecine personnalisée (ex: dosage de la chimiothérapie), les méthodes existantes ne fournissent généralement que des estimations ponctuelles, négligeant l'incertitude de prédiction.

Les auteurs identifient trois défis spécifiques lors de l'application de la prédiction conforme (CP) aux effets causaux continus :

1. Décalage de distribution (Défi a) : Intervenir sur une variable de traitement déplace la distribution des covariables (spécifiquement le score de propension). Cela viole l'hypothèse d'échangeabilité inhérente à la CP standard, rendant les intervalles standards invalides entre les distributions observationnelles et interventionnelles.
2. Scores de propension inconnus (Défi b) : Dans les données observationnelles, le score de propension est inconnu et doit être estimé. Cette estimation introduit une incertitude supplémentaire que les méthodes de CP standard ne prennent pas en compte, ce qui peut conduire à un sous-couverture.
3. Rareté des données pour les valeurs continues (Défi c) : Contrairement aux traitements binaires, des valeurs de traitement continues spécifiques sont rarement observées dans les données, rendant l'application directe des méthodes de CP discrètes impossible.

L'objectif est de dériver des intervalles de prédiction valides en échantplon fini $C(X_{n+1}, \diamond)$ pour les résultats potentiels $Y_{n+1}(\diamond)$ sous des interventions fortes ($a^*$) ou des interventions douces ($A^*(X_{n+1})$), même lorsque le score de propension est inconnu et estimé.

2. Méthodologie

La méthode proposée étend la prédiction conforme par partition (Split Conformal Prediction) pour gérer les décalages de distribution induits par les interventions et l'incertitude provenant de l'estimation de la propension.

Cadre central

La méthode utilise un score de non-conformité, typiquement le résidu $S_i = |Y_i - \phi(X_i, A_i)|$, où $\phi$ est un modèle d'apprentissage automatique arbitraire. Le but est de construire un intervalle tel que $P(Y_{n+1}(\diamond) \in C) \geq 1 - \alpha$.

Les auteurs distinguent deux scénarios selon la disponibilité du score de propension $\pi(a|x)$ :

Scénario 1 : Score de propension connu

Lorsque la politique observationnelle est connue (par exemple, dans un essai randomisé ou un cadre de politique connue), le décalage est modélisé comme un changement de $\pi(a|x)$ vers $\pi(a+\Delta A|x)$.

• Approche : Les auteurs reformulent le problème comme une régression de quantile augmentée. Ils définissent une classe de fonctions $\mathcal{F}$ représentant le décalage de propension.
• Optimisation : Ils dérivent un problème d'optimisation dual (Théorème 4.2) pour trouver le $(1-\alpha)$-quantile des scores de non-conformité sous la distribution décalée. Cela évite l'infaisabilité de la résolution pour tous les scores imputés possibles en exploitant les propriétés de dualité forte.
• Résultat : Le Théorème 4.2 fournit des garanties de couverture en échantillon fini pour les résultats potentiels sous des décalages de propension connus.

Scénario 2 : Score de propension inconnu

Lorsque la politique est inconnue, la méthode doit gérer les interventions fortes ($a^*$) où la propension devient une fonction delta de Dirac, et le score $\pi$ doit être estimé ($\hat{\pi}$).

• Hypothèse : L'erreur d'estimation est bornée de telle sorte que le ratio $c_a = \hat{\pi}/\pi$ se situe dans $[1/M, M]$ pour une constante $M$.
• Lissage : Pour gérer la discontinuité de la fonction delta de Dirac, les auteurs l'approchent à l'aide d'un noyau gaussien avec une variance $\sigma^2 \to 0$.
• Optimisation : Le problème est formulé comme une optimisation non convexe (Éq. 18) impliquant le paramètre de lissage $\sigma$ et la borne d'erreur $c_a$.
• Garantie théorique : Les auteurs prouvent (Lemme 4.4) que le problème est invexe de Type-I et satisfait la qualification de contrainte d'indépendance linéaire (LICQ). Cela permet l'utilisation des conditions de Karush-Kuhn-Tucker (KKT) pour dériver l'optimalité globale.
• Résultat : Le Théorème 4.5 établit des garanties de couverture en échantillon fini pour les scores de propension inconnus en optimisant sur les bornes d'incertitude et les paramètres de lissage.

3. Principales contributions

1. Nouvelle méthode pour les traitements continus : La première proposition d'intervalles de prédiction conforme pour les résultats potentiels de traitements continus, comblant la lacune laissée par les méthodes existantes limitées aux traitements binaires/discrets.
2. Garanties en échantillon fini sous propension inconnue : Dérivation d'intervalles de prédiction valides qui tiennent compte de l'incertitude introduite par l'estimation des scores de propension, sans nécessiter d'hypothèses asymptotiques.
3. Implémentation algorithmique : Un algorithme efficace (Alg. 1) pour calculer ces intervalles en utilisant des formulations duales et les conditions KKT, évitant la recherche par force brute sur les scores imputés.
4. Validation empirique : Démonstration de l'efficacité sur des jeux de données synthétiques et réels.

4. Résultats expérimentaux

Les auteurs ont évalué leur méthode par rapport à des bases de référence incluant le MC Dropout, les Deep Ensembles et la régression par Processus Gaussiens (GP).

• Jeux de données synthétiques :

  • Fidélité : Les intervalles de CP proposés ont atteint une couverture empirique cohérente avec le niveau de signification cible ($1-\alpha$) à travers diverses interventions douces et fortes.
  • Bases de référence : Le MC Dropout et les Deep Ensembles ont montré une couverture nettement inférieure (intervalles non fidèles), échouant souvent à capturer le résultat réel. La régression GP n'a fourni une couverture valide que pour de très faibles décalages de distribution, mais a échoué sous des décalages plus importants en raison d'intervalles trop étroits.
  • Stabilité : La méthode proposée a présenté une faible variabilité de la couverture empirique par rapport à la variance élevée observée avec le MC Dropout.

• Jeu de données réel (MIMIC-III) :

  • Tâche : Prédiction des résultats de pression artérielle sous diverses durées de ventilation mécanique.
  • Observation : Les intervalles de CP reflétaient correctement une incertitude plus élevée dans les régions de traitement avec des données d'entraînement rares (durées de ventilation élevées). En revanche, les intervalles de MC Dropout étaient plus étroits, suggérant une sous-couverture dans ces régions critiques.

5. Signification et affirmations

L'article affirme être le premier à proposer la prédiction conforme pour les traitements continus où le score de propension est inconnu et doit être estimé à partir des données.

• Applicabilité aux domaines critiques pour la sécurité : La méthode fournit des garanties de validité en échantillon fini, ce qui la rend adaptée aux applications critiques comme la médecine personnalisée où les garanties asymptotiques (qui peuvent échouer dans de petits échantillons) sont insuffisantes.
• Agnosticisme du modèle : L'approche fonctionne avec n'importe quel modèle d'apprentissage automatique $\phi$ pour la prédiction du résultat.
• Robustesse au décalage de distribution : Contrairement à la CP standard, la méthode prend explicitement en compte le décalage de distribution causé par l'intervention, assurant la validité même si la distribution de test diffère de la distribution d'entraînement.
• Utilité pratique : Les auteurs notent que bien que la méthode soit conservatrice (intervalles potentiellement plus larges) lorsque l'estimation de la propension est médiocre ou que les données sont rares, ce conservatisme assure la fiabilité, empêchant la sous-couverture dangereuse observée dans d'autres méthodes d'UQ.

Ce travail comble une lacune critique dans le ML causal, permettant une prise de décision fiable sous incertitude pour les variables de traitement continues dans des contextes tant expérimentaux qu'observationnels.