Résumé technique : Recours algorithmique causal : Fondements et méthodes

Définition du problème et motivation

L'article aborde le défi du recours algorithmique, qui consiste à fournir des recommandations actionnables aux individus pour annuler des décisions négatives prises par des systèmes automatisés (par exemple, refus de prêt, rejets de traitements médicaux). Bien que la littérature existante propose des explications contrefactuelles, les auteurs soutiennent que les approches standard échouent souvent à capturer l'incertitude inhérente au recours dans le monde réel.

Plus précisément, les méthodes traditionnelles traitent les résultats du recours comme des contrefactuels exacts d'une unité fixe, en supposant que les variables latentes (par exemple, la capacité, le stress, le sommeil) restent identiques avant et après une intervention. Les auteurs postulent qu'en réalité, le recours implique des décisions répétées sur le même individu dans des conditions latentes potentiellement différentes. Par exemple, un étudiant repassant un examen après avoir assisté à des heures de permanence peut avoir la même capacité sous-jacente mais des niveaux de stress ou de sommeil différents. Cela introduit une incertitude structurelle où les variables latentes pré- et post-intervention ($u_T$ et $u^*_T$) sont liées mais non identiques.

De plus, l'article souligne que les formulations causales standard du recours reposent souvent sur l'hypothèse de caractéristiques manipulables indépendamment (IMF), qui ignore les dépendances causales entre les covariables. Les auteurs démontrent par des exemples que l'ignorance de ces dépendances (par exemple, le revenu affectant les dépenses) peut conduire à des recommandations sous-optimales ou irréalisables. Enfin, ils notent que l'inférence des effets du recours nécessite généralement un raisonnement sur les distributions contrefactuelles conjointes, qui sont généralement non identifiables à partir de données observationnelles seules sans hypothèses fortes.

Méthodologie et cadre

Les auteurs proposent un cadre causal basé sur des modèles causaux structurels (SCM) qui modélise explicitement le rééchantillonnage des variables latentes durant le processus de recours.

1. SCM de recours et stabilité post-recours (PRS)

Le cœur de la méthodologie est le SCM de recours, défini comme un tuple $\langle F, P(u), R=r, P(u^*|u) \rangle$, où $P(u^*|u)$ représente la distribution des variables latentes après une action de recours $do(R=r)$.

• Décomposition latente : Les unités sont décomposées en composantes fixes ($u^{(f)}$) et variables ($u^{(v)}$). La composante fixe (par exemple, la capacité intrinsèque) reste invariante, tandis que la composante variable (par exemple, le stress) peut être rééchantillonnée.
• Stabilité post-recours (PRS) : Les auteurs définissent la PRS comme une condition où la distribution des variables latentes pour les non-descendants de l'action de recours reste inchangée, et pour les descendants, la partie fixe est invariante tandis que la partie variable est rééchantillonnée à partir de la même distribution conditionnelle étant donné la partie fixe.
• Implication : Sous PRS, la distribution marginale des variables post-recours étant donné leurs parents est identique à la distribution observationnelle (stabilité marginale). Cela permet une inférence à partir de données observationnelles seules.

2. Stratégies d'inférence

L'article développe trois algorithmes distincts basés sur la disponibilité des données et la validité de la PRS :

• Algorithme 1 (Données observationnelles + PRS) :

  • Suppose que la PRS est vérifiée et que seules des données observationnelles sont disponibles.
  • Utilise la copule de Frank pour modéliser le couplage entre les quantiles pré-recours ($q_i$) et les quantiles post-recours ($q^*_i$).
  • Puisque le paramètre de copule $\tau$ (tau de Kendall) ne peut pas être identifié à partir de données observationnelles seules, l'algorithme effectue une analyse de sensibilité en faisant varier $\tau$ pour générer une gamme de résultats de recours possibles.

• Algorithme 2 (Données observationnelles + Données de recours + PRS) :

  • Suppose que la PRS est vérifiée et que des données appariées (pré- et post-recours pour les mêmes individus) sont disponibles.
  • Utilise les données appariées pour inférer le paramètre de copule $\tau$ via une estimation du maximum de vraisemblance.
  • Inclut un test d'adéquation (utilisant une procédure de bootstrap et la statistique de Cramer-von Mises) pour vérifier si la copule de Frank est un modèle approprié. Cela traite le biais de sélection inhérent aux données de recours (disponibles uniquement pour les individus ayant initialement échoué).

• Algorithme 3 (Données observationnelles + Données de recours + Pas de PRS) :

  • Traite le cas où la PRS n'est pas vérifiée (la stabilité marginale est violée).
  • Au lieu de s'appuyer sur une copule spécifique, il apprend une fonction de quantile non paramétrique $Q(v^*_i | v_i, pa_i, pa^*_i)$ directement à partir des données observationnelles et de recours combinées.
  • Cette approche exploite la corrélation entre les résidus pré-recours et le bruit post-recours pour améliorer la précision de la prédiction, réduisant théoriquement l'erreur quadratique moyenne de prédiction attendue (EMSPE) par rapport à une régression standard sur les parents de recours seuls.

Contributions clés

1. Formulation causale du recours : L'article introduit une formulation du recours algorithmique qui prend en compte le rééchantillonnage des variables latentes, dépassant l'hypothèse d'unités fixes. Il définit la stabilité post-recours (PRS) comme une condition critique pour l'inférence.
2. Garanties théoriques :
   • Théorème 1 : Prouve que la PRS implique la stabilité marginale, permettant l'identification des effets du recours à partir de données observationnelles.
   • Théorème 2 : Fournit des garanties théoriques pour l'approche de régression « augmentée » (Alg. 3) dans des contextes gaussiens linéaires, montrant qu'elle réduit le risque de prédiction par rapport aux approches standard lorsque les termes de bruit pré- et post-recours sont corrélés.
3. Suite algorithmique :
   • Développement de l'Alg. 1 pour l'analyse de sensibilité utilisant des données observationnelles.
   • Développement de l'Alg. 2 pour l'apprentissage des paramètres de copule et le test d'adéquation du modèle utilisant des données de recours.
   • Développement de l'Alg. 3 pour une inférence sans distribution lorsque les hypothèses de stabilité sont violées.
4. Concept de données de recours : Les auteurs définissent formellement les données de recours (échantillons pré- et post-intervention appariés pour le même individu) et le problème d'apprentissage associé, les distinguant des combinaisons standard de données observationnelles ou expérimentales.

Résultats expérimentaux

Les auteurs valident leurs méthodes en utilisant le jeu de données HELOC (Home Equity Line of Credit) et une variante semi-synthétique :

• Analyse de sensibilité (Alg. 1) : Appliquée aux données HELOC réelles, l'algorithme a démontré comment la variation du paramètre de copule $\tau$ affecte la dispersion des résultats de recours prédits, illustrant l'incertitude inhérente en l'absence de données de recours.
• Adéquation (Alg. 2) : En utilisant des données semi-synthétiques, les auteurs ont montré que le test de bootstrap proposé identifie correctement lorsque la copule de Frank est valide (distribution uniforme des valeurs p) et lorsqu'elle est violée (valeurs p biaisées vers 0).
• Apprentissage sans copule (Alg. 3) : Dans des scénarios où la PRS était violée (SeS-HELOC B), l'Alg. 3 a surpassé à la fois l'approche de régression standard et l'approche basée sur la copule. Les statistiques de Kolmogorov-Smirnov ont montré que les prédictions de l'Alg. 3 étaient plus proches de la distribution sous-jacente réelle, vérifiant empiriquement l'avantage théorique de l'exploitation des informations pré-recours même lorsque la stabilité marginale ne tient pas.

Importance et revendications

L'article revendique être le premier à formaliser un problème d'inférence qui combine des données observationnelles et expérimentales correspondant au même individu dans le contexte du recours algorithmique. En s'éloignant de l'hypothèse d'unités contrefactuelles fixes, le cadre fournit un modèle plus réaliste de la façon dont les individus répondent aux interventions au fil du temps.

Les auteurs soulignent que leur travail comble le fossé entre l'inférence causale théorique et les applications pratiques de recours. Ils soutiennent que si les méthodes standard de recours causal nécessitent souvent une connaissance structurelle complète ou des hypothèses rigides (comme l'IMF), leur cadre offre une hiérarchie flexible de méthodes :

1. Analyse de sensibilité lorsque seules des données observationnelles sont disponibles.
2. Inférence de paramètres et test de modèle lorsque des données de recours sont disponibles.
3. Apprentissage sans distribution lorsque les hypothèses de stabilité sont violées.

L'importance réside dans la fourniture d'une fondation causale rigoureuse pour comprendre la variabilité des résultats du recours et offrir des algorithmes pratiques qui s'adaptent à la disponibilité spécifique des données et aux conditions de stabilité d'une application donnée.