Tuning Derivatives for Causal Fairness in Machine Learning

Résumé technique : Ajustement des dérivées pour l'équité causale dans l'apprentissage automatique

Énoncé du problème
Les systèmes d'intelligence artificielle héritent fréquemment de biais sociétaux concernant des attributs protégés tels que la race, le genre et l'âge. Les métriques d'équité classiques comme la parité statistique (SP), qui exigent que les prédictions soient indépendantes des attributs protégés, sont souvent trop restrictives. Cela est particulièrement vrai lorsque les attributs protégés influencent des « nécessités commerciales » ou des « variables de résolution » (par exemple, les antécédents judiciaires dans l'évaluation du risque de récidive) qui sont légitimement requis pour la prédiction. Les formulations causales récentes abordent cela en distinguant les chemins « non autorisés » (effets directs des attributs protégés) des chemins « autorisés » (effets indirects via les nécessités commerciales), incorporant souvent la parité prédictive (PP) pour garantir que les influences légitimes sont préservées. Cependant, les définitions basées sur les chemins reposant sur des contrastes causaux sont principalement conçues pour des attributs catégoriels. Lorsqu'elles sont appliquées à des attributs protégés continus (par exemple, l'âge), ces méthodes deviennent impraticables en raison de la nécessité d'évaluer des contrastes en un nombre infini de points.

Méthodologie
Les auteurs proposent un cadre pour l'équité causale au sein de modèles causaux structurels (SCM) spécifiquement adapté aux attributs protégés continus.

1. Définitions basées sur les dérivées :

   • Parité statistique en dérivées (SPD) : Au lieu d'utiliser des contrastes, les auteurs définissent la SP le long d'un chemin $\pi$ comme le produit des dérivées partielles des mécanismes structurels le long de ce chemin étant égal à zéro. Cela garantit que le prédicteur est constant par rapport à l'attribut protégé le long des chemins non autorisés.
   • Parité prédictive en dérivées (PPD) : La PP est définie en égalisant les dérivées partielles du prédicteur par rapport aux variables le long des chemins autorisés aux dérivées partielles de la variable de résultat véritable dans le processus de génération de données (DGP). Cela garantit que le prédicteur reproduit l'influence légitime des nécessités commerciales.

2. Conditions d'existence :
   L'article établit une condition nécessaire et suffisante pour l'existence d'un prédicteur satisfaisant simultanément la SPD et la PPD. Pour un chemin direct non autorisé ($X \to Y$) et un chemin autorisé ($W \to Y$), un prédicteur équitable existe si et seulement si la dérivée partielle mixte de l'espérance du résultat est nulle : $\frac{\partial^2}{\partial w \partial x} E[Y | P_A^Y = p] = 0$. Si cette condition n'est pas remplie, un compromis entre la SPD et la PPD est inévitable.

3. Algorithme d'ajustement équitable :
   Pour construire de tels prédicteurs, les auteurs proposent un algorithme d'« ajustement équitable » pour les réseaux de neurones :

   • Étape 1 : Ajuster un prédicteur non contraint ($\hat{Y}_{\theta_U}$) pour minimiser la perte de prédiction (par exemple, l'erreur quadratique moyenne, MSE).
   • Étape 2 : Initialiser un prédicteur équitable avec les paramètres non contraints.
   • Étape 3 : Optimiser une fonction de perte composite ($L_{FT}$) composée de :
     • Perte de prédiction (MSE entre le prédicteur ajusté et le prédicteur non contraint).
     • Perte SPD (norme L1 des dérivées partielles le long des chemins non autorisés).
     • Perte PPD (norme L1 de la différence entre les dérivées du prédicteur et les dérivées du prédicteur non contraint le long des chemins autorisés).
   • Les hyperparamètres $\lambda_{SPD}$ et $\lambda_{PPD}$ permettent aux utilisateurs de prioriser un critère d'équité par rapport à l'autre lorsque la condition de compatibilité n'est pas remplie.

Contributions clés

• Formalisation : L'article formalise la SP et la PP en utilisant des dérivées partielles spécifiques aux chemins, rendant les définitions d'équité causale applicables aux attributs protégés continus sans la charge computationnelle d'évaluer des contrastes infinis.
• Caractérisation théorique : Il dérive les conditions selon lesquelles ces définitions basées sur les dérivées coïncident avec les définitions causales antérieures basées sur les contrastes et établit le critère de compatibilité (Théorème 1) pour l'existence simultanée de prédicteurs équitables.
• Solution algorithmique : Il introduit un algorithme d'ajustement pratique qui construit des prédicteurs équitables lorsque le critère de compatibilité est rempli et offre un mécanisme de compromis flexible lorsqu'il ne l'est pas.
• Validation empirique : La méthode est évaluée sur des données simulées (DGP linéaires et multiplicatifs) et l'ensemble de données réel COMPAS, comparant les performances aux méthodes se concentrant uniquement sur la SP (SPT) et aux schémas de marginalisation.

Résultats

• Données simulées : Dans des contextes linéaires où la SPD et la PPD sont compatibles, l'algorithme d'ajustement équitable (FT) minimise avec succès les deux pertes simultanément. Dans des contextes non linéaires (multiplicatifs) où elles sont incompatibles, l'algorithme démontre le compromis attendu : l'augmentation des contraintes sur une métrique dégrade l'autre. La méthode FT surpasse la marginalisation et les approches basées uniquement sur la SPT pour maintenir les performances prédictives tout en respectant les contraintes d'équité, en particulier lorsque la PPD est prise en compte.
• Ensemble de données COMPAS : Appliqué à la prédiction de récidive, l'algorithme FT (spécifiquement avec des poids équilibrés) a atteint un compromis supérieur entre la SPD et la PPD par rapport aux méthodes SPT et Marginalize. Bien que tous les modèles contraints aient montré une réduction des performances prédictives par rapport à la base de référence non contrainte, FT 10 a maintenu une précision et des scores F1 plus élevés tout en réduisant significativement la perte PPD.
• Dérivée vs Contraste : Lorsqu'appliqué à des caractéristiques binaires dans l'ensemble de données COMPAS, la minimisation des pertes basées sur les dérivées (SPD/PPD) a généralement entraîné une réduction des pertes basées sur les contrastes (CSP/CPP), bien que des écarts aient été observés dans certains scénarios à forte contrainte.

Signification et affirmations
L'article affirme que son cadre basé sur les dérivées fournit une solution pratique et théoriquement fondée pour l'équité causale dans les domaines continus, un vide laissé par les méthodes existantes basées sur les contrastes. Il soutient qu'en modélisant explicitement le compromis entre la parité statistique et la parité prédictive via des dérivées partielles, les praticiens peuvent construire des prédicteurs qui respectent les nécessités commerciales tout en atténuant la discrimination. Les auteurs soulignent que leur méthode ne nécessite pas d'hypothèses sur les équations structurelles du DGP, mais seulement un diagramme causal, la rendant applicable dans des scénarios réels. L'ouvrage conclut que si l'équité par dérivée ne correspond pas toujours parfaitement à l'équité par contraste pour les attributs binaires, elle offre une approche robuste et flexible pour les attributs continus et une voie viable pour gérer la tension entre l'indépendance statistique et l'utilité prédictive.