Résumé Technique : Géométrie de la Régression Équitable Relaxée

Énoncé du Problème

L'article aborde le défi de l'imposition de la Parité Démographique (PD) dans les tâches de régression, spécifiquement dans le contexte inconscient où les attributs sensibles ($S$) sont indisponibles au moment de l'inférence. Bien que des méthodes de post-traitement pour l'équité exacte existent dans le contexte « conscient » (où $S$ est observé), des méthodes fondées sur des principes pour atteindre une équité relaxée (équilibrant précision et équité) dans le contexte inconscient font largement défaut. Les approches existantes reposent souvent sur des classifieurs proxy bruyants ou des discrétisations basées sur des grilles qui échouent à capturer la structure géométrique continue du problème, conduisant à des compromis précision-équité sous-optimaux.

Méthodologie

Les auteurs proposent un cadre unifié qui formule la régression équitable relaxée comme un problème de Transport Optimal (TO). L'idée centrale est de caractériser la fonction de prédiction optimale via des applications de TO qui transportent les distributions conditionnelles du prédicteur de base vers une distribution cible commune, tout en minimisant une pénalité pour l'inéquité.

1. Cadre Unifié

Le cadre unifie les contextes conscient et inconscient en définissant le problème de régression en termes de la mesure signée $\chi_+ - \chi_-$ (la différence entre les lois des caractéristiques dans les groupes positif et négatif).

• Contexte Inconscient : Le prédicteur optimal repose sur la probabilité de groupe signée $\Delta(x) = \frac{P(S=+|X=x)}{p_+} - \frac{P(S=-|X=x)}{p_-}$. Le problème se réduit au transport de mesures 2D $\mu^{\pm}_{\eta, \Delta}$ (définies sur l'espace des prédictions de base $\eta(x)$ et $\Delta(x)$) vers un espace de prédiction 1D.
• Contexte Conscient : Ce cas est récupéré comme un cas particulier où $\Delta(x)$ est déterministe basé sur $S$ observé, réduisant le problème à un transport 1D.

2. Équité Relaxée via Pénalités

Au lieu d'imposer une PD exacte ($\lambda \to \infty$), les auteurs minimisent un risque pénalisé :
$$\min_f \mathbb{E}[(f(X) - \eta(X))^2] + \lambda m U_D(f)$$
où $U_D(f)$ est une mesure de discordance entre les images directes des variations positive et négative de la mesure signée. L'article analyse deux pénalités spécifiques :

• Wasserstein-2 au carré ($W_2^2$) : Pénalise l'amplitude du déplacement dans l'espace des étiquettes.
• Variation Totale (TV) : Pénalise la masse de probabilité non chevauchante, en ignorant les distances entre des valeurs distinctes.

3. Solutions sous Forme Close

Une contribution théorique clé est la dérivation d'expressions exactes et sous forme close pour les fonctions de prédiction quasi-équitables optimales.

• Relaxation $W_2^2$ : La solution implique une interpolation pondérée entre la prédiction de base et la cible. Le plan de transport optimal est caractérisé par une fonction de coût spécifique $C_{\lambda, c_2}$, et les applications de prédiction $T^\pm$ sont des combinaisons linéaires des entrées pondérées par les rapports de densité locaux.
• Relaxation TV : La solution présente un comportement de seuillage dur. Si le coût de fusion de deux prédictions est inférieur à un seuil $\lambda$, elles sont fusionnées vers un barycentre pondéré ; sinon, elles restent inchangées. Cela conduit à une application définie par morceaux.

4. Implémentation Algorithmique

Les auteurs proposent un algorithme pratique (Algorithme 1) qui :

1. Estime le régresseur de base $\hat{\eta}$ et les probabilités a posteriori pour calculer $\hat{\Delta}$.
2. Construit des mesures empiriques 2D à partir des données d'entraînement.
3. Résout un problème de TO discret en utilisant les matrices de coût dérivées sous forme close.
4. Utilise la projection barycentrique pour générer des pseudo-étiquettes pour l'ensemble d'entraînement.
5. Ajuste un régresseur continu (par exemple, Forêt Aléatoire) sur les pseudo-étiquettes pour permettre l'inférence hors échantillon.

Contributions Clés

1. Cadre Unifié : Un objectif pénalisé de TO général qui unifie la régression équitable relaxée consciente et inconsciente, accommodant à la fois les pénalités $W_2^2$ et TV.
2. Caractérisations sous Forme Close : Les premières réductions géométriques continues et exactes pour l'équité relaxée inconsciente. L'article fournit des formules explicites pour les applications de prédiction optimales, dépassant les approximations basées sur des grilles des travaux antérieurs (par exemple, FairReg).
3. Distinction Philosophique : L'article révèle que le choix de la pénalité reflète des philosophies d'équité fondamentalement différentes :
   • $W_2^2$ induit un compromis lisse et à l'échelle de la population (vue égalitariste), déplaçant légèrement tous les individus vers un centre équitable.
   • TV impose une parité exacte pour un sous-ensemble d'individus (vue suffisarianiste), laissant les prédictions extrêmes inchangées tout en fusionnant parfaitement celles où c'est « abordable ».
4. Algorithme Efficace : Un algorithme de post-traitement déterministe et computationnellement efficace qui évite la descente de gradient stochastique.

Résultats Expérimentaux

Le cadre a été évalué sur des données synthétiques et des benchmarks réels (Admissions à la Faculté de Droit, Communautés et Crimes, et Revenus du Recensement Adulte).

• Performance : La méthode proposée « OT Inconscient » correspond systématiquement ou dépasse la ligne de base de l'état de l'art FairReg (Taturyan et al., 2024) sur toutes les métriques d'équité ($W_2$, TV et distance de Kolmogorov-Smirnov) tout en maintenant une Erreur Quadratique Moyenne (MSE) compétitive.
• Comparaison avec les Proxies : Les approches naïves qui estiment $S$ via un classifieur proxy et appliquent des mappings TO conscients (estimateurs plug-in) performent nettement moins bien, échouant souvent à atteindre l'équité en raison d'erreurs de classification. Le cadre 2D proposé absorbe avec succès cette incertitude.
• Efficacité : La méthode OT Inconscient est significativement plus rapide que FairReg (par exemple, ~26x d'accélération sur le jeu de données Communautés) car elle repose sur des solveurs de TO discrets exacts plutôt que sur une optimisation stochastique itérative.
• Robustesse : La méthode démontre une robustesse à travers différents estimateurs de base (Linéaire, Forêt Aléatoire, Gradient Boosting).

Importance et Revendications

L'article revendique combler un écart significatif dans la littérature en fournissant une solution géométrique continue et théoriquement fondée pour la régression équitable relaxée dans le contexte inconscient.

• Rigueur Théorique : Contrairement aux méthodes précédentes qui reposent sur la discrétisation, ce travail offre des réductions exactes sous forme close, clarifiant la nature géométrique des contraintes d'équité.
• Utilité Pratique : Les algorithmes dérivés sont simples à mettre en œuvre et computationnellement efficaces, les rendant adaptés au déploiement réel où les modèles sont des boîtes noires et où les attributs sensibles manquent au moment de l'inférence.
• Insight Philosophique : En opposant les pénalités $W_2$ et TV, le travail met en lumière que l'« équité relaxée » n'est pas un concept monolithique mais dépend de la philosophie de compromis spécifique (lissage global vs exactitude locale) choisie par le praticien.

Les auteurs notent des limitations, notamment la restriction aux attributs sensibles binaires et à des types de pénalités spécifiques ($W_2^2$ et TV), ainsi que la dépendance de la performance vis-à-vis de la qualité des estimateurs de base $\hat{\eta}$ et $\hat{\Delta}$. Cependant, ils affirment que leur approche fournit une ligne de base supérieure pour les compromis précision-équité par rapport aux méthodes existantes de l'état de l'art.