Résumé Technique : Classification Conforme Équitable via l'Apprentissage de Groupes Basés sur des Représentations

1. Énoncé du Problème

La Prédiction Conforme (CP) fournit des garanties de couverture marginale statistiquement rigoureuses pour les modèles d'apprentissage automatique, assurant que la vraie étiquette tombe dans un ensemble prédit avec une probabilité spécifiée par l'utilisateur (par exemple, $1-\alpha$). Cependant, les méthodes CP standard ne garantissent la couverture qu'en moyenne sur l'ensemble de la population. Cette garantie marginale ne prend pas en compte les biais algorithmiques, où des sous-groupes spécifiques (définis par des caractéristiques sensibles comme la race ou le genre) peuvent subir une couverture disproportionnément faible.

Bien que les méthodes de « couverture égalisée » tentent d'assurer une couverture valide à travers des groupes prédéfinis, elles font face à des limitations significatives :

1. Expressivité : Les méthodes existantes (par exemple, Romano et al., 2020a) définissent généralement des groupes basés sur des caractéristiques uniques. Elles peinent à capturer des interactions complexes et non linéaires entre les caractéristiques (par exemple, le sous-groupe défini par « Femme Blanche OU Homme Noir » dans une relation OU Exclusif).
2. Évolutivité et Efficacité : La recherche exhaustive de tous les sous-groupes plausibles est computationnellement irréalisable. Les approches adaptatives précédentes (par exemple, Zhou & Sesia, 2024) reposent sur une sélection gourmande de caractéristiques discrètes ou sur des hypothèses de Naïve Bayes, ce qui limite leur capacité à gérer des caractéristiques continues et des définitions de groupes non linéaires.

Le défi central consiste à développer un cadre d'inférence conforme qui identifie de manière adaptative les sous-groupes traités injustement, définis par des combinaisons de caractéristiques complexes et non linéaires, tout en maintenant l'efficacité computationnelle et en produisant des ensembles de prédiction compacts et informatifs.

2. Méthodologie : FAREG

Les auteurs proposent FAREG (Prédiction Conforme Équitable pour des Groupes Basés sur des Représentations), un cadre basé sur l'apprentissage qui identifie de manière adaptative les groupes affectés par des biais et ajuste les ensembles de prédiction pour atteindre une couverture égalisée adaptative.

2.1 Apprentissage de Groupes Basés sur des Représentations

Au lieu d'extraire des groupes directement à partir des caractéristiques d'entrée brutes $X$, FAREG encode $X$ dans une représentation latente $Z$ via une application $Z = f(X)$. La méthode emploie une architecture de Goulot d'Étranglement d'Information Variationnelle Profonde (Deep VIB) pour apprendre un indicateur d'appartenance au groupe $S$ (où $S=1$ indique l'appartenance à un groupe injustement traité $\hat{G}$) basé sur $Z$.

L'objectif d'optimisation maximise l'information mutuelle entre la représentation latente $Z$ et à la fois l'appartenance au groupe $S$ et l'entrée $X$, tout en minimisant l'information mutuelle entre $Z$ et les identités individuelles des échantillons $i$ pour assurer la confidentialité et la généralisation. La fonction de perte est formulée comme suit :
$$\mathcal{L} = \mathcal{L}_{CC} + \mathcal{L}_{MSE} - \beta \mathcal{L}_{KL}$$
Où :

• $\mathcal{L}_{CC}$ : Perte de couverture conditionnelle empirique, minimisée pour identifier les groupes avec une couverture faible.
• $\mathcal{L}_{MSE}$ : Perte de reconstruction (Erreur Quadratique Moyenne) assurant que $Z$ conserve suffisamment d'informations pour reconstruire $X$, maintenant ainsi l'interprétabilité.
• $\mathcal{L}_{KL}$ : Terme de divergence de Kullback-Leibler compressant $Z$ vers une distribution normale standard.

La sélection de groupe est contrainte par une proportion minimale de taille de groupe $\delta$. Les auteurs utilisent la Descente de Gradient Projeté (PGD) pour optimiser les paramètres du décodeur, projetant les probabilités d'appartenance au groupe prédites sur l'ensemble réalisable pour satisfaire la contrainte de taille.

2.2 Construction d'Ensembles de Prédiction Adaptatifs

Une fois les groupes injustes identifiés, FAREG construit l'ensemble de prédiction final $C(X_{N+1})$ pour une instance de test :

1. Un ensemble de prédiction conforme standard $C_m(X_{N+1}, D)$ est construit en utilisant l'ensemble de calibration complet.
2. Le modèle échantillonne $T$ vecteurs $s_t$ à partir de la distribution de Bernoulli conjointe apprise, chacun définissant un groupe spécifique $\hat{G}_{s_t}$.
3. Des ensembles conformes séparés sont construits pour chaque groupe échantillonné.
4. L'ensemble de prédiction final est l'union de l'ensemble standard et de tous les ensembles spécifiques au groupe :
   $$C(X_{N+1}) = C_m(X_{N+1}, D) \cup \bigcup_{t=1}^{T} C_m(X_{N+1}, \hat{G}_{s_t})$$

2.3 Métrique d'Évaluation Améliorée : WSC+

Pour évaluer l'efficacité de l'identification de groupes injustes non linéaires, les auteurs introduisent WSC+, une extension non linéaire de la métrique de Couverture de Dalle Pondérée (WSC). Alors que la WSC traditionnelle évalue la couverture sur des dalles linéaires ($a \leq v^T X \leq b$), la WSC+ évalue la couverture sur des fonctions non linéaires arbitraires $\pi(X)$ (spécifiquement des fonctions quadratiques dans les expériences). Cela permet une évaluation plus précise de la question de savoir si la procédure conforme couvre des groupes définis par des interactions complexes de caractéristiques.

3. Contributions Clés

1. Cadre FAREG : Une nouvelle méthode de prédiction conforme qui utilise une architecture encodeur-décodeur pour identifier de manière adaptative des sous-groupes avec une couverture faible définis par des combinaisons de caractéristiques non linéaires, surmontant les limitations des définitions de groupes linéaires ou basées sur une seule caractéristique.
2. Métrique WSC+ : Une nouvelle métrique de couverture conditionnelle non linéaire conçue pour mieux capturer et évaluer la performance des procédures conformes sur des sous-groupes complexes et injustement traités.
3. Garanties Théoriques : L'article démontre que FAREG atteint une couverture égalisée adaptative (Éq. 1) sur l'ensemble des groupes sélectionnés, à condition que les données soient échangeables. L'analyse théorique via la dimension VC suggère que l'espace de groupes candidats de FAREG est un sur-ensemble de celui des méthodes adaptatives précédentes (comme AFCP), offrant une expressivité supérieure.
4. Efficacité : La méthode maintient une complexité temporelle comparable à la prédiction conforme standard ($O(N+M)$), surpassant significativement la complexité $O(N \log N + NM)$ de la méthode AFCP de l'état de l'art.

4. Résultats Expérimentaux

Les auteurs ont évalué FAREG sur des données synthétiques et réelles (Nursery, ACSIncome).

• Données Synthétiques (Scénario de Diagnostic de Maladie Mentale) :

  • Couverture : FAREG était la seule méthode à atteindre de manière cohérente une couverture conditionnelle valide (≥0.9) sur le sous-groupe cible défini par une relation NOR Exclusif (XNOR) entre les caractéristiques, tandis que les lignes de base (Marginale, Partielle, AFCP1, AFCP2) ne parvenaient pas à maintenir cette couverture ou nécessitaient des tailles d'échantillon significativement plus grandes.
  • Efficacité : FAREG a maintenu des tailles moyennes d'ensembles de prédiction compétitives, évitant les tailles d'ensembles excessives observées dans AFCP2 lorsqu'il tentait de couvrir le groupe cible.
  • Sélection de Caractéristiques : FAREG a identifié avec succès les combinaisons de caractéristiques non linéaires pertinentes (X[0] et X[1]) avec une fréquence plus élevée que les lignes de base à mesure que la taille de l'échantillon augmentait.
  • Temps d'Exécution : FAREG a démontré des coûts temporels significativement inférieurs par rapport à AFCP, avec un temps d'entraînement évoluant linéairement avec la taille de l'échantillon.

• Données Réelles (Nursery et ACSIncome) :

  • Sur le jeu de données Nursery, FAREG a constamment surpassé toutes les lignes de base en termes de Couverture de Groupe et de métriques WSC+ tout en maintenant une couverture marginale valide.
  • Sur le jeu de données ACSIncome, FAREG a atteint une couverture conditionnelle valide (0.9) et une efficacité compétitive par rapport à AFCP2.

• Validation de la Métrique : Les expériences ont confirmé que WSC+ identifie des groupes avec une couverture pire que la métrique WSC linéaire, validant son utilité pour détecter des biais non linéaires.

5. Importance et Revendications

L'article revendique que FAREG fournit une voie pratique vers un apprentissage automatique digne de confiance en équilibrant le compromis entre l'efficacité de la prédiction conforme (petites tailles d'ensembles) et les exigences de l'équité algorithmique (couverture égalisée).

• Expressivité : En apprenant des représentations latentes, FAREG capture des biais algorithmiques complexes que les méthodes linéaires ou les approches basées sur une seule caractéristique manquent.
• Interprétabilité : Malgré l'utilisation de représentations latentes, la structure encodeur-décodeur permet la reconstruction des caractéristiques d'entrée, atténuant la préoccupation de la « boîte noire » et démontrant que les groupes appris reflètent des interactions de caractéristiques significatives (par exemple, des relations XNOR).
• Robustesse : Le cadre offre une approche flexible qui peut être adaptée à différentes notions d'équité sans nécessiter de structures de groupes prédéfinies.

Les auteurs reconnaissent une limitation : l'expressivité accrue des groupes basés sur des représentations peut partiellement sacrifier l'interprétabilité directe des groupes définis sur des caractéristiques manifestes, bien qu'ils soutiennent que la capacité de reconstruction compense cela. Le travail se positionne comme une avancée par rapport aux méthodes conformes équitables adaptatives existantes en comblant le fossé d'expressivité dans l'identification des groupes.