Unbiased Model Prediction Without Using Protected Attribute Information

1. Problématique

Le domaine de l'apprentissage profond souffre d'un biais persistant, où les modèles affichent des performances disparates selon différents sous-groupes démographiques (genre, race, âge). La plupart des algorithmes de débiaisage existants nécessitent la connaissance explicite des attributs protégés (comme le genre ou la race) pendant l'entraînement pour corriger ces biais.

Cependant, dans de nombreux scénarios réels, l'accès à ces informations est impossible, illégal (en raison des lois sur la protection des données et de la non-discrimination) ou éthiquement problématique. De plus, les attributs non protégés (par exemple, "porter des lunettes", "sourire") sont souvent fortement corrélés aux attributs protégés. Si un modèle apprend ces attributs non protégés de manière biaisée, il encode indirectement les attributs protégés, perpétuant ainsi l'injustice.

Le défi principal : Comment débiaiser un modèle de prédiction sans avoir accès aux étiquettes des attributs protégés, tout en évitant que le modèle n'apprenne des corrélations spurious via d'autres attributs ?

2. Méthodologie : L'algorithme NPAD

Les auteurs proposent un nouvel algorithme appelé NPAD (Non-Protected Attribute-based Debiasing). Cette approche ne nécessite aucune connaissance a priori des attributs protégés. Elle repose sur deux étapes principales :

Étape 1 : Sélection Intelligente des Attributs Non Protégés

Au lieu de sélectionner aléatoirement des attributs non protégés, NPAD les sélectionne de manière stratégique pour maximiser leur utilité dans la mitigation du biais :

• Calcul de la disparité : Un modèle est entraîné pour prédire un attribut cible $A_i$. Ce modèle est ensuite évalué sur les classes d'autres attributs non protégés. La disparité (écart-type de la précision) est calculée pour chaque attribut non protégé.
• Sélection par corrélation : Les attributs non protégés pour lesquels le modèle montre la plus grande disparité sont sélectionnés en premier, car une forte disparité suggère une forte corrélation avec l'attribut protégé inconnu.
• Indépendance : Pour éviter la redondance, les attributs sélectionnés supplémentaires doivent être indépendants les uns des autres (vérifié par un test du $\chi^2$ d'indépendance). Cela permet de couvrir différents aspects de la corrélation avec l'attribut protégé.

Étape 2 : Mitigation du Biais via Nouvelles Fonctions de Perte

Une fois les attributs non protégés sélectionnés, le modèle est optimisé en utilisant deux fonctions de perte novatrices :

1. DACL (Debiasing via Attribute Cluster Loss) :

   • Le but est de séparer les clusters dans l'espace des caractéristiques (feature space).
   • Les classes de l'attribut cible sont combinées avec les classes des attributs non protégés sélectionnés, créant $2^{n+1}$ classes (où $n$ est le nombre d'attributs non protégés).
   • DACL minimise la distance intra-classe (en réduisant l'écart-type mobile des représentations de caractéristiques) et maximise la distance inter-classe (en augmentant la distance entre les moyennes mobiles). Cela force le modèle à apprendre des caractéristiques spécifiques à chaque classe, réduisant ainsi le biais.

2. FRL (Filter Redundancy Loss) :

   • Les réseaux de neurones convolutifs (CNN) ont tendance à apprendre des filtres redondants (corrélés).
   • FRL pénalise la corrélation entre les filtres normalisés d'un même canal. En réduisant la redondance des caractéristiques, FRL améliore l'expressivité des features et booste les performances globales, complétant ainsi DACL.

Perte Finale : $L = \lambda_1 L_{DACL} + \lambda_2 L_{FRL}$

3. Contributions Clés

• Algorithme NPAD : Une méthode de débiaisage qui fonctionne sans étiquettes d'attributs protégés, exploitant intelligemment les attributs non protégés comme proxy.
• Nouvelles Fonctions de Perte : Introduction de DACL pour la séparation des clusters de classes et FRL pour la réduction de la redondance des filtres.
• Nouvelle Métrique (OPE) : Introduction de l'Overall Performance Equality (OPE). Les métriques existantes (comme la différence d'égalité des opportunités) échouent lorsque le modèle prédit une seule classe pour tous les échantillons (donnant une disparité de 0 mais une performance nulle). L'OPE prend en compte à la fois la disparité et la performance globale du modèle.
• Validation Expérimentale : Des expériences approfondies sur les jeux de données LFWA et CelebA pour la prédiction d'attributs faciaux.

4. Résultats Expérimentaux

Les expériences ont été menées sur LFWA et CelebA, en considérant le genre et l'âge comme attributs protégés (non utilisés pendant l'entraînement, seulement pour l'évaluation).

• Performance et Équité : NPAD surpasse significativement le modèle de base (BMT) et l'algorithme LfF (Learning from Failure).
  • En termes de précision globale, NPAD atteint des performances proches, voire supérieures, à celles des méthodes utilisant les attributs protégés (PAD).
  • Réduction significative du DoB (Degree of Bias) et de l'OPE.
• Comparaison avec PAD : Dans certains cas, NPAD (utilisant deux attributs non protégés) dépasse même PAD, suggérant que la combinaison intelligente d'attributs non protégés peut fournir une supervision plus riche que l'attribut protégé seul.
• Généralisation : L'algorithme montre une bonne généralisation dans des expériences croisées (LFWA $\to$ CelebA et vice-versa).
• Études de Cas :
  • La sélection aléatoire d'attributs non protégés (sans la stratégie de disparité) donne de moins bons résultats, prouvant l'importance de la sélection intelligente.
  • L'ablation montre que l'absence de FRL ou de DACL dégrade soit la performance, soit l'équité, confirmant la nécessité des deux composantes.

5. Signification et Impact

Cet article est significatif car il adresse l'un des principaux obstacles à l'application éthique de l'IA dans le monde réel : l'absence de données sensibles.

• Conformité Légale : NPAD permet de créer des modèles équitables dans des juridictions où la collecte de données sur la race ou le genre est interdite.
• Efficacité : Il démontre que les attributs non protégés, souvent déjà présents dans les jeux de données, contiennent suffisamment d'information pour corriger les biais démographiques s'ils sont exploités correctement.
• Nouvelle Métrique : L'introduction de l'OPE offre un outil d'évaluation plus robuste pour les scénarios où les métriques de disparité traditionnelles peuvent être trompeuses.

En conclusion, NPAD propose une solution pragmatique et efficace pour l'équité algorithmique, transformant une contrainte (l'absence d'attributs protégés) en une opportunité d'apprentissage via des attributs auxiliaires.