Résumé technique : Cohérence des explications contrefactuelles pour l'équité procédurale dans les décisions de crédit

Énoncé du problème

Les recherches actuelles sur l'équité algorithmique dans des domaines socialement sensibles, tels que l'octroi de crédit, se concentrent principalement sur l'équité des résultats (par exemple, la parité démographique, les cotes égales). Ces métriques garantissent que les résultats prédictifs sont statistiquement équilibrés entre les groupes protégés (par exemple, la race, le genre). Cependant, les auteurs soutiennent que satisfaire à l'équité des résultats ne garantit pas que le modèle utilise le même processus de raisonnement pour les individus issus de différents groupes.

Ce fossé crée un « biais procédural caché » où un modèle peut produire des résultats identiques pour des candidats comparables issus de différents groupes démographiques, mais s'appuyer sur des attributions de caractéristiques fondamentalement différentes pour parvenir à ces conclusions. Par exemple, un modèle pourrait approuver un candidat masculin principalement sur la base de son score de crédit, tout en approuvant une candidate féminine au profil similaire sur la base de son historique d'emploi. Dans le cadre de réglementations juridiques telles que la loi sur l'égalité des chances en matière de crédit (ECOA), cela constitue un traitement disparate, pourtant invisible pour les métriques d'équité standard basées sur les résultats.

Les auteurs formalisent ce phénomène en utilisant une taxonomie 2×2 des régimes d'équité :

• Régime A (Entièrement équitable) : Même prédiction, même raisonnement.
• Régime B (Biais caché) : Même prédiction, raisonnement différent (le point aveugle critique).
• Régime C (Inéquité des résultats) : Prédiction différente, même raisonnement.
• Régime D (Gravement inéquitable) : Prédiction différente, raisonnement différent.

Les méthodes existantes ciblent principalement les régimes C et D, laissant le régime B indétecté.

Méthodologie : Cohérence des explications contrefactuelles (CEC)

Pour détecter et atténuer le régime B, les auteurs proposent la Cohérence des explications contrefactuelles (CEC), un cadre qui aligne les attributions de caractéristiques entre les individus et leurs homologues contrefactuels.

1. Génération contrefactuelle par appariement des plus proches voisins stratifié par étiquette

Au lieu d'utiliser des contrefactuels naïfs (inverser l'attribut protégé tout en maintenant toutes les autres caractéristiques constantes, ce qui produit souvent des individus statistiquement impossibles), les auteurs proposent une approche de plus proches voisins (NN) stratifiés par étiquette.

• Mécanisme : Pour un individu factuel $(x, y, a)$, le système recherche dans les données d'entraînement un individu $\tilde{x}$ issu du groupe opposé ($1-a$) qui partage la même étiquette vraie ($y$) et possède les caractéristiques financières ($F$) les plus similaires.
• Caractéristiques financières ($F$) : Définies comme des mérites fondés sur des caractéristiques légalement permises (par exemple, revenu, score de crédit) qui ne sont pas des proxies démographiques.
• Raison d'être : Cela garantit que le factuel et le contrefactuel ont une solvabilité identique vérifiée par la réalité. Toute différence dans le raisonnement du modèle est donc attribuable à un biais dépendant du groupe plutôt qu'à des différences de risque légitimes. Cette méthode évite le besoin de modèles causaux structurels (SCM).

2. Principe de référence cohérente

Le cadre utilise les Intégrales de Gradients (IG) pour mesurer les attributions de caractéristiques. Une contribution critique est le Principe de référence cohérente.

• Problème : La comparaison des vecteurs IG en utilisant des références spécifiques aux groupes (par exemple, la moyenne du Groupe 0 contre la moyenne du Groupe 1) introduit un facteur de confusion. Les différences d'attributions peuvent simplement provenir de points de référence (références) différents plutôt que d'un raisonnement discriminatoire.
• Solution : Le factuel $x$ et le contrefactuel $\tilde{x}$ doivent tous deux être évalués par rapport à la même référence (spécifiquement, la moyenne du groupe d'étiquette du factuel).
• Garantie théorique : Les auteurs prouvent que l'utilisation d'une référence cohérente isole la différence d'attribution à la différence d'entrée et aux gradients du modèle, éliminant les termes spurius causés par les décalages de distribution des groupes.

3. La métrique CEC et la fonction de perte d'entraînement

• Métrique : Le score CEC mesure la distance $L_2$ normalisée entre les vecteurs d'attribution de $x$ et $\tilde{x}$ lors de l'utilisation de la référence cohérente. Un score de 0 indique un raisonnement identique ; 1 indique un raisonnement opposé de manière maximale.
• Objectif d'entraînement : Les auteurs introduisent une fonction de perte multi-objectifs qui optimise conjointement :
  1. Précision de la prédiction (Entropie croisée binaire).
  2. Équité des résultats (Contrainte d'Equalized Odds).
  3. Équité procédurale (Perte CEC) : Un régularisateur différentiable qui pénalise la divergence des vecteurs d'attribution entre les paires factuelles et contrefactuelles.

Contributions clés

1. Formalisation du biais procédural caché : L'article définit et catégorise le « Régime B » (même résultat, raisonnement différent) comme un mode de défaillance critique invisible pour les métriques d'équité standard.
2. Génération contrefactuelle par plus proches voisins : Une méthode pratique pour générer des contrefactuels réalistes pour l'audit d'équité sans nécessiter de graphes causaux, reposant plutôt sur l'appariement du mérite financier.
3. Principe de référence cohérente : Une correction théorique et pratique pour les comparaisons d'Intégrales de Gradients qui empêche les artefacts induits par la référence d'être interprétés à tort comme des biais.
4. Cadre CEC : Une fonction de perte d'entraînement différentiable qui impose la cohérence des explications parallèlement à la précision et à l'équité des résultats, démontrant que l'équité procédurale peut être atteinte avec des coûts d'utilité modestes.

Résultats expérimentaux

Les auteurs ont évalué la CEC sur quatre jeux de données : données synthétiques, crédit allemand, revenu des adultes et données hypothécaires HMDA. Ils ont comparé la CEC à six références (Sans contrainte, Suppresseur d'impact disparate, Post-traitement Hardt, Réductions Agarwal, Débaisage adversaire, Apprentissage équitable Lagrangien).

• Détection du biais caché : Toutes les méthodes de référence ayant atteint une équité des résultats compétitive (faibles écarts d'Equalized Odds) ont présenté un biais procédural caché substantiel (scores CEC élevés). Par exemple, sur le jeu de données du crédit allemand, les méthodes de référence ont placé environ 90 % des échantillons dans le régime B, tandis que le modèle CEC a réduit ce chiffre à environ 17 %.
• Atténuation : Le modèle entraîné avec CEC a constamment obtenu les scores CEC les plus bas et la plus forte proportion d'échantillons du régime A (entièrement équitable) sur tous les jeux de données.
• Compromis d'utilité : Le modèle CEC a maintenu une utilité prédictive compétitive (F1 et AUC) et une équité des résultats, avec seulement des réductions modestes de performance par rapport aux références sans contrainte.
• Études d'ablation :
  • L'ajout de contraintes d'Equalized Odds (EO) seules n'a pas réduit le régime B ; dans certains cas, il l'a légèrement augmenté.
  • L'ajout de la régularisation CEC seule a considérablement réduit le régime B et, par effet secondaire, a souvent conduit l'écart EO à zéro.
  • Le modèle multi-objectifs complet a atteint le meilleur équilibre, confirmant que l'équité procédurale et l'équité des résultats sont des objectifs orthogonaux nécessitant une optimisation conjointe explicite.

Importance et affirmations

L'article affirme que l'équité des résultats et l'équité procédurale sont orthogonales. L'optimisation de l'une ne garantit pas l'autre ; en fait, les interventions standard axées sur les résultats peuvent involontairement masquer ou exacerber le biais procédural caché (Régime B).

L'importance de ce travail réside dans :

1. Conformité réglementaire : Il comble un vide spécifique dans la conformité légale (par exemple, ECOA), où les prêteurs sont interdits d'utiliser des critères de souscription différents pour différents groupes, même si les taux d'approbation finaux sont égaux.
2. Auditabilité : Il fournit un outil quantitatif (score CEC et distribution des régimes) pour auditer non seulement ce qu'un modèle décide, mais comment il raisonne, identifiant les candidats spécifiques soumis à un traitement incohérent.
3. Changement méthodologique : Il démontre que l'équité procédurale peut être intégrée dans le pipeline d'entraînement via des pertes différentiables, dépassant les explications a posteriori pour une atténuation proactive du biais caché.

Les auteurs concluent que si l'équité des résultats est nécessaire, elle est insuffisante pour garantir une prise de décision automatisée équitable dans des domaines à haut risque tels que le crédit. Le cadre CEC offre une voie pratique pour aligner le raisonnement du modèle sur les normes légales et éthiques de la justice procédurale.