🤖 AI

FairSHAP: Preprocessing for Fairness Through Attribution-Based Data Augmentation

Le papier présente FairSHAP, un nouveau cadre de prétraitement qui améliore l'équité individuelle et groupale en identifiant et en modifiant systématiquement les instances critiques du jeu de données grâce à l'attribution des valeurs de Shapley, tout en préservant l'intégrité des données et la précision du modèle.

Auteurs originaux : Lin Zhu, Yijun Bian, Lei You

Publié 2026-02-24

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Lin Zhu, Yijun Bian, Lei You

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🎩 Le Magicien de l'Équité : Comment FairSHAP répare les préjugés de l'IA

Imaginez que vous embauchiez un chef cuisinier très talentueux (c'est votre Intelligence Artificielle ou IA) pour préparer un grand banquet. Ce chef est excellent pour cuisiner, mais il a un problème : il a grandi dans un quartier où l'on mangeait beaucoup de plats salés, et il pense que tout le monde aime le sel.

Si vous lui donnez des recettes pour des gens de différentes origines, il va mettre trop de sel dans les plats destinés à ceux qui ne le préfèrent pas. C'est ce qu'on appelle un biais. Dans le monde réel, cela peut signifier qu'une IA refuse des prêts bancaires injustement à certaines personnes en raison de leur genre ou de leur origine.

Le problème, c'est que souvent, on ne sait pas pourquoi le chef met trop de sel. Est-ce l'ail ? Le poivre ? La température du four ? C'est là que FairSHAP entre en jeu.

1. Le Détective : "Qui est le coupable ?" (Les Valeurs de Shapley)

Avant de réparer le problème, il faut savoir qui est responsable. Les chercheurs ont utilisé un outil mathématique appelé Valeurs de Shapley (inspiré d'un jeu de société).

Imaginez que vous avez un gâteau. Vous voulez savoir quelle contribution chaque ingrédient (œuf, farine, sucre) a apporté au goût final.

Si vous enlevez le sucre, le gâteau devient insipide. Le sucre a une grande valeur.
Si vous enlevez une pincée de sel, le goût ne change presque pas. Le sel a une faible valeur.

FairSHAP utilise ce principe pour regarder chaque décision de l'IA. Il se demande : "Quel est l'ingrédient (la donnée) qui a le plus influencé cette décision injuste ?"
C'est comme si le détective pointait du doigt : "Ah ! C'est parce que le candidat venait d'un quartier spécifique (l'ingrédient 'quartier') que l'IA a dit 'Non'. Ce facteur est trop important dans la décision."

2. Le Remède Doux : "L'Augmentation de Données" (Au lieu de jeter le gâteau)

La plupart des méthodes actuelles pour corriger les biais sont un peu brutales. Elles ressemblent à deux approches extrêmes :

Jeter le gâteau : On efface complètement les données sensibles (comme le genre ou la race). Problème : on perd beaucoup d'informations utiles, et le gâteau devient fade.
Recuire tout le gâteau : On force l'IA à réapprendre tout depuis zéro avec des règles strictes. Problème : c'est long et ça peut casser la recette originale.

FairSHAP propose une troisième voie, plus subtile : l'augmentation de données par "copie-coller intelligent".

Voici comment ça marche, étape par étape :

Le Match Parfait : L'IA prend deux candidats qui sont presque identiques (mêmes diplômes, mêmes expériences, même âge), sauf pour un détail : l'un est du groupe A (privé) et l'autre du groupe B (privilégié). On les met côte à côte, comme deux jumeaux.
L'Inspection : On regarde pourquoi l'IA a traité le candidat du groupe A différemment. Grâce au "Détective Shapley", on voit que c'est à cause de certaines données spécifiques (par exemple, le nom de l'école ou le code postal).
La Correction Chirurgicale : Au lieu de changer tout le dossier, on prend seulement les données "coupables" du candidat du groupe A et on les remplace par celles du candidat du groupe B (ou vice-versa).
- Analogie : C'est comme si vous aviez deux robes identiques, mais l'une a une tache rouge. Au lieu de jeter la robe, vous prenez juste le tissu propre de l'autre robe pour remplacer uniquement la partie tachée. Le reste de la robe reste intact.

3. Le Résultat : Un Banquet Équitable

Grâce à cette méthode, FairSHAP obtient deux résultats magiques :

Moins de Biais : L'IA apprend que le "quartier" ou le "nom" ne devrait pas déterminer si quelqu'un obtient un prêt ou un emploi. Elle devient plus juste.
Moins de Dégâts : Comme on ne change que quelques gouttes d'eau dans l'océan (très peu de données sont modifiées), la qualité globale des données reste excellente. L'IA reste aussi intelligente qu'avant, voire plus, car elle ne se trompe plus sur des critères injustes.

En Résumé

FairSHAP, c'est comme un réparateur de montres de précision.

Il ne casse pas la montre (il ne détruit pas les données).
Il ne remplace pas toute la montre par une neuve (il ne réentraîne pas tout le système de zéro).
Il identifie exactement la petite vis qui est de travers (le facteur de biais grâce à Shapley).
Il la tourne doucement pour que tout fonctionne parfaitement à nouveau.

Le résultat ? Une intelligence artificielle qui prend des décisions plus justes, plus transparentes, et qui garde sa capacité à prédire correctement, sans avoir besoin de "laver" artificiellement ses erreurs. C'est de l'équité, version chirurgicale. 🩺✨

1. Problématique et Contexte

L'équité dans l'apprentissage automatique (ML) est cruciale, en particulier dans les domaines à haut risque (santé, finance, justice) où des décisions biaisées peuvent avoir des conséquences sociétales graves. Cependant, les approches existantes de prétraitement pour l'équité souffrent de deux lacunes majeures :

Manque de transparence : Elles modifient les données sans mécanisme clair pour identifier quelles caractéristiques (features) sont responsables des biais, rendant la justification des modifications opaque.
Focus limité : La plupart des méthodes se concentrent uniquement sur l'équité de groupe (ex: parité démographique), négligeant souvent l'équité individuelle et les biais intersectionnels. De plus, l'optimisation de l'équité de groupe peut parfois conduire à de l'arbitraire individuel.

L'objectif est donc de développer une méthode de prétraitement qui soit à la fois interprétable, capable d'améliorer simultanément l'équité individuelle et de groupe, et qui préserve l'intégrité des données (fidélité).

2. Méthodologie : FairSHAP

FairSHAP est un cadre de prétraitement novateur qui combine l'attribution de valeurs de Shapley (SHAP) et l'appariement d'instances (instance matching) pour augmenter les données de manière ciblée.

Principes Fondamentaux

Approche basée sur l'interprétabilité : Le méthode utilise les valeurs de Shapley pour quantifier l'importance de chaque caractéristique dans les prédictions d'un modèle, spécifiquement en relation avec une mesure d'équité individuelle.
Mesure d'équité individuelle (DR) : L'article utilise le Risque Discriminatoire (Discriminative Risk - DR). Pour une instance $x = (\check{x}, A)$ (où $\check{x}$ sont les caractéristiques non sensibles et $A$ l'attribut sensible), le DR est défini comme la différence absolue entre la prédiction si $A=0$ et si $A=1$ . Un DR élevé indique un biais individuel.
Hypothèse centrale : En identifiant et en modifiant les caractéristiques "critiques pour l'équité" (celles ayant une forte valeur de Shapley contribuant au DR), on peut réduire le biais individuel, ce qui entraîne mécaniquement une réduction du biais de groupe.

Algorithme et Étapes

Le processus se déroule en deux phases principales (voir Figure 1 du papier) :

Appariement d'instances (Matching) :
- L'ensemble de données d'entraînement est divisé en deux groupes selon l'attribut sensible (groupe privilégié et groupe non privilégié).
- Un appariement par voisins les plus proches (Nearest Neighbor) ou par transport optimal est effectué entre les deux groupes. Cela crée des paires d'instances similaires, à l'exception de leur attribut sensible.
- Contrainte importante : L'appariement respecte la cohérence des étiquettes (les instances positives sont appariées avec des instances positives).
Augmentation de données basée sur SHAP :
- Pour chaque instance du groupe cible, les valeurs de Shapley sont calculées par rapport à une référence (l'instance appariée de l'autre groupe).
- Les caractéristiques dont la valeur de Shapley dépasse un seuil $T$ (par défaut $T=0.05$ ) sont identifiées comme "critiques pour l'équité".
- Modification : Les valeurs de ces caractéristiques critiques dans l'instance cible sont remplacées par les valeurs correspondantes de l'instance de référence (du groupe opposé).
- Ce processus est appliqué symétriquement aux deux groupes.
Résultat : Un nouvel ensemble de données augmenté ( $D_{new}$ ) est généré, où les biais individuels ont été atténués par des modifications minimales et ciblées.

Fondements Théoriques

Théorème de réduction du DR : Le papier démontre que pour chaque instance, remplacer les caractéristiques critiques par leurs valeurs de référence réduit le DR d'au moins la somme des valeurs de Shapley de ces caractéristiques (moins un terme de résidu d'interaction).
Contrôle du résidu : Grâce à l'appariement local (voisins proches), la distance entre l'instance et sa référence est faible, ce qui garantit que le terme de résidu d'interaction est négligeable (d'ordre second).
Lien Équité Individuelle/De Groupe : Des théorèmes établissent que la réduction du DR individuel (mesure individuelle) entraîne une borne supérieure plus stricte sur la Parité Démographique (DP), assurant ainsi une amélioration de l'équité de groupe.

3. Contributions Clés

Nouveau cadre FairSHAP : Une méthode de prétraitement qui utilise l'attribution de Shapley pour identifier et modifier systématiquement les points de données biaisés au niveau individuel.
Garanties théoriques : Preuve que la méthode réduit le risque discriminatoire individuel avec une garantie instance-par-instance, et que cette réduction se traduit par une amélioration des métriques de groupe (DP, EO).
Efficacité et Fidélité : La méthode atteint des performances de pointe (SOTA) ou comparables avec des modifications de données minimales, préservant ainsi la fidélité des données (fuite d'information réduite) et souvent en améliorant la précision du modèle.
Indépendance du modèle (Model-Agnostic) : Bien qu'elle utilise un modèle pour calculer les Shapley, elle ne modifie pas le modèle lui-même, mais seulement les données d'entraînement, ce qui la rend compatible avec n'importe quel pipeline de ML existant.

4. Résultats Expérimentaux

Les expériences ont été menées sur cinq jeux de données tabulaires réels (German Credit, COMPAS, Adult, Census Income KDD, Default Credit) couvrant la justice pénale, la finance et les services sociaux.

Comparaison avec l'état de l'art : FairSHAP a été comparé à des méthodes de référence comme RSA (suppression de l'attribut sensible), DIR (Disparate Impact Remover) et CR (Correlation Remover).
Performance sur les métriques :
- Réduction du DR : FairSHAP a réduit le Risque Discriminatoire de manière significative (jusqu'à 80% sur German Credit et ~40% sur COMPAS).
- Équité de groupe : Il a également réduit la Parité Démographique (DP) et l'Égalité des Opportunités (EO) de manière supérieure ou comparable aux autres méthodes.
- Précision : Contrairement à d'autres méthodes qui sacrifient souvent la précision, FairSHAP a maintenu, voire amélioré, la précision du modèle dans plusieurs cas (ex: COMPAS, Census Income).
Fidélité des données : FairSHAP modifie beaucoup moins de données que les méthodes concurrentes (ex: CR modifie >95% des données, tandis que FairSHAP en modifie très peu, <2% dans certains cas), préservant ainsi la distribution originale.
Robustesse : Les résultats sont stables à travers différents modèles (XGBoost, SVM, TabPFN) et différentes méthodes d'estimation de Shapley (KernelSHAP, SamplingSHAP, PermutationSHAP).

5. Signification et Impact

L'article FairSHAP représente une avancée significative dans le domaine de l'IA équitable pour plusieurs raisons :

Transparence et Actionnabilité : En liant directement les modifications de données aux valeurs de Shapley, la méthode offre une explication claire de pourquoi une donnée a été modifiée, évitant le "fairwashing" (justification trompeuse de décisions biaisées).
Synergie Individuel/Groupe : Elle valide théoriquement et empiriquement l'idée que renforcer l'équité individuelle est une voie principielle pour atteindre l'équité de groupe, résolvant une tension souvent perçue entre les deux.
Préservation de l'Intégrité : En effectuant des modifications minimales et ciblées plutôt que des transformations globales, elle maintient la qualité prédictive des données, un défi majeur pour les méthodes de prétraitement actuelles.
Adoption Pratique : En tant que méthode de prétraitement, elle s'intègre facilement dans les flux de travail existants sans nécessiter de réingénierie des modèles de production.

En conclusion, FairSHAP propose une approche rigoureuse, interprétable et efficace pour débiaiser les données d'entraînement, offrant un compromis optimal entre équité, précision et intégrité des données.