🤖 machine learning

Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review

Cette enquête propose un examen exhaustif des méthodes d'apprentissage automatique hybrides qui abordent conjointement l'équité de groupe et individuelle, en analysant systématiquement leurs fondements théoriques, leurs stratégies d'optimisation et leurs compromis, tout en identifiant les défis ouverts pour le développement de solutions d'équité fondées sur des principes et sensibles au contexte.

Auteurs originaux : Sandra Benítez-Peña, Blas Kolic, Victoria Menendez, Belén Pulido

Publié 2026-02-03

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Sandra Benítez-Peña, Blas Kolic, Victoria Menendez, Belén Pulido

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez le juge en chef dans un tribunal massif où un système d'IA aide à décider qui obtient un prêt, un emploi ou un traitement médical. Vous devez suivre deux règles très importantes, mais souvent contradictoires, pour garantir la justice :

La « Règle du Groupe » (Équité de Groupe) : Cette règle dit : « Nous devons nous assurer que les taux de réussite globaux sont les mêmes pour chaque groupe démographique. » Si le Groupe A est approuvé 50 % du temps, le Groupe B devrait également être approuvé 50 % du temps. Il s'agit de la vue d'ensemble et des statistiques.
La « Règle du Voisin » (Équité Individuelle) : Cette règle dit : « Nous devons traiter les personnes similaires de la même manière. » Si deux personnes ont des CV, des scores de crédit et des parcours de vie presque identiques, elles devraient recevoir exactement la même décision, quel que soit leur groupe d'appartenance. Il s'agit des détails spécifiques de chaque personne.

Le Gros Problème :
Ce document, écrit par une équipe de chercheurs espagnols, souligne une réalité frustrante : vous ne pouvez souvent pas suivre ces deux règles parfaitement en même temps.

Pensez-y comme si vous essayiez de couper un gâteau.

Si vous coupez le gâteau de sorte que chaque table reçoive une quantité égale de gâteau (Équité de Groupe), vous pourriez devoir donner une toute petite part à une personne très affamée et une énorme part à quelqu'un qui n'a pas faim, juste pour équilibrer les totaux. Cela viole la Règle du Voisin car deux voisins ayant la même faim reçoivent des parts différentes.
Si vous coupez le gâteau de sorte que chaque personne affamée reçoive la même taille de part (Équité Individuelle), les tables pourraient se retrouver avec des quantités totales de gâteau très différentes. Une table pourrait recevoir une montagne de gâteau tandis qu'une autre n'en reçoit presque rien. Cela viole la Règle du Groupe.

Ce que fait le document :
Au lieu de dire simplement « c'est impossible », ce document agit comme une carte complète pour les autres chercheurs. Il passe en revue tous les outils et méthodes que les gens ont inventés pour essayer de équilibrer ces deux règles.

Les auteurs ont organisé ces méthodes en trois « ateliers » où la magie de l'équité opère :

L'Atelier de Préparation des Données (Pré-traitement) : Avant même que l'IA ne commence à apprendre, les chercheurs modifient les données. Ils peuvent changer les chiffres dans le jeu de données ou ajouter des scénarios fictifs de type « et si » (comme demander : « Et si cette personne venait d'un groupe différent ? ») pour enseigner à l'IA à être plus juste dès le départ.
La Salle de Musculation de l'Entraînement (En-traitement) : Pendant que l'IA apprend, les chercheurs ajoutent des « poids » ou des « règles » supplémentaires à son entraînement. C'est comme mettre un handicap à l'IA : « Si tu commences à traiter des personnes similaires de manière différente, tu reçois une pénalité. » L'IA doit apprendre à être à la fois précise et juste.
L'Examen Final (Post-traitement) : Après que l'IA a pris ses décisions, un humain (ou un second algorithme) intervient pour ajuster les résultats. Si l'IA dit « Oui » au Groupe A 60 % du temps et « Oui » au Groupe B 40 % du temps, cette étape peut abaisser légèrement la barre pour le Groupe B afin d'équilibrer les choses, tout en essayant de traiter les personnes similaires de manière similaire.

Ce que le document a trouvé :

Le compromis est réel : Le document confirme que tenter de corriger un type d'injustice en aggrave souvent un autre. Il n'y a pas de repas gratuit.
La plupart des méthodes sont coûteuses : Beaucoup de ces actes d'équilibrage sophistiqués nécessitent beaucoup de puissance informatique et de temps. C'est comme essayer de résoudre un Rubik's Cube tout en courant un marathon.
Nous manquons de données : La plupart de ces méthodes sont testées sur quelques jeux de données anciens et simples (comme les ensembles de données « Adult » ou « COMPAS »). Nous ne savons pas réellement si elles fonctionnent bien dans des situations réelles et complexes comme l'imagerie médicale ou le recrutement pour des métiers créatifs.
Le code est manquant : Près de la moitié des méthodes examinées ne partagent pas leur code informatique publiquement. C'est comme lire la recette d'un délicieux gâteau mais ne pas être autorisé à voir la liste des ingrédients.

Le mot de la fin :
Le document conclut que nous n'en sommes encore qu'aux premiers jours de la résolution de ce puzzle. Bien que nous ayons de nombreux outils pour essayer d'équilibrer la « Règle du Groupe » et la « Règle du Voisin », nous avons besoin de meilleures façons de mesurer le coût de leur utilisation, de plus de tests dans différents scénarios du monde réel et de directives plus claires sur la façon de choisir quelle règle prioriser lorsqu'elles s'affrontent. L'objectif n'est pas de trouver une solution parfaite (car elle n'existe peut-être pas), mais de construire des systèmes où nous comprenons les compromis et pouvons faire des choix éthiques éclairés.

Résumé technique : Compromis entre l'équité individuelle et de groupe dans l'apprentissage automatique

Énoncé du problème
L'équité algorithmique est devenue une préoccupation critique dans les systèmes de prise de décision à enjeux élevés (ex. : justice pénale, recrutement, santé). La littérature s'est traditionnellement divisée en deux notions distinctes, souvent conflictuelles, d'équité : l'Équité de Groupe (EG) et l'Équité Individuelle (EI).

L'Équité de Groupe se concentre sur la parité des résultats ou des taux d'erreur entre des sous-populations démographiques définies par des attributs sensibles (ex. : parité démographique, égalité des chances).
L'Équité Individuelle met l'accent sur le traitement cohérent d'individus similaires, indépendamment de leur appartenance à un groupe, généralement formalisé via la continuité de Lipschitz ou des métriques de similitude.

Bien que les deux visent un traitement équitable, elles sont fréquemment incompatibles mathématiquement. Imposer une stricte parité de groupe nécessite souvent de traiter des individus similaires différemment en fonction de leur appartenance à un groupe pour corriger les déséquilibres de distribution, ce qui viole l'équité individuelle. Inversement, imposer une stricte cohérence individuelle peut préserver ou reproduire des disparités au niveau du groupe. Les revues existantes traitent largement ces notions de manière isolée ou classent les méthodes selon leur position dans le pipeline ML (pré-, en-, ou post-traitement) sans analyser explicitement les compromis entre l'EG et l'EI. Cet article comble la lacune consistant à examiner systématiquement les méthodes qui gèrent conjointement ces objectifs concurrents.

Méthodologie
Les auteurs ont mené une revue systématique de la littérature pour identifier les études qui intègrent explicitement l'EG et l'EI au sein d'un cadre unifié.

Stratégie de recherche : Une requête booléenne a été exécutée sur Web of Science, IEEE et arXiv, combinant des termes liés à l'équité individuelle (ex. : « cohérence », « Lipschitz ») et à l'équité de groupe (ex. : « parité démographique », « égalité des chances »).
Critères de filtrage : Les articles ont été sélectionnés uniquement s'ils formalisaient une optimisation conjointe, un ensemble de contraintes ou un cadre d'évaluation prenant en compte simultanément les deux notions d'équité. Les articles mentionnant simplement les deux concepts dans leur motivation sans intégration technique ont été exclus.
Construction de la taxonomie : Au lieu de s'appuyer uniquement sur la taxonomie standard par étape du pipeline (pré/en/post-traitement), les auteurs ont développé une taxonomie fine basée sur les mécanismes d'équité employés. Cette approche regroupe les méthodes selon la manière dont elles formulent et gèrent le compromis EG-EI, quel que soit l'étape spécifique du pipeline.

Contributions clés et taxonomie
L'article fournit une revue complète des approches d'équité hybrides, en organisant les méthodes en trois familles mécanistes primaires :

Stratégies basées sur la représentation ou la modification des données :
- Transformation des données : Modifie les données d'entrée (ex. : correction d'étiquettes, édition de caractéristiques) pour équilibrer les distributions conjointes des groupes sensibles et des résultats tout en préservant les structures de voisinage locales.
- Repondération et rééchantillonnage : Ajuste les poids spécifiques aux instances pour approximer une distribution cible où les attributs sensibles et les résultats sont indépendants, en utilisant souvent les valeurs de Shapley pour évaluer les contributions individuelles à la disparité.
- Représentation et plongement (Embedding) : Projette les individus dans un espace latent où les observations similaires sont regroupées. Cela impose l'EI par construction (indistinguables au sein des clusters) tout en promouvant l'EG par des contraintes sur la récupérabilité de la représentation ou la composition des clusters.
- Augmentation et contraste : Génère des échantillons contrefactuels ou contrastifs synthétiques (variant les attributs sensibles) pour imposer l'invariance ou la lissité des prédictions, traitant à la fois la cohérence locale et les disparités de groupe.
Stratégies basées sur la régularisation ou les objectifs d'optimisation :
- Régularisation : Augmente la fonction de perte avec des termes pénalisant les comportements injustes tant au niveau du groupe qu'au niveau individuel (ex. : $\lambda_{EG}\Phi_{groupe} + \lambda_{EI}\Psi_{individuel}$ ). Cela permet de naviguer sur la frontière de Pareto entre précision, EG et EI.
- Approches basées sur des métriques : Intègre la structure géométrique directement dans la fonction de perte, pénalisant les écarts de prédiction pour les paires d'individus jugés similaires par une métrique prédéfinie. Cela impose la continuité de Lipschitz, ce qui peut indirectement satisfaire l'équité de groupe sous certaines conditions.
- Apprentissage antagoniste (Adversarial Learning) : Entraîne un prédicteur pour minimiser la perte de prédiction pendant qu'un adversaire tente de récupérer les attributs sensibles. Des extensions incorporent des pénalités de similitude par paire ou des pertes contrefactuelles pour assurer la cohérence locale parallèlement à l'invariance de groupe.
Stratégies basées sur des ajustements locaux ou post-hoc :
- Seuillage (Thresholding) : Introduit des seuils de décision spécifiques aux groupes pour s'aligner sur des critères tels que l'égalité des chances. Des extensions incorporent des métriques de similitude pour aligner partiellement avec l'EI.
- Option de rejet (Reject-option) : Opère dans une « région d'ambiguïté » proche de la frontière de décision, modifiant sélectivement les prédictions pour réduire les disparités et corriger simultanément les incohérences locales.

Résultats et observations empiriques
La revue a analysé la littérature sélectionnée concernant la mise en œuvre et l'évaluation :

Distribution du pipeline : Les méthodes d'en-traitement (in-processing) sont les plus répandues (60 %), suivies par le pré-traitement (25 %) et le post-traitement (19 %).
Mécanismes dominants : La régularisation est la sous-taxonomie la plus courante, suivie par les approches basées sur les métriques et l'apprentissage de représentation.
Évaluation comparative (Benchmarking) : Il existe une forte dépendance à un ensemble restreint de jeux de données (Adult, COMPAS, German Credit), qui apparaissent dans environ 20 % des études. Cela soulève des inquiétudes quant à la généralisabilité à des domaines de haute dimension comme la vision par ordinateur ou le traitement du langage naturel (NLP).
Coût computationnel : L'efficacité computationnelle est rarement une priorité. Bien que certaines méthodes soient notées comme exigeantes en calcul (ex. : nécessitant des heures d'entraînement ou un réentraînement itératif), peu fournissent des analyses systématiques des compromis entre les objectifs d'équité, de précision et de coût de calcul.
Reproductibilité : Seules 56 % des méthodes examinées fournissent un code accessible au public, ce qui limite la vérification indépendante et l'adoption pratique.

Signification et affirmations
L'article affirme être la première revue systématique qui analyse explicitement les méthodes gérant les compromis entre l'EG et l'EI à travers les définitions, les algorithmes et les contextes d'évaluation. Sa signification réside dans :

Synthèse des approches hybrides : Il dépasse l'étude de l'EG et de l'EI de manière isolée pour clarifier comment elles peuvent être opérationnalisées conjointement.
Clarification des compromis : Il souligne que le conflit entre ces notions n'est pas seulement un artefact technique mais reflète des tensions normatives plus profondes, et que les méthodes existantes offrent différentes manières de naviguer sur la frontière de Pareto entre elles.
Identification des lacunes : Les auteurs notent modestement que le domaine est à un stade précoce de maturité. Ils identifient des lacunes critiques, notamment l'absence d'évaluation systématique des coûts de calcul, la rareté des études dans des domaines divers, l'absence de directives sur la sélection des paramètres pour les contraintes du monde réel, et la forte hypothèse d'attributs sensibles entièrement étiquetés lors de l'entraînement.
Directions futures : L'article suggère que les travaux futurs devraient se concentrer sur des cadres plus flexibles (au-delà de la parité rigide), l'intégration des perspectives causales et juridiques, et des méthodes opérant sous des contraintes réalistes (ex. : données censurées, intersectionnalité).

Les auteurs concluent que, bien que l'EG et l'EI soient souvent mathématiquement incompatibles, les méthodes qui gèrent explicitement ces compromis représentent une étape cruciale vers une prise de décision algorithmique plus responsable et transparente, fournissant une base pour concevoir des algorithmes offrant une fiabilité tant au niveau individuel que de groupe.

Résumé technique : Compromis entre l'équité individuelle et de groupe dans l'apprentissage automatique

Articles similaires