🤖 machine learning

Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing

Cet article réexamine le rôle du comparateur dans les tests de discrimination en distinguant l'approche standard « ceteris paribus » d'un nouveau cadre « mutatis mutandis » qui prend en compte la manière dont les attributs protégés influencent causalement les caractéristiques non protégées, offrant ainsi une alternative plus complexe mais plus pertinente pour la détection de discriminations fondée sur l'apprentissage automatique.

Auteurs originaux : Jose M. Alvarez, Salvatore Ruggieri

Publié 2026-05-04

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jose M. Alvarez, Salvatore Ruggieri

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un juge chargé de décider si un responsable du recrutement a discriminé une candidate nommée Clara. Clara est une femme et elle a été rejetée. Elle affirme avoir été rejetée parce qu'elle est une femme.

Pour prouver cela, vous devez la comparer à quelqu'un d'autre. Mais qui ? C'est le puzzle central que l'article résout.

Les auteurs, José M. Álvarez et Salvatore Ruggieri, soutiennent que la manière dont nous choisissons cette « personne de comparaison » (appelée comparateur) modifie entièrement le résultat du test. Ils proposent deux façons différentes de choisir cette personne : la méthode « Tout Par ailleurs Égal » et la méthode « Apporter des Ajustements ».

Voici une explication simple de leur argumentation à l'aide d'analogies du quotidien.

1. La Méthode Standard : « Tout Par ailleurs Égal » (Ceteris Paribus)

C'est la façon traditionnelle dont fonctionne le test de discrimination. Imaginez que vous vouliez savoir si une voiture de course est plus rapide qu'un camion. Vous les placez sur exactement la même piste, avec exactement le même carburant et exactement le même temps qu'il fait. La seule chose que vous changez est le type de véhicule.

Dans les termes de l'article, il s'agit du Comparateur CP.

Le Scénario : Clara (femme) a postulé à un emploi. Pour tester sa revendication, nous trouvons un Mike (homme) qui a exactement le même CV, exactement le même nombre d'années d'expérience et exactement les mêmes notes.
La Logique : Si Mike obtient le poste et que Clara non, malgré des CV identiques, alors Clara a été discriminée.
Le Problème : Les auteurs soutiennent qu'il s'agit d'une fantaisie « idéalisée ». Dans le monde réel, être une femme (ou un membre d'un groupe protégé) modifie souvent votre vie avant même que vous ne postuliez à un emploi. Peut-être que Clara a pris un congé pour élever des enfants, ou peut-être qu'elle a été orientée vers d'autres cours en raison des attentes sociétales. Si vous trouvez un Mike avec exactement le même CV, vous ignorez le fait que la société les a traités différemment avant que le CV ne soit rédigé. Vous faites comme si le passé n'existait pas.

2. La Nouvelle Méthode : « Apporter des Ajustements » (Mutatis Mutandis)

Les auteurs proposent une façon plus intelligente et plus complexe de choisir la personne de comparaison. Il s'agit du Comparateur MM.

Pensez-y comme à une simulation de voyage dans le temps.

Le Scénario : Nous avons toujours Clara. Mais au lieu de trouver un Mike avec exactement le même CV, nous nous demandons : « Si Clara était née homme, comment sa vie se serait-elle déroulée différemment ? »
L'Ajustement : Si le fait d'être une femme a signifié que Clara avait moins de temps pour étudier ou moins d'opportunités de réseautage, la méthode MM dit : « Ajustons le CV de Mike pour qu'il corresponde à ce que la vie de Clara aurait été si elle avait été un homme. »
Le Résultat : Peut-être que Mike se retrouve avec plus d'expérience ou de meilleures notes que la Clara que nous voyons aujourd'hui, car il n'a pas fait face aux mêmes obstacles sociétaux.
La Logique : Nous comparons la vraie Clara à ce ajusté Mike. Si le Mike ajusté obtient le poste et que la vraie Clara non, nous avons de solides preuves de discrimination. Cette méthode reconnaît que le « terrain de jeu » n'était pas de niveau dès le départ.

L'Exemple de la « Titularisation »

L'article utilise l'histoire d'une professeure d'université nommée Clara pour illustrer cela :

Clara (femme) a 12 publications et s'est vu refuser la titularisation.
Mike (homme) a 12 publications et s'est vu refuser la titularisation.
Vincent (homme) a 18 publications et a obtenu la titularisation.

En utilisant la méthode « Tout Par ailleurs Égal » (CP) :
Vous comparez Clara à Mike. Ils ont tous deux 12 articles. Puisque Mike a également été rejeté, vous pourriez dire : « Voyez-vous ? Ce n'est pas parce qu'elle est une femme ; elle n'avait tout simplement pas assez d'articles. » Vous pourriez rejeter sa revendication.

En utilisant la méthode « Apporter des Ajustements » (MM) :
Vous vous demandez : « Si Clara avait été un homme, aurait-elle eu 12 articles, ou en aurait-elle eu 18 ? » Les auteurs soutiennent que, comme les femmes font souvent face à des fardeaux supplémentaires (comme la garde d'enfants) que les hommes ne connaissent pas, un homme dans la situation de Clara aurait peut-être eu plus de temps pour écrire des articles. Ainsi, la version « ajustée » de Clara (appelons-la « Clara-Homme ») pourrait avoir 18 articles.
Vous comparez ensuite la vraie Clara (12 articles) à Vincent (18 articles, qui a obtenu la titularisation). Si l'université rejette le candidat à 12 articles mais accepte celui à 18 articles, et que nous savons que le candidat à 12 articles a été freiné par des rôles sociétaux genrés, la discrimination devient plus claire.

Pourquoi cela importe-t-il ?

Les auteurs disent que la plupart des outils actuels pour détecter la discrimination utilisent la méthode CP (Tout Par ailleurs Égal). Ils sont comme un appareil photo qui ne prend que des photos du moment présent, ignorant l'histoire qui nous y a menés.

La méthode MM (Apporter des Ajustements) est comme un appareil photo avec un bouton « rembobiner et éditer ». Elle tente de reconstruire à quoi le monde aurait ressemblé si l'attribut protégé (comme la race ou le genre) n'avait pas influencé le parcours de vie de la personne.

La Contrainte :
Les auteurs admettent que la méthode MM est beaucoup plus difficile à mettre en œuvre. Elle nécessite des modèles d'apprentissage automatique complexes pour simuler ces scénarios « et si ». C'est comme essayer d'écrire un roman d'histoire alternative parfait. La méthode CP est facile (il suffit de trouver un jumeau), mais elle pourrait manquer la véritable injustice. La méthode MM est complexe et demande plus d'imagination, mais elle pourrait révéler la vérité sur le fonctionnement réel du système.

La Conclusion

L'article ne dit pas que l'ancienne méthode est « fausse » ou que la nouvelle est « parfaite ». Au contraire, il dit : « Nous devons cesser de faire semblant qu'il n'existe qu'une seule façon de comparer les gens. »

Lorsque nous testons la discrimination, nous faisons un choix sur à quoi ressemble l'« équité ».

Si nous voulons voir si deux personnes ayant le même CV sont traitées différemment, utilisons l'ancienne méthode.
Si nous voulons voir si deux personnes ayant suivi des parcours de vie différents en raison de leur identité sont traitées équitablement, nous avons besoin de la nouvelle méthode.

Les auteurs estiment que, puisque nous disposons désormais d'outils d'IA puissants, nous devrions commencer à utiliser la méthode « Apporter des Ajustements » pour obtenir une image plus claire et plus honnête de la discrimination.

1. Énoncé du problème

L'article aborde une limitation fondamentale des méthodologies actuelles de tests de discrimination, concernant spécifiquement la construction du comparateur.

Contexte : Les tests de discrimination reposent sur la comparaison d'un « plaignant » (un individu affirmant subir une discrimination basée sur un attribut protégé $A$ , par exemple la race ou le genre) avec un « comparateur » (un individu similaire issu d'un groupe non protégé).
L'approche standard (Ceteris Paribus - CP) : La plupart des outils existants (juridiques et algorithmiques) utilisent un comparateur ceteris paribus (« toutes choses égales par ailleurs »). Cela suppose que le comparateur est identique au plaignant sur tous les attributs non protégés ( $X$ ), ne différant que par l'attribut protégé ( $A$ ).
Le défaut : Les auteurs soutiennent que l'approche CP est une comparaison idéalisée qui ne prend pas en compte la réalité causale selon laquelle les attributs protégés influencent souvent les attributs non protégés (par exemple, le racisme systémique affectant les niveaux d'éducation ou les revenus). En forçant $X$ à rester identique lorsque $A$ change, le comparateur CP ignore les effets en aval de la discrimination, risquant ainsi de masquer la discrimination indirecte ou d'échouer à capturer le véritable scénario « qu'aurait été ».
Question centrale : Comment dériver un comparateur qui tient compte de l'influence causale de l'attribut protégé sur les autres caractéristiques, plutôt que de supposer un monde statique et idéalisé où seul l'attribut protégé change ?

2. Méthodologie

Les auteurs proposent un cadre de modélisation causale pour redéfinir le comparateur, passant d'une métrique de distance statique à une approche générative et contrefactuelle.

A. Cadre causal

L'article utilise des Modèles Causaux Structurels (MCS) (le cadre de Pearl) pour formaliser les tests de discrimination.

Variables : $A$ (Attribut protégé), $X$ (Attributs non protégés), $Y$ (Résultat de la décision).
Raisonnement contrefactuel : La dérivation d'un comparateur est présentée comme la réponse à une question contrefactuelle : « Quel aurait été le résultat si le plaignant avait eu un attribut protégé différent ? »
Procédure : Les auteurs adoptent les étapes standard Abduction-Action-Prédiction :
1. Abduction : Inférer les variables exogènes latentes ( $U$ ) à partir des données observées.
2. Action : Intervenir sur $A$ (fixer $A := \alpha$ ).
3. Prédiction : Propager le changement à travers les équations structurelles pour générer la distribution contrefactuelle de $X$ et $Y$ .

B. Les deux types de comparateurs

L'article introduit une classification formelle des comparateurs :

Comparateur Ceteris Paribus (CP) :
- Définition : Trouve un individu $i'$ tel que $d(x_i, x_{i'}) \leq \epsilon$ et $a_i \neq a_{i'}$ .
- Mécanisme : Minimise la distance sur les attributs non protégés $X$ tout en inversant $A$ .
- Limitation : Suppose que $X$ est indépendant de $A$ dans le monde contrefactuel, ignorant les liens causaux historiques ou systémiques.
Comparateur Mutatis Mutandis (MM) :
- Définition : Trouve un individu $i'$ tel que $\tilde{d}((x_i, a_i), (x_{i'}, a_{i'})) \leq \epsilon$ et $a_i \neq a_{i'}$ .
- Mécanisme : Utilise une fonction de distance consciente de l'attribut protégé $\tilde{d}$ . Crucialement, il permet que $x_i \neq x_{i'}$ .
- Implémentation : Le comparateur MM nécessite de générer une représentation contrefactuelle $\tilde{X}$ des attributs non protégés du plaignant. Ce $\tilde{X}$ représente ce que seraient les attributs du plaignant s'il avait appartenu au groupe non protégé, ajustant ainsi efficacement les effets en aval de $A$ sur $X$ .
- Formulation mathématique : Les auteurs proposent d'utiliser un modèle génératif $g(\cdot)$ (basé par exemple sur un MCS) pour apprendre $\tilde{X} = g(X, A)$ tel que $\tilde{X} \perp A$ (représentation équitable). Le comparateur est ensuite trouvé en minimisant la distance entre $\tilde{X}$ et les $X$ réels du groupe non protégé.

C. Configuration expérimentale

Pour valider la distinction, les auteurs comparent deux outils sur l'ensemble de données Admissions à la faculté de droit :

Test de situation (ST) : Implémente le comparateur CP. Il trouve les plus proches voisins dans l'ensemble de données basés sur $X$ (Moyenne pondérée cumulative, LSAT) après avoir inversé l'attribut protégé.
Test de situation contrefactuel (CST) : Implémente le comparateur MM. Il utilise un MCS pour générer des profils contrefactuels (ajustant la moyenne pondérée cumulative/LSAT en fonction de l'influence causale de la race/du genre) avant de trouver les plus proches voisins.

3. Contributions clés

Recadrage causal : Les auteurs soutiennent que la dérivation d'un comparateur est intrinsèquement un problème de modélisation causale, et non simplement une recherche de similarité. Le comparateur est une représentation contrefactuelle du plaignant factuel.
Le concept de comparateur MM : Ils introduisent le comparateur Mutatis Mutandis comme une alternative viable au comparateur CP standard. Cela déplace l'objectif de « traiter de manière similaire des personnes similaires » (égalité formelle) vers « atteindre une égalité substantielle » en tenant compte des désavantages systémiques.
Distinction formelle : L'article fournit une distinction mathématique rigoureuse entre les comparateurs CP et MM, soulignant que le MM permet une dissimilarité dans les attributs non protégés si ces différences sont causées par l'attribut protégé.
Intégration de l'apprentissage automatique : Les auteurs positionnent l'apprentissage automatique (spécifiquement les modèles génératifs et les MCS) comme essentiel pour implémenter le comparateur MM, s'opposant aux vues qui rejettent la modélisation causale dans les tests de discrimination.

4. Résultats

L'expérience illustrative sur l'ensemble de données des admissions à la faculté de droit a produit des résultats significatifs :

Taux de détection : L'outil CST (MM) a détecté significativement plus de cas de discrimination prima facie que l'outil ST (CP).
- Race : Le CST a détecté environ 3 fois plus de cas que le ST (par exemple, 17,26 % contre 3,08 % pour $k=500$ ).
- Genre : Le CST a détecté légèrement plus de cas, mais l'écart était plus faible, suggérant que l'impact causal du genre sur les caractéristiques spécifiques (moyenne pondérée cumulative/LSAT) dans cet ensemble de données était moins prononcé que celui de la race.
Décalages de distribution : L'analyse visuelle (diagrammes en boîte) a montré que sous le ST, le groupe test (comparateurs) présentait des distributions de moyenne pondérée cumulative/LSAT presque identiques à celles du groupe témoin. Sous le CST, les distributions du groupe test étaient décalées, reflétant l'ajustement contrefactuel où l'influence de l'attribut protégé sur les caractéristiques a été supprimée.
Implication : L'approche CP (ST) échoue souvent à détecter la discrimination indirecte car elle suppose que si un candidat issu d'une minorité a la même moyenne pondérée cumulative/LSAT qu'un candidat blanc, ils sont « similaires ». L'approche MM (CST) reconnaît que l'obtention de cette moyenne pondérée cumulative/LSAT a pu nécessiter de surmonter des barrières systémiques, et donc que le comparateur « équitable » devrait avoir des valeurs de caractéristiques différentes.

5. Importance et conclusion

Égalité substantielle vs égalité formelle : L'article soutient que se fier uniquement aux comparateurs CP impose une égalité formelle (traiter de la même manière des personnes ayant des statistiques actuelles identiques), ce qui peut perpétuer les inégalités existantes. Le comparateur MM vise une égalité substantielle en imaginant un monde où les barrières systémiques sont supprimées.
Impact normatif : Le choix du comparateur n'est pas seulement un paramètre technique ; c'est une déclaration normative sur ce qui constitue une comparaison « équitable ». Le comparateur MM force les parties prenantes à confronter les mécanismes causaux de la discrimination.
Perspectives futures : Les auteurs suggèrent que les futurs outils de tests de discrimination devraient aller au-delà des simples métriques de distance et intégrer des modèles génératifs (comme les MCS ou l'apprentissage de représentations équitables) pour dériver des comparateurs MM. Cela permet au domaine de passer de la détection de la discrimination directe à la révélation de modèles complexes de discrimination indirecte enracinés dans les biais systémiques.

En résumé, l'article postule que pour tester véritablement la discrimination dans une société complexe et biaisée, nous devons cesser de demander « Qui est exactement comme cette personne mais avec une race/genre différent ? » et commencer à demander « Qui serait cette personne si les effets systémiques de sa race/genre étaient supprimés ? ». Le comparateur Mutatis Mutandis fournit le cadre technique pour répondre à cette dernière question.