🤖 machine learning

Fairness of Classifiers in the Presence of Constraints between Features

Ce papier propose de définir l'équité des classificateurs par l'existence d'« explications équitables » (raisons d'implicants premiers excluant les caractéristiques protégées) qui rendent compte des contraintes de caractéristiques, et il analyse les relations et la complexité computationnelle de trois définitions distinctes de l'équité dans ces conditions.

Auteurs originaux : Martin C. Cooper, Imane Bousdira

Publié 2026-05-04

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Martin C. Cooper, Imane Bousdira

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un juge chargé de décider qui obtient un emploi, un prêt ou une prime. Dans le monde de l'Intelligence Artificielle (IA), nous voulons nous assurer que ces juges sont équitables. Habituellement, « équitable » signifie que le juge ne prend pas en compte des éléments sensibles comme le genre ou la race d'une personne.

Mais cet article soutient que se contenter d'examiner les caractéristiques « sensibles » ne suffit pas. Vous devez également examiner les règles du jeu (les contraintes) qui relient différentes pièces d'information. Si vous ignorez ces règles, vous pourriez penser qu'un juge est injuste alors qu'il est en réalité équitable, ou l'inverse.

Voici une décomposition des idées principales de l'article à l'aide d'analogies simples.

1. Le piège des « règles cachées »

Imaginez un club avec une règle : « Vous ne pouvez entrer que si vous portez un chapeau rouge ET que vous êtes membre. »

Les caractéristiques : « Porter un chapeau rouge » et « Être membre ».
La contrainte : Dans ce club spécifique, seuls les membres ont le droit de porter un chapeau rouge. Si vous n'êtes pas membre, vous ne pouvez pas avoir de chapeau rouge.

Maintenant, imaginez qu'un juge IA décide qui est admis.

Scénario A (Ignorer les règles) : L'IA voit une personne avec un chapeau rouge mais sans carte de membre (ce qui est impossible dans la réalité, mais l'IA ne connaît pas la règle). Elle dit : « Non, car vous n'avez pas de carte. » Il semble que l'IA ignore le chapeau.
Scénario B (Connaître les règles) : L'IA connaît la règle : « Les chapeaux rouges n'existent que pour les membres. » Donc, si quelqu'un a un chapeau rouge, il doit être membre. L'IA dit : « Oui, vous entrez car vous avez un chapeau rouge. »

L'article dit : Si vous ne connaissez pas la règle (la contrainte), vous pourriez penser que l'IA est injuste car elle semble se soucier du chapeau. Mais si vous connaissez la règle, vous réalisez que le chapeau n'est qu'un raccourci pour l'appartenance au club. L'IA est en réalité équitable.

L'affirmation de l'article : Vous ne pouvez pas juger de l'équité en regardant uniquement les entrées ; vous devez examiner comment les entrées sont légalement ou logiquement connectées.

2. Le test de l'« Explication équitable »

Les auteurs proposent une nouvelle méthode pour vérifier si une décision est équitable. Au lieu de demander : « L'IA a-t-elle regardé le genre ? », ils demandent : « L'IA peut-elle expliquer sa décision sans mentionner le genre ? »

Ils appellent cela une « Explication équitable ».

L'analogie : Imaginez que vous postulez pour un prêt.
- Explication injuste : « Vous avez été rejeté parce que vous êtes une femme. » (C'est mauvais).
- Explication équitable : « Vous avez été rejeté car vos revenus sont trop faibles. » (C'est bon).
- La twist : Parfois, la logique de l'IA est désordonnée. Elle pourrait dire : « Rejeté car (Vous êtes une femme ET revenus faibles) OU (Vous êtes un homme ET revenus faibles). »
- La solution de l'article : Si l'IA peut trouver une raison simple qui ne mentionne pas le genre (par exemple : « Revenus faibles »), alors la décision est Équitable par existence. Si toutes les raisons possibles qu'elle pourrait donner impliquent le genre, alors elle est Inéquitable.

3. Trois niveaux d'équité

L'article définit trois façons dont un système d'IA entier (un classifieur) peut être considéré comme équitable :

Équité par existence (La règle « Au moins une ») :
- Analogie : Pour chaque décision prise par l'IA, peut-elle trouver au moins une excuse qui ne mentionne pas le genre ?
- Verdict : Si oui, le système passe ce test. C'est comme dire : « Je peux justifier cette décision sans être sexiste, même si j'ai d'autres raisons sexistes flottant dans mon cerveau. »
Équité universelle (La règle « Toutes les raisons ») :
- Analogie : Pour chaque décision, toutes les explications possibles sont-elles exemptes de genre ?
- Verdict : C'est beaucoup plus strict. Cela signifie que l'IA ne peut pas utiliser le genre comme raison, même si elle le voulait.
Équité par ignorance (La règle du « Bandeau ») :
- Analogie : Si deux personnes sont identiques à tous égards sauf leur genre, obtiennent-elles le même résultat ?
- Verdict : L'article montre que dans un monde avec des règles (contraintes), ce test du « bandeau » peut être délicat. Parfois, à cause des règles, deux personnes ne peuvent pas être identiques sauf pour le genre (par exemple, vous ne pouvez pas être un homme en congé de maternité). Ainsi, le test du bandeau peut échouer même si l'IA est équitable.

4. La « magie » des contraintes

L'article utilise les mathématiques pour montrer des choses surprenantes :

Ignorer les contraintes peut rendre une IA équitable injuste. (Comme l'exemple du congé de maternité : Si vous ne savez pas que seuls les femmes prennent un congé de maternité, vous pourriez penser qu'une IA discrimine les hommes alors qu'elle suit simplement la loi).
Ignorer les contraintes peut rendre une IA injuste équitable. (Si une IA utilise une règle cachée pour discriminer, mais que vous ne voyez pas la règle, vous pourriez penser qu'elle est innocente).

5. Le coût de la vérification de l'équité

L'article se termine par un avertissement concernant la complexité.

L'analogie : Vérifier si une règle simple de « bandeau » est respectée est comme vérifier une liste de courses ; c'est rapide.
La réalité : Vérifier si une IA possède une « Explication équitable » (surtout lorsque des règles sont impliquées) est comme essayer de résoudre un puzzle massif et multicouche où vous devez imaginer chaque version possible de la réalité.
Le résultat : Les auteurs ont constaté que vérifier ces définitions avancées d'équité est computationnellement très difficile (mathématiquement parlant, cela se situe dans un niveau élevé de difficulté). Cependant, ils ont trouvé certains raccourcis (comme des « contraintes souples ») où la vérification redevient plus facile.

Résumé

Cet article soutient que l'équité ne concerne pas seulement les données que vous alimentez l'IA, mais aussi les règles qui relient ces données.

Si vous ignorez les règles, vous pourriez punir une IA équitable ou laisser passer une IA biaisée.
La meilleure façon de vérifier l'équité est de demander : « Pouvez-vous expliquer cette décision sans utiliser la caractéristique protégée ? »
Effectuer cette vérification parfaitement est très difficile pour les ordinateurs, mais c'est nécessaire pour garantir une véritable équité.

1. Énoncé du problème

L'article comble une lacune critique dans la définition et l'évaluation de l'équité des classificateurs en apprentissage automatique : la présence de contraintes logiques entre les caractéristiques.

Contexte : Les définitions standards de l'équité (par exemple, l'équité par ignorance) supposent souvent qu'une décision est équitable si elle ne dépend pas de caractéristiques protégées (par exemple, le genre, la race).
Le problème : Dans les scénarios réels, les caractéristiques sont rarement indépendantes. Des contraintes existent en raison de :
- Encodage : par exemple, l'encodage one-hot où exactement une caractéristique booléenne doit être vraie.
- Logique du monde réel : par exemple, « Si une personne est en congé de maternité, elle doit être de sexe féminin et employée ».
La conséquence : Ignorer ces contraintes peut conduire à des faux positifs (considérer un classificateur équitable comme injuste) ou à des faux négatifs (considérer un classificateur injuste comme équitable).
- Exemple : Un modèle peut sembler dépendre du genre parce que la sortie du modèle change lorsque le genre change, mais si la contrainte implique que le changement de genre force également un changement dans une autre caractéristique (comme le statut d'emploi), la décision peut en réalité être indépendante du genre dans l'espace des caractéristiques valide.
Objectif : Définir formellement l'équité en présence de contraintes ( $C$ ) et analyser la complexité computationnelle de la vérification de ces définitions.

2. Méthodologie et concepts clés

Les auteurs utilisent des explications abductives (AXp) et des implicants premiers (PI) au sein d'un espace de caractéristiques contraint.

Définitions clés

Espace de caractéristiques ( $F$ ) : Le produit cartésien des domaines de caractéristiques.
Contraintes ( $C$ ) : Un ensemble de règles logiques restreignant les instances valides. L'espace valide est $F[C]$ .
Caractéristiques protégées ( $P$ ) vs Caractéristiques non protégées ( $N$ ) : $P$ contient les attributs sensibles (par exemple, le genre) ; $N$ contient les autres.
Explication abductive (AXp) : Un sous-ensemble de caractéristiques $S$ tel que la fixation des valeurs de $S$ à celles de l'instance $x$ garantit la sortie du classificateur $\kappa(x)$ , en ne considérant que les instances dans $F[C]$ .
Explication par implicant premier (PI-explanation) : Une AXp qui n'est pas strictement subsumée par une autre AXp. Dans les espaces contraints, la subsumption est définie par l'implication logique dans $F[C]$ , et non seulement par l'inclusion d'ensemble.
PI-explanation équitable : Une PI-explanation qui ne contient aucune caractéristique protégée ( $S \cap P = \emptyset$ ).

Définitions proposées de l'équité

L'article propose trois définitions distinctes pour l'équité d'un classificateur $\kappa$ :

Équité par ignorance contrainte (FTU) :
- Pour tous $x, y \in F[C]$ , si $x_N = y_N$ (les caractéristiques non protégées sont identiques), alors $\kappa(x) = \kappa(y)$ .
- Cela garantit que la décision dépend uniquement des caractéristiques non protégées dans l'espace valide.
Équité existentielle :
- Pour chaque décision $\kappa(x) = c$ , il existe au moins une PI-explanation équitable.
- Signification : Il existe une raison valide pour la décision qui ne repose pas sur des caractéristiques protégées.
Équité universelle :
- Pour chaque décision $\kappa(x) = c$ , toutes les PI-explanations sont équitables.
- Signification : Chaque raison minimale pour la décision évite les caractéristiques protégées.

Analyse théorique

Les auteurs analysent les relations entre ces définitions sous différents scénarios de contraintes :

Contraintes entre $P$ et $N$ : Les ignorer peut altérer drastiquement les évaluations d'équité. Une décision peut être universellement équitable dans $F[C]$ mais sembler injuste dans $F$ non contraint, ou vice versa.
Contraintes uniquement au sein de $P$ : Si des contraintes existent uniquement entre les caractéristiques protégées, l'existence d'une PI-explanation équitable est préservée des espaces non contraints aux espaces contraints (Proposition 1).
Contraintes uniquement au sein de $N$ : L'existence d'une PI-explanation équitable est indépendante de ces contraintes (Proposition 2). Cependant, les contraintes au sein de $N$ peuvent créer des PI-explanations injustes qui n'existaient pas dans l'espace non contraint (Exemple 7).

Conditions spéciales d'équivalence

L'article identifie les conditions où les définitions complexes (Existentielle/Universelle) se simplifient en la FTU contrainte, plus facile à vérifier :

Contraintes lâches : Si aucune affectation partielle d'une caractéristique protégée ne subsume strictement l'affectation de toutes les caractéristiques non protégées, alors la FTU contrainte implique l'équité existentielle.
Classificateurs désintriqués : Un classificateur est « désintriqué » si l'ensemble des caractéristiques non protégées $N$ est une AXp faible non strictement subsumée par une AXp injuste. Cela garantit l'équité existentielle.

3. Contributions clés

Formalisation de l'équité avec contraintes : L'article va au-delà de la définition standard de « l'ignorance » en intégrant directement les contraintes logiques dans la définition des explications (PI-explanations).
Démonstration de l'impact des contraintes : À travers plusieurs exemples (par exemple, congé de maternité, agences d'adoption), les auteurs prouvent que l'ignorance des contraintes conduit à des évaluations d'équité incorrectes.
Hiérarchie des définitions d'équité : L'article établit les relations logiques entre la FTU contrainte, l'équité existentielle et l'équité universelle.
- Universel $\implies$ Existentiel $\implies$ FTU contrainte.
- Les implications inverses ne tiennent généralement pas sauf si des conditions spécifiques (comme « contraintes lâches » ou « aucune contrainte entre P et N ») sont remplies.
Analyse de complexité : Les auteurs cartographient la complexité computationnelle de la vérification de ces notions d'équité dans la hiérarchie polynomiale.

4. Résultats et analyse de complexité

L'article fournit une analyse de complexité rigoureuse pour tester ces définitions d'équité :

Notion d'équité	Classe de complexité	Notes
Existence d'une PI-explanation équitable (pour une décision unique)	$\Sigma^P_3$	Implique une alternance de quantificateurs $\exists \forall \exists$ .
Existence d'une PI-explanation injuste	$\Sigma^P_3$	Complémentaire de la précédente.
Test de l'équité existentielle (Classificateur)	$\Pi^P_4$	Nécessite de vérifier toutes les instances ( $\forall x$ ) pour la propriété $\Sigma^P_3$ .
Test de l'équité universelle (Classificateur)	$\Pi^P_3$	Équivalent à vérifier qu'aucune explication injuste n'existe pour aucune instance.
Test de la FTU contrainte	coNP-complet	Peut être résolu par un seul appel à un solveur SAT (vérifier s'il existe $x, y$ avec le même $N$ mais des sorties différentes).

Insight clé sur la complexité :

Le test de la FTU contrainte est computationnellement faisable (coNP-complet) et peut être géré par des solveurs SAT standards.
Le test de l'équité existentielle/universelle est significativement plus difficile ( $\Pi^P_3$ ou $\Pi^P_4$ ), nécessitant des solveurs de formules booléennes quantifiées (QBF).
Implication pratique : Les auteurs proposent d'utiliser des vérifications de « contraintes lâches » ou de « désintrication » (qui sont $\Pi^P_2$ ) comme conditions suffisantes pour garantir l'équité existentielle, permettant ainsi l'utilisation de solveurs SAT plus simples au lieu de solveurs QBF.

5. Importance et conclusion

Fondement théorique : L'article établit que l'équité ne peut pas être évaluée dans le vide ; la structure logique de l'espace des caractéristiques (contraintes) modifie fondamentalement la définition d'une « raison » pour une décision.
Guide pratique : Il met en garde les praticiens contre le fait que les outils d'équité standards (qui ignorent souvent les contraintes) peuvent produire des résultats trompeurs.
Arbitrage : Il existe un compromis entre la rigueur de la définition de l'équité et la faisabilité computationnelle.
- Équité universelle est la plus stricte mais la plus difficile à vérifier.
- FTU contrainte est la plus facile à vérifier mais peut manquer des cas où une décision dépend techniquement de caractéristiques protégées via des contraintes.
Voies futures : Les auteurs suggèrent d'étendre ce cadre logique pour gérer les corrélations statistiques et d'explorer le « choix des caractéristiques protégées » en utilisant des graphes causaux (Équité par indépendance causale - FTCI).

En résumé, cet article soutient que l'équité dépend du contexte des contraintes de caractéristiques. Il fournit un cadre formel pour définir l'équité via des explications par implicants premiers et offre une feuille de route pour vérifier ces définitions, en équilibrant rigueur théorique et faisabilité computationnelle.