Fairness under Graph Uncertainty: Achieving Interventional Fairness with Partially Known Causal Graphs over Clusters of Variables

Each language version is independently generated for its own context, not a direct translation.

🌟 Le Titre : Comment rendre les décisions de l'IA justes, même quand on ne connaît pas tout le plan ?

Imaginez que vous êtes un directeur de recrutement. Vous utilisez une intelligence artificielle (IA) pour choisir qui embaucher. Vous voulez que cette IA soit précise (elle trouve les meilleurs candidats) et juste (elle ne discrimine personne à cause de son genre ou de son origine).

Le problème ? Pour garantir cette justice, l'IA a besoin de comprendre pourquoi les choses arrivent. C'est ce qu'on appelle la "causalité".

🗺️ Le Problème : La Carte Trésor Incomplète

Pour que l'IA soit juste, elle doit connaître la "carte du trésor" (le graphe causal) qui relie toutes les variables : le genre, le diplôme, les notes de test médical, l'expérience, etc.

L'ancienne méthode : Les chercheurs disaient : "Pour être juste, il faut connaître chaque petit chemin de la carte, jusqu'au moindre détail."
- Le souci : Dans la vraie vie, on n'a jamais cette carte parfaite. Dessiner une carte aussi détaillée demande des années de travail et des milliards de données. C'est comme essayer de dessiner chaque feuille d'un arbre pour comprendre comment l'arbre pousse. C'est trop difficile !
Le nouveau défi : Comment être juste si on a une carte floue, où certains chemins sont cachés ou incertains ?

🧱 La Solution : Regrouper les pièces du puzzle

Les auteurs de ce papier ont une idée géniale : au lieu de regarder chaque feuille individuellement, regardons les branches de l'arbre.

Au lieu de faire une carte détaillée de chaque variable (Genre, Nom, Âge, Note 1, Note 2...), ils proposent de regrouper les variables en "clusters" (des paquets).

L'analogie du voyage :
- Méthode ancienne : Vous voulez aller de Paris à Tokyo. Vous devez connaître chaque virage de chaque route, chaque feu rouge, chaque trottoir. Si vous ratez un détail, vous vous perdez.
- Méthode nouvelle (C-IFair) : Vous ne regardez que les grandes étapes : "Paris", "Lyon", "Marseille", "Tokyo". Vous savez que vous devez passer par Lyon avant d'arriver à Tokyo. Vous n'avez pas besoin de connaître chaque rue de Lyon pour savoir que vous y passez. C'est beaucoup plus facile à dessiner et à utiliser !

En regroupant les variables, la carte devient beaucoup plus simple et plus facile à construire avec peu de données.

🛡️ La Stratégie : Le "Plan B" pour être sûr d'être juste

Même avec cette carte simplifiée (les "clusters"), il reste un doute : "Est-ce que le chemin A mène vraiment au résultat B, ou est-ce que c'est le chemin C ?"

Pour régler ce problème, l'IA utilise une stratégie de prudence extrême :

Lister tous les scénarios possibles : Au lieu de choisir un seul chemin, l'IA imagine tous les chemins possibles qui pourraient exister dans cette carte simplifiée.
Le test du pire cas : Elle se dit : "Si je suis injuste dans le scénario le plus défavorable (le pire des cas), alors je ne suis pas juste du tout."
L'entraînement : Elle entraîne son modèle pour qu'il soit parfait même dans le pire des scénarios. Si elle réussit là-bas, elle réussira partout ailleurs.

C'est comme un pompier qui s'entraîne non pas pour un feu normal, mais pour le pire incendie imaginable. S'il survit à ça, il gérera n'importe quelle situation.

⚡ L'Outil Magique : Le "Barycentre" (Le point d'équilibre)

Pour mesurer si l'IA est injuste, il faut comparer des millions de scénarios. C'est très lent et lourd à calculer.

Les chercheurs ont inventé un outil mathématique rapide appelé le "Barycentre Kernel MMD".

L'analogie : Imaginez que vous avez 100 balances différentes pour peser l'injustice. Au lieu de peser chaque candidat sur chaque balance une par une (ce qui prendrait des heures), vous mettez tous les poids sur une seule balance centrale qui fait la moyenne de tout.
Cet outil permet de calculer l'injustice globale très vite, même avec des millions de données, sans faire planter l'ordinateur.

🏆 Le Résultat : Moins de compromis, plus de justice

Les expériences montrent que cette méthode est supérieure :

Les anciennes méthodes devaient souvent choisir entre être très précis (mais injuste) ou très juste (mais faire des erreurs de prédiction).
La méthode C-IFair (celle du papier) trouve le meilleur équilibre. Elle est presque aussi précise que les méthodes qui connaissent la carte parfaite, mais elle reste très juste, même sans connaître tous les détails.

En résumé

Ce papier nous dit : "Ne cherchez pas à tout savoir pour être juste. Regroupez les informations, imaginez le pire scénario possible, et entraînez-vous pour le gérer. Vous obtiendrez une IA plus juste et plus intelligente, même avec des informations incomplètes."

C'est une avancée majeure pour rendre l'IA plus éthique dans le monde réel, là où nous n'avons jamais toutes les cartes en main.

Each language version is independently generated for its own context, not a direct translation.

1. Problématique et Contexte

La prise de décision algorithmique (embauche, prêt, etc.) doit être non seulement précise mais aussi équitable vis-à-vis d'attributs sensibles (genre, race). Les notions de fairness causale, en particulier la fairness interventionnelle, s'alignent bien avec les exigences légales. Cependant, la plupart des méthodes existantes supposent la connaissance parfaite du graphe causal complet au niveau des variables individuelles.

Dans la pratique, cette hypothèse est irréaliste :

Apprendre un graphe causal complet à partir de données observationnelles est un problème notoirement difficile, surtout en haute dimension.
Les erreurs d'estimation du graphe peuvent compromettre les garanties d'équité.
Les méthodes récentes utilisant des graphes partiellement orientés (CPDAG) au niveau des variables restent coûteuses en tests d'indépendance conditionnelle et peu fiables en haute dimension.

L'objectif de ce papier est d'assurer la fairness interventionnelle dans des scénarios réalistes où l'on n'a accès qu'à un CPDAG de clusters (Cluster CPDAG). Ce graphe est défini sur des groupes de variables (clusters) plutôt que sur chaque variable individuellement, ce qui réduit considérablement la complexité de l'estimation. Le défi majeur est que la structure causale à l'intérieur de chaque cluster est inconnue.

2. Méthodologie Proposée

Les auteurs proposent un cadre d'apprentissage (C-IFair) qui atteint la fairness interventionnelle en exploitant la structure du Cluster CPDAG.

A. Estimation du Graphe et Définitions

Cluster CPDAG : Contrairement aux CPDAG classiques, ceux-ci incluent des arcs d'indépendance (independence arcs) et des marques de connexion/séparation (connection/separation marks) pour représenter les relations d'indépendance conditionnelle entre clusters, même lorsque la structure interne est floue.
Hypothèses : Le graphe causal sous-jacent est un DAG sans confondants non observés, et la partition des clusters est "admissible" (pas de cycles dirigés induits par la partition).

B. Algorithme d'Énumération des Ensembles de Correction (Adjustment Sets)

Pour identifier les distributions interventionnelles sans connaître le graphe complet, il faut trouver des ensembles de variables de correction (adjustment sets) qui bloquent les chemins "back-door".

Défi : Un Cluster CPDAG représente une classe d'équivalence de plusieurs DAGs de clusters. Aucun ensemble unique ne garantit l'ajustement pour tous les DAGs possibles.
Solution : Les auteurs développent un algorithme graphique pour énumérer un ensemble fini d'ensembles de correction candidats $\{Z_1, ..., Z_M\}$ ${Z_{1}, ..., Z_{M}}$ .
- Étape 1 (Énumération des parents) : Identification des parents possibles du nœud sensible $A$ en tenant compte des arcs d'indépendance et des marques de connexion.
- Étape 2 (Complétion) : Un algorithme basé sur une file d'attente (Queue-based propagation) enrichit chaque ensemble candidat avec des clusters supplémentaires nécessaires pour assurer la d-séparation, en gérant les cas ambigus via des marqueurs de connexion.
- Raffinement : Si l'identification échoue (cas non identifiables), le graphe est raffiné en décomposant certains clusters en nœuds unitaires pour obtenir des ensembles valides.

C. Fonction de Pénalité et Optimisation

Le modèle est entraîné pour minimiser l'erreur de prédiction tout en pénalisant le pire cas d'injustice parmi les ensembles de correction candidats.

Pénalité Worst-Case : Au lieu de supposer un seul ensemble de correction, la méthode pénalise le maximum de la divergence entre les distributions interventionnelles sur tous les ensembles candidats $Z_m$ .
Estimation Efficace (Barycenter Kernel MMD) :
- Calculer le Maximum Mean Discrepancy (MMD) pour toutes les paires d'attributs sensibles est coûteux ( $O(N_A^2)$ ).
- Les auteurs proposent une décomposition utilisant le MMD barycentrique, réduisant la complexité à $O(N_A)$ .
- Ils utilisent des Random Fourier Features (RFF) pour approximer les embeddings de noyau, réduisant la complexité de calcul de $O(n^2)$ à $O(nd_{RFF})$ .
- L'estimation des distributions interventionnelles utilise la pondération par probabilité inverse (IPW) combinée aux RFF.
Approximation Différentiable : La fonction "max" (non différentiable) est approximée par la fonction Mellowmax pour permettre l'optimisation par descente de gradient.

3. Contributions Clés

Algorithme Graphique Novel : Développement d'un algorithme pour énumérer les ensembles de correction de clusters valides dans un Cluster CPDAG, en gérant explicitement les arcs d'indépendance et les marques de connexion.
Cadre d'Apprentissage Robuste : Proposition d'une méthode qui pénalise le pire cas d'injustice sur l'ensemble des graphes compatibles avec le Cluster CPDAG, garantissant la fairness même en cas d'incertitude structurelle.
Efficacité Computationnelle : Introduction d'une estimation du MMD barycentrique basée sur les RFF, qui s'adapte favorablement au nombre de valeurs d'attributs sensibles et à la taille de l'échantillon.
Validation Empirique : Démonstration que l'approche fonctionne mieux que les méthodes basées sur des graphes de variables complètes, surtout en haute dimension.

4. Résultats Expérimentaux

Les expériences ont été menées sur des données synthétiques (linéaires et non linéaires) et des jeux de données réels (Adult, German Credit, OULAD).

Comparaison avec les Baselines : La méthode proposée (C-IFair) surpasse systématiquement les approches existantes (comme $\epsilon$ -IFair et $\ell$ -IFair qui utilisent des CPDAGs au niveau des variables) en termes de compromis entre précision (RMSE/AUC) et équité (Unfairness).
Haute Dimension : Dans les scénarios à haute dimension (nombre de clusters élevé), les méthodes basées sur l'estimation de graphes de variables échouent souvent car l'erreur d'estimation du graphe s'accumule. C-IFair maintient une bonne équité grâce à la robustesse de l'estimation au niveau des clusters.
Robustesse : La méthode reste efficace même lorsque la partition des clusters n'est pas parfaitement admissible (violation d'hypothèse) ou dans des graphes denses.
Temps de Calcul : L'inférence du Cluster CPDAG (via l'algorithme CLOC) est significativement plus rapide et plus stable que l'inférence de CPDAGs au niveau des variables (via l'algorithme PC), justifiant l'approche par clusters.

5. Signification et Impact

Ce travail est significatif car il démocratise l'accès à la fairness causale dans des contextes réels où la connaissance du graphe causal est limitée.

Réduction de la charge cognitive : Il ne nécessite pas de connaître la structure fine entre chaque variable, mais seulement une partition de clusters raisonnable (souvent basée sur la connaissance du domaine).
Fiabilité : En évitant l'estimation coûteuse et erronée de graphes complets, la méthode fournit des garanties d'équité plus fiables.
Évolutivité : L'approche est scalable et applicable à des problèmes complexes avec de nombreuses variables, là où les méthodes causales traditionnelles échouent.

En résumé, ce papier propose une solution pragmatique et mathématiquement fondée pour intégrer l'équité dans les systèmes d'apprentissage automatique, en surmontant le goulot d'étranglement de l'incertitude structurelle des graphes causaux grâce à une abstraction par clusters.