🤖 machine learning

FedCF: Fair Federated Conformal Prediction

Cet article introduit FedCF, un cadre qui étend la conformité de l'équité (Conformal Fairness) au contexte de l'apprentissage fédéré afin d'auditer et d'assurer une quantification équitable de l'incertitude à travers divers groupes démographiques tout en exploitant l'hypothèse d'échangeabilité.

Auteurs originaux : Anutam Srinivasan, Aditya T. Vadlamani, Amin Meghrazi, Srinivasan Parthasarathy

Publié 2026-06-02

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Anutam Srinivasan, Aditya T. Vadlamani, Amin Meghrazi, Srinivasan Parthasarathy

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous recrutiez une équipe de chefs provenant de différents quartiers pour créer un livre de recettes unique et parfait. Chaque chef possède ses propres ingrédients locaux et son propre style de cuisine, mais ils ne peuvent pas partager leurs recettes secrètes ni leurs listes d'ingrédients entre eux en raison des règles de confidentialité. C'est le monde de l'Apprentissage Fédéré (Federated Learning) : de nombreuses personnes entraînent un modèle ensemble sans partager leurs données privées.

Le problème ? Parfois, le livre de recettes final peut être délicieux pour certains groupes de personnes, mais absolument horrible pour d'autres. Peut-être fonctionne-t-il parfaitement pour les amateurs de plats épicés, mais échoue lamentablement pour ceux qui préfèrent les saveurs douces. En termes d'apprentissage automatique, c'est l'injustice (unfairness).

Ce document présente un nouvel outil appelé FedCF (Federated Conformal Fairness) pour corriger cela. Voici comment il fonctionne, décomposé en concepts simples :

1. Le « Filet de Sécurité » (Prédiction Conforme)

Avant de parler d'équité, nous devons comprendre le « Filet de Sécurité ». En apprentissage automatique, les modèles se contentent généralement de deviner une réponse (ex : « C'est un chat »). Mais que se passe-t-il si le modèle est incertain ?

Prédiction Standard : « C'est un chat. » (Si le modèle se trompe, vous n'avez aucun avertissement).
Prédiction Conforme (CP) : « Je suis sûr à 95 % que c'est un chat, mais cela pourrait aussi être un chien. » Cela vous donne une liste de possibilités. Si le modèle est sûr de lui, la liste est courte (juste « chat »). S'il est incertain, la liste est longue (« chat, chien, renard »).
La Garantie : Le document garantit que si vous dites « 95 % de confiance », la vraie réponse se trouvera réellement dans cette liste 95 % du temps. C'est une promesse mathématique de fiabilité.

2. Le Problème : Le Filet de Sécurité est Biaisé

Les auteurs ont découvert que si ce « Filet de Sécurité » fonctionne bien en moyenne, il n'est pas équitable.

L'Analogie : Imaginez que le Filet de Sécurité est un filet de pêche. Pour le groupe de données « riche », le filet a de petites mailles, capturant presque tout. Pour le groupe « pauvre », le filet a de très grandes mailles, laissant beaucoup de poissons s'échapper.
Le Résultat : Le modèle peut être fiable à 95 % pour le Groupe A, mais seulement à 80 % pour le Groupe B. C'est injuste, surtout dans des domaines critiques comme la santé ou la finance.

3. La Solution : FedCF (L'Auditeur d'Équité)

FedCF est une nouvelle façon de vérifier et de corriger ce biais sans que les chefs (clients) ne montrent jamais leurs ingrédients secrets (données) au chef principal (serveur).

Voici le processus étape par étape :

L'« Audit Local » : Chaque client (chef) examine ses propres données locales. Il compte combien de fois son « Filet de Sécurité » attrape la bonne réponse pour différents groupes (ex : « À quelle fréquence mon filet attrape-t-il la bonne réponse pour le Groupe A par rapport au Groupe B ? »). Ils n'envoient pas les données ; ils envoient simplement un chiffre simple (un score) représentant ce compte.
Le « Puzzle Global » : Le serveur collecte ces chiffres simples de tout le monde. Il ne sait pas qui possède quelles données, mais il peut mathématiquement combiner ces chiffres pour comprendre l'équité globale de l'ensemble du système.
Le « Bouton de Réglage » : Si le serveur voit que le filet du Groupe B est trop lâche (injuste), il tourne un « bouton » (une valeur de seuil). Cela resserre le filet pour le Groupe B, rendant la liste de prédictions légèrement plus longue (moins efficace) mais plus précise.
La Recherche de Descente : Au lieu de deviner le réglage du bouton un par un (ce qui prend un temps infini), FedCF utilise une méthode intelligente de « descente ». C'est comme glisser le long d'une colline pour trouver le point le plus bas. Cela trouve rapidement le réglage parfait où le filet est équitable pour tout le monde, sans nécessiter des milliers de cycles de communication.

4. Deux Façons de Jouer (Confidentialité vs Vitesse)

Le document propose deux façons d'envoyer ces chiffres, selon ce que vous privilégiez :

La Voie « Rapide » : Les clients envoient juste quelques chiffres. C'est rapide et utilise moins de bande passante internet, mais un serveur malveillant pourrait potentiellement deviner un peu la distribution des données.
La Voie « Privée » : Les clients effectuent plus de calculs par eux-mêmes et envoient un chiffre de « différence » (comme dire « J'en ai 5 de plus que la moyenne » au lieu de « J'en ai 5 »). Cela cache beaucoup mieux les données individuelles, mais nécessite l'envoi d'informations légèrement plus importantes.
L'Hybride : Vous pouvez mélanger et assortir ! Certains clients peuvent être rapides, d'autres privés, et le système fonctionne toujours.

5. Ce Qu'Ils Ont Trouvé (Les Résultats)

Les auteurs ont testé cela sur des données réelles (comme des registres de revenus, des niveaux d'éducation et des images de conditions cutanées) réparties dans différentes régions.

La Bonne Nouvelle : FedCF a réussi à rendre le « Filet de Sécurité » équitable. Il a assuré que la fiabilité de la prédiction était sensiblement la même pour tous les groupes (ex : si elle était de 95 % pour un groupe, elle était de 95 % pour l'autre).
Le Compromis : Pour rendre le système équitable, les « listes » de possibilités sont parfois devenues un tout petit peu plus longues (moins efficaces). Mais le document montre que ce coût est minime par rapport au bénéfice de l'équité.
La Fonction d'« Audit » : Ils ont également montré que ce système peut être utilisé comme un « bulletin de notes ». Les régulateurs peuvent l'utiliser pour vérifier si un modèle est équitable sans avoir besoin de voir les données privées des personnes concernées.

Résumé

FedCF est comme un inspecteur d'équité pour une équipe de travailleurs à distance. Il garantit que le produit final (le modèle d'IA) traite tout le monde de la même manière, même si les travailleurs ne partagent jamais leurs notes privées. Il utilise des mathématiques intelligentes pour ajuster les niveaux de confiance du modèle afin qu'aucun groupe ne reçoive un filet de sécurité « percé », tout en respectant la vie privée et en maintenant une communication rapide.

Résumé technique : FedCF : Prédiction Conforme Fédérée pour la l'Équité (Fair Federated Conformal Prediction)

Énoncé du problème

Les modèles d'apprentissage automatique présentent souvent des performances disparates selon les différents sous-groupes démographiques, ce qui peut exacerber les biais dans des domaines critiques comme la santé ou la finance. Bien que la prédiction conforme (CP) offre une quantification de l'incertitude rigoureuse, agnostique au modèle et dotée de garanties de couverture à échantillon fini, la CP standard est agnostique aux attributs sensibles et ne garantit pas l'équité. Les méthodes existantes de « Prédiction Conforme pour l'Équité » (CF) traitent ce problème en assurant des garanties de couverture conditionnelle à travers les sous-groupes, mais elles reposent sur un accès centralisé aux données.

Dans l'apprentissage fédéré (FL), les données restent décentralisées pour préserver la confidentialité, rendant l'application de la CF standard impossible. De plus, des travaux récents indiquent que le passage vers un entraînement décentralisé respectant la vie privée peut involontairement exacerber l'iniquité en raison de l'hétérogénéité des données et des capacités variables des clients. Le défi central consiste à étendre les garanties théoriques de la CF au cadre fédéré sans violer les contraintes de confidentialité ni engendrer un surcoût de communication prohibitif, tout en tenant compte de la nature non-IID (non indépendante et identiquement distribuée) des données fédérées.

Méthodologie

Les auteurs proposent FedCF (Federated Conformal Fairness), un cadre qui adapte la méthodologie de la Conformal Fairness (CF) au contexte fédéré. La méthodologie repose sur trois piliers :

1. Reformulation par optimisation basée sur la descente

L'algorithme CF original utilise une recherche par grille sur un espace discrétisé pour trouver le seuil minimal $\lambda$ satisfaisant les contraintes d'équité. Cela est inefficace en FL en raison du coût élevé des cycles de communication. FedCF reformule cela comme un problème d'optimisation basé sur la descente. Au lieu d'une recherche par grille, l'algorithme met à jour de manière adaptative le seuil $\lambda$ en utilisant une règle de mise à jour par impulsion (momentum). Cela permet au système de converger vers un $\lambda$ satisfaisant les contraintes en nettement moins de cycles de communication (démontré par une accélération d'environ 10x dans les expériences) tout en échappant aux minima locaux via des redémarrages aléatoires.

2. Formulation de l'écart de couverture par mélange de clients

Pour gérer les données décentralisées, FedCF ne peut pas estimer directement la couverture conditionnelle requise pour les métriques d'équité. Les auteurs introduisent une formalisation par mélange de clients basée sur l'hypothèse d'échangeabilité partielle. Ils décomposent le niveau de couverture global spécifique à l'équité ( $\Pi_{cov}$ ) en quatre termes :

Termes I & II : Calculés localement par chaque client sur la base de leurs données de calibration et de la paire groupe-étiquette spécifique.
Terme III : La probabilité qu'un point de test soit échangeable avec les données d'un client spécifique (pondérée par la taille du client).
Terme IV : La probabilité globale que le filtre d'équité soit actif.

En dérivant des bornes d'intervalle (Théorème 3.1) pour ces termes, le serveur peut agréger les statistiques locales pour borner l'écart de couverture global sans jamais voir les données brutes des clients. Le cadre propose également une variante par Estimation du Maximum de Vraisemblance (MLE) pour des estimations plus serrées, bien que moins conservatrices, sous une hypothèse de partialité-IID.

3. Protocoles d'agrégation flexibles

FedCF traite le compromis entre efficacité de communication et confidentialité des données via deux protocoles :

Efficacité de communication : Les clients envoient des statistiques de résumé ( $\alpha$ values) pour chaque paire groupe-étiquette. Le serveur les agrège pour calculer les bornes. Cette approche présente une complexité de communication linéaire par rapport au nombre de groupes.
Confidentialité accrue : Les clients calculent localement les différences de couverture par paire avant de les envoyer au serveur. Cela occulte l'information distributionnelle individuelle, empêchant les attaques de reconstruction, au prix d'une complexité de communication quadratique par rapport au nombre de groupes.
Hybride : Les clients peuvent choisir entre les protocoles en fonction de leurs contraintes de ressources.

Le cadre supporte également la Confidentialité Différentielle (DP) en ajoutant du bruit gaussien aux mises à jour des clients, assurant une robustesse contre les serveurs malveillants.

Contributions clés

Extension de la CF au FL : L'article présente le premier cadre étendant la Conformal Fairness à un environnement fédéré, prouvant théoriquement que les garanties de couverture conditionnelle peuvent être maintenues dans un environnement distribué sous échangeabilité partielle.
Algorithme basé sur la descente : Une nouvelle approche d'optimisation qui remplace la recherche par grille par une méthode de descente adaptative, réduisant drastiquement le nombre de cycles de communication requis pour la convergence en FL.
Bornes théoriques : La dérivation de bornes d'intervalle pour les niveaux de couverture spécifiques à l'équité dans un contexte fédéré, fournissant une méthode rigoureuse pour auditer les écarts d'équité sans centraliser les données.
Compromis Confidentialité-Communication : La proposition de protocoles d'agrégation distincts (Efficacité de communication, Confidentialité accrue et Hybride) permettant aux clients de doser leurs contraintes de bande passante avec leurs exigences de confidentialité.
Validation empirique : Des expériences approfondies sur des ensembles de données tabulaires (ACSIncome, ACSEducation), de graphes (Pokec) et de vision (Fitzpatrick) démontrent que FedCF contrôle efficacement les disparités d'équité (ex: Parité démographique, Égalité des chances) tout en maintenant les garanties de couverture CP originales.

Résultats expérimentaux

Les auteurs ont évalué FedCF à travers plusieurs domaines et métriques d'équité :

Contrôle de l'équité : FedCF atteint systématiquement le critère de proximité spécifié par l'utilisateur ( $c$ ) pour la disparité d'équité, alors que la base de la Prédiction Conforme Fédérée (FCP) sans contraintes d'équité ne parvient pas à contrôler ces écarts.
Efficacité vs Équité : Il existe un compromis inhérent ; imposer une équité plus stricte (un $c$ plus petit) augmente la taille de l'ensemble de prédiction (réduisant l'efficacité). Cependant, FedCF minimise ce coût par rapport aux bases de comparaison.
Robustesse à l'hétérogénéité : Le cadre fonctionne efficacement à travers différents nombres de clients (de 2 à 48) et différents schémas de partitionnement des données (répartitions géographiques naturelles vs partitions de Dirichlet).
Données de graphes : FedCF s'intègre avec succès aux scores de non-conformité spécifiques aux graphes (DAPS), démontrant son applicabilité au-delà des données tabulaires standards.
Protocoles de confidentialité : Les expériences montrent que si le protocole de Confidentialité Accrue est plus conservateur (ensembles de prédiction plus larges) en raison de bornes plus serrées, il contrôle efficacement les disparités d'équité tout en protégeant les données des clients.

Signification et affirmations

L'article affirme que FedCF fournit une solution théoriquement fondée et pratiquement viable pour l'audit et la garantie de l'équité des modèles d'apprentissage automatique fédérés. Sa signification réside dans :

Conformité réglementaire : Offrir un mécanisme pour satisfaire les réglementations émergentes (ex: Loi sur l'IA de l'UE, Loi locale 144 de NYC) qui exigent des audits d'équité dans les systèmes décentralisés sans compromettre la confidentialité des données.
ML de confiance : Combler le fossé entre la quantification de l'incertitude et l'équité, en garantissant que les modèles ne se contentent pas de prédire avec des limites d'erreur connues, mais le font de manière équitable pour les groupes sensibles.
Auditabilité : Le cadre peut être utilisé a posteriori pour auditer des modèles fédérés existants, déterminant s'ils respectent les spécifications d'équité sans nécessiter de réentraînement ou d'accès aux données brutes.

Les auteurs reconnaissent des limites, notamment la dépendance à l'hypothèse d'échangeabilité partielle, qui peut être violée dans des scénarios de dérive de données dynamiques. Ils suggèrent que les travaux futurs impliquant la CP non-échangeable et des techniques d'apprentissage fédéré robustes pourraient répondre à ces scénarios.