Résumé technique : Atténuer l'impact disparate de l'apprentissage à confidentialité différentielle par le biais du écrêtage adaptatif borné

Énoncé du problème

La confidentialité différentielle (DP) est un cadre standard pour la préservation de la vie privée dans l'apprentissage automatique, pourtant elle exacerbe souvent l'impact disparate, où la précision du modèle se dégrade de manière disproportionnée pour les groupes minoritaires ou les classes « confuses » (groupes présentant de fortes similitudes de caractéristiques). Bien que l'écrêtage des gradients soit une composante nécessaire de la descente de gradient stochastique à confidentialité différentielle (DP-SGD) pour limiter la sensibilité, les méthodes d'écrêtage adaptatif existantes — conçues pour ajuster dynamiquement la borne d'écrêtage en fonction des statistiques des gradients — peuvent involontairement supprimer les gradients de ces groupes vulnérables.

L'article identifie un mode de défaillance spécifique des méthodes actuelles d'écrêtage adaptatif de pointe (SOTA) (ex. Andrew et al., 2021 ; Esipova et al., 2023). À mesure que l'entraînement progresse et que les groupes majoritaires sont bien optimisés, leurs gradients diminuent. Les algorithmes d'écrêtage adaptatif non bornés, qui ajustent la borne d'écrêtage pour maintenir un quantile cible des gradients écrêtés, réagissent en réduisant la borne à des valeurs extrêmement petites. Cette « borne évanescente » écrête efficacement les gradients plus importants des échantillons minoritaires ou difficiles vers des valeurs proches de zéro, supprimant ainsi leur influence sur la mise à jour du modèle. Par conséquent, le modèle converge vers une solution qui favorise la majorité, entraînant de graves disparités de précision et de mauvaises performances pour les classes les moins bien représentées.

Méthodologie : Écrêtage adaptatif borné

Pour remédier au problème de l'évanouissement des bornes d'écrêtage, les auteurs proposent l'écrêtage adaptatif borné. Cette méthode introduit une borne inférieure ($C_{LB}$) ajustable au mécanisme d'écrêtage adaptatif.

Mécanisme central

L'approche modifie la règle de mise à jour standard de l'écrêtage adaptatif non borné (Algorithme 2). Dans la formulation standard, la borne d'écrêtage $C_t$ est mise à jour en fonction de la différence entre la fraction observée de gradients écrêtés ($\tilde{b}_t$) et un quantile cible ($\gamma$). La règle de mise à jour est :
$$C_{t+1} = C_t \cdot \exp(\eta_C(\tilde{b}_t - \gamma))$$

Dans la variante bornée proposée, la mise à jour est contrainte par une borne inférieure :
$$C_{t+1} = \max(C_{LB}, C_t \cdot \exp(\eta_C(\tilde{b}_t - \gamma)))$$

En imposant $C_{LB} > 0$, la méthode empêche la borne d'écrêtage de rétrécir à des valeurs qui supprimeraient de manière disproportionnée les gradients des groupes minoritaires ou des échantillons avec des normes de gradient plus grandes. Cela garantit que les mises à jour de gradients critiques de ces groupes continuent de contribuer au processus d'apprentissage, même lorsque la majorité des échantillons sont bien optimisés.

Garanties de confidentialité

L'article démontre que la méthode proposée maintient des garanties formelles de $(\epsilon, \delta)$-DP. La comptabilité de la confidentialité utilise la composition de deux mécanismes gaussiens : l'un pour les mises à jour de gradients et l'autre pour le compte bruité des gradients dépassant le seuil. En utilisant la DP gaussienne (Dong et al., 2022), les auteurs dérivent un multiplicateur de bruit effectif ($\sigma_{eff}$) qui permet l'utilisation des comptables de confidentialité standards sans compromettre le budget de confidentialité.

Contributions clés

1. Identification d'un mode de défaillance : Les auteurs démontrent que les méthodes actuelles d'écrêtage adaptatif SOTA peuvent conduire à des bornes d'écrêtage évanescentes, causant une dégradation sévère des performances pour les groupes minoritaires et confus. Ceci est illustré par une tâche de l'estimation de la moyenne (toy task) et des benchmarks de haute dimension.
2. Nouvel algorithme : L'article introduit l'écrêtage adaptatif borné, un mécanisme qui incorpore une borne inférieure ajustable pour prévenir la suppression excessive des gradients tout en maintenant les garanties de DP.
3. Évaluation complète : La méthode est évaluée sur cinq jeux de données (Fashion MNIST, Skewed MNIST, CelebA, Adult, Dutch) et trois architectures de modèles (Régression Logistique, CNN à 2 couches, ResNet-18).
4. Robustesse à l'optimisation des hyperparamètres : L'étude évalue la méthode sous l'optimisation des hyperparamètres à confidentialité différentielle (DP-HPO), montrant que l'approche bornée est plus robuste à la stochasticité introduite par le réglage respectant la confidentialité par rapport aux bases non bornées.

Résultats expérimentaux

L'article rapporte des améliorations significatives de la précision de la classe la moins performante (worst-class accuracy) et de la parité de précision (équité) par rapport aux méthodes existantes :

• Gains de performance : Sur Skewed MNIST et Fashion MNIST, la méthode proposée améliore la précision de la classe la moins performante de plus de 10 points de pourcentage par rapport à l'écrêtage adaptatif non borné, de 7 points par rapport à l'écrêtage AUTO et de 5 points par rapport à l'écrêtage constant.
• Frontière de Pareto : Dans les graphiques de dispersion de la macro-précision par rapport à la précision de la classe la moins performante (et de la parité démographique par rapport à la précision moyenne pour les données tabulaires), la méthode d'écrêtage adaptatif borné se situe systématiquement sur la frontière de Pareto empirique. Cela indique qu'elle atteint le meilleur compromis possible entre l'utilité globale et l'équité des sous-groupes ; aucune autre méthode ne parvient simultanément à une précision globale plus élevée et à un impact disparate plus faible.
• Robustesse DP-HPO : Sous les configurations DP-HPO, où les hyperparamètres sont ajustés avec des contraintes de confidentialité, la méthode bornée maintient une performance supérieure pour la classe la moins performante, tandis que les méthodes non bornées échouent souvent à retrouver une performance optimale en raison du bruit et de l'espace de recherche limité.
• Variante heuristique : Les auteurs proposent une variante heuristique utilisant une borne inférieure fixe ($C_{LB} = 0.1$) dans tous les contextes. Cette variante atteint des performances presque identiques à la version entièrement ajustée, réduisant considérablement le coût de calcul de l'optimisation des hyperparamètres.

Signification et affirmations

L'article affirme que l'écrêtage adaptatif borné est une solution pratique et efficace au problème de l'impact disparate dans l'apprentissage à confidentialité différentielle. Sa signification réside dans :

• Correction d'un défaut systémique : Il traite une limitation spécifique, auparavant négligée, de l'écrétage adaptatif où la poursuite d'un quantile cible conduit à la suppression des signaux minoritaires.
• Équilibre entre utilité et équité : La méthode démontre qu'il est possible d'améliorer l'équité (performance du pire groupe) sans sacrifier l'utilité globale du modèle, résolvant ainsi efficacement la tension souvent observée entre ces deux métriques dans les contextes de DP.
• Applicabilité pratique : En montrant qu'une simple heuristique ($C_{LB}=0.1$) fonctionne bien sur divers jeux de données et architectures, l'article suggère que la méthode est prête pour un déploiement réel sans nécessiter de recherche exhaustive et coûteuse d'hyperparamètres.

Les auteurs concluent que, bien que les bornes de confidentialité de groupe soient théoriquement trop faibles pour expliquer ces disparités empiriques, le mécanisme proposé atténue efficacement les impacts disparates pratiques causés par l'interaction entre l'écrêtage des gradients et les déséquilibres de distribution des données dans DP-SGD.