SUGAR: A Sweeter Spot for Generative Unlearning of Many Identities

1. Problématique

L'avancement des modèles génératifs 3D (comme EG3D) permet une synthèse d'images humaines de haute fidélité. Cependant, cela soulève des préoccupations majeures concernant le droit à l'oubli et la protection de la vie privée. Les modèles peuvent mémoriser et reproduire des visages identifiables ou des images propriétaires issus de leurs données d'entraînement.

Le défi principal réside dans la difficulté de supprimer ces informations spécifiques sans devoir réentraîner le modèle entier de zéro, une opération coûteuse et souvent impossible à l'échelle. Les méthodes existantes de "désapprentissage génératif" (Generative Unlearning) présentent des limites critiques :

• Incapacité à gérer plusieurs identités : Elles sont souvent conçues pour supprimer une seule identité à la fois.
• Dégradation de la qualité : Les méthodes actuelles (comme GUIDE ou Selective Amnesia) projettent les identités supprimées vers du bruit ou un visage moyen, ce qui crée des artefacts et dégrade la qualité des identités retenues (effet de dérive sémantique).
• Risques de sécurité : La projection vers un bruit ou un visage moyen peut créer une signature reconnaissable, permettant des attaques par inférence d'appartenance.

2. Méthodologie : Le Framework SUGAR

SUGAR (Scalable Unlearning for Generative Adversarial Representations) est un cadre conçu pour supprimer de manière évolutive et sécurisée de multiples identités (simultanément ou séquentiellement) tout en préservant la qualité du modèle. L'architecture repose sur deux phases principales :

A. Désidentification Spécifique à l'Identité (ID-specific De-Identification)

Contrairement aux approches précédentes qui utilisent un visage moyen fixe comme cible, SUGAR apprend un latent de substitution personnalisé pour chaque identité à oublier.

• Mécanisme : Le système définit un vecteur d'identité comme la différence entre le latent d'une personne et le vecteur latent moyen ($\bar{w}$).
• Apprentissage : Un modèle de mapping ($T_\Theta$) est entraîné pour transformer le vecteur d'identité d'une personne à oublier en un nouveau vecteur d'identité contrefactuel ($w^t_{id}$).
• Opérateur de désidentification ($\Theta$) : Il déplace le vecteur moyen $\bar{w}$ dans une direction dérivée de la transformation apprise, créant une nouvelle identité cible $w^t$ qui conserve les attributs faciaux grossiers (structure) mais est reconnaissablement différente (pour les systèmes de reconnaissance faciale).
• Objectif : Minimiser la perte de similarité d'identité tout en maximisant la similarité structurelle et perceptuelle avec l'original, mais sans l'identité originale.

B. Désapprentissage en Mode Apprentissage Continu (Continual Learning)

Pour gérer la suppression de multiples identités sans détruire le modèle, SUGAR combine deux objectifs :

1. Oubli Forcé (Forgetting Loss) :
   • Applique la fonction de désidentification $\Theta$ non seulement aux codes latents des identités à oublier, mais aussi à leurs voisins (échantillons perturbés autour du code original). Cela garantit que l'identité est effacée dans toute sa région locale de l'espace latent, empêchant la persistance d'attributs résiduels.
2. Préservation de l'Utilité (Utility Preservation) :
   • Échantillonnage de Voisinage (Vicinity Sampling) : Pour protéger les identités retenues qui sont proches dans l'espace latent des identités supprimées, SUGAR crée un ensemble de sondes autour des codes à oublier.
   • Consolidation Élastique des Poids (EWC) : Au lieu d'appliquer une perte de reconstruction coûteuse sur chaque échantillon retenu, SUGAR utilise EWC. Cette technique pénalise les changements de paramètres du générateur qui s'éloignent trop des valeurs pré-entraînement, spécifiquement pour les régions sensibles (les sondes de voisinage). Cela préserve les détails fins (lunettes, rides, texture) des identités non visées.

3. Contributions Clés

1. Première méthode GUI multi-identités : SUGAR est la première méthode de désapprentissage d'identité générative (Generative Identity Unlearning) capable de gérer la suppression de nombreuses identités simultanément ou séquentiellement.
2. Remplacement par des contrefaçons personnalisées : Au lieu de projeter vers du bruit ou un visage moyen, SUGAR génère des identités de substitution réalistes et diversifiées, préservant la cohérence visuelle.
3. Préservation de l'utilité à grande échelle : Introduction d'un objectif de préservation continue (via EWC et échantillonnage de voisinage) qui empêche la dégradation des identités retenues, même lors de la suppression de 200 identités.
4. Contrôlabilité : Le paramètre $d$ permet de contrôler le niveau de désapprentissage, offrant un compromis ajustable entre l'efficacité de l'oubli et la fidélité de la génération.

4. Résultats Expérimentaux

Les expériences ont été menées sur des modèles EG3D avec des jeux de données FFHQ (In-domain) et CelebA-HQ (Out-of-domain).

• Performance Quantitative :

  • Utilité préservée : SUGAR améliore la rétention des identités (mesurée par le score ID) de 50 % à 150 % par rapport à la méthode de référence (GUIDE). Dans certains cas (CelebA-HQ), l'amélioration atteint 700 %.
  • Qualité d'image : Réduction significative du FID (Fréchet Inception Distance) pour les identités retenues, indiquant une meilleure qualité visuelle et une distribution plus proche de la réalité.
  • Efficacité de l'oubli : Les scores d'identité pour les identités supprimées chutent drastiquement, confirmant qu'elles ne sont plus reconnaissables.

• Évaluation Humaine :

  • Une étude avec 60 participants a montré que les humains ne pouvaient pas distinguer les identités supprimées entre SUGAR et GUIDE (tous deux efficaces pour l'oubli).
  • Différence cruciale : Pour les identités retenues, les participants ont correctement identifié les images générées par SUGAR 86 % du temps, contre seulement 1,9 % pour GUIDE. Cela prouve que SUGAR préserve l'identité des personnes non visées, tandis que GUIDE les déforme.

• Sécurité et Vie Privée :

  • Contrairement aux méthodes qui créent un "visage moyen" reconnaissable, SUGAR mélange les identités supprimées avec les identités retenues dans l'espace latent, rendant les attaques par inférence d'appartenance beaucoup plus difficiles.

5. Signification et Impact

SUGAR représente une avancée majeure dans le domaine de l'éthique et de la sécurité de l'IA générative.

• Viabilité Pratique : Il rend le droit à l'oubli réalisable pour les modèles génératifs complexes sans nécessiter un réentraînement coûteux.
• Évolutivité : Il résout le problème de la dégradation cumulative lors de la suppression séquentielle de multiples identités.
• Sécurité Renforcée : En évitant les signatures statistiques (bruit/visage moyen), il offre une protection plus robuste contre les attaques de ré-identification.

En résumé, SUGAR offre un équilibre optimal ("Sweet Spot") entre la suppression efficace des données sensibles et le maintien de la haute qualité et de la diversité du modèle génératif, répondant ainsi aux exigences croissantes de conformité réglementaire et de protection de la vie privée.