Résumé technique : CoUn - Renforcer l'oubli machine par l'apprentissage contrastif

1. Définition du problème

L'oubli machine (MU) répond au besoin croissant de protection des données et de conformité réglementaire (par exemple, le RGPD) en éliminant l'influence de données spécifiques à « oublier » ($D_u$) d'un modèle entraîné, tout en préservant l'utilité des données restantes à « conserver » ($D_r$). La référence absolue pour le MU est l'oubli exact, obtenu en réentraînant un modèle à partir de zéro sur $D_r$ (le modèle Retrain). Cependant, cette approche est prohibitivement coûteuse en calcul.

Les méthodes d'oubli approximatif visent à obtenir des résultats similaires de manière plus efficace, mais elles peinent souvent à combler l'écart de performance par rapport au modèle Retrain. Les méthodes approximatives existantes se divisent généralement en deux catégories :

1. Manipulation des étiquettes : Attribuer aux échantillons à oublier des étiquettes sémantiquement incohérentes ou aléatoires pour forcer une mauvaise classification. Cela dégrade souvent l'utilité du modèle sur les données à conserver et nécessite l'accès aux données à oublier.
2. Perturbation des poids du modèle : Modifier les poids du modèle pour effacer l'influence des données à oublier. Une perturbation excessive nuit à l'utilité, tandis qu'une perturbation insuffisante échoue à éliminer l'influence des données à oublier.

Une observation critique motivant ce travail est qu'un modèle Retrain (entraîné uniquement sur $D_r$) classe les échantillons à oublier ($D_u$) en fonction de leur similarité sémantique avec les clusters de conservation. Par exemple, dans un scénario d'oubli par classe (suppression de tous les échantillons « camion »), le modèle Retrain classe incorrectement les échantillons « camion » à oublier vers des clusters sémantiquement similaires comme « automobile » ou « bateau ». Dans un oubli aléatoire, il peut correctement classifier certains échantillons à oublier s'ils restent sémantiquement proches de leurs clusters de conservation d'origine. Les méthodes approximatives actuelles échouent souvent à reproduire ce comportement nuancé, soit en forçant une mauvaise classification totale, soit en échouant à perturber suffisamment l'influence des données à oublier.

2. Méthodologie : CoUn

Les auteurs proposent CoUn (Contrastive learning for empowering Unlearning), un cadre qui réalise un oubli efficace en ajustant les représentations apprises des données basées sur la similarité sémantique, en utilisant uniquement les données à conserver. CoUn ne nécessite pas l'accès aux données à oublier.

Mécanisme central

CoUn exploite le fait que les poids du modèle original capturent déjà les similarités sémantiques entre tous les échantillons d'entraînement. En ajustant les représentations des données à conserver ($D_r$), le cadre influence indirectement les représentations des données à oublier ($D_u$).

Le cadre comprend deux objectifs d'apprentissage simultanés appliqués à $D_r$ :

1. Module d'apprentissage contrastif (CL) :

   • Appliqué aux données à conserver pour ajuster les représentations.
   • Utilise l'augmentation de données pour créer des paires positives (deux vues d'une même image) et des paires négatives (images différentes).
   • Collision de clusters : Le module CL utilise une perte InfoNCE standard. Crucialement, comme le lot est échantillonné aléatoirement à partir de $D_r$, il inclut inévitablement de faux négatifs (échantillons de la même classe que l'échantillon positif mais traités comme négatifs).
   • Cela induit une collision de clusters, où les échantillons d'une même classe sont repoussés les uns des autres. Par conséquent, les représentations à oublier (qui partagent des informations sémantiques avec les données à conserver via les poids originaux) sont indirectement poussées vers les clusters d'autres échantillons à conserver qui présentent la plus grande similarité sémantique avec eux.
   • Dans l'oubli par classe, cela pousse les échantillons à oublier vers des clusters différents. Dans l'oubli aléatoire, cela aligne les échantillons à oublier sur leurs clusters de conservation les plus sémantiquement similaires, imitant ainsi le comportement du modèle Retrain.

2. Apprentissage supervisé :

   • Appliqué aux données à conserver via une tête de classification utilisant une perte d'entropie croisée (CE).
   • Préservation de l'utilité : Bien que le CL induise une collision de clusters (ce qui est bénéfique pour l'oubli des données à oublier), il risque de dégrader l'utilité du modèle sur les données à conserver. La composante d'apprentissage supervisé contrebalance cela en imposant que les représentations à conserver restent au sein de leurs clusters corrects respectifs, maintenant ainsi une haute précision sur $D_r$.

Optimisation

La fonction de perte totale combine les deux objectifs :
$$L = L_{CE} + \lambda L_{CL}$$
Où $L_{CE}$ est la perte d'entropie croisée supervisée, $L_{CL}$ est la perte contrastive, et $\lambda$ est un facteur d'échelle équilibrant les deux.

3. Contributions clés

1. Nouveau cadre : Introduction de CoUn, un cadre MU qui réalise un oubli efficace en ajustant les représentations apprises basées sur la similarité sémantique en utilisant le CL et l'apprentissage supervisé exclusivement sur les données à conserver.
2. Insights empiriques et théoriques :
   • Démonstration que CoUn réalise efficacement l'oubli en poussant les représentations à oublier vers les clusters de représentations à conserver sémantiquement similaires, correspondant étroitement au comportement du modèle Retrain exact.
   • Fourniture d'une analyse théorique montrant que CoUn induit un taux de mauvaise classification plus élevé sur les données à oublier tout en maintenant un faible taux de mauvaise classification sur les données à conserver, optimisant ainsi à la fois la qualité de l'oubli et l'utilité.
3. Validation des performances : Validation de CoUn sur plusieurs jeux de données (CIFAR-10/100, TinyImageNet) et architectures (ResNet-18, VGG-16, ViT). Les résultats montrent que CoUn surpasse systématiquement les références de l'état de l'art dans la réduction de l'écart de performance avec le modèle Retrain exact.
4. Intégration modulaire : Démonstration que l'intégration du module CL de CoUn dans des méthodes de référence existantes améliore considérablement leur efficacité d'oubli.

4. Résultats expérimentaux

Les expériences ont été menées dans deux scénarios d'oubli : par classe (suppression d'une classe entière) et aléatoire (suppression d'un pourcentage d'échantillons).

• Écart de performance : CoUn a constamment obtenu le « Gap moyen » le plus faible (la différence moyenne en précision de conservation, précision d'oubli, précision de test et taux de réussite de l'attaque MIA par rapport au modèle Retrain) sur tous les jeux de données et modèles.
  • Sur CIFAR-10 avec ResNet-18 (oubli aléatoire de 10 %), CoUn a surpassé la meilleure référence de 16,7 %.
  • Sur CIFAR-100 avec ResNet-18, l'amélioration était de 15,8 %.
  • Sur TinyImageNet, l'amélioration était de 6,3 %.
• Comparaison avec les références : CoUn a surpassé des méthodes telles que NegGrad+, $\ell_1$-sparse, SalUn et NoT. Notamment, les méthodes reposant sur la manipulation des étiquettes (par exemple, SalUn) ont souvent souffert d'une utilité réduite sur les données à conserver.
• Intégration : L'ajout du module CL de CoUn à des références compétitives (NegGrad+, $\ell_1$-sparse, NoT) a entraîné des boosts de performance substantiels (par exemple, jusqu'à 87,7 % d'amélioration du gap moyen pour $\ell_1$-sparse sur CIFAR-100 avec 50 % d'oubli).
• Études d'ablation :
  • Facteur d'échelle ($\lambda$) : Un réglage approprié est essentiel ; un $\lambda$ élevé réduit les contraintes supervisées, dégradant l'utilité.
  • Température ($\tau$) : Des températures plus basses améliorent généralement l'efficacité du CL, avec une performance optimale à $\tau=0,1$.
  • Transformations : Des augmentations plus fortes dans le CL peuvent conduire à un regroupement plus serré, ce qui, paradoxalement, entrave l'oubli en empêchant le chevauchement de clusters nécessaire. Des transformations plus simples (correspondant à celles utilisées en apprentissage supervisé) ont produit les meilleurs résultats.
  • Taille du lot : Les performances étaient optimales lorsque la taille du lot correspondait à celle du modèle Retrain (256).

5. Importance et revendications

L'article revendique que CoUn représente une avancée significative dans l'oubli machine approximatif en changeant le paradigme de « forcer la mauvaise classification » vers « imiter la similarité sémantique ».

• Alignement avec l'oubli exact : Contrairement aux méthodes antérieures qui tentent de mal classifier aveuglément les données à oublier, CoUn s'aligne sur le comportement naturel du modèle Retrain exact, qui classe les données à oublier en fonction de la proximité sémantique avec les données à conserver.
• Efficacité et utilité : CoUn réalise une haute efficacité d'oubli sans nécessiter l'accès aux données à oublier et maintient une haute utilité sur les données à conserver en atténuant la collision de clusters grâce à l'apprentissage supervisé.
• Généralisabilité : Le cadre s'est avéré efficace sur différentes architectures de modèles et scénarios d'oubli, et son module CL central peut servir de plug-in pour améliorer les méthodes d'oubli existantes.

Les auteurs concluent que, bien que CoUn se concentre actuellement sur la classification basée sur la vision sur des jeux de données relativement petits, son approche exploitant la similarité sémantique et la collision de clusters offre une direction robuste pour la recherche future en oubli machine.