ACD-U: Asymmetric co-teaching with machine unlearning for robust learning with noisy labels

Le papier propose ACD-U, un cadre d'apprentissage asymétrique combinant co-enseignement et désapprentissage automatique pour corriger activement les erreurs de sélection dans les données bruitées en associant un modèle CLIP préentraîné stable à un CNN adaptatif.

L'essentiel

Imaginez que vous essayez d'apprendre à un enfant (l'intelligence artificielle) à reconnaître des animaux sur des photos. Le problème ? Vous lui donnez un livre de photos, mais certaines pages ont été mal étiquetées par erreur. Par exemple, une photo de chat est étiquetée "chien".

Le Problème : L'Enfant qui Mémorise les Erreurs

Les réseaux de neurones (les "enfants" numériques) sont très intelligents, mais ils ont un défaut : ils sont de parfaits écoliers qui mémorisent tout. Au début, ils apprennent les bonnes choses (les chats sont des chats). Mais si vous continuez à leur montrer des photos étiquetées "chien" alors que c'est un chat, ils finissent par croire que c'est vrai. Une fois qu'ils ont mémorisé l'erreur, il est très difficile de les faire changer d'avis. C'est ce qu'on appelle le "biais de confirmation" : ils ne voient que ce qu'ils veulent voir.

Les méthodes actuelles essaient de trier les bonnes photos des mauvaises, mais si elles se trompent une fois et disent "cette photo de chat est un chien", elles ne peuvent plus revenir en arrière. L'erreur est gravée dans le marbre.

La Solution : ACD-U (Le Duo de Détectives et l'Effaceur Magique)

Les auteurs de ce papier proposent une nouvelle méthode appelée ACD-U. Imaginez-la comme une équipe de deux détectives très différents, aidés par un outil magique pour effacer les souvenirs.

1. Les Deux Détectives (Co-Enseignement Asymétrique)

Au lieu d'avoir deux détectives identiques, ils en utilisent deux très différents :

• Le Détective Expérimenté (Le ViT pré-entraîné) : C'est un expert qui a déjà vu des millions d'images avant même de commencer votre cours. Il est très sûr de lui au début. Il ne regarde que les photos dont il est certain qu'elles sont correctes. Il ne se laisse pas influencer par les erreurs.
• Le Détective Apprenti (Le CNN) : C'est un élève qui apprend de zéro. Il est plus flexible et regarde toutes les photos, même celles qui sont douteuses, pour essayer de trouver des patterns.

La magie de l'asymétrie : L'expert guide l'apprenti. Si l'expert dit "Je suis sûr que c'est un chat", l'apprenti apprend sur cette photo. Si l'expert est hésitant, l'apprenti essaie de deviner. Cela empêche l'apprenti de se tromper trop tôt en suivant de mauvaises indications.

2. L'Effaceur Magique (Machine Unlearning)

C'est la grande innovation du papier. Même avec deux détectives, l'apprenti peut parfois se tromper et mémoriser une erreur (ex: croire qu'un chat est un chien).

• L'ancien problème : Une fois l'erreur apprise, on ne pouvait rien faire.
• La solution ACD-U : Le système possède un "Effaceur Magique". Il surveille constamment ce que l'apprenti apprend.
  • Il regarde si l'apprenti a soudainement commencé à croire une étiquette bizarre (changement de perte).
  • Il demande à l'expert (qui est très fort) : "Est-ce que ça ressemble à un chat ?"
  • Si l'expert dit "Non, c'est clairement un chat" et que l'apprenti a appris "C'est un chien", le système déclenche l'effaceur.
  • L'effaceur ne supprime pas la photo, mais il "efface" l'influence de cette erreur dans la tête de l'apprenti. C'est comme si on lui disait : "Oublie ce que tu viens d'apprendre sur cette photo, c'était faux."

Pourquoi c'est génial ?

1. On ne se contente pas d'éviter les erreurs, on les corrige : Les anciennes méthodes disaient "Attention, ne touche pas aux photos douteuses". ACD-U dit : "Si tu as touché une photo douteuse et appris une erreur, on va la réparer maintenant."
2. L'équipe fonctionne bien ensemble : L'expert (qui ne se trompe pas souvent au début) protège l'apprenti. L'apprenti (qui explore plus) trouve des choses que l'expert pourrait manquer. Et l'effaceur nettoie les dégâts si l'un des deux fait une erreur.

Les Résultats

Les auteurs ont testé cette méthode sur plein de jeux de données, certains avec très peu d'erreurs, d'autres avec énormément (jusqu'à 90% de photos mal étiquetées !).

• Résultat : ACD-U bat tous les autres records, surtout quand le bruit (les erreurs) est très fort.
• Analogie finale : Si apprendre avec des données bruyantes, c'est comme essayer d'apprendre une langue dans une pièce bruyante où tout le monde vous donne de faux conseils, les anciennes méthodes essayaient de se boucher les oreilles. ACD-U, c'est comme avoir un professeur très sage qui vous corrige en temps réel et un ami qui vous aide à oublier les mauvais conseils que vous auriez pu entendre par erreur.

En résumé, ACD-U est une méthode intelligente qui combine l'expérience d'un modèle pré-entraîné, la flexibilité d'un modèle classique, et un mécanisme d'auto-correction pour effacer les erreurs d'apprentissage, rendant l'IA beaucoup plus robuste face aux données imparfaites.

Résumé technique

1. Problématique

Les réseaux de neurones profonds (DNN) sont sujets à un phénomène de mémoire : ils apprennent d'abord les échantillons "propres" (correctement étiquetés) avant de mémoriser les étiquettes bruyantes (incorrectes) au fur et à mesure de l'entraînement. Bien que des méthodes récentes combinent la sélection d'échantillons et l'apprentissage semi-supervisé (SSL) pour exploiter cet effet, elles souffrent de deux limitations majeures :

1. Irréversibilité des erreurs : Une fois qu'un échantillon bruyant est incorrectement sélectionné comme "propre" (erreur de sélection initiale), il est mémorisé de manière permanente. Les méthodes existantes ne peuvent pas corriger ces erreurs a posteriori.
2. Biais de confirmation : Dans les approches de type "co-teaching" (enseignement mutuel), si deux réseaux s'accordent sur une étiquette bruyante, l'erreur se renforce.
3. Sous-utilisation des modèles pré-entraînés : Les modèles pré-entraînés (comme CLIP) sont souvent utilisés uniquement pour l'initialisation ou comme classificateurs statiques, sans exploiter leurs comportements d'apprentissage différents par rapport aux modèles initialisés aléatoirement.

2. Méthodologie : Le cadre ACD-U

Les auteurs proposent ACD-U (Asymmetric Co-teaching with different architectures and Unlearning), un cadre intégrant deux mécanismes novateurs pour passer d'une évasion passive des erreurs à une correction active.

A. Apprentissage par Co-enseignement Asymétrique (ACD)

Au lieu d'utiliser deux réseaux identiques, ACD-U couple deux architectures aux comportements d'apprentissage complémentaires :

• Net V (Vision Transformer - ViT) : Un modèle pré-entraîné via CLIP. Il possède une haute précision initiale et des prédictions stables. Dans ACD-U, il est entraîné uniquement sur les échantillons jugés "propres" par l'autre réseau. Cela évite qu'il ne s'adapte aux étiquettes bruyantes.
• Net A (CNN) : Un réseau de neurones convolutif standard initialisé aléatoirement. Il est entraîné via un pipeline semi-supervisé (SSL) utilisant à la fois les échantillons "propres" et les échantillons "bruyants" (traités comme non étiquetés avec des pseudo-étiquettes).
• Avantage : Cette asymétrie atténue le biais de confirmation. Le ViT stable guide le CNN, tandis que le CNN s'adapte dynamiquement, permettant une sélection d'échantillons plus fiable dès le début de l'entraînement.

B. Machine Unlearning (Oubli Sélectif) pour la Correction d'Erreurs

C'est la contribution la plus originale : l'application de l'oubli machine au domaine de l'apprentissage avec bruit.

• Détection des erreurs : Le système identifie dynamiquement les échantillons bruyants qui ont été incorrectement mémorisés en analysant trois critères :
  1. Faible perte (Low-loss) : Les échantillons sur-ajustés ont une perte faible.
  2. Chute de perte (Loss-drop) : Une baisse soudaine de la perte entre deux époques indique une mémorisation erronée récente.
  3. Cohérence CLIP : Un modèle CLIP pré-entraîné (indépendant du bruit) vérifie la cohérence de l'étiquette. Si l'étiquette est cohérente avec la prédiction "zero-shot" de CLIP, l'échantillon est protégé (considéré comme propre).
• Exécution de l'oubli : Une fois les cibles identifiées, un mécanisme d'oubli basé sur la divergence de Kullback-Leibler (KL) est appliqué. Le modèle est forcé de maximiser la différence entre ses prédictions actuelles et celles d'un modèle de référence (sauvegardé avant l'oubli) sur ces échantillons spécifiques. Cela "efface" l'influence des étiquettes bruyantes incorrectement mémorisées.

3. Contributions Clés

1. Première application de l'oubli machine à l'apprentissage avec bruit : Permet la correction post-hoc des erreurs de sélection, transformant le paradigme d'évitement passif en correction active.
2. Architecture ACD : Une stratégie d'enseignement asymétrique exploitant les forces d'un ViT pré-entraîné (stabilité) et d'un CNN (adaptabilité) pour supprimer la mémorisation du bruit dans les phases précoces.
3. Sélection dynamique : Un mécanisme combinant l'analyse de la trajectoire de la perte et la vérification par CLIP pour identifier les erreurs sans connaissance préalable du bruit.
4. Preuve de complémentarité : Démonstration que l'oubli est crucial pour les taux de bruit élevés, tandis que l'ACD est plus efficace pour les taux de bruit faibles à modérés.

4. Résultats Expérimentaux

Les expériences ont été menées sur des ensembles de données synthétiques (CIFAR-10/100 avec bruit symétrique et asymétrique) et réels (CIFAR-N, WebVision, Clothing1M, Red Mini-ImageNet).

• Performance Globale : ACD-U atteint des performances de l'état de l'art (SOTA) sur la plupart des benchmarks.
• Cas de bruit élevé : Sur CIFAR-100 avec 90% de bruit symétrique, ACD-U surpasse DivideMix de 35% (relatif). Sur Red Mini-ImageNet (bruit dépendant de l'instance), il surpasse toutes les méthodes existantes à tous les taux de bruit.
• Données réelles : Sur CIFAR-100N (bruit humain réel), il surpasse Semi-RML++ de 2,3% et LSL de 1,5%. Sur WebVision, il obtient la meilleure précision Top-5 et dépasse Semi-RML++ de 2,3% sur la validation ImageNet.
• Analyse d'ablation :
  • Sans l'oubli (Unlearning), la performance chute drastiquement à 80% de bruit (-1,7%).
  • Sans l'ACD, la performance chute à 50% de bruit (-1,9%).
  • L'utilisation du ViT pré-entraîné réduit les échantillons bruyants incorrectement jugés "propres" (HN) à environ 1/6 du nombre observé avec DivideMix.

5. Signification et Impact

Ce travail représente une avancée significative dans le domaine de l'apprentissage robuste avec des étiquettes bruyantes (LNL) :

• Changement de paradigme : Il démontre que l'on ne doit pas seulement essayer de mieux sélectionner les données au début, mais qu'il est possible de réparer les erreurs de sélection commises plus tard dans l'entraînement grâce à l'oubli machine.
• Synergie Architecturale : Il valide l'idée que l'hétérogénéité des architectures (ViT + CNN) est une ressource précieuse pour gérer le bruit, plutôt que de simplement dupliquer des modèles identiques.
• Robustesse : La méthode offre une solution robuste aux scénarios réels complexes où le bruit est inconnu, dépendant de l'instance et à des taux très élevés, comblant ainsi un vide laissé par les méthodes précédentes qui échouent une fois les erreurs mémorisées.

En résumé, ACD-U établit un nouvel état de l'art en combinant la stabilité des grands modèles de fondation (Foundation Models) avec des mécanismes dynamiques de correction d'erreurs, offrant une voie prometteuse pour l'apprentissage sur des données massives et imparfaites.