Adapt before Continual Learning

Résumé Technique : Adapt before Continual Learning (ACL)

1. Problématique : Le dilemme Stabilité-Plasticité

Le défi central de l'Apprentissage Continu (Continual Learning - CL) est de permettre à un réseau de neurones d'acquérir de nouvelles connaissances (plasticité) tout en conservant les connaissances acquises précédemment (stabilité).

L'article souligne une limite majeure des approches actuelles basées sur les Modèles Pré-entraînés (PTM) :

• Approches par gel (Freezing) : Pour garantir la stabilité, on gèle souvent le "backbone" (l'ossature) du PTM et on n'entraîne que des modules légers (prompts ou adaptateurs). Cependant, si la distribution des nouvelles données diverge fortement des données de pré-entraînement, le modèle manque de plasticité car ses représentations sont trop rigides.
• Approches par fine-tuning complet : Elles offrent une grande plasticité mais provoquent un oubli catastrophique des tâches précédentes, ruinant la stabilité.

2. Méthodologie : Le cadre ACL

Les auteurs proposent une phase d'adaptation "plug-and-play" appelée ACL, qui intervient avant le processus d'apprentissage proprement dit de chaque nouvelle tâche. Le cadre se décompose en deux phases distinctes pour chaque tâche $k$ :

Phase 1 : Adaptation (Phase de préparation)
Avant d'apprendre la tâche, le modèle adapte les paramètres du backbone PTM ($\phi$) et des modules légers ($\Theta$) pour les rendre plus discriminants pour les données de la tâche actuelle ($D_k$).
L'innovation réside dans la fonction de perte ACL Loss :
$$\mathcal{L}_{ACL}(x_i, y_i) = -\log \frac{\exp(\cos(\phi^*(x_i), p_{y_i})/\tau)}{\sum_{j} \exp(\cos(\phi^*(x_i), p_j)/\tau)}$$

• Mécanisme : Cette perte encourage les plongements (embeddings) des échantillons à se rapprocher de leur prototype de classe original ($p_{y_i}$) tout en s'éloignant des prototypes des autres classes.
• Justification théorique :
  • Plasticité : La minimisation de cette perte réduit la borne supérieure de l'erreur de classification pour la tâche en cours.
  • Stabilité : En ancrant les nouvelles représentations autour des prototypes de classes existants, la perte agit comme une régularisation implicite qui limite la déviation des caractéristiques, évitant ainsi une modification trop radicale du savoir pré-entraîné.

Phase 2 : Apprentissage de base (Core Learning)
Une fois l'adaptation terminée, le backbone adapté ($\phi^*$) est gelé. On procède ensuite à l'apprentissage classique de la tâche (mise à jour du classificateur et des modules légers) en utilisant les méthodes de CL existantes (comme L2P ou DualPrompt).

3. Contributions Clés

1. Identification d'un nouveau goulot d'étranglement : Les auteurs démontrent que la sous-performance des méthodes CL basées sur les PTM provient d'un manque de plasticité dû à un gel trop rigide des représentations.
2. Nouveau cadre d'adaptation : Introduction d'ACL, une méthode qui réaligne l'espace des caractéristiques avant l'apprentissage sans nécessiter de réentraînement massif.
3. Preuve théorique : Démonstration mathématique que l'utilisation des prototypes permet de concilier l'amélioration de la discriminabilité (plasticité) et la limitation de la déviation des caractéristiques (stabilité).
4. Modularité : ACL est "plug-and-play", ce qui signifie qu'il peut être ajouté à n'importe quelle méthode de CL existante pour en améliorer les performances.

4. Résultats Expérimentaux

Les tests ont été menés sur des jeux de données présentant un fort décalage de domaine par rapport à ImageNet (ImageNet-R et ImageNet-A), ce qui est crucial pour tester la plasticité.

• Amélioration systématique : L'intégration d'ACL améliore de manière constante les performances de six méthodes de l'état de l'art (L2P, DualPrompt, FeCAM, RanPAC, SSIAT, MOS).
• Gains significatifs : Les améliorations de la précision (LA - Last Accuracy) atteignent jusqu'à +7,87% sur certains benchmarks.
• Polyvalence : L'efficacité est confirmée sur différents backbones (ViT-B/16-IN21K) et même sur des modèles vision-langage comme CLIP.
• Visualisation : Les analyses t-SNE et Grad-CAM confirment que les caractéristiques produites par ACL sont plus discriminantes et que le modèle se concentre mieux sur les régions pertinentes de l'image (évitant les bruits de fond).

5. Signification et Impact

Ce travail change la perspective du Continual Learning avec les PTM : au lieu de simplement ajouter des modules par-dessus un modèle figé, il suggère qu'une préparation dynamique de l'espace des caractéristiques est nécessaire pour gérer l'évolution des données. ACL offre un équilibre optimal qui permet aux modèles de rester performants sur de nouveaux domaines sans sacrifier leur base de connaissances initiale.