Résumé Technique : ACIL – Apprentissage Classique Incrémental Actif pour la Classification d'Images

1. Énoncé du Problème

L'article traite du défi de l'Apprentissage Classique Incrémental (CIL - Class Incremental Learning) en vision par ordinateur, un scénario où les réseaux de neurones profonds (DNN) doivent apprendre de nouvelles classes séquentiellement à partir de données épisodiques tout en conservant les connaissances des classes précédemment apprises. Un obstacle majeur du CIL est l'oubli catastrophique, où l'optimisation du réseau pour les nouvelles classes efface les connaissances des anciennes.

La recherche actuelle en CIL se concentre principalement sur l'atténuation de l'oubli, en supposant souvent que tous les échantillons d'entraînement dans chaque épisode sont entièrement annotés. Les auteurs soutiennent que cette hypothèse est irréaliste et inefficace pour deux raisons :

1. Coût d'annotation élevé : L'annotation manuelle est coûteuse en termes de temps, de main-d'œuvre et d'expertise.
2. Gaspillage d'annotation : Dans les contextes épisodiques, la majeure partie des données d'un épisode actuel est inaccessible lors des épisodes futurs. L'annotation de tous les échantillons d'un épisode est donc un gaspillage d'efforts, car seul un sous-ensemble de ces échantillons (exemplaires) sera nécessaire pour prévenir l'oubli lors des étapes ultérieures.

L'article propose un nouveau cadre où, dans chaque épisode, seule une petite portion des données est annotée, tandis que la majorité reste non étiquetée. L'objectif est de développer un cadre capable de sélectionner un ensemble minimal d'échantillons exemplaires à annoter et à propager aux épisodes futurs, réduisant ainsi les coûts d'annotation tout en prévenant efficacement l'oubli catastrophique.

2. Méthodologie : Le Cadre ACIL

Les auteurs proposent l'ACIL (Active Class Incremental Learning), un cadre qui intègre des stratégies d'Apprentissage Actif (AL - Active Learning) dans le pipeline CIL. Le mécanisme central consiste à sélectionner un ensemble d'exemplaires de taille fixe $k$ dans chaque épisode pour être annoté manuellement et ajouté aux données de l'épisode suivant.

2.1 Configuration du Problème

• Flux de Données : Les données d'entraînement arrivent sous forme de $N$ épisodes séquentiels. Chaque épisode $n$ contient un petit ensemble étiqueté ($X^L_n$), un grand ensemble non étiqueté ($X^U_n$), et un ensemble d'exemplaires ($E_{n-1}$) provenant de l'épisode précédent.
• Contrainte : Le modèle est entraîné sur $X^L_n$ et $E_{n-1}$. À partir de l'épisode actuel, le système doit sélectionner un nouvel ensemble d'exemplaires $E_n$ de taille $k$ à annoter.
• Source de Sélection : $E_n$ est construit en sélectionnant des échantillons parmi $X^U_n$ (données non étiquetées actuelles), $E_{n-1}$ (exemplaires précédents) et potentiellement $X^L_n$ (bien que les auteurs notent que $X^U_n$ est privilégié en raison de sa taille).

2.2 Stratégie de Répartition du Budget

Pour équilibrer l'apprentissage de nouvelles classes et la rétention des connaissances anciennes, l'ACIL répartit le budget d'annotation $k$ entre l'ensemble non étiqueté actuel ($X^U_n$) et l'ensemble d'exemplaires précédent ($E_{n-1}$).

• La répartition est proportionnelle au nombre de classes présentes dans chaque ensemble ($|C_{épisode}|$ vs $|C_{exemplaire}|$).
• Formule :
  $$k_{non\_étiqueté} = \left( \frac{|C_{épisode}|}{|C_{épisode}| + |C_{exemplaire}|} \right) \cdot k$$
  $$k_{exemplaire} = \left( \frac{|C_{exemplaire}|}{|C_{épisode}| + |C_{exemplaire}|} \right) \cdot k$$
• Cela garantit que l'ensemble d'exemplaires $E_n$ maintient une représentation de toutes les classes rencontrées jusqu'à présent, atténuant ainsi l'oubli.

2.3 Stratégie d'Échantillonnage Actif

La sélection d'échantillons spécifiques au sein du budget alloué est pilotée par un critère combinant incertitude et diversité.

• Incertitude : Mesurée par l'entropie de Shannon des prédictions du modèle.
• Diversité : Obtenue en partitionnant l'ensemble candidat en $B$ clusters (où $B$ est le budget) de telle sorte que la variance au sein de chaque cluster soit minimisée.
• Optimisation : Les auteurs formulent un problème de partitionnement d'ensemble pondéré pour minimiser la variance pondérée au sein des partitions, où le poids est l'incertitude de la prédiction.
  $$\text{argmin}_P \sum_{b=1}^{B} \sum_{x \in X_b} I(x) ||F(x) - c_b||^2$$
  Où $I(x)$ est l'incertitude (entropie) et $F(x)$ est l'incorporation de caractéristiques (feature embedding).
• Algorithme : Un problème NP-difficile approximé par les K-Means Pondérés. L'échantillon le plus proche du centroïde pondéré dans chaque partition est sélectionné pour l'annotation.

2.4 Fonction de Perte

Le DNN est entraîné à l'aide d'une combinaison de :

1. Perte d'Entropie Croisée Pondérée ($L_{WCE}$) : Appliquée aux données étiquetées ($X^L_n \cup E_{n-1}$) pour gérer le déséquilibre des classes, avec des poids inversement proportionnels à la fréquence des classes.
2. Perte de Distillation de Connaissances ($L_D$) : Appliquée à l'ensemble d'exemplaires $E_{n-1}$ pour transférer les connaissances du modèle précédent ($M_{n-1}$) vers le modèle actuel ($M_n$), empêchant ainsi l'oubli.
   $$L = L_{WCE} + \lambda L_D$$

3. Contributions Clés

1. Nouveau Paradigme d'Apprentissage : Introduction d'un cadre CIL où l'annotation complète des données épisodiques n'est pas supposée, répondant au coût élevé et à l'inefficacité des benchmarks CIL actuels.
2. Cadre ACIL : Un algorithme spécifique qui sélectionne des exemplaires basés sur un double critère d'incertitude et de diversité, utilisant une stratégie de répartition du budget pour assurer la couverture des nouvelles et des anciennes classes.
3. Efficacité vs Performance : Démonstration que l'ACIL peut atteindre des performances comparables aux méthodes CIL de pointe (qui supposent une annotation complète) tout en réduisant considérablement le nombre d'échantillons nécessitant une annotation humaine.

4. Résultats Expérimentaux

Le cadre a été évalué sur six jeux de données de vision : MNIST, SVHN, CIFAR-10, CIFAR-100, COIL et Tiny ImageNet.

• Précision : L'ACIL a surpassé de manière significative les bases de comparaison d'Apprentissage Actif (Random, Coreset, BADGE), car ces méthodes ne parviennent pas à retenir les connaissances des épisodes précédents en échantillonnant uniquement dans l'ensemble non étiqueté actuel. L'ACIL a atteint une précision comparable à, et dans certains cas légèrement supérieure aux, bases de comparaison CIL à annotation complète (iCaRL, GDumb, Rainbow Memory).
• Effort d'Annotation : L'ACIL a entraîné l'effort d'annotation le plus bas parmi toutes les méthodes. Par exemple, sur CIFAR-10, l'ACIL a nécessité environ 4,13 fois moins d'annotations par épisode par rapport aux bases de comparaison CIL tout en maintenant une précision similaire.
• Rétention : L'ACIL a démontré une forte rétention des connaissances du premier épisode, comparable aux méthodes CIL basées sur la relecture (replay), validant sa capacité à atténuer l'oubli catastrophique.
• Robustesse : Les expériences faisant varier la taille de l'ensemble d'exemplaires (budget) ont montré que l'ACIL maintient des tendances de performance cohérentes avec les bases de comparaison CIL à travers différentes contraintes de mémoire.

5. Signification et Revendications

L'article affirme que l'ACIL offre une solution pratique pour les applications réelles d'apprentissage incrémental où :

• La mémoire est contrainte : La taille de l'ensemble d'exemplaires est fixe, simulant un stockage limité.
• L'annotation est coûteuse : Le cadre réduit considérablement le travail humain requis pour entraîner des modèles au fil du temps.
• Les données sont éphémères : La capacité d'apprendre à partir de données annotées limitées dans chaque épisode s'aligne sur les contraintes de confidentialité et de stockage où les données passées ne peuvent pas être entièrement conservées.

Les auteurs concluent qu'en sélectionnant intelligemment un petit sous-ensemble d'échantillons informatifs à propager, l'ACIL équilibre avec succès le compromis entre coût d'annotation et performance du modèle, rendant l'apprentissage continu plus réalisable pour les environnements à ressources limitées. Un travail futur pourrait potentiellement étendre ce cadre aux tâches de régression.