🤖 machine learning

When Classes Evolve: A Benchmark and Framework for Stage-Aware Class-Incremental Learning

Cet article introduit le Stage-Aware Class-Incremental Learning (Stage-CIL) pour relever le défi de l'apprentissage de classes subissant une évolution morphologique au fil du temps, en proposant le benchmark Stage-Bench et le cadre STAGE pour atténuer efficacement tant l'oubli inter-classe que la dégradation intra-classe au niveau des étapes.

Auteurs originaux : Zheng Zhang, Tao Hu, Xueheng Li, Yang Wang, Rui Li, Jie Zhang, Chengjun Xie

Publié 2026-08-05

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Zheng Zhang, Tao Hu, Xueheng Li, Yang Wang, Rui Li, Jie Zhang, Chengjun Xie

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous enseigniez à un robot à reconnaître des animaux. Dans le monde de l'intelligence artificielle, il existe un défi célèbre appelé « Apprentissage Classique-Incrémental » (Class-Incremental Learning). Voyez cela comme un étudiant passant une série d'examens. D'abord, il apprend à identifier les chiens. Ensuite, il apprend les chats. Puis, les oiseaux. La partie délicate est que le robot possède une mémoire très limitée. Chaque fois qu'il apprend un nouvel animal, il a tendance à « oublier » les anciens, un bug connu sous le nom d'« oubli catastrophique ». Généralement, les scientifiques supposent qu'une fois que le robot a appris ce qu'est un « chien », un chien reste un chien pour toujours. Ils supposent que l'animal ne change pas de forme ou d'apparence au fil du temps.

Mais dans le monde réel, les choses ne sont pas aussi statiques. Une chenille ne reste pas une chenille ; elle se transforme en papillon. Une voiture neuve ne ressemble pas exactement à une vieille voiture rouillée et cabossée des années plus tard. Si un robot apprend qu'une « chenille » et un « papillon » sont deux choses complètement différentes, il passe à côté de l'essentiel : qu'il s'agit de la même créature à des âges différents. S'il apprend que ce sont les mêmes choses mais qu'il ne sait pas comment gérer le changement radical d'apparence, il s'embrouille. Ce document aborde un coin spécifique de ce problème : que se passe-t-il lorsque les choses que vous apprenez à reconnaître évoluent réellement pendant que vous les apprenez ?

Les chercheurs derrière cet article, dirigés par Zheng Zhang et Tao Hu, ont réalisé que les méthodes d'entraînement d'IA standard échouent face à cette tâche spécifique. Ils soutiennent que les méthodes actuelles traitent un objet changeant comme s'il s'agissait d'un objet statique, ce qui fait que l'IA perd la trace de la véritable identité de l'objet lorsqu'il se métamorphose. Pour corriger cela, ils ont créé un nouveau « jeu » pour l'IA appelé Stage-Aware Class-Incremental Learning (Stage-CIL). Au lieu de simplement demander : « Est-ce un chien ? », le nouveau jeu demande : « Est-ce un chien, et est-ce un chiot ou un adulte ? », tout en s'assurant que l'IA n'oublie pas les chiots qu'elle a vus il y a plusieurs semaines.

Pour prouver qu'il s'agit d'un vrai problème, l'équipe a construit une suite de tests massive appelée Stage-Bench. Imaginez un immense album photo composé de 10 chapitres différents (comme Animaux, Plantes et Objets). À l'intérieur de chaque chapitre, il y a 20 articles différents, et pour chaque article, il y a deux photos : une de son « stade précoce » (comme une plantule ou une larve) et une de son « stade ultérieur » (comme un arbre ou un papillon). Au total, ils ont créé un ensemble de données comprenant près de 19 000 images. Ils ont utilisé cela pour tester la capacité de différents modèles d'IA à apprendre de nouveaux éléments sans oublier les anciens et, surtout, sans oublier que la « version précoce » et la « version ultérieure » sont en réalité la même chose.

Lorsqu'ils ont lancé les tests, les résultats ont été frappants. Ils ont testé toutes les méthodes d'IA les plus performantes qui sont habituellement considérées comme les « champions » de l'apprentissage de nouvelles choses. Cependant, face à ces objets évolutifs, même les meilleures méthodes existantes ont eu du mal. Elles ont souffert de ce que les auteurs appellent l'« oubli intra-classe ». C'est une façon sophistiquée de dire que l'IA apprendrait à reconnaître un papillon, mais oublierait complètement à quoi ressemblait la chenille, même s'il s'agit de la même espèce. Les méthodes standards tentaient de forcer la chenille et le papillon dans une seule boîte statique, et l'IA était confuse par la grande différence de leur apparence.

Pour résoudre cela, les auteurs ont introduit une nouvelle méthode appelée STAGE. Considérez STAGE comme un détective intelligent qui garde une « photo d'identité » de l'objet sous sa forme précoce (l'ancre d'identité). Lorsque l'objet apparaît plus tard sous une forme évoluée, STAGE ne se contente pas de deviner ; il utilise un « pool de mémoire » de motifs de transformation pour prédire ce à quoi la nouvelle version devrait ressembler sur la base de l'ancienne. C'est comme avoir une carte mentale qui dit : « Si je vois une chenille, je sais exactement comment elle sera quand elle deviendra un papillon ».

Les expériences ont montré que STAGE était nettement meilleur que la concurrence. Sur le test principal, STAGE a atteint une précision moyenne de 75,11 %, tandis que la deuxième meilleure méthode n'a atteint que 59,74 %. Plus important encore, STAGE a très peu oublié les stades précoces des objets, avec un score d'« oubli intra-classe » de seulement 7,48 %, alors que les autres méthodes luttaient avec des scores atteignant 58,61 %. Cela suggère qu'en enseignant explicitement à l'IA que les objets peuvent changer au fil du temps, plutôt qu'en prétendant qu'ils restent les mêmes, nous pouvons construire des systèmes beaucoup plus intelligents et adaptables. L'article conclut que si les méthodes existantes sont bonnes pour apprendre de nouvelles catégories, elles ont besoin d'une mise à jour majeure pour gérer la réalité désordonnée et évolutive du monde dans lequel nous vivons.

Résumé technique : Quand les classes évoluent : un benchmark et un cadre pour l'apprentissage incrémental de classes sensible aux stades (Stage-Aware Class-Incremental Learning)

Définition du problème : Apprentissage incrémental de classes sensible aux stades (Stage-CIL)
L'apprentissage incrémental de classes (CIL) conventionnel opère sous l'hypothèse implicite que les classes sémantiques sont morphologiquement statiques ; le défi principal est d'atténuer l'oubli catastrophique des catégories précédemment apprises à mesure que de nouvelles sont introduites. Cependant, dans de nombreux scénarios réels, les instances d'une même classe sémantique subissent une évolution morphologique substantielle au fil du temps (par exemple, une larve se transformant en papillon, ou un véhicule accumulant des dommages).

Le papier identifie un dilemme fondamental lors de l'application du CIL standard à de tels scénarios :

Regrouper tous les stades sous une seule étiquette aplatit la structure évolutive, induisant une sévère interférence de caractéristiques intra-classe.
Diviser les stades en classes pseudo-distinctes rompt le lien d'identité sous-jacent, échouant à préserver la cohérence sémantique.

Cela conduit à une nouvelle forme d'oubli intra-classe, où un modèle ne parvient pas à maintenir la cohérence de reconnaissance à travers les différents stades morphologiques d'une même classe sémantique, même s'il parvient à discriminer avec succès entre différentes classes. Les protocoles de décalage de domaine standard n'évaluent pas explicitement cette préservation de l'identité conditionnée par la classe au sein d'un espace d'étiquettes en expansion.

Méthodologie : Le cadre STAGE
Pour répondre au Stage-CIL, les auteurs proposent STAGE, un cadre de référence sensible à l'évolution conçu pour désengager l'identité sémantique stable de la dynamique spécifique aux stades. Le cadre opère sur un pipeline « prédire puis classifier » :

Construction de l'ancre d'identité (Phase 0) :
- Le modèle fige le backbone (en utilisant un modèle pré-entraîné, spécifiquement CLIP ViT-B/16) et apprend des têtes de projection image et texte spécifiques à la tâche.
- Pour chaque nouvelle classe, il construit un prototype d'identité stable ( $p^y_0$ ) basé sur le stade morphologique initial (Stade-0). Ce prototype est stocké sous forme de vecteur fixe et sert d'ancre sémantique.
Évolution prédictive via un pool de mémoire (Phase 1) :
- Au lieu de remplacer l'ancre par des caractéristiques de stades mixtes, STAGE prédit le prototype de classe évolué ( $\hat{p}^y_1$ ) pour le stade ultérieur (Stade-1) en utilisant l'ancre du Stade-0.
- Ceci est réalisé grâce à un Evolution-aware Memory Pool (pool de mémoire sensible à l'évolution), un pool de mémoire entraînable de taille fixe contenant des motifs de transformation réutilisables.
- Le modèle utilise un mécanisme d'attention pour sélectionner les $k$ meilleurs motifs du pool qui correspondent le mieux à l'ancre de la classe actuelle.
- Un réseau d'évolution ( $E$ ) applique une mise à jour résiduelle à l'ancre basée sur le contexte attendu pour prédire le prototype du Stade-1 : $\hat{p}^y_1 = p^y_0 + E(p^y_0, c^y)$ .
Objectifs de classification et d'entraînement :
- Classification agnostique au stade : Lors de l'inférence, les étiquettes de stade ne sont pas disponibles. Le modèle classifie une entrée en calculant les logits par rapport au prototype correspondant le mieux parmi tous les stades disponibles (soit l'ancre originale, soit le prototype évolué prédit).
- Fonctions de perte : L'objectif d'entraînement combine l'entropie croisée standard avec des termes spécifiques :
  - Perte d'évolution ( $L_{evo}$ ) : Minimise la distance entre les prototypes prédits et réels du Stade-1, alignant la direction du déplacement prédit avec la vérité terrain.
  - Répétition de motifs ( $L_{pattern}$ ) : Garantit que le prédicteur d'évolution reste cohérent sur les motifs précédemment appris dans le pool de mémoire, empêissant des changements arbitraires de l'opérateur de transformation.
  - Répétition de prototype ( $L_{proto}$ ) : Maintient l'alignement avec l'espace de l'ancre fixe pour préserver la discrimination inter-classes.

Benchmark : Stage-Bench
Les auteurs introduisent Stage-Bench, le premier benchmark multi-domaine adapté au Stage-CIL.

Portée : Il couvre 10 domaines sémantiques divers (Animaux, Plantes, Artefacts) avec 20 classes par domaine, totalisant 400 stades morphologiques.
Protocole : Il utilise un régime à deux étapes (Stade-0 : forme initiale ; Stade-1 : forme évoluée) avec un protocole d'apprentissage progressif contrôlé.
Métriques : En plus de la précision moyenne standard, le benchmark introduit deux métriques diagnostiques :
- Oubli inter-classe (Inter-F) : Mesure la chute de précision pour les classes précédemment apprises.
- Oubli intra-classe (Intra-F) : Mesure spécifiquement la chute de performance sur le stade morphologique le plus précoce d'une classe après que le modèle a été mis à jour avec des données de stade ultérieur. Cela isole la dégradation de la cohérence d'identité à travers les stades.

Résultats clés
Des expériences approfondies sur Stage-Bench démontrent que :

Limites des méthodes existantes : Les méthodes de CIL et d'apprentissage incrémental de domaine (DIL) les plus performantes (ex: iCaRL, L2P, DualPrompt, MOS, SimpleCIL) sont nettement moins performantes sous Stage-CIL. Elles présentent des scores Intra-F élevés, indiquant qu'elles échouent à préserver la cohérence d'identité à travers les formes évolutives.
Performance de STAGE : STAGE surpasse systématiquement ses concurrents. Sur le benchmark principal à deux étapes, il atteint une précision moyenne de 75,11 % et une précision finale de 56,44 %, dépassant largement la méthode suivante, MOS, qui a atteint une précision moyenne de 59,74 %.
Réduction de l'oubli : STAGE réduit drastiquement l'oubli, atteignant un Intra-F de 7,48 % contre 24,44 % – 58,61 % pour les autres méthodes.
Généralisation : Testé sur un cadre restructuré à trois étapes (domaine Objet), STAGE maintient une avance claire avec un Intra-F de seulement 0,31 %, suggérant que l'approche est extensible à des régimes évolutifs plus complexes.

Signification et affirmations
Le papier revendique trois contributions principales :

Formalisation du Stage-CIL : Il établit un nouveau cadre d'apprentissage continu qui traite explicitement le défi de la préservation de l'identité sémantique à travers l'évolution morphologique intra-classe, se distinguant du CIL et du DIL standard.
Benchmarking : Il fournit Stage-Bench et les métriques diagnostiques associées (Inter-F et Intra-F) pour évaluer rigoureusement et isoler l'oubli intra-classe, ce que les benchmarks précédents ne parvenaient pas à capturer.
Preuve de concept : À travers STAGE, les auteurs démontrent que la modélisation explicite de la transformation de stade est une direction viable et prometteuse pour résoudre l'oubli intra-classe. En séparant les ancres d'identité stables des motifs de transformation dynamiques, le cadre permet de prédire les formes morphologiques ultérieures à partir de représentations antérieures, atténuant efficacement le problème de l'« oubli intra-classe ».

Les auteurs concluent que les réductions CIL conventionnelles (ignorant la structure des stades) sont insuffisantes pour les classes évolutives et que les futurs systèmes d'apprentissage continu devront prendre en compte l'évolution temporelle et spécifique aux stades au sein des catégories sémantiques.

Articles similaires