🤖 machine learning

When Classes Evolve: A Benchmark and Framework for Stage-Aware Class-Incremental Learning

Dit artikel introduceert Stage-Aware Class-Incremental Learning (Stage-CIL) om de uitdaging aan te pakken van het leren van klassen die in de loop van de tijd een morfologische evolutie ondergaan, waarbij de Stage-Bench benchmark en het STAGE-framework worden voorgesteld om zowel inter-klasse vergeten als intra-klasse stage-niveau degradatie effectief te mitigeren.

Oorspronkelijke auteurs: Zheng Zhang, Tao Hu, Xueheng Li, Yang Wang, Rui Li, Jie Zhang, Chengjun Xie

Gepubliceerd 2026-08-05

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Zheng Zhang, Tao Hu, Xueheng Li, Yang Wang, Rui Li, Jie Zhang, Chengjun Xie

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot leert om dieren te herkennen. In de wereld van kunstmatige intelligentie is er een beroemde uitdaging genaamd "Class-Incremental Learning". Denk hierbij aan een student die een lange reeks examens aflegt. Eerst leert hij honden te identificeren. Daarna leert hij katten. Daarna vogels. Het lastige deel is dat de robot een zeer beperkt geheugen heeft. Elke keer als hij een nieuw dier leert, heeft hij de neiging om de oude te "vergeten", een foutje dat bekend staat als "catastrophic forgetting". Meestal gaan wetenschappers ervan uit dat zodra de robot heeft geleerd hoe een "hond" eruitziet, een hond voor altijd een hond blijft. Ze gaan ervan uit dat het dier niet van vorm of uiterlijk verandert in de loop van de tijd.

Maar in de echte wereld zijn dingen niet zo statisch. Een rups blijft niet een rups; het verandert in een vlinder. Een babyauto ziet er jaren later niet precies hetzelfde uit als een roestige, deukige oude auto. Als een robot geleerd heeft dat een "rups" en een "vlinder" twee totaal verschillende dingen zijn, mist hij de essentie dat het hetzelfde wezen is op verschillende leeftijden. Als hij geleerd heeft dat ze hetzelfde ding zijn, maar niet weet hoe hij met de drastische verandering in uiterlijk moet omgaan, raakt hij in de war. Dit artikel pakt een specifiek hoekje van dit probleem aan: wat gebeurt er wanneer de dingen die je probeert te herkennen daadwerkelijk evolueren terwijl je ze leert kennen?

De onderzoekers achter dit artikel, onder leiding van Zheng Zhang en Tao Hu, realiseerden zich dat standaard AI-trainingsmethoden falen bij deze specifieke taak. Ze stellen dat huidige methoden een veranderend object behandelen alsof het een statisch object is, wat ervoor zorgt dat de AI de ware identiteit van het object uit het oog verliest terwijl het transformeert. Om dit op te lossen, creëerden ze een nieuw "spel" voor AI genaamd Stage-Aware Class-Incremental Learning (Stage-CIL). In plaats van alleen te vragen: "Is dit een hond?", vraagt het nieuwe spel: "Is dit een hond, en is het een puppy of een volwassen hond?", terwijl het er ook voor zorgt dat de AI de puppy's die hij weken geleden zag, niet vergeet.

Om te bewijzen dat dit een echt probleem is, bouwde het team een enorme testsuite genaamd Stage-Bench. Stel je een gigantisch fotoalbum voor met 10 verschillende hoofdstukken (zoals Dieren, Planten en Objecten). Binnen elk hoofdstuk zijn er 20 verschillende items, en voor elk item zijn er twee foto's: één van het in zijn "vroege stadium" (zoals een zaailing of een larve) en één van het in een "later stadium" (zo zoals een boom of een vlinder). In totaal creëerden ze een dataset met bijna 19.000 afbeeldingen. Ze gebruikten dit om te testen hoe goed verschillende AI-modellen nieuwe items konden leren zonder de oude te vergeten, en cruciaal, zonder te vergeten dat de "vroege versie" en de "late versie" eigenlijk hetzelfde ding zijn.

Toen ze de tests uitvoerden, waren de resultaten oogopenend. Ze probeerden alle top-presterende AI-methoden die normaal gesproken als de "kampioenen" van het leren van nieuwe dingen worden beschouwd. Echter, wanneer zij geconfronteerd werden met deze evoluerende objecten, hadden zelfs de beste bestaande methoden moeite. Ze leden onder wat de auteurs "intra-class forgetting" noemen. Dit is een chique manier om te zeggen dat de AI leerde om een vlinder te herkennen, maar vervolgens volledig vergat hoe de rups eruitzag, ook al zijn het hetzelfde soort wezen. De standaard methoden probeerden de rups en de vlinder in één enkele, statische doos te dwingen, en de AI raakte in de war door het enorme verschil in hun uiterlijk.

Om dit op te lossen, introduceerden de auteurs een nieuwe methode genaamd STAGE. Denk aan STAGE als een slimme detective die een "mugshot" bijhoudt van het object in zijn vroege vorm (de identiteitsanker). Wanneer het object later verschijnt in een nieuwe, geëvolueerde vorm, raadt STAGE niet zomaar; het gebruikt een speciale "geheugenpool" van transformatiepatronen om te voorspellen hoe de nieuwe versie eruit zou moeten zien op basis van de oude. Het is als een mentale kaart die zegt: "Als ik een rups zie, weet ik precies hoe die eruit zal zien wanneer het een vlinder wordt."

De experimenten toonden aan dat STAGE aanzienlijk beter was dan de concurrentie. Op de hoofdmest werd een gemiddelde nauwkeurigheid van 75,11% behaald door STAGE, terwijl de op één na beste methode slechts 59,74% bereikte. Belangrijker nog, STAGE vergat nauwelijks de vroege stadia van de objecten, met een "intra-class forgetting" score van slechts 7,48%, terwijl andere methoden worstelden met scores tot wel 58,61%. Dit suggere wordt dat door de AI expliciet te leren dat objecten in de loop van de tijd kunnen veranderen, in plaats van te doen alsof ze hetzelfde blijven, we veel slimmere, meer aanpasbare systemen kunnen bouwen. Het artikel concludeert dat hoewel bestaande methoden goed zijn in het leren van nieuwe categorieën, ze een flinke upgrade nodig hebben om de rommelige, evoluerende realiteit van de wereld waarin wij leven aan te kunnen.

Technische Samenvatting: Wanneer klassen evolueren: Een benchmark en framework voor Stage-Aware Class-Incremental Learning

Probleemdefinitie: Stage-Aware Class-Incremental Learning (Stage-CIL)
Conventioneel Class-Incremental Learning (CIL) opereert onder de impliciete aanname dat semantische klassen morfologisch statisch zijn; de primaire uitdaging is het beperken van catastrofaal vergeten van eerder geleerde categorieën wanneer nieuwe worden geïntroduceerd. Echter, in veel real-world scenario's ondergaan instanties van dezelfde semantische klasse substantiële morfologische evolutie over de tijd (bijv. een larve die transformeert in een vlinder, of een voertuig dat schade oploopt).

Het artikel identificeert een fundamenteel dilemma bij het toepassen van standaard CIL op dergelijke scenario's:

Het groeperen van alle stadia onder één enkele label vlakt de evolutionaire structuur af, wat leidt tot ernstige intra-class feature interferentie.
Het splitsen van stadia in aparte pseudo-klassen verbreekt de onderliggende identiteitslink, waardoor semantische consistentie verloren gaat.

Dit leidt tot een nieuwe vorm van intra-class forgetting, waarbij een model er niet in slaagt om herkenningsconsistentie te behouden over verschillende morfologische stadia van dezelfde semantische klasse, zelfs als het erin slaagt om tussen verschillende klassen te differentiëren. Standaard domain-shift protocollen evalueren deze klasse-geconditioneerde identiteitsbehoud niet expliciet binnen een uitbreidende labelruimte.

Methodologie: Het STAGE Framework
Om Stage-CIL aan te pakken, stellen de auteurs STAGE voor, een evolutie-bewust referentiekader dat ontworpen is om stabiele semantische identiteit te ontkoppelen van stadium-specifieke dynamiek. Het framework werkt volgens een "predict-then-classify" pijplijn:

Identity Anchor Construction (Fase 0):
- Het model bevriest de backbone (met behulp van een Pre-trained Model, specifiek CLIP ViT-B/16) en leert taakspecifieke image en text projectiekoppen.
- Voor elke nieuwe klasse construeert het een stabiele identity prototype ( $p^y_0$ ) gebaseerd op het initiële morfologische stadium (Stage-0). Dit prototype wordt opgeslagen als een vaste vector en dient als de semantische anker.
Predictive Evolution via Memory Pool (Fase 1):
- In plaats van de anker te vervangen door mixed-stage features, voorspelt STAGE het geëvolueerde klasse prototype ( $\hat{p}^y_1$ ) voor het latere stadium (Stage-1) met behulp van de Stage-0 anker.
- Dit wordt bereikt via een Evolution-aware Memory Pool, een vaste grootte trainable memory die herbruikbare transformatiepatronen bevat.
- Het model gebruikt een attention mechanisme om de top- $k$ patronen uit de pool te selecteren die het beste overeenkomen met de huidige klasse anker.
- Een evolutie netwerk ( $E$ ) past een residual update toe op de anker op basis van de geattendeerde context om de Stage-1 prototype te voorspellen: $\hat{p}^y_1 = p^y_0 + E(p^y_0, c^y)$ .
Classificatie en Trainingsdoelstellingen:
- Stage-Agnostic Classification: Bij inferentie zijn stage labels niet beschikbaar. Het model classificeert een input door logits te berekenen tegen de best passende prototype over alle beschikbare stadia (of het nu de originele anker of de voorspelde geëvolueerde prototype is).
- Loss Functions: De trainingsdoelstelling combineert standaard cross-entropy met specifieke termen:
  - Evolution Loss ( $L_{evo}$ ): Minimaliseert de afstand tussen de voorspelde en werkelijke Stage-1 prototypes, waarbij de voorspelde verplaatsingsrichting wordt uitgelijnd met de ground truth.
  - Pattern Rehearsal ( $L_{pattern}$ ): Zorgt ervoor dat de evolutie voorspeller consistent blijft op eerder geleerde patronen in de memory pool, om willekeurige veranderingen aan de transformatie-operator te voorkomen.
  - Prototype Rehearsal ( $L_{proto}$ ): Handhaaft uitlijning met de vaste ankerruimte om inter-class discriminatie te bewaren.

Benchmark: Stage-Bench
De auteurs introduceren Stage-Bench, de eerste multi-domein benchmark die specifiek is afgestemd op Stage-CIL.

Scope: Het beslaat 10 diverse semantische domeinen (Dieren, Planten, Artefacten) met 20 klassen per domein, wat in totaal 400 morfologische stadia oplevert.
Protocol: Het maakt gebruik van een twee-stadium regime (Stage-0: initiële vorm; Stage-1: geëvolueerde vorm) met een gecontroleerd progressief leerprotocol.
Metrics: Naast standaard gemiddelde accuratesse introduceert de benchmark twee diagnostische metrieken:
- Inter-class Forgetting (Inter-F): Meet de daling in accuratesse voor eerder geleerde klassen.
- Intra-class Forgetting (Intra-F): Meet specifiek de prestatiedaling op het vroegste morfologische stadium van een klasse nadat het model is bijgewerkt met latere-stadium data. Dit isoleert de degradatie van identiteitsconsistentie over stadia.

Belangrijkste Resultaten
Uit uitgebreide experimenten op Stage-Bench blijkt dat:

Beperkingen van Bestaande Methoden: State-of-the-art CIL en Domain-Incremental Learning (DIL) methoden (bijv. iCaRL, L2P, DualPrompt, MOS, SimpleCIL) presteren aanzienlijk slechter onder Stage-CIL. Ze vertonen hoge Intra-F scores, wat aangeeft dat ze er niet in slagen om identiteitsconsistentie over evoluerende vormen te behouden.
STAGE Prestaties: STAGE presteert consequent beter dan alle concurrenten. Op de primaire twee-stadium benchmark behaalt het een gemiddelde accuratesse van 75,11% en een finale accuratesse van 56,44%, waarmee het de op één na beste methode, MOS, die een gemiddelde accuratesse van 59,74% behaalde, aanzienlijk overtreft.
Reductie van Vergeten: STAGE vermindert vergeten drastisch, met een Intra-F van 7,48% vergeleken met 24,44%–58,61% voor andere methoden.
Generalisatie: Wanneer getest op een gestructureerde drie-stadium setting (Object domein), behoudt STAGE een duidelijke voorsprong met een Intra-F van slechts 0,31%, wat suggereert dat de aanpak schaalbaar is naar complexere evolutionaire regimes.

Betekenis en Claims
Het artikel claimt drie primaire bijdragen:

Formalisering van Stage-CIL: Het stelt een nieuwe continual-learning setting vast die expliciet de uitdaging aanpakt van het behouden van semantische identiteit over intra-class morfologische evolutie, en onderscheidt dit van standaard CIL en DIL.
Benchmarking: Het biedt Stage-Bench en de bijbehorende diagnostische metrieken (Inter-F en Intra-F) om intra-class forgetting rigoureus te evalueren en te isoleren, iets wat eerdere benchmarks niet konden vangen.
Proof of Concept: Door middel van STAGE demonstreren de auteurs dat het expliciet modelleren van stage transformatie een levensvatbare en veelbelovende richting is voor het oplossen van het intra-class forgetting probleem. Door de stabiele identiteitsankers te scheiden van dynamische transformatiepatronen, stelt het framework het mogelijk om latere morfologische vormen te voorspellen vanuit eerdere representaties, wat het "intra-class forgetting" probleem effectief mitigeert.

De auteurs concluderen dat conventionele CIL-reducties (die de stage-structuur negeren) onvoldoende zijn voor evoluerende klassen en dat toekomstige continual learning systemen rekening moeten houden met temporele, stadium-specifieke evolutie binnen semantische categorieën.

Technische Samenvatting: Wanneer klassen evolueren: Een benchmark en framework voor Stage-Aware Class-Incremental Learning

Meer zoals dit