Technische Samenvatting: ACIL – Active Class Incremental Learning voor Beeldclassificatie

1. Probleemstelling

Het artikel behandelt de uitdaging van Class Incremental Learning (CIL) in computer vision, een scenario waarin diepe neurale netwerken (DNN's) sequentieel nieuwe klassen moeten leren van episodische data, terwijl ze de kennis van eerder geleerde klassen behouden. Een primaire hindernis in CIL is catastrofale vergetelheid (catastrophic forgetting), waarbij het optimaliseren van het netwerk voor nieuwe klassen de kennis van oude klassen uitwist.

Bestaand CIL-onderzoek richt zich primair op het verzachten van vergetelheid, waarbij vaak wordt aangenomen dat alle trainingsvoorbeelden in elke episode volledig geannoteerd zijn. De auteurs stellen dat deze aanname onrealistisch en inefficiënt is om twee redenen:

1. Hoge Annotatiekosten: Handmatige annotatie is duur in termen van tijd, arbeid en expertise.
2. Annotatieverspilling: In episodische settings is het grootste deel van de data uit een huidige episode niet toegankelijk in toekomstige episodes. Het annoteren van alle samples in een episode is daarom een verspilling van inspanning, aangezien slechts een subset van deze samples (exemplaren) nodig zal zijn om vergetelheid in opeenvolgende stappen te voorkomen.

Het artikel stelt een nieuwe setting voor waarbij in elke episode slechts een klein deel van de data wordt geannoteerd, terwijl de meerderheid ongelabeld blijft. Het doel is om een raamwerk te ontwikkelen dat een minimale set exemplarische samples selecteert om te worden geannoteerd en naar toekomstige episodes te worden gepropageerd, waardoor de annotatiekosten worden verlaagd terwijl catastrofale vergetelheid effectief wordt voorkomen.

2. Methodologie: Het ACIL-raamwerk

De auteurs stellen ACIL (Active Class Incremental Learning) voor, een raamwerk dat Active Learning (AL) strategieën integreert in de CIL-pipeline. De kern van het mechanisme bestaat uit het selecteren van een exemplarische set van een vaste grootte $k$ in elke episode om handmatig te worden geannoteerd en toe te voegen aan de data van de volgende episode.

2.1 Probleemopstelling

• Dataflow: Trainingsdata komt binnen in $N$ sequentiële episodes. Elke episode $n$ bevat een kleine gelabelde set ($X^L_n$), een grote ongelabelde set ($X^U_n$) en een exemplarische set ($E_{n-1}$) van de vorige episode.
• Restrictie: Het model wordt getraind op $X^L_n$ en $E_{n-1}$. Vanuit de huidige episode moet het systeem een nieuwe exemplarische set $E_n$ van grootte $k$ selecteren om te annoteren.
• Selectiebron: $E_n$ wordt geconstrueerd door samples te selecteren uit $X^U_n$ (ongelabelde huidige data), $E_{n-1}$ (vorige exemplaren) en potentieel $X^L_n$ (hoewel de auteurs opmerken dat $X^U_n$ prioriteit krijgt vanwege de omvang).

2.2 Budget Splitsingsstrategie

Om een balans te vinden tussen het leren van nieuwe klassen en het behouden van oude kennis, splitst ACIL het annotatiebudget $k$ tussen de huidige ongelabelde set ($X^U_n$) en de vorige exemplarische set ($E_{n-1}$).

• De splitsing is evenredig aan het aantal klassen aanwezig in elke set ($|C_{episode}|$ versus $|C_{exemplar}|$).
• Formule:
  $$k_{unlabeled} = \left( \frac{|C_{episode}|}{|C_{episode}| + |C_{exemplar}|} \right) \cdot k$$
  $$k_{exemplar} = \left( \frac{|C_{exemplar}|}{|C_{episode}| + |C_{exemplar}|} \right) \cdot k$$
• Dit zorgt ervoor dat de exemplarische set $E_n$ een representatie behoudt van alle klassen die tot nu toe zijn gezien, wat vergetelheid verzacht.

2.3 Actieve Samplingstrategie

De selectie van specifieke samples binnen het toegewezen budget wordt gedreven door een criterium dat onzekerheid en diversiteit combineert.

• Onzekerheid: Gemeten met behulp van de Shannon-entropie van de voorspellingen van het model.
• Diversiteit: Bereikt door de kandidaatset op te delen in $B$ clusters (waarbij $B$ het budget is) zodanig dat de variantie binnen elk cluster wordt geminimaliseerd.
• Optimalisatie: De auteurs formuleren een gewogen setpartitioneringsprobleem om de gewogen variantie binnen de partities te minimaliseren, waarbij de weging de voorspellingsonzekerheid is.
  $$\text{argmin}_P \sum_{b=1}^{B} \sum_{x \in X_b} I(x) ||F(x) - c_b||^2$$
  Waarbij $I(x)$ de onzekerheid (entropie) is en $F(x)$ de feature-embedding.
• Algoritme: Een NP-hard probleem dat wordt benaderd met Weighted K-Means. De sample die het dichtst bij het gewogen zwaartepunt in elke partitie ligt, wordt geselecteerd voor annotatie.

2.4 Verliesfunctie

De DNN wordt getraind met een combinatie van:

1. Weighted Cross-Entropy Loss ($L_{WCE}$): Toegepast op de gelabelde data ($X^L_n \cup E_{n-1}$) om klassenimbalans te behandelen, met gewichten die omgekeerd evenredig zijn aan de klassefrequentie.
2. Knowledge Distillation Loss ($L_D$): Toegepast op de exemplarische set $E_{n-1}$ om kennis van het vorige model ($M_{n-1}$) over te dragen naar het huidige model ($M_n$), om vergetelheid te voorkomen.
   $$L = L_{WCE} + \lambda L_D$$

3. Belangrijkste Bijdragen

1. Nieuw Leersparadigma: Introductie van een CIL-setting waarbij geen volledige annotatie van episodische data wordt verondersteld, wat de hoge kosten en inefficiëntie van huidige CIL-benchmarks aanpakt.
2. ACIL-raamwerk: Een specifiek algoritme dat exemplaren selecteert op basis van een dubbel criterium van onzekerheid en diversiteit, gebruikmakend van een budget-splitsingsstrategie om dekking van zowel nieuwe als oude klassen te garanderen.
3. Efficiëntie versus Prestaties: Demonstratie dat ACIL prestaties kan leveren die vergelijkbaar zijn met state-of-the-art CIL-methoden (die volledige annotatie veronderstellen), terwijl het het aantal samples dat menselijke annotatie vereist drastisch vermindert.

4. Experimentele Resultaten

Het raamwerk werd geëvalueerd op zes visiedatasets: MNIST, SVHN, CIFAR-10, CIFAR-100, COIL en Tiny ImageNet.

• Nauwkeurigheid: ACIL presteerde significant beter dan Active Learning-baselines (Random, Coreset, BADGE), omdat die methoden er niet in slaagden kennis van vorige episodes te behouden door alleen uit de huidige ongelabelde set te samplen. ACIL bereikte een nauwkeurigheid die vergelijkbaar is met, en in sommige gevallen zelfs iets beter dan, full-annotation CIL-baselines (iCaRL, GDumb, Rainbow Memory).
• Annotatie-inspanning: ACIL resulteerde in de laagste annotatie-inspanning van alle methoden. Op CIFAR-10 vereiste ACIL bijvoorbeeld ongeveer 4,13 keer minder annotaties per episode vergeleken met CIL-baselines, terwijl een vergelijkbare nauwkeurigheid werd behouden.
• Retentie: ACIL demonstreerde een sterke retentie van kennis uit de eerste episode, vergelijkbaar met replay-gebaseerde CIM-methoden, wat de bekwaamheid bevestigt om catastrofale vergetelheid te verzachten.
• Robuustheid: Experimenten waarbij de grootte van de exemplarische set (budget) varieerde, lieten zien dat ACIL prestatietrends behoudt die consistent zijn met CIL-baselines over verschillende geheugenrestricties heen.

5. Betekenis en Claims

Het artikel claimt dat ACIL een praktische oplossing biedt voor real-world incrementele leerapplicaties waar:

• Geheugen beperkt is: De grootte van de exemplarische set is vast, wat beperkte opslag simuleert.
• Annotatie duur is: Het raamwerk vermindert de menselijke arbeid die nodig is om modellen over tijd te trainen drastisch.
• Data vluchtig is: Het vermogen om te leren van beperkte geannoteerde data in elke episode sluit aan bij privacy- en opslagbeperkingen waarbij data uit het verleden niet volledig bewaard kan worden.

De auteurs concluderen dat door intelligent een kleine subset van informatieve samples te selecteren om te propageren, ACIL succesvol de balans vindt tussen annotatiekosten en modelprestaties, waardoor continu leren haalbaarder wordt voor omgevingen met beperkte middelen. Er wordt opgemerkt dat toekomstig werk dit raamwerk potentieel kan uitbreiden naar regressietaken.