Generative versus Discriminative Approaches for Class-Incremental Learning of EMG Signals: Effectiveness of Scale Mixture Modeling

Technische Samenvatting: Generatieve versus Discriminatieve Benaderingen voor Class-Incremental Learning van EMG-signalen

Probleemstelling
Systemen voor bewegingsherkenning op basis van elektromyogram (EMG) kampen met een kritieke beperking bij praktische implementatie: het is onpraktisch om alle mogelijke bewegingsklassen die een gebruiker nodig heeft vooraf te definiëren. Daarom moeten systemen class-incremental learning ondersteunen, waarbij nieuwe bewegingsklassen sequentieel worden toegevoegd tijdens de operatie, terwijl het vermogen behouden blijft om eerder geleerde klassen te herkennen. Dit paradigma introduceert twee primaire uitdagingen:

1. Catastrofale Vergetelheid (Catastrophic Forgetting): Het fenomeen waarbij het leren van nieuwe klassegegevens de eerder verworven kennis overschrijft, wat leidt tot significante nauwkeurigheidsafname op oude klassen.
2. Geheugenkosten: Maatregelen tegen vergetelheid, zoals data replay, vereisen vaak het opslaan van eerdere trainingsdata, wat het geheugengebruik verhoogt. Dit is bijzonder problematisch voor edge-apparaten met beperkte computationele en opslagbronnen.

Hoewel deep learning-gebaseerde discriminatieve modellen breed worden gebruikt voor feature-extractie, passen zij doorgaans een gedeelde feature-ruimte bij wanneer nieuwe klassen worden geleerd, wat de representaties van eerder geleerde klassen verstoft. Daarentegen schatten generatieve modellen de klasse-conditionele distributies in met klasse-onafhankelijke parameters, wat theoretisch een structureel voordeel biedt voor incrementeel leren, hoewel hun effectiviteit in het EMG-domein nog onvoldoende onderzocht is.

Methodologie
De auteurs voerden een systematische vergelijkende evaluatie uit van acht class-incremental learning methoden over vier diverse EMG-datasets (variërend van 6 tot 16 bewegingsklassen). De methoden beslaan zowel generatieve als discriminatieve benaderingen, inclusief zowel deep learning als non-deep learning technieken:

• Generatieve Modellen:
  • Scale Mixture Classification Model (SMCM): Het door de auteurs voorgestelde model, dat de variabiliteit van EMG-signalen vastlegt met scale mixture-distributies (die zwaardere staarten hebben dan Gaussische distributies) en elke klasse modelleert met volledig onafhankelijke parameters. Kennis wordt gecomprimeerd in de posterior distributies van parameters, waardoor het opslaan van eerdere data overbodig wordt.
  • Streaming Linear Discriminant Analysis (SLDA): Een probabilistisch model dat gebruikmaakt van Gaussische distributies met een gedeelde covariantie-matrix over alle klassen.
• Discriminatieve Modellen:
  • Incremental Support Vector Machine (ISVM): Een non-deep learning methode die support vectors behoudt om vergetelheid te onderdrukken.
  • Deep Learning Methoden: Representatieve benaderingen uit drie categorieën:
    • Regularisatie: Learning without Forgetting (LwF).
    • Architecturaal: Copy Weights with Re-init+ (CWR+).
    • Replay: Experience Replay (ER), Average Gradient Episodic Memory (AGEM), en Deep Generative Replay (DGR).
• Baselines: JOINT (training op alle data, bovengrens) en NONE (fine-tuning op alleen nieuwe data, ondergrens).

Evaluatieprotocol
De studie maakte gebruik van leave-one-trial-out cross-validatie op vier datasets. Taken werden gedefinieerd door elke taak twee klassen toe te voegen. Prestaties werden gemeten via:

1. Classificatienauwkeurigheid: Gemiddelde nauwkeurigheid over alle geleerde klassen na elke taak.
2. Backward Transfer (BWT): Een metriek die catastrofale vergetelheid kwantificeert (negatieve waarden duiden op vergetelheid).
3. Geheugenkosten: Totale opslagruimte vereist (modelparameters + eventuele behouden databuffers) in bytes.

Belangrijkste Resultaten

• Generatief versus Discriminatief: Generatieve modellen (SMCM en SLDA) vertoonden superieure stabiliteit. Naarmate het aantal taken toenam, leden deep learning-gebaseerde methoden (LwF, CWR+, DGR, AGEM) aan significante degradatie van de nauwkeurigheid en ernstige negatieve BWT-waarden, vergelijkbaar met de "NONE" baseline.
• SMCM Prestaties: SMCM bereikte de meest gunstige trade-off. Het behield een stabiele hoge nauwkeurigheid over alle datasets (bijv. 94,84% op Dataset I, 68,51% op Dataset IV) met minimale geheugenkosten. Het presteerde beter dan SLDA, met name in datasets met een hoger aantal klassen (Dataset IV), waar de gedeelde covariantie-matrix van SLDA leidde tot grotere nauwkeurigheidsdalingen.
• Geheugenefficiëntie: Methoden die kennis comprimeren in parameters (SMCM, SLDA) vereisten aanzienlijk minder geheugen dan replay-gebaseerde methoden (ER) of methoden die support vectors behouden (ISVM). Hoewel ER een nauwkeurigheid bereikte die vergelijkbaar is met SMCM, bracht het aanzienlijk hogere geheugenkosten met zich mee door de retentie van data.
• Onderdrukking van Vergetelheid: SMCM en SLDA vertoonden BWT-waarden die dicht bij nul lagen (bijv. -0,033 tot -0,082), wat wijst op een stabiele retentie van eerdere kennis. In contrast hiermee vertoonden deep learning methoden zonder data replay BWT-waarden zo laag als -0,937.

Betekenis en Claims
Het artikel stelt dat voor EMG-gebaseerd class-incremental learning, met name onder geheugenbeperkte edge-device condities, generatieve modellen met klasse-onafhankelijke parameters systematische voordelen bieden ten opzichte van discriminatieve benaderingen.

Specifiek benadrukt de studie:

1. Structureel Voordeel: De onafhankelijkheid van klasseparameters in generatieve modellen voorkomt de verstoring van bestaande klasse-representaties wanneer nieuwe klassen worden toegevoegd, wat vergetelheid effectief onderdrukt zonder de noodzaak van data replay.
2. Superioriteit van Scale Mixture Modeling: De voorgestelde SMCM presteert beter dan standaard Gaussische scale mixture-modellen (SLDA) door de variabiliteit van EMG-signalen vast te leggen via scale mixture-distributies. Dit biedt zwaardere staart-representaties die de signaalvariabiliteit en inter-klasse discriminatie beter afhandelen, vooral naarmate het aantal klassen groeit.
3. Praktisch Ontwerpinsicht: Voor edge-implementatie suggereert de studie dat het ontwerpen van generatieve modellen die zijn afgestemd op signaalkenmerken effectiever is dan het toepassen van generieke deep learning-tegenmaatregelen voor vergetelheid. SMCM wordt geïdentificeerd als de optimale oplossing, die de beste balans bereikt tussen hoge classificatienauwkeurigheid, effectieve onderdrukking van vergetelheid en een laag geheugenvoetafdruk.

De auteurs merken beperkingen op, waaronder het offline karakter van de evaluatie (het uitsluiten van inferentietijd en stroomverbruik analyse) en het gebruik van vaste taakgroottes en klassenvolgordes, wat suggereert dat toekomstig werk de online evaluatie op daadwerkelijke edge-apparaten moet adresseren.