VeloxNet: Efficient Spatial Gating for Lightweight Embedded Image Classification

Titel: VeloxNet: Efficiënte Ruimtelijke Gating voor Lichtgewicht Inbedding van Beeldclassificatie

1. Probleemstelling

Het implementeren van diepe leermodellen op ingebouwde apparaten (embedded devices) voor toepassingen zoals drone-monitoring van rampen en inspectie van infrastructuur, stuit op strikte beperkingen op het gebied van modelgrootte, geheugen en inferentielatentie.

• De Trade-off: Bestaande lichtgewicht CNN-architecturen (zoals SqueezeNet) proberen de modelgrootte te verkleinen door lokale convolutiekernelen te gebruiken (bijv. "fire modules"). Dit leidt echter vaak tot een afname in nauwkeurigheid of beperkt het model tot het modelleren van lokale ruimtelijke afhankelijkheden (receptieve velden van 3x3).
• Het Gaps: Bestaande methoden zoals Gated MLPs (gMLP) hebben succes getoond op grote schaal, maar zijn niet geoptimaliseerd voor parameter-beperkte ingebouwde scenario's of specifieke domeinen zoals luchtfoto's. Er is een behoefte aan een architectuur die de nauwkeurigheid verbetert terwijl het aantal parameters en de modelgrootte worden verlaagd, zonder afhankelijk te zijn van de lokale beperkingen van convoluties.

2. Methodologie: VeloxNet Architectuur

VeloxNet is een lichtgewicht CNN-architectuur die de "fire modules" van SqueezeNet vervangt door Gated Multi-Layer Perceptron (gMLP) blokken, specifiek ontworpen voor ingebouwde systemen.

• Kerninnovatie: Spatial Gating Unit (SGU):

  • In plaats van convoluties die alleen lokale buurpunten zien, gebruikt de SGU een geleerde ruimtelijke projectie om globale ruimtelijke afhankelijkheden over het volledige feature-map te modelleren binnen één laag.
  • De SGU werkt door de feature-map te splitsen in twee kanalen ($Z_1$ en $Z_2$). Een deel ($Z_2$) wordt verwerkt via een ruimtelijke projectie (een lineaire laag over de ruimtelijke tokens), waarna dit wordt vermenigvuldigd met het andere deel ($Z_1$) via een Hadamard-product.
  • Dit stelt het netwerk in staat om context van het hele beeld te gebruiken zonder de kwadratische rekenkosten van self-attention (zoals in Transformers).

• Architecturale Aanpassingen voor Ingebedde Systemen:

  • Vaste Kanalen: In tegenstelling tot SqueezeNet dat variabele kanaaluitbreidingen gebruikt, hanteert VeloxNet een vaste kanaalbreedte van 156 kanalen door alle blokken heen. Dit voorkomt informatie- bottlenecks die ontstaan door de "squeeze"-laag in fire modules.
  • Vervanging van Fire Modules: De 8 fire modules van SqueezeNet zijn vervangen door 8 identieke gMLP-blokken, terwijl de overkoepelende topologie (pooling-lagen, classifier) behouden blijft.
  • Efficiëntie: De ruimtelijke projectie is geoptimaliseerd voor lage rekenkosten en vereenvoudigde normalisatie (één keer per blok in plaats van meerdere keren).

3. Belangrijkste Bijdragen

1. Architecturale Integratie: Een strategie om fire modules te vervangen door gMLP-blokken binnen de SqueezeNet-topologie, wat resulteert in een beter evenwicht tussen nauwkeurigheid en parameters.
2. Ontwerpkeuzes voor Efficiëntie: Het gebruik van vaste kanaaldimensies (156), compacte ruimtelijke projecties en vereenvoudigde normalisatie, specifiek afgestemd op hardware-beperkingen.
3. Domeinspecifieke Evaluatie: De eerste evaluatie van gMLP-blokken op drie specifieke datasets voor luchtfoto's en rampenmonitoring:
   • AIDER: Aerial Image Database for Emergency Response.
   • CDD: Comprehensive Disaster Dataset.
   • LDD: Levee Defect Dataset.
4. Gedetailleerde Vergelijking: Een diepgaande analyse die aantoont dat gMLP-blokken superieur zijn aan fire modules in termen van parameter-efficiëntie en ruimtelijke modellering.

4. Resultaten

VeloxNet is getest tegen 11 baselines, waaronder MobileNet-varianten, ShuffleNet, EfficientNet en Vision Transformers.

• Nauwkeurigheid (F1-score):

  • AIDER: 81,57% (een stijging van +6,32% ten opzichte van SqueezeNet).
  • CDD: 77,46% (een enorme stijging van +30,83%; SqueezeNet scoorde hier slechts 46,63%).
  • LDD: 91,85% (een stijging van +2,51%).
  • VeloxNet overtrof alle baselines op alle drie de datasets.

• Parameter-efficiëntie:

  • Het model heeft 399.366 parameters, wat 46,1% minder is dan SqueezeNet (740.970 parameters).
  • Het is aanzienlijk kleiner dan MobileNet-varianten (bijv. 87,6% minder dan MobileNetV1).

• Modelgrootte en Snelheid:

  • Modelgrootte: 1,52 MB (de kleinste van alle geteste modellen).
  • Inferentiesnelheid: Competitief met SqueezeNet (rond de 347-358 FPS), hoewel de FLOPs iets hoger zijn dan bij de allerlichtste modellen zoals ShuffleNet.

• Ablatiestudie:

  • De studie toonde aan dat het verwijderen van de SGU of residuele verbindingen leidt tot een significante daling in prestaties, wat bevestigt dat de ruimtelijke gating en stabiliteit van de training cruciaal zijn.

5. Betekenis en Conclusie

VeloxNet demonstreert dat het vervangen van lokale convolutiemodules door ruimtelijke gating-blokken (gMLP) een effectieve route is om de "Pareto-grens" van lichtgewicht CNN's te verleggen. Het model bereikt hogere nauwkeurigheid met minder parameters door globale ruimtelijke context te benutten in plaats van te vertrouwen op lokale receptieve velden.

Dit is vooral waardevol voor ingebouwde visie-toepassingen (zoals drones voor rampenbestrijding), waar:

1. De beperkte rekenkracht een groot probleem is.
2. Het onderscheid tussen klassen vaak afhangt van globale ruimtelijke patronen (bijv. overstromingsgebieden of ingestorte gebouwen) in plaats van alleen lokale texturen.
3. Een klein modelgrootte essentieel is voor opslag en overdracht.

De auteurs concluderen dat VeloxNet een nieuwe standaard biedt voor efficiënte beeldclassificatie op bronnenbeperkte hardware en dat toekomstig werk zich zal richten op het uitbreiden naar objectdetectie en segmentatie.