💻 computer science

Continual Visual Anomaly Detection on the Edge: Benchmark and Efficient Solutions

Dit artikel introduceert de eerste uitgebreide benchmark voor continue visuele anomaliedetectie op randapparatuur en stelt Tiny-Dinomaly voor, een lichtgewicht model dat aanzienlijk minder geheugen en rekenkracht vereist terwijl het de prestaties verbetert.

Oorspronkelijke auteurs: Manuel Barusco, Francesco Borsatti, David Petrovic, Davide Dalle Pezze, Gian Antonio Susto

Gepubliceerd 2026-04-09

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Manuel Barusco, Francesco Borsatti, David Petrovic, Davide Dalle Pezze, Gian Antonio Susto

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een super slimme, maar erg kleine robot hebt die in een fabriek werkt. Deze robot moet elke dag controleren of producten (zoals flessen, kabels of snoepjes) perfect zijn. Zijn taak is om afwijkingen te vinden: een krasje op een fles, een gebroken draadje, of een vlek op een snoepje. Dit heet in vakjargon Visual Anomaly Detection.

Het probleem is dat deze robot niet in een grote, krachtige serverkamer staat, maar op de rand (de "edge") van de fabriek. Dat betekent dat hij weinig geheugen heeft, weinig batterijkracht en niet kan wachten op een verbinding met de cloud. Hij moet alles zelf doen, direct en snel.

Daarnaast verandert de fabriek voortdurend. Vandaag maakt hij flessen, morgen maakt hij ook capsules, en overmorgen transistors. De robot moet leren terwijl hij werkt, zonder de kennis van de flessen te vergeten. Dit heet Continual Learning.

Deze paper is als een uitgebreide test die uitvraagt: "Hoe maken we deze slimme robot klein, snel en slim genoeg om dit in de echte wereld te doen?"

Hier is de uitleg, vertaald naar alledaagse taal met een paar creatieve vergelijkingen:

1. Het Grote Dilemma: De "Grote Boek" vs. De "Pasje"

Stel je voor dat de robot een enorme bibliotheek heeft (een groot computermodel) waarin hij alle mogelijke perfecte producten kent.

Het probleem: Als je die bibliotheek meeneemt naar de fabriek, past hij niet in de rugzak van de robot. Hij is te zwaar en te traag.
De oplossing: De auteurs hebben gekeken naar verschillende "ruggen" (backbones) voor de robot. Ze hebben gekeken of je de zware, dure auto kunt vervangen door een slimme, lichte elektrische fiets.
- Resultaat: Ja! Je kunt de zware bibliotheek vervangen door een heel klein, efficiënt model (zoals MobileNet of MCUNet). Je verliest een klein beetje precisie, maar je wint enorm aan snelheid en ruimte. Het is alsof je van een vrachtwagen naar een fiets overstapt: je komt net zo snel op je bestemming, maar je verbruikt veel minder brandstof.

2. Het Vergeten Probleem: De "Gouden Ketting"

Stel je voor dat de robot vandaag leert hoe een perfecte fles eruitziet. Morgen moet hij leren hoe een perfecte kabel eruitziet.

Het oude probleem: Als hij de kabel leert, "schrijft hij over" wat hij over de fles wist. Hij vergeet de fles. Dit noemen ze catastrophic forgetting (catastrofaal vergeten).
De oplossing: De robot moet een herinneringsboekje (replay buffer) bijhouden. Hij slaat een paar voorbeelden van de fles op in zijn hoofd, zodat hij die kan bekijken terwijl hij de kabel leert.
De verrassing: De auteurs ontdekten dat je dit boekje heel klein kunt houden! Je hoeft niet duizenden foto's op te slaan. Zelfs met slechts 40 foto's (ongeveer 5 MB geheugen) werkt het al bijna perfect. Het is alsof je niet je hele dagboek hoeft mee te nemen, maar alleen een paar cruciale post-it notes.

3. De Nieuwe Sterren: De "Slimme Miniatuur" en de "Snelle Sorteerder"

De auteurs hebben niet alleen gekeken naar bestaande robots, maar hebben er ook twee nieuwe, verbeterde versies van gemaakt:

A. Tiny-Dinomaly: De "Mini-Me" van een Geniaal

De originele Dinomaly is een geniale robot die heel goed kan zien waar de fout zit, maar hij is gigantisch groot (zoals een olifant in een speelgoedautootje).

De innovatie: Ze hebben een versie gemaakt genaamd Tiny-Dinomaly. Ze hebben de zware "hersenen" vervangen door een klein, maar slim model (DeiT-Tiny).
Het resultaat: Deze mini-versie is 13 keer lichter en 20 keer sneller dan het grote model. En het gekke is: hij is zelfs beter geworden in het vinden van kleine krasjes!
De analogie: Het is alsof je een zware, dure telescoop vervangt door een slimme smartphone-camera. De smartphone is lichter en past in je broekzak, maar dankzij slimme software ziet hij de sterren net zo goed, of zelfs beter, omdat hij minder "ruis" heeft.

B. PatchCoreCL++: De "Slimme Sorteerder"

De robot PatchCore werkt door een enorme lijst met voorbeelden van perfecte producten te vergelijken met het nieuwe product.

Het probleem: Als de robot 100 soorten producten heeft geleerd, moet hij bij elke nieuwe controle 100 lijsten doorzoeken. Dat duurt te lang.
De innovatie: Ze hebben een truc bedacht (PatchCoreCL++). In plaats van alle lijsten te doorzoeken, kijkt de robot eerst heel snel naar een "hoofdplaatje" (een prototype) van elke categorie. Hij weet dan direct: "Ah, dit is een fles!" en zoekt alleen in de fles-lijst.
Het resultaat: De robot is nu 12 keer sneller in het vinden van de juiste lijst. Het is alsof je in plaats van alle boeken in een bibliotheek te doorzoeken, eerst naar de rugleuning kijkt om het juiste vakje te vinden.

4. De "Gerepareerde" Robot: PaDiM

Er was al een robot genaamd PaDiM, maar hij had een foutje in zijn rekenmethode. Hij telde alle voorbeelden even zwaar mee, ook als sommige categorieën maar 10 voorbeelden hadden en andere 1000. Dat gaf een scheef beeld.

De oplossing: De auteurs hebben de rekenformule "gerepareerd" zodat hij rekening houdt met het aantal voorbeelden. Hierdoor wordt de robot veel accurater. Ze hebben ook een "Lite"-versie gemaakt die minder geheugen gebruikt, maar nog steeds slim genoeg is voor de fabriek.

Conclusie: Wat betekent dit voor ons?

Deze paper zegt eigenlijk: "Het is mogelijk om slimme, zelflerende robots op kleine apparaten te zetten."

Je hoeft niet te wachten tot je een supercomputer in je telefoon of op je productielijn hebt. Door slimme keuzes te maken (kleine modellen, slimme herinneringen, en snelle zoekstrategieën), kun je systemen bouwen die:

Snel zijn: Ze werken in real-time.
Slim zijn: Ze vergeten niet wat ze eerder hebben geleerd.
Efficiënt zijn: Ze werken op batterij en kleine chips.

Het is alsof je een Ferrari-motor in een fiets hebt gemonteerd: hij is licht, snel en doet precies wat je nodig hebt, zonder dat je een tankstation nodig hebt. Dit maakt het mogelijk om defecten in producten direct op de productielijn te detecteren, zonder dat de data de fabriek verlaat (privacy) en zonder dure servers.

Probleemstelling

Visuele Anomalie Detectie (VAD) is een kritieke taak voor industriële inspectie en gezondheidszorg, waarbij het doel is om afwijkende afbeeldingen te identificeren en de defecte pixels te lokaliseren. Hoewel VAD veel onderzoek heeft getrokken, worden twee fundamentele uitdagingen zelden gelijktijdig aangepakt:

Edge-deployatie: Het uitvoeren van modellen op apparaten met beperkte rekenkracht en geheugen (zoals industriële sensoren), wat strenge eisen stelt aan het geheugengebruik en de inferentiekosten.
Continu Leren (Continual Learning - CL): Modellen moeten zich aanpassen aan nieuwe objectcategorieën en veranderende data-distributies zonder "catastrophic forgetting" (het vergeten van eerder geleerde kennis).

Bestaande methoden zijn vaak geoptimaliseerd voor servers met onbeperkte middelen of voor statische data-distributies. Wanneer deze methoden worden toegepast op edge-apparaten in een continu lerende setting, falen ze vaak vanwege het hoge geheugengebruik van replay-buffers, de kosten van model-updates, en het gebrek aan geschikte lichte backbones. Er ontbreekt een systematische benchmark om de trade-offs tussen prestaties, geheugen en rekentijd in deze gecombineerde setting te begrijpen.

Methodologie

De auteurs stellen een uitgebreide benchmark op en introduceren nieuwe, efficiënte oplossingen:

1. Benchmark Setup:

Datasets: MVTec AD en VisA, die een breed scala aan industriële inspectiescenario's dekken.
Modellen: Zeven VAD-modellen worden geëvalueerd, waaronder PatchCore, PaDiM, STFPM, CFA, SimpleNet, Dinomaly en hun lichtgewicht varianten.
Backbones: Drie lichtgewicht architecturen (MobileNetV2, MCUNet, PhiNet) worden vergeleken met een zware referentie (WideResNet50).
Continu Leren Strategie: De "Replay"-methode wordt gebruikt, waarbij een kleine buffer van eerdere samples (40 of 100 afbeeldingen) wordt bewaard om vergeten te voorkomen.

2. Geïntroduceerde Methodes:

Tiny-Dinomaly: Een lichtgewicht versie van het Dinomaly-model (gebaseerd op DINO/Transformer). In plaats van de zware ViT-L/14 backbone, gebruikt het DeiT-Tiny (ongeveer 5M parameters i.p.v. 307M). Dit reduceert het modelgrootte drastisch terwijl de reconstructie-architectuur behouden blijft. De auteurs stellen dat de beperkte capaciteit van de kleine encoder fungeert als een natuurlijke regularisatie, wat helpt bij het detecteren van anomalieën zonder dat de decoder alles perfect reconstrueert.
PatchCoreCL++: Een verbetering van de PatchCoreCL-methode voor continu leren.
- Training: Vervangt de dure k-center herschikking van geheugenbuffers bij elke nieuwe taak door een efficiënte "prefix-truncatie" (het verwijderen van de minst representatieve samples), wat de updatekosten verlaagt van $O(S^2)$ naar $O(1)$ .
- Inferentie: Introduceert prototype-based task identification. In plaats van een testafbeelding te vergelijken met alle geheugenbuffers van alle taken, wordt eerst de meest waarschijnlijke taak geïdentificeerd via een enkele prototype-vergelijking. Dit vermindert de inferentiekosten aanzienlijk.
PaDiM-CL Correcties & Lite Variants:
- De auteurs corrigeren een systematische bias in de originele PaDiM-CL implementatie (waarbij taken ongewogen werden gemiddeld ongeacht hun grootte). De nieuwe PaDiM-CL UniModal gebruikt een statistisch correcte gewogen update van mean en covariantie.
- PaDiM-CL-Lite MultiModal: Om het geheugenprobleem van de multimodale versie (die een volledige covariantiematrix per taak opslaat) op te lossen, wordt de volledige covariantiematrix vervangen door een diagonale benadering (alleen varianties). Dit reduceert het geheugengebruik van $O(T \cdot d^2)$ naar $O(T \cdot d)$ .

Belangrijkste Resultaten

De resultaten, getoetst op MVTec AD en VisA, tonen de volgende inzichten:

Efficiëntie vs. Prestaties: Het vervangen van zware backbones door lichtgewicht alternieven (zoals MobileNet of MCUNet) resulteert in een reductie van het geheugen en de rekentijd met meer dan 85%, met slechts een marginale daling in detectieprestaties.
Tiny-Dinomaly: Dit model presteert opmerkelijk goed. Het bereikt een Pixel F1-score van 0.45 (een verbetering van 5% ten opzichte van de grotere Dinomaly-versie) met slechts 3.39 GFLOPs en 50.87 MB geheugen. Dit is een 20x lagere rekentijd en 13x minder geheugen dan de originele ViT-gebaseerde versie.
PatchCoreCL++: Deze variant behoudt de hoge beeldkwaliteit (Image F1 ~0.96) maar verlaagt de inferentiekosten met een factor 12x (van 49.16 naar 4.15 GFLOPs) dankzij de prototype-based selectie.
PaDiM-CL-Lite MultiModal: Biedt de beste balans binnen de PaDiM-familie voor edge-apparaten. Het bereikt een Pixel F1 van 0.41 met slechts 46.67 MB geheugen, wat aanzienlijk beter is dan de UniModal versie (0.34) en veel efficiënter dan de volledige Multimodale versie (die onpraktisch veel geheugen vraagt).
Replay Buffer Grootte: Een buffer van slechts 40 samples (~5 MB) is vaak voldoende om het grootste deel van de continu-lerende voordelen te behalen. Grotere buffers (100+) leveren slechts marginale winsten op.
Backbone Keuze: MobileNet levert over het algemeen de beste localisatieprestaties (Pixel F1), terwijl MCUNet de beste balans biedt tussen snelheid en prestaties voor zeer beperkte omgevingen.

Bijdragen

Eerste Comprehensieve Benchmark: De eerste systematische evaluatie van VAD-modellen onder de gecombineerde beperkingen van edge-deployatie en continu leren.
Tiny-Dinomaly: Een nieuwe, uiterst efficiënte architectuur die de prestaties van foundation-modellen behoudt binnen strikte edge-beperkingen.
Geoptimaliseerde Bestaande Methodes: Effectieve aanpassingen van PatchCore en PaDiM (PatchCoreCL++ en PaDiM-CL-Lite) die de rekentijd en het geheugengebruik drastisch reduceren zonder in te leveren op de kwaliteit van de anomaliedetectie.
Correctie van Bestaande Literatuur: Het identificeren en corrigeren van een statistische bias in de PaDiM-CL implementatie.

Significantie

Dit werk is van groot belang voor de praktische toepassing van AI in de industrie. Het bewijst dat het mogelijk is om adaptieve, zelflerende visuele inspectiesystemen direct op goedkope, energiezuinige edge-apparaten te draaien. Door de trade-offs tussen geheugen, snelheid en nauwkeurigheid in kaart te brengen en specifieke oplossingen aan te reiken, maakt de auteurs het haalbaar om VAD-systemen te implementeren die kunnen meegroeien met veranderende productielijnen zonder dat er een centrale server of grote opslagcapaciteit nodig is. Dit bevordert privacy, verlaagt de latentie en maakt real-time adaptatie in dynamische omgevingen mogelijk.