💻 computer science

Efficient Visual Anomaly Detection at the Edge: Enabling Real-Time Industrial Inspection on Resource-Constrained Devices

Die Arbeit stellt zwei effiziente Varianten von Visual-Anomaly-Detection-Modellen (PatchCore-Lite und PaDiM-Lite) vor, die durch speicheroptimierte Suchverfahren und vereinfachte Kovarianzberechnungen eine Echtzeit-Inspektion auf ressourcenbeschränkten Edge-Geräten mit bis zu 79 % geringerem Speicherbedarf ermöglichen.

Ursprüngliche Autoren: Arianna Stropeni, Fabrizio Genilotti, Francesco Borsatti, Manuel Barusco, Davide Dalle Pezze, Gian Antonio Susto

Veröffentlicht 2026-03-24

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Arianna Stropeni, Fabrizio Genilotti, Francesco Borsatti, Manuel Barusco, Davide Dalle Pezze, Gian Antonio Susto

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Überblick: Wie man „Augen" für Fabriken auf kleine, schwache Computer baut

Stellen Sie sich eine riesige, moderne Fabrik vor, in der tausende Produkte pro Stunde produziert werden. Früher mussten diese Produkte von riesigen, teuren Supercomputern in der „Wolke" (dem Cloud-Server) geprüft werden. Das hatte zwei große Probleme:

Datenschutz: Sensitive Produktionsgeheimnisse mussten über das Internet geschickt werden.
Geschwindigkeit: Die Daten mussten erst hin und zurück reisen, was zu lange dauerte, wenn die Förderbänder schnell liefen.

Die Lösung? Den Computer direkt an die Maschine zu stellen – das nennt man „Edge". Aber hier kommt das Dilemma: Die Computer direkt an der Maschine sind klein, haben wenig Speicher und sind nicht sehr stark. Die besten KI-Modelle zur Fehlererkennung sind aber wie riesige Elefanten – sie passen nicht in den kleinen Rucksack eines solchen Edge-Geräts.

Diese Forscher haben nun zwei clevere Tricks entwickelt, um diese „Elefanten" in „Mäuse" zu verwandeln, ohne dass sie ihre Sehkraft verlieren.

1. Das Problem: Der zu große Rucksack

Stellen Sie sich vor, ein KI-Modell ist wie ein Bibliothekar, der Millionen von Bildern von perfekten Produkten im Gedächtnis hat. Wenn ein neues Produkt vorbeikommt, vergleicht der Bibliothekar es mit allen gespeicherten Bildern, um zu sehen, ob es einen Kratzer oder Fleck hat.

Das alte Problem: Um alle diese Bilder perfekt zu speichern und schnell zu vergleichen, brauchte der Bibliothekar einen riesigen, schweren Rucksack (viel Speicher) und viel Zeit zum Nachschlagen (Rechenleistung). Auf einem kleinen Edge-Gerät wäre das wie ein Elefant, der versucht, in einen Mini-Flugzeug-Flugzeug zu passen – es geht nicht.

2. Die Lösung A: „PaDiM-Lite" – Der vereinfachte Mathematiker

Das erste Modell, PaDiM, ist wie ein sehr genauer Mathematiker. Um zu entscheiden, ob etwas falsch ist, berechnet es nicht nur den Abstand, sondern berücksichtigt auch, wie verschiedene Merkmale (z. B. Farbe und Textur) miteinander zusammenhängen.

Die Analogie: Stellen Sie sich vor, Sie prüfen einen Apfel. Ein normaler Mathematiker würde sagen: „Wenn der Apfel rot ist, ist er wahrscheinlich auch rund. Wenn er grün ist, ist er vielleicht oval." Er berechnet also alle möglichen Zusammenhänge. Das ist sehr genau, aber extrem rechenintensiv.
Der Trick (Diagonal-Covarianz): Die Forscher sagten: „Lass uns das vereinfachen." Sie sagten dem Mathematiker: „Vergiss die komplizierten Zusammenhänge. Prüfe einfach nur: Ist der Apfel rot? Ist er rund? Mach es als einfache Liste."
Das Ergebnis: Der Mathematiker wird viel schneller und braucht viel weniger Platz im Rucksack (77% weniger Speicher!). Er ist zwar nicht mehr perfekt in der Theorie, aber für die Praxis auf dem Förderband immer noch extrem gut.

3. Die Lösung B: „PatchCore-Lite" – Der Bibliothekar mit dem Kompass

Das zweite Modell, PatchCore, funktioniert anders. Es hat einen riesigen Speicher (eine Bibliothek) mit Millionen von kleinen Bildausschnitten (Patches). Wenn ein neues Bild kommt, sucht es das ähnlichste Bild in dieser Bibliothek.

Das alte Problem: Um das ähnlichste Bild zu finden, muss man jedes einzelne der 10.000 Bilder im Speicher mit dem neuen vergleichen. Das ist wie das Durchsuchen einer riesigen Bibliothek, Buch für Buch, um ein bestimmtes zu finden. Das dauert ewig und braucht viel Platz.
Der Trick (Produkt-Quantisierung & Zwei-Stufen-Suche):
1. Der Kompass (Verdichtung): Die Forscher haben die Bücher in der Bibliothek nicht mehr als dicke Romane, sondern als kurze, komprimierte Stichpunkte gespeichert. Das nimmt viel weniger Platz weg (der Speicherbedarf sinkt um fast 80%).
2. Die Zwei-Stufen-Suche: Wenn ein neues Bild kommt, schaut der Bibliothekar erst schnell auf die komprimierten Stichpunkte. Er findet sofort die 500 Bücher, die vielleicht passen (die „grobe Suche").
3. Die Feinsuche: Erst diese 500 Bücher holt er sich aus dem Regal, liest sie genau durch und vergleicht sie. Er muss nicht mehr alle 10.000 Bücher öffnen!
Das Ergebnis: Der Bibliothekar braucht einen winzigen Rucksack und findet das richtige Buch trotzdem sehr schnell.

4. Was haben sie herausgefunden?

Die Forscher haben ihre neuen Modelle auf echten Industriedaten getestet (MVTec und VisA).

Platzsparend: Beide Modelle passen jetzt problemlos auf kleine, schwache Computer, die direkt an der Maschine stehen.
Schnell genug: Sie sind schnell genug, um mit den Förderbändern Schritt zu halten.
Privatsphäre: Da alles lokal passiert, müssen keine Daten ins Internet.
Leistung: Ja, sie sind nicht ganz so perfekt wie die riesigen Supercomputer-Modelle, aber der Unterschied ist so gering, dass er für die meisten Fabriken kaum ins Gewicht fällt. Dafür gewinnen sie enorm an Geschwindigkeit und sparen Kosten.

Fazit

Diese Arbeit zeigt, dass man keine riesigen Rechenzentren braucht, um Fabriken intelligent zu machen. Mit ein paar cleveren Tricks (wie das Weglassen unnötiger Komplexität und das Komprimieren von Daten) kann man die „Augen" der KI direkt an die Produktionslinie bringen. Das macht die Industrie schneller, sicherer und datenschutzfreundlicher.

Kurz gesagt: Sie haben die KI nicht nur „kleiner" gemacht, sondern sie auch „schlauer" im Umgang mit ihren begrenzten Ressourcen gemacht.

1. Problemstellung

Visuelle Anomalieerkennung (Visual Anomaly Detection, VAD) ist für die industrielle Qualitätskontrolle unverzichtbar, um Defekte in Fertigungsprozessen automatisch zu identifizieren. Herkömmliche VAD-Systeme laufen oft auf leistungsstarker Cloud-Hardware, was jedoch zwei Hauptnachteile hat:

Datenschutz und IP-Schutz: Das Übertragen sensibler Produktionsdaten in die Cloud birgt Risiken.
Latenz: Cloud-basierte Verarbeitung ist für hochgeschwindigkeitsfertigungsstraßen oft zu langsam für Echtzeit-Entscheidungen.

Die Lösung liegt im Edge-Computing (lokale Verarbeitung auf Geräten nahe der Produktionslinie). Allerdings stellen Edge-Geräte strenge Anforderungen an Speicher und Rechenleistung. State-of-the-Art-VAD-Modelle wie PatchCore und PaDiM sind zwar leistungsstark, aber für ressourcenbeschränkte Edge-Geräte ungeeignet:

PaDiM: Erfordert die Berechnung und Inversion großer Kovarianzmatrizen (hohe Rechenkomplexität $O(d^3)$ ).
PatchCore: Benötigt einen großen Speicher für die „Memory Bank" (Merkmalsvektoren normaler Proben), was den verfügbaren RAM auf Edge-Geräten schnell sprengt.

2. Methodik

Die Autoren schlagen zwei optimierte Varianten dieser Modelle vor, die speziell für Edge-Umgebungen entwickelt wurden, wobei als Backbone-Netzwerk der ressourcenschonende MobileNetV2 verwendet wird.

A. PaDiM-Lite (Diagonale Kovarianz)

Das originale PaDiM modelliert die Verteilung normaler Merkmalsvektoren mittels einer multivariaten Gauß-Verteilung mit einer vollen Kovarianzmatrix $\Sigma$ .

Optimierung: Die Autoren ersetzen die volle Kovarianzmatrix durch eine diagonale Approximation. Dabei wird angenommen, dass die Merkmale unabhängig voneinander sind, und es wird nur der Varianzvektor (die Diagonalelemente) gespeichert und berechnet.
Mathematische Konsequenz: Die Mahalanobis-Distanz wird zu einer effizienten elementweisen Operation.
- Komplexitätsreduktion: Die Trainingskomplexität sinkt von $O(d^2 \cdot N + d^3)$ auf $O(d \cdot N)$ . Die Inferenzkomplexität sinkt von $O(d^2)$ auf $O(d)$ .
- Speicher: Statt einer $d \times d$ Matrix wird nur ein Vektor der Länge $d$ gespeichert.

B. PatchCore-Lite (Produkt-Quantisierung und Zwei-Stufen-Suche)

Das originale PatchCore speichert Merkmalsvektoren normaler Proben in einer Memory Bank und berechnet die Anomalie als Abstand zum nächsten Nachbarn.

Optimierung:
1. Produkt-Quantisierung (PQ): Der Merkmalsraum wird in $m$ Teilräume zerlegt. Für jeden Teilraum wird ein Codebook (Cluster-Zentren) gelernt. Jeder Merkmalsvektor wird durch Indizes in diesen Codebooks komprimiert (statt 32-Bit-Floats werden nur wenige Bits pro Subvektor benötigt).
2. Zwei-Stufen-Suche:
  - Stufe 1 (Coarse Search): Eine schnelle, approximative Suche im komprimierten Raum (Nutzung von Look-up-Tables) identifiziert eine kleine Teilmenge ( $k$ ) der wahrscheinlichsten Nachbarn.
  - Stufe 2 (Fine Search): Nur diese $k$ Kandidaten werden dequantisiert (rekonstruiert), und die exakte euklidische Distanz wird berechnet.
Vorteil: Massive Reduktion des Speicherbedarfs und der Anzahl der notwendigen Distanzberechnungen.

3. Wichtige Beiträge

PaDiM-Lite: Eine neuartige Formulierung, die die Kovarianzschätzung durch eine diagonale Approximation ersetzt, was die Komplexität drastisch senkt, ohne die räumliche Lokalisierung von Anomalien signifikant zu beeinträchtigen.
PatchCore-Lite: Eine effiziente Implementierung der Memory Bank durch Produkt-Quantisierung und einen zweistufigen Suchalgorithmus, der Speicherplatz und Rechenzeit optimiert.
Benchmarking: Umfassende Evaluierung auf den Standard-Datensätzen MVTec AD und VisA.
Open Source: Beide Methoden wurden als Teil der MoViAD-Bibliothek veröffentlicht, um die Reproduzierbarkeit und weitere Forschung zu fördern.

4. Ergebnisse

Die Experimente wurden auf einem Intel Core i5-9600K (simulierte Edge-Umgebung) durchgeführt.

Speichereffizienz:
- PaDiM-Lite: Reduziert den zusätzlichen Speicherbedarf um 97 % (von 3,75 MB auf 0,13 MB) und den Gesamtspeicherbedarf um 77 % im Vergleich zu PaDiM-Edge.
- PatchCore-Lite: Erreicht eine 12-fache Reduktion der Memory Bank und eine 79 %ige Reduktion des Gesamtspeicherbedarfs im Vergleich zu PatchCore-Edge (ca. 1,49 MB vs. 7,05 MB).
Inferenzzeit:
- PaDiM-Lite: 31 % schnellere Inferenz (24 ms vs. 35 ms pro Bild).
- PatchCore-Lite: Die Inferenzzeit ist höher als bei PatchCore-Edge (130 ms vs. 30 ms), da die Dequantisierung in der zweiten Suchstufe Rechenaufwand verursacht. Dennoch bleibt der Spitzen-Speicherbedarf sehr niedrig.
Leistung (Performance):
- PaDiM-Lite: Erreicht auf MVTec AD eine Pixel-AUROC (P-ROC) von 0,94 (vs. 0,97 bei PaDiM-Edge) und eine Bild-AUROC (I-ROC) von 0,85. Die Genauigkeit bleibt für die industrielle Inspektion akzeptabel.
- PatchCore-Lite: Zeigt einen leichten Rückgang bei der Bild-Erkennung (I-ROC 0,86 vs. 0,95), bleibt aber bei der Pixel-Lokalisierung (P-ROC 0,94) sehr stark. Die Leistung ist sensitiv gegenüber der Anzahl der gewählten Nachbarn ( $k$ ).

5. Bedeutung und Fazit

Die Arbeit demonstriert erfolgreich, dass hochleistungsfähige visuelle Anomalieerkennung auf ressourcenbeschränkten Edge-Geräten realisierbar ist.

Praktische Relevanz: Die vorgestellten Methoden ermöglichen Echtzeit-Inspektionen direkt an der Fertigungslinie, was Datenschutz, IP-Sicherheit und Latenzzeiten verbessert.
Trade-off: Es wird ein optimaler Kompromiss zwischen Genauigkeit und Ressourceneffizienz gefunden. Während PaDiM-Lite vor allem Geschwindigkeit und Speicher spart, bietet PatchCore-Lite extreme Speicherersparnis auf Kosten einer leicht erhöhten Verarbeitungszeit.
Zukunft: Die Veröffentlichung der Codebasis (MoViAD) unterstützt die Adoption von Edge-AI in der Industrie und setzt neue Maßstäbe für die Optimierung von Memory-Bank-basierten VAD-Modellen.

Zusammenfassend beweisen PatchCore-Lite und PaDiM-Lite, dass komplexe KI-Modelle für die industrielle Qualitätskontrolle ohne Cloud-Infrastruktur und mit minimalem Hardware-Footprint eingesetzt werden können.