StructCore: Structure-Aware Image-Level Scoring for Training-Free Unsupervised Anomaly Detection

Het artikel introduceert StructCore, een trainingsvrije methode voor ongecontroleerde anomaliedetectie die de beperkingen van max pooling overwint door structurele kenmerken van anomaliekaarten te benutten voor een nauwkeurigere beeldniveau-score.

De kern

Stel je voor dat je een supersterke inspecteur bent die duizenden foto's van producten moet controleren op kleine defecten, zoals een krasje op een fles of een scheurtje in een doos. In de wereld van kunstmatige intelligentie heet dit Anomalie Detectie.

Deze paper introduceert een slimme nieuwe methode genaamd StructCore. Hier is hoe het werkt, vertaald naar alledaags taal met een paar leuke vergelijkingen.

Het Probleem: De "Schreeuwerige" Inspecteur

Stel je voor dat je een groep inspecteurs hebt die naar een foto kijken. Ze gebruiken een heel slim systeem om te kijken waar er iets mis is. Dit systeem maakt een "hittekaart" van de foto: rode plekken betekenen "hier is iets mis", blauwe plekken "alles goed".

Tot nu toe gebruikten de meeste systemen een heel simpele regel om te beslissen of een hele foto goed of slecht is: Kijk naar de felste rode plek.

• Als er één klein, fel rood stipje is, is de hele foto "slecht".
• Als er geen stipjes zijn, is de foto "goed".

Dit heet in het vakjargon max pooling. Het probleem is dat dit net als een schreeuwerige kindje in een klaslokaal is: als er één kind heel hard schreeuwt, horen de anderen de rest van de klas niet meer.

• Soms is dat ene stipje gewoon een rare schaduw of een stofje (een "nep-kras").
• Soms is het defect heel groot en verspreid over de hele foto, maar geen enkele plek is extreem fel. Het systeem ziet dan niets, terwijl er wel iets mis is.

Het systeem kijkt dus alleen naar de piek, en negeert hoe de rest van de foto eruitziet.

De Oplossing: StructCore (De Slimme Chef)

StructCore is als een nieuwe, veel slimmere chef die niet alleen luistert naar het schreeuwerigste kindje, maar naar het gehele geluid in de klas.

In plaats van alleen naar het felste stipje te kijken, kijkt StructCore naar de structuur van de hele hittekaart. Het stelt zich drie slimme vragen:

1. Verspreiding: Is het defect verspreid over de hele foto (zoals een lichte mist) of zit het op één plek?
2. De "staart": Zijn er veel kleine, zachte waarschuwingen die samen een groot probleem vormen, ook al is geen enkele plek extreem fel?
3. Ruwe randen: Is het patroon van de defecten logisch en samenhangend, of is het gewoon willekeurige ruis?

Hoe werkt het in de praktijk?

Stel je voor dat je een nieuwe inspecteur aanneemt die nooit getraind is (hij leert niet door te oefenen, hij is al slim).

1. De Basis: Eerst laat je het oude systeem (de "Schreeuwer") zijn werk doen. Die maakt de hittekaart.
2. De Analyse: Dan neemt StructCore die kaart en meet hij de "ruis" en het patroon. Hij zegt: "Hé, deze kaart heeft een raar patroon. Er zijn veel kleine stipjes die samen een vreemd figuur vormen, ook al is er geen enkele stip super fel."
3. De Beslissing: Hij past de einduitslag aan. Als het oude systeem dacht: "Alles goed, want de felste stip is niet fel genoeg", zegt StructCore: "Nee, wacht even! Kijk naar het patroon. Dit is wel een defect."

Waarom is dit zo cool?

• Geen extra training: Je hoeft het systeem niet opnieuw te leren. Het werkt als een "plug-and-play" module. Je plakt het gewoon achter je bestaande systeem.
• Preciezer: Het maakt de beslissingen over "Goed/Slecht" veel nauwkeuriger, zonder dat het de locatie van het defect verandert. Het zegt niet waar het defect is (dat doet het oude systeem al), maar het zegt of er echt iets mis is.
• Resultaat: Op de bekende tests (MVTec AD en VisA) haalde dit systeem bijna perfecte scores (99,6% en 98,4%). Het pakt defecten die andere systemen over het hoofd zagen, vooral die subtiele, verspreide krasjes.

Samenvattend

Vroeger keek de computer alleen naar de felste vlek op een foto om te beslissen of iets kapot was. Dat werkte niet altijd goed.

StructCore kijkt naar de hele foto en het patroon. Het is alsof je van een systeem dat alleen luistert naar de luidste stem, overstapt naar een systeem dat begrijpt wat de sfeer van de hele kamer is. Hierdoor worden er veel minder fouten gemaakt en ziet de computer defecten die voorheen onzichtbaar waren.

Technische samenvatting

Probleemstelling

In het domein van onbewaakte anomaliedetectie (Unsupervised Anomaly Detection - UAD), specifiek voor industriële visuele inspectie, is het standaardproces als volgt: modellen genereren eerst een dichte kaart met anomalie-scores (pixel- of patch-niveau) en reduceren deze vervolgens tot één enkel getal om een beslissing op beeldniveau te nemen (accepteren of afkeuren).

De huidige de facto standaard voor deze reductie is max-pooling. Dit betekent dat het hoogste score-pixel in de anomalie-kaart de uiteindelijke beslissing bepaalt. Het paper identificeert twee kritieke tekortkomingen in deze aanpak:

1. Verlies van structurele informatie: Max-pooling negeert hoe anomaliebewijs over het beeld is verdeeld en gestructureerd. Het kijkt alleen naar het ene "hottest" pixel.
2. Overlapping van scores: Voor subtiele of ruimtelijk verspreide defecten kunnen normale en abnormale beelden overlappen in hun max-pooled scores. Sterke, geïsoleerde pieken (spurious peaks) in normale beelden kunnen de beslissing onterecht beïnvloeden, terwijl echte, verspreide defecten worden onderschat.

Mensen beoordelen beelden zelden op basis van één enkel pixel; ze kijken naar de ruimtelijke organisatie, concentratie en spreiding van de anomalie. StructCore probeert dit menselijke inzicht te modelleren.

Methodologie: StructCore

StructCore is een trainingsvrije (training-free), structureel bewuste module die de beeldniveauscore verbetert zonder de onderliggende pixel-localisatie (de anomalie-kaart zelf) te wijzigen. Het werkt als een "plug-in" bovenop bestaande UAD-pipelines (zoals PatchCore).

De werking bestaat uit drie hoofdstappen:

1. Berekening van een Structurele Descriptor ($\phi(S)$):
   In plaats van alleen het maximum te nemen, berekent StructCore een compacte, 3-dimensionale descriptor die de anomalie-kaart $S$ samenvat op basis van drie complementaire kenmerken:

   • Globale spreiding ($\sigma_S$): De standaardafwijking van alle scores in de kaart.
   • Tail-concentratie ($topk\_mean_r$): Het gemiddelde van de top-$k$ scores (bijv. de top 1%). Dit vangt de "staart" van de verdeling op, wat robuuster is dan één enkel maximum.
   • Ruimtelijke ruwheid ($TV(S)$): De totale variatie (Total Variation) van de kaart, die meet hoe ruw of discontinu de scores zijn. Dit onderscheidt coherente defecten van verspreid ruis.

2. Statistische Kalibratie (Train-Good):
   De methode gebruikt uitsluitend "train-good" samples (normale beelden) om de statistieken van de descriptor $\phi(S)$ te leren. Er worden een gemiddelde ($\mu$) en standaardafwijking ($\sigma$) per dimensie berekend.
   Tijdens inferentie wordt de afwijking van een nieuwe kaart van deze normale verdeling gemeten via een diagonale Mahalanobis-afstand (een gestandaardiseerde Euclidische afstand). Dit levert een structuur-score ($D_{struct}$) op.

3. Hybride Score:
   De uiteindelijke beeldniveauscore is een combinatie van de traditionele max-pooling score ($S_{base}$) en de nieuwe structuur-score:
   $$S_{hyb} = S_{base} + \lambda_{auto} \cdot D_{struct}$$
   Waarbij $\lambda_{auto}$ een automatisch gewicht is dat de schalen van beide scores op elkaar afstemt, berekend op basis van de standaardafwijkingen in de train-data.

Schaalbaarheid: Voor multi-categorie scenario's (MUAD) integreert het een optionele "routing" mechanisme die het invoerbeeld toewijst aan de juiste categorie-gebaseerde geheugenbank, waardoor de berekeningsschaal lineair blijft in plaats van exponentieel.

Belangrijkste Bijdragen

1. Analyse van Max-Pooling: Het paper demonstreert dat max-pooling een kritieke bottleneck is die informatieve structurele bewijzen in anomalie-kaarten negeert, wat leidt tot suboptimale beslissingen.
2. StructCore Module: Introductie van een volledig trainingsvrije, structureel bewuste scoringmethode die gebruikmaakt van lage-dimensionale deskriptoren en statistische kalibratie. Het is compatibel met bestaande pipelines (zoals PatchCore, PaDiM) en vereist geen gradient-based training.
3. Uitgebreide Validatie: Het biedt uitgebreide ablatiestudies die aantonen dat zelfs een minimale 3D-descriptor stabiele verbeteringen biedt, en dat de methode robuust is voor verschillende afstandsfuncties en gewichten.

Resultaten

StructCore werd getest op twee industriële benchmarks: MVTec AD (15 categorieën) en VisA (12 categorieën).

• MVTec AD: De beeldniveauscore (I-AUROC) steeg van 98.7% (basis met max-pooling) naar 99.6% met StructCore.
  • Er waren aanzienlijke verbeteringen bij uitdagende categorieën zoals Pill (+5.4%), Screw (+2.7%) en Capsule (+2.2%).
  • De slechtst presterende categorie verbeterde van 93.7% naar 97.8%.
• VisA: De I-AUROC steeg van 97.6% naar 98.4%.
  • Grote winsten werden geboekt bij Cashew (+4.0%) en PCB1 (+2.0%).
• Localisatie: Cruciaal is dat de pixel-niveau prestaties (P-AUROC) ongewijzigd bleven. StructCore verbetert alleen de beslissingsdrempel op beeldniveau, wat betekent dat de nauwkeurigheid van het lokaliseren van defecten behouden blijft.
• Efficiëntie: De methode voegt slechts een minimale rekentijd toe (post-processing) en is zeer snel (ca. 98 FPS op een RTX 3090).

Betekenis en Impact

StructCore biedt een eenvoudige maar krachtige oplossing voor een langdurig probleem in industriële visuele inspectie: het verbeteren van de betrouwbaarheid van "accept/reject" beslissingen zonder de complexiteit van het model te vergroten of de lokalisatie te beïnvloeden.

• Praktische toepasbaarheid: Omdat het trainingsvrij is en werkt als een plug-in, kan het direct worden ingezet in bestaande productielijnen die al memory-bank methoden gebruiken.
• Robuustheid: Het lost het probleem op waarbij sterke pre-trained modellen (zoals Vision Transformers) soms valse pieken genereren die max-pooling verkeerd interpreteert. Door naar de structuur van de kaart te kijken in plaats van alleen het maximum, wordt de detectie van subtiele en verspreide defecten aanzienlijk verbeterd.
• Toekomstgericht: De aanpak is ontworpen om te schalen naar multi-categorie en continue leer scenario's, wat essentieel is voor dynamische productielijnen.

Kortom, StructCore bewijst dat het analyseren van de ruimtelijke organisatie van anomalie-scores een cruciale stap is die vaak wordt over het hoofd gezien, en dat het verbeteren van deze stap leidt tot state-of-the-art prestaties in onbewaakte anomaliedetectie.