RAID: Retrieval-Augmented Anomaly Detection

RAID is een nieuw, op retrieval gebaseerd raamwerk voor onbewaakte anomaliedetectie dat door het gebruik van een hiërarchische vectordatabase en een geleide MoE-netwerk effectief ruis onderdrukt en state-of-the-art prestaties bereikt op diverse industriële benchmarks.

De kern

RAID: De "Google voor defecten" in de fabriek

Stel je voor dat je in een enorme fabriek werkt waar duizenden producten elke dag worden geproduceerd: flessen, kabels, pillen, enzovoort. Je taak is het vinden van de ene slechte fles of de gebroken kabel. Het probleem? Je hebt alleen foto's van perfecte producten. Je hebt geen voorbeelden van hoe een defect eruit ziet. Hoe vind je dan het naald in de hooiberg?

Dit is het probleem van Unsupervised Anomaly Detection (UAD): het vinden van fouten zonder te weten hoe die eruit zien.

De auteurs van dit paper, RAID, hebben een slimme oplossing bedacht die ze RAID noemen (Retrieval-Augmented Industrial Anomaly Detection). Laten we het uitleggen met een paar simpele analogieën.

1. Het oude probleem: De "Gokker"

Vroeger probeerden computers het defect te vinden door te raden of door te proberen het perfecte plaatje na te bouwen.

• De gok: "Kijk, dit stukje lijkt niet op de rest, dus het is kapot!" Maar soms is het gewoon een rare schaduw of een andere textuur, en de computer denkt dat het een fout is. Dat noemen ze "ruis" (noise).
• Het resultaat: De computer ziet vaak fouten waar er geen zijn, of mist kleine, subtiele krassen.

2. De nieuwe aanpak: RAID als een slimme detective

RAID werkt niet door te raden, maar door te zoeken en te vergelijken. Ze gebruiken een idee dat in de AI-wereld bekend staat als RAG (Retrieval-Augmented Generation).

Stel je voor dat je een detective bent die een verdachte foto bekijkt. In plaats van alleen naar de foto te kijken, haal je je super-database erbij.

Stap 1: De Super-Database (De "Houten Schuur")

In plaats van een simpele lijst met foto's, bouwt RAID een hiërarchische database. Denk hierbij aan een enorme, perfect georganiseerde bibliotheek:

1. De Hoofdklasse (De Afdeling): Eerst kijkt de computer: "Is dit een fles of een kabel?" (Zoals het zoeken in de afdeling 'Drank' of 'Elektronica').
2. De Sub-klassie (De Schapen): Binnen de afdeling 'Flessen', zoekt hij naar specifieke types. "Is dit een ronde fles of een vierkante?" (Zoals het zoeken op het schap 'Wijn' of 'Water').
3. De Details (De Boeken): Pas dan pakt hij de specifieke foto's van die exacte fles om te vergelijken.

Waarom is dit slim? Omdat de computer niet hoeft te zoeken door alle foto's ter wereld, maar alleen door de foto's die echt relevant zijn. Dit bespaart tijd en voorkomt dat hij zich laat afleiden door onzin.

Stap 2: De "Filterende Chef" (De MoE)

Nu heeft de detective een hoop vergelijkingsmateriaal. Maar wat als de vergelijkingsfoto's zelf een beetje wazig zijn of niet helemaal kloppen? Dan kan de detective in de war raken.

RAID gebruikt een slimme chef-kok (een zogenaamde Mixture-of-Experts of MoE).

• Stel je voor dat je een gerecht probeert te maken. Je hebt verschillende koks (experts) in de keuken.
• De ene kok is goed in het detecteren van kleine vlekjes op fruit.
• De andere kok is goed in het zien van scheuren in metaal.
• De chef (de router) kijkt naar het ingrediënt (het defecte product) en roept precies de juiste kok om te helpen.

Deze chef kijkt naar de vergelijkingen en zegt: "Hé, die vlek is waarschijnlijk gewoon een schaduw, negeer die. Maar die kleine kras? Die is echt!" Hij filtert de ruis eruit en laat alleen de echte fouten over.

3. Wat levert dit op?

Door deze twee stappen te combineren (slim zoeken + slim filteren), gebeurt er magie:

• Minder foutmeldingen: De computer schreeuwt niet meer "FOUT!" bij elke kleine onregelmatigheid.
• Scherpere grenzen: Als er een kras is, ziet de computer precies waar die begint en eindigt, niet alleen een vage vlek.
• Werkt met weinig voorbeelden: Zelfs als je maar 1 of 2 perfecte foto's hebt (in plaats van duizenden), werkt RAID nog steeds goed. Het is alsof de detective ook met één foto van een fles al kan zien of een nieuwe fles kapot is, zolang hij maar weet hoe een fles er normaal uitziet.

Samenvatting in één zin

RAID is als een super-slimme inspecteur die eerst snel zoekt in de juiste kast van zijn bibliotheek om de perfecte vergelijking te vinden, en daarna een team van gespecialiseerde experts inschakelt om te bepalen of het gevonden verschil echt een fout is of gewoon een rare schaduw.

Het resultaat? Een systeem dat sneller, nauwkeuriger en slimmer is dan alles wat we tot nu toe hadden, en dat werkt voor bijna elke soort fabrieksproduct.

Technische samenvatting

Probleemstelling

Ongecontroleerde Anomalie Detectie (UAD) is een cruciale taak in computer vision, met name voor industriële kwaliteitscontrole. Bestaande methoden vertrouwen voornamelijk op twee benaderingen:

1. Reconstructie: Het proberen om een "normale" versie van een invoer af te beelden; afwijkingen worden als anomalieën gezien.
2. Embedding/Retrieval: Het vergelijken van invoer met een opslagbank van normale voorbeelden (templates).

De fundamentele uitdaging die de auteurs identificeren, is dat de matching tussen een testafbeelding en normale templates onvermijdelijk ruis introduceert. Deze ruis ontstaat door:

• Variaties binnen dezelfde klasse (intra-class variations).
• Onvolmaakte correspondenties tussen invoer en templates.
• Beperkte beschikbaarheid van templates (vooral in Few-shot scenario's).

Deze ruis leidt vaak tot "hallucinaties" in de detectie, zoals vage grenzen van anomalieën of het missen van subtiele defecten. Bestaande methoden negeren vaak de "generatieve redeneringsfase" die nodig is om deze ruis te filteren.

Methodologie: RAID Framework

De auteurs introduceren RAID (Retrieval-Augmented Industrial anomaly Detection), een raamwerk dat het UAD-probleem herinterpreteert door de lens van Retrieval-Augmented Generation (RAG). In plaats van RAG alleen te gebruiken voor contextverrijking, gebruiken ze het om ruis te onderdrukken tijdens het genereren van anomalie-kaarten.

Het proces verloopt in twee hoofdfasen:

1. Hiërarchische Vector Database (Retrieval-fase)

Om efficiëntie en nauwkeurigheid te balanceren, vermijden ze een vlakke zoekstructuur. In plaats daarvan bouwen ze een hiërarchische vector database met drie niveaus:

• Class Prototype (Klasse-niveau): Geclusterde CLS-tokens (globale semantiek) die dienen als categorie-agnostische ankers.
• Semantic Prototype (Semantisch niveau): Geclusterde patch-tokens binnen een klasse die terugkerende patronen (textuur, structuur, achtergrond) vastleggen.
• Instance Token (Voorbeeld-niveau): De feitelijke patch-tokens van de templates.

Retrieval Flow: De zoekopdracht verloopt van grof naar fijn (coarse-to-fine):

1. De invoer wordt eerst gekoppeld aan het juiste Class Prototype.
2. Vervolgens worden de relevante Semantic Prototypes binnen die klasse opgezocht.
3. Tot slot worden de specifieke Instance Tokens (patches) opgehaald die het meest overeenkomen met de invoer.
   Dit reduceert de zoekruimte drastisch en zorgt voor semantisch consistente referenties.

2. Geleide MoE-filtering (Generatie-fase)

Na het ophalen van de templates wordt een "anomaly cost volume" gegenereerd (een maatstaf voor hoe goed de invoer matcht met de templates). Omdat deze initiële matching ruis bevat, wordt deze verwerkt door een Geleide Mixture-of-Experts (MoE) filter:

• Dual Guidance: Het filter wordt geleid door zowel de invoertokens als de gehaalde semantische prototypes.
• Expert Netwerk: Een router verdeelt de taak over meerdere "experts" (denoising experts). Sommige experts zijn gespecialiseerd in specifieke semantische contexten of ruimtelijke patronen.
• Filtering: De experts passen een combinatie van Cross-Attention (om semantische affiniteit te modelleren) en Convolutionele lagen (om lokale betrouwbaarheid te schatten) toe op de cost volume.
• Resultaat: Een verfijde, ruismvrije anomalie-kaart met scherpe grenzen en hoge gevoeligheid voor subtiele defecten.

Belangrijkste Bijdragen

1. Nieuw Paradigma (RAID): De eerste toepassing van het RAG-paradigma specifiek voor UAD, waarbij retrieval niet alleen dient voor matching, maar als input voor een generatief redeneringsproces om ruis te onderdrukken.
2. Hiërarchische Vector Database: Een innovatieve indexering (Class -> Semantic -> Instance) die een efficiënte, coarse-to-fine retrieval mogelijk maakt, wat schaalbaarheid en contextuele consistentie verbetert.
3. Geleide MoE-filter: Een dynamisch netwerk dat denoising-experts toewijst op basis van de context, waardoor het model robuust is tegen diverse anomalieverdelingen en hallucinaties onderdrukt.
4. State-of-the-Art Prestaties: Het framework presteert consistent beter dan bestaande methoden in diverse settings: Full-shot, Few-shot (met weinig trainingdata) en Multi-dataset (generatie over verschillende datasets).

Resultaten

RAID is uitgebreid geëvalueerd op vier industriële benchmarks: MVTec-AD, VisA, MPDD en BTAD.

• Full-shot (Multi-class): RAID behaalde de beste resultaten op alle datasets. Op MVTec-AD verbeterde het de Image-level AUROC tot 99.4% en Pixel-level AUROC tot 98.6%, wat een significante verbetering is ten opzichte van de huidige state-of-the-art (zoals CostFilter-AD en AnomalyDINO).
• Few-shot: Zelfs met slechts 1 tot 4 voorbeelden per klasse, behaalde RAID superieure prestaties. Het overtrof methoden die gebruikmaken van taalmodellen (zoals WinCLIP) zonder taalkennis te gebruiken, wat de kracht van de visuele retrieval benadrukt.
• Multi-dataset: Bij het trainen op één model voor alle datasets (MVTec, VisA, MPDD, BTAD samen), behaalde RAID 95.4% I-AUROC, wat aantoont dat het model uitstekend generaliseert naar nieuwe domeinen zonder degradatie.
• Kwalitatieve Analyse: Visualisaties tonen aan dat RAID scherpere grenzen heeft, minder valse positieven (ruis) produceert en beter in staat is subtiele defecten te detecteren dan concurrenten.

Betekenis en Impact

Dit paper is significant omdat het een brug slaat tussen twee krachtige concepten: Retrieval-Augmented Generation (oorspronkelijk uit NLP) en Industriële Anomalie Detectie.

• Robuustheid: Door de ruis in de matching expliciet te modelleren en te filteren via een MoE-netwerk, lost RAID een van de grootste pijnpunten van bestaande UAD-methoden op: de onbetrouwbaarheid van feature-matching.
• Schaalbaarheid: De hiërarchische database maakt het mogelijk om te schalen naar grote datasets en diverse categorieën zonder dat de inferentietijd explodeert.
• Toekomstperspectief: Het werk opent de deur voor "agente" en cross-modale anomaliedetectie, waarbij systemen niet alleen kijken, maar ook "redeneren" op basis van opgezette kennisbronnen om betrouwbare beslissingen te nemen in complexe industriële omgevingen.

Kortom, RAID biedt een nieuwe, robuuste standaard voor ongecontroleerde anomaliedetectie die zowel nauwkeurig als schaalbaar is.