GRD-Net: Generative-Reconstructive-Discriminative Anomaly Detection with Region of Interest Attention Module

Het paper introduceert GRD-Net, een nieuw model voor industriële afwijkingdetectie dat een generatieve reconstructie-architectuur combineert met een discriminatieve module voor segmentatie van gebieden van belang, waardoor de afhankelijkheid van vooraf gedefinieerde voorverwerkingsalgoritmen wordt verminderd en de generalisatie op zowel synthetische als realistische industriële datasets wordt verbeterd.

De kern

GRD-Net: De Slimme Kijker die Alleen Kijkt Waar het Er Toe Doet

Stel je voor dat je een enorme fabriek hebt waar duizenden flessen, pillen of metalen onderdelen worden geproduceerd. Je taak is om te controleren of er krassen, vlekken of andere fouten op zitten. Maar hier is het probleem: de meeste producten zijn perfect. Slechts één op de duizend is kapot. En als je naar die ene kapotte fles kijkt, zit de kras misschien op de hals, maar niet op de bodem. Als je overal tegelijk naar kijkt, raak je in de war door de ruis en de onbelangrijke details.

Dat is precies het probleem dat de auteurs van dit papier (GRD-Net) wilden oplossen. Ze hebben een nieuw, slim computersysteem bedacht dat werkt als een drie-delige inspectie-team. Laten we het uitleggen met een verhaal.

De Drie Delen van het Team

Het systeem bestaat uit drie onderdelen die samenwerken, alsof het een team van drie specialisten is:

1. De "Droomfabriek" (De Generatieve Deel)
Stel je een kunstenaar voor die zo goed is dat hij een perfecte kopie van een object kan maken. Deze kunstenaar heeft echter een beperking: hij heeft alleen maar foto's van perfecte producten gezien.

• Hoe het werkt: Je geeft hem een foto van een product met een kras. Omdat hij nooit een kras heeft gezien, probeert hij de foto te "repareren". Hij tekent de kras weg en maakt het product weer perfect.
• De truc: Als hij de originele foto vergelijkt met zijn perfecte kopie, zie je precies waar het verschil zit. Dat verschil is de kras!
• De verbetering: In dit nieuwe systeem is deze kunstenaar niet zomaar een schilder, maar een meesterkunstenaar met een speciale techniek (Residual Autoencoder) die zorgt dat hij zelfs de kleinste details (zoals de textuur van een pil) perfect nabootst, zonder dat hij in de war raakt.

2. De "Kritische Criticus" (De Discriminatie Deel)
Nu hebben we een originele foto en een gerepareerde foto. De volgende stap is om te zeggen: "Hier is de kras!"

• Hoe het werkt: Een tweede AI kijkt naar beide foto's en maakt een kaartje (een heatmap) waarop hij de fouten aangeeft.
• Het probleem: Vaak maakt deze AI een foutje. Hij ziet een schaduw op de achtergrond of een rare vlek op de verpakking en denkt: "Oh, dat is een defect!" Terwijl het product zelf perfect is.
• De oplossing: Hier komt het slimme nieuwe idee van dit papier om de hoek kijken.

3. De "Focuser" (Het ROI Attention Module)
Dit is de echte ster van het verhaal. Stel je voor dat je een lantaarnpaal hebt. Normaal gesproken schijnt die overal. Maar wat als je een speciale kap op de lantaarn doet die alleen het licht richt op het gedeelte waar je echt naar wilt kijken?

• Hoe het werkt: Bij het trainen van het systeem geven de auteurs aan de AI een "masker" of een "kader". Ze zeggen: "Kijk alleen naar dit specifieke stukje van de fles (bijvoorbeeld de hals). Vergeet de rest van de foto, dat is ruis."
• Het resultaat: De AI leert om alleen fouten te zoeken binnen dat kader. Als er een vlek op de achtergrond zit, negeert de AI die. Als er een kras in het kader zit, schreeuwt hij: "Hier is het!"

Waarom is dit zo'n groot succes?

In het verleden moesten mensen vaak handmatig algoritmes schrijven om te zeggen: "Kijk hier, niet daar." Dat was veel werk en werkte niet goed als het product een beetje verschuilde.

Met GRD-Net leert de computer zelf waar hij moet kijken.

• Voorbeeld uit de paper: Ze hebben het getest op medicijnflesjes. De rand van de vloeistof in de fles (het meniscus) is vaak heel onregelmatig en lijkt soms op een defect. Oude systemen schreeuwden hierom "Fout!" omdat ze niet wisten wat ze moesten negeren.
• GRD-Net: Dankzij het "kader" (ROI) leert het systeem dat de onregelmatige rand normaal is, maar een zwarte vlek in de fles niet. Het negeert de chaos en focust op wat er echt toe doet.

De Resultaten in het Kort

• Sneller en Beter: Het systeem leert sneller dan de oude methoden en maakt minder fouten.
• Minder "Valse Alarmen": Omdat het alleen naar het belangrijke stukje kijkt, gaat het niet meer in paniek als er iets raars op de achtergrond gebeurt.
• Echt Gebruik: Ze hebben het getest in een echte fabriek (Bonfiglioli Engineering) met duizenden flessen. Het systeem kon krassen en vlekken vinden die voor het menselijk oog of oude computersystemen bijna onzichtbaar waren.

Conclusie

GRD-Net is als een super-slimme inspecteur die niet alleen heel goed kan tekenen (om fouten te zien), maar die ook een bril draagt die hem dwingt om alleen naar het gedeelte van het product te kijken waar een fout echt mogelijk is. Hierdoor wordt de controle sneller, nauwkeuriger en veel betrouwbaarder voor de industrie.

Technische samenvatting

Probleemstelling

In industriële toepassingen, zoals visuele inspectie voor oppervlakte-anomaliedetectie, is het vinden van afwijkingen (defecten) op producten een kritieke taak. Bestaande methoden hebben echter enkele belangrijke beperkingen:

1. Gebrek aan generalisatie: Veel methoden gebruiken post-processing algoritmen (zoals blob-analyse of beeldbewerking) om defecten te lokaliseren door een vergelijking tussen een gegenereerde en de originele afbeelding. Deze zijn vaak sterk bevooroordeeld ten opzichte van de trainingsdataset en generaliseren slecht naar nieuwe scenario's.
2. Irrelevante gebieden: In veel industriële situaties is niet het volledige beeld relevant. Defecten komen vaak voor in specifieke gebieden (Regions of Interest - ROIs), terwijl andere delen van de afbeelding (bijvoorbeeld de achtergrond of verpakkingsmaterialen) variaties vertonen die geen defecten zijn. Bestaande reconstructiemethoden kunnen deze variaties ten onrechte als anomalieën interpreteren, wat leidt tot valse alarmen.
3. Interpretatie en ROI: Embedding-gebaseerde methoden bieden goede resultaten maar missen vaak interpretatiebaarheid en het vermogen om specifieke ROIs op te leggen zonder complexe aanpassingen.

Methodologie: GRD-Net

De auteurs stellen GRD-Net voor, een architectuur die bestaat uit twee gekoppelde blokken: een generatief-reconstructief blok en een discriminerend blok, aangevuld met een aandachtmodule voor ROIs.

1. Generatief-Reconstructief Blok (Verbeterde GANomaly)
In plaats van een standaard Autoencoder (zoals in DRÆM) of een simpele GAN, gebruikt GRD-Net een GANomaly-architectuur met een Residual Autoencoder (ResAE).

• Structuur: Het model gebruikt een Encoder-Decoder-Encoder structuur. De eerste encoder-decoder fungeert als generator, en de tweede encoder comprimeert de gereconstrueerde afbeelding.
• Training: Het model wordt getraind op "goede" producten en synthetische defecten gegenereerd via Perlin Noise. De generator leert de originele afbeelding te reconstrueren terwijl het de anomalieën (de noise) verwijdert.
• Verliesfuncties: Het trainingsproces minimaliseert een combinatie van:
  • Adversarial Loss: Voor stabiliteit.
  • Contextual Loss: Een combinatie van L1-afstand en SSIM (Structural Similarity Index) tussen origineel en gereconstrueerd beeld.
  • Encoder Loss: Minimaliseert de afstand tussen de latent vectors van de input en de gereconstrueerde output.
• Residual Blocks: Het gebruik van volledig convolutieve residual blokken voorkomt het verdwijnen van gradiënten en verbetert de stabiliteit en kwaliteit van de reconstructie, vooral bij fijne texturen.

2. Discriminatief Blok met ROI-Aandacht
Een tweede netwerk (een U-Net-achtige structuur) voert de segmentatie uit.

• Input: Het combineert de originele afbeelding en de gereconstrueerde afbeelding.
• Aandacht voor ROI: Uniek aan deze methode is dat tijdens het trainen een ROI-masker (Area of Interest) wordt meegenomen. Het netwerk leert niet alleen wat een defect is, maar ook waar het relevant is.
• Verliesfunctie: Er wordt Focal Loss gebruikt, maar toegepast op het snijpunt (intersection) van de gegenereerde anomalie-mask en het input-ROI-mask.
  • Formule: $I = A_{discr} \times ROI_{input}$.
  • De loss wordt berekend op basis van dit snijpunt, waardoor het netwerk wordt gestraft voor het detecteren van "defecten" buiten het relevante gebied.

Belangrijkste Bijdragen

1. Hybride Architectuur: Het samenvoegen van de generalisatiekracht van GANomaly met de denoising- en segmentatiecapaciteiten van DRÆM, waarbij de reconstructie wordt verbeterd door residual blokken.
2. ROI-Attention Module: Een innovatieve aanpak waarbij het discriminerende netwerk expliciet wordt getraind om alleen te focussen op vooraf gedefinieerde gebieden van belang. Dit elimineert de noodzaak voor complexe pre-processing en reduceert valse positieven veroorzaakt door achtergrondruis.
3. Verbeterde Training: Het gebruik van een residual autoencoder binnen de GAN-structuur zorgt voor een stabielere training en betere reconstructie van complexe texturen vergeleken met standaard autoencoders.
4. Real-world Validatie: Het toepassen en testen op een groot, industrieel dataset van farmaceutische BFS-flessen (vials), wat een veel realistischere en uitdagendere casus is dan alleen standaard datasets.

Resultaten

De prestaties van GRD-Net zijn getest op de MVTec AD-datasets (hazelnoot, metal nut, pill, etc.) en een proprietair farmaceutisch dataset.

• Vergelijking met State-of-the-Art: GRD-Net presteert overtuigend beter dan DRÆM en GANomaly.
  • Op de hazelnoot-dataset bereikte GRD-Net na 100 epochs een AUROC van 100% (beeldniveau) en 97.3% (pixelniveau), terwijl DRÆM respectievelijk 98.8% en 94.8% haalde.
  • Op de metal nut-dataset behaalde GRD-Net 99.8% (beeld) en 70.4% (pixel), wat een aanzienlijke verbetering is ten opzichte van de referentiemodellen.
• Convergentie: Het model convergeert sneller en toont een gladdere leercurve met minder overfitting dan de "vanilla" versies, dankzij de GAN-structuur en residual blokken.
• ROI-effectiviteit: In experimenten met de zipper-dataset (waar defecten zowel op de rits als op de stof kunnen voorkomen) slaagde het model erin om uitsluitend defecten op de rits te detecteren en defecten op de stof te negeren, wat de effectiviteit van de ROI-module bevestigt.
• Industriële toepassing: Op het farmaceutische dataset (flessen met vloeistof) bereikte het model na slechts 30 epochs een AUROC van 0.981 (beeld) en 0.996 (pixel), met een nauwkeurigheid van 93.2%. Het slaagde erin om complexe defecten (zoals zwevende deeltjes in de meniscus) te detecteren waar klassieke blob-algoritmen faalden vanwege de variabiliteit van de vloeistofoppervlakken.

Betekenis en Conclusie

GRD-Net biedt een robuuste oplossing voor industriële kwaliteitscontrole door het probleem van valse positieven in niet-relevante beeldgebieden op te lossen. Door de integratie van een ROI-aandachtmodule in een generatief-discriminatief raamwerk, kan het systeem generaliseren naar nieuwe defecttypes zonder grote hoeveelheden defecte voorbeelden te vereisen (semi-supervised).

De belangrijkste betekenis ligt in de praktische toepasbaarheid: het reduceert de afhankelijkheid van handmatige pre-processing en blob-analyse, wat vaak fragiel is bij complexe industriële omgevingen. Het bewijst dat het focussen op specifieke productgebieden de betrouwbaarheid en nauwkeurigheid van defectdetectie aanzienlijk verhoogt, zelfs in uitdagende scenario's zoals farmaceutische verpakkingen met vloeistofmeniscussen.