💻 computer science

CDGP: Contrastive Dual Gaussian Processes for Weakly Supervised Anomaly Segmentation

Het artikel stelt Contrastive Dual Gaussian Processes (CDGP) voor, een zwak gesuperviseerd framework dat een posterior-dominance statistiek afgeleid van duale Gaussische processen combineert met hiërarchische reconstructieresten om state-of-the-art anomalie-segmentatie te bereiken zonder dat er pixel-niveau annotaties vereist zijn.

Oorspronkelijke auteurs: Seungjun Chu, Seokhee Han, Mateusz Nowak, Peter Chin

Gepubliceerd 2026-08-20

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Seungjun Chu, Seokhee Han, Mateusz Nowak, Peter Chin

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

In de bruisende wereld van de moderne productie krijgen machines steeds vaker de delicate taak toegewezen om producten op gebreken te inspecteren. Een fabriek kan duizenden identieke componenten per uur produceren, en het doel is om het zeldzame defecte exemplaar te vangen voordat het een klant bereikt. Dit vereist twee dingen: beslissen of een product kapot is, en precies aanwijzen waar de breuk zit. Decennialang was de meest betrouwbare manier om computers dit te leren, door ze duizenden perfecte voorbeelden te laten zien en hen te laten leren hoe "normaal" eruitziet. Wanneer de computer iets ziet dat afwijkt van dat normale patroon, markeert het dit als een defect. Deze aanpak werkt goed omdat perfecte items gemakkelijk te vinden zijn, terwijl kapotte exemplaren zeldzaam en gevarieerd zijn. Echter, deze methode heeft een blinde vlek. Het heeft vaak moeite om het verschil te zien tussen een echte barst en een onschadelijke, ongewone textuur die toevallig een beetje vreemd oogt. Het ziet beide als "niet normaal" en slaat voor beide alarm, wat leidt tot verwarring en tijdverlies.

Onderzoekers vroegen zich al lang af of ze dit konden verbeteren door de computer voorbeelden van kapotte items te laten zien, zelfs als ze niet precies wisten waar de scheuren zaten. In de echte wereld weten fabrieken vaak welke batch producten een kwaliteitscontrole niet heeft doorstaan, zelfs als ze niet de tijd hebben genomen om een kaart van elk afzonderlijk defect te tekenen. Dit is de uitdaging van "zwak gesuperviseerd" leren: het gebruik van het brede label "defect" om de machine te leren de specifieke locatie van de fout te vinden zonder een gedetailleerde kaart. Een nieuwe studie introduceert een methode genaamd Contrastive Dual Gaussian Processes, of CDGP, die dit probleem aanpakt door te veranderen hoe de computer het goede en het slechte met elkaar vergelijkt. In plaats van alleen te vragen hoe vreemd een afbeelding eruitziet, stelt het systeem een directere vraag: ziet dit deel van de afbeelding er meer uit als een defect of meer als een normaal product?

De onderzoekers bouwden een systeem dat elk klein deel van een afbeelding behandelt als een kandidaat voor ofwel normaal, ofwel defect te zijn. Stel je de afbeelding voor als een raster van kleine tegels. Voor elke tegel draait het systeem gelijktijdig twee aparte mentale modellen. Eén model is getraind om te voorspellen hoe een normale tegel eruit zou moeten zien, terwijl het andere model is getraind om te voorspellen hoe een defecte tegel eruit zou moeten zien. Deze modellen gokken niet alleen; ze zijn gebouwd op een statistisch kader dat hen in staat stelt niet alleen een voorspelling te doen, maar ook uit te drukken hoe zeker ze zijn van die voorspelling. Het systeem vergelijkt vervolgens de twee voorspellingen voor elke afzonderlijke tegel. Als het "defecte" model veel waarschijnlijker correct is dan het "normale" model, en het systeem er zeker van is dat dit verschil bestaat, wordt die tegel als een fout gemarkeerd. Deze aanpak is krachtig omdat het de computer dwingt om het bewijs voor een defect af te wegen tegen het bewijs voor normaliteit, in plaats van alleen maar te zoeken naar alles wat er vreemd uitziet.

Om dit werkend te krijgen zonder gedetailleerde kaarten van waar de defecten zich bevinden, moesten de onderzoekers slim zijn over hoe ze de training begonnen. Ze begonnen met het scannen van de defecte afbeeldingen en het selecteren van de tegels die het meest verschilden van de normale exemplaren. Dit werden de initiële "kandidaten" waar het defecte model van moest leren. Het was een rommelig startpunt, aangezien sommige van deze kandidaten gewoon normale onderdelen waren die toevallig iets anders uitzagen, maar het systeem was ontworpen om door het proces heen te leren. Naarmato de training voortduurde, gebruikte het systeem het eenvoudige label "defect" of "normaal" voor de hele afbeelding om zijn begrip te verfijnen. Het leerde de voorspellingen voor het defecte model te verhogen in de gebieden die daadwerkelijk defecten bevatten, terwijl het de normale modellen sterk hield in de achtergrondgebieden. Dit proces stelde het systeem in staat om geleidelijk zijn focus te verscherpen, waarbij het de echte defecten scheidde van de achtergrondruis, zonder ooit een enkele handgetekende omtrek van een scheur te hebben gezien.

De studie erkende ook dat alleen naar het grote plaatje kijken niet altijd genoeg is om dunne, haarlijnbreuken te vinden. Om dit op te lossen, voegden ze een tweede laag inspectie toe die zich richt op reconstructie. Dit deel van het systeem probeert een perfecte versie van de afbeelding te herbouwen vanuit een licht beschadigde versie. Als het systeem moeite heeft met het herbouwen van een specif kind gebied, suggereert dat het gebied ongewoon is. Door de directe vergelijking van de twee modellen te combineren met deze reconstructiecheck, krijgt het systeem een dubbele dosis bewijs. De onderzoekers testten deze methode op verschillende standaard industriële datasets, waaronder MVTec AD 2, KSDD2 en VisA. De resultaten waren opmerkelijk. Op de MVTec AD 2-dataset, een rigoureuze benchmark voor dit soort werk, presteerde de nieuwe methode beter dan alle andere geteste benaderingen en eindigde zij als eerste in elke metriek die werd gebruikt om te meten hoe goed het systeem defecten kon lokaliseren. Het presteerde ook op topniveau of zeer competitief op de andere twee datasets.

Wat deze bevinding bijzonder significant maakt, is hoe het omgaat met onzekerheid. Het systeem geeft niet alleen een score; het berekent een gestandaardiseerde maatstaf voor hoe waarschijnlijker een defect is dan normaliteit, rekening houdend met hoe zeker de modellen zijn. Dit voorkomt dat het systeem wordt misleid door willekeurige ruis. De onderzoekers toonden ook aan dat deze verbetering niet alleen te danken was aan een complexere opzet, maar specif으로 aan de manier waarop ze de twee modellen contrasteerden en hun vertrouwen calibreerden met behulp van alleen de trainingsdata. Ze verifieerden dat het systeem werkt zonder dat er een mens nodig is om dozen rond defecten te tekenen tijdens de leerfase, waarbij het uitsluitend vertrouwt op de eenvoudige "goed" of "slecht" labels die fabrieken al hebben.

De studie concludeert dat door expliciet zowel de normale als de defecte mogelijkheden te modelleren en deze direct te vergelijken, machines veel nauwkeuriger fouten kunnen vinden dan voorheen. Deze aanpak overbrugt de kloof tussen de overvloed aan normale data en de schaarste aan gedetailleerde defectkaarten. Het suggereert dat in industriële omgevingen, waar tijd en middelen voor gedetailleerde annotatie beperkt zijn, we een hoogwaardige inspectie kunnen bereiken door computers te leren het bewijs voor een fout af te wegen tegen het bewijs voor normaliteit, in plaats van alleen maar te zoeken naar alles wat opvalt. De methode staat als een robuuste oplossing die bovenaan de huidige prestatiebenchmarks rangschikt en een praktisch pad biedt voor geautomatiseerde kwaliteitscontrole in de productie.

Probleemstelling

Industriële visuele inspectie vereist zowel het detecteren of een product defect is als het lokaliseren van de specifieke defectregio's. Hoewel pixel-niveau anomalie-segmentatie cruciaal is voor downstream-taken zoals diagnose en kwaliteitscontrole, is het verzamelen van dichte pixel-niveau maskers kostbaar en tijdrovend in veel productieomgevingen. Gevolgelijk vertrouwen de meeste bestaande methoden op een "alleen-normaal" leermodel, waarbij uitsluitend wordt getraind op defectvrije afbeeldingen en anomalieën worden geïdentificeerd als afwijkingen van de normaliteit.

Echter, het alleen-normaal paradigma heeft beperkingen:

Ambiguïteit: Zowel echte defecten als ongebruikelijke-maar-normale regio's kunnen aanzienlijk afwijken van de geleerde normale distributie, waardoor ze vergelijkbaar hoge anomalie-scores ontvangen.
Supervisie-verschuiving: Hoewel het geen pixel-maskers vereist, vereist training met alleen normale beelden nog steeds gecureerde datasets die vrij zijn van defecten, wat de last verschuift van annotatie naar dataset-curatie.
Zwakke Supervisie-kloof: In veel pipelines zijn afbeeldingsniveau-labels (normaal/defect) beschikbaar, maar pixel-maskers niet. Het weggooien van defecte afbeeldingen in deze scenario's verspeelt nuttige informatie over de verschijningsvorm van anomalieën.
Lokalisatie-uitdaging: Standaard zwak gesuperviseerde benaderingen (bijv. het gebruik van Class Activation Maps van beeldclassificaties) benadrukken vaak de discriminatieve context die voldoende is voor herkenning op afbeeldingsniveau, maar slagen er niet in om uit te lijnen met werkelijke defectregio's, vooral omdat industriële anomalieën heterogeen zijn en geen coherente visuele categorieën missen.

Methodologie: Contrastive Dual Gaussian Processes (CDGP)

CDGP is een zwak gesuperviseerd framework dat zowel normale als anomalie voorspellende distributies modelleert over dichte multi-schaal tokens. In plaats van afwijkingen van normaliteit te scoren, scoort het de posterior dominantie van een anomalie-functie over een normale functie.

1. Dichte Multi-schaal Token Representatie

De methode gebruikt een WideResNet-50 backbone om feature maps te extraheren uit drie stadia. Deze worden geprojecteerd naar een gedeelde latente dimensie, genormaliseerd en uitgelijnd naar een enkele ruimtelijke resolutie om een dicht rooster van unit-norm tokens ( $t_{hw}$ ) te vormen.

2. Hard-Candidate Inducing Initialisatie

CDGP maakt gebruik van Sparse Gaussian Processes (GPs) met vaste inducing points.

Normale GP ( $Z_N$ ): Inducing tokens worden geselecteerd uit normale afbeeldingen met behulp van greedy farthest-point sampling om de nominale token-ruimte te dekken.
Anomalie GP ( $Z_A$ ): Omdat defecte afbeeldingen voornamelijk een normale achtergrond bevatten, is directe sampling ineffectief. In plaats daarvan worden tokens uit defecte afbeeldingen gescoord op hun cosinusafstand tot $Z_N$ . De top 20% meest dissimilar tokens vormen een "noisy candidate pool", waaruit $Z_A$ wordt geselecteerd via farthest-point sampling. Dit dient als een initialisatie-prior, niet als een pseudo-masker.

3. Contrastive Dual-GP Evidence

CDGP modelleert normale ( $f_N$ ) en anomalie ( $f_A$ ) bewijslast als twee sparse GP-functies over de gedeelde token-ruimte met behulp van een lineaire kernel ( $k(t, t') = t^\top t'$ ).

Voorspellende Distributies: Voor elke token leert het model een voorspellend gemiddelde ( $\mu$ ) en variantie ( $\sigma^2$ ) voor beide klassen.
Posterior Dominance Statisiek: De kernmetriek is het gestandaardiseerde verschil tussen de anomalie- en de normale voorspellende distributies:
$g(t) = \frac{\mu_A(t) - \mu_N(t)}{\sqrt{\sigma^2_A(t) + \sigma^2_N(t)}}$
Deze statistiek levert een ruimtelijke semantische kaart waarbij een token als anomalie wordt beschouwd als de anomalie-functie waarschijnlijk de normale functie zal overtreffen, gestandaardiseerd door gezamenlijke onzekerheid.

4. Zwak Gesuperviseerde Training

De Dual-GP kern wordt end-to-end getraind met behulp van afbeeldingsniveau-labels via drie complementaire verliezen:

Max-Margin MIL: Zorgt ervoor dat defecte afbeeldingen ten minste één token hebben met een hoge positieve marge ( $\mu_A - \mu_N$ ) en dat normale afbeeldingen geen positieve marges hebben.
Covariantie-Genormaliseerde Normale Compactheid: Moedigt een hoge genormaliseerde bewijslast aan voor de normale GP over nominale afbeeldingen.
Covariantie-Genormaliseerde Anomalie Attractie: Versterkt de genormaliseerde anomalie-bewijslast op locaties die als anomalie zijn geïdentificeerd door de huidige marge-score (met behulp van een soft attention mechanisme).

5. Hiërarchische Normale-Residuele Bewijslast

Om de beperking aan te pakken dat token-niveau GP-bewijslast dunne defecten mogelijk ondermaat, incorporeert CDGP een normal-only reverse student tak. Een bevroren teacher netwerk verwerkt schone normale afbeeldingen, terwijl een student de hiërarchie van de teacher reconstrueert vanuit gecorrumpeerde inputs. De cosinus-reconstructie residuen bieden fijne ruimtelijke precisie die complementair is aan de semantische GP-bewijslast.

6. Kalibratie en Inferentie

Fusie: De GP dominantie-kaart en de reconstructie-residuen kaart worden gestandaardiseerd met behulp van statistieken van een uit de training gehouden normale kalibratiesubset en gefuseerd met een gewogen som.
Afbeeldingsniveau Vertrouwen: De gefuseerde ruimtelijke bewijslast wordt gepooled (log-sum-exp) om een anomalie-score op afbeeldingsniveau te genereren, die wordt gekalibreerd met een logistische regressor getraind op afbeeldingsniveau-labels.
Finale Output: De finale anomalie-kaart combineert de gekalibreerde ruimtelijke bewijslast met de afbeeldingsniveau vertrouwen-score, wat ervoor zorgt dat afbeeldingen die als waarschijnlijk normaal worden beoordeeld, alle pixel scores onderdrukken.

Belangrijkste Bijdragen

Formulering: Het artikel formuleert zwak gesuperviseerde anomalie-segmentatie als een posterior dominantie probleem tussen sparse normale en anomalie voorspellende functies over dichte tokens.
Trainingsstrategie: Het introduceert een masker-vrije, defect-verrijkte initialisatie en een minimaal drievoudig loss-doel (Max-margin MIL, covariantie-genormaliseerde normale compactheid, en covariantie-genormaliseerde anomalie attractie) om de Dual-GP kern te trainen.
Hybride Architectuur: Het complementeert semantische GP-contrast met hiërarchische normale-reconstructie residuen en training-only kalibratie om ruimtelijk precieze voorspellingen te bereiken zonder test-time fitting.
Prestaties: Onder een gematchte zwakke supervisie-split bereikt CDGP state-of-the-art resultaten op MVTec AD 2 en competitieve resultaten op KSDD2 en VisA.

Experimentele Resultaten

De auteurs evalueerden CDGP op MVTec AD 2, KSDD2, en VisA.

MVTec AD 2: CDGP rangschikte als eerste onder alle geëvalueerde methoden (zowel alleen-normaal als op afbeeldingsniveau gesuperviseerd) op alle drie de lokalisatie-metrieken (AUROC-P, AUPRO@0.3, AUPRO@0.05), waarbij het de op één na beste methode met aanzienlijke marges overtrof (bijv. +12,7 punten in AUPRO@0.3).
KSDD2 en VisA: CDGP behaalde eerste plaats of competitieve lokalisatieprestaties, en rangschikte bij de top twee methoden over alle metrieken.
Ablatie-studies: Gefactoriseerde ablatiestudies bevestigden dat zowel de ruimtelijke GP-pad als het afbeeldingsniveau kalibratiepad complementair bijdragen. Het artikel merkt op dat de winst van posterior dominantie (standaardiseren door variantie) over eenvoudige gemiddelde-marge scoring een bescheiden verfijning is, wat suggereert dat de primaire waarde ligt in de coherente inducing-variable mean-variance constructie, in plaats van de niet-lineaire expressiviteit.

Betekenis en Claims

Het artikel claimt dat CDGP erin slaagt om zwak gesuperviseerde anomalie-segmentatie te leren met behulp van afbeeldingsniveau-labels zonder dat hiervoor pixel-maskers of test-time fitting nodig zijn. De betekenis ligt in:

Aanpakken van het "Ongebruikelijk-maar-Normaal" Probleem: Door expliciet zowel normale als anomalie distributies te modelleren, vermijdt het de ambiguïteit van een eenzijdige normaliteit-scoring.
Efficiënte Zwakke Supervisie: Het maakt gebruik van defecte afbeeldingen (die vaak worden weggegooid in alleen-normaal methoden) om de kenmerken van anomalieën te leren, zelfs zonder de exacte locaties van defecten te kennen.
Robuustheid: Het gebruik van training-only kalibratie en de combinatie van semantische (GP) en structurele (reconstructie) bewijslast maakt robuuste lokalisatie mogelijk over diverse industriële datasets.
Bescheidenheid over GP-claims: De auteurs stellen expliciet dat de lineaire kernel de training marge lineair maakt; het voordeel komt voort uit de token-afhankelijke voorspellende variantie (onzekerheid) geboden door de GP-formulering, in plaats van universele superioriteit over equivalente herparameterisaties zoals technisch geconstrueerde heteroscedastische lineaire modellen. De "GP-claim" wordt geframed als een compacte constructie van gemiddelde en onzekerheid, begrensd door gematchte lineaire-head controles.