Stel je voor dat je een kwaliteitsinspecteur bent bij een enorme fabriek die alles bouwt, van glimmende metalen tandwielen tot delicate glazen vazen. Je taak is om de kleinste kras of barst te spotten die er niet zou moeten zijn. In de echte wereld is dit een nachtmerrie omdat defecten zeldzaam, vreemd en onvoorspelbaar zijn. Je ziet misschien een miljoen perfecte tandwielen voordat je er ooit een kapot exemplaar tegenkomt. Dit maakt het voor een computer ongelooflijk moeilijk om te leren hoe "kapot" eruitziet door alleen maar naar voorbeelden van "kapotte" dingen te kijken, omdat er bijna geen zijn om naar te kijken.

Dus gebruiken ingenieurs een slimme workaround: leer de computer alleen hoe een "perfect" ding eruitziet. Als de computer iets ziet dat niet overeenkomt met het perfecte patroon, markeert het dit als een defect. Dit wordt anomaliedetectie genoemd. Maar hier is de catch: wat als je net een nieuw product begint te maken, zoals een futuristische broodrooster, en je hebt slechts vier foto's van perfecte broodroosters om de computer mee te onderwijzen? Dat is het "few-shot" probleem. De computer is als een student die één pagina uit een tekstboek krijgt en vervolgens een scriptie moet schrijven. Het is voor de computer gemakkelijk om terug te vallen op shortcuts door de exacte pixels van de vier foto's te memoriseren in plaats van het idee van een perfecte broodrooster te leren. Als de computer op shortcuts vertrouwt, kan hij een echte kras missen omdat de kras er net iets anders uitziet dan de foto's die hij uit zijn hoofd heeft geleerd.

Dit is waar het papier ConceptADapt in beeld komt. De auteurs, een team van de Xidian University, stellen een nieuwe manier voor om computers te leren defecten te spotten, zelfs wanneer ze bijna geen trainingsdata hebben. In plaats van alleen foto's te memoriseren, leert hun model een reeks abstracte "concepten" — denk aan de fundamentele bouwstenen of de "woordenschat" van hoe een normaal object eruitziet. Ze gebruiken een speciale truc genaamd dynamische aandacht om ervoor te zorgen dat de computer zich alleen concentreert op de belangrijkste delen van deze concepten en het lawaai negeert. Wanneer er vervolgens een nieuw product aan de lijn komt, past het model zijn begrip van "normaal" snel aan om bij dat specifieke item te passen, zonder in de war te raken of nieuwe fouten te introduceren. Ze hebben hun methode getest op drie grote industriële datasets (MVTec-AD, VisA en MPDD) en ontdekten dat hun methode consequent meer defecten opspoort en hun locaties beter aanwijst dan de huidige beste methoden, vooral wanneer de trainingsdata schaars is.

Het Probleem: De "Shortcut" en de "Cold Start"

Stel je voor dat je een robot probeert te leren een perfecte appel te herkennen. Je geeft het de robot een mand vol appels, en het leert te zeggen: "Dat is een appel!" Maar dan geef je het slechts één foto van een perfecte appel om te bestudelen voordat het een hele boomgaard moet inspecteren. Dit is het "few-shot" scenario. De robot bevindt zich in een "cold start"-situatie.

Het grote probleem met het geven van zo weinig data aan een robot is dat deze de neiging heeft om op shortcuts te vertrouwen. In machine learning wordt dit het feature shortcut problem genoemd. In plaats van de diepe, complexe regels te leren die maken dat een appel een appel is (de kromming, de textuur, de steel), kan de robot simpelweg het exacte pixelpatroon van die enkele foto memoriseren. Als de nieuwe appel in de boomgaard iets gedraaid is of een andere verlichting heeft, kan de robot denken dat het een defect is omdat het niet perfect overeenkomt met de foto. Of erger nog, hij kan denken dat een echt defect normaal is omdat het lijkt op de ene foto die hij uit zijn hoofd heeft geleerd.

De Oplossing: Het Bouwen van een "Conceptbibliotheek"

De auteurs van ConceptADapt besloten te stoppen met het proberen te memoriseren van foto's en begonnen met het leren van concepten.

Denk aan een concept als een Lego-blokje. Je hebt geen foto nodig van elk mogelijk huis om te weten wat een huis is; je hoeft alleen maar te weten hoe een "muur", een "dak" en een "raam" eruitzien. In dit papier leert het model vooraf een set vaste "normale concepten" uit de weinige beschikbare foto's. Dit zijn niet zomaar wazige kopieën van de afbeeldingen; het zijn abstracte samenvattingen van de kenmerken die een product normaal maken.

Om ervoor te zorgen dat de robot niet op shortcuts vertrouwt en niet probeert alle concepten voor elk deel van de afbeelding te gebruiken (wat leidt tot het shortcut-probleem), gebruiken ze een Dynamic Attention-mechanisme. Stel je een spotlight voor in een donkere kamer. Wanneer de robot naar een deel van de afbeelding kijkt, schijnt de spotlight alleen op de specifiek relevante "concept-bouwstenen". Als de robot naar een glad metalen oppervlak kijert, negeert de spotlight het concept "ruwe textuur". Deze "sparse" focus dwingt het model om precies te zijn en voorkomt dat het op shortcuts vertrouwt door de hele afbeelding te memoriseren.

De Magische Truk: "Fast Adaptation" met LoRA

Zodra het model deze concepten heeft geleerd, staat het voor een nieuwe uitdaging: hoe gebruik je deze op een nieuw product zonder te vergeten wat je hebt geleerd of in de war te raken?

Normaal gesproken, wanneer je een model iets nieuws probeert te leren, moet je het hele model opnieuw trainen, wat traag en riskant is. ConceptADapt gebruikt een slimme shortcut genaamd LoRA (Low-Rank Adaptation). Stel je voor dat het model een enorme, zware bibliotheek met boeken is (de concepten). Wanneer er een nieuw product arriveert, in plaats van alle boeken te herschrijven, voegt het model gewoon een klein, lichtgewicht "plakzettel" toe aan de laatste pagina van het boek. Dit plakzettelje past de informatie net genoeg aan om bij het nieuwe product te passen, terwijl de kernbibliotheek onaangetast blijft.

Dit gebeurt tijdens de "inference time" (wanneer de robot daadwerkelijk de inspectie uitvoert). Het model bevriest de concepten die het heeft geleerd en werkt alleen deze kleine, lichtgewicht laag bij. Hierdoor kan het zich direct aanpassen aan nieuwe producten zonder het risico op "prototype shift" — een chique manier om te zeggen dat het model niet per ongeluk vergeet hoe "normaal" eruitziet terwijl het probeert het nieuwe te leren.

Hoe ze het hebben getest

Het team heeft hun idee getest op drie beroemde industriële datasets:

1. MVTec-AD: Een collectie van 15 verschillende objecten en texturen, zoals kabels, tapijten en flessen.
2. VisA: Hoogresolutiebeelden met zeer complexe, lastige defecten.
3. MPDD: Metalen onderdelen met veel structurele variaties.

Ze stelden een "few-shot" uitdaging op waarbij het model slechts 1, 2 of 4 foto's van een perfect item zag voordat het de rest moest inspecteren. Ze vergeleken hun methode met de huidige state-of-the-art (SOTA) modellen.

De Resultaten: Het Onzichtbare Spotten

De resultaten waren indrukwekkend. In de 1-shot setting (waarbij het model slechts één perfecte foto zag) presteerde ConceptADapt consequent beter dan andere methoden.

• Op de MVTec-AD dataset behaalde het een nauwkeurigheid op beeldniveau (AUROC) van 97,4% met 1 shot, waarmee het de vorige beste van 96,4% versloeg.
• Op de lastige VisA dataset bereikte het een nauwkeurigheid van 92,8% met 1 shot, vergeleken met 82,2% voor de op één na beste methode.

Het papier suggereert dat het model bijzonder goed is in "lokalisatie", wat betekent dat het niet alleen zegt "dit is kapot", maar ook een kader kan trekken rond exact waar de kras zit. In de VisA-dataset verbeterde hun methode de "per-region overlap" (PRO) score van 89,0% naar 94,5% vergeleken met een sterke concurrent, wat betekent dat het een groter deel van het werkelijke defecte gebied vond.

Waarom het ertoe doet

De auteurs stellen dat hun aanpak twee hoofdpijndossiers in de industriële inspectie oplost:

1. Het Shortcut Probleem: Door gebruik te maken van sparse attention en concepten, leert het model de essentie van normaliteit in plaats van pixels te memoriseren, waardoor het moeilijker is om op shortcuts te vertrouwen.
2. Het Adaptatie Probleem: Door de concepten te bevriezen en alleen een kleine laag bij te werken (LoRA), kan het model zich snel aanpassen aan nieuwe producten zonder zijn geheugen van wat "normaal" is te verliezen.

Het papier concludeert dat deze "concept-gestuurde" aanpak een stabiele en flexibele manier biedt om industriële inspectie te handelen wanneer data schaars is. Het suggereert dat in plaats van te proberen de computer steeds meer data te voeren, we de computer moeten leren de fundamentele bouwstenen te begrijpen van hoe een product eruit zou moeten zien. Hoewel het papier niet beweert dat dit elk probleem in de wereld oplost, laten de experimenten zien dat deze methode, voor de specifieke taak van het vinden van defecten met zeer weinig voorbeelden, een belangrijke stap voorwaarts is.