Diffuse to Detect: Generative Diffusion Models for Unsupervised IC Anomaly Detection

Technische Samenvatting: Diffuse to Detect: Generatieve Diffusiemodellen voor Ongeleide IC-Abnormaliteitsdetectie

Probleemstelling
Het artikel behandelt de kritieke uitdaging van het screenen van latente defecten in de halfgeleiderproductie. Latente defecten zijn fysieke imperfecties (bijvoorbeeld resistieve kortsluitingen of onderbrekingen) die ervoor zorgen dat apparaten alle functionele testcriteria doorstaan, maar leiden tot uitval in het veld onder operationele stress. Het detecteren hiervan is moeilijk door drie versterkende factoren:

1. Extreme Class Imbalans: Uitvalpercentages liggen vaak in het bereik van delen per miljoen (bijvoorbeeld <0,12% in de onderzochte datasets), waardoor toezicht opgeleide leerprocessen onpraktisch zijn vanwege het gebrek aan gelabelde abnormaliteitsdata en de neiging van classifiers om in te storten naar de meerderheidsklasse.
2. Hoge Dimensionaliteit: Moderne testprogramma's genereren duizenden parametrische meetfeatures per apparaat, waardoor een hoogdimensionale feature-ruimte ontstaat waar traditionele op afstand of dichtheid gebaseerde methoden moeite hebben zonder zorgvuldige feature-engineering.
3. Strikte Tolerantie: Screensystemen moeten een balans vinden tussen het maximaliseren van de recall van zeldzame abnormaliteiten en het minimaliseren van vals-positieven om opbrengstverlies te voorkomen; een balans die naieve drempelwaarden vaak niet bereiken.

Bestaande op diffusie gebaseerde methoden voor abnormaliteitsdetectie hebben zich voornamelijk gericht op beelddata of laagdimensionale tabulaire data (bijvoorbeeld TabDDPM), waarbij feature-vectoren worden behandeld als platte, ongeordende invoer. Deze benaderingen missen de structurele inductieve bias die vereist is voor hoogdimensionale, semantisch heterogene IC-testdata.

Methodologie
De auteurs stellen Diffuse to Detect voor, een volledig ongeleide framework dat een Diffusion Transformer (DiT) integreert om de verdeling van gezond silicium te modelleren. De methodologie verloopt via de volgende fasen:

1. Dimensionaliteitsreductie en Tokenisatie:

   • Ruwe hoogdimensionale meetvectoren ($x \in \mathbb{R}^F$, waarbij $F \sim 10^3$) worden eerst gecomprimeerd door een twee-laags MLP-encoder naar een compacte latente representatie ($h \in \mathbb{R}^{D_r}$, waarbij $D_r = 128$).
   • Deze latente vector wordt herschikt tot een gestructureerde 2D-tokensequentie ($Z_0 \in \mathbb{R}^{C \times L}$), analoog aan patch-embedding in Vision Transformers. Dit stelt het model in staat de meetdata te behandelen als een sequentie in plaats van een platte vector.

2. Twee-Niveau Positieve Encodering:

   • Feature-Niveau: Vaste sinusvormige embeddingen worden toegevoegd om de positie van tokens binnen de latente sequentie te coderen, waardoor de semantische structuur van de testflow wordt vastgelegd.
   • Die-Niveau: Een geleerde, gegateerde MLP genereert een per-apparaat embedding op basis van de fysieke wafer-coördinaten ($d_x, d_y$). Dit houdt rekening met systematische ruimtelijke variaties (bijvoorbeeld rand- versus centraleffecten) die inherent zijn aan wafer-niveau testdata.

3. Diffusieproces:

   • Het framework maakt gebruik van een 1D Diffusion Transformer (DiT1D) als ruggengraat voor het verwijderen van ruis. In tegenstelling tot standaard tabulaire diffusiemodellen die ResNet-gebaseerde MLP's gebruiken, maakt DiT1D gebruik van self-attention-mechanismen om samengestelde inter-feature correlaties over de tokensequentie vast te leggen.
   • Het model wordt uitsluitend getraind op gezonde apparaten met het standaard DDPM-doel om het ruis toegevoegd tijdens het voorwaartse diffusieproces te voorspellen.

4. Abnormaliteitsscore:

   • Tijdens inferentie wordt een abnormaliteitsscore afgeleid uit de fout in de ruisvoorspelling over een vaste reeks mid-range diffusietijdstappen.
   • Apparaten die buiten de geleerde verdeling van gezond silicium vallen, veroorzaken verhoogde reconstructiefouten.
   • De aanpak vermijdt iteratief sampling voor scoring, vereist slechts een vast aantal voorwaartse passes en is hierdoor geschikt voor high-throughput productiescreening.

Belangrijkste Bijdragen

• Eerste Diffusieframework voor IC-testdata: Het artikel introduceert het eerste op diffusiemodellen gebaseerde framework voor ongeleide abnormaliteitsdetectie op IC-elektrische testdata, waardoor de noodzaak voor handmatige feature-engineering wordt geëlimineerd.
• Gestructureerde Tokenisatie en Positieve Encodering: De auteurs stellen een nieuw twee-niveau positieve encoderingsschema voor dat vaste sinusvormige tokenposities combineert met geleerde, per-apparaat die-embeddingen. Dit codeert zowel de testflow-structuur als de ruimtelijke geometrie van de wafer.
• Latent-Space Diffusie met Transformers: Het werk toont aan dat het uitvoeren van diffusie in een compacte latente ruimte met behulp van een Transformer-ruisverwijderaar beter presteert dan methoden die diffusie in ruwe feature-ruimte uitvoeren of MLP-gebaseerde ruisverwijderaars gebruiken.

Experimentele Resultaten
Het framework werd geëvalueerd op twee industriële 16nm automotive IC-testdatasets gekenmerkt door extreme class imbalans (abnormaliteitspercentages van 0,22% en 0,12%).

• Prestaties: Het voorgestelde DiT1D-model behaalde state-of-the-art prestaties en overtrof klassieke methoden (bijvoorbeeld Isolation Forest, PCA), deep learning-baselines (bijvoorbeeld GANomaly, DAGMM) en bestaande diffusiebaselines (TabDDPM, DTE-varianten).
  • Op Dataset 1 behaalde DiT1D een AUROC van 0,771 en een AUCPR van 0,0250, wat significant beter was dan de op één na beste methode (respectievelijk LOF en DTE-IG). Het slaagde erin 3 van de 7 bevestigde abnormaliteiten te recallen bij een opbrengstdrempel van 95%, terwijl de meeste baselines nul of één recallde.
  • Op Dataset 2 was DiT1D de enige methode die alle 7 abnormaliteiten die in de testsplit aanwezig waren, recallde bij het operationele punt van 95% opbrengst.
• Ablatiestudies:
  • Het verwijderen van de die-niveau positieve embedding veroorzaakte de grootste daling in prestaties (AUROC daalde met 0,234), wat het belang onderstreept van het modelleren van ruimtelijke wafer-variaties.
  • Het verwijderen van de autoencoder (diffusie in ruwe ruimte) degradeerde de prestaties ernstig, wat de noodzaak bevestigt van latente compressie voor hoogdimensionale data.
  • Het vervangen van de Transformer door een MLP-ruggengraat (TabDDPM-stijl) resulteerde in lagere AUROC en recall, wat het voordeel van self-attention voor het vastleggen van inter-token correlaties valideert.

Betekenis en Claims
Het artikel beweert dat Diffuse to Detect een robuuste oplossing biedt voor de "Zero Defect"-kwaliteitsdoelen die vereist zijn in de sectoren automotive en high-performance computing. Door gebruik te maken van generatieve diffusiemodellen die uitsluitend op gezonde data zijn getraind, elimineert de aanpak:

• De noodzaak voor gelabelde abnormaliteiten, waardoor de schaarste aan defectdata in volwassen processen wordt aangepakt.
• Handmatige feature-engineering, wat historisch gezien een bottleneck is geweest in halfgeleiderkwaliteitspipelines.
• Interpreteerbaarheid: Door reconstructieresiduen in de latente ruimte maakt de methode foutlokaliseren mogelijk. De auteurs merken op dat deze residuen kunnen worden teruggekoppeld naar specifieke testprogramma's, wat testengineers bruikbare inzichten biedt in de oorzaken (bijvoorbeeld het identificeren van specifieke afwijkingen in lekstroommetingen) zonder kennis van de latente representatie te vereisen.

Het werk positioneert zichzelf als een belangrijke stap voorwaarts in het toepassen van geavanceerde generatieve modellering op de specifieke beperkingen van hoogdimensionale, ruimtelijk gecorreleerde en extreem onbalans halfgeleider-testdata.