Diffuse to Detect: Generative Diffusion Models for Unsupervised IC Anomaly Detection

Résumé technique : Diffuse to Detect : Modèles de diffusion génératifs pour la détection non supervisée d'anomalies dans les circuits intégrés

Énoncé du problème
L'article aborde le défi critique du dépistage des défauts latents dans la fabrication des semi-conducteurs. Les défauts latents sont des imperfections physiques (par exemple, des courts-circuits ou des circuits ouverts résistifs) qui permettent aux dispositifs de satisfaire tous les critères de test fonctionnel mais provoquent des défaillances sur le terrain sous contrainte opérationnelle. Leur détection est difficile en raison de trois facteurs cumulatifs :

1. Déséquilibre extrême des classes : Les taux de défaillance se situent souvent dans la gamme des parties par million (par exemple, <0,12 % dans les jeux de données étudiés), rendant l'apprentissage supervisé peu pratique en raison du manque de données d'anomalies étiquetées et de la tendance des classificateurs à s'effondrer vers la classe majoritaire.
2. Haute dimensionnalité : Les programmes de test modernes génèrent des milliers de caractéristiques de mesure paramétrique par dispositif, créant un espace de caractéristiques de haute dimension où les méthodes traditionnelles basées sur la distance ou la densité peinent à fonctionner sans un ingénierie de caractéristiques soignée.
3. Tolérance stricte : Les systèmes de dépistage doivent équilibrer la maximisation du rappel des anomalies rares avec la minimisation des faux positifs pour éviter la perte de rendement, un équilibre que le simple seuillage naïf échoue souvent à atteindre.

Les méthodes existantes de détection d'anomalies basées sur la diffusion se sont principalement concentrées sur les données d'images ou les données tabulaires de faible dimensionnalité (par exemple, TabDDPM), qui traitent les vecteurs de caractéristiques comme des entrées plates et non ordonnées. Ces approches manquent du biais inductif structurel requis pour les données de test de circuits intégrés de haute dimensionnalité et sémantiquement hétérogènes.

Méthodologie
Les auteurs proposent Diffuse to Detect, un cadre entièrement non supervisé incorporant un Transformateur de diffusion (DiT) pour modéliser la distribution du silicium sain. La méthodologie se déroule selon les étapes suivantes :

1. Réduction de dimensionnalité et tokenisation :

   • Les vecteurs bruts de mesures de haute dimensionnalité ($x \in \mathbb{R}^F$, où $F \sim 10^3$) sont d'abord compressés par un encodeur MLP à deux couches en une représentation latente compacte ($h \in \mathbb{R}^{D_r}$, où $D_r = 128$).
   • Ce vecteur latent est remodelé en une séquence structurée de tokens 2D ($Z_0 \in \mathbb{R}^{C \times L}$), analogue à l'encodage de patches dans les Transformers de vision. Cela permet au modèle de traiter les données de mesure comme une séquence plutôt que comme un vecteur plat.

2. Encodage positionnel à deux niveaux :

   • Niveau caractéristique : Des embeddings sinusoïdaux fixes sont ajoutés pour encoder la position des tokens au sein de la séquence latente, capturant la structure sémantique du flux de test.
   • Niveau puce : Un MLP appris et à porte génère un embedding par dispositif basé sur les coordonnées physiques de la tranche ($d_x, d_y$). Cela prend en compte les variations spatiales systématiques (par exemple, effets de bord par rapport au centre) inhérentes aux données de test au niveau de la tranche.

3. Processus de diffusion :

   • Le cadre emploie un Transformateur de diffusion 1D (DiT1D) comme colonne vertébrale de débruitage. Contrairement aux modèles de diffusion tabulaire standards qui utilisent des MLP basés sur ResNet, le DiT1D utilise des mécanismes d'attention auto pour capturer les corrélations inter-caractéristiques composées à travers la séquence de tokens.
   • Le modèle est entraîné exclusivement sur des dispositifs sains en utilisant l'objectif DDPM standard pour prédire le bruit ajouté lors du processus de diffusion avant.

4. Notation des anomalies :

   • Lors de l'inférence, un score d'anomalie est dérivé de l'erreur de prédiction du bruit sur un ensemble fixe d'étapes de diffusion de milieu de gamme.
   • Les dispositifs situés en dehors de la distribution apprise du silicium sain induisent des erreurs de reconstruction élevées.
   • L'approche évite l'échantillonnage itératif pour la notation, ne nécessitant qu'un nombre fixe de passages avant, ce qui la rend adaptée au dépistage de production à haut débit.

Contributions clés

• Premier cadre de diffusion pour les données de test de circuits intégrés : L'article introduit le premier cadre basé sur un modèle de diffusion pour la détection non supervisée d'anomalies sur les données de test électrique des circuits intégrés, éliminant le besoin d'ingénierie manuelle de caractéristiques.
• Tokenisation structurée et encodage positionnel : Les auteurs proposent un nouveau schéma d'encodage positionnel à deux niveaux qui combine des positions de tokens sinusoïdales fixes avec des embeddings appris par puce, spécifiques à chaque dispositif. Cela encode à la fois la structure du flux de test et la géométrie spatiale de la tranche.
• Diffusion dans l'espace latent avec Transformers : Le travail démontre que l'exécution de la diffusion dans un espace latent compact en utilisant un débruiteur Transformer surpasse les méthodes qui diffusent dans l'espace de caractéristiques brut ou utilisent des débruiteurs basés sur MLP.

Résultats expérimentaux
Le cadre a été évalué sur deux jeux de données industriels de test de circuits intégrés automobiles de 16 nm caractérisés par un déséquilibre extrême des classes (taux d'anomalies de 0,22 % et 0,12 %).

• Performance : Le modèle DiT1D proposé a atteint des performances de l'état de l'art, surpassant les méthodes classiques (par exemple, Forêt d'isolement, PCA), les bases de référence d'apprentissage profond (par exemple, GANomaly, DAGMM) et les bases de référence de diffusion existantes (TabDDPM, variantes DTE).
  • Sur le jeu de données 1, le DiT1D a obtenu un AUROC de 0,771 et un AUCPR de 0,0250, dépassant significativement la deuxième meilleure méthode (LOF et DTE-IG, respectivement). Il a réussi à rappeler 3 anomalies confirmées sur 7 à un seuil de rendement de 95 %, alors que la plupart des bases de référence n'en rappelaient aucune ou une seule.
  • Sur le jeu de données 2, le DiT1D était la seule méthode à rappeler les 7 anomalies présentes dans le split de test au point de fonctionnement de rendement de 95 %.
• Études d'ablation :
  • Le retrait de l'embedding positionnel au niveau de la puce a causé la plus grande baisse de performance (l'AUROC a diminué de 0,234), soulignant l'importance de modéliser les variations spatiales de la tranche.
  • Le retrait de l'autoencodeur (diffusion dans l'espace brut) a sévèrement dégradé les performances, confirmant la nécessité d'une compression latente pour les données de haute dimensionnalité.
  • Le remplacement du Transformer par une colonne vertébrale MLP (style TabDDPM) a entraîné un AUROC et un rappel plus faibles, validant l'avantage de l'attention auto pour capturer les corrélations inter-tokens.

Signification et revendications
L'article revendique que Diffuse to Detect offre une solution robuste pour les objectifs de qualité « Zéro Défaut » requis dans les secteurs de l'automobile et de l'informatique haute performance. En exploitant des modèles de diffusion génératifs entraînés uniquement sur des données saines, l'approche :

• Élimine le besoin d'anomalies étiquetées, répondant à la rareté des données de défauts dans les procédés matures.
• Évite l'ingénierie manuelle de caractéristiques, qui a historiquement été un goulot d'étranglement dans les pipelines de qualité des semi-conducteurs.
• Fournit de l'interprétabilité : Grâce aux résidus de reconstruction dans l'espace latent, la méthode permet la localisation des défaillances. Les auteurs notent que ces résidus peuvent être mappés vers des programmes de test spécifiques, offrant aux ingénieurs de test des informations exploitables sur les causes racines (par exemple, l'identification de déviations spécifiques de mesures de fuite) sans nécessiter de connaissance de la représentation latente.

Le travail se positionne comme une avancée significative dans l'application de la modélisation générative avancée aux contraintes spécifiques des données de test de semi-conducteurs de haute dimensionnalité, spatialement corrélées et extrêmement déséquilibrées.