Diffuse to Detect: Generative Diffusion Models for Unsupervised IC Anomaly Detection

Sintesi Tecnica: Diffuse to Detect: Modelli di Diffusione Generativa per il Rilevamento Non Supervisionato di Anomalie nei Circuiti Integrati

Enunciato del Problema
Il documento affronta la sfida critica dello screening dei difetti latenti nella produzione di semiconduttori. I difetti latenti sono imperfezioni fisiche (ad esempio, cortocircuiti resistivi o circuiti aperti) che permettono ai dispositivi di superare tutti i criteri di test funzionali ma causano guasti sul campo sotto stress operativo. La rilevazione di questi difetti è difficile a causa di tre fattori cumulativi:

1. Squilibrio Estremo delle Classi: I tassi di guasto sono spesso nell'ordine delle parti per milione (ad esempio, <0,12% nei dataset studiati), rendendo l'apprendimento supervisionato impraticabile a causa della mancanza di dati di anomalia etichettati e della tendenza dei classificatori a collassare sulla classe maggioritaria.
2. Alta Dimensionalità: I programmi di test moderni generano migliaia di caratteristiche di misurazione parametrica per dispositivo, creando uno spazio delle caratteristiche ad alta dimensionalità in cui i metodi tradizionali basati sulla distanza o sulla densità faticano senza un'attenta ingegneria delle caratteristiche.
3. Tolleranza Rigida: I sistemi di screening devono bilanciare la massimizzazione del richiamo delle anomalie rare con la minimizzazione dei falsi positivi per evitare perdite di resa, un equilibrio che la semplice soglia spesso non riesce a raggiungere.

I metodi esistenti di rilevamento delle anomalie basati sulla diffusione si sono concentrati principalmente su dati di immagine o dati tabellari a bassa dimensionalità (ad esempio, TabDDPM), che trattano i vettori di caratteristiche come input piatti e non ordinati. Questi approcci mancano del pregiudizio induttivo strutturale necessario per i dati di test IC ad alta dimensionalità ed eterogenei semanticamente.

Metodologia
Gli autori propongono Diffuse to Detect, un framework completamente non supervisionato che incorpora un Diffusion Transformer (DiT) per modellare la distribuzione del silicio sano. La metodologia procede attraverso le seguenti fasi:

1. Riduzione della Dimensionalità e Tokenizzazione:

   • I vettori di misurazione grezzi ad alta dimensionalità ($x \in \mathbb{R}^F$, dove $F \sim 10^3$) vengono prima compressi da un encoder MLP a due strati in una rappresentazione latente compatta ($h \in \mathbb{R}^{D_r}$, dove $D_r = 128$).
   • Questo vettore latente viene ridimensionato in una sequenza strutturata di token 2D ($Z_0 \in \mathbb{R}^{C \times L}$), analogamente all'embedding di patch nei Vision Transformer. Ciò permette al modello di trattare i dati di misurazione come una sequenza piuttosto che come un vettore piatto.

2. Codifica Posizionale a Due Livelli:

   • Livello Caratteristica: Vengono aggiunte incorporazioni sinusoidali fisse per codificare la posizione dei token all'interno della sequenza latente, catturando la struttura semantica del flusso di test.
   • Livello Die: Un MLP appreso e gateato genera un embedding per dispositivo basato sulle coordinate fisiche del wafer ($d_x, d_y$). Ciò tiene conto delle variazioni spaziali sistemiche (ad esempio, effetti bordo vs centro) intrinseche nei dati di test a livello di wafer.

3. Processo di Diffusione:

   • Il framework impiega un Diffusion Transformer 1D (DiT1D) come backbone di denoising. A differenza dei modelli di diffusione tabellari standard che utilizzano MLP basati su ResNet, il DiT1D utilizza meccanismi di auto-attenzione per catturare le correlazioni composte tra le caratteristiche attraverso la sequenza di token.
   • Il modello è addestrato esclusivamente su dispositivi sani utilizzando l'obiettivo standard DDPM per prevedere il rumore aggiunto durante il processo di diffusione in avanti.

4. Punteggio delle Anomalie:

   • Durante l'inferenza, un punteggio di anomalia è derivato dall'errore di previsione del rumore su un insieme fisso di passi temporali di diffusione a medio raggio.
   • I dispositivi che si trovano al di fuori della distribuzione appresa del silicio sano inducono errori di ricostruzione elevati.
   • L'approccio evita il campionamento iterativo per la valutazione, richiedendo solo un numero fisso di passaggi in avanti, rendendolo adatto allo screening di produzione ad alto rendimento.

Contributi Chiave

• Primo Framework di Diffusione per Dati di Test IC: Il documento introduce il primo framework basato su modelli di diffusione per il rilevamento non supervisionato di anomalie sui dati di test elettrico dei circuiti integrati, eliminando la necessità di ingegneria manuale delle caratteristiche.
• Tokenizzazione Strutturata e Codifica Posizionale: Gli autori propongono un nuovo schema di codifica posizionale a due livelli che combina posizioni di token sinusoidali fisse con embedding appresi per dispositivo. Ciò codifica sia la struttura del flusso di test che la geometria spaziale del wafer.
• Diffusione nello Spazio Latente con Transformer: Il lavoro dimostra che eseguire la diffusione in uno spazio latente compatto utilizzando un denoiser Transformer supera i metodi che diffondono nello spazio delle caratteristiche grezzo o utilizzano denoiser basati su MLP.

Risultati Sperimentali
Il framework è stato valutato su due dataset industriali di test IC automobilistici da 16nm caratterizzati da uno squilibrio estremo delle classi (tassi di anomalia dello 0,22% e 0,12%).

• Prestazioni: Il modello DiT1D proposto ha raggiunto prestazioni all'avanguardia, superando i metodi classici (ad esempio, Isolation Forest, PCA), le basi di riferimento del deep learning (ad esempio, GANomaly, DAGMM) e le basi di riferimento esistenti basate sulla diffusione (TabDDPM, varianti DTE).
  • Sul Dataset 1, il DiT1D ha raggiunto un AUROC di 0,771 e un AUCPR di 0,0250, superando significativamente il secondo miglior metodo (rispettivamente LOF e DTE-IG). Ha richiamato con successo 3 su 7 anomalie confermate a una soglia di resa del 95%, mentre la maggior parte delle basi di riferimento ha richiamato zero o una.
  • Sul Dataset 2, il DiT1D è stato l'unico metodo a richiamare tutte le 7 anomalie presenti nella partizione di test al punto operativo di resa del 95%.
• Studi di Ablazione:
  • La rimozione dell'embedding posizionale a livello di die ha causato il calo più grande nelle prestazioni (l'AUROC è diminuito di 0,234), evidenziando l'importanza della modellazione delle variazioni spaziali del wafer.
  • La rimozione dell'autoencoder (diffusione nello spazio grezzo) ha degradato severamente le prestazioni, confermando la necessità di compressione latente per dati ad alta dimensionalità.
  • La sostituzione del Transformer con un backbone MLP (stile TabDDPM) ha portato a un AUROC e un richiamo inferiori, validando il beneficio dell'auto-attenzione per catturare le correlazioni tra token.

Significato e Affermazioni
Il documento afferma che Diffuse to Detect offre una soluzione robusta per gli obiettivi di qualità "Zero Difetti" richiesti nei settori automobilistici e dell'informatica ad alte prestazioni. Sfruttando modelli di diffusione generativa addestrati esclusivamente su dati sani, l'approccio:

• Elimina la necessità di anomalie etichettate, affrontando la scarsità di dati sui difetti nei processi maturi.
• Evita l'ingegneria manuale delle caratteristiche, che storicamente è stata un collo di bottiglia nelle pipeline di qualità dei semiconduttori.
• Fornisce interpretabilità: Attraverso i residui di ricostruzione nello spazio latente, il metodo consente la localizzazione dei guasti. Gli autori notano che questi residui possono essere mappati nuovamente su specifici programmi di test, offrendo agli ingegneri di test informazioni attuabili sulle cause profonde (ad esempio, identificando specifiche deviazioni nelle misurazioni di dispersione) senza richiedere la conoscenza della rappresentazione latente.

Il lavoro si posiziona come un passo significativo in avanti nell'applicazione della modellazione generativa avanzata ai vincoli specifici dei dati di test dei semiconduttori ad alta dimensionalità, correlati spazialmente e estremamente sbilanciati.