Diffuse to Detect: Generative Diffusion Models for Unsupervised IC Anomaly Detection

Technische Zusammenfassung: Diffuse to Detect: Generative Diffusionsmodelle für die unüberwachte Anomalieerkennung in integrierten Schaltungen

Problemstellung
Der Beitrag adressiert die kritische Herausforderung der Screening latenter Defekte in der Halbleiterfertigung. Latente Defekte sind physikalische Unvollkommenheiten (z. B. ohmsche Kurzschlüsse oder Unterbrechungen), die es ermöglichen, dass Bauteile alle funktionalen Testkriterien bestehen, jedoch unter Betriebsbelastung zu Feldausfällen führen. Die Erkennung dieser Defekte ist aufgrund dreier sich verstärkender Faktoren schwierig:

1. Extreme Klassenungleichgewichte: Die Ausfallraten liegen häufig im Bereich von Teilen pro Million (z. B. <0,12 % in den untersuchten Datensätzen), was überwachtes Lernen aufgrund des Mangels an gelabelten Anomaliedaten und der Tendenz von Klassifikatoren, in die Mehrheitsklasse zu kollabieren, unpraktisch macht.
2. Hohe Dimensionalität: Moderne Testprogramme generieren tausende parametrischer Messmerkmale pro Bauteil, wodurch ein hochdimensionaler Merkmalsraum entsteht, in dem traditionelle auf Distanz- oder Dichtebasis beruhende Methoden ohne sorgfältiges Feature-Engineering Schwierigkeiten haben.
3. Strenge Toleranzen: Screening-Systeme müssen die Maximierung der Recall-Rate seltener Anomalien gegen die Minimierung von False Positives abwägen, um Ertragsverluste zu vermeiden; eine Balance, die naive Schwellenwertverfahren oft nicht erreichen.

Bestehende diffusionsbasierte Methoden zur Anomalieerkennung konzentrierten sich primär auf Bilddaten oder niedrigdimensionale tabellarische Daten (z. B. TabDDPM), die Merkmalsvektoren als flache, ungeordnete Eingaben behandeln. Diese Ansätze fehlen die strukturelle induktive Verzerrung, die für hochdimensionale, semantisch heterogene IC-Testdaten erforderlich ist.

Methodik
Die Autoren schlagen Diffuse to Detect vor, ein vollständig unüberwachtes Framework, das einen Diffusion Transformer (DiT) integriert, um die Verteilung von intaktem Silizium zu modellieren. Die Methodik durchläuft folgende Stufen:

1. Dimensionsreduktion und Tokenisierung:

   • Rohdaten hochdimensionaler Messvektoren ($x \in \mathbb{R}^F$, wobei $F \sim 10^3$) werden zunächst durch einen MLP-Encoder mit zwei Schichten in eine kompakte latente Darstellung komprimiert ($h \in \mathbb{R}^{D_r}$, wobei $D_r = 128$).
   • Dieser latente Vektor wird in eine strukturierte 2D-Tokensequenz umgeformt ($Z_0 \in \mathbb{R}^{C \times L}$), analog zum Patch-Embedding in Vision-Transformern. Dies ermöglicht es dem Modell, die Messdaten als Sequenz und nicht als flachen Vektor zu behandeln.

2. Zweistufige Positionscodierung:

   • Feature-Ebene: Feste sinusförmige Embeddings werden hinzugefügt, um die Position der Tokens innerhalb der latenten Sequenz zu codieren und so die semantische Struktur des Testflusses zu erfassen.
   • Die-Ebene: Ein gelernter, gegatterter MLP generiert eine pro-Bauteil-Embedding basierend auf den physikalischen Wafer-Koordinaten ($d_x, d_y$). Dies berücksichtigt systematische räumliche Variationen (z. B. Rand- vs. Mitteleffekte), die in waerebenen Testdaten inhärent sind.

3. Diffusionsprozess:

   • Das Framework verwendet einen 1D-Diffusion Transformer (DiT1D) als Denoising-Rückgrat. Im Gegensatz zu herkömmlichen tabellarischen Diffusionsmodellen, die ResNet-basierte MLPs verwenden, nutzt DiT1D Self-Attention-Mechanismen, um komplexe inter-feature-Korrelationen über die Tokensequenz hinweg zu erfassen.
   • Das Modell wird ausschließlich an intakten Bauteilen unter Verwendung des standardmäßigen DDPM-Ziels trainiert, um das Rauschen vorherzusagen, das während des Vorwärts-Diffusionsprozesses hinzugefügt wurde.

4. Anomalie-Scoring:

   • Während der Inferenz wird ein Anomaliewert aus dem Rauschvorhersagefehler über einen festen Satz von Diffusionsschritten im mittleren Bereich abgeleitet.
   • Bauteile, die außerhalb der gelernten Verteilung von intaktem Silizium liegen, erzeugen erhöhte Rekonstruktionsfehler.
   • Der Ansatz verzichtet auf iteratives Sampling für das Scoring und erfordert nur eine feste Anzahl von Vorwärtsdurchläufen, was ihn für die Hochdurchsatz-Screening in der Produktion geeignet macht.

Hauptbeiträge

• Erstes Diffusions-Framework für IC-Testdaten: Der Beitrag stellt das erste diffusionsmodellbasierte Framework für die unüberwachte Anomalieerkennung bei elektrischen IC-Testdaten vor und eliminiert die Notwendigkeit manuellen Feature-Engineerings.
• Strukturierte Tokenisierung und Positionscodierung: Die Autoren schlagen ein neuartiges zweistufiges Positionscodierungsschema vor, das feste sinusförmige Tokenpositionen mit gelernten, pro-Bauteil Die-Embeddings kombiniert. Dies codiert sowohl die Struktur des Testflusses als auch die räumliche Geometrie des Wafers.
• Diffusion im latenten Raum mit Transformern: Die Arbeit zeigt, dass die Durchführung von Diffusion in einem kompakten latenten Raum unter Verwendung eines Transformer-Denoisers Methoden übertrifft, die Diffusion im rohen Merkmalsraum durchführen oder auf MLP-basierten Denoisern beruhen.

Experimentelle Ergebnisse
Das Framework wurde an zwei industriellen 16-nm-Automotive-IC-Testdatensätzen evaluiert, die durch extreme Klassenungleichgewichte gekennzeichnet sind (Anomalieraten von 0,22 % und 0,12 %).

• Leistung: Das vorgeschlagene DiT1D-Modell erreichte State-of-the-Art-Leistung und übertraf klassische Methoden (z. B. Isolation Forest, PCA), Deep-Learning-Baselines (z. B. GANomaly, DAGMM) und bestehende Diffusionsbaselines (TabDDPM, DTE-Varianten).
  • Auf Datensatz 1 erreichte DiT1D eine AUROC von 0,771 und einen AUCPR von 0,0250 und übertraf damit deutlich die zweitbeste Methode (LOF bzw. DTE-IG). Es erinnerte erfolgreich 3 von 7 bestätigten Anomalien bei einem 95 %-Ertragsschwellenwert, während die meisten Baselines null oder eine erinnerten.
  • Auf Datensatz 2 war DiT1D die einzige Methode, die alle 7 im Testsplit vorhandenen Anomalien am 95 %-Ertrags-Betriebspunkt erinnerte.
• Ablationsstudien:
  • Das Entfernen der Die-Ebenen-Positionseingebung verursachte den größten Leistungsabfall (AUROC sank um 0,234) und unterstreicht die Bedeutung der Modellierung räumlicher Wafer-Variationen.
  • Das Entfernen des Autoencoders (Diffusion im Rohraum) verschlechterte die Leistung erheblich und bestätigte die Notwendigkeit latenter Kompression für hochdimensionale Daten.
  • Der Ersatz des Transformers durch ein MLP-Rückgrat (im Stil von TabDDPM) führte zu niedrigerer AUROC und Recall, was den Nutzen von Self-Attention für die Erfassung inter-token-Korrelationen validiert.

Bedeutung und Behauptungen
Der Beitrag behauptet, dass Diffuse to Detect eine robuste Lösung für die „Zero Defect"-Qualitätsziele bietet, die in den Sektoren Automotive und High-Performance Computing erforderlich sind. Durch den Einsatz generativer Diffusionsmodelle, die ausschließlich auf intakten Daten trainiert wurden, adressiert der Ansatz:

• Die Notwendigkeit gelabelter Anomalien: Dies wird eliminiert, was die Knappheit von Defektdaten in ausgereiften Prozessen adressiert.
• Manuelles Feature-Engineering: Dies wird vermieden, was historisch ein Engpass in Halbleiter-Qualitätspipelines war.
• Interpretierbarkeit: Durch latente Rekonstruktionsresiduen ermöglicht die Methode eine Fehlerlokalisierung. Die Autoren stellen fest, dass diese Residuen zurück auf spezifische Testprogramme abgebildet werden können und Testingenieuren handlungsrelevante Einblicke in die Ursachen liefern (z. B. Identifizierung spezifischer Abweichungen bei Leckstrommessungen), ohne dass Kenntnisse über die latente Darstellung erforderlich sind.

Die Arbeit positioniert sich als bedeutender Schritt vorwärts in der Anwendung fortschrittlicher generativer Modellierung auf die spezifischen Einschränkungen hochdimensionaler, räumlich korrelierter und extrem unausgewogener Halbleiter-Testdaten.