Multi-Scale Feature Attention Network for Polymer Classification using THz Dual-Comb Spectroscopy

Technische Zusammenfassung: Multi-Scale Feature Attention Network zur Polymerklassifizierung mittels THz-Dual-Comb-Spektroskopie

Problemstellung
Eine zuverlässige Identifizierung von Polymeren ist entscheidend für die Qualität und Sicherheit von recycelten Kunststoffen, insbesondere bei Lebensmittelverpackungen und medizinischen Geräten. Der industrielle Recyclingprozess steht jedoch vor Engpässen, da die genaue Klassifizierung von Polymeren in heterogenen Abfallströssen, die Mischungen, Multilayer-Folien und Biopolymere enthalten, schwierig ist. Herkömmliche Sortierverfahren (manuelle Inspektion, chemische Tests) sind oft destruktiv oder auf Oberflächeneigenschaften beschränkt. Spektroskopische Techniken wie Infrarot (IR) und Raman bieten zwar nicht-invasive Alternativen, leiden jedoch unter Umgebungsrauschen, schwachen Signalen oder Fluoreszenzinterferenzen. Die Terahertz (THz)-Spektroskopie stellt eine vielversprechende Lösung dar, da sie eine hohe Eindringtiefe besitzt und die Fähigkeit bietet, sowohl Amplitude als sich Phase zu messen. Dennoch ist die konventionelle THz-Zeitbereichsspektroskopie (THz-TDS) durch die Erfassungsgeschwindigkeit und spektrale Auflösung begrenzt, was die Anwendung in Hochdurchsatz-Industrieprozessen erschwert. Darüber hinaus verlassen sich bestehende Deep-Learning-Ansätze zur Polymerklassifizierung häufig auf Datensätze, die ausschließlich aus reinen Polymeren oder synthetischen Mischungen bestehen, und bilden die komplexe Materialvariabilität (Blends, Multilayer), wie sie in realen Szenarien vorkommt, nicht ausreichend ab.

Methodik
Die Autoren schlagen ein Framework vor, das Terahertz-Dual-Comb-Spektroskopie (THz-DCS) mit einer neuartigen Deep-Learning-Architektur, dem Multi-Scale Feature Attention Network (MSFAN), zur Klassifizierung von 12 verschiedenen Polymertypen kombiniert.

1. Datenerfassung und Vorverarbeitung:

   • Datensatz: Messungen wurden über fünf Tage für 12 Polymerkategorien durchgeführt, darunter reine Polymere, Multilayer-Folien, kommerzielle Blends und Biopolymere. Die Signale wurden im Bereich von 100–590 GHz mit 10-GHz-Schritten (50 Frequenzpunkte) sowohl in Low-Gain- (LG) als auch in High-Gain-Konfigurationen (HG) erfasst.
   • Physikalische Invarianz: Um die Abhängigkeit der Spektralamplitude von der Probenstärke (geregelt durch das Beer-Lambert-Gesetz) zu adressieren, implementieren die Autoren eine strategie zur dicken-invarianten Normalisierung. Die rohen Spektralamplituden werden durch die Probendicke ($d$) geteilt, wodurch ein Merkmalsraum $\tilde{X}$ entsteht, der ausschließlich auf intrinsischen Spektralsignaturen basiert.
   • Signalintegration: In Experimenten wurden Single-Source-Inputs (LG, HG) gegenüber Fusionsstrategien (Mittelwertbildung, Maximierung, Konkatenation und Late Fusion) verglichen. Die Ergebnisse zeigten, dass die isolierte High-Gain-Konfiguration (HG) die beste Leistung erbrachte, während die Low-Gain-Daten Rauschen einführten.

2. MSFAN-Architektur:
   Das vorgeschlagene Netzwerk verarbeitet das dicken-invariante Spektrum über vier Schlüsselstadien:

   • Spektrale Rekalibrierung (Gating): Eine lernbare dichte Schicht mit einer Hard-Sigmoid-Aktivierungsfunktion erzeugt eine Attention-Maske. Diese Maske wird elementweise auf das Eingangsspektrum angewendet, um Spektralbänder dynamisch umzugewichten, Hintergrundrauschen zu unterdrücken und diskriminative Interferenzmerkmale hervorzuheben.
   • Multi-Scale Feature Extraktion: Ein Inception-inspiriertes Modul verwendet drei parallele 1D-Faltungsgrenzen mit Kernelgrößen von 3, 5 und 7. Dies ermöglicht die gleichzeitige Erfassung hochfrequenter lokaler Peaks und breiter Spektraltrends.
   • Globale Kontextualisierung (MHSA): Ein Multi-Head Self-Attention (MHSA)-Mechanismus behandelt die Feature-Map als Sequenz, um weitreichende Abhängigkeiten und den globalen Spektralkontext zu erfassen.
   • Attention Pooling und Klassifizierung: Ein inhaltsbewusster Attention-Pooling-Mechanismus aggregiert die Sequenz zu einem Embedding fester Länge, indem er skalare Wichtigkeitswerte für jede Frequenz berechnet. Dieses Embedding wird in ein Multilayer Perceptron (MLP) mit Dropout-Regularisierung zur finalen Klassifizierung eingespeist.
   • Optimierung: Das Modell wird unter Verwendung einer gewichteten Kombination aus Cross-Entropy-Loss (mit Label Smoothing) und einem $L_1$-Sparsity-Penalty auf den Gating-Aktivationsvektor trainiert. Diese Sparsity-Beschränkung zwingt das Netzwerk dazu, Rechenressourcen auf diskriminative Frequenzen zu konzentrieren und irrelevante Bänder zu unterdrücken.

Zentrale Beiträge

• Validierung von THz-DCS: Die Studie demonstriert die Eignung von THz-DCS für die präzise Polymerklassifizierung unter Verwendung hochauflösender Spektren für einen vielfältigen Satz von 12 Materialien, einschließlich komplexer Multilayer-Folien und Blends.
• Neuartige Architektur (MSFAN): Die Autoren führen ein Deep-Learning-Framework ein, das Spektralselektion, Multi-Scale-Faltungen, Cross-Feature-Attention und Attention-basiertes Pooling integriert. Die Architektur ist darauf ausgelegt, inhärent die informativsten THz-Frequenzbereiche zu identifizieren.
• Umfassende Evaluierung: Im Gegensatz zu früheren Arbeiten, die sich auf reine Polymere konzentrierten, wird dieses Framework auf einem heterogenen Datensatz evaluiert, der die reale industrielle Variabilität widerspiegelt.

Ergebnisse

• Leistung: MSFAN erreichte eine Klassifizierungsgenauigkeit von 85,2 % und einen F1-Score von 82,4 % und übertraf damit State-of-the-Art-Benchmarks einschließlich Improved CNN PM (83,8 % Genauigkeit), Transformer PM sowie Standard-ANN/CNN-Baselines.
• Signalverarbeitung: Die dicken-invariante Normalisierung verbesserte die Leistung im Vergleich zu rohen Spektralinputs um durchschnittlich 16,05 %. Die High-Gain-Signal-Konfiguration (HG) erwies sich als überlegen gegenüber Low-Gain- oder fusionierten Konfigurationen.
• Ablationsstudien:
  • Regularisierung: Ein optimales Sparsity-Gewicht ($\lambda = 0,1$) wurde identifiziert, welches die Genauigkeit von 82,9 % (unreguliert) auf 85,2 % steigerte.
  • Komponentenanalyse: Die vollständige Integration aller Module (Gating, Faltungen, Attention, Pooling) führte zu einer absoluten Verbesserung der Genauigkeit um 13,9 % gegenüber einem Baseline-Modell mit nur Pooling.
  • Spezifität: Das Modell verbesserte signifikant die Unterscheidung schwieriger Paare, wie etwa die Differenzierung zwischen Polymer H (PP/tie/EVOH/tie/PP) und Polymer J (LDPE), wobei die paarweise Genauigkeit von 61,1 % (Improved CNN PM) auf 75,1 % gesteigert wurde.
• Interpretierbarkeit: Die Spektral-Saliency-Analyse ergab, dass das Modell unterschiedliche Erkennungsstrategien für verschiedene Polymere anwendet, indem es spezifische Frequenzbereiche (z. B. 300–400 GHz für einige, >400 GHz für andere) basierend auf deren strukturellen Eigenschaften priorisiert.

Bedeutung und Ansprüche
Die Arbeit behauptet, dass die Kombination von THz-DCS mit den vorgeschlagenen Deep-Learning-Techniken einen Weg zu einer effektiven, skalierbaren und interpretierbaren Polymerklassifizierung eröffnet. Durch die Adressierung der Komplexität der Spektralsignale mittels Multi-Scale Feature Attention und physikalisch-invarianter Vorverarbeitungsetzung etabliert die Studie einen neuen Benchmark für die Genauigkeit in diesem Bereich. Die Autoren merken an, dass die aktuelle Arbeit unter einer Closed-Set-Annahme für unkontaminierte Proben operiert, die demonstrierte Fähigkeit zur Isolierung diskriminativer Frequenzbänder jedoch die Grundlage für zukünftige Arbeiten im Bereich der Open-Set-Erkennung und der Robustheit gegenüber industriellen Kontaminationen legt. Die Forschung wird durch die Generalitat Valenciana im Rahmen des Projekts CIGE/2024/147 (CLAIRE) gefördert.