Multi-Scale Feature Attention Network for Polymer Classification using THz Dual-Comb Spectroscopy

Technische Samenvatting: Multi-Scale Feature Attention Network voor polymeerclassificatie met behulp van THz Dual-Comb Spectroscopie

Probleemstelling
Betrouwbare polymeeridentificatie is cruciaal voor de kwaliteit en veiligheid van gerecyclede plastics, met name voor voedselverpakkingen en medische hulpmiddelen. De industriële recycling wordt echter gehinderd door knelpunten als gevolg van de moeilijkheid om polymeren nauwkeurig te classificeren binnen heterogene afvalstromen die bestaan uit mengsels, meerlagige films en biopolymeren. Conventionele sorteermethoden (handmatige inspectie, chemische tests) zijn vaak destructief of beperkt tot oppervlakte-eigenschappen. Hoewel spectroscopische technieken zoals infrarood (IR) en Raman niet-invasieve alternatieven bieden, lijden zij onder omgevingsruis, zwakke signalen of fluorescentie-interferentie. Terahertz (THz) spectroscopie vormt een veelbelovende oplossing vanwege de hoge penetratiediepte en het vermogen om zowel amplitude als fase te meten. Toch is conventionele THz Time-Domain Spectroscopy (THz-TDS) beperkt in acquisitiesnelheid en spectrale resolutie, wat hoogdoorvooiende industriële toepassingen belemmert. Bovendien vertrouwen bestaande deep learning-benaderingen voor polymeerclassificatie vaak op datasets die uitsluitend bestaan uit pure polymeren of synthetische mengsels, waardoor ze niet voldoen aan de complexe materiaalsvariabiliteit (mengsels, meerlagige structuren) die in de echte wereld voorkomt.

Methodologie
De auteurs stellen een raamwerk voor dat gebruikmaakt van Terahertz Dual-Comb Spectroscopy (THz-DCS) gecombineerd met een nieuwe deep learning-architectuur, het Multi-Scale Feature Attention Network (MSFAN), om 12 verschillende polymeertypen te classificeren.

1. Data-acquisitie en Preprocessing:

   • Dataset: Metingen werden gedurende vijf dagen verzameld voor 12 polymeercategorieën, inclusief pure polymeren, meerlagige films, commerciële mengsels en biopolymeren. Signalen werden verkregen in het bereik van 100–590 GHz met stappen van 10 GHz (50 frequentiepunten) met zowel low-gain (LG) als high-gain (HG) configuraties.
   • Fysische Invariantie: Om de afhankelijkheid van de spectrale amplitude van de monsterdikte (volgens de wet van Beer-Lambert) aan te pakken, implementeren de auteurs een dikte-invariante normalisatiestrategie. Ruwe spectrale amplitudes worden gedeeld door de monsterdikte ($d$), wat een feature-ruimte $\tilde{X}$ creëert die uitsluitend berust op intrinsieke spectrale signaturen.
   • Signaalintegratie: Experimenten vergeleken single-source inputs (LG, HG) met fusiestrategieën (gemiddelde, maximalisatie, concatenatie en late fusie). De resultaten gaven aan dat de geïsoleerde high-gain (HG) configuratie de beste prestaties leverde, terwijl low-gain data ruis introduceerde.

2. MSFAN Architectuur:
   Het voorgestelde netwerk verwerkt het dikte-invariante spectrum via vier belangrijke stadia:

   • Spectrale Recalibratie (Gating): Een leerbare dense laag met een hard-sigmoid activatiefunctie genereert een attention-mask. Deze mask wordt elementgewijs toegepast op het input-spectrum om spectrale banden dynamisch te herwegen, waardoor achtergrondruis wordt onderdrukt en onderscheidende interferentiekenmerken worden benadrukt.
   • Multi-Scale Feature Extractie: Een inception-geïnspireerde blok gebruikt drie parallelle 1D convolutionele takken met kernelgroottes van 3, 5 en 7. Dit maakt de gelijktijdige detectie van hoogfrequente lokale pieken en brede spectrale trends mogelijk.
   • Global Contextualization (MHSA): Een Multi-Head Self-Attention (MHSA) mechanisme behandelt de feature map als een sequentie om langetermijnafhankelijkheden en de globale spectrale context te vangen.
   • Attention Pooling en Classificatie: Een content-bewuste attention pooling mechanisme aggregeert de sequentie tot een embedding met een vaste lengte door scalaire belangsscores voor elke frequentie te berekenen. Deze embedding wordt gevoed aan een Multilayer Perceptron (MLP) met dropout-regularisatie voor de uiteindelijke classificatie.
   • Optimalisatie: Het model wordt getraind met een gewogen combinatie van cross-entropy loss (met label smoothing) en een $L_1$ sparsity penalty op de gating-activatievector. Deze sparsity-beperking dwingt het netwerk om computationele middelen te richten op onderscheidende frequenties terwijl irrelevante banden worden onderdrukt.

Belangrijkste Bijdragen

• Validatie van THz-DCS: De studie demonstreert de geschiktheid van THz-DCS voor nauwkeurige polymeerclassificatie met behulp van hoogresolutie spectra over een diverse set van 12 materialen, inclusief complexe meerlagige films en mengsels.
• Nieuwe Architectuur (MSFAN): De auteurs introduceren een deep learning-raamwerk dat spectrale selectie, multi-scale convoluties, cross-feature attention en attention-gebaseerde pooling integreert. De architectuur is ontworpen om inherent de meest informatieve THz-frequentiegebieden te identificeren.
• Uitgebreide Evaluatie: In tegenstelling tot eerdere werken die zich richten op pure polymeren, wordt dit raamwerk geëvalueerd op een heterogene dataset die de variabiliteit van de echte industrie weerspiegelt.

Resultaten

• Prestaties: MSFAN behaalde een classificatie-accuratesse van 85,2% en een F1-score van 82,4%, waarmee het state-of-the-art benchmarks versloeg, waaronder Improved CNN PM (83,8% accuratesse), Transformer PM, en standaard ANN/CNN baselines.
• Signaalverwerking: Dikte-invariante normalisatie verbeterde de prestaties met gemiddeld 16,05% vergeleken met ruwe spectrale inputs. De high-gain (HG) signaalconfiguratie bleek superieur aan de low-gain of gefuseerde configuraties.
• Ablatie-studies:
  • Regularisatie: Een optimale sparsity weight ($\lambda = 0,1$) werd geïdentificeerd, wat de accuratesse verbeterde van 82,9% (niet-geregulariseerd) naar 85,2%.
  • Componentanalyse: De volledige integratie van alle modules (Gating, Convoluties, Attention, Pooling) zorgde voor een absolute verbetering van 13,9% in accuratesse ten opzichte van een baseline pooling-only model.
  • Specificiteit: Het model verbeterde aanzienlijk de discriminatie van moeilijke paren, zoals het onderscheiden van Polymeer H (PP/tie/EVOH/tie/PP) van Polymeer J (LDPE), waarbij de paarwijze accuratesse steeg van 61,1% (Improved CNN PM) naar 75,1%.
• Interpretabiliteit: Spectrale saliency-analyse onthulde dat het model beschikt over onderscheidende herkenningsstrategieën voor verschillende polymeren, waarbij specifieke frequentiebereiken (bijv. 300–400 GHz voor sommige, >400 GHz voor andere) worden geprioriteerd op basis van hun structurele eigenschappen.

Betekenis en Claims
Het artikel beweert dat het combineren van THz-DCS met de voorgestelde deep learning-technieken een pad biedt naar effectieve, schaalbare en interpreteerbare polymeerclassificatie. Door de complexiteit van spectrale signalen aan te pakken via multi-scale feature attention en fysische invariantie preprocessing, vestigt de studie een nieuwe benchmark voor nauwkeurigheid in dit domein. De auteurs merken op dat hoewel het huidige werk opereert onder een closed-set aanname op onbesmette monsters, het gedemonstreerde vermogen om onderscheidende frequentiebanden te isoleren de basis legt voor toekomstig werk met betrekking tot open-set herkenning en robuustheid tegen industriële contaminanten. Het onderzoek wordt gefinancierd door de Generalitat Valenciana onder project CIGE/2024/147 (CLAIRE).