Multi-Scale Feature Attention Network for Polymer Classification using THz Dual-Comb Spectroscopy

Résumé Technique : Réseau d'Attention de Caractéristiques Multi-Échelles pour la Classification de Polymères par Spectroscopie THz à Double Peigne

Énoncé du Problème
L'identification fiable des polymères est cruciale pour la qualité et la sécurité des plastiques recyclés, particulièrement dans le secteur de l'emballage alimentaire et des dispositories médicaux. Cependant, le recyclage industriel fait face à des goulots d'étranglement en raison de la difficulté de classifier précisément les polymères au sein de flux de déchets hétérogènes contenant des mélanges, des films multicouches et des biopolymères. Les méthodes de tri conventionnelles (inspection manuelle, tests chimiques) sont souvent destructives ou limitées aux propriétés de surface. Bien que les techniques spectroscopiques comme l'Infrarouge (IR) et Raman offrent des alternatives non invasives, elles souffrent du bruit environnemental, de signaux faibles ou d'interférences de fluorescence. La spectroscopie térahertz (THz) présente une solution prometteuse grâce à sa grande profondeur de pénétration et sa capacité à mesurer à la fois l'amplitude et la phase. Pourtant, la spectroscopie THz de temps de vol (THz-TDS) conventionnelle est limitée par la vitesse d'acquisition et la résolution spectrale, ce qui entrave l'application industrielle à haut débit. De plus, les approches de deep learning existantes pour la classification des polymères reposent souvent sur des ensembles de données composés exclusivement de polymères purs ou de mélanges synthétiques, ne reflétant pas la variabilité complexe des matériaux (mélanges, multicouches) rencontrée dans les scénarios réels.

Méthodologie
Les auteurs proposent un cadre utilisant la spectroscopie THz à double peigne (THz-DCS) combinée à une nouvelle architecture de deep learning, le Réseau d'Attention de Caractéristiques Multi-Échelles (MSFAN), pour classifier 12 types de polymères distincts.

1. Acquisition et Prétraitement des Données :

   • Jeu de données : Les mesures ont été collectées sur cinq jours pour 12 catégories de polymères, incluant des polymères purs, des films multicouches, des mélanges commerciaux et des biopolymères. Les signaux ont été acquis dans une plage de 100 à 590 GHz avec des pas de 10 GHz (50 points de fréquence) en utilisant des configurations à faible gain (LG) et à haut gain (HG).
   • Invariance Physique : Pour traiter la dépendance de la magnitude spectrale vis-à-vis de l'épaisseur de l'échantillon (régie par la loi de Beer-Lambert), les auteurs implémentent une stratégie de normalisation invariante à l'épaisseur. Les amplitudes spectrales brutes sont divisées par l'épaisseur du échantillon ($d$), créant un espace de caractéristiques $\tilde{X}$ qui repose uniquement sur les signatures spectrales intrinsèques.
   • Intégration du Signal : Les expériences ont comparé les entrées à source unique (LG, HG) aux stratégies de fusion (moyenne, maximisation, concaténation et fusion tardive). Les résultats indiquent que la configuration isolée à haut gain (HG) a produit les meilleures performances, tandis que les données à faible gain introduisaient du bruit.

2. Architecture MSFAN :
   Le réseau proposé traite le spectre invariant à l'épaisseur à travers quatre étapes clés :

   • Recalibrage Spectral (Gating) : Une couche dense apprenable avec une activation hard-sigmoid génère un masque d'attention. Ce masque est appliqué de manière élément par élément au spectre d'entrée pour repondérer dynamiquement les bandes spectrales, supprimant le bruit de fond et accentuant les caractéristiques d'interférence discriminantes.
   • Extraction de Caractéristiques Multi-Échelles : Un bloc inspiré de l'Inception utilise trois branches de convolution 1D parallèles avec des tailles de noyau de 3, 5 et 7. Cela permet de capturer simultanément les pics locaux de haute fréquence et les tendances spectrales larges.
   • Contextualisation Globale (MHSA) : Un mécanisme d'Auto-Attention Multi-Têtes (MHSA) traite la carte de caractéristiques comme une séquence pour capturer les dépendances à longue portée et le contexte spectral global.
   • Pooling d'Attention et Classification : Un mécanisme de pooling d'attention sensible au contenu agrège la séquence en un embedding de longueur fixe en calculant des scores d'importance scalaires pour chaque fréquence. Cet embedding est injecté dans un Perceptron Multicouche (MLP) avec régularisation par dropout pour la classification finale.
   • Optimisation : Le modèle est entraîné à l'aide d'une combinaison pondérée de la perte cross-entropy (avec lissage de label) et d'une pénalité de parcimonie $L_1$ sur le vecteur d'activation du gating. Cette contrainte de parcimonie force le réseau à concentrer les ressources de calcul sur les fréquences discriminantes tout en supprimant les bandes non pertinentes.

Contributions Clés

• Validation de la THz-DCS : L'étude démontre l'aptitude de la THz-DCS pour la classification précise de polymères en utilisant des spectres de haute résolution sur un ensemble diversifié de 12 matériaux, incluant des films multicouches complexes et des mélanges.
• Nouvelle Architecture (MSFAN) : Les auteurs introduisent un cadre de deep learning intégrant la sélection spectrale, les convolutions multi-échelles, l'attention croisée et le pooling basé sur l'attention. L'architecture est conçue pour identifier intrinsèquement les régions de fréquences THz les plus informatives.
• Évaluation Complète : Contrairement aux travaux antérieurs se concentrant sur les polymères purs, ce cadre est évalué sur un jeu de données hétérogène reflétant la variabilité industrielle réelle.

Résultats

• Performance : Le MSFAN a atteint une précision de classification de 85,2 % et un score F1 de 82,4 %, surpassant les références de l'état de l'art, notamment l'Improved CNN PM (83,8 % de précision), le Transformer PM, ainsi que les bases standards ANN/CNN.
• Traitement du Signal : La normalisation invariante à l'épaisseur a amélioré les performances de 16,05 % en moyenne par rapport aux entrées spectrales brutes. La configuration de signal à haut gain (HG) s'est avérée supérieure aux configurations à faible gain ou fusionnées.
• Études d'Ablation :
  • Régularisation : Un poids de parcimonie optimal ($\lambda = 0,1$) a été identifié, améliorant la précision de 82,9 % (non régularisé) à 85,2 %.
  • Analyse des Composants : L'intégration complète de tous les modules (Gating, Convolutions, Attention, Pooling) a fourni une amélioration absolue de 13,9 % de la précision par rapport à un modèle de base utilisant uniquement le pooling.
  • Spécificité : Le modèle a considérablement amélioré la distinction des paires difficiles, comme la différenciation du Polymère H (PP/tie/EVOH/tie/PP) du Polymère J (LDPE), faisant passer la précision par paire de 61,1 % (Improved CNN PM) à 75,1 %.
• Interprétabilité : L'analyse de saillance spectrale a révélé que le modèle adopte des stratégies de reconnaissance distinctes pour différents polymères, privilégiant des plages de fréquences spécifiques (ex: 300–400 GHz pour certains, >400 GHz pour d'autres) basées sur leurs propriétés structurelles.

Signification et Revendications
L'article affirme que la combinaison de la THz-DCS avec les techniques de deep learning proposées offre une voie vers une classification des polymères efficace, scalable et interprétable. En traitant la complexité des signaux spectraux via l'attention de caractéristiques multi-échelles et le prétraitement d'invariance physique, l'étude établit un nouveau standard de précision dans ce domaine. Les auteurs notent que bien que le présent travail opère sous une hypothèse de système fermé sur des échantillons non contaminés, la capacité démontrée à isoler les bandes de fréquences discriminantes pose les jalons de futurs travaux impliquant la reconnaissance en système ouvert et la robustesse face aux contaminants industriels. Cette recherche est financée par la Generalitat Valenciana sous le projet CIGE/2024/147 (CLAIRE).