Multi-Scale Feature Attention Network for Polymer Classification using THz Dual-Comb Spectroscopy

기술 요약: THz 듀얼 콤 분광법을 이용한 고분자 분류를 위한 다중 스케일 특징 주의 네트워크(Multi-Scale Feature Attention Network)

문제 정의
신뢰할 수 있는 고분자 식별은 특히 식품 포장재 및 의료 기기와 관련된 재활용 플라스틱의 품질과 안전을 위해 매우 중요합니다. 그러나 산업적 재활용은 혼합물, 다층 필름, 바이오 폴리머가 포함된 이질적인 폐기물 스트림 내에서 고분자를 정확하게 분류하는 데 따르는 어려움으로 인해 병목 현상을 겪고 있습니다. 기존의 분류 방법(육안 검사, 화학적 테스트)은 파괴적이거나 표면 특성에 국한되는 경우가 많습니다. 적외선(IR)이나 라만(Raman) 분광법과 같은 분광 기술은 비파괴적인 대안을 제공하지만, 환경 노이즈, 약한 신호 또는 형광 간섭 문제에 직면해 있습니다. 테라헤르츠(THz) 분광법은 높은 투과 깊이와 진폭 및 위상을 모두 측정할 수 있는 능력을 갖추고 있어 유망한 해결책을 제시합니다. 그러나 기존의 THz 시계열 도메인 분광법(THz-TDS)은 획득 속도와 스펙트럼 해상도 측면에서 한계가 있어 고처리량 산업 응용을 저해합니다. 또한, 고분자 분류를 위한 기존의 딥러닝 접근 방식은 순수 고분자로만 구성된 데이터셋에 의존하는 경우가 많아, 실제 현장에서 발견되는 복잡한 재료 가변성(혼합물, 다층 구조)을 반영하지 못합니다.

방법론
저자들은 12가지의 서로 다른 고분자 유형을 분류하기 위해 테라헤르츠 듀얼 콤 분광법(THz-DCS)과 새로운 딥러닝 아키텍처인 다중 스케일 특징 주의 네트워크(MSFAN)를 활용하는 프레임워크를 제안합니다.

1. 데이터 획득 및 전처리:

   • 데이터셋: 순수 고분자, 다층 필름, 상업용 혼합물 및 바이오 폴리머를 포함한 12가지 고분자 범주에 대해 5일 동안 측정을 수행했습니다. 신호는 100–590 GHz 범위에서 10 GHz 단계(50개 주파수 지점)로 저이득(LG) 및 고이득(HG) 구성을 모두 사용하여 획득되었습니다.
   • 물리적 불변성: 샘플 두께에 따른 스펙트럼 크기의 의존성(Beer-Lambert 법칙에 의해 결정됨)을 해결하기 위해, 저자들은 두께 불변 정규화 전략을 구현합니다. 원시 스펙트럼 진폭을 샘플 두-께($d$)로 나누어, 고유한 스펙트럼 시그니처에만 의존하는 특징 공간 $\tilde{X}$를 생성합니다.
   • 신호 통합: 실험에서는 단일 소스 입력(LG, HG)을 다양한 융합 전략(평균화, 최대화, 연결 및 후기 융합)과 비교했습니다. 결과는 고립된 고이득(HG) 구성이 가장 우수한 성능을 보였으며, 저이득 데이터는 노이즈를 유발한다는 것을 보여주었습니다.

2. MSFAN 아키텍처:
   제안된 네트워크는 네 가지 핵심 단계를 통해 두께 불변 스펙트럼을 처리합니다:

   • 스펙트럼 재교정 (게이팅): 하드 시그모이드 활성화 함수를 사용하는 학습 가능한 밀집 레이어가 어텐션 마스크를 생성합니다. 이 마스크는 입력 스펙트럼에 요소별로 적용되어 배경 노이즈를 억제하고 변별력 있는 간섭 특징을 강조함으로써 스펙트럼 밴드를 동적으로 재가중합니다.
   • 다중 스케일 특징 추출: 인셉션(Inception)에서 영감을 받은 블록은 커널 크기가 3, 5, 7인 세 개의 병렬 1D 컨볼루션 브랜치를 사용합니다. 이를 통해 고주파 국부 피크와 광범위한 스펙트럼 추세를 동시에 포착할 수 있습니다.
   • 전역적 맥락화 (MHSA): 멀티 헤드 셀프 어텐션(MHSA) 메커니즘은 특징 맵을 시퀀스로 취급하여 장거리 의존성과 전역적 스펙트럼 맥락을 포착합니다.
   • 어텐션 풀링 및 분류: 콘텐츠 인식 어텐션 풀링 메커니션은 각 주파수에 대한 스칼라 중요도 점수를 계산하여 시퀀스를 고정 길이 임베딩으로 집계합니다. 이 임베딩은 최종 분류를 위해 드롭아웃 규제가 적용된 다층 퍼셉트론(MLP)으로 전달됩니다.
   • 최적화: 모델은 크로스 엔트로피 손실(레이블 평활화 포함)과 게이팅 활성화 벡터에 대한 $L_1$ 희소성 페널티의 가중 결합을 사용하여 학습됩니다. 이 희소성 제약 조건은 네트워크가 무관한 밴드를 억제하면서 변별력 있는 주파수에 계산 자원을 집중하도록 강제합니다.

주요 기여

• THz-DCS 검증: 본 연구는 복잡한 다층 필름 및 혼합물을 포함한 1-12종의 다양한 재료에 대해 고해상도 스펙트럼을 사용하여 고분자 분류를 위한 THz-DCS의 적합성을 입증했습니다.
• 새로운 아키텍처 (MSFAN): 저자들은 스펙트럼 선택, 다중 스케일 컨볼루션, 교차 특징 어텐션 및 어텐션 기반 풀링을 통합한 딥러닝 프레임워크를 소개합니다. 이 아키텍처는 정보가 풍부한 THz 주파수 영역을 본질적으로 식별하도록 설계되었습니다.
• 포괄적 평가: 순수 고분자에 초점을 맞춘 기존 연구와 달리, 본 프레임워크는 실제 산업적 가변성을 반영하는 이질적인 데이터셋을 통해 평가되었습니다.

결과

• 성능: MSFAN은 **85.2%**의 분류 정확도와 **82.4%**의 F1-score를 달성하여, Improved CNN PM(83.8% 정확도), Transformer PM, 표준 ANN/CNN 베이스라인을 포함한 최첨단 벤치마크를 능가했습니다.
• 신호 처리: 두께 불변 정규화는 원시 스펙트럼 입력 대비 평균 16.05%의 성능 향상을 가져왔습니다. 고이득(HG) 신호 구성이 저이득 또는 융합 구성보다 우수함이 증명되었습니다.
• 어블레이션 연구 (Ablation Studies):
  • 규제화: 최적의 희소성 가중치($\lambda = 0.1$)가 식별되었으며, 이는 정확도를 82.9%(비규제)에서 85.2%로 향상시켰습니다.
  • 구성 요소 분석: 모든 모듈(게이팅, 컨볼루션, 어텐션, 풀링)의 완전한 통합은 풀링 전용 베이스라인 모델보다 정확도에서 13.9%의 절대적 향상을 제공했습니다.
  • 특이성: 모델은 어려운 쌍, 예를 들어 고분자 H(PP/tie/EVOH/tie/PP)와 고분자 J(LDPE)를 구별하는 능력을 크게 개선하여, 쌍별 정확도를 61.1%(Improved CNN PM)에서 75.1%로 높였습니다.
• 해석 가능성: 스펙트럼 살리언시(Saliency) 분석 결과, 모델은 구조적 특성에 따라 특정 주파수 범위(예: 일부는 300–400 GHz, 다른 것은 >400 GHz)를 우선시하는 등 서로 다른 인식 전략을 채택함을 보여주었습니다.

의의 및 주장
본 논문은 제안된 딥러닝 기술과 THz-DCS를 결합하는 것이 효과적이고 확장 가능하며 해석 가능한 고분자 분류를 위한 경로를 제공한다고 주장합니다. 다중 스케일 특징 어텐션과 물리적 불변성 전처리를 통해 스펙트럼 신호의 복잡성을 해결함으로써, 본 연구는 이 분야에서 정확도의 새로운 벤치마크를 설정했습니다. 저자들은 현재 작업이 오염되지 않은 샘플에 대한 폐쇄 집합(closed-set) 가정하에 수행되었지만, 변별력 있는 주파수 밴드를 격리하는 입증된 능력은 향후 개방 집합(open-set) 인식 및 산업적 오염 물질에 대한 강건성을 다루는 연구의 토대를 마련한다고 언급했습니다. 본 연구는 프로젝트 CIGE/2024/147 (CLAIRE)에 따라 Generalitat Valenciana의 지원을 받았습니다.