Multi-Scale Feature Attention Network for Polymer Classification using THz Dual-Comb Spectroscopy

技術要約：THzデュアルコム分光法を用いたポリマー分類のためのマルチスケール特徴アテンションネットワーク

問題提起
再生プラスチック、特に食品包装や医療機器における品質と安全性の観点から、信頼性の高いポリマー識別は極めて重要である。しかし、産業的なリサイクルにおいては、混合物、多層フィルム、バイオポリマーを含む不均一な廃棄物ストリームの中からポリマーを正確に分類することが困難であるため、ボトルネックとなっている。従来の選別方法（目視検査、化学試験）は、破壊的であったり、表面特性に限定されたりすることが多い。赤外線（IR）やラマン分光法のような分光技術は非侵襲的な代替案を提供するが、環境ノイズ、微弱な信号、あるいは蛍光干渉に悩まされる。テラヘルツ（THz）分光法は、高い浸透深さと振幅および位相の両方を測定できる能力により、有望なソリューションを提示している。しかし、従来のTHz時間領域分光法（THz-TDS）は、取得速度とスペクトル分解能において制限があり、高スループットな産業応用を阻害している。さらに、ポリマー分類のための既存のディープラーニング・アプローチは、純粋なポリマーまたは合成混合物のみで構成されたデータセットに依存することが多く、現実世界のシナリオに見られる複雑な材料の多様性（ブレンド、多層構造）を反映できていない。

手法
著者らは、テラヘルツ・デュアルコム分光法（THz-DCS）と、新規のディープラーニング・アーキテクチャであるマルチスケール特徴アテンションネットワーク（MSFAN）を組み合わせたフレームワークを提案している。

1. データ取得および前処理:

   • データセット: 12種類のポリマーカテゴリ（純粋なポリマー、多層フィルム、市販のブレンド、バイオポリマーを含む）について、5日間にわたって測定を実施した。信号は100–590 GHzの範囲で10 GHzステップ（50個の周波数ポイント）を用いて、低利得（LG）および高利得（HG）の両方の構成で取得された。
   • 物理的不変性: スペクトルの振幅が試料の厚さに依存すること（ビール・ランベルトの法則による）に対処するため、著者らは厚さ不変の正規化戦略を実装している。生のスペクトル振幅を試料の厚さ（$d$）で除算することにより、固有のスペクトル特性のみに依存する特徴空間 $\tilde{X}$ を作成する。
   • 信号統合: 実験では、単一ソース入力（LG、HG）を、融合戦略（平均化、最大化、結合、および後期融合）と比較した。結果として、孤立した高利得（HG）構成が最高の性能を示し、低利得データはノイズを導入することが判明した。

2. MSFAN アーキテクチャ:
   提案されたネットワークは、厚さ不変のスペクトルを以下の4つの主要なステージで処理する：

   • スペクトル再校正（ゲーティング）: ハードシグモイド活性化関数を持つ学習可能な高密度層が、アテンションマスクを生成する。このマスクは入力スペクトルに要素ごとに適用され、背景ノイズを抑制し、識別的な干渉特徴を強調するようにスペクトルバンドを動的に再重み付けする。
   • マルチスケール特徴抽出: インセプションに触発されたブロックが、カーネルサイズ3、5、7の3つの並列な1D畳み込みブランチを採用している。これにより、高周波の局所的なピークと広範なスペクトルの傾向を同時に捉えることが可能となる。
   • グローバル・コンテキスト化（MHSA）: マルチヘッド自己注意（MHSA）メカニズムが、特徴マップをシーケンスとして扱い、長距離の依存関係とグローバルなスペクトル・コンテキストを捉える。
   • アテンション・プーリングおよび分類: コンテンツ認識型アテンション・プーリング・メカニズムが、各周波数のスカラー重要度スコアを計算することで、シーケンスを固定長のエムベディングへと集約する。このエムベディングは、最終分類のためにドロップアウト正則化を備えた多層パーセプトロン（MLP）へと入力される。
   • 最適化: モデルは、ラベル平滑化を伴うクロスエントロピー損失と、ゲーティング活性化ベクトルに対する $L_1$ 疎性ペナルティの加重結合を用いて訓練される。この疎性制約は、ネットワークが識別的な周波数に計算リソースを集中させ、無関係なバンドを抑制するように強制する。

主な貢献

• THz-DCSの検証: 本研究は、多様な12種類の材料（複雑な多層フィルムやブレンドを含む）に対して高分解能スペクトルを用いた、ポリマー分類のためのTHz-DCSの適合性を実証している。
• 新規アーキテクチャ（MSFAN）: 著者らは、スペクトル選択、マルチスケール畳み込み、クロス特徴アテンション、およびアテンションベースのプーリングを統合したディープラーニング・フレームワークを導入している。このアーキテクチャは、最も情報量の多いTHz周波数領域を本質的に特定するように設計されている。
• 包括的な評価: 純粋なポリマーに焦点を当てた先行研究とは異なり、本フレームワークは、現実世界の産業的な多様性を反映した不均一なデータセットを用いて評価されている。

結果

• 性能: MSFANは、分類精度**85.2%およびF1スコア82.4%**を達成し、Improved CNN PM（精度83.8%）、Transformer PM、および標準的なANN/CNNベースラインを含む最先端のベンチマークを上回った。
• 信号処理: 厚さ不変の正規化は、生のスペクトル入力と比較して平均16.05%の性能向上をもたらした。高利得（HG）信号構成は、低利得または融合構成よりも優れていることが証明された。
• アブレーション研究:
  • 正則化: 最適な疎性重み（$\lambda = 0.1$）が特定され、精度が82.9%（未正則化）から85.2%へと向上した。
  • コンポーネント分析: すべてのモジュール（ゲーティング、畳み込み、アテンション、プーリング）の完全な統合は、ベースラインのプーリングのみのモデルと比較して、13.9%の絶対的な精度向上を提供した。
  • 特異性: モデルは、ポリマーH（PP/tie/EVOH/tie/PP）とポリマーJ（LDPE）のような困難なペアの識別を大幅に改善し、ペアワイズ精度をImproved CNN PMの61.1%から75.1%へと上昇させた。
• 解釈性: スペクトルのサリエンス解析により、モデルが異なるポリマーに対して異なる認識戦略を採用していることが明らかになった。すなわち、構造特性に基づいて、特定の周波数範囲（例：あるものについては300–400 GHz、別のものについては>400 GHz）を優先的に利用している。

意義および主張
本論文は、提案されたディープラーニング技術とTHz-DCSを組み合わせることが、効果的でスケーラブル、かつ解釈可能なポリマー分類への道筋を提供すると主張している。マルチスケール特徴アテンションと物理的不変性の前処理を通じてスペクトル信号の複雑さに対処することで、本研究はこの領域における新たな精度のベンチマークを確立している。著者らは、現在の研究が汚染されていないサンプルに対するクローズドセットの仮定の下で動作しているものの、識別的な周波数バンドを分離する実証された能力が、オープンセット認識や産業的汚染物質に対する堅牢性に関する将来の研究への基礎を築くものであると述べている。本研究は、プロジェクト CIGE/2024/147 (CLAIRE) に基づき、Generalitat Valenciana の支援を受けている。