論文要約：SE-Enhanced ViT および BiLSTM に基づく、IIoT/IoMT 環境向けのセキュアな侵入検知システム

本論文は、産業用インターネット・オブ・シングス（IIoT）および医療用インターネット・オブ・シングス（IoMT）の急速な拡大に伴うサイバー脅威の検出課題に対処するため、**ハイブリッド深層学習モデル「SE-ViT-BiLSTM」**を提案した研究です。このモデルは、視覚変換器（ViT）の空間的特徴抽出能力と、双方向長短期記憶（BiLSTM）の時間的依存関係学習能力を組み合わせ、さらに Squeeze-and-Excitation（SE）アテンション機構を導入することで、高精度かつ低遅延な侵入検知システム（IDS）を実現しています。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細にまとめます。

---

1. 問題定義と背景

• 課題: IIoT と IoMT 環境では、多様なデバイスが接続され、リアルタイムなデータ収集・分析が行われています。しかし、ネットワークの異質性と高度な接続性により、マルウェア、不正アクセス、データ漏洩などのサイバー脅威への脆弱性が増大しています。
• 既存手法の限界: 従来の署名ベースや異常検知ベースの IDS は、高度化・変化する攻撃（ゼロデイ攻撃を含む）を検知する際に限界があり、特にクラス不均衡（攻撃サンプルが正常トラフィックに比べて極端に少ない）の問題により、検出精度が低下する傾向があります。
• 目的: 空間的特徴（ネットワークパケットの構造）と時間的パターン（トラフィックの経時変化）の両方を効果的に捉え、クラス不均衡を克服しつつ、高精度・低遅延な多クラス分類による侵入検知を行うことです。

2. 提案手法：SE-ViT-BiLSTM アーキテクチャ

提案モデルは、2 つの主要なブランチを並列に処理し、その特徴を融合するハイブリッド構造を採用しています。

A. データ前処理

• データセット: 実世界のベンチマークである「EdgeIIoTset」と「CICIoMT2024」の 2 つを使用。
• 前処理: ラベルエンコーディング、カテゴリカル特徴のエンコーディング、不要な特徴の除去。
• クラス不均衡の対策:
  • EdgeIIoT データセットには SMOTE（Synthetic Minority Over-sampling Technique）を適用。
  • CICIoMT2024 データセットには RandomOverSampler を適用。
  • これにより、少数クラスの攻撃パターンを過学習させずに学習可能にしました。
• 分割: 80% を学習用、20% を検証用として分割。

B. モデル構造

1. 入力層: データセットに応じて特徴量数（EdgeIIoT: 60 次元、CICIoMT2024: 83 次元）と時間次元（1）を受け取る。
2. ブランチ 1（SE-ViT パスウェイ）:
   • 入力特徴を Dense 層で高次元埋め込み空間へ投影。
   • SE アテンション機構を統合したカスタム ViT ブロックを使用。従来のマルチヘッド自己アテンションの代わりに、SE ブロック（グローバル平均プーリング、2 層の Dense 層、シグモイド関数）を用いてチャネルごとの重要度を算出し、特徴を再スケーリング（再較正）します。
   • 残差接続とレイヤー正規化を経て、BiLSTM パスウェイと融合する形式に変換。
3. ブランチ 2（BiLSTM パスウェイ）:
   • 双方向 LSTM（32 ユニット）を用いて、入力シーケンスの前後方向から時間的依存関係を学習。
   • 時系列のダイナミクスを保持し、フラット化して ViT 出力と結合。
4. 特徴融合と出力:
   • 両ブランチの出力を連結（Concatenate）し、空間的・時間的依存性を網羅した特徴ベクトルを生成。
   • Softmax 活性化関数を持つ Dense 層で、6 つの攻撃クラス（またはデータセットに応じたクラス数）に分類。

3. 主要な貢献

1. 新規ハイブリッドアーキテクチャの設計: ViT の空間特徴抽出、BiLSTM の時間学習、SE ブロックの適応的再較正を統合し、検出精度と計算効率を向上させた。
2. 実世界データセットでの厳密な評価: EdgeIIoT と CICIoMT2024 の 2 つの主要ベンチマークを用い、バランス化前・後で比較評価を実施。
3. クラス不均衡への効果的な対応: SMOTE と RandomOverSampler の適用により、少数クラスの攻撃検出能力を大幅に改善。
4. 多クラス分類タスクへの適用: 異なる IoT 環境における多様なサイバー攻撃タイプ（DDoS, MITM, Malware など）の正確な検出と分類を実現。
5. 包括的な性能評価: 精度だけでなく、FPR（偽陽性率）、推論時間（レイテンシ）、損失値、AUC などの多角的な指標で、最先端手法との比較を行った。

4. 実験結果

Google Colab（T4 GPU）環境で 50 エポック学習を行い、以下の結果が得られました。

性能指標の比較（バランス化前後）

データセット	条件	精度 (Accuracy)	FPR	推論時間 (sec/inst)
EdgeIIoT	バランス化前	99.11%	0.0013%	0.00032
	バランス化後	99.33%	0.0013%	0.00035
CICIoMT2024	バランス化前	96.10%	0.0036%	0.00053
	バランス化後	98.16%	0.0036%	0.00014

• バランス化の効果: CICIoMT2024 データセットにおいて、バランス化により精度が 96.10% から 98.16% に向上し、損失値と FPR も大幅に減少しました。特に MQTT などの少数クラスにおける誤分類が解消されました。
• 推論速度: 両データセットとも、1 インスタンスあたりの推論時間が 0.0003 秒〜0.0005 秒と極めて短く、リアルタイム検知に適していることが確認されました。
• アブレーション研究: 並列構造（SE-ViT と BiLSTM を並列に実行し融合）が、直列構造や BiLSTM 単体よりも優れていることが示されました。モデルサイズを単純に大きくする（Model #4）よりも、適切な特徴融合（Model #3）が性能向上に寄与しました。
• ROC 曲線: バランス化後、CICIoMT2024 のすべてのクラスで AUC が 1.00 に達し、検出性能が均一に向上しました。

5. 意義と結論

• 実用性: 提案モデルは、IIoT/IoMT 環境における複雑な攻撃パターンを高精度に検出でき、かつ極めて低いレイテンシを実現しているため、実システムへの導入が期待されます。
• データ不均衡の解決: クラス不均衡を無視した場合、少数クラスの攻撃（特に IoT 特有の MQTT 関連攻撃など）の検出が困難でしたが、サンプリング技術の適用によりこの課題を克服しました。
• 将来展望: 今後の研究では、モデルの一般化能力を高めるための追加データセットでの評価、モデル圧縮およびエッジコンピューティングへの最適化、そして XAI（説明可能な AI）を用いた意思決定支援機能の強化が予定されています。

総じて、本論文は、最新の深層学習技術（ViT, BiLSTM, SE）を組み合わせることで、次世代 IoT 環境のセキュリティを強化する効果的なフレームワークを提示した点に大きな意義があります。