Unsupervised Detection of Spatiotemporal Anomalies in PMU Data Using Transformer-Based BiGAN

إليك ملخص تقني مفصل لورقة البحث بعنوان: "الكشف غير الخاضع للإشراف عن الشذوذ الزمكاني في بيانات وحدات قياس الطور (PMU) باستخدام نموذج T-BiGAN القائم على المحولات (Transformer)."

1. بيان المشكلة

تتناول الورقة التحدي الحرج المتمثل في الكشف غير الخاضع للإشراف عن الشذوذ (Unsupervised Anomaly Detection) في تدفقات بيانات وحدات قي aspek (PMU) متعددة المتغيرات وعالية الدقة داخل الشبكات الكهربائية الحديثة.

• السياق: تتطور الشبكات الكهربائية لتصبح أنظمة سيبرانية-فيزيائية معقدة حيث توفر وحدات الـ PMU بيانات متزامنة زمنياً للجهد، والتيار، والتردد، ومعدل تغير التردد (ROCOF).
• التحدي: يجب اكتشاف حالات الشذوذ (الناتجة عن أعطال المعدات، أو الهجمات السيبرانية، أو ديناميكيات النظام) في الوقت الفعلي دون الاعتماد على بيانات أعطال مصنفة، وهي بيانات نادرة ومكلفة للغاية في الحصول عليها.
• قصور الأساليب الحالية:
  • الأساليب الخاضعة للإشراف: تتطلب مجموعات بيانات ضخمة مصنفة.
  • الأساليب التقليدية غير الخاضعة للإشراف (مثل PCA و Isolation Forest): تعاني من الحساسية تجاه الضوضاء وتفتقر إلى السياق الزمني.
  • التعلم العميق (مثل CNNs و LSTMs و GANs القياسية): غالباً ما تفشل في التقاط الاعتمادات الزمكانية طويلة المدى عبر وحدات PMU الموزعة جغرافياً، أو تخلط بين الانحرافات الطفيفة في المعلمات وبين الشذوذ الحقيقي، مما يؤدي إلى معدلات إنذار كاذب مرتفعة.

2. المنهجية: إطار عمل T-BiGAN

يقترح المؤلفون T-BiGAN (شبكة خصومية توليدية ثنائية الاتجاه مدعومة بالمحولات)، وهو إطار عمل مبتكر غير خاضع للإشراف مصمم لتعلم تمثيلات زمكانية قوية لسلوك الشبكة الطبيعي.

أ. البنية الهيكلية

يدمج النموذج ثلاثة مكونات مترابطة بشكل وثيق:

1. المُشفّر المعتمد على المحولات (Transformer Encoder - $E$): يقوم بتحويل لقطات قياسات الـ PMU إلى متجه كامن ($z$). يستخدم آلية الانتباه الذاتي القائمة على النوافذ (window-based self-attention) لتخصيص أوزان ديناميكية لقنوات الطور، مما يلتقط الارتباطات الحرجة عبر كل من الزمان والمكان (مواقع PMU المختلفة).
2. المولّد المعتمد على المحولات (Transformer Generator - $G$): يعيد بناء قياسات الـ PMU المدخلة من التمثيل الكامن ($\hat{x} = G(z)$). ويشارك نفس بنية المحول لضمان الاتساق.
3. المميز المشترك (Joint Discriminator - $D$): يقيم أصالة أزواج (البيانات-الكمن) $(x, E(x))$ مقابل الأزواج الاصطناعية $(G(z), z)$. وهذا يفرض اتساق الدورة (cycle consistency)، مما يربط الفضاء الكامن المستخلص بتوزيع البيانات الحقيقي.

ب. هدف التدريب

يتم تدريب إطار العمل بشكل خصومي باستخدام دالة خسارة مركبة:

• خسارة الخصومة ($L_{adv}$): تدرب المميز للتمييز بين الأزواج الحقيقية والاصطناعية، بينما يحاول المُشفّر والمولّد خداعه.
• خسارة إعادة البناء ($L_{rec}$): تستخدم متوسط الخطأ المطلق (MAE) لتقليل الفرق بين المدخل $x$ والمعاد بناؤه $\hat{x}$.
• خسارة الاتساق الكامن ($L_{latent}$): تضمن أن تشفير عينة مُعاد بناؤها ينتج متجهاً كامناً قريباً من المتجه الأصلي ($E(G(E(x))) \approx E(x)$).

ج. تسجيل الشذوذ والكشف عنه

يتم تحديد حالات الشذوذ في الوقت الفعلي باستخدام درجة شاملة $A(x)$ تجمع بين:

1. خطأ إعادة البناء: مدى جودة إعادة بناء النموذج للمدخلات.
2. ثقة المميز: الاحتمالية التي يمنحها $D$ للزوج باعتباره "حقيقياً".
3. عدم الاتساق الكامن: الانحراف في الفضاء الكامن.

• العتبة التكيفية: للتعامل مع الانحرافات التشغيلية البطيئة في الشبكة، يتم حساب عتبة متدحرجة ($\theta_t$) بناءً على المتوسط والانحراف المعياري لدرجات الشذوذ الأخيرة، بدلاً من استخدام عتبة عالمية ثابتة.

د. المعالجة المسبقة للبيانات

• المدخلات: 8 تدفقات PMU (إجمالي 112 ميزة) مجمعة في نوافذ منزلقة.
• التطبيع (Normalization): يتم تطبيق تحويل لوغاريتمي انتقائي على القنوات ذات القيم العالية (الجهد/التيار) لتخفيف الذيول الثقيلة، يليه توحيد القياس (Z-score standardization). هذا يحافظ على دلالات الزوايا والتردد مع استقرار تدريب الـ GAN.

3. المساهمات الرئيسية

1. بنية مبتكرة: أول دمج لآليات انتباه النوافذ (window-attention Transformers) داخل شبكة BiGAN مخصصة لبيانات PMU، مما يسمح بنمذجة الاعتمادات الزمكانية طويلة المدى التي تفتقدها نماذج CNN و LSTM.
2. القوة غير الخاضعة للإشراف: يعمل إطار العمل دون الحاجة لبيانات أعطال مصنفة، حيث يتعلم مساحة "السلوك الطبيعي" للشبكة لاكتشاف الانحرافات.
3. الكشف التكيفي: تقديم آلية عتبة تكيفية تحافظ على معدلات إنذار كاذب منخفضة حتى مع انحراف نقاط تشغيل الشبكة بمرور الوقت.
4. تسجيل شامل: درجة شذوذ متعددة المقاييس تجمع بين إشارات إعادة البناء، والكمن، والخصومة لتحقيق دقة كشف أعلى.

4. النتائج التجريبية

تم تقييم النموذج على مجموعة بيانات واقعية من الأجهزة في الحلقة (Hardware-in-the-Loop - HIL) لنظام IEEE 39-bus، تحتوي على حوالي 160,000 عينة تدريب وأنواع متنوعة من الشذوذ السيبراني-الفيزيائي.

• مقاييس الأداء:
  • ROC-AUC: بلغ 0.95 (يتفوق بشكل كبير على النماذج المرجعية مثل PCA، و Isolation Forest، و LSTM-AE، و Transformer+GAN القياسي).
  • متوسط الدقة (AP): بلغ 0.996.
  • درجة F1: بلغت 0.88.
  • الدقة/الاستدعاء (Precision/Recall): 0.90 / 0.81.
• المقارنة: تفوق T-BiGAN على جميع النماذج المرجعية، بما في ذلك BiLSTM-AE و Transformer+BiGAN (بدون آلية الانتباه)، مما يثبت أن آلية الانتباه الذاتي ضرورية لالتقاط الارتباطات المكانية.
• نقاط القوة المحددة: برع النموذج في اكتشاف الانحرافات الطفيفة في التردد والجهد التي فاتتها الطرق الأخرى أو اعتبرتها إنذارات كاذبة.
• الكفاءة: وصل إلى مرحلة التقارب خلال 35-40 حقبة (epoch) باستخدام وحدة معالجة رسومية واحدة من نوع NVIDIA Quadro RTX 8000.

5. الأهمية والعمل المستقبلي

• القيمة العملية: يوفر T-BiGAN حلاً قابلاً للتطبيق للمراقبة الحية واسعة النطاق للشبكة دون الحاجة لتصنيف الأعطال يدوياً، مما يعالج عقبة رئيسية في أمن الأنظمة الكهربائية.
• المرونة: من خلال التمييز الفعال بين الضوضاء، وتغيرات الأحمال، والأعطال الحقيقية، فإنه يعزز مرونة الشبكة الكهربائية ضد الهجمات السيبرانية-الفيزيائية.
• الاتجاهات المستقبلية:
  • التعزيز الاصطناعي: استخدام GANs لتوليد سيناريوهات أعطال نادرة لتحسين تنوع التدريب.
  • التصنيف دقيق التفاصيل: الانتقال من مجرد الكشف إلى تصنيف أنواع محددة من الشذوذ (مثل الاختراق السيبراني مقابل عطل الخط).
  • النشر عند الحافة (Edge Deployment): استقصاء معماريات الانتباه الخطي (مثل Linformer) والكمية (Quantization) للاستنتاج منخفض التأخير على مستوى المحطات الفرعية.

في الختام، يمثل T-BiGAN تقدماً كبيراً في تحليلات أنظمة الطاقة، حيث يستفيد من التآزر بين آليات الانتباه القائمة على المحولات والتعلم الخصومي لتحقيق حالة متقدمة من الكشف غير الخاضع للإشراف عن الشذوذ.