🤖 machine learning

GDformer: Going Beyond Subsequence Isolation for Multivariate Time Series Anomaly Detection

تقدم هذه الورقة البحثية GDformer، وهو إطار عمل جديد للكشف عن الشذوذ غير الخاضع للإشراف يستفيد من محول معزز بقاموس عالمي للتغلب على قيود تحليل السلاسل الفرعية المنعزلة من خلال إنشاء معيار كشف موحد على مستوى السلسلة يعتمد على التمثيلات العالمية وأوزان الارتباط، محققاً بذلك أداءً هو الأفضل في فئته عبر العديد من المعايير الواقعية.

المؤلفون الأصليون: Qingxiang Liu, Xiaoliang Luo, Chenghao Liu, Sheng Sun, Di Yao, Lvchun Wang, Wei Yu, Yuxuan Liang

نُشر 2026-05-26

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Qingxiang Liu, Xiaoliang Luo, Chenghao Liu, Sheng Sun, Di Yao, Lvchun Wang, Wei Yu, Yuxuan Liang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك حارس أمن يراقب غرفة تحكم ضخمة مليئة بمئات المستشعرات. هذه المستشعرات تتبع كل شيء، من درجة الحرارة والضغط إلى السرعة والجهد الكهربائي. مهمتك هي رصد متى يحدث خطأ ما (شذوذ/Anomaly) قبل أن يتسبب في كارثة.

المشكلة هي أن البيانات هائلة ومربكة. إنها عبارة عن تدفق مستمر وفوضوي من الأرقام. إذا حاولت النظر فقط إلى مقطع صغير معزول من هذه البيانات (مثل مقطع مدته 10 ثوانٍ)، فقد تفوتك الصورة الكبيرة. قد تعتقد أن ارتفاعاً مفاجئاً هو أمر طبيعي لأنه يبدو عادياً في هذا المقطع القصير، رغم أنه في الواقع علامة على فشل شامل في النظام.

هذه هي المشكلة التي يحاول بحث GDformer حلها. وإليك كيف يفعل ذلك، مشروحاً ببساطة:

الطريقة القديمة: المحقق "المعصوب العينين"

معظم طرق الذكاء الاصطناعي الحالية لرصد هذه الأخطاء تعمل مثل محقق معصوب العينين ولا يُسمح له إلا بالنظر إلى غرفة صغيرة واحدة في كل مرة.

تقوم بتقسيم الجدول الزمني للبيانات بأك its إلى قطع صغيرة ومعزولة (متواليات فرعية).
تحلل كل قطعة على حدة لترى ما إذا كانت تبدو غريبة.
الخلل: لأنها تنظر إلى قطع صغيرة جداً، فإنها تفتقد السياق "العالمي". الارتفاع الغريب في غرفة واحدة قد يبدو طبيعياً إذا كنت لا تعرف ما يحدث في الـ 99 غرفة الأخرى. يؤدي هذا إلى إنذارات كاذبة (الاعتقاد بأن أشياء طبيعية معطلة) أو إنذارات مفقودة (الاعتقاد بأن أشياء معطلة طبيعية).

الطريقة الجديدة: أمين المكتبة ذو "القاموس العالمي"

يقترح المؤلفون نموذجاً جديداً يسمى GDformer. بدلاً من النظر إلى غرف معزولة، يعمل هذا النموذج مثل أمين مكتبة لديه فهرس رئيسي لـ "الطبيعية".

إليك التشبيه الإبداعي لكيفية عمله:

القاموس العالمي (الفهرس الرئيسي):
تخيل أن الذكاء الاصطناعي ينشئ "قاموساً" خاصاً من متجهات "المفتاح والقيمة" (Key and Value vectors). فكر في هذه المتجهات كمجموعة من الأنماط "الطبيعية تماماً" التي تعلمها النظام من كل البيانات، وليس فقط من شريحة صغيرة. الأمر يشبه امتلاك قائمة رئيسية لما يبدو عليه الوضع "الصحي" للمبنى بأكمله، وليس لغرفة واحدة فقط.
الانتباه المتقاطع (المقارنة):
عندما تأتي نقطة بيانات جديدة، بدلاً من مجرد النظر إلى جيرانها، يسأل الذكاء الاصطناعي: "إلى أي مدى تشبه هذه اللحظة المحددة 'الفهرس الرئيسي' للسلوك الطبيعي؟"

يستخدم آلية تسمى الانتباه المتقاطع (Cross-Attention) لمقارنة نقطة البيانات الحالية مقابل ذلك القاموس العالمي.
إذا كانت نقطة البيانات تتوافق جيداً مع "الفهرس الرئيسي"، فإنها تحصل على درجة عالية (فهي طبيعية).
إذا لم تتوافق مع النمط العالمي، فإنها تحصل على درجة منخفضة (فهي شذوذ/غير طبيعية).

النماذج الأولية (النموذج "المثالي" للطبيعية):
لجعل هذا الأمر أكثر دقة، ينشئ الذكاء الاصطناعي نماذج أولية (Prototypes). تخيل أن هذه النماذج هي نسخ "مثالية" من السلوك الطبيعي. يتعلم الذكاء الاصطناعي التعرف على شكل العلاقة بين نقطة البيانات والقاموس العالمي.

النقاط الطبيعية ستبدو جميعها متشابهة جداً مع هذه النماذج الأولية.
نقاط الشذوذ ستبدو مختلفة تماماً.
يقوم الذكاء الاصطناعي ببساطة بقياس المسافة بين النقطة الحالية وهذه "النماذج الطبيعية المثالية". إذا كانت المسافة كبيرة جداً، فإنه يطلق إنذاراً.

لماذا هذه الطريقة أفضل؟

لا مزيد من النقاط العمياء: نظرًا لأن الذكاء الاصطناعي يستخدم "القاموس العالمي"، فإنه يفهم سياق السلسلة بأكملها، وليس فقط شريحة صغيرة. إنه يعرف كيف يبدو "اليوم الطبيعي" للنظام بأكمله.
أسرع وأخف: تحاول الطرق التقليدية مقارنة كل نقطة بيانات بكل نقطة بيانات أخرى (وهو أمر يشبه محاولة مقارنة كل كتاب في مكتبة بكل كتاب آخر). هذا يستغرق وقتاً طويلاً ويستهلك الكثير من الذاكرة. أما GDformer فيقارن نقاط البيانات فقط مقابل "القاموس" الصغير (الفهرس)، وهو أمر أسرع بكثير ويستهلك طاقة حوسبية أقل.
أخطاء أقل: يظهر البحث أن هذه الطريقة تلتقط المزيد من المشكلات الحقيقية وتطلق إنذارات كاذبة أقل مقارنة بالطرق القديمة "المعصوبة العينين".

الخلاصة

يزعم البحث أنه من خلال الابتعاد عن النظر إلى قطع صغيرة ومعزولة من البيانات، وبدلاً من ذلك بناء "قاموس عالمي" لفهم الصورة الكاملة، يمكن لـ GDformer رصد أعطال النظام بدقة أكبر، وبسرعة أكبر، وبأخطاء أقل من الطرق الحالية المتطورة. إنه يمنح الذكاء الاصطناعي "رؤية من منظور الطائر" للبيانات بدلاً من "رؤية من منظور الدودة".

ملخص تقني: GDformer لاكتشاف الشذوذ في السلاسل الزمنية متعددة المتغيرات

1. بيان المشكلة

يعد اكتشاف الشذوذ في السلاسل الزمنية متعددة المتغيرات (MTS) أمراً بالغ الأهمية للحفاظ على موثوقية الأنظمة الواقعية (مثل المستشعرات الصناعية أو مقاييس الخادم). ومع ذلك، تواجه النهج الحالية للتعلم العميق قيوداً كبيرة بسبب استراتيجية عزل السلاسل الفرعية (subsequence isolation). تعتمد الطرق الحالية عادةً على تقسيم السلاسل الزمنية الطويلة إلى سلاسل فرعية غير متداخلة ومعزولة لتعلم المعرفة الزمنية داخل كل سلسلة فرعية. ويعاني هذا النهج من:

أفق محدود (Limited Horizon): تفتقر النماذج إلى الوصول إلى سياق مستوى السلسلة بالكامل، مما يؤدي إلى تمثيلات غير غنية عالمياً.
معايير غير متسقة: نظراً لعدم التجانس عبر السلاسل الفرعية (التقلبات، كثافة الشذوذ)، فإن درجات الشذوذ النقطية المستمدة من أجزاء معزولة تكون متباينة للغاية. وغالباً ما يؤدي دمج هذه الدرجات إلى نتائج إيجابية كاذبة وسلبية كاذبة عند وضع عتبة كشف موحدة للسلسلة بأكملها.
مشكلات القابلية للتوسع: يؤدي تطبيق آلية الانتباه الذاتي (self-attention) مباشرة على السلسلة بأكملة لالتقاط السياق العالمي إلى تعقيد زمني ومكاني قدره $O(n^2)$ ، وهو أمر غير مجدٍ حسابياً للسلاسل الطويلة.

يؤطر البحث اكتشاف الشذوذ في MTS كـ مشكلة تعلم غير خاضعة للإشراف، تهدف إلى اشتقاق معيار كشف موحد ومدمج دون الوصول إلى تسميات الشذوذ أثناء التدريب.

2. المنهجية: GDformer

يقترح المؤلفون GDformer (Transformer المعزز بالقاموس العالمي)، وهو نموذج مصمم لتنمية تمثيلات عالمية مشتركة بين جميع النقاط الطبيعية عبر السلسلة بأكملها، متجاوزاً بذلك عزل الس la سلاسل الفرعية.

2.1 البنية الأساسية

يستبدل GDformer آلية الانتباه الذاتي القياسية بآلية الانتباه المتقاطع القائم على القاموس (Dictionary-Based Cross-Attention).

القاموس العالمي (Global Dictionary): بدلاً من اشتقاق المفاتيح ( $K$ ) والقيم ( $V$ ) من تسلسل المدخلات (مما يحصر السياق في السلسلة الفرعية)، يقدم GDformer نواقل $K$ و $V$ عالمية قابلة للتعلم ومخزنة في قاموس. يتم تحديث هذه النواقل بشكل تكراري أثناء التدريب لالتقاط التمثيلات الزمنية المشتركة للنقاط الطبيعية عبر مجموعة البيانات بأكملها.
الانتباه المتقاطع (Cross-Attention): يتم اشتقاق الاستعلام ( $Q$ ) من الرموز الزمنية للمدخلات، بينما تأتي $K$ و $V$ من القاموس العالمي. تعكس خريطة الانتباه ( $M$ ) أوزان الارتباط بين نقطة زمنية محددة والتمثيلات الطبيعية العالمية.
الكفاءة: باستخدام قاموس بحجم $N$ (حيث $N \ll T$ ، طول السلسلة)، يتم تقليل التعقيد من $O(T^2)$ إلى $O(TN)$ ، مما يحسن الكفاءة في الذاكرة والحوسبة بشكل كبير.

2.2 تقييم التشابه والنماذج الأولية (Prototypes)

لاشتقاق معيار كشف قوي، يقدم GDformer النماذج الأولية (Prototypes):

تعلم النماذج الأولية: يتم تقديم مجموعة من $P$ من النماذج الأولية لالتقاط أنماط التوزيع لأوزان الارتباط بين النقاط الطبيعية والقاموس العالمي.
تفاوت التشابه (Similarity Discrepancy): يحسب النموذج التشابه بين خريطة الانتباه لنقطة معينة وهذه النماذج الأولية.
- النقاط الطبيعية: تتوافق توزيعات أوزان الانتباه الخاصة بها بشكل وثيق مع النماذج الأولية المتعلمة.
  వ النقاط الشاذة: تنحرف توزيعاتها بشكل كبير عن النماذج الأولية.
دالة الخسارة: يجمع هدف التدريب بين خسارة إعادة البناء ( $L_c$ ) وخسارة تفاوت التشابه ( $L_s$ ). تُصاغ الخسارة الإجمالية كالتالي:
$L_{total} = L_c - \lambda L_s$
حيث تجمع $L_s$ درجات التشابه عبر جميع الطبقات. تعمل الإشارة السالبة على تشجيع النموذج على تعظيم التشابه بين النقاط الطبيعية والنماذج الأولية، مما يخلق حدود قرار مدمجة.

2.3 الاستنتاج (Inference)

أثناء الاستنتاج، يتم اشتقاق درجة الشذوذ للنقطة من التشابه السلبي مع النماذج الأولية. يتم تحديد النقاط ذات التشابه المنخفض (التفاوت العالي) كشذوذ. يتم تطبيق عتبة موحدة عبر السلسلة بأكملها، مما يلغي الحاجة إلى عتبات خاصة بكل سلسلة فرعية.

3. المساهمات الرئيسية

Transformer المعزز بالقاموس العالمي: يقترح المؤلفون GDformer، الذي يستخدم آلية انتباه متقاطع قائمة على القاموس لتعلم تمثيلات عالمية مشتركة بين جميع النقاط الطبيعية، مما يتغلب بفعالية على قيود الأفق التي يفرضها عزل السلاسل الفرعية.
معيار التشابه القائم على النماذج الأولية: إن تقديم النماذج الأولية لالتقاط أنماط الارتباط بين النقطة والقاموس العالمي يتيح تفاوت تشابه مميز بين النقاط الطبيعية وغير الطبيعية، مما يوفر حداً فاصلاً مدمجاً وموحداً.
الكفاءة والقابلية للتوسع: يقلل الأسلوب بشكل كبير من التعقيد الحسابي وبصمة الذاكرة مقارنة بالأساليب القائمة على Transformer القياسية (مثل AnomalyTrans و DCdetector) من خلال فصل آلية الانتباه عن طول السلسلة.
القابلية للنقل (Transferability): تظهر القاموس العالمي والنماذج الأولية قابلية للنقل عبر مجموعات بيانات مختلفة، مما يشير إلى وجود أنماط زمنية طبيعية مشتركة عبر المجالات.

4. النتائج التجريبية

قيم المؤلفون GDformer على ست مجموعات بيانات مرجعية شهيرة: MSL, SMAP, SWaT, PSM, GECCO, و ASD.

الأداء: حقق GDformer أداءً رائدًا (SOTA)، حيث حصل على أعلى درجات F1 في خمس من أصل ست مجموعات بيانات، وثاني أفضل نتيجة في المجموعة المتبقية. لقد تفوق على نماذج قوية مثل AnomalyTrans و DCdetector و MEMTO و ModernTCN عبر مقاييس متعددة (Point-Adjustment F1، و Range-AUC، ومقاييس VUS).
الكفاءة: أظهر GDformer كفاءة فائقة. مقارنة بـ AnomalyTrans و DCdetector، حقق انخفاضاً في متوسط وقت التدريب بنسبة 88.8% و 94.7% على التوالي، مع الحفاظ على بصمة ذاكرة أقل بكثير (على سبيل المثال، ~4.5 جيجابايت مقابل ~16 جيجابايت لـ AnomalyTrans).
دراسات الاستئصال (Ablation Studies):
- استبدال الانتباه الذاتي بالانتباه المتقاطع القائم على القاموس أدى إلى تحسين درجات F1 بنسبة ~5.87%.
- تقديم معيار التشابه (مقابل خطأ إعادة البناء وحده) حسن درجات F1 بنسبة ~9.11%.
- أدى الجمع بين الطبقات المتعددة لخسارة التشابه إلى نتائج أفضل من نهج الطبقة الواحدة.
دراسات الحالة: أظهرت عمليات التصور أن النماذج المرجعية (AnomalyTrans, DCdetector) فشلت في اكتشاف شذوذ نقاط معينة أو ولدت نتائج إيجابية كاذبة بسبب عدم تجانس السلاسل الفرعية، بينما اكتشف GDformer الشذوذ باستمرار باستخدام معيار المستوى العالمي الموحد للسلسلة.

5. الأهمية والادعاءات

يزعم البحث أن GDformer يعالج القصور الجوهري في الأساليب الحالية للتعلم العميق: الاعتماد على السلاسل الفرعية المعزولة التي تمنع تعلم المعرفة العالمية على مستوى السلسلة. ومن خلال التحول إلى الانتباه المتقاطع المعزز بالقاموس العالمي، يضمن النموذج معيار كشف موحداً يتسم بالاتساق عبر السلسلة الزمنية بأكملها.

يؤكد المؤلفون أن معيار الكشف القائم على التشابه، المستمد من التفاوت بين الارتباطات النقطية-العالمية والنماذج الأولية المتعلمة، يوفر حداً فاصلاً للقرار أكثر دمجاً وفعالية من أخطاء إعادة البناء التقليدية أو طرق التباين الإحصائي (مثل KL/JS divergence). علاوة على على ذلك، فإن القابلية للنقل التي أظهرها القاموس العالمي تشير إلى مسار نحو بناء نماذج تأسيسية لاكتشاف الشذوذ في السلاسل الزمنية، قادرة على التعميم عبر مجالات مختلفة.

يخلص البحث إلى أن GDformer فعال وفعال في آن واحد، مما يؤكد فرضية أن تنمية التمثيلات الطبيعية العالمية تتفوق على تحليل السلاسل الفرعية المعزولة لاكتشاف الشذوذ في السلاسل الزمنية متعددة المتغيرات.