Adversarial Attack on Deep Learning Based Network Intrusion Detection Systems: An Empirical Analysis across Datasets and Features
تثبت هذه الورقة تجريبياً أن أنظمة كشف التسلل الشبكي القائمة على التعلم العميق معرضة بشدة لهجمات التهرب العدائية عبر مجموعات بيانات ومجموعات سمات مختلفة، مما يكشف أن الضعف هو خاصية متأصلة في سطح القرار المتعلم وليس مشكلة متعلقة بمجموعة بيانات محددة، وتقترح مؤشراً لضعف السمات لتحديد أي سمات المدخلات هي الأكثر عرضة للاضطراب.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم الرقمي، تعمل أنظمة كشف التسلل إلى الشبكات بمثابة الحراس الصامتين لبنيتنا التحتية المتصلة. فهي تراقب تدفق البيانات باستمرار، بحثاً عن العلامات الخفية لاختراق، أو سرقة، أو فيض ضار من حركة المرور. لسنوات، اعتمدت هذه الأنظمة على قواعد ثابتة وأنماط معروفة، تماماً مثل حارس أمن يتحقق من قائمة وجوه مطلوبات. ومع ذلك، ومع ازدياد تعقيد التهديدات السيبرانية ومراوغتها، اتجه الباحثون إلى التعلم العميق، وهو شكل من أشكال الذكاء الاصطناعي الذي يتعلم التعرف على الأنماط من خلال دراسة كميات هائلة من البيانات بدلاً من اتباع قائمة مراجعة جامدة. يمكن لهذه الأنظمة رصد الشذوذ بسرعة ودقة ملحوحتين، وغالباً ما تحدد التهديدات التي تغفل عنها الطرق التقليدية. ومع ذلك، فإن هذا الاعتماد على الآلات المتعلمة قد فتح باباً جديداً ومثيراً للقلق. فتماماً كما يمكن خداع الإنسان بزي تنكري بارع، يمكن خداع هذه الأنظمة الذكية عبر تغييرات طفيفة ومصممة بعناية في البيانات التي تتلقاها. لا يحتاج الفاعل الضار إلى كسر النظام؛ بل يحتاج فقط إلى دفع البيانات بما يكفي لجعل الآلة ترى حزمة بيانات غير ضارة كأنها تهديد، أو والأسوأ من ذلك، ترى هجوماً خطيراً كأنه آمن تماماً.
قام باحثان من جامعة SR في الهند، غوندابو ثيروباثي والدكتور ف. ثيروباثي، بمحاولة فهم مدى هشاشة هؤلاء الحراس الرقميين حقاً. لم ينظر الباحثان إلى حالة واحدة معزولة، بل اختبرا نظريتهما عبر عالمين مختلفين تماماً من بيانات الشبكة. إحدى مجموعات البيانات، المعروفة باسم KDD Cup 1999، هي مجموعة كلاسيكية من حركة مرور الشبكة المحاكية من أواخر التسعينيات، بينما تعد CICIDS2017 سجلاً حديثاً لنشاط شبكة مؤسسية حقيقية من قبل عقدين تقريباً. ومن خلال تدريب نماذج الذكاء الاصطناعي الخاصة بهما على كليهما، ضمن الباحثان أن نتائج أبحاثهما لن تكون مجرد صدفة ناتجة عن مجموعة بيانات محددة، بل انعكاساً لكيفية تصرف هذه الأنظمة بشكل عام. لقد أخضعا نماذجهما لثلاثة أنواع مختلفة من الهجمات الرقمية، تتراوح من دفعة واحدة سريعة إلى جهد مستمر وتكراري مصمم لإيجاد أضعف نقطة في منطق النظام. كما اختبرا هذه الهجمات بمستويات متفاوتة من الكثافة، بدءاً من النكزات التي لا تكاد تُلحظ وصولاً إلى التشويهات الكبيرة للبيانات.
كانت النتائج صارخة ومثيرة للقلق العميق. فعلى البيانات النظيفة وغير المعدلة، أظهرت نماذج الذكاء الاصطناعي أداءً بالثقة العالية التي يتوقعها المرء من التكنولوجيا الحديثة، حيث حددت حركة المرور الطبيعية والهجمات بدقة بلغت 94.4% و97.8% على التوالي. ومع ذلك، عندما طبق الباحثان أقوى نسخة من هجومهما، انهار أداء هذه الأنظمة بشكل شبه كامل. فقد تراجعت دقة النموذج المدرب على البيانات القديمة لتصل إلى 5.6% فقط، بينما انخفض النموذج المدرب على البيانات الحديثة إلى 2.3%، وهي نسبة أقل. لم تكن هذه حالة أصبح فيها النظام مرتبكاً قليلاً أو ارتكب بعض الأخطاء العشوائية؛ فقد وجد الباحثون أن الهجمات لم تؤدِ فقط إلى تدهور أداء النظام، بل قلبت فهمه للواقع رأساً على عقب. وفي تحول مثير للاضطراب، بدأ النظام يصنف حركة المرور غير الضارة كأنها خطيرة بثقة، بينما يتجاهل الهجمات الفعلية في الوقت نفسه، معاملاً إياها وكأنها طبيعية تماماً. كان الأمر كما لو أن حارس الأمن، بعد تعرضه للخداع بزي تنكري، بدأ يعتقل المواطنين الأبرياء بينما يترك اللصوص يمرون من أمامه دون عائق.
لفهم سبب حدوث ذلك، نظر الباحثون بعمق أكبر من مجرد الأرقام النهائية. فقد طوروا طريقة جديدة لقياس المعلومات المحددة التي يستغلها المهاجمون. ووجدوا أن الضعف لم يكن موزعاً بالتساوي عبر جميع البيانات التي يتلقاها النظام، بل استهدفت الهجمات باستمرار خصائص معينة تتعلق بتوقيت البيانات وحجم الحزم، مثل عدد الحزم التي تصل في الثانية الواحدة والتباين في أطوالها. وقد ثبت أن هذه التفاصيل المستمرة والدقيقة كانت "كعب أخيل" (نقطة الضعف) للنظام، في حين كان حجم حركة المرور الضخم أو عدد الاتصالات أقل أهمية بكثير في عملية الخداع. يشير هذا إلى أن الضعف ليس خللاً في مجموعات البيانات المحددة المستخدمة، بل هو خاصية متأصلة في كيفية معالجة نماذج التعلم العميق للمعلومات. إن البنية الرياضية ذاتها التي تسمح لها بالتعلم بسرعة ودقة هي أيضاً ما يجعلها عرضة للانحراف عن مسارها بفعل تغييرات طفيفة ومحسوبة.
تخلص الدراسة إلى أن أرقام الدقة العالية التي غالباً ما يتم الترويج لها لهذه الأنظمة يمكن أن تكون مضللة بشكل خطير إذا لم تُختبر ضد مثل هذه الظروف العدائية. فالنظام الذي تبلغ دقته 97% على البيانات النظيفة يمكن أن يصبح عديم الفائدة تقريباً أمام مهاجم يعرف كيفية استغلال نقاط ضعفه المحددة. ويجادل الباحثون بأنه لكي تكون هذه التقنيات آمنة في السيناريوهات الأمنية الحرجة، يجب أن نتجاوز مجرد قياس مدى أدائها في الاختبارات القياسية، بل يجب علينا أيضاً فهم الأجزاء التي تعتمد عليها أكثر في البيانات وكيف يمكن حماية تلك الأجزاء. وتعد هذه النتائج بمثابة تذكير صارخ بأنه في سباق التسلح في مجال الأمن السيبراني، فإن ذكاء المدافع لا يقاس إلا بقدرته على الصمود أمام براعة المهاجم، وفي هذه الحالة، يبدو أن الجيل الحالي من مدافعي التعلم العميق أكثر هشاشة مما يبدو عليه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.