Adversarial Robustness in AI-Powered Intrusion Detection Systems

في العالم الرقمي، تُراقب الشبكات باستمرار من قِبل حراس آليين يُطلق عليهم أنظمة كشف التسلل. تعمل هذه الأنظمة بمثابة الجهاز المناعي للبنية التحتية للحاسوب، حيث تقوم بمسح تدفق البيانات لرصد الأنشطة الخبيثة قبل أن تسبب ضرراً. لسنوات طويلة، اعتمد خبراء الأمن على التعلم العميق، وهو نوع من الذكاء الاصطناعي يحاكي الطريقة التي يعالج بها الدماغ البشري الأنماط، لجعل هؤلاء الحراس أكثر ذكاءً وسرعة. يمكن لهذه الأنظمة الآن تحديد الهجمات المعقدة وغير المسبوقة التي قد تغفل عنها القواعد التقليدية. ومع ذلك، فإن هذا الذكاء يأتي مع نقطة ضعف خفية؛ فتماماً كما يمكن خداع الإنسان بواسطة خدعة بصرية بارعة، يمكن خداع نماذج الذكاء الاصطناعي هذه عبر تغييرات طفيفة وغير مرئية تقريباً في البيانات التي تتلقاها. يمكن للمهاجم إجراء تعديل مجهري على قطعة من حركة مرور الشبكة، بما يكفي لإرباك الذكاء الاصطناعي وجعله يعتقد أن هجوماً خطيراً هو في الواقع نشاط غير ضار. هذا الضعف يحول أداة الدفاع القوية إلى عبء، مما يسمح للقراصنة بالتسلل عبر بوابات الأمن دون اكتشافهم.

وضع فريق من الباحثين من جامعة واشنطن، وجامعة كارنيجي ميلون، وجامعة تكساس في أوستن، خطة لإصلاح هذا الخلل. فقد بحثوا في مدى سهولة خداع نماذج التعلم العميق المستخدمة في أمن الشبكات، ثم بنوا طريقة جديدة لجعلها أكثر صلابة. يركز عملهم على نوع محدد من الهجمات حيث يعرف المهاجم بالضبط كيف يعمل النظام الأمني ويحاول صياغة مدخلات تتسبب في فشل النظام. اختبر الباحثون أفكارهم على مجموعتين من بيانات الشبكة الواقعية، إحداهما تحتوي على أنواع مختلفة من الهجمات السيبرانية، والأخرى تركز على إنترنت الأشياء، والذي يشمل الأجهزة الذكية مثل الكاميرات والمستشعرات. أرادوا معرف من خلال ذلك معرفة ما إذا كان بإمكانهم تدريب الذكاء الاصطناعي على التعرف على هذه الخدع والاستمرار في العمل بشكل صحيح عند مواجهتها.

طور الباحثون استراتيجية مكونة من جزئين لتقوية النظام. تضمن الجزء الأول تعليم الذكاء الاصطناعي من خلال إظهار أمثلة لهذه المدخلات الملتوية والمتلاعب بها أثناء مرحلة التدريب. يشبه هذا إظهار اختبارات تجريبية لطالب تتضمن نفس الخدع التي قد يواجهها في الامتحان النهائي، حتى يتعلم كيفية رصد الخداع بدلاً من الوقوع فيه. أما الجزء الثاني من استراتيجيتهم، فكان تنعيم المنطق الداخلي للذكاء الاصطناعي؛ حيث قاموا بتعديل الطريقة التي يتعلم بها النظام بحيث لا تؤدي التغييرات الصغيرة في المدخلات إلى تقلبات حادة في اتخاذ القرار في النظام. ومن خلال جعل استجابة النظام أكثر استقراراً وأقل حساسية للوخزات الصغيرة، جعلوا من الصعب جداً على المهاجم العثور على تغيير محدد من شأنه أن يكسر النظام.

عندما اختبروا هذا النهج المشترك، كانت النتائج واضحة. في مجموعة البيانات التي تحتوي على تسع عائلات مختلفة من الهجمات، فقد نموذج الذكاء الاصطناعي القياسي، الذي لم يكن يتمتع بأي حماية خاصة، معظم قدرته على كشف التهديدات عند مواجهة هذه المدخلات المتلاعب بها. انخفضت دقته بشكل كبير، وفشل في التعرف على الخطر في معظم الحالات. ومع ذلك، حافظ النهج الجديد للباحثين على قدرة النظام على رصد التهديدات الحقيقية بمستوى عالٍ. وبينما عانى النموذج غير المحمي، حافظ النهج الجديد على مستوى عالٍ من الدقة حتى عندما كانت البيانات تخضع للتلاعب النشط. وتحديداً، حسن الدفاع الجديد قدرة النظام على الصمود أمام الهجمات الأكثر تعقيداً ومتعددة الخطوات بنسبة 34% مقارنة بالنموذج القياسي. حدث هذا التحسن دون التضحية بقدرة النظام على التحديد الصحيح لحركة المرور العادية والآمنة.

كما درست الدراسة مدى صمود النظام مع زيادة حجم الخدعة. ووجدوا أنه كلما جعل المهاجمون التغييرات المتلاعب بها أكبر، انهار أداء النموذج القياسي بسرعة. وفي المقابل، صمد الدفاع الجديد، وحافظ على دقة أعلى بكثير حتى عندما أصبحت الخدع أكثر وضوحاً. يشير هذا إلى أن الطريقة تخلق حاجزاً أكثر مرونة لا ينهار تحت الضغط. وأشار الباحثون إلى أنه بينما يعمل نهجهم بشكل جيد ضد المهاجمين الذين يعرفون الآليات الداخلية للنظام، إلا أنه لا تزال هناك تحديات يجب التغلب عليها؛ إذ تتطلب العملية قوة حوسبة أكبر للتدريب، وهناك دائماً احتمال أن يجد مهاجم بارع طريقة جديدة لتجاوز الدفاع.

في نهاية المطاف، يوفر هذا العمل مساراً عملياً نحو تأمين أدوات الذكاء الاصطناعي التي تحمي حياتنا الرقمية. إنه يثبت أنه من خلال تدريب الأنظمة على توقع الخداع ومن خلال جعل عمليات اتخاذ القرار فيها أكثر استقراراً، يمكننا بناء أنظمة كشف تسلل أقل عرضة للخداع بكثير. تقدم هذه النتائج مخططاً لنشر هذه الأنظمة الذكية في العالم الحقيقي، مما يضمن بقاءها حراساً فعالين حتى عند مواجهة خصوم يعرفون تماماً كيف يحاولون خداعهم. ويخلص الباحثون إلى أنه بينما لا تنتهي مهمة تأمين الشبكات أبداً، فإن هذا الجمع بين التقنيات يمثل خطوة كبيرة نحو جعل الأمن المدعوم بالذكاء الاصطناعي موثوقاً به لمواجهة التهديدات المعقدة اليوم.