A Multi-Seed Evaluation of Explanation Faithfulness and Stability under Adversarial Evasion in IoT/IIoT Intrusion Detection

في الطبقات الخفية للعالم الحديث، تتواصل مليارات الأجهزة الذكية باستمرار مع بعضها البعض—من مستشعرات المصانع إلى أجهزة تنظيم الحرارة المنزلية. هذه الشبكة الواسعة، المعروفة باسم إنترنت الأشياء، هي الجهاز العصبي لبنيتنا التحتية الرقمية. ولكن مثل أي جهاز عصبي، فهي عرضة للتدخل. يمكن للمخترقين إرسال إشارات دقيقة ومدروسة مصممة لخداع برامج الحماية التي تراقب هذه الأجهزة، مما يجعل الهجوم الخطير يبدو وكأنه ضوضاء خلفية غير ضارة. لسنوات، اعتمد خبراء الأمن على الذكاء الاصطناعي لرصد هؤلاء المتسللين. ومع ذلك، ظهرت مشكلة جديدة: عندما تحدد أنظمة الذكاء الاصطناعي هذه تهديداً ما، فإنها غالباً ما تقدم تفسيراً لـ "لماذا" اتخذت هذا القرار. والسؤال الجوهري هو ما إذا كان هذا التفسير يظل صادقاً عندما يتم خداع الذكاء الاصطناعي بشكل نشط. فإذا استطاع مخترق تضليل النظام لتجاهل هجوم ما، فهل يصبح تفسير النظام أيضاً كذبة، أم أنه لا يزال يشير إلى الحقيقة؟

لقد شرع فريق من الباحثين من جامعة دافوديل الدولية في اختبار صدق وموثوقية تفسيرات الذكاء الاصطناعي هذه تحت النار. وركزوا على طريقتين شائعتين تُستخدمان لتفسير قرارات الذكاء الاصطناعي، تُعرفان باسم SHAP وLIME. تعمل هذه الأدوات مثل كشاف الضوء، حيث تسلط الضوء على الأجزاء التي تسببت في جعل الذكاء الاصطناعي يطلق إنذاراً في إشارة الشبكة—مثل حجم حزمة البيانات أو مدة الاتصال. أراد الباحثون معرفة ما إذا كانت هذه الكشافات ستظل ثابتة ودقيقة عندما يتم تعديل بيانات المدخلات ببراعة من قبل مخترق، أم أن التفسيرات ستتذبذب وتشير إلى الاتجاه الخاطئ. وللحصول على إجابة موثوقة حقاً، تجنبوا الخطأ الشائع المتمثل في اختبار نسخة واحدة فقط من نموذج الذكاء الاصطناعي. بدلاً من ذلك، قاموا بتدريب عشرين نسخة مختلفة من نفس النظام الأمني، كل منها يبدأ بإعداد عشوائي مختلف قليلاً، لضمان أن نتائجهم لم تكن مجرد صدفة سعيدة لجلسة تدريب محددة.

أخضع الباحثون هذه الأنظمة لسلسلة صارمة من الاختبارات باستخدام بيانات واقعية من مجموعتين رئيسيتين من حركة مرور الشبكة. وقاموا بمحاكاة ثلاثة أنواع من الهجمات: هجوم واسع وغير مقيد يغير البيانات بطرق لا يمكن لشبكة حقيقية إنتاجها أبداً؛ وهجوم أكثر واقعية يغير فقط الأرقام التي يمكن للمهاجم التحكم فيها؛ وهجوم مقيد للغاية يحترم جميع القواعد الفيزيائية لكيفية بناء حزم البيانات. ووجدوا أن الهجمات غير المقيدة، التي غالباً ما تنتج قيم بيانات مستحيلة مثل حزمة تحتوي على عدد كسري من البايتات، كانت في الغالب إنذاراً كاذباً. وعندما أجبر الباحثون هذه السجلات المستحيلة على الظهور كبيانات حقيقية وصحيحة، انخفض معدل نجاح الهجمات ضد نماذج الشبكات العصبية بشكل كبير. ومع ذلك، كانت النماذج القائمة على الأشجار (tree-based models)، والتي تعمل بشكل مختلف، أكثر عرضة لهذه الخدع التي تبدو حقيقية.

كان الاكتشاف الأكثر لفتاً للنظر يتعلق بالتفسيرات نفسها. فعندما تتعرض نماذج الذكاء الاصطناعي للهجوم، يستمر منهج SHAP في تقديم تفسيرات أمينة ومستقرة، تعكس سلوك النموذج باستمرار حتى عندما يتغير القرار. وفي المقابل، أثبت منهج LIME أنه أقل موثوقية بكثير. ففي ظل الهجوم، غالباً ما تتغير تفسيرات LIME بقدر ما تتغير عندما يعمل النظام بشكل طبيعي، مما يشير إلى أن تغيراتها كانت مجرد ضوضاء عشوائية بدلاً من كونها انعكاساً حقيقياً للهجوم. في الواقع، في كل مقارنة منفردة عبر عشرين جلسة تدريب، تفوق SHAP على LIME في الدقة والاستقرار. كما وجد الباحثون أن اختيار "عتبة الإنذار" لنظام الأمن—وهي النقطة التي يقرر عندها النظام إطلاق التنبيه—أمر أكثر أهمية من النموذج نفسه. فالنظام الذي يتم ضبطه ليكون حساساً للغاية قد يكتشف كل هجوم تقريباً ولكنه سيولد الكثير من الإنذارات الكاذبة التي ستغمر فرق الأمن، بينما الإعداد الأكثر صرامة قد يغفل عن الهجمات ولكنه يقلل من الضوضاء.

ولعل النتيجة الأكثر إثارة للقلق هي أنه لا يوجد نظام أمني واحد منيع. ففي إحدى مجموعات البيانات، تمكن حتى أكثر الشبكات العصبية تقدماً من أن يُخدع بالكامل تقريباً من قبل مخترق يقوم ببساطة بإضافة حشوة بيانات إضافية إلى الحزمة، وهي تقنية لا تكلف سوى القليل ولكنها تتجاوز الدفاع بالكامل، حيث اكتشفت النماذج 3% فقط من مثل هذه الهجمات على الأكثر. كانت النماذج القائمة على الأشجار أكثر متانة، لكن هجوماً ذكياً ومستهدفاً مصمماً خصيصاً لهيكلها يمكنه مع ذلك الإفلات منها في جزء كبير من الحالات. وتخلص الدراسة إلى أنه بينما يمكننا بناء أنظمة ذكاء اصطناعي تشرح منطقها الخاص، فإن تلك التفسيرات تكون موثوقة فقط بقدر قدرة النظام على مقاومة التلاعب. يوفر هذا البحث خارطة طريق واضحة لكيفية اختبار هذه الأنظمة في المستقبل، مؤكداً أنه يجب علينا النظر إلى ما وراء درجات الدقة البسيطة وفحص مدى صمود التفسيرات عندما يتعرض النظام لضغط حقيقي. إن الأدوات التي نستخدمها لفهم دفاعاتنا الرقمية يجب أن تكون مرنة بقدر مرونة تلك الدفاعات نفسها.