Adversarial Attacks on Artificial Intelligence Models: Defence Strategies, Datasets, Evaluation Metrics, and Future Research Directions

في عالمنا الرقمي الحديث، تعتمد البنوك والمستشفيات وشبكات الطاقة بشكل كبير على الذكاء الاصطناعي لتحليل كميات هائلة من البيانات. وتعمل هذه الأنظمة، المبنية على التعلم الآلي والتعلم العميق، كحراس لا يكلون؛ فهي تفحص حركة مرور الشبكة لرصد المتسللين، وتحلل الملفات للعثور على البرمجيات الخبيثة المخفية، وتتحقق من الهويات لمنع المستخدمين غير المصرح لهم من الدخول. لسنوات عديدة، تم الاحتفاء بهذه الأدوات لقدرتها على تعلم الأنماط المعقدة والتكيف مع التهديدات الجديدة، حيث كانت تنجح غالباً في رصد ما يصل إلى خمسة وتسعين بالمائة من الأخطار في الظروف العادية. ومع ذلك، ظهرت ثغرة أمنية خفية؛ فتماماً كما يمكن خداع الإنسان بواسطة خدعة بصرية بارعة، يمكن أيضاً خداع هذه الأنظمة الذكية عبر مدخلات تبدو متطابقة تقريباً مع الحقيقية، لكنها تحتوي على تشوهات طفيفة ومصممة بعناية. هذه التشوهات، المعروفة باسم الهجمات العدائية، مصممة لإرباك منطق الكمبيوتر، مما يؤدي إلى تصنيف فيروس خطير على أنه غير ضار أو السماح لمنتحل شخصية بالدخول. إن المخاطر جسيمة: إذ يمكن لخدعة واحدة ناجحة أن تسمح لمخترق بسرقة الملايين، أو إيقاف بنية تحتية حيوية، أو تجاوز الأمن على مستوى وطني.

لقد أجرى فريق من الباحثين من جامعات في العراق وماليزيا نظرة شاملة على هذا التهديد المتنامي. لم يكتفوا بدراسة نوع واحد من الهجمات أو نوع محدد من الدفاعات، بل قاموا بجمع وتحليل ألف ورقة بحثية نُشرت بين عامي 2017 و2025 لرسم خارطة كاملة للمشكلة. كان هدفهم هو فهم كيفية عمل هذه الهجمات، ومدى فعالية الدفاعات الحالية، وأين تكمن الفجوات. ومن خلال فحص هذا الكم الهائل من الأدبيات، حددوا اثني عشر نوعاً جديداً من الهجمات العدائية التي لم تكن قد جُمعت سابقاً في إطار واحد. ووجدوا أن المهاجمين يمكنهم العمل بمستويات مختلفة من المعرفة: فبعضهم يعرف الآليات الداخلية الكاملة للنظام الذي يهاجمونه، بينما لا يرى آخرون سوى المخرجات النهائية، وهناك من يقع في منطقة وسطى بينهما. كما اكتشف الباحثون أن الهجمات يمكن أن تحدث في مراحل مختلفة، إما عن طريق تسميم البيانات أثناء تعلم النظام، أو عبر تمرير مدخلات مخادعة بعد أن يصبح النظام قيد التشغيل بالفعل.

تكشف الدراسة عن واقع صارخ حول الحالة الراهنة للأمن. فبينما طور الباحثون طرقاً عديدة للكشف عن هذه الخدع وحظرها، إلا أن الدفاعات غالباً ما تكون غير متوازنة. وجد المؤلفون أن ما يقرب من سبعين بالمائة من الأبحاث الحالية تركز على اكتشاف الهجوم بعد وقوعه، بينما يركز حوالي ثلاثة وعشرين بالمائة فقط على جعل النماذج أكثر قوة خلال مرحلة التدريب. هذا الاختلال يجعل الأنظمة عرضة للخطر لأن المهاجمين يمكنهم استغلال نقاط الضعف في كيفية بناء النموذج في المقام الأول. علاوة على ذلك، سلط الفريق الضوء على انفصال كبير بين التجارب المختبرية والتطبيق في العالم الحقيقي؛ ففي البيئات الخاضعة للرقابة، قد تبدو الدفاعات مثالية، ولكن عند نقلها إلى البيئة الفعلية المليئة بالفوضى وعدم القدرة على التنبؤ، يمكن أن تنخفض نسبة نجاحها بمقدار ستين بالمائة. يحدث هذا الانخفاض لأن الأنظمة في العالم الحقيقي تواجه تحديات مثل محدودية القدرة الحوسبية، والحاجة إلى اتخاذ قرارات فورية، والتنوع الهائل في أساليب الهجوم التي تتطور باستمرار.

ولمعالجة هذه القضايا، اقترح الباحثون إطار عمل جديداً مكوناً من ثلاثة مستويات لتنظيم طريقة تفكيرنا في هذه الهجمات والدفاعات. يساعد هذا الهيكل خبراء الأمن على تصنيف التهديدات بناءً على ما يعرفه المهاجم، وما يريد تحقيقه، وكيفية تغيير البيانات. كما راجعوا الأدوات ومجموعات البيانات المستخدمة لاختبار هذه الأنظمة، مشيرين إلى أنه على الرغم من وجود العديد من الاختبارات القياسية، إلا أنه لا يوجد معيار واحد متفق عليه لقياس النجاح عبر جميع أنواع الذكاء الاصطناعي المختلفة. هذا النقص في التوحيد يجعل من الصعب على المؤسسات اختيار الحماية المناسبة لاحتياجاتها الخاصة. وتقترح الورقة أن التقدم المستقبلي سيعتمد على دمج استراتيجيات مختلفة، مثل استخدام "البلوكشين" لتأمين مشاركة البيانات، ودمج الذكاء الاصطناعي مع أنظمة دعم القرار لمساعدة البشر على اتخاذ خيارات أفضل، وتطوير دفاعات تعمل بكفاءة على الأجهزة الصغيرة الطرفية مثل المستشعرات والكاميرات.

في نهاية المطاف، يعد هذا المسح دليلاً حاسماً للجيل القادم من الأمن السيبراني. فهو يؤكد أنه بينما أحدث الذكاء الاصطناعي ثورة في كيفية حماية بنيتنا التحتية الرقمية، فقد استحدث أيضاً نوعاً جديداً من الثغرات يتطلب يقظة مستمرة. ويشدد الباحثون على أنه لا توجد "رصاصة سحرية" واحدة لإيقاف هذه الهجمات، بل إن بناء أنظمة آمنة سيتطلب نهجاً متعدد الطبقات يجمع بين طرق التدريب الأفضل، والكشف في الوقت الفعلي، وجهداً عالمياً لوضع قواعد معيارية لاختبار هذه التقنيات والتحقق من صحتها. ومع استمرار تقدم التكنولوجيا، فإن السباق بين من يبنون الدفاعات وأولئك الذين يحاولون كسرها سوف يشتد، مما يجعل العمل على فهم وتصنيف هذه التهديدات وتصنيفها أكثر أهمية من أي وقت مضى.