← أحدث الأبحاث
💻 علوم الحاسوب

Do Machine Learning Security Detectors Survive New Attacks? A Leakage Free Evaluation of Hidden Prompt Injection Detection in AI Coding Agents, Malicious npm and PyPI Package Detection, and Network Intrusion Detection

تُثبت هذه الورقة أن كواشف أمن تعلم الآلة، التي تحقق عادةً أداءً يقارب المثالية في عمليات التقسيم العشوائي القياسية، تعاني من معدلات فشل كارثية عند تقييمها ضد تقنيات هجوم غير مرئية وتحولات زمنية باستخدام بروتوكول صارم وخالٍ من التسريب عبر سيناريوهات حقن الأوامر البرمجية للذكاء الاصطناعي، والحزم البرمجية الخبيثة، وكشف التسلل إلى الشبكات.

المؤلفون الأصليون: Nnaemeka Ugwumba, Clement Barisua Ndeekor

نُشر 2026-11-10
📖 5 دقيقة قراءة🧠 قراءة متعمّقة
CC BY 4.0

المؤلفون الأصليون: Nnaemeka Ugwumba, Clement Barisua Ndeekor

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في العالم الرقمي الحديث، تعتمد الأنظمة الأمنية غالباً على تعلم الآلة، وهو نوع من البرامج الحاسوبية التي تتعلم كيفية رصد المشكلات عبر دراسة آلاف الأمثلة من الهجمات السابقة. تعمل هذه البرامج كحراس رقميين، حيث تقوم بفحص حركة مرور الشبكة، والتحقق من ملفات البرمجيات قبل تثبيتها، وحتى قراءة التعليمات التي تستخدمها مساعدات البرمجة القائمة على الذكاء الاصطناعي لمساعدة المبرمجين. لسنوات طويلة، كانت الطريقة القياسية لاختبار هؤلاء الحراس هي خلط كومة من الهجمات المعروفة وتقسيمها إلى مجموعتين: واحدة للتدريب وأخرى للاختبار. تفترض هذه الطريقة أن الهجمات التي سيواجهها الحارس في المستقبل ستشبه إلى حد كبير تلك التي درسها بالفعل. ومع ذلك، فإن المهاجمين في العالم الحقيقي لا يظلون ثابتين؛ فهم يبتكرون حِيلاً جديدة باستمرار، ويخفون أدواتهم بطرق مختلفة، ويشنون هجمات في أوقات وأماكن لم يسبق للمدافعين رؤيتها. السؤال الجوهري هو ما إذا كان هؤلاء الحراس الرقميون قادرين حقاً على التعرف على نوع جديد من التهديدات، أم أنهم ببساطة يحفظون القديم ويفشلون عندما تتغير قواعد اللعبة.

وضع فريق من الباحثين من جامعة بورت هاركورتت (University of Port Harcourt) هدفاً للإجابة على هذا السؤال من خلال اختبار كاشفات الأمن ضد ثلاثة أنواع مختلفة تماماً من التهديدات الرقمية باستخدام منهجية واحدة صارمة مصممة لمنع تسرب البيانات. لقد فحصوا مدى قدرة الكاشفات على رصد التعليمات المخفية المزروعة في الملفات الموجهة لوكلاء البرمجة بالذكاء الاصطناعي، وكيف صمدت أمام حزم البرمجيات الخبيثة في المكتبات عبر الإنترنت، وكيف كان أداؤها في تحديد اختراقات الشبكة. وبدلاً من خلط البيانات عشوائياً، أجبر الباحثون الكاشفات على مواجهة مواقف لم يسبق لها التعامل معها من قبل: هجمات تستخدم تقنيات إخفاء جديدة، وهجمات تظهر في عام لاحق، أو هجمات من مجموعات بيانات مختلفة تماماً. كما تحققوا أيضاً من وجود "اختصارات"، حيث قد يعتمد الكاشف على دليل بسيط وواضح — مثل حجم الملف — بدلاً من فهم الخطر فعلياً.

ركز الجزء الأول من دراستهم على وكلاء البرمجة بالذكاء الاصطناعي، وهي أدوات تساعد المبرمجين على كتابة الأكواد من خلال قراءة ملفات مثل أدلة الإعدادات. بدأ المهاجمون في إخفاء تعليمات سرية داخل هذه الملفات باستخدام رموز غير مرئية أو رموز غريبة قد يغفل عنها العين البشرية لكن الكمبيوتر يقرأها كأمر. أنشأ الباحثون مجموعة تضم ما يقرب من خمسة آلاف ملف حقيقي من المستودعات العامة، ثم زرعوا تعليمات مخفية غير ضارة في هذه الملفات باستخدام تسع تقنيات إخفاء مختلفة. واختبروا خمسة كاشفات مختلفة لمعرفة مدى قدرتها على إيجاد هذه الفخاخ. عندما تم اختبار الكاشفات على نفس تقنيات الإخفاء التي تعلمتها أثناء التدريب، كان أداؤها شبه مثالي، حيث رصدت كل التعليمات المخفية تقريباً. ومع ذلك، عندما اختبر الباحثون الكاشفات على تقنية إخفاء لم يسبق لها رؤيتها، انهار الأداء لبعض النماذج. فالكاشف الذي اعتمد على عدّ سمات محددة، مثل عدد الرموز غير المرئية، فشل في رصد 96% من الهجمات الجديدة. وفي المقابل، فإن الكاشف الذي قرأ النص الفعلي للملف، بعد تحويل الرموز المخفية أولاً إلى نص عادي قابل للقراءة، حافظ على أدائه العالي. كما وجدت الدراسة أن نماذج الذكاء الاصطناعي الصغيرة والمفتوحة المصدر غالباً ما اتبعت هذه التعليمات المخفية، حيث استجابت للأوامر السرية في ما يصل إلى ثلثي الحالات، بينما أدى مجرد حذف الرموز غير المرئية أحياناً إلى جعل الهجوم أسهل للفهم بالنسبة للذكاء الاصطناعي.

تناولت الدراسة الثانية حزم البرمجيات الخبيثة في مكتبات npm وPyPI، وهي متاجر ضخمة عبر الإنترنت حيث يقوم المطورون بتحميل الأكواد. جمع الباحثون أكثر من ثلاثة عشر ألف حزمة، بما في ذلك آلاف الحزم الخبيثة المعروفة من أعوام 2024 و2025 و2026. قاموا بتدريب الكاشفات على حزم قديمة ثم اختبروها على الموجات الجديدة من الهجمات من عام 2026. أحد الكاشفات، الذي نظر في الكود نفسه، ظل قوياً، حيث رصد أكثر من 90% من الحزم الخبيثة الجديدة. أما الكاشف الآخر، الذي اعتمد على سمات ثابتة مثل الحجم الإجمالي للحزمة وعدد الملفات بداخلها، فقد قدم أداءً جيداً في البداية ولكنه فشل بشكل ذريع عندما أزال الباحثون الأدلة القائمة على الحجم. فبدون الاعتماد على حقيقة أن الحزم الخبيثة غالباً ما تكون صغيرة، انخفضت قدرة هذا الكاشف على رصد الهجمات الجديدة بشكل كبير، مما كشف أنه كان يعتمد على "اختصار" بدلاً من تحديد البرمجيات الخبيثة فعلياً. كما أظهرت الدراسة أن الكاشفات واجهت صعوبة في العثور على الأكواد الخبيثة التي تم تمريرها داخل مكتبات مشهورة ومشروعة، وهي تقنية أصبحت أكثر شيوعاً في عام 2026.

أعادت الدراسة الثالثة مراجعة كشف اختراق الشبكات، والذي يتضمن مسح البيانات المتدفقة عبر شبكة الكمبيوتر لرصد المخترقين. استخدم الباحثون ثلاث مجموعات بيانات واسعة الاستخدام والتي كانت بمثابة المعيار لاختبار هذه الأنظمة لسنوات. ووجدوا أن هذه المجموعات تحتوي على عدد كبير من المدخلات المكررة والأخطاء، مما أدى على الأرجح إلى تضخيم معدلات النجاح السابقة. وعندما اختبروا الكاشفات عبر تدريبها على بيانات من أيام سابقة واختبارها على بيانات من أيام لاحقة، انهار أداء الأنظمة. فالكاشف الذي بدا مثالياً عند خلط البيانات عشوائياً، لم يكن أفضل من رمية عملة معدنية (أي لم يتجاوز نسبة الصدفة) عندما واجه حركة المرور من الأسبوع التالي. لقد فشل في التعرف على عائلات كاملة من الهجمات التي لم يسبق له رؤيتها، مثل أنواع معينة من حركة مرور "البوت نت" (botnet) أو محاولات التسلل، مما أثبت أن النظام تعلم التعرف على أنماط الماضي المحددة بدلاً من طبيعة الهجوم نفسه.

عبر جميع المجالات الأمنية الثلاثة، ظهر نمط واضح. الكاشفات التي اعتمدت على السمات الملخصة أو العد البسيط مالَت إلى الفشل عندما يغير المهاجمون أساليبهم، بينما الكاشفات التي قرأت المحتوى الفعلي للتهديد صمدت بشكل أفضل بكثير. وجد الباحثون أن خطوة بسيطة تتمثل في تحويل النصوص المخفية أو المربكة إلى تنسيق قياسي قابل للقراءة قبل المسح سمحت للكاشفات بالتعرف على الرسالة الأساسية بغض النظر عن كيفية تمويهها. كما أثبتوا أن إزالة التكرارات من البيانات كانت ضرورية ولكنها ليست كافية لحل المشكلة؛ إذ كانت المشكلة الحقيقية تكمن في الافتراض بأن الهجمات المستقبلية ستشبه الهجمات الماضية. وتخلص الدراسة إلى أنه يجب اختبار الأنظمة الأمنية ضد تقنيات جديدة وغير مرئية قبل الوثوق بها، وأن الاعتماد على طرق الاختبار العشوائية القياسية يعطي شعوراً زائفاً بالأمان. ويشير العمل إلى أنه لكي نظل آمنين، يجب أن نصمم أنظمة تفهم محتوى الهجوم بدلاً من مجرد حفظ مظهره.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →