Gray-Box Poisoning of Continuous Malware Ingestion Pipelines
تتقصى هذه المساهمة هجمات التسميم ذات الصندوق الرمادي على خطوط أنابيب استيعاب البرمجيات الخبيثة المستمرة عبر تلاعبات ثنائية حافظة للوظائف لخفض معدلات استدعاء الكشف، وتُظهر في الوقت ذاته أن دفاع المجموعة المتجانسة يمكنه بفعالية تصفية ما يصل إلى 95.6% من مثل هذه العينات العدائية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل مصنعاً ضخماً ومؤتمتاً يقوم بفرز ملايين الطرود يومياً. مهمته هي اكتشاف وتحديد "الطرود السيئة" الخطيرة (البرمجيات الخبيثة) مع السماح "للطرود الجيدة" (الملفات الآمنة) بالمرور. ولمواكبة الحجم الهائل للتهديدات الجديدة، لا يوظف هذا المصنع مفتشين بشريين، بل يعتمد على روبوت فائق الذكاء (نموذج تعلم آلي) يتعلم من خلال دراسة أمثلة للطرود الجيدة والسيئة.
يفحص هذا المقال طريقة خبيثة لكسر هذا الروبوت عبر خداعه أثناء عملية التعلم.
السيناريو: خدعة "الصندوق الرمادي"
تخيل الباحثون سيناريو يهدف فيه طرف مهاجم (المهاجم) إلى تخريب روبوت المصنع. هو لا يمتلك المخططات السرية للروبوت (التي ستشكل هجوماً من نوع "الصندوق الأبيض")، لكنه يمتلك فهماً جيداً جداً لكيفية تفكير الروبوت لأنه يمتلك روبوتاً مشابهاً. يُشار إلى هذا باسم هجوم "الصندوق الرمادي".
هدف المهاجم ليس مجرد تمرير طرد سيء واحد لتجاوز الروبوت؛ بل يريد تسميم عقل الروبوت بحيث ينسى كيفية التعرف على الطرود السيئة في المستقبل.
الهجوم: "جراحة تجميلية" للملفات السيئة
لخداع الروبوت، لا يمكن للمهاجم ببساطة تغيير اسم الملف السيئ أو حذف الفيروس؛ لأن ذلك من شأنه أن يعطل وظيفته. بدلاً من ذلك، يقوم بإجراء "جراحة تجميلية" على الملف.
تخيل الملف الخبيث كشخص مريب يتنكر في زي آخر. يقوم المهاجم بإجراء تغييرات طفيفة وغير مرئية على التنكر بحيث لا تطلق مستشعرات الروبوت إنذاراً، بينما يظل الشخص خطيراً في الداخل.
- الأدوات: استخدموا مجموعة أدوات خاصة تسمى
secml_malware. - التقنيات:
- حقن جداول الاستيراد (IAT Injections): تخيل وضع بعض الملصقات التي تبدو غير ضارة على مغلف مشبوه. المغلف لا يزال يحتوي على قنبلة، لكن الملصقات تجعله يبدو وكأنه ينتمي إلى مجموعة موثوقة محددة.
- حقن الأقسام (Section Injections): تخيل لصق بضع صفحات إضافية من قصة مملة وغير ضارة في كتاب خطير. الكتاب لا يزال يحتوي على التعليمات الخطيرة، لكن الصفحات الإضافية تربك الماسح الضوئي.
وجد الباحثون أن إضافة عدد قليل فقط من هذه "الملصقات" (تحديداً حقنتين في جدول العناوين Import Address Table) كان كافياً لجعل الملفات السيئة تبدو أكثر شبهاً بالملفات الجيدة بنسبة 30% بالنسبة للروبوت.
النتيجة: الروبوت يصبح مرتبكاً
عندما تمت إعادة تدريب روبوت المصنع باستخدام هذه الأمثلة "المسمومة" (ملفات سيئة تم تصنيفها على أنها جيدة)، بدأ يصاب بالارتباك.
- الضرر: انخفضت قدرة الروبوت على كشف الملفات السيئة بشكل كبير. بدأ يسمح بمرور الطرود الخطيرة عبر الثغرات.
- العقبة: كلما كانت التغييرات جذرية أكثر (إضافة الكثير من الملصقات أو الصفحات)، كان من الأسهل على الروبوت التعرف على الملف كملف "مشبوه" حتى قبل التدريب. كان على المهاجم إيجاد "نقطة التوازن المثالية": التغيير بما يكفي للخداع، ولكن ليس لدرجة تجعل الملف يبدو غريباً بشكل واضح.
الدفاع: فريق "الرأي الثاني"
لم يكتفِ الباحثون بتسليط الضوء على المشكلة فحسب؛ بل اختبروا حلاً. فقد أنشأوا مجموعة متجانسة (homogeneous ensemble) تعمل مثل فريق من ثلاثة حراس أمن مختلفين عند بوابة المصنع.
- الحارس الأول يفحص وزن وشكل الملف (التوزيع).
- الحارس الثاني يقرأ النص الموجود بالداخل (المحتوى).
- الحارس الثالث يفحص البنية والترابط (الهيكل).
لكي يُسمح لأي ملف بالدخول إلى غرفة التدريب، يجب أن يتفق الحراس الثلاثة على أنه يبدو آمناً.
النتيجة:
- تم اعتراض الملفات "المسمومة" التي تحاول التسلل بواسطة فريق الحراس هذا في 95.6% من الحالات.
- والأهم من ذلك، لم يقم هذا الفريق بتصفية الطرود الجيدة عن طريق الخطأ؛ بل سمح بمرور 84.5% من الملفات المشروعة دون أي مشكلة.
الخاتمة
يخلص المقال إلى أنه بينما يمكن للجهات المهاجمة تسميم نظام تعلم مؤتمت بنجاح من خلال إجراء تغييرات صغيرة وذكية على الملفات الخبيثة، إلا أن هذا يمثل عملية توازن دقيق. إذا قاموا بتغيير الملفات كثيراً للاختباء، فسيتم كشفهم من قبل عمليات الفحص المسبقة. وإذا غيروها قليلاً جداً، فسيتعلم الروبوت دروساً خاطئة.
أفضل دفاع هو "فريق من الخبراء" (المجموعة/Ensemble) الذي يفحص الملفات قبل السماح للروبوت الرئيسي بالتعلم منها. وهذا يضمن بقاء عملية تعلم المصنع نظيفة وموثوقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.