Building an Adversarial Malware Dataset by Family and Type: Generation, Evasion, and Poisoning Evaluation
تقدم هذه الورقة مجموعة بيانات تم إصدارها للعموم تضم أكثر من 77,000 عينة من برمجيات PE الخبيثة التنافسية المستمدة من مجموعة RawMal-TF، مما يثبت معدلات مراوغة عالية ضد مصنف EMBER وتأثيرها الكبير في تسميم أنظمة الكشف القائمة على تعلم الآلة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل لعبة عالية المخاطر من نوع "اكتشف المزيف" تُلعب بين فريقين: المدافعون (خبراء الأمن السيبراني) والمهاجمون (الهكرز).
لسنوات، استخدم المدافعون حكماً ذكياً ومؤتمتاً للغاية يسمى EMBER. يقوم هذا الحكم بفحص البرامج الحاسوبية (تحديداً ملفات ويندوز) ويقرر: "هذا يبدو كفيروس" أو "هذا يبدو آمناً". يقوم المدافعون بتدريب هذا الحكم عبر إطلاعه على ملايين الأمثلة لملفات جيدة وسيئة.
ومع ذلك، فإن المهاجمين يزدادون دهاءً. فهم لا يكتفون بكتابة فيروسات جديدة فحسب، بل يتعلمون كيفية تنكر فيروساتهم بحيث يظن الحكم أنها غير ضارة. وهذا ما يسمى بـ "الهجوم العدائي" (adversarial attack).
يتحدث هذا البحث عن فريق من الباحثين الذين قرروا بناء صالة ألعاب رياضية تدريبية ضخمة للمدافعين. أرادوا إنشاء مجموعة هائلة من الفيروسات "المتنكرة" لمعرفة مدى قدرة الحكم على اكتشافها، واختبار ما يحدث إذا تم خداع الحكم أثناء تدريبه.
إليك تفاصيل عملهم، باستخدام تشبيهات بسيطة:
1. المادة الخام: "حديقة وحوش"
بدأ الباحثون بمجموعة عامة من البرمجيات الخبيثة الحقيقية تسمى RawMal-TF. تخيل هذه المجموعة كحديقة حيوان تحتوي على آلاف الوحوش الحقيقية والخطيرة (الفيروسات).
- المجموعة أ (حديقة العائلات): قاموا بتصنيف هذه الوحوش حسب "أسماء عائلاتها" (مثل: جميع إخوة "التروجان"، وجميع أبناء عمومة "برامج التجسس").
- المجموعة ب (حديقة الأنواع): قاموا بتصنيفها حسب "وصف وظائفها" (مثل: "هذا يسرق كلمات المرور"، "هذا يحذف الملفات").
2. فنانو التنكر: "المولدات"
لإنشاء مجموعة البيانات العدائية، لم يقم الباحثون بنسخ الوحوش فحسب؛ بل استعانوا بفريق من فنانو التنكر (أدوات برمجية تسمى مولدات).
- الهدف: أخذ وحش حقيقي وتعديله قليلاً بحيث يظن الحكم (EMBER) أنه جرو أليف، بينما يستمر الوحش في أداء عمله الشرير.
- الأدوات: استخدموا خمسة فنانين مختلفين (مثل MalwareTotal و MAB-Malware و GAMMA Sections). بعض الفنانين كانوا مثل الرسامين (يضيفون طلاءً غير ضار للملف)، بينما كان البعض الآخر مثل الخياطين (يخيطون قماشاً إضافياً لإخفاء الشكل).
- النتيجة: أنشأوا مجموعتين ضخمتين جديدتين:
- 44,347 وحشاً متنكراً مصنفاً حسب العائلة.
- 33,596 وحشاً متنكراً مصنفاً حسب النوع.
الخدعة السحرية: كان هؤلاء الفنانون بارعين للغاية. ففي مواجهة الحكم القياسي (EMBER)، نجح 98% من الوحوش المصنفة حسب العائلة و 92% من الوحوش المصنفة حسب النوع في خداع الحكم وإيهامه بأنهم آمنون.
3. تجربة التدريب "المسمومة"
هذا هو الجزء الأكثر أهمية في الورقة البحثية. تساءل الباحثون: "ماذا يحدث إذا خدعنا الحكم أثناء تعلمه؟"
تخيل أن الحكم هو طالب يدرس للاستعداد لاختبار ما. أخذ الباحثون مجموعتهم الجديدة من الوحوش المتنكرة وخلطوها مع دليل الدراسة الخاص بالطالب.
- الفخ: أخبروا الطالب: "هذه الوحوش المتنكرة هي في الواقع آمنة". (في الواقع، هي لا تزال خطيرة).
- الاختبار: قاموا بتسميم 0.5% فقط من دليل الدراسة (كمية ضئيلة جداً).
النتيجة الصادمة:
- قبل التسميم، كان بإمكان الطالب كشف حوالي 74% من الوحوش المتنكرة.
- بعد أن تم خداعه بـ 0.5% فقط من الأكاذيب، انخفضت قدرة الطالب على كشف الوحوش لتصل إلى 7% فقط.
- الدرس المستفاد: كمية ضئيلة من المعلومات "المسمومة" (البيانات المصنفة بشكل خاطئ) يمكن أن تكسر قدرة الطالب تماماً على أداء مهمته، حتى لو بدا ناجحاً في الاختبارات العادية.
4. الجانب المشرق: "التدريب العدائي"
اختبر الباحثون أيضاً السيناريو المعاكس. ماذا لو خلطنا الوحوش المتنكرة في دليل الدراسة ولكن مع تصنيفها بشكل صحيح كـ "خطيرة"؟
- النتيجة: أصبح الطالب في الواقع أفضل. من خلال دراسة التنكرات، تعلم الطالب كيفية اكتشافها. وهذا ما يسمى "التدريب العدائي" (adversarial training).
- الخلاصة: إذا أظهرت للمدافع الحيل التي يستخدمها المهاجم (وصنفتها بشكل صحيح)، فستصبح قوة المدافع أكبر بكثير.
5. الهدية النهائية: "مكتبة عامة"
لم يحتفظ الباحثون بهذه النتائج لأنفسهم فحسب. لقد قاموا بتعبئة كل شيء — الوحوش الأصلية، والنسخ المتنكرة منها، وكل الملاحظات حول كيفية تنكرها — في مكتبة عامة (مجموعة بيانات).
- لماذا؟ لكي يتمكن الباحثون الآخرون من استخدام هذه "الصالة الرياضية" لبناء حكام أفضل لا يمكن خداعهم بهذه الحيل.
- التنبيه: اعترفوا بأنه بينما نجحت حيلهم بشكل رائع ضد الحكم القياسي (EMBER)، إلا أنها كانت أقل نجاحاً ضد "الحكام الخارقين" (برامج مكافحة الفيروسات التجارية المستخدمة من قبل الشركات الحقيقية). وهذا يعني أن المهاجمين لا يزال أمامهم الكثير من العمل لخداع أفضل الدفاعات.
الملخص
باختصار، هذه الورقة البحثية هي حقيبة تنكر للبرمجيات الخبيثة. أظهر المؤلفون ما يلي:
- من السهل جداً خداع كواشف البرمجيات الخبيبة القائمة على الذكاء الاصطناعي الحالية باستخدام الأدوات المناسبة.
- إذا كذبت على الذكاء الاصطناعي أثناء تدريبه (ولو قليلاً)، يمكنك تعطيله تماماً.
- إذا قلت الحقيقة وأظهرت للذكاء الاصطنا_ي التنكرات، يمكنك جعله أقوى بكثير.
لقًد أطلقوا هذه الحقيبة للعالم لكي يتمكن المدافعون من ممارسة اكتشاف هذه التنكرات قبل أن يستخدمها الأشرار في الواقع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.