Empirical Analysis of Evasion and Poisoning Against Malware Data Drift Detection
تستقصي هذه الورقة كيف تؤثر هجمات التهرب والتسميم، المصممة عادةً لتقويض مصنفات البرمجيات الخبيثة، بشكل فريد على العمل المشترك لكواشف انزياح البيانات ومصنفات البرمجيات الخبيثة، مما يكشف أن الخصائص المتميزة لكواشف الانزياح تغير من فعالية وسلوك هذه الهجمات العدائية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك حارس أمن في ملهى ليلي ضخم وعالي التقنية. مهمتك هي رصد المشاغبين (البرمجيات الخبيثة) ومنعهم من الدخول، مع السماح للضيوف الطيبين (البرمجيات السليمة) بالدخول. لفترة طويلة، كنت تستخدم قائمة بوجوه المشاغبين المعروفين للقيام بذلك. لكن المشاغبين مخادعون؛ فهم يغيرون شعرهم، أو يرتدون تنكرات، أو يطلقون لحى لكي يبدوا مثل الأشخاص العاديين. لمواكبة ذلك، استأجرت ذكاءً اصطناعيًا ذكيًا لمساعدتك في التعرف على "هالة" أو "روح" (vibe) المشاغب، حتى لو بدا بشكل مختلف.
ولكن هناك مشكلة؛ فمع مرور الوقت، يتغير الجمهور. "هالة" الحي تتغير، ويبدأ الذكاء الاصطناعي في الارتباك لأن الناس الذين يدخلون لا يشبهون الأشخاص الذين تعلم منهم قبل سنوات. هذا ما يسمى بـ "انزياح المفهوم" (concept drift). ولإصلاح ذلك، استأجر النادي ذكاءً اصطناعيًا ثانيًا، وهو "كاشف الانزياح". هذا الذكاء الاصطناعي الثاني لا يهتم إذا كان الشخص مشاغبًا أو ضيفًا طيبًا؛ هو فقط يراقب أي شخص يبدو "غريبًا بشكل غير معتاد" عن الحشد المعتاد. إذا بدا شخص ما غريبًا جدًا، يقوم كاشف الانزياح بالإشارة إليه ليقوم حارس بشري بفحصه. الفكرة هي أنه إذا حاول أحد المشاغبين التنكر، فقد يبدو غريبًا لدرجة أن كاشف الانزياح سيمسك به على أي حال.
لكن هنا تكمن الخدعة: ماذا لو عرف المشاغبون عن كلا الحارسين؟ ماذا لو استطاعوا خداع الذكاء الاصطناعي الرئيسي لجعله يعتقد أنهم ضيوف طيبون، وخداع كاشف الانزياح أيضًا لجعله يعتقد أنهم يبدون طبيعيين؟ هذه الورقة البحثية تسأل بالضبط هذا السؤال. أراد الباحثون معرفة ما إذا كان بإمكان الجهات السيئة تنفيذ عملية "خداع مزدوج": خداع النظام الذي يمسك بالأشرار، وفي نفس الوقت خداع النظام الذي يمسك بالأشخاص الغرباء. لقد اختبروا ذلك من خلال محاولة تمرير ضيوف "مسمومين" (يتسللون إلى قائمة التدريب) وضيوف "متنكرين" (يحاولون التسلل عبر الباب).
عملية السطو مزدوجة التمويه
قام الباحثون بإعداد عملية سطو رقمية لمعرفة مدى فعالية عمل نظامي الأمن هذين ضد مهاجم. استخدموا بيانات حقيقية من "حيّين" مختلفين (مجموعات بيانات تسمى Bodmas و Androzoo) تحتوي على آلاف العينات البرمجية. كان الضحية (صاحب الملهى) يمتلك أداتين رئيسيتين: مصنف البرمجيات الخبيثة (البواب الرئيسي) وكاشف الانزياح (مراقب الغرابة). كان هدف المهاجم بسيطًا ولكنه مخادع: جعل قطعة من البرمجيات الخبيثة تبدو كتطبيق غير ضار، والتأكد من أنها لا تبدو "غريبة" بما يكفي ليتم رصدها من قبل مراقب الغرابة.
كان على المهاجم اتباع بعض القواعد، تمامًا مثل مجرم حقيقي يحاول البقاء بعيدًا عن الأنظوار. لم يكن بإمكانه كسر وظيفة البرمجية الخبيثة (يجب أن يظل التطبيق يعمل) أو تغيير تنسيق الملف. كان بإمكانه فقط تعديل ميزات معينة، مثل إضافة مساحة إضافية أو تغيير بعض الأرقام، لكن لم يكن بإمكانه حذف الأشياء التي تجعل الملف يعمل. كما لم يكن لديه وصول كامل لكاميرات المراقبة الخاصة بالنادي؛ فقد عرف فقط 10% من الضيوف وكان عليه بناء نماذج "بديلة" (أنظمة أمن مزيفة) خاصة به للتدرب على حيله قبل تجربتها على النظام الحقيقي.
النتائج المفاجئة
جرب الباحثون نوعين رئيسيين من الهجمات: التملص (Evasion) (التسلل ببرمجية خبيثة متنكرة عبر الحراس) والتسميم (Poisoning) (تمرير ضيوف "طيبين" مزيفين إلى قائمة التدريب لكي يتعلم الحراس دروسًا خاطئة).
مفاجأة التملص:
عندما حاول الباحثون تسلل برمجيات خبيثة عبر النظام عن طريق إضافة "اضطرابات" صغيرة (تغييرات طفيفة) للملفات، وجدوا شيئًا غير متوقع. عادةً، في عالم الذكاء الاصطناعي، التغييرات الأكبر تجعل من الأسهل خداع المصنف. إذا غيرت وجهًا بما يكفي، فإن الذكاء الاصطناعي سيتوقف عن التعرف عليه. ولكن هنا، عمل كاشف الانزياح مثل بواب صارم يكره أي تغيير.
عندما جعل المهاجمون البرمجيات الخبيثة تبدو مختلفة جدًا لخداع المصنف الرئيسي، أصبح كاشف الانزياح مرتابًا. لقد رأى هذه الملفات المعدلة بكثافة على أنها "خارج التوزيع" (out of distribution) — أي أنها لم تعد تشبه الحشد الطبيعي. قام كاشف الانزياح بتمييزها كأمر غريب، فأمسك بها الحارس البشري. وجدت الورقة أن الأنظمة التي تستخدم نوعًا معينًا من كاشفات الانزياح تسمى CADE (والذي يستخدم "مشفر تلقائي تبايني" - contrastive autoencoder)، أن جعل الاضطراب أكبر يؤدي في الواقع إلى إضعاف الهجوم. كلما زاد حجم التنكر، زاد احتمال رصده من قبل كاشف الانزياح. كان على المهاجمين أن يكونوا دقيقين للغاية، حيث وجدوا "نقطة التوازن المثالية" حيث تبدو البرمجية الخبيثة طبيعية بما يكفي لكاشف الانزياح ولكنها لا تزال تخدع المصنف الرئيسي.
مفارقة التسميم:
كان هجوم التسميم أكثر إثارة للاهتمام. حاول المهاجم تمرير برمجيات خبيثة تحتوي على "باب خلفي" (backdoor) متنكرة في شكل تطبيقات غير ضارة. الفكرة هي أنه إذا أعاد صاحب الملهى تدريب نظام الأمان الخاص به باستخدام هؤلاء الضيوف المزيفين، فإن النظام الجديد سيسمح بدخول البرمجيات الخبية الحقيقية لاحقًا.
ومع ذلك، اكتشف الباحثون أن إضافة المزيد من الضيوف المسممين لم يساعد دائمًا. في الواقع، بالنسبة لكاشف الانزياح القائم على CADE، جعلت إضافة الكثير من العينات المسممة الهجوم يفشل. لماذا؟ لأن "الخريطة" الداخلية لكاشف الانزياح (مساحة التضمين/embedding space) لها مساحة محدودة. عندما تم حشر الكثير من العينات المسممة في منطقة "الضيف الطيب"، ارتبك النظام. لكي يستطيع النظام فهم كل هذه العينات الجديدة والمختلفة قليلاً، بدأ كاشف الانزياح بدفعها بعيدًا عن مركز حشد "الضيوف الطيبين" للحفاظ على تنظيمها. وهذا جعل العينات المسممة تبدو غريبة مرة أخرى، مما تسبب في رصدها من قبل كاشف الانزياح. تشير الورقة إلى أنه كلما حاولت حشر المزيد في النظام، فإن النظام يدفع الأشياء السيئة للخارج.
ماذا يعني هذا للمستقبل
تخلص الورقة إلى أن مهاجمة نظام يحتوي على كل من مصنف وكاشف انزياح هو عملية توازن دقيقة. الأمر لا يتعلق فقط بجعل البرمجية الخبيثة تبدو كشخص جيد؛ بل يتعلق بالتأكد من أنها لا تبدو مختلفة جدًا عن الحشد.
وجد الباحثون أن نوع كاشف الانزياح أمر بالغ الأهمية. الأنظمة مثل Transcendent (التي تستخدم طريقة مختلفة تعتمد على الثقة الإحصائية) كانت أسهل في الخداع بالتغييرات الكبيرة من نظام CADE. ولكن بالنسبة لـ CADE، كان على المهاجمين أن يكونوا حذرين للغاية. إذا دفعوا البرمجية الخبيثة كثيرًا نحو جانب "البرامج السليمة"، فإنها ستبتعد كثيرًا عن "مركز" حشد البرامج السليمة وتتعرض للرصد.
في النهاية، تظهر الورقة أنه بينما يمكن للمهاجمين أن يكونوا بارعين للغاية، فإن الطريقة الفريدة التي تعمل بها كواشف الانزياذ هذه تخلق نوعًا جديدًا من الدفاع. الآلية ذاتها التي تساعد النظام على التكيف مع التهديدات الجديدة (من خلال ملاحظة متى تبدو الأشياء مختلفة) تجعل أيضًا من الصعب على المهاجمين الاختباء في وضح النهار. تشير الدراسة إلى أنه لكسر هذا الدفاع، يحتاج المهاجم إلى اختيار أدواته (النماذج البديلة) وحيله (دوال الخسارة) بدقة متناهية، لتتماشى تمامًا مع كيفية رؤية كاشف الانزياح للعالم. إنها لعبة القط والفأر حيث يجب أن يكون الفأر غريبًا بما يكفي ليكون غير مرئي، ولكن ليس غريبًا جدًا بحيث يتم القبض عليه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.