🤖 machine learning

Evaluating LLM-Generated Obfuscated XSS Payloads for Machine Learning-Based Detection

تقدم هذه الورقة مساراً هيكلياً يجمع بين التقنيات الحتمية والنماذج اللغوية الكبيرة لتوليد وتقييم حمولات (XSS) المموّهة بناءً على سلوك وقت التشغيل، كاشفةً أنه في حين يعمل الضبط الدقيق على تحسين الحفاظ على السلوك، لا تزال النماذج اللغوية الكبيرة الحالية تعاني في إنشاء تمويهات صالحة تعزز أداء كشف تعلم الآلة اللاحق.

المؤلفون الأصليون: Divyesh Gabbireddy, Suman Saha

نُشر 2026-04-22

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Divyesh Gabbireddy, Suman Saha

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك حارس أمن في معرض فني فاخر للغاية (الإنترنت). مهمتك هي منع الناس من التسلل وطلاء حرف "X" على الجدران (اختراق الموقع الإلكتروني).

لفترة طويلة، حاول الأشرار (المخترقون) خداعك. هم لا يكتفون بالدخول بقميص عليه حرف "X" أحمر كبير. بدلاً من ذلك، يرتدون تنكرًا. قد يرسمون حرف "X" بحبر سري، أو يكتبونه بشفرة سرية، أو يجزئونه إلى قطع صغيرة ويخبئونها في جيوب مختلفة. هذا يسمى التعمية (Obfuscation).

كاميرات المراقبة القديمة الخاصة بك (أجهزة الكشف التقليدية) بارعة في رصد حرف "X" الأحمر الكبير، لكنها ترتبك عندما يتم إخفاء حرف "X" داخل كود أو تجزئته. لذا، قرر مالكو المعرض توظيف روبوت ذكاء اصطناعي فائق الذكاء (نموذج لغوي كبير، أو LLM) لمساعدتهم. قالوا للروبوت: "يرجى تعلم كيف يخفي الأشرار حروف الـ 'X' الخاصة بهم، ثم قم بتوليد آلاف الأشكال الجديدة من التنكر لنتدرب على رصدها".

هذه الورقة البحثية تدور حول اختبار ما إذا كان روبوت الذكاء الاصطناعي هذا جيدًا حقًا في أداء مهمته.

المشكلة: الروبوت "فنان مزيف"

وجد الباحثون مشكلة كبيرة. روبوت الذكاء الاصطناعي بارع في جعل الأشياء تبدو وكأنها تنكر. يمكنه كتابة كود يبدو كرسالة سرية. ولكن، مجرد كون الشيء يبدو كتنكر لا يعني أنه يعمل فعليًا كتنكر.

فكر في الأمر كطفل يرسم صورة نمر. قد يرسم خطوطًا وذيلًا، وتبدو الصورة كنمر. ولكن إذا وضعت هذه الرسمة في حديقة حيوان، فلن يزأر، ولن يصطاد، ولن يخيف أحدًا. إنها مجرد رسمة.

في عالم الاختراق، إذا أنتج الذكاء الاصطناعي هجومًا "متنكرًا" يبدو مخيفًا ولكنه لا يؤدي في الواقع إلى تفعيل الإنذار (أي لا ينفذ الكود)، فهو بلا فائدة. إنه مجرد ضجيج.

الحل: مسار "تجربة القيادة" (The "Test Drive" Pipeline)

لإصلاح ذلك، بنى الباحثون مسار اختبار خاصًا. إليكم كيف يعمل، خطوة بخطوة:

كتاب الوصفات (السلاسل الحتمية): أولاً، استخدموا كتاب قواعد صارم لإنشاء تنكرات "مثالية". أخذوا هجومًا حقيقيًا، وطبقوا عليه قواعد محددة (مثل "تحويل الحروف إلى أرقام" أو "إضافة تعليقات غير مرئية")، وتأكدوا من أن الهجوم لا يزال يعمل. منحهم هذا قائمة من أزواج "المصدر" (الهجوم الأصلي) و"الهدف" (التنكر المثالي).
مدرسة تعليم القيادة (الضبط الدقيق): أخذوا روبوت الذكاء الاصطناعي وأعطوه دورة مكثفة باستخدام تلك الأزواج "المثالية" فقط. قالوا له: "انظر، هذه هي الطريقة لتحويل الهجوم إلى تنكر يعمل. تعلم هذا النمط".
تجربة القيادة (التحقق أثناء التشغيل): هذا هو الجزء الأهم. بدلًا من مجرد التحقق مما إذا كانت تنكرات الروبوت الجديدة تبدو مشابهة للتنكرات القديمة، قاموا بتشغيلها فعليًا في متصفح ويب حقيقي.
- هل ظهرت نافذة تنبيه في المتصفح؟
- هل سرقت بيانات؟
- هل تسببت في تعطل النظام؟
- إذا قام التنكر الجديد بنفس الشيء الذي فعله الهجوم الأصلي تمامًا، فقد نجح الاختبار. إذا لم يفعل شيئًا، فقد فشل.

النتائج: الروبوت يتحسن، لكنه لا يزال يتعثر

إليكم ما وجدوه:

الأساس (بدون تدريب): عندما طلبوا من الروبوت غير المدرب صنع تنكرات، نجحت 15% منها فقط في العمل فعليًا. كان الروبوت في الغالب يصنع مجرد كلام فارغ يبدو كأنه كود ولكنه لا يفعل شيئًا.
الروبوت المدرب: بعد "مدرسة تعليم القيادة" (الضبط الدقيق)، ارتفع معدل النجاح إلى 22%. هذا تحسن كبير (حوالي 47% أفضل!)، لكن هذا يعني أيضًا أن 78% من الوقت، يفشل الروبوت. لا يزال يصنع "نمورًا مزيفة" لا تزأر.
الخلطة السرية: لاحظوا أن بعض أنواع التنكرات كانت أسهل للروبوت لتعلمها من غيرها. الحيل البسيطة مثل "تقسيم الكلمات" نجحت بشكل جيد. لكن الحيل المعقدة مثل "تحويل كل شيء إلى أرقام ستة عشرية (hexadecimal)" أربكت الروبوت، وعادة ما فشلت تلك الحيل.

السؤال الكبير: هل هذا يساعد حارس الأمن؟

أخيرًا، سألوا: "هل إعطاء حارس الأمن هذه الأمثلة الجديدة التي صنعها الروبوت يجعل الحارس أفضل في ضبط المخترقين الحقيقيين؟"

الإجابة: ليس حقًا. لم يتحسن أداء الحارس كثيرًا.
لماذا؟ لأن أمثلة الروبوت كانت لا تزال مجرد قطرة في دلو ضخم من البيانات الحقيقية. أيضًا، بما أن معظم أمثلة الروبوت كانت "نمورًا مزيفة" (لا تعمل)، فإن إضافتها لم تعلم الحارس أي شيء جديد.
الجانب المشرق: ومع ذلك، وجدوا أنه إذا استخدموا فقط الـ 22% من الأمثلة التي اجتازت "تجربة القيادة" (التي نجحت بالفعل)، فيمكنهم إضافتها إلى بيانات التدريب دون الإضراء بأداء الحارس. إنها آمنة للاستخدام، حتى لو لم تجعل الحارس بطلاً خارقًا على الفور.

الخلاصة

الدرس الرئيسي من هذه الورقة هو: لا تثق في الذكاء الاصطناعي لمجرد أنه يبدو ذكيًا.

في الأمن السيبراني، من السهل توليد نص يبدو كأنه اختراق. لكن توليد نص يعمل فعليًا كاختراق هو أمر صعب للغاية. إذا كنت تريد استخدام الذكاء الاصطناعي لمساعدتك في العث_ور على المخترقين، يجب أن يكون لديك "تجربة قيادة" (فحص متصفح حقيقي) للتأكد من أن الذكاء الاصطناعي لا يتخيل فقط هجمات وهمية.

باخت-صار: الذكاء الاصطناعي فنان موهوب، لكنه لا يزال يتعلم كيفية رسم نمر يمكنه الصيد فعليًا. وحتى يتحسن، نحتاج إلى مراجعة عمله بدقة قبل السماح له بتعليم حراس الأمن لدينا.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تقييم حمولات XSS المموّهة المولدة بواسطة النماذج اللغوية الكبيرة (LLM) للكشف القائم على تعلم الآلة."

1. بيان المشكلة

لا يزال حقن النصوص البرمجية عبر المواقع (XSS) يمثل ثغرة أمنية حرجة في الويب. ويتمثل التحدي الرئيسي لأنظمة الكشف في التمويه (Obfuscation)، حيث يقوم المهاجمون بتحويل الحمولات الخبيثة لتغيير تمثيلها النصي مع الحفاظ على سلوكها القابل للتنفيذ في المتصفح.

الفجوة: غالبًا ما تفشل أنظمة الكشف التقليدية وتلك القائمة على تعلم الآلة (ML) في التعميم للتعامل مع هذه المتغيرات المحولة.
قصور طرق التعزيز الحالية: تعتمد طرق تعزيز البيانات الموجودة غالبًا على تحويلات قائمة على القواعد، والتي قد تنتج حمولات متنوعة من الناحية التركيبية (Syntactically diverse) ولكنها غير صالحة سلوكيًا (أي أنها تبدو كأنها هجمات ولكنها لا تُنفذ). إن تدريب نماذج تعلم الآلة على مثل هذه البيانات "المشوشة" يمكن أن يؤدي إلى تدهور أداء الكاشف.
السؤال البحثي: هل يمكن للنماذج اللغوية الكبيرة (LLMs) توليد حمولات XSS مموهة لا تكتفي فقط بالظهور بشكل مختلف، بل تحافظ أيضًا على السلوك التشغيلي الملحوظ للكود الخبيث الأصلي؟

2. المنهجية

يقترح المؤلفون مسار عمل مهيكل يدمج التحويلات الحتمية، وتوليد النماذج اللغوية الكبيرة، والتحقق من الصحة أثناء التشغيل بشكل صارم.

أ. نظرة عامة على مسار العمل

سلاسل التمويه الحتمية:
- بدءًا من مجموعة بيانات تحتوي على 13,420 من حمولات XSS الخبيثة، يطبق النظام وصفات تحويل ثابتة ذات خطوتين (مثل: hex_escape ← split_strings أو comment_insertion ← case_swap).
- ينشئ هذا سلاسل متعددة الخطوات ( $P_0 \to P_1 \to P_2$ ) لمحاكاة الاستراتيجيات الهجومية المعقدة.
التحقق من الصحة أثناء التشغيل عبر المتصفح:
- بدلاً من الاعتماد على التشابه النصي، يقوم مسار العمل بتنفيذ كل من الحمولة الأصلية ( $P_0$ ) والحمولة المحولة ( $P_2$ ) في بيئة متصفح محكومة.
- يتم تسجيل التأثيرات الملحوظة: تشغيل تنبيهات (alert)، مخرجات الكونسول (Console)، طلبات الشبكة، وأخطاء التنفيذ.
- التصفية: يتم الاحتفاظ فقط بالسلاسل التي يتطابق فيها تتبع التنفيذ لـ $P_2$ مع $P_0$ كأمثلة محافظة على السلوك (Behavior-preserving examples).
تدريب وتوليد النماذج اللغوية الكبيرة (LLM):
- الأساس (Baseline): يتم اختبار نموذج لغوي كبير غير مضبوط (Untuned) على مهمة التمويه.
- الضبط الدقيق (Fine-Tuning): يتم ضبط النموذج بدقة باستخدام أزواج (المصدر-الهدف) المفلترة سلوكيًا ( $P_0 \to P_2$ ) والمستمدة من السلاسل التي تم التحقق منها.
- يقوم النموذج المضبوط بدقة بتوليد حمولات مموهة جديدة مرشحة.
التقييم اللاحق:
- يتم تقييم الحمولات المولدة من حيث معدلات مطابقة السلوك أثناء التشغيل.
- يتم تدريب مصنف "الغابة العشوائية" (Random Forest) باستخدام ميزات TF-IDF تحت ثلاثة ظروف لاختبار تأثير الكشف:
  1. البيانات الأصلية فقط.
  2. البيانات الأصلية + جميع الحمولات المولدة.
  3. البيانات الأصلية + الحمولات المولدة المفلترة سلوكيًا.

3. المساهمات الرئيسية

مسار عمل مهيكل: إطار عمل مبتكر يجمع بين سلاسل التمويه الحتمية وتوليد النماذج اللغوية الكبيرة، مصمم خصيصًا للتصفية من أجل الصلاحية السلوكية.
آلية التحقق من الصحة أثناء التشغيل: تقديم فاحص تنفيذ قائم على المتصفح يقيم الحمولات بناءً على السلوك الملحوظ بدلاً من التشابه التركيبي، مما يعالج "فجوة الصلاحية" في تعزيز البيانات الأمنية.
التقييم التجريبي: دراسة شاملة تقيس قدرة النماذج اللغبية الكبيرة على الحفاظ على دلالات التنفيذ (Execution semantics) وتقيس تأثير هذه العينات المولدة على كواشف XSS.

4. النتائج الرئيسية

أ. معدلات مطابقة السلوك أثناء التشغيل

النموذج الأساسي (غير المضبوط): حقق معدل مطابقة قدره 0.15 (15% من الحمولات المولدة حافظت على السلوك).
النموذج المضبوط بدقة: حقق معدل مطابقة قدره 0.22 (22%).
- يمثل هذا تحسنًا نسبيًا بنسبة 46.7% مقارنة بالنموذج الأساسي.
- رؤية: رغم أن الضبط الدقيق يساعد، إلا أن معدل النجاح المطلق لا يزال منخفضًا. معظم مخرجات النماذج اللغوية الكبيرة تبدو مقبولة تركيبياً ولكنها تفشل في التنفيذ بشكل صحيح (مثل كسر معالجات الأحداث أو سياقات التنفيذ).

ب. استقرار التحويل

صلاحية عالية: أظهرت التحويلات التي تتضمن معالجة النصوص (مثل: split_strings ← comment_insertion) معدلات صلاحية عالية (~75-77%).
صلاحية منخفضة: أظهرت التحويلات التي تتضمن ترميزًا كثيفًا (مثل: hex_escape) معدلات صلاحية منخفضة جدًا (~2-5%).
- السبب: عمليات التمويه القائمة على الترميز (Encoding) هشة؛ فإذا كان منطق إعادة البناء أثناء التشغيل غير دقيق ولو قليلاً، ستفشل الحمولة.

ج. أداء الكشف اللاحق

عدم وجود مكاسب في الأداء: لم يؤدِ إضافة الحمولات المولدة بواسطة النماذج اللغوية الكبيرة (حتى المفلترة منها) إلى تحسين دقة الكشف، أو الدقة (Precision)، أو الاستدعاء (Recall)، أو مقي�لة F1 لمصنف الغابة العشوائية.
- السبب: شكلت العينات المولدة جزءًا ضئيلًا جدًا من إجمالي مجموعة البيانات، لذا ظل المصنف مهيمنًا من قِبل توزيع البيانات الأصلية.
عدم وجود تدهور في الأداء: والأهم من ذلك، أن إضافة العينات المولدة لم يضر بالأداء. وهذا يشير إلى أن العينات المفلترة سلوكيًا هي عينات "آمنة" للإضافة بكميات صغيرة، بينما العينات غير المفلترة (غير الصالحة) قد تسبب ضجيجًا.

5. الأهمية والخاتمة

فجوة "المقبولية مقابل الصحة": تسلط الدراسة الضوء على قصور حرج في تطبيق النماذج اللغوية الكبيرة في مجال الأمن: وهو أن توليد كود يبدو كأنه هجوم ليس هو نفسه توليد كود ينفذ كأنه هجوم. التنوع التركيبي لا يضمن التكافؤ الوظيفي.
أهمية التحقق من الصحة أثناء التشغيل: تجادل الورقة بأن استخدام التحقق من الصحة أثناء التشغيل أمر غير قابل للتفاوض عند إنشاء البيانات الهجومية. وبدون ذلك، قد تنتج البيانات المولدة سمات لا تتوافق مع الهجمات الحقيقية.
الاتجاهات المستقبلية: يقترح المؤلفون أن الأنظمة المستقبلية يجب أن تستخدم:
- مجموعات بيانات أكبر للضبط الدقيق.
- فك تشفير مقيد (Constrained decoding) لفرض منطق التنفيذ.
- نهج هجين (قواعد + نماذج لغوية كبيرة).
- التحقق عبر متصفحات متعددة لضمان التوافق مع البيئات المختلفة.

الخلاصة النهائية: بينما تظهر النماذج اللغوية الكبيرة إمكانات واعدة في تعلم أنماط التمويه (كما هو موضح بالتحسن النسبي بنسبة 46.7% مع الضبط الدقيق)، إلا أنها لا تزال تواجه صعوبة في توليد حمولات Xs válida سلوكيًا بشكل موثوق. لذلك، فإن أي مسار عمل يستخدم النماذج اللغوية الكبيرة لتعزيز البيانات الأمنية يجب أن يتضمن مرشحًا صارمًا لصحة السلوك أثناء التشغيل لضمان جودة البيانات.