🤖 AI

LLAMAFUZZ: Large Language Model Enhanced Greybox Fuzzing

يُعد LLAMAFUZZ أداة فحص (fuzzer) جديدة من نوع الـ greybox تستفيد من المعرفة المسبقة والقدرات المضبوطة بدقة للنماذج اللغوية الكبيرة لتوليد وتعديل المدخلات المهيكلة بفعالية، مما يتفوق بشكل كبير على الأدوات الحالية مثل AFL++ في تغطية الكود واكتشاف الأخطاء عبر مختلف البرامج الواقعية.

المؤلفون الأصليون: Hongxiang Zhang, Yuyang Rong, Yifeng He, Hao Chen

نُشر 2026-03-18

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Hongxiang Zhang, Yuyang Rong, Yifeng He, Hao Chen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول العثور على فخاخ مخفية (أخطاء برمجية/Bugs) داخل صندوق كنز معقد ومغلق (برنامج حاسوبي). لفتح الصندوق، يتعين عليك إدخال مفاتيح محددة (بيانات مدخلة). إذا كان المفتاح خاطئاً ولو بنسبة ضئيلة جداً، سيرفض الصندوق المدخلات، ولن تتعلم منه أي شيء.

لسنوات، استخدم الباحثون الأمنيون طريقة تسمى "الفحص العشوائي" (Fuzzing) للبحث عن هذه الفخاخ. إنهم يلقون آلاف المفاتيح العشوائية على الصندوق ليروا أي منها سيفتحه.

المشكلة: نهج "المعصوب العينين"

أدوات الفحص التقليدية (مثل AFL++) تشبه قرداً معصوب العينين يرمي السهام على لوحة أهداف.

كيف تعمل: تقوم بتغيير البتات (الأصفار والآحاد) بشكل عشوائي في البيانات.
المشكلة: تتطلب معظم البرامج الحديثة بيانات ذات تنسيقات محددة للغاية (مثل ملف JSON، أو مستند XML، أو صورة PNG).
التشبيه: تخيل أن صندوق الكنز يتطلب مفتاحاً مصنوعاً من الذهب وبشكل محدد. القرد المعصوب العينين يقوم فقط بنحت صخرة بشكل عشوائي، آملاً أن ينحت بالصدفة مفتاحاً ذهبياً. قد يحدث ذلك، لكن الأمر يستغرق وقتاً طويلاً جداً، وفي معظم الأوقات، تتحول الصخرة مجرد غبار (بيانات غير صالحة) يتجاهله الصندوق.

الحل: "المهندس الذكي" (LLAMAFUZZ)

قرر مؤلفو هذه الورقة البحثية، LLAMAFUZZ، استبدال القرد المعصوب العينين بـ مهندس ذكي (نموذج لغوي كبير - LLM).

فكر في النموذج اللغوي الكبير (LLM) كحرفي ماهر قد قرأ الملايين من المخططات الهندسية. إنه يفهم تماماً كيف يجب أن يبدو المفتاح الذهبي، وكيف تتداخل القطع مع بعضها، وماذا يحدث إذا قمت بتغيير جزء واحد منها.

إليك كيف يعمل LLAMAFUZZ، مقسماً إلى خطوات بسيطة:

1. مرحلة التدريب (تعليم المهندس)

قبل بدء عملية البحث، يعرض الباحثون على النموذج اللغوي الكبير آلاف الأمثلة على "المفاتيح الجيدة" و"المفاتيح المكسورة التي كادت أن تنجح".

لقد علموه: "إذا قمت بتغيير هذا الجزء من ملف XML، حافظ على توازن الوسوم. إذا غيرت ترويسة هذه الصورة، حافظ على التوقيع سليماً."
النتيجة: تعلم النموذج اللغوي الكبير "قواعد" البيانات. فهو يعرف أنه إذا حذفت وسماً مغلقاً </tag>، فإن الملف بأكمله سيتعطل، لذا لن يفعل ذلك.

2. الفريق الهجين (الرقصة غير المتزامنة)

أدرك الباحثون أن المهندس الذكي بارع ولكنه بطيء (يستغرق وقتاً للتفكير)، بينما القرد المعصوب العينين سريع ولكنه غبي.

الإعداد: أنشأوا فريقاً. القرد (AFL++) يعمل على وحدة المعالجة المركزية (CPU)، ويرمي السهام بأقصى سرعة ممكنة. أما المهندس (LLM) فيعمل على وحدة معالجة رسومات (GPU) قوية في الخلفية.
سير العمل:
- يجد القرد مفتاحاً "واعداً" (مفتاحاً جعل الصندوق يتفاعل).
- يرسل القرد هذا المفتاح إلى المهندس.
- يفكر المهندس للحظة ويقوم بإنشاء نسخة جديدة من ذلك المفتاح "بنية مثالية".
- يأخذ القرد هذا المفتاح الجديد ويعود ليرميه على الصندوق.
السحر: هم لا ينتظرون انتهاء المهندس قبل أن يستمر القرد في عمله. إنهم يعملون بالتوازي، مثل سباق تتابع حيث يتم تمرير العصا دون توقف العدائين.

لماذا يهم هذا الأمر (النتائج)

اختبر الباحثون هذا الفريق الجديد ضد أفضل أدوات الفحص التقليدية على برمجيات حقيقية (مثل عارضات الصور، قارئات PDF، وخوادم الويب).

الطريقة القديمة: وجد القرد المعصوب العينين ما بين 31 إلى 46 خطأً (Bug).
الطريقة الجديدة (LLAMAFUZZ): وجد فريق المهندس الذكي 47 خطأً فريداً، بما في ذلك بعض الأخطاء التي لم يستطع أحد غيرهم العثور عليها.
السرعة: وجدوا هذه الأخطاء بسرعة أكبر لأنهم لم يضيعوا الوقت في رمي آلاف المفاتيح غير الصالحة وغير المجدية.

مثال من الواقع: صورة PNG

تقدم الورقة البحثية مثالاً رائعاً باستخدام ملف صورة PNG.

القرد: يغير بايت (Byte) بشكل عشوائي في ترويسة الصورة. الآن تقول الملف "أنا ملف JPEG" بدلاً من "أنا ملف PNG". يتوقف البرنامج فوراً لأنه مرتبك، لكن القرد لم يتعلم أي شيء عميق عن الكود.
المهندس: يعرف أن ترويسة الصورة يجب أن تظل سليمة. بدلاً من ذلك، يقوم بعناية بتغيير حجم كتلة الصورة أو عمق الألوان بطريقة تبدو صالحة للبرنامج ولكنها تدفع الكود إلى أقصى حدوده. هذا يسمح للبرنامج بالعمل بشكل أعمق، مما يكشف عن شقوق خفية في المنطق البرمโปรما لم يكن القرد ليراها أبداً.

الخلاصة

LLAMAFUZZ يشبه الترقية من رش الرصاص العشوائي بآلة رش، إلى استخدام بندقية قنص يوجهها خبير. من خلال استخدام الذكاء الاصطناعي لفهم بنية البيانات، يمكن للأداة توليد حالات اختبار أكثر ذكاءً وصلاحية. وهذا يعني العثور على المزيد من الثغرات الأمنية، وبسرعة أكبر، وبجهد أقل ضائعاً.

إنه يثبت أنه في عالم الأمن البرمجي، فهم قواعد اللعبة لا يقل أهمية عن لعب اللعبة نفسها.

إليك ملخص تقني مفصل لورقة البحث بعنوان "LLAMAFUZZ: Large Language Model Enhanced Greybox Fuzzing".

1. بيان المشكلة

أصبح "التحليل بالصندوق الرمادي" (Greybox Fuzzing) تقنية مهيمنة لاكتشاف الثغرات البرمجية نظرًا لتوازنها بين الكفاءة والفعالية. ومع ذلك، تعتمد أدوات التحليل التقليدية بالصندوق الرمادي (مثل ++AFL) على التحوير العشوائي على مستوى البت (bit-level randomized mutation). ورغم فعالية هذا النهج مع البيانات غير المهيكلة، إلا أنه يواجه عقبات كبيرة عند استهداف التطبيقات التي تتطلب مدخلات مهيكلة (مثل XML، JSON، PDF، والبروتوكولات الثنائية):

السلامة الهيكلية: غالبًا ما تؤدي عمليات قلب البتات العشوائية إلى إتلاف البنية النحوية للمدخلات الصحيحة (مثل كسر وسوم XML أو رؤوس ملفات PNG)، مما يتسبب في رفض البرنامج المستهدف للمدخل فورًا.
عدم الكفاءة: تضطر أدوات التحليل للقيام بمحاولات مفرطة لتوليد بذور (seeds) مهيكلة صالحة، مما يؤدي إلى انخفاض معدل الإنتاجية وبطء نمو التغطية (coverage).
المقايضة في الأدوات المتخصصة: يمكن لأدوات التحليل المتخصصة القائمة على القواعد (مثل Gramatron وNautilus) توليد مدخلات مهيكلة صالحة، لكنها تتطلب تعريفات قواعد يدوية مكثفة (مثل صيغ Chomsky أو Greibach Normal Forms)، مما يحد من مرونتها وقابليتها للتطبيق على تنسيقات جديدة.

2. المنهجية: LLAMAFUZZ

يقترح المؤلفون LLAMAFUZZ، وهو محلل (fuzzer) هجين بالصندوق الرمادي يدمج النماذج اللغوية الكبيرة (LLMs) للقيام بـ التحوير المدرك للهيكل (structure-aware mutation). يعمل النظام عبر ثلاث مراحل رئيسية:

أ. إعداد البيانات والتحويل

جمع بيانات التدريب: يجمع النظام "أزواج البذور" (seed pairs) من حملات تحليل حقيقية (مثل FuzzBench وAFL++ logs). يتكون الزوج من بذرة أصلية ( $S_i$ ) وبذرة محورة ( $S'_i$ ) نجحت في تفعيل مسارات برمجية جديدة أو تسببت في انهيارات (crasshes).
التحويل من ثنائي إلى سداسي عشر (Binary-to-Hex): للسماح للنماذج اللغوية بمعالجة البيانات الثنائية (التي لا تستطيع فهمها بشكل طبيعي)، يتم تحويل البذور الثنائية إلى تمثيل سداسي عشر موحد.
- يتم تجميع كل حرفين متتاليين من السداسي عشر في رمز (token) واحد لتقليل طول التسلسل وتقليل توسع المفردات.
- تُضاف بيانات ضوضائية (noise data) لمنع الإفراط في التخصيص (overfitting).
هندسة الأوامر (Prompt Engineering): يتم تنسيق حالات التدريب كأوامر تحتوي على البذرة الأصلية والنتيجة المحورة المطللة، مما يعلم النموذج منطق التحويل.

ب. الضبط الدقيق للنموذج (Model Fine-Tuning)

النموذج الأساسي: يستخدم المؤلفون نموذج LLaMA 2-7B-Chat كنموذج أساسي.
الضبط الدقيق الخاضع للإشراف (SFT): يتم ضبط النموذج باستخدام تقنية LoRA (Low-Rank Adaptation) مع دقة مختلطة ($fp16$) لتعلم أنماط تحوير محددة والقيود الهيكلية لتنسيقات البيانات المستهدفة.
الهدف: يتعلم النموذج توليد تحويرات ذات معنى دلالي وصحيحة نحويًا بدلاً من مجرد قلب البتات عشوائيًا.

ج. بنية التكامل غير المتزامنة

لمعالجة التفاوت في السرعة بين عملية التحليل عالية الإنتاجية وبين بطء استنتاج النماذج اللغوية (LLM inference)، يستخدم LLAMAFUZZ طابور مهام مزدوج الطبقات وغير متزامن:

حلقة التحليل الرئيسية: تشغل المحلل القياسي (++AFL) على المعالج (CPU).
خيط تحوير النموذج اللغوي (LLM Mutation Thread): يعمل بشكل غير متزامن على معالج الرسوميات (GPU). يقوم بسحب البذور من الطابور، وتحويلها إلى سداسي عشر، وتوليد بذور محورة عبر النموذج المضبوط دقيقًا، ثم إعادة إدخالها في الطابور.
اختيار البذور: يعطي المحلل الأولوية للبذور القادمة من طابور النموذج اللغوي إذا كانت متاحة؛ وإلا فإنه يعود إلى تحويرات ++AFL.
حلقة التغذية الراجعة: تُضاف البذور التي تطلق تغطية جديدة أو انهيارات إلى كلا الطابورين لمزيد من التحوير.

3. المساهمات الرئيسية

استراتيجية تحوير معززة بالنماذج اللغوية الكبيرة: نهج مبتكر يستفيد من معرفة النماذج اللغوية المسبقة بتنسيقات البيانات ويقوم بضبطها دقيقًا على أزواج التحوير لتوليد مدخلات صحيحة هيكليًا دون الحاجة إلى تعريفات قواعد يدوية.
بنية غير متزامنة هجينة: تصميم نظام يفصل عملية استنتاج النموذج اللغوي المكثفة للموارد عن حلقة التحليل عالية السرعة، مما يضمن أن دمج النماذج اللغوية لا يؤدي إلى تدهور الإنتاجية الإجمالية للمحلل.
قابلية تطبيق عالمية: على عكس الأدوات القائمة على القواعد، يمكن لـ LLAMAFUZZ التعامل مع التنسيقات النصية والثنائية على حد سواء بأقل قدر من التكيف، مما يسد الفجوة بين المحللات العامة والمتخصصة.
تقييم شامل: تم تقييم النظام مقابل أفضل الأدوات المتاحة (SOTA) على معيار Magma (الأخطاء الحقيقية) وOSS-Fuzz (البرامج الواقعية).

4. النتائج التجريبية

قارن المؤلفون LLAMAFUZZ بكل من ++AFL، Moptafl، Honggfuzz، Fairfuzz، والمحللات المتخصصة القائمة على القواعد (Gramatron، Grimoire، Nautilus).

اكتشاف الأخطاء (معيار Magma):
- اكتشف LLAMAFUZZ في المتوسط 47 خطأً فريدًا، متفوقًا على ++AFL (46)، وMoptafl (42)، وHonggfuzz (37)، وFairfuzz (31).
- نجح في تفعيل أخطاء معقدة محددة (مثل CVE-2017-9048 في libxml2) التي فشلت استراتيجيات التحوير العشوائي في إيجادها، مما أظهر قدرته على فهم هياكل البيانات المتكررة.
- حقق تسريعًا كبيرًا في تفعيل الأخطاء لـ 29 من أصل 43 خطأً مشتركًا مقارنة بـ ++AFL.
تغطية الكود (OSS-Fuzz/الواقعي):
- تفوق LLAMAFUZZ على ++AFL في 11 من أصل 15 هدفًا واقعيًا، مما أظهر تحسنًا ذا دلالة إحصائية في تغطية الفروع (branch coverage).
- أظهر تعدد استخدامات فائقًا مقارنة بالمحللات القائمة على القواعد، والتي غالبًا ما تتفوق فقط في أهداف محددة (مثل Nautilus على mruby ولكن ليس على PHP)، بينما قدم LLAMAFUFF أداءً جيدًا باستمرار عبر تنسيقات متنوعة (XML، JSON، PDF، ELF، إلخ).
دراسات الاستئصال (Ablation Studies):
- فحص الحفظ (Memorization Check): أكدت التجارب أن مكاسب الأداء كانت بسبب قدرة النموذج اللغوي على استنتاج الهيكل، وليس مجرد إعادة تشغيل بيانات التدريب. لم يطابق ++AFL المزود ببيانات التدريب أداء LLAMAFUZZ.
- ضرورة الضبط الدقيق: ثبت أن الضبط الدقيق أمر ضروري؛ حيث أدى استخدام نموذج لغوي مدرب مسبقًا دون ضبط دقيق للمهمة إلى تغطية أقل.
- تعميم النموذج: تعمم النهج بشكل جيد عبر مختلف النماذج اللغوية الأساسية (Llama 3، Mistral، Qwen2)، حيث أظهرت النماذج الأحدث أداءً أفضل قليلاً.

5. الأهمية

يمثل LLAMAFUZZ تحولًا جذريًا في تحليل البيانات المهيكلة. فمن خلال استبدال التحوير العشوائي الأعمى بتحوير دلالي ومحافظ على الهيكل مدفوع بالنماذج اللغوية الكبيرة، فإنه يتغلب على العقبة الرئيسية أمام أدوات التحليل التقليدية بالصندوق الرمادي.

إلغاء هندسة القواعد اليدوية: يلغي الحاجة إلى تحديد القواعد يدويًا، وهو أمر مستهلك للوقت وعرضة للخطأ كما في أدوات مثل Gramatron.
القابلية للتوسع: يضمن التصميم غير المتزامن أن التكلفة الحسابية للنماذج اللغوية لا تعيق عملية التحليل.
الفعالية: تثبت النتائج أن النماذج اللغوية يمكنها بفعالية تعلم قيود البيانات المعقدة واستراتيجيات التحوير، مما يؤدي إلى استكشاف أعمق للكود واكتشاف أسرع للثغرات في البرمجيات الواقعية.

في الختام، نجح LLAMAFUZZ في دمج قدرات الاستنتاج للنماذج اللغوية الكبيرة في حلقة التحليل، واضعًا معيارًا جديدًا للاختبار الآلي للبرمجيات في تنسيقات البيانات المهيكلة.