LLM-based Vulnerable Code Augmentation: Generate or Refactor?
تبحث هذه الورقة فيما إذا كان تعزيز البيانات القائم على النماذج اللغوية الكبيرة للبرمجيات الضعيفة أكثر فعالية من خلال توليد عينات جديدة أو عبر إعادة صياغة المعنى البرمجي للعينات الموجودة، لتخلص في النهاية إلى أن النهج الهجين هو الأفضل في تحسين أداء مصنفات الثغرات الأمنية القائمة على التعلم العميق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
المشكلة: معضلة "المرض النادر" في البرمجة
تخيل أنك تقوم بتدريب ذكاء اصطناعي طبي متطور للغاية للكشف عن الأمراض النادرة. للقيام بذلك بشكل جيد، يحتاج الذكاء الاصطناعي إلى رؤية آلاف الأمثلة لكل مرض. ولكن هناك مشكلة: بعض الأمراض شائعة للغاية (مثل الإنفلونزا)، بينما البعض الآخر نادر للغاية. ولأنك تملك فقط حفنة من الأمثلة للأمراض النادرة، يصبح الذكاء الاصطناعي خبيراً في رصد الإنفلونزا، لكنه يظل "أعمى" تجاه الأمراض النادرة.
في عالم الأمن السيبراني، تُعد الثغرات البرمجية تماماً مثل هذه الأمراض النادرة. معظم الأكواد "سليمة" (آمنة)، ولكن أنواعاً معينة من "الأخطاء" (الثغرات) نادرة جداً في مجموعات البيانات. ولأن نماذج الذكاء الاصطناعي تتعلم من خلال رؤية الأنماط، فإذا لم ترَ أمثلة كافية لنوع معين من الأخطاء، فلن تعرف كيفية رصدها عندما تظهر بالفعل في العالم الحقيقي.
الحل: استراتيجية "المحاكي الرقمي"
قرر الباحثون في هذه الورقة البحثية حل مشكلة الندرة هذه باستخدام ذكاء اصطناعي قوي (نموذج لغوي كبير يسمى Qwen) ليعمل كـ "محاكٍ رقمي". فبدلاً من الانتظار لسنوات لجمع المزيد من الأمثلة من العالم الحقيقي، استخدموا الذكال الاصطناعي لـ "تصنيع" أمثلة جديدة.
لقد اختبروا طريقتين مختلفتين للقيام بذلك:
1. "المرتجل" (التعزيز القائم على التوليد)
فكر في هذا الأمر كأنه ممثل محترف شاهد بضع لقطات لشرير ما. أنت لا تعطيه الشرير الفعلي؛ بل تكتفي بوصف شخصية الشرير وتظهر له بضع لقطات للاستلهام فقط. ثم تقول له: "الآن، اذهب واصنع خمسة أشرار جدد تماماً من الصفر!"
- كيف يعمل: ينظر الذكاء الاصطناعي إلى بضعة أمثلة حقيقية لخطأ برمي (Bug)، ثم يكتب قطعاً برمجية جديدة وأصلية تماماً تحتوي على نفس نوع الخطأ.
2. "خبير التجميل" (التعزيز القائم على إعادة الهيكلة)
فكر في هذا الأمر كأنك تأخذ صورة موجودة لشخص ما وتستخدم برنامج "فوتوشوب" لتغيير لون شعره، ملابسه، والخلفية، مع الحفاظ على ملامح وجهه كما هي تماماً. الشخص لا يزال هو نفسه، لكن الصورة تبدو مختلفة.
- كيف يعمل: يأخذ الذكاء الاصطناعي قطعة من كود برمجي حقيقي يحتوي على ثغرة، ثم يقوم بـ "إعادة هيكلتها" (Refactoring). يقوم بتغيير أسماء المتغيرات، أو إضافة بعض الأسطر البرمجية غير الضرورية، أو إعادة ترتيب المنطق البرمجي. يبقى "الخطأ" في مكانه بالضبط، لكن "مظهر" الكود يتغير.
النتائج: ماذا حدث؟
بعد ذلك، أخذ الباحثون هذه الأمثلة "المزيفة" (ولكن الواقعية) وقدموها لذكاء اصطناعي "طالب" (مصنف يسمى CodeBERT) ليروا ما إذا كان سيصبح أكثر ذكاءً.
- "المرتجل" (التوليد) كان سريعاً: كان بإمكانه إنتاج أكواد جديدة بسرعة كبيرة، لكنه كان متذبذباً قليًلا في دقة "التصنيف" (أحياناً كان الذكاء الاصطناعي يعتقد أنه صنع خطأً، لكنه لم يكن دقيقاً تماماً).
- "خبير التجميل" (إعادة الهيكلة) كان أبطأ: استغرق وقتاً أطول لإعادة كتابة الكود بعناوة، لكن النتائج كانت عالية الجودة جداً.
- "الفريق المثالي" (الدمج): جاءت أفضل النتائج عندما استخدموا كلتا الطريقتين معاً. من خلال تزويد الذكاء الاصطناعي "الطالب" بكل من "الأشرار" الجدد كلياً و"عمليات التجميل" للأشرار القدامى، قفزت قدرة الذكاء الاصطناعي على اكتشاف الثغرات بشكل كبير — حيث تحسنت بنسبة تصل إلى 24% في بعض الحالات!
لحظة الإدراك: عامل الطول
اكتشف الباحثون أيضاً "قاعدة خفية" في ذكاء البرمجة الاصطناعي: التعقيد هو العدو.
وجدوا أن الذكاء الاصطناعي بارع في رصد الأخطاء في المقاطع البرمجية القصيرة والبسيطة، ولكن كلما أصبح الكود أطول وأكثر "إسهاباً"، يبدأ الذكاء الاصطناعي في الارتباك وتنخفض دقة أدائه. الأمر يشبه محاولة العثور على إبرة في صندوق صغير مقابل العثود على إبرة في كومة قش هائلة.
الملخص باختختصار
بدلاً من التذمر من عدم وجود "أكواد سيئة" كافية للتدريب عليها، استخدم هؤلاء الباحثون ذكاءً اصطناعياً ذكياً لـ "تخيل" أكواد سيئة واقعية. ومن خلال دمج الابتكارات الجديدة كلياً مع عمليات إعادة الكتابة الذكية للأكواد القديمة، حولوا ذكاءً اصطناعياً أمنياً "أعمى" إلى محقق رقمي أكثر حدة وذكاءً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.