AVIATOR: Towards AI-Agentic Vulnerability Injection Workflow for High-Fidelity, Large-Scale Code Security Dataset
تقدم هذه الورقة AVIATOR، وهو أول إطار عمل وكيل ذكاء اصطناعي (AI-agentic framework) يستخدم سير عمل منسقاً من الوكلاء المتخصصين، والتحليل القائم على الأدوات، والتصحيح الذاتي التكراري لتوليد مجموعات بيانات ثغرات عالية الدقة وواسعة النطاق، والتي تتفوق بشكل كبير على تقنيات الحقن الحالية وتحسن بشكل جوهري أداء نماذج اكتشاف الثغرات القائمة على التعلم العميق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم حارس أمن (ذكاء اصطناعي) كيف يكتشف النشال في مدينة مزدحمة. وللقيام بذلك، تحتاج إلى إظهار آلاف الأمثلة للنشالين أثناء عملهم للـحارس.
المشكلة؟ النشالون الحقيقيون نادرون، والذين نعرفهم غالباً ما يكونون فوضويين، أو يصعب تصنيفهم، أو لا يشبهون "المجرمين المثاليين" الذين نريد تعليم الحارس اكتشافهم. إذا دربت الحارس على أمثلة سيئة، فقد يبدأ في اعتقال الأبرياء أو تفويت اللصوص الحقيقيين.
إليك AVIATOR.
فكر في AVIATOR ليس كروبوت واحد، بل كـ طاقم بناء منظم للغاية يقوده مهندس معماري بارع. مهمته هي بناء "نشالين مزيفين" (ثغرات برمجية) داخل مبانٍ آمنة (أكواد برمجية آمنة) لكي يتعلم حارس الأمن كيفية اكتشافهم.
إليك كيف يعمل AVIATOR، مقسماً إلى مفاهيم بسيطة:
1. الطريقة القديمة: نهج "الملصق"
كانت الطرق السابقة لإنشاء هذه الثغرات المزيفة تشبه أخذ مبنى آمن ووضع لافتة "خطر" عشوائية على جدار ما، أو استخدام ختم للصق "نافذة مكسورة" جاهزة على باب.
- المشكلة: هذه الملصقات غالباً لا تتناسب مع المكان. تبدو مزيفة. وأحياناً تكسر هيكل المبنى. هنا يتعلم الحارس اكتشاف الملصقات، وليس العيوب الفعلية.
- النتيجة: يصاب الحارس بالارتباك، فيفشل في اكتشاف التهديدات الحقيقية، أو يطلق الكثير من الإنذارات الكاذبة.
2. طريقة AVIATOR: طاقم "المهندس المعماري البارع"
يغير AVIATOR قواعد اللعبة باستخدام وكلاء الذكاء الاصطناعي (AI Agents). بدلاً من روبوت واحد يحاول القيام بكل شيء في وقت واحد، يقوم AVIATOR بتقسيم المهمة إلى فريق من المتخصصين، يعملون مثل خبراء الأمن البشر.
إليك سير عمل الطاقم:
- المحقق (فهم الكود): أولاً، يقرأ الوكيل الكود مثلما يقرأ المحقق المخطط الهندسي. يفهم كيف يعمل المبنى، وأين توجد الأبواب، وكيف يتحرك الناس بداخله.
- أمين المكتبة (محمل المعلومات): يسحب هذا الوكيل ملفاً يحدد بالضبط نوع "العيب" الذي يجب إنشاؤه (على سبيل المثال: "لوح أرضي مرتخٍ" أو "باب خلفي غير مقفل").
- مهندس العكس (محلل الثغرات): ينظر هذا الوكيل إلى الكود الآمن ويتساءل: "ما الذي يمنع عملية الاختراق هنا؟" إنه يحدد حراس الأمن (الضوابط والتوازنات) التي تعمل حالياً.
- المخرب (الحاقن): هذا هو العامل الرئيسي. باستخدام معلومات الآخرين، يقوم بإزالة حارس معين بعناية أو إرخاء مسمار. والأهم من ذلك، أنه لا يكتفي بتحطيم الجدار؛ بل يجعل عملية الاختراق تبدو كما لو كان قام بها مخترق بشري حقيقي. إنه يستخدم "ورقة غش" (توليد مدعم بالاسترجاع - RAG) من عمليات الاختراق الواقعية لضمان أن التعديل يبدو أصلياً.
- فريق مراقبة الجودة (التحقق): هنا يتألق AVIATOR. قبل إرسال المبنى "المعطوب" إلى حارس الأمن، يقوم فريق كامل بفحصه:
- مدقق الفروقات: "هل قمت بتغيير أي شيء فعلاً، أم أنك قمت فقط بتحريك كرسي؟"
- المحلل الساكن: أداة روبوتية تمسح الكود للتأكد من أن المبنى لم ينهار (أخطاء في بناء الجملة البرمجية).
- المصلح: إذا ارتكب "المخرب" خطأً، يحاول "المصلح" إصلاحه أو المحاولة مرة أخرى.
3. لماذا هذا مهم (النتائج)
لأن AVIATOR يستخدم نهج "فريق الخبراء" هذا بدلاً من روبوت واحد يخمن:
- إنه أكثر واقعية: الثغرات المزيفة التي ينشئها تبدو وتتصرف تماماً مثل الثغرات الحقيقية. الأمر يشبه تدريب الحارس على ممثلين يقومون بـ "النشل" فعلياً، وليس مجرد أشخاص يحملون لافتات.
- إنه أكثر ذكاءً: يمكنه إنشاء تنوع هائل من العيوب (133 نوعاً مختلفاً!)، بينما كانت الطرق القديمة لا تستطيع سوى صنع بعض العيوب البسيطة.
- إنه أرخص وأسرع: تكلفة تشغيله أقل بمقدار 4.3 مرة من أفضل طريقة سابقة.
- الحارس يصبح أفضل: عندما تم تدريب حارس الأمن (كاشف الثغرات بالذكاء الاصطناعي) على بيانات AVIATOR المزيفة، أصبح أفضل بكثير في اكتشاف التهديدات الحقيقية. لقد وجد المزيد من الأشرار (ارتفاع نسبة الاستدعاء/Recall) دون اعتقال الأبرياء (الحفاظ على الدقة/Precision).
الخلاصة
فكر في AVIATOR كمحاكي للاختراق السيبراني. بدلاً من انتظار المخترقين الحقيقيين لاختراق الأنظمة للتعلم منهم، يبني AVIATOR ساحة تدريب آمنة، محكومة، وواقعية للغاية. إنه يستخدم فريقاً من المتخصصين في الذكاء الاصطناعي لصياغة سيناريوهات "ماذا لو" مثالية، مما يضمن أن المدافعين عن البرمجيات الذين ندربهم مستعدون لأي شيء قد يواجهونه في العالم الحقيقي.
باخت-القول: الطرق القديمة ختمت عيوباً مزيفة على الكود. أما AVIATOR فيبني عيوباً واقعية ومعقدة ومتنوعة حتى يتعلم المدافعون بالذكاء الاصطناعي الفرق بين المبنى الآمن والمبنى المكسور.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.