Co-RedTeam: Orchestrated Security Discovery and Exploitation with LLM Agents
يُعد Co-RedTeam إطار عمل متعدد الوكلاء واعٍ أمنياً، يستفيد من النماذج اللغوية الكبيرة مع التفكير القائم على التنفيذ، والتفاعل المنظم، والذاكرة طويلة الأمد، ليتفوق بشكل كبير على النماذج المرجعية الحالية في الاكتشاف والاستغلال الآلي للثغرات الأمنية عبر محاكاة سير عمل فرق الفريق الأحمر في العالم الحقيقي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك منزلاً ضخماً ومعقداً (كود برمجي)، وتريد العثور على كل طريقة ممكنة يمكن للمخترق من خلالها اقتحام هذا المنزل. تقليدياً، ستوظف فريقاً من خبراء الأمن البشريين ليقوموا بجولة في كل غرفة، ويفحصوا كل نافذة، ويحاولوا فتح كل قفل. هذا الأمر يستغرق وقتاً طويلاً، ويكلف الكثير من المال، ومن الصعب توسيع نطاقه.
يقدم البحث Co-RedTeam، وهو نظام جديد يستخدم الذكاء الاصطناعي (تحديداً النماذج اللغوية الكبيرة أو LLMs) ليعمل كفريق من خبراء الأمن الأذكياء والمؤتمتين. وبدلاً من مجرد استخدام ذكاء اصطناعي واحد يخمن ما قد يكون خاطئاً، يقوم Co-RedTeam بتنظيم مجموعة من الوكلاء المتخصصين في الذكاء الاصطناعي الذين يعملون معاً، تماماً كما يفعل فريق "الفريق الأحمر" (Red Teaming) البشري الحقيقي.
إليك كيف يعمل الأمر، مقسماً عبر تشبيهات بسيطة:
المشكلة في أدوات أمن الذكاء الاصطناعي القديمة
كانت المحاولات السابقة لاستخدام الذكاء الاصطناعي في الاختراق تشبه إعطاء روبوت واحد خريطة وإخباره: "جد نقطة الضعف".
- المشكلة: كان الروبوت غالباً ما يخطئ في التخمين، أو يعلق، أو يحاول الاقتحام دون اختبار ما إذا كانت خطته قد نجحت بالفعل. لقد افتقر إلى "التجذر" (Grounding) — أي لم يكن بإمكانه رؤية ما إذا كانت أفكاره تعمل حقاً في العالم الواقعي. كما أنه كان ينسى ما تعلمه من المحاولات السابقة.
حل Co-RedTeam: فريق قوات خاصة متخصص
يعمل Co-RedTeam كفريق عمليات خاصة منسق بدلاً من كونه ذئباً منفرداً. وهو يقسم المهمة إلى مرحلتين رئيسيتين، يديرهما "قائد الفريق" (Orchestrator).
المرحلة الأولى: العمل الاستقصائي (اكتشاف الثغرات)
قبل محاولة الاقتحام، يحتاج الفريق لمعرفة "أين" يبحث.
- وكيل المحلل (Analyst Agent): هذا الوكيل يشبه المحقق الذي يحمل عدسة مكبرة. هو لا يكتفي بقراءة الكود فحسب؛ بل يستخدم أدوات خاصة لتصفح "المنزل" بأكره (الكود البرمجي)، وفحص المخططات (هيكل الملفات) والتحقق من القواعد (الوثائق الأمنية مثل CWE وOWASP). إنه يبحث عن أدلة تشير إلى أن القفل قد يكون ضعيفاً.
- وكيل الناقد (Critic Agent): هذا الوكيل يشبه المحرر المتشكك. عندما يجد المحلل نقطة ضعف محتملة، يقول الناقد: "هل أنت متأكد؟ أرني الدليل". إذا كان الدليل ضعيفاً، يرسل الناقد المحلل للبحث بجهد أكبر. هذا التفاعل المتبادل يضمن عدم إضاعة الوقت في الإنذارات الكاذبة.
المرحلة الثانية: عملية الاقتحام (الاستغلال التكراري)
بمج once يتم العث| نقطة ضعف محتملة، يحاول الفريق الاقتحام فعلياً لإثبات وجودها.
- وكيل المخطط (Planner Agent): هذا الوكيل هو الاستراتيجي. بدلاً من رمي الحجارة عشوائياً على الجدار، فإنه يكتب خطة خطوة بخطوة: "الخطوة 1: افتح النافذة. الخطوة 2: تسلق السلم".
- وكيل التنفيذ (Execution Agent): هذا هو "العضلات" الذي يحاول تنفيذ الخطة داخل بيئة معزولة وآمنة (محاكاة رقمية للهدف). يقوم بتشغيل الكود أو الأوامر ليرى ما إذا كان الاقتحام سينجح.
- وكيل التقييم (Evaluation Agent): هذا الوكيل يراقب النتيجة. هل فُتحت النافذة؟ هل انطلق الإنذار؟ إنه يخبر المخطط: "هذا لم ينجح لأن النافذة كانت مغلقة من الداخل".
- الحلقة (The Loop): يسمع المخطط هذا التعليقات، ويقوم بتحديث الخطة ("حسناً، جرب الباب الخلفي بدلاً من ذلك")، ويحاول الفريق مرة أخرى. يستمرون في تحسين الخطة حتى ينجحوا في الاقتحام أو يثبتوا أن ذلك مستحيل.
السلاح السري: "دفتر الخبرات" (الذاكرة طويلة المدى)
أحد أهم الابتكارات في Co-RedTeam هو الذاكرة طويلة المدى.
- التشبيه: تخيل خبيراً بشرياً، بعد حل قضية ما، يكتب ملاحظة في مذكراته: "تذكر، عندما يكون الباب مغلقاً، جرب ثقب المفتاح في فتحة البريد، وليس المقبض".
- كيف يعمل: يقوم Co-RedTeam بحفظ ثلاثة أنواع من الملاحظات:
- الأنماط: "هذا النوع من الكود عادة ما يحتوي على هذه الثغرة المحددة".
- الاستراتيجيات: "عند مواجهة هذا النوع من الأنظمة، ابدأ بفحص ملفات الإعدادات".
- الحيل التقنية: "هذا الأمر المحدد نجح في تجاوز ذلك الجدار الناري".
- النتيجة: مع عمل النظام على المزيد والمزيد من المهام، يصبح أكثر ذكاءً. فهو لا يبدأ من الصفر في كل مرة؛ بل يتعلم من نجاحاته وإخفاقاته السابقة، مما يجعله أسرع وأكثر فعالية في العث find ثغرات جديدة.
ماذا وجدوا (النتائج)
اختبر الباحثون Co-RedTeam في عدة تحديات أمنية صعبة (مثل CyBench وBountyBench).
- معدل النجاح: نجح النظام في العثور على الثغرات واستغلالها في أكثر من 60% من الحالات التي تم اختباره فيها.
- التحسن: كان أفضل بكثير من طرق الذكاء الاصطنا الأخرى (والتي سجل بعضها معدلات نجاح أقل من 10%).
- لماذا نجح: أظهرت الورقة البحثية أنه إذا قمت بإزالة أي جزء من الفريق (مثل الناقد، أو المخطط، أو الذاكرة)، فإن النظام يصبح أسوأ بكثير. السحر يحدث لأن كل هذه الأجزاء تعمل معاً في حلقة من التخطيط، الاختبار، والتعلم.
الملخص
إن Co-RedTeam يشبه الانتقال من روبوت واحد مشوش يحاول اختراق نظام، إلى فريق أمني منظم للغاية وذاتي التطوير. يستخدم قائداً للفريق لتنسيق المتخصصين، ويتحقق من عمله الخاص، ويتعلم من كل محاولة، ويستخدم الاختبار في العالم الواقعي لإثبات نتائجه، مما يجعله أكثر فعالية في العثور على نقاط الضعف في البرمجيات مقارنة بأدوات الذكاء الاصطناعي السابقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.