JailbreakSkill: Scaling Automated Red-Teaming with Reusable and Ever-Evolving Skills

في عالم الذكاء الاصطناعي الآخذ في التوسع السريع، أصبحت النماذج اللغوية الكبيرة أدوات قوية قادرة على كتابة الأكواد البرمجية، وتأليف القصص، والإجابة على الأسئلة المعقدة. ومع ذلك، نظرًا لأن هذه الأنظمة تتدرب على كميات هائلة من البيانات البشرية، يمكن خداعها أحيانًا لتجاهل قواعد السلامة الخاصة بها وتوليد محتوى ضار. ولضمان سلامة هذه الأدوات قبل إطلاقها للجمهور، يستخدم الباحثون ممارسة تسمى "الفريق الأحمر" (red-teaming). تخيل فريق أمن يحاول اقتحام مبنى للعثور على نقاط الضعف قبل أن يفعل ذلك لص، في المجال الرقمي، يعني هذا استخدام أنظمة آلية لاختبار نماذج الذكاء الاصطناعي باستمرار بأسئلة مخادعة لمعرفة ما إذا كانت ستكشف بالخطأ عن معلومات خطيرة. لسنوات، اعتمدت هذه الاختبارات الآلية على توليد أسئلة ذكية لمرة واحدة لتجاوز فلاتر السلامة. ولكن مع زيادة ذكاء نماذج الذكاء الاصطناعي وزيادة تطور حواجز السلامة الخاصة بها، غالبًا ما تفشل هذه المحاولات الفردية، مما يضطر الباحثين إلى المحاولة مرارًا وتكرارًا، وتعديل نهجهم في كل مرة.

لقد قدم فريق من الباحثين الآن نهجًا جديدًا يسمى "JailbreakSkill"، والذي ينقل التركيز من إنشاء أسئلة فريدة لا نهاية لها إلى بناء مكتبة قابلة لإعادة الاستخدام من استراتيجيات الهجوم. وبدلاً من معاملة كل محاولة فاشلة كطريق مسدود، يعامل نظامهم هذه الإخفاقات كفرص للتعلم. ينظم الإطار الطرق المختلفة لخداع الذكاء الاصطناعي إلى "مهارات" (skills) متميزة ونمطية. قد تتضمن بعض المهارات إعادة كتابة طلب ضار كاستفسار تاريخي، بينما يتضمن بعضها الآخر تمويهه كمهمة برمجية أو قصة خيالية. وعندما تفشل مهارة معينة في اختراق دفاعات النموذج، لا يكتفي النظام بالمضي قدمًا فحًا، بل يحلل سبب فشلها. ثم يستخدم ذلك التحليل إما لتنقيح المهارة الحالية، أو دمجها مع مهارة أخرى، أو ابتكار مهارة جديدة تمامًا. وهذا يخلق دورة ذاتية التحسين حيث تصبح مكتبة أساليب الهجوم أقوى وأكثر تنوعًا بمرور الوقت، تمامًا كما يقوم عالم الأحياء بتهجين النباتات للحصول على سمات أفضل، ولكن هنا السمات هي القدرة على تجاوز حواجز السلامة الرقمية.

اختبر الباحثون هذا النظام ضد مجموعة متنوعة من نماذج الذكاء الاصطناعي المتقدمة، بما في ذلك أكثر النسخ تطورًا وتوافقًا مع معايير السلامة المتاحة اليوم. ووجدوا أنه من خلال تنظيم الهجمات في هذه المهارات القابلة لإعادة الاستخدام والسماح للنظام بتطويرها بناءً على الإخفاقات السابقة، تمكنوا من زيادة معدل نجاح اختباراتهم بشكل كبير. في تجاربهم، رفع النظام متوسط معدل النجاح بمقدار 17.5 نقطة مئوية في أحد معايير السلامة الرئيسية وبمقدار 13.4 نقطة في معيار آخر. ولعل الأمر الأكثر إثارة للدهشة هو أنه عند اختباره ضد نموذج متطور للغاية ومعروف باسم GPT-5.4، عززت المهارات المتطورة معدل النجاح بنحو 49 نقطة، محولةً نظامًا كان من الصعب اختراقه سابقًا إلى نظام يمكن اختراقه في معظم المحاولات. يشير هذا إلى أن القدرة على التعلم من الفشل وتكييف الاستراتيجيات هي عامل حاسم لفهم الثغرات الحقيقية لنماذج الذكاء الاصطناعي الحديثة.

إن ما يجعل هذا الاكتشاف مهمًا بشكل خاص هو أن النظام لم يجد مجرد "خدعة سحرية" واحدة تعمل على كل شيء، بل بنى مجموعة من الأدوات المتخصصة. كانت بعض الاستراتيجيات الجديدة التي ابتكرها مبدعة للغاية، مثل إعادة صياغة طلب مباشر لمعلومات ضارة كـ "مهمة غير مكتملة" في مستند، مما يجبر الذكاء الاصطناعي على إكمال الفكرة لجعل الجملة منطقية. لاحظ الباحثون أن العديد من هذه المهارات المكتشفة حديثًا لم تكن فعالة فقط ضد النماذج المحددة التي اختُبرت عليها، بل يمكن أيضًا نقلها إلى نماذج ذكاء اصطناعي أخرى غير مرئية دون الحاجة إلى مزيد من التعديل. ويشير هذا إلى أن الآليات الأساسية لهذه الهجمات قوية ويمكن أن تعمم عبر أنواع مختلفة من الذكاء الاصطناعي.

كما سلطت الدراسة الضوء على قيود تدابير السلامة الحالية. وجد الباحثون أنه بينما كانت بعض النماذج جيدة جدًا في رفض الطلبات المباشرة، إلا أنها كانت غالبًا أقل فعالية عندما يتم تغليف نفس الطلب في سرد معقد أو تنسيق تقني مثل مخطط JSON أو مهمة إكمال كود برمجي. ومن خلال استكشاف هذه الزوايا المختلفة بشكل منهجي، كشف إطار عمل JailbreakSkill أن فلاتر السلامة غالبًا ما تكافح للحفاظ على حذرها عندما يتغير سياق الطلب، حتى لو ظل الجوهر الأساسي كما هو. إن قدرة النظام على تشخيص سبب فشل نهج معين — سواء كان النموذج قد رفض الطلب لأنه اكتشف القصد الضار، أو لأن الطلب أصبح مربكًا للغاية — سمحت له بالتحول بسرعة إلى استراتيجية أكثر فعالية.

في النهاية، يوضح هذا العمل أن "الفريق الأحمر" الآلي يتطور من لعبة حظ إلى علم هيكلي للتكيف. ومن خلال معاملة أساليب الهجوم كمكونات نمطية وقابلة لإعادة الاستخدام يمكن تحسينها باستمرار، يمكن للباحثين بناء صورة أكثر شمولاً لمكان وقوف سلامة الذكاء الاصطناعي من الفشل. وتشير النتائج إلى أنه مع زيادة قدرات نماذج الذكاء الاصطناعي، يجب أن تصبح دفاعات السلامة الخاصة بها أيضًا أكثر ديناميكية، وقادرة على التعرف ليس فقط على الكلمات المستخدمة في المطالبة، ولكن أيضًا على الأنماط الهيكلية والسياقية التي قد تخفي نية ضارة. لقد أتاح الباحثون الكود الخاص بهم ومكتبة المهارات المتطورة للجمهور، مما يسم يسمح للعلماء الآخرين بالبناء على هذا العمل ومواصلة المهمة الأساسية لجعل الذكاء الاصطناعي أكثر أمانًا للجميع.