Adversarial Style Optimization: Enhancing VLM Jailbreaks by GRPO-based Stylistic Triggers Optimization
تقدم هذه الورقة البحثية "تحسين الأسلوب التنافسي" (ASO)، وهو إطار عمل قائم على خوارزمية (GRPO) يستغل عدم الاتساق الأسلوبي في النماذج اللغوية الكبيرة متعددة الوسائط لتعزيز معدلات نجاح هجمات كسر الحماية بشكل كبير من خلال تحسين المحفزات الأسلوبية البصرية مع الحفاظ على المحتوى الدلالي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً تستطيع فيه الحواسيب أن ترى وتفهم العالم تماماً كما نفعل نحن، ولكن مع قوة خارقة: يمكنها قراءة عقلك والإجابة على أي سؤال تطرحه، من "كيف أخبز كعكة؟" إلى "ما هي أفضل طريقة لبناء روبوت؟". تُسمى هذه النماذج "نماذج اللغات الكبيرة متعددة الوسائط" (MLLMs). إنها بمثابة الأقارب الأذكياء والفنانين لبرامج الدردشة الآلية التي نستخدمها كل يوم، وهي قادرة على النظر إلى صورة وكتابة قصة عنها. ولكن، تماماً مثل كلب حراسة عند البوابة، تمتلك هذه النماذج قواعد سلامة؛ فقد تمت برمجه لتقول "لا!" إذا طلبت منها القيام بشيء خطير أو مسيء.
لفترة طويلة، حاول الباحثون معرفة كيفية خداع كلاب الحراسة هذه. كانت معظم المحاولات تشبه محاولة تمرير شيء محظور من أمام الحارس عبر إخفائه داخل صندوق أو كتابة رمز سري على الصندوق. يُسمى هذا "هجوماً قائماً على المحتوى" (content-based attack)—أي محاولة خداع الحارس عن طريق تغيير ما هو موجود في الصورة. ولكن ماذا لو لم يكن الحارس ينظر فقط إلى الشيء؟ ماذا لو كان الحارس يتشتت أيضاً بـ كيفية ظهور هذا الشيء؟ ربما يكون الحارس أقل حذراً إذا بدت الصورة كأنها رسم بألوان الشمع، أو صورة قديمة، أو قصة مصورة. يستكشف هذا البحث هذه الفكرة تحديداً: أن أسلوب الصورة قد يكون المفتاح السري لكسر قواعد سلامة الحارس.
اكتشف الباحثون وراء هذه الدراسة، بقيادة بينغجون لو وفريقه، شيئاً مذهلاً. لقد وجدوا أن هذه النماذج الذكية لديها "نزوة شخصية" غريبة؛ فهي بارعة للغاية في فهم ما يحدث في الصورة، بغض النظر عن كيفية رسمها. لكن إنذارات السلامة لديها تبدو وكأنها ترتبك بسبب أنماط فنية معينة. الأمر كما لو أن النموذج يفكر: "أوه، هذا مجرد رسم تخطيطي بسيط بالقلم الرصاص، لا يمكن أن يكون خطيراً"، حتى لو كان الرسم يطلب في الواقع شيئاً ضاراً.
لاختبار ذلك، لم يكتفِ الفريق بالتخمين حول أي أسلوب سيكون الأفضل. بل بنوا نظاماً ذكياً يسمى تحسين الأسلوب التنافسي (ASO). فكر في ASO كطالب فنون ماهر يحاول إيجال الطريقة المثالية لرسم صورة لخداع كلب الحراسة. أولاً، يجرب النظام مجموعة متنوعة من الأساليب الفنية—مثل الرسم الزيتي، أو فن البكسل، أو الأنمي—ليرى أي أسلوب يجعل الذكاء الاصطناعي أكثر عرضة لخفض حذره. هذه هي مرحلة "الاستقصاء".
بمجرد العثور على الأسلوب الذي يعمل بشكل أفضل (لنفترض أنه رسم تخطيطي بالقلم الرصاص)، لا يتوقفون عند هذا الحد. بل يستخدمون روبوتاً ذكياً جداً في التعلم (يُسمى وكيل GRPO) لضبط ذلك الرسم بدقة. تخيل الروبوت كفنان يقوم بتعديل الرسم قليلاً في كل مرة: جعل الخطوط أكثر سمكاً، أو التظليل أكثر قتامة، أو المنظور غريباً بعض الشيء. بعد كل تعديل، يسأل الروبوت الذكاء الاصطناعي: "هل سمحت بمرور هذا؟". إذا قال الذكاء الاصطناعي "لا"، يحاول الروبوت مرة أخرى. وإذا قال "نعم"، يحتفل الروبوت ويحفظ ذلك الرسم المحدد.
اختبر الفريق هذا على بعض أذكى نماذج الذكاء الاصطناعي في العالم، بما في ذلك أسماء كبيرة مثل GPT-4.1 وGemini. وكانت النتائج مثيرة للاهتمام. فعندما أخذوا محاولات "الاختراق" (Jailbreak) الموجودة بالفعل (الهجمات التي كانت تحاول بالفعل خداع الذكاء الاصطناعي) وطبقوا عليها تعديلات الأسلوب المحسنة الخاصة بهم، ارتفع معدل النجاح بشكل كبير. على سبيل المثال، في أحد النماذج الشهيرة، قفز هجوم قياسي كان ينجح بنسبة 39% من الوقت إلى أكثر من 44% بمجرد إضافة أسلوبهم المحسن. وفي نماذج أخرى، كان التحسن أكثر دراماتيكية، حيث شهدت بعض الهجمات ارتفاعاً في معدلات نجاحها بعدة نقاط مئوية، محولةً حالة "ربما" إلى "بالتأكيد".
والأمر المثير حقاً ليس مجرد أن هذا لا يتعلق بخداع الذكاء الاصطناعي ليقول "نعم" لسؤال غير ضار؛ فقد وجد الباحثون أن الذكاء الاصطناعي لم يتجاوز القواعد فحسب، بل أصبح أكثر ثقة في تقديم الإجابة الضارة. الأمر يشبه أن الذكاء الاصطناعي لم يفتح البوابة فحسب، بل ركض للخارج وسلم المفاتيح.
يجادل البحث بأن هذا أمر بالغ الأهمية لأن الجميع كان يركز على ما يراه الذكاء الاصطناعي (المحتوى)، ونسوا النظر في كيفية رؤيته له (الأسلوب). يقترح الباحثون أن دفاعات السلامة يجب أن تتغير. لا يمكنك فقط بناء جدار لمنع الكلمات السيئة أو الصور السيئة؛ بل يجب عليك أيضاً تعليم الذكاء الاصطناعي أن يكون حذراً حتى عندما تبدو الصورة كرسوم كرتونية لطيفة أو رسم تخطيطي خشن.
باختصار، يظهر هذا البحث أن الطريقة التي تبدو بها الصورة تهم بقدر ما يهم ما بداخلها. ومن خلال معاملة نظام سلامة الذكاء الاصطناعي كشخص انتقائي في طعامه لا يحب إلا الطعام الذي يُقدم على طبق معين، وجد الباحثون طريقة لتمرير "الطعام المحظور" من أمام الحارس. لم يجدوا مجرد شق في الجدار، بل وجدوا باباً كاملاً لم يكن أحد يعلم بوجوده، مما يثبت أنه في عالم سلامة الذكاء الاصطناعي، فإن أسلوب الرسالة لا يقل قوة عن الرسالة نفسها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.