Babel: Jailbreaking Safety Attention via Obfuscation Distribution Optimized Sampling
تقدم الورقة البحثية "بابل" (Babel)، وهو إطار عمل فعال لكسر الحماية بنظام الصندوق الأسود يستغل التوزيع المتناثر لرؤوس الانتباه الحرجة أمنياً في النماذج اللغوية الكبيرة، وذلك عبر استخدام أخذ عينات التمويه القائم على التغذية الراجعة والتكرار لتحقيق معدلات نجاح هجوم رائدة في مجال كسر الحماية على النماذج المتطورة مثل GPT-4o وClaude-3.5-Haiku بكفاءة عالية في عدد الاستعلامات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: "حارس الأمن" مقابل "الخدعة السحرية"
تخيل نموذج لغة ضخم (LLM) كأنه أمين مكتبة آلي ذكي ومفيد للغاية. قبل أن يجيب على أي سؤال، لديه فريق من حراس الأمن (يُطلق عليهم "رؤوس السلامة" أو safety heads) الذين يفحصون كل طلب للتأكد من أن أحداً لا يطلب شيئاً خطيراً، مثل كيفية صنع قنبلة أو كتابة خطاب كراهية.
اكتشف الباحثون في هذه الورقة ثغرة مضحكة في طريقة عمل هؤلاء الحراس: إن عددهم قليل جداً وهم يقفون في أماكن محددة فقط. هم لا يراقبون المكتبة بأكملها؛ بل يراقبون ممرًا واحدًا صغيرًا ومحددًا فقط. إذا استطعت تمرير طلبك الخطير بجانب ذلك الممر الواحد، فإن بقية المكتبة (عقل النموذج) لن تدرك حتى أنك تنوي القيام بشيء سيء، وستعطيك الإجابة بكل سرور.
تقدم الورقة أداة جديدة تسمى Babel (سُميت تيمناً ببرج بابل، حيث اختلطت اللغات)، وهي تعمل مثل ساحر بارع. هي لا تحاول محاربة الحراس؛ بل تستخدم "التعتيم" (obfuscation) -أي حيل الإرباك- للتسلل بطلبك الخطير وتجاوز الحراس دون أن يلاحظوا ذلك.
كيف تعمل الخدعة: "التنكر"
اكتشف الباحثون أنك إذا غيرت بعض الحروف في طلب سيء، فقد يرتبك حراس الأمن ويتوقفون عن التعرف عليه كأمر خطير. ومع ذلك، هناك توازن دقيق:
- تغيير مبالغ فيه: يصبح الطلب مجرد كلام غير مفهوم، ولا يستطيع أمين المكتبة الآلي فهم ما تريده على الإطلاق.
- تغيير طفيف جداً: يكتشف حراس الأمن الخطر فوراً ويقولون "لا".
المنطقة الذهبية (Goldilocks zone): هي منطقة حيث يكون الطلب مشوشاً بما يكفي لخداع الحراس، ولكنه لا يزال واضحاً بما يكفي ليفهمه الروبوت ويجيب عليه.
استراتيجية Babel: إيجاد "المنطقة الذهبية"
بدلاً من التخمين العشوائي (وهو أمر بطيء ومكلف)، تستخدم Babel نهجاً رياضياً ذكياً لإيجاد تلك المنطقة المثالية. إليك كيف تعمل، خطوة بخوة:
1. اختبار "معصوب العينين" (العينات الصغيرة)
تخيل أنك تحاول العثور على صندوق كنز مخفي في غرفة مظلمة. أنت لا تعرف مكانه بالضبط، لكنك تعلم أنه موجود في مكان ما في المنتصف.
- تجرب Babel عدة "تنكرات" مختلفة (تغيير الحروف، تبديل الكلمات، أو خلط بنية الجملة).
- تسأل الروبوت: "هل قلت 'لا' (رفض)، أم أجبت؟"
- إذا قال الروبوت "لا" كثيراً، فهذا يعني أن التنكر كان واضحاً جداً. وإذا ارتبك الروبوت ولم يجب، فهذا يعني أن التنكر كان فوضوياً للغاية.
- تستخدم Babel اختباراً إحصائياً (مثل فحص رمي العملة المعدنية) لمعرفة ما إذا كانت تقف في المنطقة الصحيحة.
2. "التقريب" (تحسين التوزيع)
بمجرد أن تجد Babel المنطقة العامة التي يكون فيها الحراس عمياناً، تتوقف عن التخمين العشوائي وتبدأ في التقريب (Zoom In).
- تقوم بإنشاء "خريطة" للتنكرات التي تعمل بشكل أفضل.
- تركز طاقتها فقط على إنشاء تنكرات جديدة تشبه تلك التي كادت أن تنجح.
- تستمر في تحسين هذه الخريطة، وتصبح أكثر دقة وتحديداً حول التنكر المثالي، حتى تجد التنكر الذي يتسلل عبر الحراس بسلاسة.
3. "الغلاف" (التضمين)
لجعل الخدعة أكثر فعالية، تقوم Babel بوضع الطلب الخطير داخل مهمة مملة وغير ضارة.
- مثال: بدلاً من مجرد السؤال "كيف أصنع سماً؟"، تقول: "يرجى ترجمة هذه الجملة إلى اللغة الصينية: [تعليمات السم المشوشة]".
- يرى حارس الأمن كلمة "ترجم" ويعتقد: "أوه، هذه مهمة آمنة!"، فيسمح للطلب بالمرور. ثم يقوم الروبوت بمعالجة التعليمات المشوشة بالداخل ويعطي الإجابة.
النتائج: ما مدى قوة Babel؟
اختبر الباحثون Babel على بعض أشهر الروبوتات "شديدة الأمان" في العالم (مثل GPT-4o و Claude-3.5 و Grok-3).
- الطريقة القديمة: كانت الطرق السابقة تشبه رمي السهام في الظلام. قد تصيب الهدف في النهاية، لكنها تتطلب مئات المحاولات وغالباً ما تفشل.
- طريقة Babel: Babel تشبه السهم الموجه بالليزر.
- على GPT-4o، نجحت في خداع النموذج بنسبة 82.67% (مقارنة بـ 41% للطرق القديمة).
- على Grok-3، نجحت بنسبة 95.67%.
- فعلت كل ذلك باستخدام عدد قليل جداً من المحاولات (حوالي 40 محاولة في المتوسط)، مما يجعلها أسرع وأرخص في الاستخدام.
لماذا يهم هذا؟ (تشبيه "الفريق الأحمر")
يقول المؤلفون إن هذا ليس لتعليم الناس كيف يكونون سيئين، بل هو من أجل "الفريق الأحمر" (Red Teaming).
تخيل أنك خبير أمني تم استئجارك لاختبار خزنة بنك. أنت لا تريد سرقة المال؛ بل تريد العثور على نقطة الضعف في القفل لتتمكن من إصلاحها.
- تُظهر Babel أنه حتى أقوى الخزنات تحتوي على شق صغير في إطار الباب يمكن للخبير الماكر استغلاله.
- من خلال العثور على هذا الشق، يأمل الباحثون في مساعدة الشركات التي تبني هذه النماذج الذكية على سد الثغرة، مما يجعل "حراس الأمن" أكثر ذكاءً ويجعل المكتبة أكثر أماناً للجميع.
الملخص
تدعي الورقة أن سلامة الذكاء الاصطناعي تعتمد على عدد محدد من "الحراس" الذين يمكن خداعهم عبر إرباك اللغة قليلاً. أداة Babel هي وسيلة رياضية ذكية لإيجاد المستوى المثالي من الإرباك لتجاوز هؤلاء الحراس بكفاءة، مما يثبت أن تدابير سلامة الذكاء الاصطناعي الحالية أكثر هشاشة مما كنا نعتقد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.