LASH: Adaptive Semantic Hybridization for Black-Box Jailbreaking of Large Language Models
تقدم الورقة البحثية LASH، وهو إطار عمل للصندوق الأسود يقوم بتكوين مخرجات استراتيجيات كسر الحماية غير المتجانسة متعددة بشكل تكيفي باستخدام مُحسِّن جيني لتحقيق معدلات نجاح هجوم في حالة الذروة على النماذج اللغوية الكبيرة المتوافقة بأقل ميزانية استعلامات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول فتح قفل روبوت ذكي للغاية وحذر جداً، تم برمجته لرفض الطلبات الضارة. هذا الروبوت هو "نموذج لغوي كبير" (LLM). على مر السنين، حاول الباحثون خداع هذا الروبوت لكسر قواعده (وهي عملية تسمى "الجيلبريك" أو كسر الحماية) باستخدام العديد من الحيل المختلفة. بعض الحيل تتضمن إعادة كتابة الطلب بطريقة مضحكة، وبعضها يتضمن التظاهر بأن الروبوت شخصية أخرى، وبعضها الآخر يتضمن طلب حل لغز يخفي الطلب السيئ.
المشكلة هي أن حيلة واحدة لا تنجح مع كل الروبوتات أو لكل نوع من الطلبات السيئة. أحياناً تنجح حيلة "القصة المضحكة"، وتفشل حيلة "تقمص الأدوار". أحياناً يتجاهل الروبوت القصة لكنه يقع في فخ تقمص الأدوار. الأمر يشبه محاولة فتح باب بمفتاح واحد: أحياناً يناسب المفتاح القفل، ولكن غالباً لا يفعل.
إليك LASH: صانع "المفتاح الرئيسي"
تقدم الورقة البحثية طريقة جديدة تسمى LASH (التهجين الدلالي التكيفي للنماذج اللغوية الكبيرة). بدلاً من محاولة ابتكار حيلة واحدة مثالية، يعمل LASH مثل رئيس طهاة أو منتج موسيقي.
إليك كيف يعمل، باستخدام تشبيهات بسيطة:
1. "سلطة البذور" (جمع المكونات)
أولاً، لا يحاول LASH طبخ الوجبة من الصفر. بدلاً من ذلك، يطلب من خمسة "طهاة" مختلفين (طرق كسر حماية موجودة بالفعل) أن يحاول كل منهم صنع طبق بناءً على نفس الطلب السيئ.
- الطاهي (أ) يصنع نسخة حارة.
- الطاهي (ب) يصنع نسخة حلوة.
- الطاهي (ج) يصنع نسخة مالحة.
- الطاهي (د) يصنع نسخة حامضة.
- الطاهي (هـ) يصنع نسخة مُرة.
بعض هذه الأطباق قد تكون سيئة للغاية، وبعضها قد يكون جيداً، لكن لا يوجد منها طبق مثالي بمفرده. يقوم LASH بجمع كل هذه "الأطباق البذرية" في وعاء.
2. "الخلاط" (خلط المكونات)
هذا هو الجزء السحري. لا يكتفي LASH باختيار أفضل طبق. بل يأخذ خلاطاً. يضع جميع الأطباق البذرية في الخلاط، لكنه لا يخلطها بالتساوي.
- يسأل: "كم نحتاج من الطبق الحار؟ وكم نحتاج من الطبق الحلو؟"
- يستخدم خوارزمية حاسوبية ذكية ("محسن جيني") لمعرفة الوصفة المثالية. قد يقول: "استخدم 80% من الطبق الحار، و10% من الحلو، و10% من الحامض".
يقوم الخلاط بعد ذلك بخلط هذه المكونات معاً لإنشاء طبق جديد وفريد (مطالبة/Prompt جديدة) يجمع بين أفضل الأجزاء من غيرها.
3. "اختبار التذوق" (التحقق من النتيجة)
يقدم LASH هذا الطبق المختلط الجديد إلى الروبوت الحذر.
- إذا رفض الروبوت: يقول LASH: "حسناً، تلك الوصفة لم تنجح". يعود إلى الخلاط، ويغير الكميات (ربما المزيد من الحار، وأقل من الحلو)، ويحاول مرة أخرى.
- إذا وافق الروبوت: يقول LASH: "نجاح! لقد وجدنا المزيج المثالي".
لماذا هذا أفضل مما سبق؟
تزعم الورقة أن الطرق السابقة كانت تشبه شخصاً يحاول فتح قفل باستخدام أداة محددة واحدة (مثل مفك البراغي). إذا كان القفل يحتاج إلى مفتاح، فإن مفك البراغي سيفشل.
LASH يشبه السكين السويسري الذي يمكنه فوراً دمج مفك براغي، وسكين، وفتاحة زجاجات في أداة واحدة مخصصة تناسب القفل المحدد الذي تحاول فتحه.
ماذا وجدوا؟
اختبر الباحثون LASH على ستة "روبوتات" مختلفة (نماذج ذكاء اصطناعي) وعشرة أنواع من الطلبات السيئة (مثل طلب خطاب الكراهية، أو عمليات الاحتيال، أو التعليمات الخطيرة).
- النتيجة: نجح LASH في خداع الروبوتات بنسبة 84.5% (باستخدام فحص بسيط) و74.5% من الوقت (باستخدام فحص أكثر صرامة حيث يقوم ذكاء اصطناعي يشبه البشر بالتحقق مما إذا كانت الإجابة مفيدة حقاً للطلب السيئ).
- المقارنة: كانت هذه النسبة أعلى بكثير من أي من "الطهاة" المنفردين الذين يعملون بمفردهم.
- الكفاءة: فعل ذلك بينما طلب المساعدة من الروبوت حوالي 30 مرة في المتوسط، وهو أمر فعال للغاية.
- الدفاع: حتى عندما كان لدى الروبوتات حراس أمن إضافيون (آليات دفاع) يحاولون إيقافهم، كان LASH لا يزال الطريقة الأكثر نجاحاً.
"الخلطة السرية" (كيف يعمل من الداخل)
نظرت الورقة أيضاً داخل عقل الروبوت (طبقاته الداخلية) أثناء عمل LASH. وجدوا أن LASH لم يغير فقط الكلمات على السطح. لقد وجه في الواقع عملية التفكير الداخلية للروبوت إلى حالة من المرجح أن تقول "نعم" للطلبات السيئة. الأمر كما لو أن LASH لم يغير السؤال فحسب، بل غير مزاج الروبوت ليكون أكثر امتثالاً.
ملخص
LASH هو نظام ذكي يدرك أنه لا توجد حيلة واحدة تنجح مع كل ذكاء اصطناعي. بدلاً من ذلك، يجمع العديد من الحيل، ويمزجها معاً بالنسب المثالية لكل موقف محدد، وينتج "مطالبة فائقة" (Super-prompt) مخصصة ومن الصعب جداً أن يرفضها الذكاء الاصطناعي. إنه يعامل كسر الحماية ليس كمعركة واحدة، بل كوصفة لخلط المكونات للحصول على النتيجة المثالية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.