Cross-Lingual Jailbreak Detection via Semantic Codebooks
تقترح هذه الورقة طريقة للكشف عن كسر الحماية (jailbreak) خالية من التدريب ومستقلة عن اللغة، تقوم بمقارنة تضمينات الاستعلامات متعددة اللغات مقابل كتاب رموز (codebook) إنجليزي ثابت للمطالبات الضارة، وتُظهر أنه في حين أن التشابه الدلالي يحد بفعالية من الهجمات على القوالب النموذجية عبر اللغات، فإن أداءه يتدهور بشكل كبير في ظل تحولات التوزيع التي تنطوي على سلوكيات غير آمنة متنوعة وغير متجانسة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً آلياً ذكياً ومتعدد اللغات (نموذج لغوي كبير، أو LLM)، من المفترض أن يكون مهذباً وآمناً. لقد علمته جيداً باللغة الإنجليزية: إذا طلب منه أحدهم "كتابة فيروس" أو "التحريض على مجموعة ما"، فإنه يقول: "لا، لا يمكنني فعل ذلك".
ولكن هنا تكمكن المشكلة. لقد تم تدريب هذا الروبوت بشكل أساسي على اللغة الإنجليزية: إذا طرحت نفس السؤال باللغة الروسية، أو الصينية، أو العربية، فقد يصاب الروبوت بالارتباك وقد يقوم بالشيء السيئ عن غير قصد. الأمر يشبه حارس أمن يتحدث الإنجليزية فقط؛ يمكن للص لغة فرنسية أن يمر من أمامه دون أن يتم إيقافه.
هذه الورقة البحثية، HiveTraceLab، تطرح سؤالاً بسيطاً: هل يمكننا بناء حارس أمن عالمي لا يحتاج إلى تعلم كل لغة، ولكن لا يزال بإمكانه رصد السلوك السيئ بمجرد "الشعور" بنبرة الكلمات؟
الفكرة الجوهرية: مكتبة "الأفكار السيئة"
أنشأ الباحثون مكتبة خاصة تسمى المدونة الدلالية (Semantic Codebook). فكر في هذا كأنها مجموعة ضخمة وثابتة من بطاقات "الأفكار السيئة" المكتوبة بالإنجليزية فقط. تحتوي هذه البطاقات على أمثلة شهيرة لمحاولات خداع الروبوت (الاختراق/Jailbreaks).
لم يعلموا الروبوت أي شيء جديد. بدلاً من ذلك، قاموا ببناء فلتر خالٍ من الترجمة يعمل كالتالي:
- المدخلات: يكتب المستخدم سؤالاً بأي لغة (على سبيل المثال، الروسية).
- الترجمة (ذهنياً): لا يقوم الفلتر بترجمة الكلمات. بدلاً من ذلك، يستخدم "مترجم نبرة" خاص (نموذج تضمين/Embedding Model) لتحويل الجملة الروسية إلى نقطة رياضية في الفضاء.
- المقارنة: ينظر الفلتر إلى مكتبة "الأفكار السيئة" (المدونة الإنجليزية). ويسأل: "هل تبدو هذه الجملة الروسية مشابهة رياضياً لأي من البطاقات الإنجليزية السيئة؟"
- القرار: إذا كانت "النبرة" قريبة جداً من بطاقة سيئة، يقوم الفلتر بحظر الرسالة. وإذا كانت بعيدة، فإنه يسمح للرسالة بالوصول إلى الروبوت.
عالمان من النتائج
اختبر الباحثون هذا النظام في عالمين مختلفين تماماً (مجموعات بيانات)، وكانت النتائج متباينة للغاية.
العالم الأول: "العالم المبرمج" (الاختبار السهل)
تخيل اختباراً حيث يستخدم الأشرار نصاً برمجياً صارماً. جميعهم يطلبون من الروبوت "التظاهر بأنه مخترق" أو "تجاهل قواعد السلامة الخاصة بك".
- النتيجة: كان الفلتر بمثابة بطل خارق. لقد كشف جميع الطلبات السيئة تقريباً، حتى عندما تمت ترجمتها إلى الروسية أو الصينية أو العربية.
- التشبيه: الأمر يشبه حارس بوابة في ملهى ليلي يعرف "المصافحة السرية" للمشاغبين. حتى لو تحدث المشاغبون بلغة مختلفة، فإن "مصافحتهم" (هيكل الطلب السيئ) مميزة جداً لدرجة أن الحارس يرصدهم فوراً. حقق النظام درجات تقترب من المثالية هنا.
العالم الثاني: "عالم الفوضى" (الاختبار الصعب)
الآن، تخيل اختباراً حيث يكون الأشرار مبدعين. هم لا يستخدمون مجرد نصوص برمجية؛ بل يكتبون طلبات ضارة فريدة وفوضوية ومتنوعة. بعضها يتعلق بمواضيع حساسة، والبعض الآخر مصاغ بطريقة غريبة، ولا يتبعون نمطاً معيناً.
- النتيجة: عانى الفلتر. لقد فاته معظم الطلبات السيئة.
- التشبيه: هذا يشبه حارس البوابة وهو يحاول رصد المشاغبين الذين لا يستخدمون "مصافحة سرية". إنهم فقط يتصرفون بغرابة بألف طريقة مختلفة. ولأن "النبرة السيئة" مشتتة ومتنوعة للغاية، لا يستطيع الفلتر العث lập نمط رياضي واحد لمطابقته مع مكتبتهم الإنجليزية. انخفضت قدرة النظام على التمييز بين "الجيد" و"السيئ" بشكل كبير.
قاعدة "انخفاض الإنذارات الكاذبة"
في العالم الحقيقي، لا يمكنك حظر كل رسالة لمجرد أنها قد تكون سيئة. إذا حظرت مستخدماً يسأل عن الطقس لأنه يبدو مشابهاً قليلاً لطلب سيئ، فقد تسببت في إنذار كاذب.
وضع الباحثون قاعدة صارمة: "لن نحظر أي رسالة إلا إذا كنا متأكدين بنسبة 99% أنها سيئة."
- في العالم المبرمج، كان الفلتر رائعاً في ذلك. لقد حظر الأشرار دون إزعاج الأشخاص الطيبين.
- في عالم الفوضى، أصبح الفلتر خائفاً جداً من حظر أي شيء. لتجنب الإنذارات الكاذبة، سمح لجميع الطلبات السيئة تقريباً بالمرور.
مشكلة الترجمة
اختبر الباحثون أيضاً طريقتين مختلفتين لترجمة الطلبات السيئة (ترجمة Google مقابل مترجم ذكاء اصطناعي متخصص).
- وجدوا أن الترجمة نفسها تغير "النبرة". أحياناً، عندما تترجم طلباً سيئاً من الإنجليزية إلى الصينية، فإن "الشكل" الرياضي للجملة يتغير لدرجة أنه لم يعد يشبه البطاقة الإنجليزية السيئة الموجودة في المكتبة.
- هذا يشبه أخذ كرة حمراء، وطلاؤها باللون الأزرق، ثم محاولة العثور عليها في كومة من الكرات الحمراء. يصاب الفلتر بالارتباك لأن "اللون" (المعنى الدلالي) قد تغير أثناء عملية الترجمة.
الخلاصة
تخلص الورقة البحثية إلى أن نهج "المكتبة المقتصرة على الإنجليزية فقط" هو خط دفاع أول ممتاز لالتقاط الهجمات الواضحة القائمة على الأنماط في أي لغة. فهو رخيص، وسريع، ولا يتطلب إعادة تدريب الروبوت.
ومع ذلك، فهو ليس درعاً سحرياً. فعندما يصبح الأشرار مبدعين، أو يستخدمون تكتيكات متنوعة، أو عندما تشوه عملية الترجمة المعنى، يبدأ هذا الفلتر البسيط في الفشل. يقترح الباحثون استخدام هذه الأداة كجزء من فريق سلامة أكبر، وليس كالحارس الوحيد المناوب.
باختصار: إنه شب جيد جداً لصيد الأسماك التي تسبح في أنماط يمكن التنبؤ بها، ولكن إذا بدأت الأسماك في السباحة بطرق فوضوية وغير متوقعة، فستكون للشب ثغرات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.