Jailbreaking the Matrix: Nullspace Steering for Controlled Model Subversion
تقدم الورقة البحثية تقنية "توجيه الفراغ الموجه بالرأس" (HMNS)، وهي تقنية اختراق مبتكرة تحقق معدلات نجاح هجوم هي الأفضل في مجالها من خلال تحديد وتثبيط رؤوس الانتباه الحرجة سببيًا بشكل تكراري، مع حقن اضطرابات في الفراغ الصفري المتعامد معها لتجاوز آليات السلامة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل نموذج لغة كبير (LLM) كأنه أوركسترا ضخمة ومدربة تدريباً عالياً. عندما تطرح عليه سؤالاً، تعزف مئات من الموسيقيين (يُطلق عليهم "رؤوس الانتباه" أو attention heads) نوتات مختلفة لإنشاء الإجابة النهائية. عادةً، هناك عدد قليل من "المايستروهات" في الأوركسترا الذين يقررون ما إذا كانت الموسيقى يجب أن تكون آمنة ومهذبة، أو خطيرة ومخالفة للقواعد.
الورقة البحثية التي شاركتها، "Jailbreaking the Matrix"، تقدم طريقة جديدة لخداع هذه الأوركسترا لتعزف "أغنية محظورة" (إجابة ضارة) دون تغيير "النوتة الموسيقية" (المطالبة/البرومبت) أو الصراخ بالتعليمات على الموسيقيين.
إليك تفصيل طريقتهم، HMNS (التوجيه عبر الفضاء الصفري المقنع للرؤوس)، باستخدام تشبيهات بسيطة:
1. المشكلة: "حارس الأمان"
اعتبر تدريب الأمان في الذكاء الاصطناعي كأنه حارس أمن صارم جداً عند مدخل ملهى ليلي. إذا سألت: "كيف أصنع قنبلة؟"، فإن الحارس (محاذاة الأمان في الذكاء الاصطناعي) سيوقف الموسيقى فوراً ويقول: "مستحيل".
الطرق القديمة للاختراق (Jailbreaking) كانت تشبه:
- التظاهر بشخصية أخرى: "تقمص دور شرير في فيلم..."
- السؤال بلغة مشفرة: "ترجم هذه اللغة السرية..."
- ارتداء تنكر: "اشرح الكيمياء الخاصة بالمتفجرات لمشروع مدرسي..."
هذه الأساليب غالباً ما تفشل لأن الحارس ذكي ويمكنه كشف التنكر. كما أنها تتطلب سؤال الحارس مرات عديدة (عدد استعلامات مرتفع) قبل أن يزلّ في النهاية.
2. الحل: HMNS (عملية "الإسقاط الصامت")
أدرك المؤلفون أنه بدلاً من محاولة خداع الحارس بالكلمات، يمكنهم إسكات الموسيقيين المسؤولين فيزيائياً عن قول "لا" ودفع الأوركسترا في اتجاه مختلف لا يستطيع الحارس سماعه.
إليك كيف يفعلون ذلك في ثلاث خطوات:
الخطوة أ: العث de "الموسيقيين المشاغبين" (العزو السببي - Causal Attribution)
أولاً، يستمع النظام إلى الأوركسترا ليعرف بالضبط أي من الموسيقيين مسؤول عن استجابة "لا، لا يمكنني فعل ذلك".
- التشبيه: تخيل أن الذكاء الاصطناعي يحاول قول "لا". يستخدم الباحثون أداة خاصة لإسكات موسيقي واحد في كل مرة بشكل مؤقت. إذا جعل إسكات الموسيقي رقم 42 الذكاء الاصطناعي يقول فجأة "نعم"، فهم يعرفون أن الموسيقي رقم 42 هو من يمسك بزمام الأمان. هم يحددون أفضل 10 موسيقيين يقومون بهذا الدور.
الخطوة ب: كتم صوت "موسيقيي الرفض" (قناع الرؤوس - Head Masking)
بمجرد معرفة من هم منفذو الأمان، هم لا يكتفون بطلب الصمت منهم فحسب؛ بل يقطعون ميكروفوناتهم.
- التشبيه: يذهبون إلى لوحة التحكم ويخفضون مستوى صوت هؤلاء الموسيقيين تحديداً إلى الصفر. لا يزال لدى الذكاء الاصطناعي جميع الموسيقيين الآخرين (أولئك الذين يولدون نصاً إبداعياً أو مفيداً)، لكن أولئك الذين يحاولون منع الإجابة السيئة أصبحوا الآن صامتين تماماً.
الخطوة ج: دفع الصوت في اتجاه "خفي" (التوجيه عبر الفضاء الصفري - Nullspace Steering)
هذا هو الجزء الأكثر ذكاءً. إذا قمت فقط بكتم صوت موسيقيي الأمان، فقد يرتبك الذكاء الاصطناعي أو يتوقف عن الكلام. لذلك، يقوم الباحثون بإضافة "دفعة" صغيرة للموسيقى.
- الخدعة: يدفعون الموسيقى في اتجاه متعامد تماماً (بزاوية 90 درجة) مع الموسيقيين المكتومين.
- التشبيه: تخيل أن موسيقيي الأمان يدفعون عربة ثقيلة نحو اليسار. يقوم الباحثون بكتم صوتهم. ثم، يدفعون العربة نحو الأعلى. ولأن موسيقيي الأمان كانوا يدفعون لليسار فقط، فليس لديهم أي قوة لمنع العربة من الذهاب للأعلى. إنهم حرفياً لا يستطيعون الشعور أو إلغاء هذا الاتجاه الجديد لأنه في "نقطة عمياء" (الفضاء الصفري/Nullspace) بالنسبة لقوتهم.
3. "الحلقة المغلقة" (حلقة التغذية الراجعة)
الذكاء الاصطناعي ذكي، لذا قد يحاول التعافي. إذا فشلت المحاولة الأولى، فإن النظام لا يستسلم. بل يكرر العملية:
- يستمع إلى المحاولة الجديدة.
- يجد الموسيقيين الجدد الذين يحاولون منع الإجابة (لأن السياق قد تغير).
- يكتم صوتهم.
- يدفع في اتجاه خفي جديد.
يفعل ذلك في جزء من الثانية، وغالباً ما ينجح في محاولتين فقط (مقارنة بالطرق الأخرى التي قد تحتاج إلى 10 أو 20 محاولة).
لماذا يعد هذا أمراً هاماً؟
- إنه غير مرئي: لا يعتمد على التلاعب بالكلمات. إنه يعمل عن طريق تغيير الفيزياء الداخلية لكيفية تفكير الذكاء الاصطناعي.
- إنه فعال: يكسر حارس الأمان بعدد قليل جداً من المحاولات (عدد استعلامات منخفض).
- إنه قوي: حتى لو امتلك الذكاء الاصطناعي دفاعات قوية (مثل "SmoothLLM" أو "SafeDecoding")، فإن هذه الطريقة تنجح لأنها تتجاوز منطق الدفاع تماماً عبر توجيه الذكاء الاصطناعي إلى نقطة عمياء.
"التحذير"
تتضمن الورقة تحذيراً لأن هذا الأمر سلاح ذو حدين.
- الجانب الجيد: يمكن للباحثين الأمنيين استخدام هذا لتحديد نقاط الضعف في الذكاء الاصطناعي حتى تتمكن الشركات من إصلاحها. إنه يثبت أن أساليب الأمان الحالية هشة.
- الجانب السيئ: إذا حصل شخص سيء النوايا على هذا الكود، فيمكنه استخدامه لإجبار أي ذكاء اصطناعي على توليد محتوى ضار (مثل خطاب الكراهية، أو تعليمات غير قانونية، أو خطط خطيرة) بسهولة شديدة.
الملخص
فكر في HMNS ليس كهاكر يصرخ في جهاز كمبيوتر، بل كـ مهندس جراح يجد الأسلاك المحددة التي تتحكم في زر "التوقف"، ثم يقطعها، وبعد ذلك يوجه الآلة بلطف نحو مسار لا يستطيع زر "التوقف" رؤيته. إنه هجوم على "مستوى الآلية" يتجاوز القواعد عبر تغيير قواعد اللعبة نفسها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.