Moving the Safety Barrier: Dynamic Routing Adaptive Alignment Against White-Box Attacks
تقترح هذه الورقة إطار عمل "المحاذاة التكيفية للتوجيه الديناميكي" (DRAA)، وهو إطار يعزز متانة النماذج التأسيسية الضخمة ضد هجمات الصندوق الأبيض من خلال تحديد وتحديد مواقع مسارات السلامة، ثم تدريب مسارات تعويضية للحفاظ على سلوك الرفض حتى عندما تتعرض آليات السلامة الأساسية للاختراق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تسير عبر مكتبة ضخمة وصاخبة حيث يمكن للكتب أن تتحدث إليك. هذا هو عالم النماذج التأسيسية الضخمة (LFMs)، وهي عقول الذكاء الاصطناعي فائقة الذكاء التي تشغل كل شيء، من المساعدين في الكتابة إلى روبوتات الدردشة. ولكي تكون أنظمة الذكاء الاصطناعي هذه آمنة، فإنها تحتاج إلى "حارس سلامة" داخل عقلها يمنعها من الإجابة على الأسئلة الخطيرة، مثل "كيف أصنع قنبلة؟" أو "كيف أخترق بنكاً؟". لفترة طويلة، اعتقد العلماء أن هذا الحارس هو مجرد باب واحد متين؛ فقاموا ببناء دفاعات لإغلاق هذا الباب بإحكام. ولكن مؤخراً، اكتشف المخترقون (المهاجمون ذوو الصندوق الأبيض - white-box attackers) أنه يمكنهم التلصص على مخططات المكتبة، ومعرفة مكان هذا الباب بالضبط، ومن ثم ببساطة إزالة مفصلاته. وبمجرد إزالة الباب، ينسى الذكاء الاصطناعي كيفية قول "لا" ويقوم بسعادة بالمساعدة في الأمور السيئة. السؤال الكبير هو: كيف نبني ذكاءً اصطناعياً لا يعتمد فقط على باب واحد، بل يمكنه بناء جدار جديد فوراً إذا تم هدم الجدار القد؟
هذا هو بالضبط ما تعالجه الورقة البحثية بعنوان "نقل حاجز السلامة: التوجيه الديناميكي والمواءمة التكيفية ضد هجمات الصندوق الأبيض" (Moving the Safety Barrier: Dynamic Routing Adaptive Alignment Against White-Box Attacks). أدرك المؤلفون، بقيادة شانغزي لي وزملائه، أن الطريقة القديمة لبناء سلامة الذكاء الاصطناعي كانت جامدة للغاية. فهم يقترحون إطار عمل جديداً يسمى DRAA (التوجيه الديناميكي والمواءمة التكيفية). فكر في الأمر كتدريب حارس أمن ليس فقط للوقوف أمام باب محدد، بل لتعلم كيفية إعادة توجيه حركة المرور فوراً عبر نفق سري كلما تم إغلاق ذلك الباب.
إليك كيف تعمل هذه "الخدعة السحرية"، مقسمة إلى خطوات بسيطة:
1. إيجاد "الباب السحري"
أولاً، كان على الباحثين معرفة أي جزء بالضبط من عقل الذكاء الاصطناعي يقوم بعملية "قول لا". قاموا بتغذية الذكاء الاصطناعي بأسئلة آمنة (مثل "كيف أخبز كعكة؟") وأسئلة غير آمنة (مثل "كيف أسرق كعكة؟"). ومن خلال مقارنة كيفية استجابة خلايا عقل الذكاء الاصطناعي (النيورونات) لكل منهما، حددوا "مسار السلامة" بدقة—وهو مسار محدد من النيورونات يعمل كحارس رئيسي.
2. كسر الباب عن قصد
بعد ذلك، قاموا بشيء محفوف بالمخاطر: قاموا مؤقتاً بـ "إيقاف تشغيل" مسار السلامة الرئيسي في عقل الذكاء الاصطناعي. ثم سألوا الذكاء الاصطناعي الأسئلة الخطيرة مرة أخرى. وكما هو متوقع، بدون حارسه الرئيسي، بدأ الذكاء الاصطناعي في تقديم إجابات سيئة. كان هذا هو "الفشل" الذي احتاجوا لدراسته.
3. تعليم طريق بديل
هذا هو الجزء الذكي. أخذ الباحثون تلك اللحظات التي فشل فيها الذكاء الاصطناعي (لأن الباب الرئيسي قد اختفى) واستخدموها لتعليم الذكاء الاصطناعي درساً جديداً. قالوا له: "مهلاً، عندما يكون الحارس الرئيسي مفقوداً، يجب عليك إيجاد طريقة أخرى لقول 'لا'". استخدموا طريقة تدريب خاصة تسمى DR-DPO (تحسين التفضيل المباشر للتوجيه الديناميكي). تخيل هذا كأنه لعبة حيث يُجبر الذكاء الاصطناعي على تعلم استراتيجية "الطريق البديل". هذا التدريب يقوم بقفل نيورونات السلامة الأصلية حتى لا يعتمد الذكاء الاصطناعي عليها فحسب؛ بل يضطر لإيجاد مسارات جديدة وخفية في عقله للتعامل مع الخطر.
4. النتيجة: ذكاء اصطناعي فائق المرونة
اختبرت الورقة البحثية هذا على عدة نماذج مختلفة من الذكاء الاصطناعي، بما في ذلك Qwen2.5 و LLaMA-3.2. وكانت النتائج مبهرة. عندما حاول المخترقون "تقليم" (prune) نيورونات السلامة المعروفة، انهارت نماذج الذكاء الاصطناعي القديمة وقدمت إجابات ضارة. لكن نماذج DRAA المدربة؟ استمرت في قول "لا".
على سبيل المثال، في نموذج يحتوي على 14 مليار معلمة (parameter) وهو Qwen2.5-14B، فشل الدفاع القياسي تماماً عندما تعرض مسار السلامة للهجوم، مما سمح بمرور 270 من أصل 313 من المحفزات الضارة. ومع ذلك، فإن نموذج DRAA لم يسمح بمرور 5 فقط من أصل 313. وحتى في النماذج الأصغر مثل نسخة الـ 1.5 مليار معلمة، قلل DRAA معدل الفشل من 248 إلى 43 فقط.
كما تحقق المؤلفون مما إذا كانت مهارة "الطريق البديل" هذه قد جعلت الذكاء الاصطناعي أقل ذكاءً في المهام العادية. فقد اختبروه في المسائل الرياضية (GSM8K) والمعرفة العامة (ARC). وأظهرت النتائج أن الذكاء الاصطناعي ظل ذكياً ومفيداً كما كان سابقاً؛ لقد اكتسب فقط "قوة خارقة" للبقاء آمناً حتى لو تم تدمير دفاعه الرئيسي.
لماذا يهم هذا؟
تشير الورقة البحثية إلى أن الاعتماد على مسار سلامة واحد وثابت هو خلل قاتل في أمن الذكاء الاصطناعي. إذا عرف المهاجم مكان الحارس، يمكنه إزالته. يقترح DRAA طريقة أفضل: بناء الوفرة (redundancy). من خلال تدريب الذكاء الاصطناعي على التبديل ديناميكياً إلى مسارات احتياطية عندما يتم اختراق المسار الرئيسي، فإننا نخلق نظاماً يصعب جداً كسرُه. وجد المؤلفون أن هذه الطريقة لا تعمل للنصوص فحسب، بل أيضاً للصور والفيديوهات (النماذج متعددة الوسائط)، مما يجعلها درعاً قوياً ضد الجيل القادم من هجمات الذكاء الاصطناي.
باختاً، تجادل الورقة بأن السلامة لا ينبغي أن تكون مجرد باب مغلق؛ بل يجب أن تكون شبكة مرنة من المسارات التي يمكنها إعادة توجيه حركة المرور فوراً، مما يضمن بقاء الذكاء الاصطناعي آمناً مهما حاول شخص ما الاختراق.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.