Localizing Safety Alignment: MLP Layers and Mid-Network Blocks Encode Refusal Behavior in Large Language Models
تُثبت هذه الورقة أن سلوك الرفض المتوافق مع معايير السلامة في النماذج اللغوية الكبيرة يتركز أساساً ضمن طبقات الـ MLP في منتصف الشبكة بدلاً من كونه خاصية موزعة، مما يكشف أن نقل مجموعات فرعية محددة من هذه الأوزان يمكنه نقل قدرات الرفض بفعالية، مع تسليط الضوء على الطبيعة غير التراكمية والمعتمدة على المعايير المرجعية لعملية محاذاة السلامة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك بنيت روبوتًا فائق الذكاء يمكنه كتابة القصص، وحل المسائل الرياضية، والدردشة حول أي شيء. لكن هناك عقبة: عليك التأكد من أنه لا يساعد شخصًا ما بالخطأ في صنع قنبلة أو كتابة رسالة مسيئة. هذا هو عالم النماذج اللغوية الكبيرة (LLMs)، وهي العقول الاصطناعية التي تقف وراء العديد من برامج الدردشة الآلية التي نستخدمها اليوم. وللحفاظ على سلامتها، يقوم المهندسون بـ "محاذاتها"، أي تعليمها قول "لا" للطلبات الخطيرة. لفترة طويلة، اعتقد العلماء أن هذه "السلامة" تشبه ضبابًا ناعمًا وغير مرئي منتشرًا بشكل متساوٍ في كامل دماغ الروبوت؛ فإذا عدلت أي جزء من الدماغ، قد تهتز السلامة قليلاً، لكنها ستظل ثابتة في المجمل. ومع ذلك، في العالم الحقيقي، تعتبر دروع السلامة هذه هشة بشكل مثير للدهشة؛ إذ يمكن لخدعة ذكية أو تغيير صغير أن يجعل الروبوت ينسى قواعده تمامًا. وهذا يثير لغزًا كبيرًا ومثيرًا: أين يختبئ زر "لا" بالضبط داخل دماغ الروبوت؟ هل هو منتشر في كل مكان، أم أنه مخبأ في زاوية صغيرة ومحددة؟
قرر فريق من الباحثين لعب دور المحقق لحل هذا الغموض. وبدلاً من مجرد التخمين، جربوا تجربة جامحة: نقل الأوزان (weight transplantation). تخيل أن لديك روبوتين متطابقين؛ أحدهما هو "الروبوت الطيب" (المحاذي للسلامة)، والآخر هو "الروبوت غير المحاذي" (النسخة الأصلية غير المحاذاة). بدأ الباحثون في استبدال أجزاء من دماغ الروبوت الطيب ووضعها في الروبوت غير المحاذي، قطعة بقطة، لمعرفة أي الأجزاء تحمل فعليًا قوة "الرفض". لم يكتفوا باستبدال أدمغة كاملة، بل استبدلوا أنواعًا محددة من الروابط، مثل الأجزاء التي تركز على الكلمات (الانتباه - attention) مقابل الأجزاء التي تعالج وتفكر (طبقات MLP).
إليك ما وجدوه، وهو يشبه إلى حد كبير اكتشاف أن "لا" الخاصة بالروبوت ليست فريقًا كاملًا من الحراس، بل هي فرقة صغيرة ومحددة للغاية من المتخصصين:
1. أجزاء "التفكير" هي التي تقوم بالعمل الشاق
توقع الباحثون أن الأجزاء التي تركز على السياق (تسمى أوزان الانتباه - attention weights) قد تكون حراس السلامة الرئيسيين. لكنهم كانوا مخطئين! فعندما استبدلوا أجزاء "التفكير" فقط (تسمى أوزان MLP) من الروبوت الطيب ووضعوها في الروبوت غير المحاذي، بدأ الروبوت غير المحاذي فجأة في رفض الطلبات السيئة بمعدل يزيد بمقدار 2.7 مرة على الأقل عما كان عليه الحال عندما استبدلوا أجزاء "التركيز". اتضح أن "لا" الخاصة بالسلامة مشفرة في الغالب في طبقات MLP، وهي الأجزاء من الشبكة التي تعالج المعلومات وتحولها بالفعل.
2. "المنتصف" هو المنطقة السحرية
لكن الأمر لا يقتصر على أي جزء من أجزاء التفكير فحسب. فقد اكتشف الباحثون أن إشارة السلامة تتركز في قسم أوسط محدد للغاية من الدماغ. في النماذج التي اختبروها، وُجدت أقوى قدرة على "الرفض" في الكتلة 3 (Block 3)، والتي تقابل الطبقات من 8 إلى 11. إذا نظرت إلى دماغ الروبوت كمبنى مكون من 28 طابقًا، فإن حراس السلامة يعيشون في الغالب في الطوابق من 8 إلى 11. وعندما استبدلوا هذه الطوابق المحددة فقط، أصبح الروبوت أفضل بكثير في قول "لا".
3. المزيد ليس دائمًا أفضل (تأثير "غولدي لوكس")
هنا تأتي الحبكة التي تجعل القصة أكثر إثارة للاهتمام. ظن الباحثون أنه إذا كانت كتلة واحدة من السلامة جيدة، فإن استبدال جميع كتل السلامة سيكون أمرًا مثاليًا. لكن الأمر لم يكن كذلك! في كثير من الحالات، أدى إضافة المزيد من الكتل المحاذية إلى جعل الروبوت أسوأ في رفض الطلبات السيئة. الأمر يشبه امتلاك فريق من حراس الأمن: إذا أحضرت الكثير منهم، فقد يبدأون في التعثر ببعضهم البعض أو الجدال، مما يؤدي إلى انخفاض الأمن. وجد الباحثون أن مزيجًا انتقائيًا من ست كتل فقط كان يعمل بشكل أفضل في كثير من الأحيان من استبدال نظام السلامة بأكمله. في بعض الأحيان، كان إضافة كتلة سابعة سيؤدي فعليًا إلى تقليل قدرة الروبوت على قول "لا".
4. فخ "الإفراط في الرفض"
هناك عقبة أخرى. فالأجزاء نفسها التي تجعل الروبوت يقول "لا" للطلبات السيئة تجعله أيضًا يقول "لا" للطلبات غير الضارة. وهذا ما يسمى الإفراط في الرفض (over-refusal). فعندما استبدل الباحثون أوزان MLP، أصبح الروبوت بارعًا في إيقاف الأشرار، لكنه بدأ أيضًا في رفض الإجابة على أسئلة بريئة مثل "ما هي حالة الطوس؟" أو "ألقِ نكتة". هذا يشير إلى أن آلية السلامة هي أداة فجة نوعًا ما؛ فمن الصعب فصل إشارة "أوقف الأشياء السيئة" عن إشارة "أوقف كل شيء" بمجرد استبدال الأجزاء.
لماذا يهم هذا؟
يشير هذا الاكتشاف إلى أن السلامة في الذكاء الاصطناي ليست درعًا ضخمًا غير قابل للكسر منتشرًا عبر الشبكة بأكملها. بدلاً من ذلك، هي ميزة موضعية وهشة، تتركز في بعض الطبقات المحددة (الطبقات 8-11). وهذا يفسر سبب كون سلامة الذكاء الاصطناعي هشة للغاية: إذا قمت بالخطأ بتعديل أو إزالة تلك الطبقات المحددة (الطبقات 8-11)، يمكن لنظام السلامة بأكمله أن ينهار. وهذا يعني أيضًا أنه إذا أردنا إصلاح سلامة الذكاء الاصطناي في المستقبل، فنحن لسنا بحاجة لإعادة تدريب الروبوت بأكمله؛ قد نحتاج فقط إلى ضبط أو حماية تلك الطبقات "الوسطى" المحددة بعناية.
لم يجد الباحثون حلًا سحريًا يحل جميع مشاكل السلامة. لقد وجدوا أن السلامة حساسة للتفاعل، مما يعني أن أجزاء الدماغ تعمل معًا بطرق معقدة، ولا يمكنك مجرد ضخ المزيد من أجزاء السلامة وتوقع نتيجة أفضل. ولكن من خلال تحديد مكان وجود "لا" بدقة، فقد منحونا خريطة لفهم سبب فشل الذكاء الاصطناي أحيانًا وكيف يمكننا بناء أنظمة سلامة أكثر قوة في المستقبل. إنه تذكير بأنه حتى في عالم الذكاء الاصطناي الواسع والمعقد، غالبًا ما تحدث أهم الأشياء في المنتصف.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.