SafeNexus: Discovering and Steering Modality-Universal Safety Neurons in MLLMs
تقدم الورقة البحثية SafeNexus، وهو إطار عمل للمحاذاة الآمنة عبر الوسائط، والذي يحدد ويوجه عصبونات السلامة العالمية للوسائط من خلال التثبيط المستهدف وتضخيم التنشيط للدفاع بقوة عن النماذج اللغوية الكبيرة متعددة الوسائط ضد التهديدات المتنوعة عبر الوسائط مع الحفاظ على الفائدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كمكتبة ضخمة وصاخبة حيث يمكن للكتب أن تتحدث إليك. لفترة طويلة، كانت هذه الكتب المتحدثة مجرد نصوص، مثل روبوت دردشة ذكي للغاية. ولكن مؤخرًا، تطورت لتصبح "نماذج لغوية كبيرة متعددة الوسائط" (MLLMs). فكر في هذه النماذج كأمين مكتبة خارق يمكنه الآن قراءة النصوص، والنظر إلى الصور، والاستماع إلى الصوت في آن واحد. إنهم مفيدون للغاية، لكن هذه القوة الخارقة الجديدة تأتي مع عقبة: فهي تفتح طرقًا جديدة للمشاغبين لخداعهم. تمامًا كما قد يعرف حارس الأمن في متحف كيفية اكتشاف لوحة مزيفة ولكنه قد يفشل في ملاحظة تسجيل صوتي مزيف، فإن نماذج الذكاء الاصطناعي هذه غالبًا ما تمتلك حراس أمن يعملون فقط مع نوع واحد من المدخلات. إذا حاولت خداعهم بصورة بدلاً من الكلمات، أو بمقطع صوتي بدلاً من جملة، فقد تفوت الحراس خطورة الأمر تمامًا. السؤال الكبير الذي يطرحه الباحثون هو: كيف نبني نظام أمان يعمل بغض النظر عن الطريقة التي يحاول بها المشاغب التسلل؟
هنا يأتي دور دراسة جديدة تسمى SafeNexus. قرر الباحثون، وهم فريق من جامعات في الصين وسنغافورة، التوقف عن النظر إلى أمان الذكاء الاصطناعي من الخارج والذهاب بدلاً من ذلك في رحلة بحث عن الكنز داخل "دماغ" الذكاء الاصطناعي. لقد اكتشفوا أن قدرة الذكاء الاصطناعي على قول "لا" للطلبات السيئة ليست مبعثرة عشوائيًا؛ بل يتم التحكم فيها في الواقع بواسطة مجموعة صغيرة وخاصة من المفاتيح الداخلية التي تسمى النيورونات (العصبونات).
الجزء الممتع هو أن الفريق وجد أنه بينما تستخدم أنواع مختلفة من المدخلات (مثل النصوص أو الصور أو الصوت) أجزاءً مختلفة من الدماغ لمعالجة المعلومات، إلا أن هناك نادياً سرياً مشتركاً من النيورونات يعمل كـ "كاشف خطر" نهائي لجميع هذه المدخلات. هم يسمونها US-Neurons (النيورونات الأمنية العالمية للوسائط). الأمر يشبه اكتشاف أنه سواء كنت تحاول تمرير سكين، أو قنبلة، أو هوية مزيفة عبر الأمن، فهناك كاميرا أمنية محددة وصغيرة في الرواق ترصد جميع هذه الأشياء. إذا أطفأت تلك الكاميرا، يصبح المبنى بأكمله غير آمن، بغض النظر عما يحمله المتسلل.
تشير الورقة البحثية إلى أن الأساليب السابقة حاولت سد الثغرات الأمنية عن طريق إعادة تدريب الذكاء الاصطناعي بالكامل أو إضافة فلاتر خارجية، وهو ما يشبه توظيف حارس أمن جديد لكل باب على حدة. أما SafeNexus فيتبع نهجًا مختلفًا: فهو يجد تلك النيورونات القليلة والحرجة التي تعمل كـ "كاشف للخطر" ويمنحها دفعة من القوة الخارقة. اختبر الفريق طريقتين للقيام بذلك:
- المضخم (The Amplifier): أثناء عملية تفكير الذكاء الاصطناعي، قاموا ببساطة برفع مستوى صوت تلك النيورونات المحددة، مما جعلها تصرخ "خطر!" بصوت أعلى وأسرع.
- المعاير (The Calibrator): منحوا تلك النيورونات المحددة ضبطًا دقيقًا ومستهدفًا (باستخدام طريقة تسمى LoRA) لتصبح أفضل طبيعيًا في اكتشاف المشاكل، دون الحاجة لإعادة تدريب الذكاء الاصطناعي بالكامل.
كانت النتائج مبهرة. فعندما اختبروا ذلك على نماذج مثل Qwen وVITA، وجدوا أن تعزيز هذه النيورونات القليلة جعل الذكاء الاصطناعي أفضل بكثير في رفض الطلبات الضارة، سواء جاء الطلب كنص، أو صورة، أو صوت. والأهم من ذلك، وجدوا أن هذا لم يجعل الذكاء الاصطناعي "غبياً" أو مفرط الحذر؛ فلم يبدأ في رفض الأسئلة غير الضارة (مثل "كيف أخبز كعكة؟")، ولم ينسَ كيفية القيام بمهامه الأخرى. في الواقع، في بعض الاختبارات، كانت الطريقة الجديدة أفضل بكثير في إيقاف الهجمات من أفضل الأساليب الحالية، كل ذلك مع تغيير أقل من 0.05% من إجمالي قدرة دماغ الذكاء الاصطناعي.
كما أظهر الباحثون أن هذه الحيلة تعمل حتى على أشياء لم يتم تدريبهم عليها صراحةً، مثل الفيديو. على الرغم من أنهم لم يعرضوا مقاطع فيديو على الذكاء الاصطناعي أثناء مرحلة "الضبط"، إلا أن النيورونات المعززة كانت لا تزال جيدة في اكتشاف الخطر في هجمات الفيديو. وهذا يشير إلى أنهم وجدوا بالفعل آلية أمان جوهرية وعالمية بدلاً من مجرد حفظ أمثلة محددة.
باختًا، يشير SafeNexus إلى أننا لسنا بحاجة إلى إعادة بناء نظام الأمان الخاص بالذكاء الاصطناعي بالكامل لجعله آمنًا عبر جميع التنسيقات. بدلاً من ذلك، نحتاج فقط إلى العثور على "المكابح" الصغيرة والعالمية داخل الآلة والتأكد من أنها تعمل بكامل قوتها. الأمر يشبه إدراك أنه لإيقاف سيارة عن السرعة، لا تحتاج إلى استبدال المحرك بالكامل؛ بل تحتاج فقط إلى التأكد من أن دواسة الفرامل متصلة بإحكام بالعجلات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.