No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks
تقترح هذه الورقة البحثية "المحاذاة الأمنية الموزعة" (DSA)، وهي طريقة تعزز متانة النماذج اللغوية الكبيرة ضد هجمات المستوى العصبي ذات الصندوق الأبيض من خلال ترميز قدرات السلامة بشكل زائد عبر عصبونات متعددة عبر التعطيل المستهدف وتحديد الهوية الموجه بالتدرج، مما يؤدي إلى القضاء على نقاط الفشل الفردية مع الحفاظ على المنفعة العامة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تعلم روبوتاً عملاقاً وذكياً للغاية ليكون مساعداً مفيداً. تريد منه أن يكون بارعاً في حل المسائل الرياضية، وكتابة القصص، والدردشة حول يومك، ولكنك تحتاج أيضاً إلى التأكد من أنه لن يوافق أبداً على المساعدة في شيء خطير، مثل اختراق بنك أو كتابة رسالة مسيئة. هذا هو عالم "سلامة الذكاء الاصطناعي"، حيث يحاول الباحثون بناء حواجز حماية رقمية داخل هذه الأدمغة الحاسوبية الضخمة.
لفهم المشكلة التي تعالجها هذه الورقة البحثية، فكر في كيفية عمل الدماغ البشري. عندما تقرر قول "لا" لفكرة سيئة، لا يقوم مجرد فكرة واحدة صغيرة في رأسك بالعمل؛ بل يقوم فريق كامل من الخلايا العصبية بالعمل معاً. ولكن في نماذج الذكاء الاصطناعي التي نستخدمها اليوم، اكتشف الباحثون شيئاً مخيفاً: إن كلمة "لا" الخاصة بالروبوت غالباً ما يتم التعامل معها بواسطة عدد قليل جداً من الخلايا العصبية المحددة. الأمر يشبه لو أن فريق السلامة بأكمله يعتمد على حارس أمن واحد صغير يقف عند الباب الأمامي. إذا استطاع مخترق ذكي ("مهاجم الصندوق الأبيض") التسلل وإسقاط ذلك الحارس الوحيد، فسيكون المبنى بأكمله مفتوحاً أمام الخطر. سيتوقف الروبوت فجأة عن معرفة كيفية قول "لا" وقد يبدأ في المساعدة في طلبات رهيبة. تسأل هذه الورقة سؤالاً بسيطاً ولكنه حيوي: ماذا لو لم نعتمد على حارس واحد فقط، بل دربنا جيشاً كاملاً منهم لتقاسم المهمة؟
يقترح الباحثون وراء هذه الدراسة، "سيماو شيه" وفريقه، طريقة جديدة لتدريب هذه النماذج تسمى المحاذاة الموزعة للسلامة (DSA). هم يجادلون بأن الطريقة الحالية لجعل الذكاء الاصطناعي آمناً هشة للغاية لأنها تركز كل قوة "الرفض" في مجموعة صغيرة وثابتة من الخلايا العصبية. إذا وجد المهاجم تلك الخلايا العصبية المحددة وأزالها، سينهار نظام السلامة. ولإصلاح ذلك، تعامل طريقة (DSA) السلامة كأنها لعبة "كراسي موسيقية" لخلايا دماغ الروبوت.
إليك كيف تعمل طريقتهم باستخدام تشبيه مرح: تخيل أن دماغ الذكاء الاصطناعي عبارة عن أوركسترا ضخمة. في الطريقة القديمة، كان يُسمح لعازف الكمان الأول فقط بعزف نوتة "توقف!". إذا مرض هذا العازف أو طُرد، ستتحول الموسيقى إلى كارثة. تجبر طريقة (DSA) الجديدة المايسترو (خوارما التدريب) على جعل الأوركسترا بأكملها تتعلم نوتة "توقف!" تلك.
للقيام بذلك، يستخدم الباحثون خدعة ذكية أثناء عملية التدريب. أولاً، يحددون أي الخلايا العصبية تقوم حالياً بالعمل الشاق لقول "لا" للطلبات السيئة. ثم يلعبون لعبة "الغميضة" مع النموذج. يقومون بتعطيل (قناع) تلك الخلايا العصبية العليا عمداً، متظاهرين بأنها اختفت. ولكن هنا تكمن المفاجأة: هم أيضاً يعطلون خلايا عصبية أخرى عشوائياً في نفس الوقت. هذا يجبر الذكاء الاصطناعي على الشعور ببعض الذعر وإدراك: "أوه لا، خلايا 'التوقف' الرئيسية لدي قد اختفت، وبعض الخلايا الاحتياطية مفقودة أيضاً! أحتاج إلى إيجاد خلايا عصبية جديدة لمساعدتي في قول 'لا'!".
من خلال تكرار هذه العملية، يتعلم الذكاء الاصطناعي توزيع مهمة "السلامة" عبر مئات الخلايا العصبية المختلفة بدلاً من مجرد عدد قليل منها. يصبح الأمر مثل فريق يعرف فيه الجميع كود الطوارئ. حتى لو تمكن مهاجم من إسقاط "خلايا السلامة" الأصلية، فسيظل لدى النموذج عشرات الخلايا العصبية الأخرى المستعدة للتدخل ورفض الطلب الضار.
تظهر الورقة أن هذا النهج يعمل بشكل جيد للغاية. فعندما اختبروا طريقتهم على عدة نماذج ذكاء اصطناعي مختلفة (بما في ذلك Qwen2.5 و LLaMA)، وجدوا أنه حتى عندما حاول المهاجمون إزالة خلايا السلامة العصبية الأكثر أهمية جراحياً، ظل النماذج المدربة بطريقة (DSA) ترفض القيام بالأشياء السيئة. في الواقع، في بعض الاختبارات، فشلت النماذج القديمة في كل مرة تقريباً عند إزالة خلايا السلامة العصبية، بينما استمرت نماذج (DSA) في قول "لا" بشكل مثالي تقريباً.
والأهم من ذلك، تحقق الباحثون أيضاً مما إذا كان نظام السلامة الجديد هذا سيجعل الذكاء الاصطناعي أقل ذكاءً. لقد اختبروا النماذج في المسائل الرياضية، وفهم القراءة، والمعرفة العامة، ووجدوا أن النماذج كانت بنفس ذكاء وفائدة النماذج السابقة. لم تأتِ السلامة على حساب الذكاء؛ بل أصبحت النماذج فقط أصعب في الخداع.
تشير الورقة إلى أن هذا النهج "الموزع" يعد خطوة كبيرة للأمام لأنه يتوقف عن الاعتماد على "نقطة فشل واحدة". بدلاً من بناء جدار به نقطة ضعف واحدة، هم يبنون شبكة أمان منسوجة من خيوط عديدة. إذا انقطع خيط واحد، تظل الشبكة صامدة. وبينما تشير الورقة إلى أن هذا تحسين قائم على المحاكاة، وأن الهجمات في العالم الحقيقي تتطور دائماً، فإن النتائج تشير بقوة إلى أن توزيع حمل السلامة عبر دماغ الذكاء الاصطناعي هو طريقة أكثر قوة لإبقاء هذه الأدوات القوية آمنة للجميع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.