Latent Space Refusal Anchoring for Low-Resource African Languages: Mechanistic Safety Recovery Without Retraining
تقدم هذه الورقة البحثية تقنية "تثبيت الرفض في الفضاء الكامن" (LSR-Anchoring)، وهي طريقة لا تتطلب تدريباً تعمل على استعادة الرفض الأمني في اللغات الأفريقية ذات الموارد المنخفضة من خلال استخراج اتجاهات الرفض من اللغة الإنجليزية وتطبيقها على التدفق المتبقي عند الاستدلال، محققةً استعادة أمنية فعالة مع أدنى قدر من تدهور الأداء عبر تقنيات مثل "التوجيه المستمد من تحليل المكونات المستقلة" (SAE-Derived Steering).
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تُدرب أنظمة الذكاء الاصطناعي الحديثة، والتي تُسمى غالباً نماذج اللغات الكبيرة، على فهم وتوليد اللغة البشرية. ويتضمن جزء حيوي من تطويرها تعليمها التعرف على الطلبات الضارة ورفضها، مثل التعليمات لإنشاء برمجيات خبيثة أو التخطيط للعنف. وقد اكتشف الباحثون أن هذه النماذج تمتلك "مفتاح أمان" داخلياً يتفعل عندما تكتشف خطراً. ومع ذلك، فإن هذا المفتاح مضبوط حالياً بشكل حصري تقرياً للتعرف على التهديدات باللغة الإنجليزية. فعندما يطرح مستخدم نفس السؤال الخطير بلغة أخرى، وخاصياً اللغات التي تمتلك موارد رقمية أقل مثل العديد من اللغات الأفريقية، غالباً ما يفشل مفتاح الأمان في التفاعل. فالنموذج، لعدم قدرته على التعرف على التهديد بتلك اللغة المحددة، قد يستجيب للطلب، مما يترك ملايين المتحدثين بلا حماية. ويمثل هذا الفارق ثغرة كبيرة في سلامة الذكاء الاصطناعي العالمية، حيث تعمل هذه التكنولوجيا بشكل جيد للبعض وتترك آخرين عرضة للخطر.
وتعالج دراسة جديدة قُدمت في ورشة عمل لتعلم الآلة هذا الاختلال دون الحاجة إلى الكميات الهائلة من البيانات الجديدة أو القوة الحوسبية التي تطلبها عملية الإصلاح عادةً. فقد وجد الباحثون، الذين عملوا مع نماذج قادرة على فهم الإنجليزية واليوروبا والإيغبو والإيغالا والهاوسا، أن إشارة "الرفض" الداخلية موجودة داخل ذاكرة الكمبيوتر حتى عندما يفشل النموذج في التصرف بها في لغات أخرى. وبدلاً من إعادة تدريب النظام بأكمب، وهو أمر مستحيل للغات التي تفتقر إلى مجموعات بيانات كبيرة، طوروا طريقة لـ "دفع" الحالة الداخلية للنموذج يدوياً في لحظة تفكيره. لقد استخرجوا النمط المحدد للنشاط الذي يشير إلى "لا يمكنني القيام بهذا" عندما يعالج النموذج اللغة الإنجليزية، ثم طبقوا ذلك النمط نفسه على العمليات الداخلية للنموذج عندما كان يعالج طلبات بلغات أفريقية. هذه التقنية، التي يسمونها "تثبيت الرفض في الفضاء الكامن" (latent space refusal anchoring)، تعمل فعلياً على تثبيت إشارة الأمان على عملية تفكير النموذج، مما يجبره على التعرف على الخطر بغض النظر عن اللغة المستخدمة.
كانت نتائج هذا النهج ناجحة بشكل لافت للنظر عبر عدة أنواع وأحجام مختلفة من النماذج. فعندما طبق الباحثون هذه "الدفعة" على نماذج تعالج طلبات ضارة باليوروبا والإيغبو والإيغالا والهاوسا، بدأت النماذج في رفض تلك الطلبات بنفس الموثوقية التي تفعلها في الإنجليزية. وفي كثير من الحالات، قفز معدل النجاح في إيقاف المحتوى الضار إلى مستويات تقترب من المثالية. فعلى سبيل المثال، في أكبر نموذج تم اختباره (Llama-3.1-70B)، استعادت الطريقة الأمان تماماً للمطالبات باليوروبا والإيغالا وحققت معدل نجاح قدره 0.99 في الإيغبو؛ ومع ذلك، ولأن مقياس الرفض الخاطئ للأسئلة غير الضارة لم يُقس لهذا النموذج، فإن نسب النجاح العالية هذه تمثل حدوداً عليا للتعافي الأمني. والأهم من ذلك، أن هذا الإصلاح لم يكسر قدرة النماذج الأصغر حجماً على الإجابة على الأسئلة غير الضارة حيث تم قياس ذلك؛ فبالنسبة لتلك النماذج، ظل معدل الخطأ في الرفض غير المبرر للطلبات الحميدة منخفضاً للغاية، وغالباً ما كان أقل من ثمانية بالمائة. لقد نجحت الطريقة لدرجة أنها استعادت الأمان دون الحاجة إلى قطعة واحدة من البيانات المصنفة في اللغات المستهدفة، وهو ما يعد طفرة كبرى للمناطق التي تندر فيها مثل هذه البيانات.
ومع ذلك، كشفت الدراسة أيضاً عن حدود مهمة لهذه التقنية. فقد وجد الباحثون أن الطريقة لا تعمل مع كل لغة؛ فعندما حاولوا تطبيق إشارة الأمان القائمة على الإنجليزية على اللغة العربية، فشلت تماماً، مما جعل النموذج أقل أماناً بدلاً من أن يكون أكثر أماناً. وهذا يشير إلى أن الهندسة الداخلية لكيفية تمثيل النموذج للغة العربية تختلف جوهرياً عن كيفية تمثيله للإنجليزية، مما يعني أن الترجمة البسيطة لإشارة الأمان لا تتناسب معها. بالإضافة إلى ذلك، تصرفت الطريقة بشكل مختلف اعتماداً على حجم النموذج. ففي النموذج الأصغر، كانت النسخة الأولى من التقنية عدوانية للغاية، مما تسبب في جعل النموذج يرفض كل شيء تقريباً، حتى الأسئلة غير الضارة. ولإصلاح ذلك، قام الباحثون بتنقيح نهجهم عبر عزل ميزة داخلية واحدة محددة جداً مسؤولة عن الرفض، بدلاً من استخدام متوسط واسع. وقد سمحت هذه الطريقة المنقحة للنموذج الأصغر باستعادة الأمان دون أن يصبح شديد الحذر، مما قلل من خطر الأخطاء بمعامل يتراوح بين ثلاثة إلى سبعة مقارنة بالمحاولة الأولى.
تؤكد الدراسة أن آليات الأمان في هذه الأنظمة من الذكاء الاصطناعي ليست غائبة في اللغات الأخرى، بل هي مجرد خاملة، تنتظر أن يتم تحفيزها بالإشارة الداخلية الصحيحة. ومن خلال استخدام طريقة "خالية من التدريب" لتنشيط هذه الإشارات في لحظة الاستخدام، قدم الباحثون وسيلة عملية لتوسيع حماية الأمان لتشمل مئات الملايين من المتحدثين الذين تُرِكوا سابقاً دون حماية. ويظهر هذا العمل أنه مع التعديل الدقيق، يمكن جعل الذكاء الاصطناعي يفهم نية الطلب الضار عبر حواجز اللغة، بشرط أن تكون الهياكل الداخلية لتلك اللغات متوافقة. وبينما تظل التحديات قائمة للغات مثل العربية، فإن النجاح مع لغات غرب أفريقيا يقدم مساراً واضحاً لجعل الذكاء الاصطناعي أكثر أماناً لمجتمع عالمي أكثر تنوعاً، وذلك باستخدام الموارد المتاحة بالفعل داخل النماذج نفسها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.