← أحدث الأبحاث
💻 computer science

LLM Safety Alignment in Low-Resource Languages: A Systematic Literature Review

تحلل هذه المراجعة المنهجية للأدبيات 50 دراسة حول محاذاة سلامة النماذج اللغوية الكبيرة في اللغات ذات الموارد المنخفضة، حيث تحدد فجوة سلامة متعددة اللغات مستمرة مدفوعة بعوامل مثل عدم التوازن في مرحلة ما قبل التدريب والمعايير المتبصرة ثقافياً، بينما تقترح تصنيفاً جديداً وتدعو إلى حلول قائمة على الثقافة لمعالجة نقاط الضعف مثل عمليات الاختراق عبر اللغات وتدهور السلامة.

المؤلفون الأصليون: Valdini Douglace Lemofouet, Blessing Ngozi Uzor, Paula Chikaodinaka Anyanwu, Danielle Blanche Kapsa, Sukairaj Hafiz Imam, P Sam Sahil, Abigail Oppong, Tassallah Abdullahi, Clemencia Siro, Idris Abdulm
نُشر 2026-08-18
📖 5 دقيقة قراءة🧠 قراءة متعمّقة
CC BY 4.0

المؤلفون الأصليون: Valdini Douglace Lemofouet, Blessing Ngozi Uzor, Paula Chikaodinaka Anyanwu, Danielle Blanche Kapsa, Sukairaj Hafiz Imam, P Sam Sahil, Abigail Oppong, Tassallah Abdullahi, Clemencia Siro, Idris Abdulmumin, Seid Muhie Yimam, Shamsuddeen Hassan Muhammad

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل عالماً تصبح فيه أكثر أنظمة الذكاء الاصطناعي تقدماً، القادرة على كتابة الشعر، وتشخيص الأمراض، والإجابة على الأسئلة المعقدة، غير موثوقة أو حتى خطيرة بمجرد تغيير اللغة من الإنجليزية إلى لغة أخرى. هذا ليس سيناريو افتراضي، بل هو واقع متنامٍ في مجال الذكاء الاصطناعي. نماذج اللغات الكبيرة هي برامج حاسوبية مدربة على كميات هائلة من النصوص لفهم وتوليد اللغة البشرية. ولجعل هذه الأدوات آمنة للاستخدام العام، يعلمها الباحثون رفض الطلبات الضارة، مثل تعليمات لبناء أسلحة أو نشر خطاب الكراهية. تُعرف عملية التعليم هذه باسم "المواءمة الأمنية". لسنوات، حدث هذا التدريب حصرياً تقريباً باستخدام البيانات الإنجليزية. ونتيكنتيجة لذلك، تعلمت هذه العقول الرقمية أن تكون مهذبة وحذرة باللغة الإنجليزية، لكنها غالباً ما تفشل في التعرف على المخاطر نفسها عندما يتحدث المستخدم لغة ذات موارد رقمية أقل، مثل العديد من اللغات الأفريقية أو لغات الشعوب الأصلية. إن الفجوة بين مدى أمان هذه النماذج باللغة الإنجليزية مقابل أمانها في لغات أخرى تتسع، مما يخلق وضعاً يواجه فيه المتحدثون باللغات غير الممثلة كفاية مخاطر أعلى في تلقي نصائح سامة أو منحازة أو مضللة من الأدوات المصممة لمساعدتهم.

لقد شرع فريق من الباحثين في رسم خريطة لهذا المشهد غير المتكافئ من خلال إجراء مراجعة منهجية لخمسين دراسة حديثة ركزت على السلامة في اللغات ذات الموارد المنخفضة. جمعوا نتائجهم من آلاف الأوراق الأكاديمية، وقاموا بتصفيتها للوصول إلى العمل الأكثر صلة لفهم أين تخفق هذه التكنولوجيا ولماذا. كشف تحقيقهم عن حقيقة صارخة: الأساليب المستخدمة للحفاظ على أمان الذكاء الاصطناعي باللغة الإنجليزية لا تترجم ببساطة إلى لغات أخرى. فعندما حاول الباحثون استخدام قواعد السلامة الإنجليزية للغات مثل الهوسا أو السواحيلية أو اليوروبا، تعطلت الأنظمة غالباً. وجدت الدراسة أن مجرد ترجمة مطالبة إنجليزية ضارة إلى لغة ذات موارد منخفضة يمكن أن يخدع الذكاء الاصطناعي ويجعله يتجاهل حواجز الحماية الخاصة به في حوالي ثمانين بالمائة من الحالات، بينما تفشل نفس الخدعة في اللغة الإنجليزية في معظم الأوقات. يشير هذا إلى أن دروس السلامة المتعلمة في الإنجليزية ليست متجذرة بعمق في فهم النموذج للعالم، بل هي مرتبطة ارتباطاً وثيقاً باللغة الإنجليزية نفسها.

حدد الباحثون ثلاث طرق رئيسية يحاول العلماء من خلالها حل هذه المشكلة. يتضمن النهج الأول إنشاء بيانات تدريب جديدة متجذرة في الثقافات المحلية بدلاً من مجرد ترجمة الأمثلة الإنجليزية. أظهرت إحدى الدراسات أنه عندما بنوا مجموعة بيانات سلامة مخصصة للغات المحلية، باستخدام أمثلة للأذى الموجود فعلياً في تلك المجتمعات، أصبح الذكاء الاصطناعي أفضل بكثير في رفض الطلبات الخطيرة. في المقابل، غالباً ما كانت النماذج المدربة على بيانات إنجليزية مترجمة تغفل الفروق الدقيقة للأضرار الثقافية المحلية. أما النهج الثاني فيحاول تعليم النموذج أن يكون آمناً في لغة واحدة ثم يأمل في أن تنتشر هذه المعرفة إلى لغات أخرى. ومع ذلك، تشير المراجعة إلى أن هذه استراتيجية هشة؛ فعندما يتم ضبط النماذج بدقة على لغات جديدة، حتى مع وجود بيانات غير ضارة، فإنها أحياناً تنسى قواعد السلامة التي تعلمتها في الإنجليزية. أما النهج الثالث فينظر داخل بنية النموذج نفسه، محاولاً تعديل إعدادات داخلية محددة لجعله أكثر أماناً دون الحاجة إلى كميات هائلة من البيانات الجديدة. وبينما تبدو هذه الأساليب واعدة، إلا أنها لا تزال في مراحلها الأولى ولم تثبت فعاليتها بشكل موثوق عبر جميع اللغات.

يكمن جزء كبير من المشكلة في كيفية اختبار هذه الأنظمة. معظم اختبارات السلامة مبنية عن طريق ترجمة الأسئلة الإنجليزية إلى لغات أخرى. وجد الباحثون أن هذه الطريقة معيبة لأنها تفشل في التقاط الطرق المحددة التي يتجلى بها الأذى في الثقافات المختلفة. على سبيل المثال، قد يرفض النموذج طلباً لتوليد خطاب كراهية باللغة الإنجليزية، ولكنه قد يقدم بكل سرور توصيات منتجات سامة باللغة الهوساوية لأن مفهوم ذلك الضرر المحدد لم يكن جزءاً من تدريبه. سلطت المراجعة الضوء على وجود عدد قليل جداً من معايير الاختبار المصممة خصيصاً للغات الأفريقية، مما يترك فجوة كبيرة في فهمنا لكيفية سلوك هذه النماذج. وبدون اختبارات تعكس السياقات الثقافية الواقعية، لا يمكن للمطورين معرفة ما إذا كانت تدابير السلامة الخاصة بهم تعمل بالفعل.

كشفت الدراسة أيضاً عن ثغرة مفاجئة: إن عملية تعليم نموذج لغة جديدة يمكن أن تجعله أحياناً أقل أماناً بشكل عام. فعندما أضاف الباحثون لغات جديدة إلى نموذج كان آمناً بالفعل، تدهورت قدرة النموذج على رفض الطلبات الضارة في لغاته الأصلية. يشير هذا إلى أن عملية تعلم أنماط لغوية جديدة يمكن أن تتعارض مع قيود السلامة القائمة بالفعل. علاوة على ذلك، أشارت المراجعة إلى أنه عندما يخلط الناس بين اللغات في جملة واحدة، وهو ممارسة شائعة في أجزاء كثيرة من العالم، يصبح من السهل جداً خداع الذكاء الاصطناعي. يمكن لهذه المطالبات المختلطة اللغات أن تتجاوز فلاتر السلامة التي قد توقف هجوماً بلغة نقية واحدة.

في النهاية، تخلص المراجعة إلى أن المسار الحالي المتمثل في مجرد ترجمة بيانات السلامة الإنجليزية غير كافٍ. ويجادل الباحثون بأن السلامة الحقيقية تتطلب تحولاً نحو بناء مجموعات بيانات وأدوات تقييم من الصفر في اللغات المحلية، مع إشراك المتحدثين الأصليين لتحديد ما يشكل ضرراً في سياقاتهم الثقافية الخاصة. ويقترحون أن التقدم المستقبلي يعتمد على موازنة بيانات التدريب بحيث لا تهيمن لغة واحدة على فهم النموذج للسلامة. وإلى أن تُتخذ هذه الخطوات، سيظل وعد الذكاء الاصطناعي الآمن بعيد المنال عن مليارات الأشخاص الذين يتحدثون لغات غير الإنجليزية، مما يتركهم عرضة للمخاطر التي لا يواجهها نظراؤهم المتحدثون بالإنجليزية.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →