← أحدث الأبحاث
🤖 AI

Safety Alignment Illusion: The Cross-Lingual Safety Gap in LLMs

تقدم هذه الورقة البحثية INCLUDE، وهو معيار متعدد اللغات لتقييم التحيزات الاجتماعية والثقافية المتمحورة حول الهند عبر ست لغات، مما يكشف أن محاذاة السلامة الحالية المتمحورة حول اللغة الإنجليزية في النماذج اللغوية الكبيرة تخلق فجوة سلامة حرجة عابرة للغات، حيث تظهر المخرجات غير الإنجليزية، لا سيما باللغة البنغالية وفي النماذج مغلقة المصدر، تحيزاً أعلى بكثير من نظيراتها الإنجليزية.

المؤلفون الأصليون: Namya Bhatnagar

نُشر 2026-08-20
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Namya Bhatnagar

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل عالماً يكون فيه صوت المساعد الحاسوبي بطلاقة وإنصاف في قرية ريفية في الهند بقدر ما هو عليه في مكتب صاخب في لندن. لسنوات، تم تدريب التكنولوجيا الكامنة وراء هؤلاء المساعدين بشكل أساسي على النصوص الإنجليزية، حيث تعلمت التعرف على الصور النمطية الضارة ورفض الطلبات المسيئة من خلال عملية تسمى "المواءمة الأمنية". يعمل هذا التدريب كمرشح (فلتر)، مصمم لمنع الآلة من تكرار التحيزات المتعلقة بالعرق أو الدين أو الوضع الاجتماعي. ومع ذلك، ظل هناك سؤال جوهري بلا إجابة: هل يعمل هذا المرشح بنفس الكفاءة عندما يتحدث المستخدم بالهندية، أو البنغالية، أو مزيج من الإنجليزية والهندية؟ إذا كان هذا المرشح يفهم الإنجليزية فقط، فإن ملايين الأشخاص الذين يتحدثون لغات أخرى يظلون عرضة للتحيزات ذاتها التي كان من المفترض أن تمنعها هذه التكنولوجيا. هذا هو صلب القلق الذي تثيره دراسة جديدة تبحث فيما إذا كان وعد الذكاء الاصطناعي الآمن يتحقق عبر المشهد اللغوي المتنوع في الهند.

لقد سعى الباحثون، بقيادة ناميا بهاتناجار، لقياس هذه الفجوة من خلال إنشاء اختبار متخصص يسمى INCLUDE. صُمم هذا المعيار لمعرفة مدى قدرة نماذج الذكاء الاصطناعي المختلفة على التعامل مع الصور النمطية الخاصة بالثقافات عند توجيه الأوامر لها بست لغات مختلفة: الإنجليزية، والهندية، والبنغالية، والماراثية، والتاميلية، و"الهينجليش" (Hinglish)، وهي مزيج شائع من الهندية والإنجليزية يُستخدم في المحادثات اليومية. لبناء هذا الاختبار، حدد الفريق أولاً ستة مجالات تظهر فيها التحيزات غالباً، مثل الطبقة الاجتماعية (Caste)، والدين، والمنطقة. ثم جمعوا لجنة مكونة من عشرين خبيراً، بمن فيهم معلمون وأعضاء هيئة تدريس جامعية، لمراجعة وتنقيح آلاف الأسئلة. وقد صيغت هذه الأسئلة بعناقة لتكون طبيعية، حيث تطلب من النماذج إكمال جمل بطرق قد تكشف ما إذا كانت تميل نحو الصور النمطية الضارة أو ترفضها. قام الفريق بترجمة هذه المطالبات إلى اللغات الهندية الخمس، مع ضمان بقاء المعنى وكثافة الصور النمطية متسقين عبر جميع النسخ.

قيمت الدراسة عشرة نماذج مختلفة من الذكاء الاصطني، مقسمة إلى مجموعتين: تلك المفتوحة التي يمكن لأي شخص فحصها وتعديلها، والأنظمة المغلقة المملوكة لشركات التكنولوجيا الكبرى. وعندما اختبر الباحثون النماذج مفتوحة المصدر، وجدوا نمطاً واضحاً ومثيراً للقلق؛ فقد كانت النماذج أكثر عرضة لإنتاج إجابات متحيزة ونمطية عندما تُكتب المطالبات باللغات الهندية مقارنة بالإنجليزية. ومن بين اللغات الهندية، أدت اللغة البنغالية إلى أعلى مستوى من التحيز، تلتها الهندية عن قرب. ومن المثير للدهشة أن المطالبات بالإنجليزية أسفرت في الواقع عن أدنى درجات التحيز لهذه النماذج مفتوحة المصدر، مما يشير إلى أن مرشحات السلامة تعمل بشكل جيد للمتحدثين بالإنجليزية ولكنها تفشل بالنسبة للجميع غيرهم. وهذا يخلق وهماً بالأمان، حيث قد يشعر المستخدم بالحماية بالإنجليزية بينما يظل معرضاً للخطر بلغته الأم.

أما النتائج المتعلقة بالنماذج مغلقة المصدر، والتي تُستخدم غالباً لتشغيل وظائف البحث والاسترجاع للمساعدات الصوتية، فقد روت قصة مختلفة وأكثر تعقيداً. في هذه المجموعة، انقلب النمط تماماً؛ حيث أظهرت النماذج أقوى الارتباطات بالتحيز عندما كانت المطالبات بالإنجليزية، بينما أظهرت اللغات الهندية درجات تحيز أقل. هذا الانعكاس يشير إلى أن مصدر المشكلة ليس شيئاً واحداً فقط. فبالنسبة للنماذج مفتوحة المصدر، يبدو أن المشكلة تكمن في أن التدريب على السلامة تم معظمه بالإنجليزية، مما ترك اللغات الأخرى دون حماية. أما بالنسبة للنماذج مغلقة المصدر، فيبدو أن التحيز يأتي من الكم الهائل من النصوص الإنجليزية التي تدربت عليها في الأصل، والتي رسخت صوراً نمطية قوية في فهمها الجوهري للعالم.

كان أحد أهم النتائج المتعلقة بـ "الهينجليش"، وهي اللغة المختلطة المستخدمة من قبل الملايين في الهند. وجدت الدراسة أن "الهينجليش" لم تحصل على فوائد السلامة التي توفرها الإنجليزية. فرغم احتوائها على كلمات إنجليزية، إلا أن النماذج عاملتها إحصائياً كبقية اللغات الهندية ذات الموارد المنخفضة، حيث وضعتها ضمن مجموعة الهندية والتاميلية بدلاً من الإنجليزية. وهذا يعني أن المستخدمين الذين يعتمدون على هذه اللغة المختلطة للتفاعل الصوتي لا يحصلون على نفس مستوى الحماية الذي يحصل عليه متحدثو الإنجليزية الصرفة. كما لاحظ الباحثون أنه بينما تباينت درجات التحيز، إلا أن الاختلافات لم تكن عشوائية؛ بل كانت متسقة بما يكفي لاعتبارها فشلاً حقيقياً وقابلاً للقياس في كيفية بناء هذه الأنظمة.

تخلص الدراسة إلى أن سلامة الذكاء الاصطناعي ليست موحدة عبر اللغات. فهي تكشف أن الطرق الحالية لتدريب هذه النماذج تخلق انقساماً حيث يتم حماية المتحدثين بالإنجليزية من الصور النمطية الضارة، بينما لا يتم ذلك لمتحدثي اللغات الأخرى. وتشير النتائج إلى أن مجرد ترجمة قواعد السلامة من الإنجليزية ليس كافياً؛ بل يجب أن يتغير الهيكل الأساسي لكيفية تعلم هذه النماذج وكيفية مواءمتها لتراعي الفروق الدقيقة للثقافات واللغات المختلفة. ومن خلال تحديد هذه الفجوات، يأمل الباحثون في توفير خارطة طريق للمطورين لبناء أنظمة عادلة حقاً للجميع، بغض النظر عن اللغة التي يتحدثونها. إن هذا العمل يسلط الضوء على أن تحقيق العدالة الحقيقية في الذكاء الاصطناعي يتطلب النظر إلى ما وراء اللغات المهيمنة ومعالجة السياقات الثقافية المحددة التي تُنشر فيها هذه التقنيات.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.AI →