← أحدث الأبحاث
💬 NLP

Who Pays More for Safety? Measuring the Disparate Cost of Safety Alignment across Languages

تقدم هذه الورقة مقياس "تكلفة السلامة" لتوضيح أن مواءمة السلامة تفرض عقوبات غير متناسبة على اللغات غير الإنجليزية من خلال فقدان أكبر في المنفعة وحماية أضعف مقارنة باللغة الإنجليزية، مما يكشف عن عدم مساواة منهجي في ممارسات السلامة الحالية.

المؤلفون الأصليون: Chanwoong Yoon, Jungsoo Park, Alan Ritter

نُشر 2026-08-25
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Chanwoong Yoon, Jungsoo Park, Alan Ritter

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالم الذكاء الاصطناعي، تُعد النماذج اللغوية الكبيرة هي المحركات الرقمية التي تشغل برامج الدردشة الآلية، والمترجمين، والمساعدين. وقبل أن تصبح هذه الآلات مفيدة للبشر، تخضع لعملية تدريب صارمة تسمى "المحاذاة". فكر في هذا الأمر كفترة مدرسية حيث لا يتعلم النموذج فقط كيفية الإجابة على الأسئلة، بل يتعلم كيفية الإجابة عليها بأمان، مع الالتزام بالقيم الإنسية ورفض توليد محتوى ضار مثل تعليمات العنف أو الأعمال غير القانونية. هذا التدريب على السلامة أمر ضروري، لكنه يأتي بثمن خفي. فتماماً كما قد تتوقف سيارة ذات مكابح حساسة للغاية بسرعة كبيرة بسبب عائق بسيط، فإن الذكاء الاصطناعي الذي يتسم بالحذر المفرط قد يصبح غير مفيد، حيث يرفض الإجابة على أسئلة غير ضارة أو يقدم استجابات غامضة ومبتذلة. يُعرف فقدان الفائدة هذا بـ "تكلفة المنفعة". لسنوات، عرف الباحثون أن التدريب على السلامة يقلل من الأداء العام للنموذج، ولكن ظل هناك سؤال جوهري دون إجابة: هل تقع هذه التكلفة بالتساوي على الجميع، أم أن بعض اللغات تعاني أكثر من غيرها؟

لقد شرع فريق من الباحثين في التحقيق فيما إذا كان عبء محاذاة السلامة يتم تقاسمه بعدالة عبر لغات العالم. وركزوا على ظاهرة محددة حيث قد ترفض النماذج طلبات آمنة لمجرد أنها تبدو خطرة قليلاً، وهو سلوك يُعرف باسم "الإفراط في الرفض". ولقياس التكلفة الحقيقية للسلامة، ابتكر الفريق طريقة مقارنة ذكية؛ حيث أخذوا نماذج قوية محاذية للسلامة وأنشأوا نسخاً "غير محاذية" من نفس البرمجيات. لم تكن هذه النسخ غير المحاذية مدربة لتكون خطيرة، بل قام الباحثون بإزالة آليات السلامة المحددة التي تسببت في رفض النماذج للطلبات جراحياً، تاركين بقية معرفة النموذج وقدرته على التحدث سليمة. ومن خلال مقارنة استجابات النموذج المحاذي للسلامة مقابل توأمه غير المحاذي لنفس السؤال، استطاع الباحثون عزل مقدار الفائدة المفقودة بسبب تدريب السلامة وحده. وقد اختبروا ذلك عبر اللغة الإنجليزية وخمس لغات أخرى، بما في ذلك الصينية والعربية والكورية والفيتنامية والتايلاندية، باستخدام مجموعة من الأسئلة المصممة لتكون غير ضارة ولكن من المرجح أن تثير إنذار السلامة.

كشفت النتائج عن عدم مساواة صارخة ومنهجية. فقد وجد الباحثون أن المستخدمين غير الناطقين بالإنجليزية يدفعون باستمرار ثمناً أعلى مقابل السلامة مقارنة بالمتحدثين بالإنجليزية. وفي كثير من الحالات، كانت مرشحات السلامة أقل فعالية في حماية المتحدثين بغير الإنجليزية من الأخطار الحقيقية، ومع ذلك تلقى هؤلاء المستخدمون إجابات أسوأ بكثير وأقل فائدة لأسئلتهم غير الضارة. حددت الدراسة ثلاثة أنماط متميزة وراء هذا التفاوت. أولاً، وقعت العديد من اللغات في منطقة "العقوبة المزدوجة": حيث حصلت على حماية أضعف ضد المخاطر الحقيقية بينما عانت في الوقت نفسه من انخفاض أكبر بكثير في جودة إجاباتها. ثانياً، في بعض الحالات، بدت لغة ما وكأنها تمتلك تكلفة سلامة منخفضة فقط لأن مرشحات السلامة فشلت في العمل على الإطلاق، مما ترك المستخدمين معرضين لمحتوى ضار دون أن يدرك النموذج ذلك. ثالثاً، حتى بالنسبة للغات ذات الموارد العالية مثل الصينية، والتي تمتلك كميات هائلة من بيانات التدريب، كانت تكلفة تحقيق نفس مستوى السلامة مثل الإنجليزية أعلى بشكل ملحوظ. لم يكن فقدان المنفعة يتعلق فقط بكون النموذج يقول "لا" عندما كان يجب أن يقول "نعم"، بل اكتشف الباحثون أنه حتى عندما يجيب النموذج، كانت الاستجابة غالباً أقل عمقاً وأقل تفصيلاً وأقل دقة من الناحية الواقعية. لقد جرد تدريب السلامة الاستجابة بهدوء من العمق والدقة، مما جعل الذكاء الاصطناعي أقل فائدة دون أن يدرك المستخدم السبب بالضرورة.

يشير هذا العمل إلى أن الأساليب الحالية لجعل الذكاء الاصطناዊ آمناً ليست معايرة بشكل عادل عبر الثقافات واللغات المختلفة. فتدريب السلامة، المتأثر بشدة بالبيانات والمعايير باللغة الإنجليزية، يخلق دون قصد فجوة هيكلية حيث يحصل المتحدثون بغير الإنجليزية على تجربة أسوأ. ويرى الباحثون أن هذا ليس أثراً جانبياً لا مفر منه لجعل الذكاء الاصطناعي آمناً، بل هو خلل في كيفية تنفيذ السلامة حالياً. ومن خلال قياس تكلفة السلامة المحددة في كل لغة، تكشف الدراسة عن عدم مساواة أساسي؛ فهي تظهر أنه بينما قد يحصل المتحدثون بالإنجليزية على استجابة آمنة ومفيدة، قد يحصل المتحدث بلغة أخرى على استجابة إما غير آمنة أو غامضة بشكل غير مفيد، وكل ذلك لأن آليات السلامة ليست مضبوطة وفقاً لسياقهم اللغوي الخاص. وتدعو هذه النتائج إلى نهج جديد للمحاذاة مع السلامة، نهج يضمن توزيع تكلفة كوننا آمنين بالتساوي، بحيث لا تتقلص فوائد الذكاء الاصطناعي بسبب اللغة التي يُتحدث بها.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💬 cs.CL →