Location Not Found: Exposing Implicit Local and Global Biases in Multilingual LLMs
تقدم هذه الورقة LocQA، وهو معيار مرجعي متعدد اللغات يكشف أن النماذج اللغوية الكبيرة تظهر تحيزات عالمية ضمنية نحو الإجابات المتمحورة حول الولايات المتحدة وتحيزات لغوية داخلية تفضل المواقع ذات الكثافة السكانية العالية، مع تفاقم هذه التحيزات الهيكلية بفعل الضبط الدقيق للتعليمات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك أمين مكتبة فائق الذكاء ومتعدد اللغات يدعى "LLM" (نموذج لغوي كبير). لقد قرأ هذا الأمين كل كتاب تقريباً في العالم ويمكنه التحدث بـ 12 لغة مختلفة بطلاقة. قد تعتقد: "رائع! إذا سألته سؤالاً بالفرنسية، فسيعرف تماماً كيف تبدو الحياة في فرنسا. وإذا سألته بالإسبانية، فسيعرف عن المكسيك أو إسبانيا".
لكن هذه الورقة البحثية، "الموقع غير موجود" (Location Not Found)، تكشف عن مشكلة مفاجئة: الأمين فصيح في اللغة، لكنه غالباً ما يكون مرتبكاً بشأن المكان الذي يقف فيه الشخص الذي يسأله بالفعل.
إليك تفصيل ما وجده الباحثون، باستخدام بعض التشبيهات البسيطة.
1. اختبار "السؤال الغامض"
أنشأ الباحثون لعبة تسمى LocQA. بدلاً من طرح سؤال مثل "ما هي عاصمة فرنسا؟" (وهو سؤال سهل)، طرحوا أسئلة تبدو متشابهة ولكن إجاباتها تختلف بناءً على مكان تواجدك.
- السؤال: "ما هو رقم هاتف الطوارئ؟"
- الفخ: إذا طرحت هذا السؤال بالإنجليزية، فقد تكون الإجابة هي 911 (الولايات المتحدة)، أو 999 (المملكة المتحدة)، أو 000 (أستراليا). السؤال لا يذكر في أي بلد أنت.
أراد الباحثون معرفة: عندما لا يعرف الأمين أين أنت، فما هي الإجابة التي يخمنها؟
2. الانحيازان الكبيران (الأخطاء التقنية)
وجدت الدراسة أن لدى الأمين عادتين تتسببان في وقوعه في الخطأ.
الانحياز (أ): "الافتراضي الأمريكي" (الانحياز العالمي)
التشبيه: تخيل خريطة حيث تم طلاء الولايات المتحدة باللون الوردي النيون الساطع، بينما بقية دول العالم باهتة باللون الرمادي. حتى عندما تسأل الأمين سؤالاً باللغة الإندونيسية أو الألمانية، فإنه يستمر في النظر إلى الخريطة الوردية النيون.
- ما يحدث: حتى عند السؤال بلغة غير الإنجليزية، غالباً ما يعطي النموذج الإجابة الأمريكية.
- مثال: إذا سألته بالفرنسية: "متى تبدأ السنة الضريبية؟"، قد يقول النموذج "الأول من يناير" (المعيار الأمريكي/البريطاني) بدلاً من التاريخ المحدد لفرنسا أو كندا، رغم أن الفرنسية تُتحدث في أماكن عديدة.
- النتيجة: يعامل النموذج الولايات المتحدة كـ "الإعداد القياسي" للعالم أجمع، مثل لعبة فيديو تعود تلقائياً إلى "نيويورك" حتى لو اخترت "باريس" كموطن لشخصيتك.
الانحياز (ب): "مسابقة الشعبية" (الانحياز الإقليمي)
التشبيه: تخيل غرفة مليئة بالأشخاص يتحدثون الإسبانية. هناك 20 دولة مختلفة ممثلة. يعمل الأمين هنا كـ حكم في مسابقة شعبية. فهو يتجاهل الطفل الهادئ في الزاوية (دولة صغيرة مثل بوليفيا) ويستمع فقط للأطفال الصاخبين والمشهورين (دول كبيرة مثل المكسيك وإسبانيا).
- ما يحدث: عندما تُتحدث لغة في أماكن كثيرة (مثل الإسبانية أو الفرنسية)، يفترض النموذج أن الإجابة تنتمي إلى الدولة التي تضم أكبر عدد من الناس.
- النتيجة: يصبح النموذج "محرك احتمالات ديموغرافي". إنه يمحو الدول الصغيرة. إذا سألت عن قانون باللغة الإسبانية، فمن المرجح أن يعطيك النموذج الإجابة الخاصة بالمكسيك أو إسبانيا، وكأنه يتظاهر بأن الدول الإسبانية الأصغر لا وجود لها.
3. فخ "المساعدة" (ضبط التعليمات)
اختبر الباحثون نوعين من أمناء المكتبة:
- الأمين الخام: يقرأ الكتب فقط ويجيب.
- الأمين "المدرب": تم تعليمه كيف يكون مهذباً، ومفيداً، ومتبعاً للتعليمات (وهذا ما يسمى "ضبط التعليمات").
المفاجة: "الأمين المدرب" كان في الواقع أسوأ في كونه محايداً ثقافياً!
- لماذا؟ لقد علّم التدريبُ الأمينَ أن يكون "مفيداً" عبر تقديم خيارات أكثر. لذا، بدلاً من مجرد إعطاء الإجابة المحلية، يقول الأمين المدرب: "الإجابة هي X، ولكن في الولايات المتحدة، هي Y، وفي كندا، هي Z".
- النتيجة: من خلال محاولته أن يكون شاملاً ويذكر كل الاحتمالات، جعل بالخطأ الإجابة الأمريكية هي "البطل الرئيسي" للقصة. لم يمحُ الإجابة المحلية، لكنه دفنها تحت جبل من المقارنات الأمريكية.
4. "ضريبة المحاذاة الثقافية"
تسمي الورقة البحثية هذا بـ "ضريبة المحاذاة الثقافية".
فكر في الأمر بهذه الطريقة: لجعل الذكاء الاصطناعي أكثر أماناً وفائدة للجميع، قام المطورون بـ "محاذاته". لكن تكلفة هذه السلامة كانت المحو الثقافي. ففي محاولتهم لجعل الذكاء الاصطناعي "مساعداً عالمياً"، حولوه بالخطأ إلى "مساعد متمحور حول الولايات المتحدة" يتحدث لغات أخرى بطلاقة فحسب.
الخلاصة الكبرى
تجادل الورقة بأن التحدث بلغة بطلاقة ليس هو نفسه فهم الثقافة.
مجرد قدرة الذكاء الاصطناعي على كتابة قصيدة مثالية باللغة الهندية لا يعني أنه يعرف حقاً كيف تبدو الحياة في الهند مقابل الولايات المتحدة. يدعو الباحثون إلى طريقة جديدة لبناء الذكاء الاصطناعي: طريقة تعامل الموقع كإعداد محدد وهام (مثل زر "المنطقة" في ألعاب الفيديو)، بدلاً من افتراض أن التحدث بلغة ما يعني تلقائياً معرفة القواعد المحلية.
باختة القول: الذكاء الاصطناعي متعدد اللغات، لكنه يشبه السائح الذي يفترض دائماً أنه في أمريكا، حتى وهو واقف في طوكيو، أو باريس، أو بوينس آيرس.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.