Computational Orientalism: Measuring Structural Discourse Bias in Large Language Models Using the Middle East Cultural Sensitivity Score (MECSS)
تقدم هذه الورقة "مقياس الحساسية الثقافية للشرق الأوسط" (MECSS) لتوضيح أن النماذج اللغوية الكبيرة، بما في ذلك تلك التي تم تطويرها في الشرق الأوسط، تعيد إنتاج التحيزات الاستشراقية الهيكلية بشكل منهجي من خلال "التبيئة السعيدية" (Said-washing) وتأطير المعرفة الغربية كمعرفة عالمية، مما يكشف عن فشل مقاييس العدالة القياسية في اكتشاف هذه التشوهات المعرفية العميقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
عندما نطلب من الحاسوب شرح ثقافة ما، فإننا غالباً ما نفترض أننا نحصل على ملخص محايد للحقائق. لكن الأنظمة التي تجيب على هذه الأسئلة ليست لوحات فارغة؛ فهي مبنية على مكتبات ضخمة من النصوص التي كتبها في الغالب أشخاص من الغرب، وباللغة الإنجليزية، وهي تتعلم التحدث عبر محاكاة الأنماط الموجودة في تلك المكتبات. وهذا يعني أنه عندما يسأل مستخدم عن الشرق الأوسط، فإن الحاسوب لا يسترجع المعلومات فحسب، بل يبني قصة بناءً على الافتراضات المتجذرة في بيانات تدريبه. لعقود من الزمن، وصف العلماء طريقة معينة في سرد القصص عن الشرق تُعرف باسم "الاستشراق". وهذا لا يتعلق فقط بكون المرء فظاً أو باستخدام الصور النمطية، بل هو عادة هيكلية أعمق في الكتابة تعامل الغرب كراصد طبيعي وفعّال، والشرق ككائن سلبي وغامض يحتاج إلى تفسير وفق القواعد الغربية. إنها تفترض أن الأفكار الغربية هي حقائق عالمية، بينما الأفكار المحلية ليست سوى "نزوات ثقافية". والسؤال الذي يطرحه الباحثون الآن هو ما إذا كان الذكاء الاصطناعي الحديث، الذي أصبح مصدراً رئيسياً للمعلومات لمئات الملايين من الناس، يعيد تكرار هذه الأنماط القديمة بهدوء، حتى عندما يحاول أن يكون مهذباً.
شرع باحث في قياس هذا التحيز غير المرئي في نموذجين لغويين كبيرين مختلفين. أحدهما نظام قوي طورته الولايات المتحدة، والآخر نموذج بُني في الإمارات العربية المتحدة، وتم تدريبه بمحتوى عربي كبير. أراد الباحث اختبار فكرة متفائلة: وهي أن بناء ذكاء اصطناعي في الشرق الأوسط، باستخدام لغات محلية وبيانات إقليمية، سيؤدي بطبيعته إلى إنتاج رؤية أكثر إنصافاً وأقل تحيزاً للمنطقة. ولإيجاد الإجابة، ابتكر أداة قياس جديدة تسمى "درجة الحساسية الثقافية للشرق الأوسط". وبدلاً من البحث فقط عن الشتائم الواضحة أو الكلمات المسيئة، فحصت هذه الأداة بنية الجمل التي تولدها النماذج. لقد تحققت من سبعة عادات محددة، مثل ما إذا كان النموذج يعامل الشرق الأوسط بأكمله ككتلة واحدة غير متمايزة، وما إذا كان يصف السكان المحليين كضحايا سلبيين بدلاً من صُناع قرار فاعلين، وما إذا كان يستخدم النظريات السياسية الغربية كوسيلة افتراضية لتفسير الأحداث بينما يعامل المعرفة المحلية كشيء يحتاج إلى تبرير خاص.
أجرى الباحث 280 محادثة، طرح خلالها على النماذج مجموعة واسعة من الأسئلة حول السياسة والثقافة والتاريخ. ثم قام بتحليل الردود ليرى عدد المرات التي وقعت فيها النماذج في هذه الفخاخ الهيكلية. أظهرت النتائج أن كلا النموذجين، بغض النظر عن مكان بنائهما، أعادا إنتاج هذه الأنماط المتحيزة بشكل منهجي. أظهر النموذج الأمريكي بعض التحيز، لكن النموذج الذي بُني في الإمارات سجل درجة أعلى على مقياس التحيز، مما يعني أنه أعاد إنتاج الأنماط الإشكالية بشكل أكثر تكراراً وكثافة. يتحدى هذا الاكتشاف الافتراض القائل بأن مجرد تغيير موقع المطورين أو إضافة لغات محلية إلى بيانات التدريب كافٍ لحل المشكلة. فقد وجد الباحث أن نموذج الإمارات، رغم أصوله الإقليمية، لا يزال يعتمد بشدة على الأطر الغربية لتفسير العالم، معتبراً إياها العدسة القياسية التي يجب رؤية كل شيء من خلالها.
كان أحد أكثر الاكتشافات لفتاً للنظر هو ظاهرة أطلق عليها الباحث اسم "التبييض بالاستشراق" (Said-washing). يحدث هذا عندما يبدأ النموذج رده بالتصريح صراحةً بأن المنطقة متنوعة ومعقدة، ليعقب ذلك مباشرة بتعميم يتجاهل هذا التعقيد ذاته. على سبيل المثال، قد يقول النموذج: "بالطبع، يمتلك الشرق الأوسط ثقافات وتواريخ مختلفة"، ثم يشرع فوراً في وصف "المجتمع الشرق أوسطي" ككيان واحد موحد يمتلك مجموعة واحدة من الدوافع. ظهر هذا النمط في ما يقرب من 88 بالمائة من المحادثات مع النموذج الأمريكي وفي حوالي 63 بالمائة من المحادثات مع نموذج الإمارات. وهذا يشير إلى أن النماذج قد تعلمت كيفية تمثيل المظهر الخارجي للحساسية دون تغيير الهيكل الأساسي لتفكيرها فعلياً. يمكنها قول الكلمات الصحيحة لتبدو منصفة، لكن الطريقة التي تنظم بها المعلومات تظل متجذرة بعمق في طرق الرؤية الاستعمارية القديمة.
كشفت الدراسة أيضاً أن التحيز لم يكن يتعلق فقط بما تقوله النماذج، بل بكيفية تنظيمها للعالم. فقد تعامل كلا النموذجين باستمرار مع الأطر التحليلية الغربية كطريقة افتراضية وغير محددة لفهم الواقع، بينما عاملوا المعرفة غير الغربية كشيء خاص يتطلب تفسيراً خاصاً. كان هذا هو الاكتشاف الأكثر اتساقاً عبر كلا النظامين، حيث ظهر في كل محادثة تقريباً. وأشار الباحث إلى أن الفرق في أداء النموذجين قد يعود جزئياً إلى حجمهما، حيث كان النموذج الأمريكي أكبر بكثير وأكثر تقدماً من نموذج الإمارات. تميل النماذج الأصغر إلى إنتاج نصوص أبسط وأقل دقة، مما قد يبدو أكثر شبهاً بالتعميمات الواسعة التي كان الباحث يقيسها. ومع ذلك، فإن حقيقة تقارب النموذجين عند نفس المستوى العالي من التحيز فيما يتعلق باستخدام الأطر الغربية تشير إلى أن المشكلة أعمق من مجرد حجم الحاسوب أو موقع المطورين.
في النهاية، تخلص الورقة البحثية إلى أن التحيز ليس مجرد خطأ يمكن إصلاحه بإضافة المزيد من اللغات أو نقل الخوادم إلى بلد آخر. المشكلة هي مشكلة معرفية (إبستمولوجية)، بمعنى أنها تتعلق بطبيعة المعرفة التي تعلمتها النماذج. فبيانات التدريب نفسها مليئة بالمنظورات الغربية التي تعامل الشرق الأوسط كـ "موضوع" للدراسة بدلاً من كونه "ذاتاً" تمتلك إرادتها الخاصة. ولتغيير ذلك حقاً، يرى الباحث أنه يجب تحويل بيانات التدريب لتشمل حجماً أكبر بكثير من الأبحاث التي كتبها باحثون من المنطقة، بلغاتهم الخاصة، وباستخدام تقاليدهم الفكرية الخاصة. وإلى أن تتغير هذه البيانات، ستستمر هذه الأنظمة في توليد إجابات تبدو واثقة وذات سلطة، ولكنها تعزز بهدوء رؤية للعالم يكون فيها الغرب هو الراوي، وبقية العالم مجرد قصة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.