Large language models perceive cities through a culturally uneven baseline
تكشف هذه الدراسة أن النماذج اللغوية الكبيرة لا تدرك المدن من منظور ثقافي محايد، بل من خلال أساس ثقافي غير متكافئ ينحاز بشكل منهجي للرؤى الغربية ويؤثر على التقييمات العاطفية، حتى عند توجيهها بآراء ثقافية غير غربية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك روبوتًا فائق الذكاء قد قرأ كل كتاب ومقال وموقع إلكتروني على الإنترنت تقريبًا. تسأل هذا الروبوت أن يصف مشهد شارع من كاميرا فيديو. قد تعتقد: "بما أنه رأى كل شيء، فلا بد أن لديه رؤية متوازنة ومحايدة تمامًا للعالم".
هذه الورقة البحثية تشبه قصة بوليسية تثبت أن ذلك الروبوت ليس محايدًا على الإطلاق. في الواقع، هو يرى العالم من خلال نظارات ثقافية محددة للغاية، وهو لا يدرك حتى أنه يرتديها.
إليك تفصيل ما وجده الباحثون، باستخدام بعض التشبيهات من الحياة اليومية:
1. "الإعداد المحايد" هو خدعة
طلب الباحثون من ثلاثة نماذج مختلفة من الذكاء الاصطناعي (تخيلهم كثلاثة طلاب فائقين الذكاء) وصف 3,000 مشهد شارع من جميع أنحاء العالم. أولاً، طلبوا منهم فقط "صف ما تراه" (الأمر المحايد).
الاكتشاف: حتى عندما طُلب من الذكاء الاصطناعي أن يكون محايدًا، بدا وصفه وكأن شخصًا من أوروبا أو أمريكا الشمالية هو من ينظر إليه.
- التشبيه: تخيل أنك تسأل مجموعة من الناس لوصف كوب "معياري" من القهوة. إذا سألت باريستا من سياتل، ومزارعًا من إثيوبيا، وشخصًا يشرب الشاي من اليابان، فسيصف كل منهم الكوب بشكل مختلف. ولكن إذا سألت روبوتًا تدرب في الغالب على بيانات الإنترنت الأمريكية والأوروبية، وقلت له أن يكون "محايدًا"، فسيصف القهوة تمامًا كما سيفعل باريستا سياتل. هو يعتقد أن نسخته هي "النسخة الافتراضية"، لكنها في الواقع مجرد نكهة ثقافية محددة.
2. تجربة "تقمص الأدوار"
لاختبار ذلك، أخبر الباحثون الذكاء الاصطناعي: "تخيل أنك شخص من [منطقة محددة، مثل أفريقيا جنوب الصحراء الكبرى أو أمريكا اللاتينية] ينظر إلى هذا الشارع".
الاكتشاف:
- التحول: عندما تظاهر الذكاء الاصطناعي بأنه من ثقافة مختلفة، تغير وصفه بالفعل. بدأ يلاحظ أشياء مختلفة ويستخدم كلمات مختلفة.
- الفخ: ومع ذلك، كان الوصف "المحايد" لا يزال الأقرب إلى نسخة أوروبا وأمريكا الشمالية. كان على الثقافات الأخرى أن "تسافر" مسافة أطول بكثير في عقل الذكاء الاصطناعي لتصل إلى منظور مختلف.
- التشبيه: فكر في عقل الذكاء الاصطناعي كخريطة. النقطة "المحايدة" ليست في منتصف الخريطة؛ بل هي عالقة في لندن أو نيويورك. عندما تطلب من الذكاء الاصطناعي أن يكون من طوكيو، فعليه أن يسلك طريقًا طويلًا ومتعرجًا للوصة إلى هناك. وعندما تطلب منه أن يكون من لندن، فهو واقف هناك بالفعل. "مركز" عالم الذكاء الاصطناعي ليس العالم كله؛ بل هو الغرب.
3. عامل "الحماس" (إيجابي للغاية)
تحقق الباحثون أيضًا من شعور الذكاء الاصطناعي تجاه هذه الأماكن.
- الاكتشاف: كان الذكاء الاصطناعي إيجابيًا للغاية. عندما يصف البشر شارعًا صاخبًا أو مزدحمًا أو حزينًا بعض الشيء، قد يقولون: "إنه فوضوي ولكنه ينبض بالحياة"، أو "يبدو متهالكًا نوعًا ما". أما الذكاء الاصطناعي، فقد مال لقول: "إنه حيوي ومليء بالحياة!" حتى عندما تبدو الصورة رثة.
- التشبيه: الأمر يشبه سائحًا لا يرى سوى النسخة المطبوعة على البطاقات البريدية للمدينة. مهما كان الشارع فوضويًا، يضع الذكاء الاصطناعي نظارات وردية ويقول: "يا له من مكان جميل ومليء بالطاقة!". إنه يفتقر إلى الدقة لرؤية الأوساخ أو الحزن الذي قد يلاحظه إنسان محلي.
4. انحياز "الأمان" و"الثراء"
في الجزء الثاني من الدراسة، كان على الذكاء الاصطناعي تقييم الشوارع بناءً على أشياء مثل "مدى أمان هذا المكان؟" أو "مدى ثراء هذا المكان؟".
- الاكتشاف: تغيرت تقييمات الذكاء الاصطناعي بشكل كبير اعتمادًا على "الثقافة" التي يتظاهر بها. ولكن مرة أخرى، كان التقييم "المحايد" متطابقًا تقريبًا مع التقييم الغربي.
- التشبيه: تخيل قاضيًا يقرر ما إذا كان المنزل "آمنًا". إذا كان القاضي من ضاحية ثرية، فقد يرى أن السور "وقائي". أما إذا كان القاضي من ثقافة مختلفة، فقد يرى نفس السور كأداة "عزل". "القاضي الافتراضي" للذكاء الاصطناعي هو القاضي القادم من الضواحي الثرية، وهو لا يدرك أن القضاة الآخرين قد يرون السور بشكل مختلف.
5. لماذا يهم هذا؟
تخلص الورقة البحثية إلى أن نماذج الذكاء الاصطنا هذه لا "تنظر من لا مكان". إنها تنظر من قاعدة غير متكافئة ثقافيًا.
- الصورة الكبيرة: إذا استخدمنا هذه الأنظمة لمساعدة المدن في التخطيط، أو الحكم على السلامة، أو تصميم الأحياء، فقد نعتقد بالخطأ أن الطريقة "الغربية" في رؤية المدينة هي الطريقة الصحيحة الوحيدة. قد نعتقد أن حيًا ما "غير آمن" لمجرد أن الذكاء الاصطناعي قال ذلك، دون أن ندرك أن الذكاء الاصطناعي يقوم فقط بإسقاط تحيزاته الثقافية على الصورة.
الخلاصة
فكر في النماذج اللغوية الكبيرة ليس كـ مرآة تعكس العالم بأكمله بدقة، بل كـ مرآة ملاهي مائلة قليلاً. إنها تعكس العالم، لكنها تمد صورة أوروبا وأمريكا الشمالية لتظهر أكبر وأكثر "طبيعية"، بينما تضغط الثقافات الأخرى في الخلفية.
يحذرنا الباحثون: لا تثق في حياد الذكاء الاصطناعي. إذا كنت تريده أن يرى العالم مثل شخص محلي، فعليك أن تخبره صراحة أن يكون محليًا، وحتى حينها، يظل الأمر مجرد تقليد، وليس تجربة بشرية حقيقية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.