Exposing Blindspots: Cultural Bias Evaluation in Generative Image Models
تقدم هذه الورقة إطاراً موحداً وقابلاً لإعادة الإنتاج لتقييم التحيز الثقافي في كل من نماذج توليد الصور من النصوص ونماذج توليد الصور من الصور غير المستكشفة كفايةً، مما يكشف أن الأنظمة الحالية تنحاز تلقائياً نحو صور نمطية تابعة للشمال العالمي، وتُضعف الدقة الثقافية أثناء التحرير التكراري، وتعتمد على إشارات سطحية بدلاً من التغييرات المدركة للسياق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك كشك صور سحري يمكنه إنشاء صور لأي شيء تصفه، أو أخذ صورة موجودة وتغيير أسلوبها. قد تعتقد: "إذا طلبت صورة لحفل زفاف في الهند، فستبدو كحفل زفاف هندي". ولكن ماذا لو كان هذا الجهاز، في أعماقه، يعتقد أن جميع حفلات الزفاف يجب أن تبدو مثل حفلات الزفاف الأمريكية، أو يبدو فقط كديكور سينمائي عام؟
هذه الورقة البحثية تشبه قصة تحقيق لـ "محقق ثقافي". فقد بنى الباحثون اختبارًا ليروا ما إذا كانت مولدات الصور بالذكاء الاصطناعي هذه تفهم الثقافات المختلفة حقًا، أم أنها مجرد "نسخ ولصق" لأسلوب أمريكي افتراضي على الجميع.
إليك تفصيل تحقيقهم باستخدام تشبيهات بسيطة:
١. الإعداد: اختبار "القائمة العالمية"
لم يطلب الباحثون من الذكاء الاصطناعي إنشاء صورة واحدة فحسب، بل أنشأوا قائمة ضخمة ومنظمة:
- ٦ دول: الصين، الهند، كينيا، كوريا، نيجيريا، والولايات المتحدة الأمريكية.
- ٨ فئات: أشياء مثل الطعام، الملابس، المباني، المهرجانات، والحياة البرية.
- ٣ فترات زمنية: تقليدي (قديم الطراز)، حديث (العصر الحالي)، و"خالد" (لا زمن محدد).
لقد طلبوا من الذكاء الاصطناعي إنشاء صور لكل تركيبة. الأمر يشبه طلب وجبة من قائمة تغطي العالم بأكله، لكن مع التحقق مما إذا كان الطباخ يعرف حقًا الفرق بين "كي بي بي" الكوري و"جولوف" النيجيري، أم أنه يقدم فقط كل شيء بـ "أسلوب أمريكي".
٢. الاكتشاف الأول: زر "الوضع الأمريكي الافتراضي"
الاكتشاف: عندما طلب الباحثون من الذكاء الاصطناعي صنع صورة دون تحديد بلد (مثل "حفل زفاف" أو "مزارع")، كان الذكاء الاصطناعي يجعلها تبدو دائمًا وكأنها في الولايات المتحدة.
- التشبيه: تخيل مذيع أخبار عالمي، عندما يُطلب منه الإبلاغ عن "مدينة"، يصف دائمًا مدينة نيويورك، حتى لو كنت تسأل عن طوكيو أو نيروبي. لدى الذكاء الاصطناعي "إعداد افتراضي" منحاز بشدة نحو الثقافة الأمريكية والأساليب الحديثة. وحتى عندما طلبوا أشياء "تقليدية"، جعلها الذكاء الاصطناعي تبدو حديثة وأمريكية في كثير من الأحيان.
٣. الاكتشاف الثاني: "المترجم المعطل" في حلقة التحرير
الاكتشاف: حاول الباحثون بعد ذلك "إصلاح" الصور. أخذوا صورة عامة وأخبروا الذكاء الاصطناعي: "اجعل هذه تبدو كحفل زفاف نيجيري تقليدي". ثم قالوا: "اجعلها أكثر تقليدية"، وفعلوا ذلك خمس مرات متتالية.
- المشكلة: "بطاقة التقييم التلقائية" للذكاء الاصطناعي (برنامج كمبيوتر يتحقق مما إذا كانت الصورة تطابق الكلمات) قالت: "عمل رائع! الصورة تطابق كلماتك تمامًا!"
- الواقع: الخبراء البشريون (أشخاص من تلك البلدان المحددة) نظروا إلى الصور وقالوا: "لا، هذا يبدو سيئًا للغاية. إنها تفقد ثقافتها".
- التشبيه: الأمر يشبه مترجمًا يحاول باستمرار ترجمة قصيدة إلى الإنجليزية. مع كل محاولة، يغير المترجم بعض الكلمات لجعل القواعد "مثالية"، ولكن بحلول المحاولة الخامسة، تكون القصيدة قد فقدت روحها ومعناها وجمالها. يقول الكمبيوتر إن القواعد صحيحة بنسبة ١٠٠٪، لكن البشر يعرفون أن القصيدة قد ماتت.
٤. الاكتشاف الثالث: "التجميل السطحي" مقابل التغيير الحقيقي
الاكتشاف: عندما حاول الذكاء الاصطناعي تغيير صورة من بلد إلى آخر، كان غالبًا ما يقوم فقط بـ "تجميل سطحي".
- التشبيه: تخيل أن لديك صورة لشخص يرتدي بدلة. تطلب من الذكاء الاصطناعي أن يجعله يبدو وكأنه في قرية كينية تقليدية. بدلًا من تغيير ملابسه وخلفيته وأجوائه، يقوم الذكاء الاصطناعي بـ:
١. وضع مرشح (فلتر) أحمر فوق الصورة بأكملها (مثل فلاتر إنستغرام الرخيصة).
٢. إضافة نمط "أفريقي" عام على القميص.
٣. ترك وجه الشخص والخلفية كما هي تمامًا.- النتيجة: يبدو الأمر كأنه "زي تنكري" وليس تحولًا ثقافيًا حقيقيًا. أيضًا، عند تغيير صور لأشخاص غير أمريكيين، كان الذكاء الاصطناعي يحتفظ بلون بشرتهم أو ملامحهم الأصلية، فاشلًا في تكييف الشخص مع الثقافة الجديدة.
٥. "المرآة السحرية" التي تكذب
تسلط الورقة الضوء على مشكلة مخيفة: الأدوات التي نستخدمها لقياس جودة الذكاء الاصطناعي تكذب علينا.
- برامج الكمبيوتر الحالية (المقاييس) تعتقد أن الذكاء الاصطناعي يتحسن لأن الصورة تبدو "أنظف" أو تطابق النص بشكل أوثق.
- لكن الخبراء البشريين يعرفون أن الذكاء الاصطناعي في الواقع يصبح "أسوأ" في التقاط الروح والتفاصيل الحقيقية لثقافة ما.
- التشبيه: إنه مثل ميكانيكي السيارات الذي يخبرك: "محرك سيارتك يعمل بشكل مثالي لأن عداد السرعة يشير إلى ٦٠ ميلًا في الساعة!" لكن السيارة في الواقع تقود نحو الهاوية. عداد السرعة (مقياس الكمبيوتر) يعمل، لكنه يقيس الشيء الخطأ.
لماذا يهم هذا؟
يقول المؤلفون: "لا يمكننا فقط الوثوق بالكمبيوتر ليخبرنا ما إذا كان الذكاء الاصطناعي عادلًا أم لا."
إذا استمررنا في استخدام هذه النماذج دون إصلاحها، فإننا نخاطر بخلق عالم يرى فيه الذكاء الاصطناعي العالم فقط من خلال عدسة أمريكية ضيقة. إنه يسطّح ثقافاتنا الغنية والمتنوعة في أسلوب واحد ممل "افتراضي".
الحل الذي يقترحونه:
١. التوقف عن الاعتماد على "عداد السرعة": نحن بحاجة إلى طرق جديدة لقياس الذكاء الاصطنا_ي تفهم الثقافة فعليًا، وليس فقط الرياضيات.
٢. الفحص البشري: نحن بحاجة إلى أشخاص حقيقيين من ثقافات مختلفة لمراجعة عمل الذكاء الاصطناعي، وليس مجرد أجهزة كمبيوتر.
٣. تدريب أفضل: يحتاج الذكاء الاصطناعي إلى التعلم من "مكتبة" أكثر توازنًا للعالم، وليس فقط من الأجزاء الموجودة على الإنترنت باللغة الإنجليزية أو من الولايات المتحدة.
باختصار، هذه الورقة هي صرخة تنبيه: الذكاء الاصطناعي حاليًا هو سائح يعرف فقط كيف يلتقط صورًا لنفسه، حتى عندما يزور بلدانًا أخرى. نحن بحاجة لتعليمه كيف يرى الأماكن التي يزورها ويحترمها حقًا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.