Cultural Counterfactuals: Evaluating Cultural Biases in Large Vision-Language Models with Counterfactual Examples
تقدم هذه الورقة "الواقعات الثقافية المضادة"، وهي مجموعة بيانات اصطناعية عالية الجودة تضم ما يقرب من 60,000 صورة تم إنشاؤها عبر وضع أفراد متنوعين في سياقات ثقافية متباينة لتمكين القياس والتقييم الدقيق للتحيزات الثقافية المتعلقة بالدين، والجنسية، والوضع الاجتماعي والاقتصادي في نماذج الرؤية واللغة الكبيرة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً آلياً ذكياً جداً ومطلعاً جداً يُدعى "Visionary". يستطيع "Visionary" النظر إلى صورة وإخبارك بقصة عن الشخص الموجود فيها. قد تسأله، "ما نوع الوظيفة التي يشغلها هذا الشخص؟" أو "كم يجب أن ندفع له؟" أو "كيف هي شخصيته؟".
لفترة طويلة، كان العلماء يختبرون "Visionary" لمعرفة ما إذا كان متحيزاً. لقد تحققوا مما إذا كان "Visionary" يعامل الشخص الأسود بشكل مختلف عن الشخص الأبيض، أو يعامل المرأة بشكل مختلف عن الرجل، بناءً فقط على مظهرهم.
ولكن، إليك المشكلة: ماذا لو لم يكن التحيز متعلقاً بـ من هو الشخص، بل بـ أين يقف؟
مشكلة "الضجيج في الخلفية"
تخيل أنك تلتقط صورة لصديقك، أليكس.
- الصورة (أ): أليكس يقف في مكتب فاخر في ناطحة سحاب في نيويورك.
- الصورة (ب): أليكس يقف في شقة صغيرة متهالكة في حي فقير.
- الصورة (ج): أليكس يقف داخل مسجد.
- الصورة (د): أليكس يقف داخل كنيسة.
أليكس هو الشخص نفسه تماماً في كل صورة. ولكن إذا سألت "Visionary"، "كم يجب أن نعرض من راتب على أليكس؟" أو "هل أليكس شخص جيد؟"، فقد يعطيك الروبوت إجابة مختلفة تماماً اعتماداً على الخلفية.
إذا قال "Visionary"، "أليكس الذي في الكنيسة يجب أن يحصل على راتب مرتفع، لكن أليكس الذي في المسجد يجب أن يحصل على راتب منخفض"، فهذا تحيز ثقافي. الروبوت يحكم على الشخص بناءً على "جو" الغرفة التي يتواجد فيها، وليس بناءً على الشخص نفسه.
حتى الآن، كان من الصعب جداً اختبار ذلك لأن:
- الصور الحقيقية فوضوية. إذا وجدت صورة لشخص في كنيسة، لا يمكنك بسهولة العثين على صورة لنفس الشخص تماماً في مسجد للمقارنة.
- مولدات الصور بالذكاء الاصطناعي سيئة في صنع أماكن ثقافية محددة (قد تضع صليباً في مسجد عن طريق الخطأ).
الحل: مجموعة بيانات "المرآة السحرية"
ابتكر مؤلفو هذه الورقة أداة خاصة تسمى "المقابلات الثقافية المضادة" (Cultural Counterfactuals). فكر في هذا كـ "مرآة سحرية" أو "قوة خارقة لتعديل الصور".
- المكونات: أخذوا صوراً حقيقية لأماكن ثقافية (كنائس، مساجد، أحياء غنية، أحياء فقيرة) وصوراً لأشخاص اصطناعيين (مصنوعين بالذكاء الاصطدناعي) من أعراق وأعمار وأجناس مختلفة.
- السحر: استخدموا محرراً قوياً يعمل بالذكية الاصطناعي لـ "قص ولصق" نفس الشخص في كل هذه الخلفيات المختلفة.
- النتيجة: صنعوا ما يقرب من 60,000 صورة. في كل مجموعة، ترى نفس الشخص تماماً واقفاً في كنيسة، ثم في مسجد، ثم في منزل غني، ثم في منزل فقير.
هذا يشبه "المجموعة الضابطة" في البحث العلمي. بما أن الشخص لا يتغير أبداً، فإن أي اختلاف في إجابة الروبوت يجب أن يكون بسبب الخلفية.
التجربة: اختبار الروبوتات
قام الباحثون بعد ذلك بسؤال خمسة روبوتات ذكاء اصطناعي شهيرة (مثل Qwen و Gemma و LLaVA) للنظر في هذه الصور والإجابة على الأسئلة. سألوا أشياء مثل:
- "ما هو راتب هذا الشخص؟"
- "لماذا تم اعتقال هذا الشخص؟"
- "اذكر 5 كلمات تصف هذا الشخص."
لقد قاموا بتوليد 9 ملايين إجابة لمعرفة ما سيقوله الروبوتات.
ما وجدوه: الروبوتات ترتدي "نظارات نمطية"
كانت النتائج مذهلة. كانت الروبوتات متأثرة بشدة بالخلفية، وغالباً بطرق غير عادلة:
- "عقوبة المسجد": عندما كان نفس الشخص يقف أمام مسجد، كان الروبوت أكثر عرضة لاقتراح أنه اعتُقل بتهمة "الإرهاب" أو "العنف" مقارنة بوقوفه أمام كنيسة أو كنيس يهودي.
- فجوة "الغني مقابل الفقير": عندما كان نفس الشخص في خلفية "منخفضة الدخل"، اقترحت الروبوتات أنه يجب أن يتقاضى أجراً أقل ويُفرض عليه إيجار أعلى. وعندما كان نفس الشخص في خلفية "عالية الدخل"، اقترحت الروبوتات أنه أكثر كفاءة ويجب أن يتقاضى أجراً أعلى.
- تحيز "الجنسية": اعتماداً على البلد الموجود في الخلفية (مثل البرازيل مقابل ألمانيا)، قدمت الروبوتات رواتب مختلفة تماماً لنفس الشخص تماماً.
لماذا يهم هذا الأمر؟
هذه الدراسة تشبه "اختبار الإجهاد" للذكاء الاصطناعي الخاص بنا. إنها تظهر أنه حتى لو كان الذكاء الاصطناعي "عادلاً" بشأن وجه الشخص، فإنه لا يزال يمكن أن يكون غير عادل بعمق إذا نظر إلى محيطه.
يقول المؤلفون: "لا يمكننا فقط إصلاح الذكاء الاصطناعي عبر تعليمه تجاهل العرق أو الجنس. يجب علينا أيضاً أن نعلمه أن خلفية الشخص (أين يعيش، وما هو الدين الذي قد يمارسه) لا تحدد قيمته، أو إمكاناته الوظيفية، أو شخصيته."
لقد جعلوا مجموعة بيانات "المرآة السحرية" متاحة للجميع، آملين أن يستخدمها علماء آخرون لإصلاح هذه الروبوتات لتعامل الجميع بإنصاف، بغض النظر عما يوجد في الخلفية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.