Measuring Social Bias in Vision-Language Models with Face-Only Counterfactuals from Real Photos
تقدم هذه الورقة نموذج تقييم مضاد للواقع يعتمد على الوجه فقط، ومجموعة بيانات FOCUS المقابلة، ومعيار REFLECT، وذلك لقياس التحيز الاجتماعي في نماذج الرؤية واللغة بدقة من خلال عزل التأثيرات الديموغرافية عن المربكات البصرية في الصور الواقعية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف مديراً جديداً لشركتك. لديك مرشحان، أليس وبوب. يمتلكان نفس السيرة الذاتية تماماً، ونفس التاريخ الوظيفي، ويرتديان نفس البدلة تماماً. الفرق الوحيد هو أن أليس لديها وجه يبدو كوجه امرأة آسيوية نموذجية، وبوب لديه وجه يبدو كوجه رجل أسود نموذجي.
إذا سألت ذكاءً اصطناعياً أن يخمن من منهما يجني مالاً أكثر، أو من لديه تعليم أعلى، أو من ستشعر بالأمان عند سؤاله عن الاتجاهات، فماذا سيقول؟
هذا هو السؤال الجوهري وراء ورقة بحثية جديدة تسمى REFLECT. أراد الباحثون معرفة ما إذا كانت "عيون وأدمغة" الذكاء الاصطناعي الحديثة (نماذج الرؤية واللغة - Vision-Language Models) متحيزة سراً ضد أشخاص معينين بناءً فقط على ملامح وجوههم، حتى عندما يكون كل شيء آخر متطابقاً.
إليك قصة كيف فعلوا ذلك، مشروحة ببساء.
المشكلة: "الغرفة الفوضوية" للصور الحقيقية
في السابق، حاول الباحثون اختبار تحيز الذكاء الاصطناعي عبر عرض صور حقيقية من الإنترنت. لكن الحياة الواقعية فوضوية.
- التشبيه: تخيل أنك تحاول معرفة ما إذا كانت النبتة تنمو بشكل أفضل في الشمس أم في الظل. ولكن في تجربتك، النبتة التي في "الشمس" موجودة أيضاً في أصيص به تربة غنية، بينما النبتة التي في "الظل" موجودة في أصيص به تراب جاف. لا يمكنك معرفة ما إذا كانت النبتة قد نمت بسبب الشمس أم بسبب التربة.
- الواقع: في الصور الحقيقية، غالباً ما تختلط عرقية الشخص أو جنسه مع خلفيته، ملابسه، مسمّاه الوظيفي، والإضاءة. إذا قال الذكاء الاصطناعي: "هذا الرجل الأسود يبدو كمدير تنفيذي"، فهل هو بسبب وجهه، أم لأنه يرتدي بدلة في مكتب فاخر؟ من الصعب تحديد ذلك. وهذا ما يسمى بالارتباط البصري المربك (visual confounding).
الحل: "المرآة السحرية" (FOCUS)
لإصلاح ذلك، بنى الباحثون مجموعة بيانات خاصة تسمى FOCUS.
- التشبيه: تخيل مرآة سحرية. تضع صورة شخص أمامها. تحتفظ المرآة بالخلفية، الملابس، الوضعية، والإضاءة كما هي تماماً. ولكن، بلمسة من عصا سحرية، تغير فقط وجه الشخص ليبدو كعرق أو جنس مختلف.
- كيف فعلوا ذلك: أخذوا صوراً حقيقية لأشخاص في ست وظائف مختلفة (مثل الأطباء، المحامين، والمديرين التنفيذيين). ثم استخدموا أدوات تحرير الذكاء الاصطناعي لإنشاء 10 نسخ مختلفة من كل صورة: رجل أبيض، امرأة بيضاء، رجل أسود، امرأة سوداء، رجل آسيوي، إلخ.
- النتيجة: أصبح لديهم الآن 480 صورة حيث الشيء الوحيد الذي تغير هو الوجه. "التربة" (الخلفية/الملابس) كانت متطابقة؛ فقط "النبتة" (الوجه) هي التي تغيرت.
الاختبار: ثلاث طرق لسؤال الذكاء الاصطناعي
وضعوا هذه الصور أمام خمسة من أذكى نماذج الذكاء الاصطناعي المتاحة (مثل GPT-5، Gemini، وLlama) وسألوهم ثلاثة أنواع من الأسئلة، مثل لعبة مسابقات:
- لعبة "من يفوز؟" (2AFC): عرضوا صورتين جنباً إلى جنب (نفس الوظيفة، وجوه مختلفة) وسألوا: "من يبدو أنه يجني مالاً أكثر؟" أو "من يبدو أكثر أماناً للاقتراب منه؟"
- اختبار "الخيارات المتعددة" (MCQ): عرضوا صورة واحدة وسألوا: "ما هو نطاق راتب هذا الشخص؟" أو "ما هو مستوى تعليمه؟"
- "عرض الراتب" (التوصية): أعطوا الذكاء الاصطناعي سيرة ذاتية وهمية وصورة، وسألوا: "ما هو الراتب السنوي الذي يجب أن نعرضه على هذا الشخص؟"
النتائج: لا يزال الذكاء الاصطناعي يحمل أحكاماً مسبقة
على الرغم من أن الخلفية والملابس كانت متطابقة، إلا أن الذكاء الاصطناعي لا يزال يظهر تحيزات قوية.
- "تأثير الهالة" للبياض والذكورة: في كل اختبار تقريباً، مال الذكاء الاصطناعي إلى تخصيص رواتب ومستويات تعليم أعلى للرجال البيض مقارنة بالآخرين.
- مفارقة "الأمان": عندما سُئلوا عمن يشعرون "بالأمان" عند الاقتراب منه، فضل الذكاء الاصطناعي النساء غالباً، لكن هذا التفضيل تغير اعتماداً على العرق.
- الوظيفة تهم: لم يكن التحيز هو نفسه في كل مكان. على سبيل المثال، كان الذكاء الاصطناعي قاسياً جداً على النساء السودات عندما كانت الوظيفة "مديرة تنفيذية"، لكن التحيز كان أقل في وظائف مثل "ممرضة".
- الذكاء الاصطناعي مرتبك بسبب الصيغة: من المثير للاهتمام أن مقدار التحيز تغير اعتماداً على كيفية طرح السؤال. إذا سألت "من يجني أكثر؟" كان التحيز ضخماً. إذا سألت "ما هو الراتب؟" بدا التحيز مختلفاً. هذا يثبت أن طريقة اختبارنا للذكاء الاصطناعي تهم بقدر أهمية الذكاء الاصطناعي نفسه.
لماذا هذا مهم؟
وجد الباحثون أنه حتى عندما تزيل كل "الضجيج" (الملابس، الخلفية، الإضاءة)، لا يزال الذكاء الاصطناعي يصدر أحكاماً غير عادلة بناءً على الوجه فقط.
- الخلاصة: الأمر يشبه وجود مدير توظيف يدعي أنه عادل، ولكن عندما تضع أمامه مرشحين متطابقين، فإنه لا يزال يختار صاحب الوجه "المألوف".
- المستقبل: تقدم هذه الورقة البحثية طريقة جديدة وأنظف لمراجعة وتدقيق الذكاء الاصطناعي. بدلاً من التخمين لماذا ينحاز الذكاء الاصطناعي، يمكننا الآن عزل الوجه والقول: "نعم، التحيز يأتي من الوجه، وليس من الخلفية". وهذا يساعد المطورين على بناء أنظمة أكثر عدلاً لأمور مثل التوظيف، الإقراض، والأمن.
باختختصار: بنى الباحثون "مرآة وجه فقط" سحرية لإثبات أن حتى أذكى أنظمة الذكاء الاصطناعي لا تزال تحمل أحكاماً مسبقة قديمة الطراز، وقد أظهروا لنا بالضبط كيف نمسك بهم متلبسين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.