Mitigating Bias in Large Vision-Language Models via Counterfactual Ensemble Decoding

في عالم الذكاء الاصطناعي المتطور بسرعة، ظهر جيل جديد من الأنظمة التي يمكنها الرؤية والتحدث بطلاقة ملحوما. تعمل هذه النماذج الضخمة للرؤية واللغة كجسور بين العالم المرئي واللغة البشرية، وهي قادرة على الإجابة عن أسئلة حول الصور أو وصف المشاهد بالتففصيل. لقد تم تدريبها على مجموعات هائلة من الصور والنصوص من الإنترنت، حيث تتعلم التنبؤ بالكلمات التي يجب أن تتبع الصورة. ومع ذلك، ولأنها تتعلم من البيانات البشرية، فإنها ترث أيضاً العيوب البشرية. فتماماً كما يمكن للبشر أن يحملوا تحيزات غير واعية، غالباً ما تستوعب هذه الآلات الصور النمطية المجتمعية، وتتعلم ربط وظائف أو سمات أو عواطف معينة بجنس أو عرق محدد. فعندما يرى النموذج صورة لامرأة، قد يخمن تلقائياً أنها ممرضة وليست طبيبة، أو عندما يرى رجلاً، قد يفترض أنه مدير تنفيذي. هذا ليس مجرد خلل تقني؛ بل هو انعكاس لعدم المساواة في العالم الحقيقي الذي يمكن أن يعزز التحيزات الضارة ويقوض الثقة في التكنولوجيا.

لقد حاول الباحثون طويلاً إصلاح ذلك عن طريق إعادة تدريب النماذج على بيانات أكثر نقاءً أو عبر إضافة تعليمات خاصة لإخبار الآلة بأن تكون عادلة. ومع ذلك، غالباً ما تكون هذه الأساليب مكلفة، أو صعبة التوسع، أو تعتمد على تعريف واحد جامد لما يبدو عليه "العدل". يقترح بحث جديد نهجاً مختلفاً، نهجاً لا يحاول مسح معرفة النموذج، بل يدعوه بدلاً من ذلك إلى النظر في وجهات نظر متعددة في آن واحد. طور الباحثون، بقيادة ييسونغ شياو وزملاؤه في جامعة بهانغ، تقنية تسمى "فك التشفير بالتجميع المضاد للواقع" (Counterfactual Ensemble Decoding). فبدلاً من مطالبة النموذج ببساطة بالتوقف عن التحيز، نطلب منه تخيل المشهد نفسه من منظور مجموعات اجتماعية مختلفة في وقت واحد. ومن خلال دمج هذه المنظورات المتنوعة أثناء لحظة اختيار الآلة للكلمة التالية، يمكن للنظام التحرر من هيمنة السردية النمطية الواحدة.

يكمن جوهر هذه الطريقة في فكرة بسيطة ولكنها قوية: التنوع يعزز العدالة. في العالم الحقيقي، إذا كانت الغرفة مليئة بأشخاص من خلفيات متنوعة، فمن غير المرجح أن يهيمن منظور واحد ضيق على المحادثة. طبق الباحثون هذا المبدأ على العقل الرقمي للذكاء الاصطناعي. فعندما ينظر النموذج إلى صورة، مثل صورة شخص يرتدي بدلة عمل، فإنه عادة ما يولد تدفقاً واحداً من الأفكار بناءً على تدريبه. يتدخل النظام الجديد في هذه اللحظة الحرجة عن طريق إنشاء نسخ "مضادة للواقع" للتمثيل الداخلي للصورة. هذه ليست صوراً فوتوغرافية جديدة؛ بل هي تعديلات رياضية لكيفية رؤية الكمبيوتر للصورة، حيث تنقل التركيز لتخيل الشخص كأنه ينتمي إلى جنس أو عرق مختلف مع إبقاء بقية المشهد كما هو تماماً. وهذا يسمح للنموذج بتوليد مجموعة موازية من التوقعات: واحدة للصورة الأصلية، وأخرى لما قد توحي به الصورة إذا كان الشخص من مجموعة اجتماعية مختلفة.

بمجرد توليد هذه المنظورات المتعددة، يواجه النظام تحدياً: كيف يجمع بينها دون إضعاف قدرة النموذج على الدقة. وجد الباحثون أن الصراع بين وجهات النظر المختلفة هذه ليس موحداً طوال عملية معالجة النموذج. فبعض الطبقات في الشبكة العصبية، والتي تعمل مثل مستويات عميقة من التفكير، تظهر أقوى درجات الخلاف بين الرؤية الأصلية والرؤات المضادة للواقع. يحدد النظام هذه الطبقات المحددة حيث يكون التوتر في أعلى مستوياته. وعند نقطة التباين القصوى هذه، يقوم النهج بدمج التوقعات بعناية. فهو لا يكتفي بمجرد متوسط حسابي لها؛ بل يزن الخيارات بناءً على الثقة. فإذا كان النموذج متأكداً جداً من كلمة في منظور واحد وغير متأكد في منظور آخر، فإن النظام يعطي الأولوية للخيار الواثق. وهذا يضمن أن المخرج النهائي ليس حلاً وسطاً ضبابياً، بل قراراً متوازناً يحترم رؤى جميع وجهات النظر المختلفة التي نظر فيها.

تم اختبار نتائج هذا النهج عبر عدة اختبارات مرجعية صارمة مصممة لقياس التحيز في المهن والأوصاف والسمات الشخصية. وفي اختبار يتعلق بالتحيز الجنسي في المسميات الوظيفية، قلل الأسلوب الجديد التحيز بمتوسط 61.21 بالمائة، وهو تحسن كبير مقارنة بالتقنيات السابقة. وفي الاختبارات التي تقيس الصور النمطية العرقية، انخفض التحيز بنسبة تقارب 48 بالمائة. على سبيل المثال، عند وصف رئيسة تنفيذية، قد تميل الأساليب القديمة نحو صفات نمطية مثل "جذابة"، بينما نجح هذا النظام الجديد في توجيه الوصف نحو مصطلحات مهنية محايدة مثل "كفؤة". والأهم من ذلك، وجد الباحثون أن هذه العدالة لم تأتِ على حساب الذكاء. فقد احتفظ النموذج بقدرته على الإجابة عن الأسئلة العامة وحل المشكلات المعقدة، مع انخفاض طفيف، وغالباً ما يكون ضئيلاً، في الأداء العام. في الواقع، في بعض اختبارات الاستدلال، كان أداء النموذج الذي تمت إزالة التحيز منه أفضل قليلاً مما كان عليه من قبل، مما يشير إلى أن إزالة ضجيج الصور النمطية قد يساعد النموذج في الواقع على التركيز بشكل أوضح على الحقائق.

يُظهر هذا العمل أن العدالة في الذكاء الاصطناعي لا تتطلب التخلص من معرفة النموذج أو البدء من الصفر. فمن خلال إدخال آلية تجبر النظام على حمل وجهات نظر متعددة في ذهنه في آن واحد، أظهر الباحثون أن الآلة يمكنها تعلم التنقل في تعقيدات المجتمع البشري دون العودة إلى عاداتها الأكثر تجذراً. تعمل هذه الطريقة من خلال إيجاد اللحظة الدقيقة التي يكون فيها المنطق الداخلي للنموذج في حالة صراع أكبر، وحل ذلك الصراع من خلال مزيج موزون من الآراء المتنوعة. وبينما تتطلب هذه التقنية حالياً الوصول إلى الآليات الداخلية للنموذج، مما يحد من استخدامها للباحثين والمطورين بدلاً من المستخدمين النهائيين، إلا أنها تقدم مساراً واعداً للمضي قدماً. إنها تشير إلى أن مستقبل الذكاء الاصطناዊ الأخلاقي قد لا يكمن في القواعد الصارمة أو البيانات الأكثر نقاءً وحدها، بل في تعليم هذه الأنظمة التفكير بعدسة أكثر اتساعاً وشمولاً.