BioPro: Towards Difference-Aware Gender Fairness for Vision-Language Models
تقترح هذه الورقة BioPro، وهو إطار عمل خالٍ من التدريب يحقق عدالة جندرية مدركة للاختلاف في نماذج الرؤية واللغة عبر تحييد التحيز الجندري انتقائياً في السياقات المحايدة مع الحفاظ على التمايزات الجندرية المشروعة في السيناريوهات الصريحة من خلال الإسقاط المتعامد في فضاء تضمين مضاد للواقع.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً تستطيع فيه الحواسيب النظر إلى صورة وإخبارك بقصة عنها، أو قراءة جملة ورسم لوحة تناسبها. هذا هو المجال المثير لـ نماذج الرؤية واللغة (VLMs)، وهي نوع من الذكاء الاصطناعي الذي يجسّر الفجوة بين ما نراه وما نقرأه. فكر في هذه النماذج كطلاب خارقين قرأوا كل كتاب ونظروا إلى كل صورة على الإنترنت ليتعلموا كيف يعمل العالم. ومع ذلك، تماماً مثل الطالب الذي لا يقرأ سوى الصحف القديمة، قد تكتسب هؤلاء الطلاب من الذكاء الاصطناعي أحياناً صوراً نمطية قديمة أو غير عادلة. على سبيل المثال، قد يفترضون تلقائياً أن الطبيب رجل أو أن الممرضة امرأة، لمجرد أن هذا هو ما رأوه في أغلب بيانات التدريب الخاصة بهم.
السؤال الكبير الذي يطرحه العلماء هو: كيف يمكننا إصلاح هذه العادات غير العادلة دون جعل الذكاء الاصطناعي "أعمى" عن الاختلافات الحقيقية؟ تخيل أنك تحاول تعليم طفل أن يكون عادلاً. إذا قلت له: "لا تذكر الجنس أبداً، مهما حدث"، فقد يفشل في وصف شخص معين بشكل صحيح عندما يكون الجنس أمراً مهماً بالفعل (مثل قصة عن رائدة فضاء). ولكن إذا لم تعلمه على الإطلاق، فقد يخطئ في التخمين عندما لا يكون للجنس أهمية على الإطلاق (مثل وصف صورة ضبابية لشخص ما). التحدي يكمن في إيجاد طريقة لتكون "واعية بالاختلاف" — أي معرفة متى يجب تجاهل الجنس بدقة ليكون عادلاً، ومتى يجب احترام الجنس ليكون دقيقاً.
هنا يأتي دور دراسة جديدة تسمى BioPro. أدرك الباحثون، بقيادة يوجي لين وزملاؤه، أن الأساليب الحالية غالباً ما تحاول "إصلاح" الذكاء الاصطناعي عبر معاملة كل موقف بنفس الطريقة، مما قد يؤدي بالخطأ إلى محو تفاصيل مهمة. بدلاً من ذلك، قاموا ببناء أداة ذكية لا تتطلب تدريباً تعمل كمرشح (فلتر) ذكي. لقد اكتشفوا أن نماذج الذكاء الاصطناعي تخزن المعلومات حول الجنس في "اتجاه" محدد وخفي داخل دماغها (من الناحية الرياضية، يُسمى فضاء فرعي). يقوم BioPro بالعثور على هذا الاتجاه ويدفع أفكار الذكاء الاصطناعي بعيداً عنه بلطف، ولكن فقط عندما يكون الذكاء الاصطناعي غير متأكد من الجنس. أما إذا كان الذكاء الاصطناعي ينظر إلى صورة واضية لرجل أو امرأة، فإن BioPro يترك معلومات الجنس وشأنها.
اختبر الفريق هذه التقنية في مهمتين رئيسيتين: وصف الصور (تعليق الصور) وإنشاء الصور من النصوص (تحويل النص إلى صورة). وفي التجارب، وجدوا أن BioPro نجح في منع الذكاء الاصطناعي من تخمين الجنس عندما لا يكون واضحاً، بينما سمح له أيضاً بوصف أو رسم جنس معين بشكل صحيح عندما طُلب منه ذلك. على سبيل المثال، إذا طلبت "صورة لطبيب"، فسيقوم الذكاء الاصطناعي بإنشاء مزيج متوازن من الرجال والنساء بدلاً من جنس واحد فقط. ولكن إذا طلبت "صورة لطبيبة"، فسيقوم برسم امرأة بأمانة. والأروع من ذلك، أظهر الباحثون أن خدعة "المرشح" هذه تعمل أيضاً مع الأشياء غير البشرية، مثل ضبط سطوع مشهد ما. فإذا كان الذكاء الاصطناً يجعل مشاهد الغابات دائماً ساطعة جداً، يمكن لـ BioPro أن يدفع به لإنشاء غابات أكثر عتمة وكآبة دون إفساد الصورة. تشير الورقة البحثية إلى أن هذا النهج يقدم طريقة واعدة ومرنة لجعل الذكاء الاصطناعي أكثر عدلاً دون فقدان قدرته على قول الحقيقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.