Bias at the End of the Score
تقدم هذه الورقة تدقيقاً واسع النطاق يكشف أن نماذج المكافأة المستخدمة في توليد الصور من النصوص تدمج بطبيعتها تحيزات ديموغرافية، مما يتسبب في جعل عملية التحسين الموجه بالمكافأة تُضفي طابعاً جنسياً على الإناث بشكل غير متناسب، وتعزز الصور النمطية، وتُقلل من التنوع الديموغرافي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف ناقداً فنياً صارماً جداً وسريعاً جداً ليحكم على آلاف اللوحات. تقول لهذا الناقد: "أريد أفضل فن ممكن". ينظر الناقد إلى اللوحات ويعطيها درجة من 1 إلى 10.
الآن، تخيل أنك تستخدم درجات هذا الناقد لـ تعليم فنان ذكاء اصطناعي كيفية الرسم. في كل مرة يرسم فيها الذكاء الاصطناعي شيئاً يعجب الناقد، يحصل على نجمة ذهبية. وفي كل مرة يرسم فيها شيئاً لا يعجب الناقد، يحصل على علامة (X) حمراء. في النهاية، يتعلم الذكاء الاصطناعي أن يرسم فقط ما يراه الناقد "جيداً".
هذه الورقة البحثية هي تحقيق كبير فيما يحدث عندما نستخدم هؤلاء النقاد من الذكاء الاصطناعي (يُطلق عليهم نماذج المكافأة - Reward Models) لتدريب وتقييم مولدات فن الذكاء الاصطناعي. وجد الباحثون أن هؤلاء النقاد ليسوا حكاماً محايدين للجودة في الواقع؛ بل لديهم تفضيلات خفية ومنحازة تغير الفن بطرق خطيرة وغير عادلة.
إليك تفصيل نتائجهم باستخدام تشبيهات بسيطة:
1. مشكلة "النجمة الذهبية": كيف ينحرف الذكاء الاصطناعي
اختبر الباحثون ما يحدث عندما يترك الذكاء الاصطناعي يحسن لوحاته للحصول على أعلى درجة ممكنة من هؤلاء النقاد.
- تأثير "التعري التدريجي": عندما حاول الذكاء الاصطناعي الحصول على درجة أعلى، بدأ يجعل النساء في الصور يبدون أكثر إثارة جنسية. كان الأمر كما لو أن الناقد يهمس سراً: "أظهري المزيد من الجلد، وسأعطيكِ درجة أفضل".
- النتيجة: بدأ الذكاء الاصطناعي "يعري" الشخصيات النسائية في الصور، محولاً إياها إلى نسخ مفرطة الإثارة، حتى عندما يطلب المستخدم صورة عادية. لم يحصل الرجال في الصور على هذه المعاملة بنفس القدر تقريباً.
- تأثير "التبييض": عندما حاول الذكاء الاصطناعي الحصول على درجة أفضل، بدأ بتغيير عرق الأشخاص في الصور.
- النتيجة: إذا طلبت صورة لـ "طبيب" دون تحديد العرق، سيبدأ الذكاء الاصطناعي غالباً بشخص أسود أو آسيوي، ثم بينما يحاول "تحسين" الصورة، يبدأ بتحويله ببطء إلى شخص أبيض. وكأن الناقد يعتقد أن الطبيب "الجيد" يجب أن يبدو أبيض البشرة.
2. لماذا يحدث هذا؟ (تشبيه "غرفة الصدى")
قد تعتقد: "لكن الناقد يحكم فقط على جودة الصورة، أليس كذلك؟ مثل مدى حدة التركيز أو جمال الألوان".
تقول الورقة البحثية: لا. النقاد يحكمون بناءً على الصور النمطية التي تعلموها من بيانات تدريبهم.
- تشبيه "مسابقة الشعبية": تخيل أن الناقد تم تدريبه عبر سؤال 1000 شخص: "أي من هاتين الصورتين تبدو أفضل؟"
- إذا كان الأشخاص الذين يجيبون على السؤال يفضلون لا شعورياً الوجوه البيضاء أو النساء المثيرات، فإن الناقد يتعلم أن "الأبيض" و"المثير" = "درجة عالية".
- الناقد لا يقيس "الجودة الفنية"؛ بل يقيس "مدى مطابقة هذه الصورة لما يتوقعه المجتمع عادةً".
- فخ "المهنة": وجد الباحثون أنه عندما طلبوا صورة لـ "ممرضة"، أعطى الناقد درجات أعلى للوجوه النسائية. وعندما طلبوا "مدير تنفيذي"، أعطى درجات أعلى للوجوه الرجالية. لم يكن الناقد يحكم على جودة الصورة؛ بل كان يحكم على ما إذا كانت الصورة تطابق الصورة النمطية في العالم الحقيقي لتلك الوظيفة.
3. "الفلتر" الذي يشوه الواقع
توضح الورقة البحثية أن نماذج المكافأة هذه تُستخدم في كل مكان في الذكاء الاصطناعي:
- لتصفية الصور "السيئة" قبل عرضها عليك.
- لتعليم الذكاء الاصطناعي كيف يرسم بشكل أفضل.
- لتقرير أي الصور "آمنة".
لأن هذه النماذج منحازة، فهي تعمل مثل مرآة ملاهي (Funhouse Mirror) لا تعكس إلا نسخة محددة وضيقة من الواقع.
- إذا استخدمتها لتصفية الصور، فلن ترى أبداً مديراً تنفيذياً أسود أو رجلاً مثيراً، لأن "الفلتر" سيحذفهم قبل أن تراهم.
- إذا استخدمتها لتدريب الذكاء الاصطناعي، فسوف ينسى الذكاء الاصطناعي كيفية رسم الأشخاص المتنوعين، وسيعرف فقط كيفية رسم النسخة "النمطية".
الخلاصة الكبرى
يقول المؤلفون: "كنا نظن أن نقاد الذكاء الاصطناعي هؤلاء هم حكام محايدون للجودة، لكنهم في الواقع حراس بوابات منحازون."
إنهم يعززون الصور النمطية الضارة (مثل اعتبار النساء كأدوات للإثارة أو أن أعراقاً معينة أقل كفاءة) ويجعلون عالم الذكاء الاصطناعي أقل تنوعاً. إذا استمررنا في استخدام هؤلاء النقاد المنحازين لتدريب الذكاء الاصطناعي، فنحن لا نبني مستقبلاً أذكى؛ بل نبني مستقبلاً يشبه تماماً أسوأ صورنا النمطية.
الحل؟ نحن بحاجة لبناء نقاد جدد يتم تدريبهم على تجاهل هذه الصور النمطية والحكم على الصور بناءً على الجودة الفعلية، وليس بناءً على مظهر الشخص الموجود في الصورة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.