The Algorithmic Gaze of Image Quality Assessment: An Audit and Trace Ethnography of the LAION-Aesthetics Predictor
تُدقق هذه الورقة في "متنبئ لايون للجماليات" (LAION-Aesthetics Predictor) لتكشف كيف تعزز نظرته الخوارزمية الانحيازات الغربية والذكورية والإمبريالية من خلال تصفية المحتوى بشكل غير متناسب وإعطاء الأولوية لجماليات ثقافية محددة، داعيةً في نهاية المطاف إلى التحول نحو أساليب تقييم تعددية في تطوير الذكاء الاصطناعي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف ناقداً فنياً صارماً للغاية وقوياً جداً لمساعدتك في بناء متحف ضخم. هذا الناقد لا يكتفي بمجرد النظر إلى اللوحات؛ بل هو من يقرر أي اللوحات يُسمح لها بدخول المتحف، وأيها يُلقى في القمامة، وأيها يحصل على النجوم الذهبية.
هذه الورقة البحثية تبحث في من هو هذا الناقد، وماذا يحب حقاً، ولماذا يحب ذلك. "الناقد" في هذه القصة هو أداة ذكاء اصطناعي تسمى متنبئ جماليات لايون (LAION-Aesthetics Predictor - LAP). وهي قطعة من البرمجيات يستخدمها مبتكرون أدوات توليد صور الذكاء الاصطناعي الشهيرة (مثل Stable Diffusion) لتقرر ما إذا كانت الصور "جيدة" أم "سيئة".
إليك قصة الورقة البحثية، مقسمة ببساطة:
1. المشكلة: المقاس الواحد لا يناسب الجميع
بدأ المؤلفون بسؤال كبير: من هو الذوق الذي يستخدمه هذا الذكاء الاصطناعي؟
الفن مسأه أمر ذاتي. ما يجده شخص ما جميلاً، قد يجده آخر مملاً. لكن نماذج الذكاء الاصطناعي تحتاج إلى قاعدة واحدة عالمية لتقرير ما هو "عالي الجودة". يعمل نموذج (LAP) كقاعدة لهذا الكتاب. اشتبه المؤلفون في أن كتاب القواعد هذا لم يكن محايداً في الواقع؛ بل كان على الأرج old منحازاً لنوع معين من الأشخاص ونوع معين من الفن.
2. التحقيق: "التدقيق"
عمل الباحثون كالمحققين. قاموا بتشغيل نموذج (LAP) على ملايين الصور ليروا ما الذي احتفظ به وما الذي استبعده. استخدموا ثلاث "حالات اختبار" مختلفة:
- اختبار البيانات الضخمة (مجموعة بيانات جماليات LAION): نظروا في 1.2 مليار صورة قام الذكاء الاصطناعي بتصفيتها بالفعل.
- الاكتشاف: كان الذكاء الاصطناعي مثل حارس ملهى يحب السماح بدخول صور النساء ولكنه يبقي الرجال وأفراد مجتمع الميم (LGBTQ+) في الخارج. كما أحب الصور التي تذكر المسيحيين أو الهندوس، لكنه استبعد اليهود والمسلمين.
- اختبار المتحف (متحف المتروبوليتان للفنون): غدّوا النموذج بصور من متحف المتروبوليتان الشهير للفنون.
- الاكتشاف: أعطى الذكاء الاصطناعي درجات عالية فقط للفن الغربي والياباني (مثل المناظر الطبيعية والبورتريهات الواقعية). بينما أعطى درجات تقترب من الصفر للفن الأفريقي، وفن السكان الأصليين، والفن الإسلامي، أو المصري. كان الأمر وكأن الذكاء الاصطناعي يعتقد: "إذا لم تكن لوحة واقعية من أوروبا أو اليابان، فهي ليست فناً".
- اختبار الأسلوب (WikiArt): نظروا في أساليب فنية مختلفة.
- الاكتشاف: أحب الذكاء الاصطناعي الواقعية. أعطى درجات عالية للصور الفوتوغرافية واللوحات التي تبدو تماماً مثل الحياة الواقعية. وكره الفن التجريدي، والتكعيبية، أو أي شيء غريب وسريالي. كان مثل ناقد لا يحب سوى الصور الشخصية الواقعية ويعتقد أن بيكاسو مجرد مزحة.
3. قصة الأصل: "الإثنوغرافيا التتبعية"
سأل الباحثون: لماذا هذا الذكاء الاصطناعي منحاز؟ لمعرفة ذلك، لم ينظروا فقط إلى الكود البرمجي؛ بل نظروا إلى الأشخاص الذين صنعوه. وهذا ما يسمى "الإثنوغرافيا التتبعية" — أي البحث في آثار الخطوات الرقمية لكيفية بناء هذه الأداة.
وجدوا أن نموذج (LAP) تم بناؤه بواسطة رجل واحد (مؤسس LAION) بناءً على ذوقه الشخصي والبيانات التي استطاع العثور عليها بسهولة.
- البيانات: جاءت بيانات التدريب في الغالب من مصورين يتحدثون الإنجليزية من موقع يسمى dpchallenge ومن مجموعة من عشاق التكنولوجيا الغربيين على تطبيق ديسكورد (Discord).
- النتيجة: لم يكن الذكاء الاصطناعي يتعلم "الجمال العالمي"، بل كان يتعلم ما الذي يراه مجموعة معينة من الرجال الغربيين المتحدثين بالإنجليزية والمهتمين بالتكنولوجيا جميلاً.
- الخلل: خلط المبتكر أنواعاً مختلفة من التقييمات. لقد أخذ تقييمات من مسابقات التصوير الفوتوغرافي (حيث تُقيم الصورة مقابل غيرها في نفس الفئة) وخلطها مع تقييمات من بوتات فن الذكاء الاصطناعي (حيث تقوم فقط بتقييم الصورة من 1 إلى 10). إنه يشبه خلط درجة من مسابقة "أفضل منظر طبيعي" مع درجة من مسابقة "أفضل لوحة تجريدية" وتسمية ذلك "درجة فنية موحدة".
4. "النظرات" الثلاث
يصف المؤلفون انحياز الذكاء الاصطناعي باستخدام ثلاث استعارات قوية:
- النظرة الإمبريالية: يعمل الذكاء الاصطناعي كحاكم استعماري. فهو يقرر أن الفن الغربي والياباني هو "المعيار" للجمال ويتجاهل كل شيء آخر (الفن الأفريقي، وفن السكان الأصليين، والشرق أوسطي). إنه يعزز فكرة أن الثقافة الغربية هي الثقافة الوحيدة المهمة.
- النظرة الواقعية: مهووس بالشيء الذي يبدو "حقيقياً". فهو يرفض الفن الحديث، والأفكار التجريدية، والسريالية. هذا أمر خطير لأنه يحد من الإبداع في الذكاء الاصطناعي. إذا تعلم الذكاء الاصطناعي فقط صنع أشياء "واقعية"، فلن يتمكن من مساعدة الفنانين في ابتكار روائع غريبة أو حالمة أو تجريدية.
- نظرة الذكور: يبدو أن الذكاء الاصطناعي يرى العالم من خلال عيون رجل مغاير. فهو يحب صور النساء (غالباً بطريقة تسليعية/شيئية) ولكنه يتجاهل الرجال وأفراد مجتمع الميم. هذه مشكلة كبيرة لأنها تعني أن مولدات فن الذكاء الاصطناعي أكثر عرضة لإنشاء صور للنساء، مما قد يؤدي إلى المزيد من التزييف العميق والصور الجنسية غير الرضائية، مع تجاهل الهويات الأخرى.
5. الخلاصة الكبرى
تجادل الورقة البحثية بأننا بحاجة إلى التوقف عن محاولة إيجاد تعريف واحد "مثالي" للجمال بالنسبة للذكاء الاصطناعي.
- لا تدّعوا وجود طريقة واحدة "أفضل" لرؤية الفن. لا يوجد كذلك.
- كونوا صادقين بشأن ما يفعله الذكاء الاصطناعي. بدلاً من قول "هذا الذكاء الاصطناعي رائع في الحكم على الجودة"، يجب أن نقول "هذا الذكاء الاصطناعي رائع في الحكم على المناظر الطبيعية الغربية الواقعية".
- نوّعوا النقاد. نحن بحاجة إلى بناء أنظمة ذكاء اصطناعي تفهم ثقافات وأساليب متنوعة، وليس فقط ذوق مجموعة واحدة من الناس.
باخت-اختصار: تكشف الورقة أن "القاضي" الذي يقرر شكل فن الذكاء الاصطناعي هو في الواقع مجرد مرآة تعكس انحيازات عدد قليل من الرجال الغربيين. إذا أردنا للذكاء الاصطناعي أن يبدع فناً للجميع، فنحن بحاجة إلى كسر تلك المرآة والسماح للمزيد من الأصوات بالدخول.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.