Investigating Disability Representations in Text-to-Image Models
تتقصى هذه الدراسة التمثيل غير المستكشف كفايةً للإعاقة في نماذج تحويل النص إلى صورة مثل "Stable Diffusion XL" و"DALL-E 3"، كاشفةً عن اختلالات مستمرة وقضايا في التأطير العاطفي تسلط الضوء على الحاجة الملحة للتقييم والتحسين المستمرين لتعزيز تصويرات أكثر شمولاً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك فناناً سحرياً وذكياً للغاية يُدعى "الذكاء الاصطناعي". يمكنك أن تقول لهذا الفنان: "ارسم لي صورة لشخص من ذوي الإعاقة"، وسيقوم فوراً بإنشاء صورة. يبدو هذا رائعاً، أليس كذلك؟ ولكن ماذا لو كان هذا الفنان قد رأى فقط مجموعة محددة وضيقة جداً من الصور في مكتبة تدريبه؟ ماذا لو اعتقد أن جميع الإعاقات تبدو متشابهة؟
هذه الورقة البحثية تشبه قصة بوليسية حيث يحقق الباحثون (يانغ، يو، ليودميلا، وسارة) في اثنين من أشهر فناني الذكاء الاصطناعي: Stable Diffusion XL (SDXL) و DALL·E 3. يريدون معرفة: كيف يرى هؤلاء الفنانون من الذكاء الاصطناعي الأشخاص من ذوي الإعاقة؟
إليك تفاصيل تحقيقهم، مشروحة ببساطة:
1. مشكلة "الإعداد الافتراضي" (التجربة 1)
سأل الباحثون فناني الذكاء الاصطناعي سؤالاً بسيطاً: "ارسم صورة لشخص من ذوي الإعاقة". لم يحددوا نوعاً معيناً من الإعاقة. أرادوا معرفة ما هو "الإعداد الافتراضي" للذكاء الاصطناعي.
- التشبيه: تخيل أنك طلبت من طباخ أن "يصنع سلطة فواكه". إذا كان الطباخ لا يرى سوى صور التفاح والبرتقال، فقد يقدم لك وعاءً من التفاح والبرتقال فقط، حتى لو كنت تريد الموز أو التوت.
- النتائج: رسم كلا الفنانين من الذكاء الاصطناعي في الغالب أشخاصاً في كراسي متحركة (إعاقات حركية). لقد تجاهلوا تماماً أنواعاً أخرى من الإعاقات، مثل المكفوفين أو الصم.
- الاختلاف:
- SDXL كان عنيداً جداً. كان مثل طباخ لا يعرف سوى كيفية صنع سلطة التفاح. إذا طلبت منه إعاقة، كان يعطيك مستخدماً لكرسي متحرك، في كل مرة.
- DALL·E 3 كان أكثر مرونة قليلاً. لا يزال يفضل الكراسي المتحركة، لكنه حاول أحياناً رسم شخص كفيف أو شخص أصم. كان أقل "تمسكاً" بصورة واحدة، لكنه كان لا يزال يمتلك انحيازاً قوياً نحو الكراسي المتحركة.
الخلاصة: عندما يطلب الناس من الذكاء الاصطناعي صورة عامة لشخص من ذوي الإعاقة، يلجأ الذكاء الاصطناعي إلى مستخدم الكرسي المتحرك كوضع افتراضي، مما يمحو تنوع مجتمع الإعاقة.
2. مشكلة "خاتم المزاج" (التجربة 2)
بعد ذلك، أراد الباحثون معرفة كيف يصور الذكاء الاصطناعي حالات الصحة النفسية (مثل الاكتئاب، القلق، أو الاضطراب ثنائي القطب) مقارنة بالإعاقات الجسدية. كما أرادوا معرف فإذا كانت "قواعد السلامة" (استراتيجيات التخفيف) لدى الذكاء الاصطناعي تغير مزاج الصور.
التشبيه: فكر في الذكاء الاصطناعي كمخرج أفلام.
- SDXL هو مخرج يستخدم شريط فيلم قديماً وغير محرر. إنه يعرض فقط ما يراه.
- DALL·E 3 هو مخرج لديه "فريق سلامة" صارم يراجع السيناريو للتأكد من عدم حدوث أي شيء مسيء.
النتائج حول الصحة النفسية:
- رؤية الروبوت (التحليل الآلي): نظر برنامج كمبيوتر إلى الصور وقال: "صور SDXL تبدو حزينة ومظلمة جداً. صور DALL·E 3 تبدو أكثر سعادة قليلاً".
- رؤية البشر (أشخاص حقيقيون): نظر بشر حقيقيون إلى الصور وقالوا: "مهلاً، في الواقع، صور DALL·E 3 تبدو أكثر حزناً وعزلة!".
- لماذا هذا الاختلاف؟ الروبوت نظر فقط إلى الوجوه. إذا لم يكن الوجه يبكي، اعتبر الروبوت الصورة محايدة. لكن البشر نظروا إلى المشهد بأكمله. غالباً ما وضع DALL·E 3 الأشخاص الذين يعانون من مشاكل نفسية في غرف مظلمة وفارغة وموحشة. أما SDXL فقد رسم أشخاصاً دون الكثير من السياق. شعر البشر بـ جو الوحدة في فن DALL·E 3، حتى لو كانت الوجوه محايدة.
النتائج حول الصحة النفسية مقابل الجسدية:
- عامل كلا الفنانين من الذكاء الاصطناعي الصحة النفسية بشكل أسوأ بكثير من الإعاقات الجسدية.
- عندما طُلب منه رسم شخص كفيف، جعلوه يبدو سعيداً ونشيطاً تحت ضوء الشمس الساطع.
- عندما طُلب منه رسم شخص يعاني من القلق، جعلوه يبدو حزيناً، معزولاً، وفي الظلام.
- المفارقة: DALL·E 3، الذي كان من المفترض أن يكون الذكاء الاصطناعي "الأكثر أماناً" و"أكثر شمولاً"، جعل الصور النمطية للصحة النفسية أقوى عبر وضع تلك الشخصيات في بيئات كئيبة ودرامية. لقد حاول أن يكون متنوعاً، ولكن في القيام بذلك، عزز دون قصد فكرة أن المرض النفسي يساوي "الحزن والوحدة".
3. الدرس الكبير
وجد الباحثون أن الذكاء الاصطناعي ليس مرآة محايدة؛ بل هو مرآة ملاهي (Funhouse Mirror) تشوه الواقع بناءً على ما تعلمته من الإنترنت.
- فخ "القدرة التقنية الاستعلائية" (Techno-ableism): تذكر الورقة مفهوماً يسمى "القدرة التقنية الاستعلائية". وهو الفكرة التي ترى التكنولوجيا كـ "علاج" للإعاقة، بدلاً من كونها أداة لمساعدة الناس على عيش حياتهم. غالباً ما يصور الذكاء الاصطناعي ذوي الإعاقة كأشياء تثير الشفقة أو كحالات طبية، بدلاً من كونهم أشخاصاً طبيعيين يعيشون حياتهم.
- فلاتر السلامة قد تأتي بنتائج عكسية: "فلاتر السلامة" التي يستخدمها DALL·E 3 لمنع المحتوى السيئ قد تجعل الأمور أسوأ أحياناً. فمن خلال محاولة تجنب الصور النمطية، خلقت دون قصد صوراً نمطية جديدة (مثل جعل جميع مشاهد الصحة النفسية تبدو مظلمة ومحبطة).
ملخص للشخص العادي
إذا طلبت من الذكاء الاصطناعي رسم شخص من ذوي الإعاقة، فمن المرجح أن يظهر لك شخصاً في كرسي متحرك، متجاهلاً الجميع غيرهم. وإذا طلبت منه رسم شخص يعاني من صراع نفسي، فمن المرجح أن يضعه في غرفة مظلمة وحزينة، مما يجعله يبدو كشخصية مأساوية بدلاً من كونه شخصاً حقيقياً.
حتى نماذج الذكاء الاصطناعي "الأكثر أماناً" ليست مثالية. إنها بحاجة إلى أن تُعلّم أن الإعاقة متنوعة، وأن الأشخاص الذين يعانون من حالات صحية نفسية يمكن أن يكونوا سعداء، نشيطين، ويعيشون في الضوء، تماماً مثل أي شخص آخر. تجادل الورقة بأننا بحاجة إلى مواصلة اختبار هذه الأدوات، والأهم من ذلك، الاستماع إلى الأشخاص من ذوي الإعاقة لضمان أن الذكاء الاصطناعي يروي قصصهم، وليس مجرد تخمينات الذكاء الاصطناعي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.