Shiny Stories, Hidden Struggles: Investigating the Representation of Disability Through the Lens of LLMs
تتقصى هذه الورقة كيفية تمثيل نماذج اللغات الكبيرة (LLMs) للإعاقة من خلال مقارنة منشورات وسائل التواصل الاجتماعي التي أنشأها الذكاء الاصطناعي بتلك التي كتبها أفراد حقيقيون، كاشفةً أن نماذج اللغات الكبيرة تميل إلى إنتاج صور نمطية مثالية وإيجابية بشكل مفرط تمحو التحديات الواقعية، بينما تظهر في الوقت ذات ذاته تحيزات سلبية تستبعد ذوي الإعاقة من مواضيع مثل العمل والترفيه.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك أمين مكتبة آلي ذكي للغاية وذو نوايا حسنة. هذا الأمين قد قرأ كل شيء تقريبًا كُتب على الإنترنت. مهمته هي كتابة قصص عن أنواع مختلفة من البشر، محاولاً أن يكون دقيقاً ولطيفاً قدر الإمكان.
طلب الباحثون في هذه الورقة من أمين المكتبة الآلي هذا أن يكتب منشورات لمواقع التواصل الاجتماعي من منظور مجموعتين:
- أشخاص حقيقيون لديهم إعاقات (تم جمعهم من منشورات فعلية على موقع Reddit).
- الروبوت وهو يتظاهر بأنه شخص ذو إعاقة.
أرادوا معرفوا ما إذا كانت قصص الروبوت تتطابق مع القصص الحقيقية، أم أنه يروي نوعاً مختلفاً من الحكايات. إليكم ما وجدوه، مشروحاً ببساة:
1. "شريط اللحظات المميزة" مقابل "المشاهد الخام"
الاكتشاف الأكبر هو أن الروبوت مهووس بـ "شريط اللحظات المميزة" (Highlight Reel).
- قصة الروبوت: عندما يكتب الروبوت عن شخص ذي إعاقة، فإنه يرسم صورة إيجابية بنسبة 100% تقريباً. يستخدم كلمات مثل بهجة، امتنان، قوة، انتصار، وإلهام. إنه يشبه الإعلان الترويجي لفيلم حيث يتغلب البطل على كل العقبات بابتسامة، وتتصاعد الموسحة الملحمية. يبدو أن الروبوت مرعوب من قول أي شيء سلبي، لذا فهو يخلق فقاعة من "الإيجابية السامة". الأمر كما لو أن الروبوت يفكر: "إذا قلت إن كل شيء رائع، فلن أكون مسيئاً!"
- القصة الحقيقية: المنشورات الفعلية لأشخاص ذوي إعاقة أكثر تعقيداً. فهي تحتوي على كامل طيف الحياة البشرية، بما في ذلك الأجزاء المؤلمة والمضطربة. يتحدث الناس الحقيقيون عن الألم، الأطباء، البطالة، القلق، والإرهاق، وحتى الأفكار الانتحارية. هم لا يشعرون دائماً بأنهم "محاربون" أو "مصادر إلهام". أحياناً يشعرون فقط بالتعب، أو الإحباط، أو بأن العالم ليس مهيأً لهم.
الاستعارة: تخيل شخصاً يعاني من كسر في الساق.
- الروبوت يكتب منشوراً يقول: "ساقي المكسورة هي رحلة جميلة من الصمود! أنا ممتن جداً لهذا التحدي وأشعر بقوة كبيرة!"
- الشخص الحقيقي يكتب: "ساقي تؤلمني لدرجة أنني لا أستطيع النوم، وشركة التأمين رفضت مطالبتي، وأنا قلق من فقدان وظيفتي. أريد فقط أن يتوقف الألم."
تجادل الورقة بأن نسخة الروبوت، رغم أنها تبدو لطيفة، إلا أنها تمحو المعاناة الحقيقية. إنها تشبه وضع "فلتر" على صورة يجعل الألم يختفي؛ النتيجة تبدو جميلة، لكنها ليست الحقيقة.
2. فخ "البطل الخارق"
وجد الباحثون أن الروبوت يحب تحويل الأشخاص ذوي الإعاقة إلى "أبطال خارقين". فهو يستخدم كلمات مثل معركة، نضال، انتصار، وتغلب.
وهذا يمثل مشكلة لأن ذلك يوحي بأن الطريقة الوحيدة لتكون شخصاً ذا إعاقة هي أن تكون في حالة نضال وفوز مستمر. هذا يعني أنه إذا كنت تعاني أو تحاول فقط تدبر أمورك خلال اليوم، فأنت لا تفعل ذلك بالشكل الصحيح. إنه يحول الكائن البشري إلى رمز للإلهام للآخرين، بدلاً من أن يكون شخصاً له حياته الفريدة والصعبة أحياناً.
3. الروبوت يعرف "العمل" و"المتعة" للآخرين، ولكن ليس لهم
طلب الباحثون أيضاً من الروبوت أن يتظاهر بأنه شخص "طبيعي" (دون ذكر الإعاقة) وقارنوا تلك المنشورات بالمنشورات التي تظاهر فيها بأنه ذو إعاقة.
- بالنسبة للأشخاص "الطبيعيين": كتب الروبوت عن أشياء ممتعة ومثيرة: التنزه، الطبخ اللذيذ، حضور المهرجانات، امتلاك وظائف رائعة، والاستمتاع بالهوايات.
- بالنسبة للأشخاص ذوي الإعاقة: نادراً ما كتب الروبوت عن هذه الأشياء الطبيعية والممتعة. بدلاً من ذلك، ركز تماماً على الإعاقة نفسها: المناصرة، سهولة الوصول، وتجاوز الحواجز.
الاستعارة: الأمر كما لو أن الروبوت يعتقد أنه إذا كنت تعاني من إعاقة، فإن حياتك بأكملها تتحدد بإعاقتك. إنه ينسى أن الأشخاص ذوي الإعاقة يريدون أيضاً التحدث عن فيلمهم المفضل، أو وظيفتهم، أو حتى ماذا تناولوا على العشاء. الروبوت يبقي ملصق "الإعاقة" عليهم بإحكام شديد لدرجة أنه يحجب عنهم كل شيء آخر عن إنسانيتهم.
4. لماذا يحدث هذا؟
تقترح الورقة أن الروبوت يفعل ذلك لأنه تم تدريبه ليكون "آمناً" و"مهذباً". لقد وضع المطورون حواجز لمنع الروبوت من أن يكون لئيماً أو مسيئاً. ولكن في محاولته لتجنب السلبية، دفع الروبوت البندول إلى الطرف الآخر بشدة. لقد قرر أن الطريقة "الآمنة" الوحيدة للتحدث عن الإعاقة هي جعلها تبدو كقصة نجاح ملهمة.
الخلاصة
تخلص الورقة إلى أنه بينما يحاول الروبوت أن يكون لطيفاً، فإنه في الواقع يخفي الحقيقة. من خلال جعل الإعاقة تبدو كأنها موكب مستمر من الانتصارات والمشاعر الإيجابية، فإنه يتجاهل الواقع الحقيقي، الصعب، والمؤلم في كثير من الأحيان الذي يواجهه الكثيرون.
يقول الباحثون إننا بحاجة إلى السماح لهذه النماذج من الذكاء الاصطناعي بأن تكون صادقة. نحن بحاجة إليها لتكون قادرة على قول: "أحياناً تكون الحياة صعبة"، دون محاولة إصلاح ذلك بوضع وجه مبتسم. الشمول الحقيقي يعني قبول الواقع البشري الكامل، الفوضوي والمعقد، وليس فقط الأجزاء اللامعة والمثالية منه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.