Measuring Stereotype and Deviation Biases in Large Language Models
تتقصى هذه الدراسة تحيزات الصور النمطية والانحراف في أربعة من نماذج اللغات الكبيرة المتقدمة من خلال تحليل ملفات التعريف الفردية التي تولدها، كاشفةً أن جميع النماذج التي فُحصت تظهر تحيزات كبيرة في ربط المجموعات الديموغرافية بسمات محددة وفي الابتعاد عن التوزيعات الديموغرافية الواقعية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك أربعة "رواة قصص" مختلفين من الذكاء الاصطناعي (نماذج لغوية كبيرة، أو LLMs). تطلب منهم ابتكار شخصية وإخبارك بكل شيء عنها: آرائهم السياسية، دينهم، من يحبون، كم يربحون من المال، وما هي وظيفتهم.
هذه الورقة البحثية تشبه تقرير المحقق الذي يفحص ما إذا كان هؤلاء الرواة من الذكاء الاصطناعي يقولون الحقيقة عن العالم الحقيقي، أم أنهم مجرد مكررين لأنماط قديمة وكسولة. سأل الباحثون سؤالين رئيسيين:
- اختبار "النمط التقليدي": هل يعامل هؤلاء الرواة من الذكاء الاصطناعي المجموعات المختلفة من الناس بشكل مختلف؟ (على سبيل المثال، هل يجعلون الرجال دائمًا "مهندسين" والنساء "معلمات"؟)
- اختبار "الانحراف": هل الشخصيات التي يبتكرونها تشبه بالفعل الناس الحقيقيين في العالم الواقعي؟ (على سبيل المثال، إذا ابتكروا 100 شخص، هل تتوافق آراؤهم السياسية مع الواقع الفعلي للسكان في الولايات المتحدة، أم أن الجميع فجأة أصبحوا ليبراليين؟)
إليك ما وجدوه، مقسماً ببساطة:
1. "العدسة السياسية" معطلة
عندما طُلب من الذكاء الاصطناعي تخمين الحزب السياسي لشخص ما، تصرف كبوصلة معطلة.
- النتيجة: كل شخص ابتكره الذكاء الاصطناعي تقريبًا كان ليبراليًا. سواء كان الشخص رجلًا، أو امرأة، أو أسود، أو أبيض، أو آسيويًا، كان الذكاء الاصطناعي يقول بإفراط: "إنه ليبرالي".
- التحقق من الواقع: في العالم الحقيقي، ينقسم الناس بين ليبراليين، ومحافظين، ومحايدين. لقد تجاهل الذكاء الاصطناعي المحافظين والمحايدين تمامًا تقريبًا.
- التشبيه: الأمر يشبه أن تطلب من طاهٍ إعداد بوفيه لجمهور، لكن الطاهي لا يقدم سوى البيتزا فقط. حتى لو طلبت سلطة، أو ستيك، أو تاكو، فإن الطاهي يعطيك المزيد من البيتزا لأن هذا ما اعتاد على طبخه.
2. "فلتر الدين" ضيق
عندما خمن الذكاء الاصطناعي الدين الذي يمارسه الشخص:
- النتيجة: خمن الذكاء الاصطناعي في الغالب أن الشخص مسيحي أو غير منتسب لدين (بلا دين). ونادرًا ما خمن أنه هندوسي، أو يهودي، أو مسلم، رغم وجود ملايين البشر الحقيقيين الذين يتبعون هذه الأديان.
- تحول العمر: كان للذكاء الاصطناعي عادة محددة مع كبار السن (جيل طفرة المواليد/Baby Boomers). فقد خمن دائمًا تقريبًا أنهم مسيحيون. أما بالنسبة للأجيال الأصغر سنًا، فقد خمن أنهم "غير منتسبين لدين".
- التشبيه: تخيل خريطة حيث الدول الوحيدة المرسومة هي الولايات المتحدة وكندا، وكل دولة أخرى تُصنف ببساطة كـ "غير معروفة". خريطة الذكاء الاصطناعي لأديان العالم تفتقد أجزاءً ضخمة من السكان الفعليين.
3. تشويه "الحياة العاطفية"
عندما خمن الذكاء الاصطناعي التوجه الجنسي:
- النتيجة: ابتكر الذكاء الاصطناعي عددًا كبيرًا جدًا من شخصيات مجتمع الميم (LGBTQ+). في العالم الحقيقي، معظم الناس يعرفون أنفسهم كمتغايرين جنسيًا (Heterosexual). لقد عكس الذكاء الاصطناعي هذا الأمر، فجعل الغالبية العظمى من شخصياته المبتكرة من مجتمع الميم.
- الانقسام الجندري: كان لديه نمط محدد: فقد خمن دائمًا تقريبًا أن الرجال مثليون وأن النساء ثنائيات الجنس.
- التشبيه: الأمر يشبه دخول غرفة حيث يقول لك الذكاء الاصطناعي: "الجميع هنا يرتدي قبعة حمراء"، بينما في الواقع، قلة قليلة فقط هم من يفعلون ذلك. الذكاء الاصطناعي يضخم مجموعة أقلية إلى درجة تجعلها تبدو وكأنها هي الأغلبية.
4. أنماط "الوظيفة" و"المال"
عندما خمن الذكاء الاصطناعي الوظائف والثروة:
- النتيجة: اعتمد الذكنا الاصطناعي بشدة على الأنماط التقليدية القديمة.
- الوظائف: أحب جعل المعلمين ومصممي الجرافيك هم المهنة السائدة لمعظم الناس، خاصة الأجيال الأكبر سنًا.
- العرق والمال: غالبًا ما خمن أن السود ينتمون إلى "الطبقة الدنيا" وأن الآسيويين ينتمون إلى "الطبقة العليا".
- الرفض: أحد نماذج الذكاء الاصطناعي (Claude) أصبح متوترًا جدًا بشأن تخمين الوظائف لمجموعات معينة (مثل الرجال البيض أو الرجال السود)، فقام ببساطة بالرفض، قائلاً "لا يمكنني فعل ذلك".
- التشبيه: الذكاء الاصطناعي يشبه شخصًا لم يشاهد سوى عدد قليل من الأفلام. إذا رأى شخصية سوداء، يفترض أنه منظم مجتمعي. إذا رأى شخصية آسيوية، يفترض أنه طبيب. إنه يتصرف بناءً على "منطق الأفلام" وليس على الإحصاءات الواقعية.
5. "لعبة الأسماء" (الضمني مقابل الصريح)
قام الباحثون بشيء ذكي. سألوا الذكاء الاصطناعي بطريقتين:
- الصريح: "اكتب عن رجل أسود".
- الضمني: "اكتب عن رجل يدعى جمال". (الاسم يوحي بالعرق دون التصريح به).
النتيجة: تصرف الذكاء الاصطناعي بنفس الطريقة تقريبًا في كلتا الحالتين. سواء ذكرت "رجل أسود" مباشرة أو استخدمت اسمًا مرتبطًا بتلك المجموعة، ظل الذكاء الاصطناعي يطبق نفس الأنماط التقليدية. وهذا يشير إلى أن الذكاء الاصطناعي لا يتفاعل فقط مع الكلمات التي تكتبها، بل إن هذه الارتباطات "تعلمت" وتغلغلت في أعماق دماغه.
الصورة الكبيرة
تخلص الورقة البحثية إلى أن نماذج الذكاء الاصطناعي هذه ليست مرايا محايدة للمجتمع. بدلاً من ذلك، هي مثل مرايا "البيت الممتع" (Funhouse mirrors) التي تمدد وتضغط مجموعات معينة.
- جعلت الآراء الليبرالية تبدو وكأنها الرأي الوحيد.
- جعلت هويات مجتمع الميم تبدو وكأنها هي الأغلبية.
- جعلت كبار السن يبدون كمسيحيين ومعلمين.
- جعلت الآسيويين يبدون أثرياء والسود يبدون فقراء.
يحذر المؤلفون من أنه إذا استخدمنا نماذج الذكاء الاصطنا هذه لاتخاذ القرارات (مثل التوظيف، أو الإقراض، أو تحليل الأخبار)، فقد نبني دون قصد عالمًا يشبه خيال الذكاء الاصطناعي المشوه، بدلاً من أن يشبه العالم الحقيقي. ويقترحون أن على المطورين إصلاح بيانات التدريب حتى يتوقف الذكاء الاصطناعي عن تكرار هذه التخمينات "الكسولة" ويبدأ في عكس الواقع بدقة أكبر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.