Laissez-Faire Harms: Algorithmic Biases in Generative Language Models
تُظهر هذه الدراسة أن خمسة نماذج لغوية توليدية ضخمة، عند نشرها في بيئات "الاسترخاء" الطبيعية دون مطالبات هوية صريحة، تكرس بشكل منهجي عمليات الحذف والإخضاع والنمطية الضارة تجاه الأشخاص من الأقليات، وتولد مخرجات تمييزية تزيد احتمالية كونها سلبية بمئات إلى آلاف المرات عن كونها تمكينية، وتشكل مخاطر نفسية جسيمة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مجموعة من خمسة كتاب آليين (روبوتات) مشهورين للغاية وشديدي الذكاء (مثل ChatGPT وClaude وغيرهما). تطلب منهم كتابة قصص قصيرة عن الحياة اليومية في أمريكا: الذهاب إلى المدرسة، أو ممارسة وظيفة، أو قضاء الوقت مع الأصدقاء. أنت لا تخبرهم من يجب أن يكونوا الشخصيات؛ بل تقول ببساطة: "اكتب قصة عن طالب أمريكي" أو "اكتب قصة عن طبيب أمريكي".
هذا المقال يشبه اختباراً ضخماً لما كتبته هذه الروبوتات. وجد الباحثون أنه حتى عندما لا تطلب هويات محددة، فإن هذه الروبوتات لديها "إعداد افتراضي" خفي يعامل الناس بشكل مختلف بناءً على عرقهم، وجنسهم، ومن يحبون. هم يسمون هذه المشكلات "أضرار التخلي عن القيود" (Laissez-Faire Harms) – مما يعني أن الضرر ينشأ لأن الروبوتات مسموح لها أن "تختار بحرية" دون أن يُطلب منها خلاف ذلك.
إليك الطرق الثلاث الرئيسية التي ارتكبت بها هذه الروبوتات أخطاءها، مشروحة بتشبيهات بسيطة:
1. تأثير "الشخص غير المرئي" (الأضرار عن طريق الإغفال)
التشبيه: تخيل مسرحية مدرسية حيث يطلب المخرج "طالباً" للور الرئيسي. إذا قام المخرج باختيار ممثلين بيض فقط ولم يفكر حتى في اختيار ممثل أسود، أو آسيوي، أو من السكان الأصليين، فإن تلك المجموعات تصبح غير موجودة فعلياً في المسرحية.
ما وجده المقال:
عندما كتبت الروبوتات قصصاً عن أمريكيين "متوسطين"، اختارت شخصيات بيضاء بشكل ساحق.
- الفجوة: في الولايات المتحدة، يشكل البيض حوالي 60% من السكان. في قصص الروبوتات، ظهروا في 70% إلى 84% من القصص.
- المحو: المجموعات الأقلية (مثل الأمريكيين الأصليين، وسكان جزر المحيط الهادئ، والناس من الشرق الأوسط) كانوا غير مرئيين تماماً تقريباً. إذا طلبت قصة عن طالب، فمن المرجح بمئات المرات أن تخترع الروبوتات طالباً أبيض بدلاً من طالب من السكان الأصليين.
- فجوة مجتمع الميم (+LGBTQ): كانت القصص عن الأزواج من نفس الجنس أو الأشخاص غير الثنائيين نادرة للغاية (أقل من 3% من القصص)، رغم وجودهم في الحياة الواقعية.
2. تأثير "الضحية العاجزة مقابل البطل" (الأضرار عن طريق التبعية)
التشبيه: تخيل فيلماً حيث تظهر كل شخصية بيضاء كمدير، أو معلم، أو الشخص الذي يعطي الأوامر. ولكن في كل مرة تظهر فيها شخصية سوداء، أو لاتينية، أو آسيوية، تكون هي الشخص الذي يطلب المساعدة، أو الذي يقع في ورطة، أو الذي يتم إنقاذه.
ما وجده المقال:
عندما أضاف الباحثون "ديناميكية القوة" إلى الطلبات (على سبيل المثال: "اكتب قصة عن طالب متفوق يساعد طالباً متعثراً")، ولدت الروبوتات نمطاً صادماً:
- الشخصيات البيضاء = الأبطال: كان الطلاب البيض عادة هم "الطلاب المتفوقين" (المساعدين). وكان الأطباء البيض هم من ينقذون الأرواح.
- الشخصيات الأقلية = العاجزة: الشخصيات التي تحمل أسماءً تبدو سوداء، أو لاتينية، أو آسيوية، أو من الشرق الأوسط، كانت دائماً تقريباً هي التي تحتاج إلى المساعدة.
- الأرقام: كانت الروبوتات أكثر عرضة بآلاف المرات لتصوير طالب من أصول لاتينية على أنه "متعثر" بدلاً من كونه "متفوقاً". على سبيل المثال، تم تصوير شخصية باسم "ماريا" (لاتينية) كطالبة متعثرة أكثر من 13,000 مرة، بينما تم تصوير شخصية باسم "سارة" (بيضاء) كطالبة متفوقة أكثر من 10,000 مرة.
- النتيجة: إذا كنت شخصاً من الأقليات وتقرأ هذه القصص، فإن الروبوتات تخبرك باستمرار أنك الشخص الذي يحتاج إلى الإنقاذ، وليس الشخص الذي ينقذ.
3. تأثير "نص الصور النمطية" (الأضرار عن طريق التنميط)
التشبيه: تخيل كاتباً لديه مجموعة محدودة من "النصوص" المختلفة للأشخاص.
- بالنسبة للشخص الأبيض، النص هو: "طبيعي، قادر، قائد".
- بالنسبة للشخص اللاتيني أو الشرق أوسطي، النص هو: "أجنبي، يعاني مع اللغة، من بلد مزقته الحروب".
- بالنسبة للشخص من السكان الأصليين، النص هو: "قديم، غامض، متجمد في الزمن".
ما وجده المقال:
لم تكتفِ الروبوتات بأخذ الأدوار بشكل خاطئ فحسب، بل استخدمت صوراً نمطية محددة وضارة:
- "الأجنبي الدائم": حتى عندما كان الطلب يتضمن كلمة "أمريكي"، وصفت الروبوتات الشخصيات اللاتينية والآسيوية والشرق أوسطية بأنهم "جدد في أمريكا"، أو "يعانون مع الإنجليزية"، أو "من بلد مزقته الحروب". لقد عوملوا كغرباء في بلدهم.
- "المنقذ الأبيض": كانت القصص تنتهي دائماً بشخصية بيضاء "تنقذ" الشخصية من الأقليات. كان نجاح الشخصية من الأقليات يُنسب إلى مساعدة الشخص الأبيض، وليس إلى قدراتهم الخاصة.
- "الهمجي النبيل": غالباً ما وُصفت الشخصيات من السكان الأصليين بأنهم يعيشون في قرى نائية وبدائية، أو يعلمون مهارات "قديمة"، أو أنهم "متجمدون في الزمن"، متجاهلين حقيقة أنهم بشر معاصرون يعيشون في الولايات المتحدة اليوم.
- الشخصيات من مجتمع الميم (+LGBTQ): القصص المتعلقة بهم كانت دائماً ما تتضمن مآسي، مثل الطرد من منازلهم أو التشرد، بدلاً من إظهار علاقات سعيدة وطبيعية.
لماذا يهم هذا؟
يجادل المقال بأن هذا ليس مجرد خطأ مضحك؛ بل هو أمر خطير.
- إنه يحدث لا شعورياً: بما أن الطلبات لم تسأل عن العرق أو الجنس، فقد اتخذت الروبوتات هذه القرارات من تلقاء نفسها. وهذا يعني أن التحيز مبني داخل النظام وليس مجرد نتيجة لتعليمات سيئة.
- إنه يؤذي الناس الحقيقيين: يوضح المقال أن رؤية نفسك باستمرار وأنت تُصور كشخص "متعثر"، أو "أجنبي"، أو "يحتاج للإنقاذ" يمكن أن يؤذي دماغك فعلياً. إنه يخلق "تهديد الصورة النمطية"، مما قد يجعل الناس يشعرون بضعف الثقة بالنفس ويؤدي لتراجع أدائهم في المدرسة أو العمل.
- إنه في كل مكان: تُستخدم هذه الروبوتات كمدرسين للأطفال، ومساعدين للكتابة للأطباء، وروبوتات دردشة للأشخاص الوحيدين. إذا علمت هذه الروبوتات الأطفال أن مجموعات معينة هي "طلاب متعثرون" أو "أجانب"، فإنها تعزز التحيزات الموجودة في العالم الحقيقي.
الخلا الخلاصة
يخلص المقال إلى أن هذه الروبوتات التي "تختار بحرية" ليست محايدة. إنها تعزز الصور النمطية القديمة والضارة وتمحو وجود الكثير من الناس. يقول الباحثون إنه يجب علينا التوقف عن معاملة هذه الأدوات كأدوات غير ضارة والبدء في إصلاح التحيز قبل أن يسبب المزيد من الضرر في العالم الحقيقي. كما يدعون إلى تعليم أفضل ليفهم الناس أن هذه الروبوتات ليست مرايا مثالية للواقع، بل هي مرايا مشوهة بالتحيز.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.