Large Language Models Reproduce Racial Stereotypes When Used for Text Annotation
تُثبت هذه الورقة أنه عبر 19 نموذجاً لغوياً كبيراً وأكثر من 4 ملايين حكم تقييمي، تؤدي إشارات الهوية الدقيقة مثل الأسماء واللهجات بشكل منهجي إلى تحفيز الصور النمطية العرقية، مما يتسبب في تقييم النصوص المرتبطة بمجموعات الأقليات على أنها أكثر عدوانية، وأقل احترافية، وأقل ثقة، مما يؤدي بالتالي إلى ترسيخ هذه الانحيازات في مجموعات البيانات المؤتمتة المستخدمة في الأبحاث واتخاذ القرار.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك وظفت فريقاً من 19 روبوتاً مختلفاً لمساعدتك في قراءة آلاف القصص القصيرة عن البشر. هدفك هو جعل هذه الروبوتات تعمل كـ "حكام"، لتقييم الشخصيات في القصص بناءً على أمور مثل: هل هم أذكياء؟ هل هم غاضبون؟ هل ستوظفهم في وظيفة ما؟ هل هم مهنيون؟
لقد قلت للروبوتات: "فقط انظروا إلى الكلمات وأعطونا درجة". ولم تخبرهم من هم هؤلاء الأشخاص.
لكن هنا تكمن الخدعة: لقد قرأت هذه الروبوتات الإنترنت بأكمله لتتعلم كيف تتحدث. وللأساس، الإنترنت مليء بالصور النمطية القديمة وغير العادلة حول العرق. ورغم أنك لم تخبر الروبوتات بعرق الشخصيات، إلا أن الروبوتات استنتجته بمفردها بمجرد النظر إلى أدلة صغيرة، مثل الاسم أو طريقة التحدث.
هذه الورقة البحثية هي تحقيق واسع النطاق فيما يحدث عندما تحكم هذه الروبوتات على الناس بناءً على هذه الأدلة. وقد وجد الباحثون أن الروبوتات لم ترتكب أخطاء عشوائية فحسب، بل أعادت إنتاج نفس الصور النمطية العرقية التي تبناها البشر لعقود.
إليك تفصيل لما حدث، باستخدام بعض التشبيهات البسيطة:
1. "لعبة الأسماء" (التجربة 1)
أخذ الباحثون نفس القصة تماماً وقاموا فقط باستبدال الاسم الموجود في الأعلى.
- تأثير الأسماء السوداء: عندما كانت القصة تحمل اسماً مثل "تايرون" (Tyrone) أو "شانيقا" (Shaniqua)، كانت الروبوتات دائماً تقريباً تقيم الشخص على أنه أكثر عدوانية وأكثر عرضة لنقل الكلام (النميمة). وكأن الروبوت رأى اسماً ووضع فوراً ملصق "مثير للمشاكل" على الملف، رغم أن القصة كانت مطابقة لقصة باسم أبيض.
- "سقف الخيزران" للأسماء الآسيوية: عندما كان الاسم آسيوياً (مثل "وي" أو "مي")، ارتبكت الرودوتات بطريقة محددة. فقد قيموا هؤلاء الأشخاص بأنهم أذكياء جداً ومبدعون (صورة "الطالب المتفوق"). لكنهم أيضاً قيموا هؤلاء الأشخاص بأنهم أقل ثقة، وأقل قدرة على التواصل الاجتماعي، وأقل عرضة للقيادة. الأمر يشبه قول الروبوت: "بارعون في الرياضيات، لكن لا تضعوهم في منصب قيادي".
- تأثير الأسماء العربية: أثارت هذه الأسماء مزيجاً من المشاعر. فقد اعتقدت الروبوتات أن هؤلاء الأشخاص أذكياء وطموحون، ولكنهم أيضاً أقل دفئاً، وأكثر عاطفية، وأقل قدرة على التواصل.
- عقوبة "الانضباط الذاتي": بغض النظر عن الاسم الذي ينتمي للأقليات (أسود، آسيوي، عربي، أو هسباني)، قيمت الروبوتات بشكل جماعي تقريباً هؤلاء الأشخاص بأنهم أقل انضباطاً ذاتياً من الأسماء البيضاء. لقد كانت "عقوبة" ثابتة طُبقت على الجميع.
الاستثناء الغريب الوحيد:
عندما تعلق الأمر بـ التوظيف، فعلت الروبوتات عكس ما يفعله البشر عادة في الواقع. في الواقع، تظهر الدراسات أن السير الذاتية التي تحمل أسماء أقليات تحصل على مكالمات أقل. لكن هذه الروبوتات؟ لقد فضلت بالفعل أسماء الأقليات للتوظيف!
- لماذا؟ يعتقد الباحثون أن الشركات التي بنت هذه الروبوتات (مثل OpenAI وGoogle) دربتها خصيصاً لتكون "لطيفة" وتتجنب التمييز في التوظيف. لقد بالغوا في التصحيح، فجعلوا الميزان يميل للطرف الآخر. لقد أصلحوا "تحيز التوظيف" بقوة، لكنهم لم يصلحوا التحيزات العميقة وغير المرئية المتعلقة بالشخصية أو الطبع.
2. اختبار "اللكنة" (التجربة 2)
بعد ذلك، جرب الباحثون خدعة أخرى. أبقوا الاسم كما هو (اسم أبيض) ولكن غيروا لهجة النص.
- النسخة (أ): مكتوبة بالإنجليزية القياسية (مثل تقرير إخباري).
- النسخة (ب): مكتوبة بلهجة "الإنجليزية الأمريكية الأفريقية" (AAVE)، باستخدام قواعد لغوية ومصطلحات مختلفة، ولكنها تقول الشيء نفسه تماماً.
النتيجة: كان هذا الجزء الأكثر صدمة. كل واحد من الـ 19 روبوتاً حكم على نسخة الـ (AAVE) بقسوة أكبر بكثير.
- اعتقدوا أن المتحدث بلهجة الـ (AAVE) أقل مهنية.
- اعتقدوا أنه أقل تعليماً.
- اعتقدوا أنه أكثر غضباً وأكثر سمية.
- كان أقل عرضة للتوظيف.
التشبيه: تخيل شخصين يدخلان غرفة وهما يرتديان نفس البدلة تماماً. أحدهما يتحدث بلكنة قياسية، والآخر يتحدث بلهجة إقليمية. إذا طلبت من روبوت أن يحكم عليهما، سيقول الروبوت إن الشخص ذو اللهجة الإقليمية "غير مهني" و"غاضب"، رغم أنه يرتدي نفس البدلة ويقول نفس الكلمات. الروبوتات تعاقب الصوت، وليس المحتوى.
لماذا يهم هذا؟
قد تعتقد: "حسناً، الروبوتات منحازة. وماذا في ذلك؟ لن نستخدمها ببساطة".
المشكلة هي أننا نستخدمها بالفعل.
- الجامعات تستخدمها لتصحيح المقالات.
- الشركات تستخدمها لفرز السير الذاتية.
- شركات التواصل الاجتماعي تستخدمها لتقرير ما إذا كانت المنشورات "سامة" ويجب حذفها.
إذا استُخدم روبوت للإشراف على المحتوى، فقد يحذف منشوراً مكتوباً بلهجة (AAVE) لأنه يعتقد أن المنشور "غاضب" أو "سام"، بينما يسمح بمنشور له نفس المعنى مكتوباً بالإنجليزية القياسية. وإذا استُخدم روبوت لفرز المتقدمين للوظائف، فقد يرفض المرشحين بشكل غير عادل بناءً على إشارات دقيقة في أسلوب كتابتهم.
الخلاصة الكبرى
هذه النماذج اللغوية الكبيرة تشبه المرايا. إنها تعكس العالم الذي تدربت عليه. وبما أن عالمنا يحتوي على تحيزات عرقية عميقة، فإن هذه المرايا تعكس لنا تلك التحيزات، غالباً بطرق لا نتوقعها.
يحذرنا الباحثون: لا يمكننا ببساطة الوثوق في أن هذه الروبوتات محايدة. حتى لو حاولنا "إصلاحها"، فقد نصلح مشكلة واحدة (مثل التوظيف) بينما نترك مشاكل أخرى (مثل الحكم على الشخصية أو اللهجة) معطلة. إذا استخدمنا هذه الأدوات لاتخاذ قرارات مهمة تتعلق بحياة الناس، فإننا نخاطر بأتمتة وتسريع العنصرية القديمة، وجعلها تبدو وكأنها "رياضيات محايدة".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.