🤖 AI

Generating the Modal Worker: A Cross-Model Audit of Race and Gender in LLM-Generated Personas Across 41 Occupations

تدقق هذه الورقة أربعة نماذج لغوية كبيرة رئيسية عبر ٤١ مهنة في الولايات المتحدة، وتجد أنها تشوه بشكل منهجي التركيبة السكانية العرقية والجنسية من خلال ضغط الملامح المهنية نحو الصور النمطية السائدة، مما يؤدي إلى نقص تمثيل العمال البيض والسود بشكل كبير مع الإفراط في تمثيل العمال الهيسبانيك والآسيويين، وهو ما يكشف عن تحيزات هيكلية مشتركة تعيد تشكيل الرؤية الديموغرافية في المجموعات السكانية الاصطناعية.

المؤلفون الأصليون: Ilona van der Linden, Sahana Kumar, Arnav Dixit, Aadi Sudan, Smruthi Danda, David C. Anastasiu, Kai Lukoff

نُشر 2026-03-30

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ilona van der Linden, Sahana Kumar, Arnav Dixit, Aadi Sudan, Smruthi Danda, David C. Anastasiu, Kai Lukoff

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك أربعة "رواة قصص رقميين" مختلفين (نماذج ذكاء اصطناعي مثل GPT-4 وGemini وDeepSeek وMistral). تسألهم سؤالاً بسيطاً: "أخبرني عن شخص يعمل كـ [مسمى وظيفي] في الولايات المتحدة."

سألت هذا السؤال لـ 41 وظيفة مختلفة، من الممرضات إلى المهندسين إلى سائقي الشاحنات، وطلبت من كل راوٍ للقصص أن يبتكر 10,000 شخص مختلف لكل وظيفة. هذا يعني أكثر من 1.5 مليون شخص وهمي.

لقد تصرف الباحثون في هذه الورقة البحثية كـ محققين. أخذوا هذه الشخصيات الـ 1.5 مليون الوهمية وقارنوها بـ بيانات التعداد السكاني الحقيقية (مكتب إحصاءات العمل الأمريكي) ليروا ما إذا كان الذكاء الاصطناعي يقول الحقيقة حول من يشغل هذه الوظائف بالفعل.

إليك ما وجدوه، مشروحاً ببساطة:

1. مشكلة "المقاس الواحد للجميع" (القالب)

عندما تطلب من إنسان وصف "ممرضة"، قد يقول: "يمكن أن تكون امرأة، أو رجلاً، أو شخصاً شاباً، أو شخصاً مسناً".

لكن نماذج الذكاء الاصطناعي هذه تعمل مثل قطاعات العجين.

النتيجة: بالنسبة لمعظم الوظائف، لا ينشئ الذكاء الاصطناعي مزيجاً من الناس. بل يختار نوعاً واحداً مهيمناً ويطبعه بنسبة 99% من الوقت.
التشبيه: تخيل مخبزاً يصنع بسكويت على شكل "مهندس". بدلاً من صنع نكهات متنوعة، يقرر المخبز أن كل قطعة بسكويت لمهندس يجب أن تكون بنكهة الشوكولاتة. إذا طلبت 1,000 قطعة بسكويت لمهندس، ستحصل على 1,000 قطعة شوكولاتة. يفعل الذكاء الاصطناعي هذا مع الجنس والعرق. يتوقف عن كونه "مجتمعاً" ويتحول إلى "نمط متكرر" (Stereotype).

2. "مضخم الصور النمطية" (مرآة الملاهي المشوهة)

الذكاء الاصطناعي لا يكتفي بنسخ الواقع فحך، بل غالباً ما يبالغ فيه، مثل مرآة الملاهي التي تشوه الأشكال وتمددها.

النتيجة: إذا كانت وظيفة ما في الواقع يغلب عليها الرجال (مثل سائق الشاحنة)، فإن الذكاء الاصطناعي يجعلها تبدو أكثر كأنها وظيفة للرجال. وإذا كانت وظيفة ما يغلب عليها النساء (مثل معلمة رياض الأطفال)، فإن الذكاء الاصطناعي يجعلها تبدو حصرياً تقريباً للنساء.
النتيجة: "المنطقة الوسطى" تختفي. ينشئ الذكاء الاصطناعي عالماً تكون فيه الوظائف منفصلة بشكل متطرف، مما يجعل من الصعب على الناس تخيل أنفسهم في أدوار لا تتناسب مع "قطاعة العجين" الخاصة بهم.

3. "الأشخاص غير المرئيين" و"الممثلين بشكل مفرط"

وجد الباحثون بعض الأنماط المحددة والغريبة في كيفية تعامل الذكال الاصطناعي مع العرق:

"تغييب" العمال السود: في العديد من الوظائف، قام الذكاء الاصطناعي تقريباً بـ محو العمال السود تماماً. إذا طلبت منه "أمين مكتبة" أو "عالم أحياء"، نادراً ما يتخيل شخصاً أسود، رغم وجودهم في هذه الوظائف في الواقع. الأمر كما لو أن الذكاء الاصطناعي قرر أن هؤلاء الأشخاص ببساطة غير موجودين في تلك الغرف.
نمط "عاملة المنزل الهيسبانية": كان الذكاء الاصطناعي مهووساً بجعل عاملات المنازل هيسبانيات. في الواقع، عاملات المنازل متنوعات، لكن في عالم الذكاء الاصطناعي، كنَّ هيسبانيات بنسبة تقترب من 100%. لقد أخذ توجهاً واقعياً وحوله إلى صورة نمطية كاريكاتورية.
"تعزيز" المهنيين الآسيويين: على العكس من ذلك، أحب الذكاء الاصطناعي وضع وجوه آسيوية في الوظائف ذات المكانة العالية مثل العلماء وأمناء المكتبات والأطباء، وغالباً ما جعلهم يظهرون بمعدل تكرار أعلى مما هم عليه في الواقع في القوى العاملة.

4. "التحيز العالمي" (ليست مجرد تفاحة فاسدة واحدة)

قد تعتقد: "حسناً، ربما يكون الذكاء الاصطناعي الأمريكي (GPT-4) منحازاً، لكن الصيني (DeepSeek) أو الفرنسي (Mistral) مختلف".

الصدمة: لا. جميع النماذج الأربعة، من دول وشركات مختلفة، ارتكبت نفس الأخطاء.
التشبيه: الأمر يشبه أن تطلب من أربعة طهاة من أربع دول مختلفة صنع "برجر كلاسيكي"، فجميعهم وضعوا المخلل بالخطأ فوق الآيس كريم بدلاً من البرجر. هذا يشير إلى أن المشكلة ليست مجرد وصفة سيئة من طباخ واحد؛ بل إنهم جميعاً تعلموا من نفس المكتبة من الكتب (الإنترنت) التي تحتوي بالفعل على هذه الصور النمطية.

5. "خلل الرواتب"

حاول الذكاء الاصطناعي أيضاً تخمين الرواتب.

النتيجة: عرف الذكاء الاصطناعي أن الرؤساء التنفيذيين يتقاضون رواتب أعلى من عمال النظافة. ولكن عندما يتعلق الأمر بـ الرجال مقابل النساء، فقد تجاهل الذكاء الاصطناعي في الغالب فجوة الأجور في العالم الحقيقي. فقد أعطى الرجال والنساء نفس الراتب تماماً في نفس الوظيفة.
المفار المفاجئة: بينما يبدو هذا "عادلاً"، يرى الباحثون أنه في الواقع مشكلة. من خلال التظاهر بأن فجوة الأجور غير موجودة، يقوم الذكاء الاصطناعي بإخفاء مشكلة حقيقية وغير عادلة للغاية موجودة في العالم الواقعي.

لماذا يهم هذا؟

فكر في شخصيات الذكاء الاصطناعي هذه كـ نماذج يحتذى بها رقمياً.

إذا سألت فتاة صغيرة الذكاء الاصطناعي: "كيف يبدو مهندس البرمجيات؟" وأظهر لها الذكاء الاصطناني رجلاً أبيض بنسبة 99% من الوقت، فقد تعتقد لا شعورياً: "هذه الوظيفة ليست لي".
إذا سأل صبي أسود صغير: "كيف يبدو أمين المكتبة؟" وأراه الذكاء الاصطناعي امرأة بيضاء، فقد يشعر بأنه غير مرئي.

الخلاصة:
تعمل أدوات الذكاء الاصطناعي هذه حالياً مثل مصورين منحازين وكسالى. فبدلاً من التقاط صورة واسعة ومتنوعة للقوى العاملة، هم يلتقطون صورة "سيلفي" ضيقة ومشوهة تعزز الصور النمطية القديمة. وتجادل الورقة البحثية بأننا بحاجة إلى إصلاح "إعدادات الكاميرا" حتى عندما يولد الذكاء الاصطناعي أشخاصاً، فإنه يعكس الواقع المعقد والمتنوع والمتشابك للعالم الحقيقي، وليس نسخة كرتونية مبسطة منه.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "توليد العامل النمطي: تدقيق عابر للنماذج حول العرق والنوع الاجتماعي في الشخصيات المولدة بواسطة النماذج اللغوية الكبيرة عبر 41 مهنة."

1. بيان المشكلة

مع الاستخدام المتزايد لأدوات الذكاء الاصطماعي التوليدي لإنشاء شخصيات اصطناعية لأبحاث تجربة المستخدم (UX)، وتطوير المنتجات، والكتابة الإبداعية، تبرز حاجة ماسة لفهم تحيزات التمثيل العرقي والنوع الاجتماعي المضمنة في هذه الأنظمة. وبينما ركزت التدقيقات السابقة على نقص التمثيل في محركات البحث ومولدات الصور، تعالج هذه الورقة فجوة في النماذج اللغوية الكبيرة القائمة على النصوص (LLMs). يبحث المؤلفون فيما إذا كانت النماذج اللغوية الكبيرة تعكس فقط التوزيعات الديموغرافية في العالم الحقيق، أم أنها تشوهها بشكل منهجي من خلال المبالغة في الصور النمطية، أو التحولات الموحدة، أو المحو شبه الكامل لمجموعات معينة. وتتمثل المشكلة الجوهرية في تحديد ما إذا كانت هذه التحيزات هي نتاج عشوائي خاص بكل نموذج، أم أنها سمات هيكلية مشتركة بين النماذج ذات الأصول المؤسسية والثقافية المختلفة.

2. المنهجية

تستخدم الدراسة إطار عمل كمي واسع النطاق للمقارنة بين مخرجات النماذج اللغوية الكبيرة وإحصاءات العمل في العالم الحقيقي.

توليد البيانات:
- النماذج التي خضعت للتدقيق: أربعة نماذج لغوية كبيرة رئيسية ذات أصول مؤسسية متباينة: GPT-4 (OpenAI، الولايات المتحدة)، وGemini 2.5 (Google، الولايات المتحدة)، وDeepSeek V3.1 (DeepSeek، الصين)، وMistral-medium (Mistral AI، فرنسا).
- النطاق: 41 مهنة أمريكية (تم اختيارها لتتماشى مع الدراسات السابقة ولضمان أحجام عينات كافية).
- الحجم: أكثر من 1.5 مليون شخصية مولدة (10,000 لكل نموذج لكل مهنة؛ 1,000 لـ DeepSeek بسبب قيود واجهة برمجة التطبيقات API).
- صياغة الأوامر (Prompting): قالب أمر ثابت: "أنشئ ملفاً تعريفياً لـ: <مصطلح المهنة> في الولايات المتحدة." تضمنت المخرجات: الاسم، العمر، الجنس، العرق، الراتب، الدوافع، والسيرة الذاتية. لم يتم تقديم أي تعليمات للموازنة.
البيانات المرجعية:
- المصدر: مسح السكان الحالي السنوي المتوسطات (2023) الصادر عن مكتب إحصاءات العمل الأمريكي (BLS).
- الفئات: اقتصرت على ثنائية النوع الاجتماعي (ذكر/أنثى) وأربع مجموعات عرقية/إثنية (أبيض، أسود، آسيوي، هسباني) لتتوافق مع قيود التقارير في مكتب إحصاءات العمل.
إطار التحليل:
- تحليل التركيز: قياس إنتروبيا شانون (Shannon Entropy) وحصة النمط الأعلى (Top-1 Share) لتحديد ما إذا كانت النماذج تولد الديموغرافيا بشكل نمطي (تكرار نفس الملف التعريفي) أم بشكل توزيعي (الانتشار عبر المجموعات).
- تفكيك الانحدار: استخدام نماذج انحدار لوجستي خطي عام لفصل التحيز إلى مكونين:
  1. التحول المنهجي ( $\alpha$ ): تمثيل زائد أو ناقص موحد عبر جميع المهن (التقاطع).
  2. المبالغة في الصورة النمطية ( $\beta$ ): تضخيم الانحرافات الديموغرافية الموجودة (الميل). يشير الميل $>1$ إلى المبالغة، و $<1$ إلى الاختزال.
- الدقة الإحصائية: تطبيق تصحيح معدل الاكتشاف الخاطئ (FDR) وتقنيات الانحدار القوي للتعامل مع القيم المتطرفة.

3. المساهمات الرئيسية

توصيف أنظمة التوليد: تثبت الدراسة أن توليد النوع الاجتماعي هو عملية نمطية في الغالب (النماذج تخصص جنساً مهيمناً واحداً لكل مهنة)، بينما توليد العرق أكثر تباينًا ولكنه أكثر تركيزاً باستمرار من بيانات العالم الحقيقي.
تفكيك التحول/المبالغة: يقدم المؤلفون إطاراً تشخيصياً يميز بين التحولات الديموغرافية الموحدة (مثل نقص التمثيل العالمي لمجموعة ما) والمبالغة في الصورة النمطية الخاصة بالمهنة (مثل تضخيم الفصل العنصري). وهذا يسمح بفهم أكثر دقة لبنية التحيز مقارنة بالمقاييس الإجمالية.
التقارب الهيكلي عبر النماذج: من خلال تدقيق نماذج من الولايات المتحدة والصين وأوروبا، توضح الورقة أن تحيزات التمثيل هي تحيزات هيكلية وليست مجرد سمات عارضة. فعلى الرغم من اختلاف بيانات التدريب وسياسات السلامة، تظهر النماذج أنماطاً مشتركة من التشويه، مما يشير إلى مصادر مشتركة في المستويات العليا (مثل مجموعات بيانات الويب الضخمة).

4. النتائج الرئيسية

أ. أنماط التوليد (النمطي مقابل التوزيعي)

النوع الاجتماعي: النماذج نمطية للغاية. بالنسبة لـ DeepSeek وMistral، فإن وسيط حصة النوع الاجتماعي للنمط الأعلى هو 1.0 (كل ملف تعريفي تم توليده لمهنة ما هو لنفس الجنس). أما GPT-4 فهو 0.99. في المقابل، تظهر بيانات مكتب إحصاءات العمل (BLS) إنتروبيا قدرها 0.66، بينما تتراوح النماذج بين 0.15 و0.30.
العرق: النماذج عموماً أكثر تركيزاً من الواقع. ومع ذلك، يعد Gemini استثناءً جزئياً، حيث يظهر سلوكاً توزيعياً أقرب إلى بيانات مكتب إحصاءات العمل (إنتروبيا 1.26 مقابل 1.32 لـ BLS).
محو التعدد العرقي: رغم أن الأوامر تسمح بهويات متعددة الأعراق، إلا أن أقل من 1% من الشخصيات المولدة كانت متعددة الأعراق، مما يمثل محواً منهجياً للهويات المختلطة (أقل بـ 10 إلى 40 نقطة مئوية من خطوط الأساس لـ BLS).

ب. التحولات المنهجية والمبالغة (RQ1 & RQ2)

النوع الاجتماعي:
- النمط: منحنى على شكل حرف S من المبالغة. النماذج تقلل من تمثيل النساء في المجالات التي يهيمن عليها الرجال، وتزيد من تمثيلهن في المجالات التي تهيمن عليها النساء، مما يضخم الفصل القائم.
- التحول: في المتوسط، هناك تمثيل زائد طفيف للنساء (+6.1 نقطة مئوية عند الوسيط)، لكن هذا يختلف باختلاف المهنة (مثلاً، تمثيل زائد في أدوار STEM مثل مطور البرمجيات، ونقص تمثيل في بعض الأدوار اليدوية).
العرق:
- العمال البيض: يقل تمثيلهم بمعدل –31 نقطة مئوية في المتوسط. ومع ذلك، فإن الميل إيجابي (+1.13)، مما يعني أن حصتهم مبالغ فيها في المهن التي يهيمنون عليها بالفعل.
- العمال السود: يقل تمثيلهم بمعدل –9 نقاط مئوية في المتوسط، ولكن مع ميل سلبي (–0.89). يشير هذا إلى اختزال الصورة النمطية عبر المحو شبه الكامل: حيث يغيب العمال السود تماماً عن النطاق المتوسط من المهن، ولا يظهرون إلا في عدد قليل من الأدوار النمطية (مثل حارس الأمن، سائق الحافلة).
- العمال الهسبانيون والآسيويون: تمثيلهم زائد بشكل منهجي (+17 نقطة مئوية و+12 نقطة مئوية على التوالي). تظهر كلتا المجموعتين انحرافات في الميل الإيجابي، مما يشيد بـ المبالغة في الصورة النمطية حيث يتم تضخيم وجودهم في المهن التي هم متواجدون فيها بالفعل (مثلاً، تضخم نسبة الهسبانيين في وظائف عاملات النظافة بمقدار +48 نقطة مئوية؛ والآسيين في وظائف العلماء بمقدار +87 نقطة مئوية).

ج. مقارنات النماذج (RQ3)

التقارب: تظهر جميع النماذج الأربعة نفس اتجاهات التحيز (مثل نقص تمثيل العمال السود، وزيادة تمثيل الآسيويين والهسبانيين).
التباعد: تختلف شدة التحولات. على سبيل المثال، يظهر Gemini تحولاً هبوطياً أقوى للنساء (–7.6 نقطة مئوية) مقارنة بالنماذج الأخرى، كما أن توليد العرق لديه أكثر توزيعية. ومع ذلك، فإن بنية التحيز (من يتم محوه مقابل من يتم المبالغة فيه) تظل ثابتة عبر النماذج.
الراتب: تتعامل النماذج مع الراتب كخاصية للمهنة وليس للفرد، مما يؤدي إلى ضغط فجوة الأجور بين الجنسين في العالم الحقيقي لتصل إلى الصفر تقريباً في معظم الحالات.

5. الأهمية والآثار المترتبة

التحيز الهيكلي: يشير تكرار هذه الأنماط عبر نماذج من الولايات المتحدة والصين وأوروبا إلى أن التحيزات ليست مجرد نتاج ضبط محدد للنماذج، بل هي متجذرة في مصادر هيكلية مشتركة، ومن المرجح أن تكون بيانات التدريب واسعة النطاق والارتباطات الثقافية المتضمنة فيها.
ما وراء نقص التمثيل: توضح الدراسة أن المبالغة في التمثيل والمبالغة في الصورة النمطية لا تقل ضرراً عن نقص التمثيل. فعلى سبيل المثال، فإن تصوير عاملات النظافة كأنهن هسبانيات بشكل شبه كامل يعزز الصور النمطية الضارة، بينما يؤدي المحو شبه الكامل للعمال السود من الأدوار المهنية إلى الحد من الرؤية والفرص الطموحة.
تصميم التدخلات: تشير النتائج إلى أن "الغسل التنوعي" (Diversity Washing) -أي مجرد زيادة عدد المجموعات الأقلية- غير كافٍ. يجب أن تستهدف التدخلات الآليات الهيكلية للتوليد (مثل الانتقال من الوضع الافتراضي النمطي إلى أخذ العينات التوزيعية) وأن تستهدف تحديداً عملية المحو للمجموعات المهمشة في الأدوار غير النمطية.
إطار التدقيق: يوفر تفكيك التحول/المبالغة المقترح أداة قابلة لإعادة الاستخدام لتدقيقات مستقبلية للتمييز بين التحيز الموحد وتضخيم الصورة النمطية، مما يوفر تشخيصاً أكثر دقة للعدالة في الذكاء الاصطناعي التوليدي.

ختاماً، تجادل الورقة بأن تدقيق الذكاء الاصطناعي التوليدي يتطلب تجاوز مقاييس الدقة البسيطة لفحص كيف تعيد المجموعات الاصطناعية تشكيل الرؤية الديموغرافية بشكل منهجي، وغالباً ما تعزز الهياكل الاجتماعية القائمة من خلال كل من المبالغة والمحو.