Whose Story Gets Told? Positionality and Bias in LLM Summaries of Life Narratives
تقترح هذه الورقة مساراً قائماً على التلخيص للكشف عن التحيزات العرقية والجنسانية في التفسيرات التجريدية للنماذج اللغوية الكبيرة للسرديات البشرية، مع تسليط الضوء على الضرورة الأخلاقية لتحليل تموضع النموذج لمنع الضرر التمثيلي في البحث النوعي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مكتبة مليئة بمئات المذكرات الشخصية. هذه ليست مجرد قوائم بالمهام اليومية؛ بل هي قصص عميقة وعاطفية عن حياة الناس — كيف وقعوا في الحب، وكيف فقدوا أفراداً من عائلاتهم، وكيف صارعوا الإدمان، أو كيف وجدوا السعادة.
الآن، تخيل أنك وظفت روبوتاً فائق السرعة وذكياً للغاية (نموذج لغوي كبير، أو LLM) ليقرأ كل هذه المذكرات ويكتب ملخصاً قصيراً لكل منها. أنت تريد استخدام هذه الملخصات لفهم التجربة الإنسانية.
المشكلة:
تطرح الورقة البحثية سؤالاً مخيفاً: ماذا لو لم يكتفِ الروبوت بتلخيص القصة، بل أعاد كتابتها دون قصد بناءً على تحيزاته الخفية؟
إذا كتبت امرأة سوداء عن معاناتها، هل يلخص الروبوت قصتها بنفس الطريقة التي يلخص بها قصة رجل أبيض؟ أم أنه يغير النبرة، أو المواضيع، أو "العبرة من القصة" بشكل خفي بناءً على هوية الكاتب؟
تشبيه "الشبح في الآلة"
فكر في الباحث البشري كأنه مرشد سياحي. إذا كان المرشد السياحي من خلفية معينة (على سبيل المثال، نشأ في بلدة زراعية)، فقد يلاحظ تفاصيل مختلفة في المدينة عما سيلاحظه مرشد نشأ في ناطحة سحاب. في العلوم الاجتماعية، نسمي هذا "الموقعية" (Positionality). وهي الفكرة القائلة بأن من أنت يغير ما تراه.
عادةً ما يكتب الباحثون ملاحظة تقول: "أنا امرأة هندية تبلغ من العمر 30 عاماً، لذا إليكم كيف قد تؤثر خلفيتي على رؤيتي لهذه القصص".
لكن الذكاء الاصطناعي ليس لديه خلفية. ليس لديه طفولة أو ثقافة. لذا، كيف نعرف "العدسة" التي ينظر من خلالها؟ قرر مؤلفو هذه الورقة بناء "لوحة موقعية" (Positionity Portrait) للذكاء الاصطناعي. فبدلاً من سؤال "من هو الذكاء الاصطناعي؟"، سألوا "ماذا يفعل الذكاء الاصطناعي بالقصص؟".
التجربة: "المرآة السحرية"
أخذ الباحثون مجموعة بيانات من قصص واقعية من دراسة نفسية (أشخاص يتحدثون عن حياتهم على مدار تسع سنوات). وقاموا بتغذية هذه القصص لثلاثة نماذج مختلفة من الذكاء الاصطناعي (Llama و Qwen).
قاموا بشيئين:
- الاختبار الأعمى: طلبوا من الذكاء الاصطناعي تلخيص القصة دون إخباره من هو الشخص.
- اختبار التصنيف: طلبوا من الذكاء الاصطناعي تلخيص القصة مع إخباره صراحةً: "هذا الشخص رجل أسود" أو "هذه امرأة بيضاء".
ثم قارنوا النتائج لمعرفة ما إذا كان الذكاء الاصطقي سيغير ملخصه بناءً على التصنيف.
ماذا وجدوا؟ ("الانعكاسات المشوهة")
كانت النتائج مثل النظر في مرآة ملاهي (Funhouse mirror) تشوه الانعكاس بشكل مختلف اعتماداً على من يقف أمامها.
1. إعداد "الرجل الأبيض" الافتراضي
بدا أن الذكاء الاصطناعي يعامل قصص الرجال البيض كأنها النسخة "المعيارية" للحياة البشرية. فملخصاتهم ظلت الأقرب إلى الكلمات الأصلية. لكن بالنسبة للآخرين، بدأ الذكاء الاصطناعي بإجراء تغييرات.
- التشبيه: تخيل مترجماً يتحدث الإنجليزية بطلاقة ولكنه يواجه صعوبة في اللهجات. عندما يتحدث رجل أسود، لا يكتفي المترجم بترجمة الكلمات فحسب؛ بل يغير إحساس الكلمات دون قصد لتبدو أكثر "معيارية" أو "نمطية".
2. فخ "الدفء" مقابل "الكفاءة"
وقع الذكاء الاصطناعي في فخ الصور النمطية القديمة.
- الرجال السود: غالباً ما وصفهم الذكاء الاصطناعي بأنهم "دافئون" و"عاطفيون"، لكنه أحياناً جرد قصصهم من الشعور بالسيطرة أو الكفاءة. كان الأمر كما لو أن الذكاء الاصطناعي يفكر: "إنه شخص لطيف، لكن ربما ليس هو من يتخذ القرارات الكبيرة".
- النساء السود: ركز الذكاء الاصطناعي بكثافة على "عملهن الشاق" و"معاناتهن"، وغالباً ما تجاهل لحظات الترفيه أو البهجة لديهن. كان الأمر كما لو أن الذكاء الاصطناعي لا يراهن إلا كعاملات، وليس كبشر يستمتعن بالراحة أو اللعب أيضاً.
- النساء البيض: كان الذكاء الاصطناعي أكثر عرضة لتلخيص قصصهن مع التركيز على "الترفيه" و"السعادة"، حتى لو كانت القصة الأصلية تتحدث عن المعاناة.
3. خلل "النهاية السعيدة"
لدى الذكاء الاصطناعي عادة فرض نهايات سعيدة ومبهجة، حتى عندما لم يقل الشخص ذلك.
- الواقع: يقول شخص ما: "أنا مكتئب، أشعر بالملل، وأعاني من أجل النهوض من السرير".
- ملخص الذكاء الاصطناعي: "على الرغم من معاناتهم، إلا أنهم يجدون معنى جديداً وهدفاً في الحياة!"
لقد قام الذكاء الاصطناعي بتنعيم الألم، محولاً الواقع الإنساني الفوضوي إلى ملصق ملهم ومنمق. وهذا أمر خطير في علم النفس لأنه يمحو التجربة الإنسانية الحقيقية والخام.
4. "المحو العاطفي" للرجال
من المثير للدهشة أن الذكاء الاصطناعي غير قصص الرجال أكثر فيما يتعلق بالمشاعر. إذا كتب رجل عن كونه حزيناً أو ضعيفاً، فغالباً ما يلخص الذكاء الاصطناعي ذلك بأنه "قوي" أو "صامد". بدا وكأنه يجد صعوبة في قبول أن الرجال يمكن أن يكونوا عرضة للمشاعر، فقام بإعادة كتابة قصصهم لتناسب صورة "الرجل القوي".
الخلاصة: لماذا يهم هذا؟
المؤلفون لا يقولون "لا تستخدموا الذكاء الاصطناعي". هم يقولون: "لا تثقوا بالذكاء الاصطناعي ثقة عمياء".
إذا استخدم باحث ما الذكاء الاصطناعي لتحليل 1,000 مقابلة، فقد يعتقد أنه يرى الحقيقة. ولكن إذا كان الذكاء الاصطناعي يعيد كتابة القص{_} سراً لتناسب تحيزاته الخاصة، فإن نتائج البحث ستكون خاطئة.
الحل:
قبل استخدام الذكاء الاصطناعي لتحليل القصص البشرية، يجب على الباحثين إجراء اختبار "لوحة الموقعية". عليهم أن يسألوا:
- هل يلخص هذا الذكاء الاصطناعي الرجال السود بشكل مختلف عن الرجال البيض؟
- هل يجعل قصص النساء تبدو أكثر عاطفية من قصص الرجال؟
- هل يفرض نهايات سعيدة على القصص الحزينة؟
النقطة الجوهرة
فكر في الذكاء الاصطناعي ليس ككاميرا محايدة، بل كـ رسام له أسلوب محدد للغاية. إذا طلبت من هذا الرسام رسم بورتريه لامرأة سوداء، فقد يستخدم ألوانات وضربات فرشاة مختلفة عما سيستخدمه لرسم رجل أبيض.
تعلمنا هذه الورقة أن ننظر إلى أسلوب الرسام قبل أن نعلق اللوحة في متحفنا. فإذا لم نفعل ذلك، قد ينتهي بنا الأمر بعرض نسخة مشوهة من الواقع، ونحن نظن أنها الحقيقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.