Analysing LLM Persona Generation and Fairness Interpretation in Polarised Geopolitical Contexts
تحلل هذه الورقة كيفية توليد خمسة نماذج لغوية كبيرة لشخصيات فلسطينية وإسرائيلية عبر سياقات جيوسياسية متنوعة، كاشفةً أنه بينما تحاول النماذج دمج مفاهيم العدالة في استدلالاتها، إلا أنها غالباً ما تكرس الصور النمطية الاجتماعية والاقتصادية وتُظهر تعديلات غير متسقة في مخرجاتها النهائية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك خمسة "رواة قصص رقميين" مختلفين (نماذج ذكاء اصطناعي مثل GPT-4 وLlama وGemini). تطلب منهم ابتكار شخصية لقصة، ولكن مع لمسة مختلفة: تطلب منهم تخيل شخص محدد يعيش في إما فلسطين أو إسرائيل.
لقد تصرف الباحثون في هذه الورقة البحثية كالمحققين، حيث طلبوا من هؤلاء الرواة الرقميين ابتكار 64ً 640 شخصية مختلفة لمعرفة نوع القصص التي سيحكونها. أرادوا معرفة: هل تعامل هذه الأنظمة المجموعتين بإنصاف، أم أن لديها تحيزات خفية؟
إليك تفصيل نتائجهم، باستخدام تشبيهات من الحياة اليومية:
1. مرشح "منطقة الحرب"
طلب الباحثون من نماذج الذكاء الاصطناعي إنشاء شخصيتين في سيناريوهين مختلفين: أحدهما حيث لا توجد حرب، والآخر حيث توجد حرب مستعرة.
- الشخصيات الفلسطينية: عندما تم تفعيل مفتاح "الحرب"، غيرت نماذج الذكاء الاصطناعي الشخصيات الفلسطينية على الفور. أصبحوا أكثر فقراً، وتولوا وظائف تعتمد على الخطورة أو البقاء (مثل جمع الخردة أو حمل المياه)، وبدوا متعبين أو مصابين أو منهكين. وكأن الذكاء الاصطناعي فكر: "أوه، حرب؟ إذن يجب أن يكون هذا الشخص يكافح من أجل البقاء".
- الشخصيات الإسرائيلية: عندما تم تفعيل مفتاح "الحرب" بالنسبة للشخصيات الإسرائيلية، لم تبدِ النماذج أي رد فعل يذكر. ظلت هذه الشخصيات في الغالب من الطبقة المتوسطة، واحتفظت بوظائفها المهنية (مثل مهندسي البرمجيات أو المحامين)، ولم يتغير شكلهم كثيراً عن سيناريو "الوضع السلمي".
التشبيه: تخيل ممثلين يؤديان تجربة أداء لفيلم عن صراع ما.
- الممثل الذي يلعب دور الفلسطيني يُعطى معطفاً رثاً، وحذاءً مكسوراً، ويُطلب منه أن يبدو جائعاً وخائفاً.
- الممثل الذي يلقب بـ الإسرائيلي يُعطى بدلة أنيقة، وحقيبة عمل، ويُطلب منه أن يبدو مهنياً، رغم أن النص يقول "منطقة حرب".
الذكاء الاصطناعي يكتب في الأساس فيلمين مختلفين لنفس الصراع.
2. خلل "تعليمات السلامة"
حاول الباحثون بعد ذلك إصلاح هذا الأمر. قدموا للذكاء الاصطناعي "ملاحظة من المعلم" (أمر توجيهي) تقول: "يرجى توخي الحذر! لا تستخدم الصور النمطية. كن عادلاً وتجنب الافتراضات الضارة".
كنت تتوقع أن يصبح الذكاء الاصطناعي فجأة متوازناً ومنصفاً، لكن بدلاً من ذلك، ارتبك الذكاء الاصطناعي وانحرف بالبندول في اتجاه غريب ومختلف:
- تقلبات النوع الاجتماعي: بدأت نماذج الذكاء الاصطناعي فجأة تخمن أن الجميع تقريباً إناث أو غير ثنائيين جنسياً، مما أدى فعلياً إلى محو الرجال من القصة. كان الأمر كما لو أن معلماً يقول: "لا تفترض النوع الاجتماعي"، فاستجاب الطالب بجعل الجميع فتيات.
- "غطاء الأمان" الخاص بالطالب: بدأت نماذج الذكاء الاصطناعي تجعل الجميع تقريباً طلاباً. لماذا؟ لأن وصف "طالب" يبدو آمناً ومحايداً. إنها طريقة للذكاء الاصطناعي ليقول: "أنا أكون عادلاً!" دون منح الشخصيات وظائف أو خلفيات حقيقية ومتنوعة.
- التحيز الخفي: على الرغم من أن الذكاء الاصطناعي قال: "أنا عادل"، إلا أن الشخصيات الفلسطينية كانت لا تزال تُصور غالباً كفقيرة أو مكافحة، بينما ظلت الشخصيات الإسرائيلية مهنية. تعليمات "العدالة" غيرت التفاصيل السطحية (الجنس، المسمى الوظيفي) لكنها لم تعالج عدم المساواة العميقة في كيفية تصوير المجموعتين.
التشبيه: يشبه الأمر طباخاً قيل له: "لا تضع الكثير من الملح". وبدلاً من موازنة النكهات، وضع الطباخ فجأة السكر فقط في الحساء. أصبح الحساء الآن "غير مملح"، لكنه لا يزال ليس الطبق الصحيح. لقد حاول الذكاء الاصطناعي أن يكون "عادلاً" عبر تغيير الأشياء الخاطئة.
3. "المناجاة الداخلية" مقابل "الخطاب النهائي"
كان الجزء الأكثر إثارة للاهتمام في الدراسة هو النظر في "عملية التفكير" (آثار الاستدلال) للذكاء الاصطناعي قبل أن يكتب الوصف النهائي للشخصية.
- المناجاة الداخلية: عندما كان الذكاء الاصطناعي يفكر، بدا صوته مسؤولاً للغاية. كان يقول أشياء مثل: "يجب أن أكون حذراً لكي لا أكون متحيزاً"، أو "يجب أن أتجنب الصور النمطية". بدا وكأنه شخص عادل وأخلاقي للغاية.
- الخطاب النهائي: ولكن في اللحظة التي بدأ فيها كتابة وصف الشخصية، تجاهل نواياه الحسنة وعاد إلى الصور النمطية القديمة (الفلسطينيون = فقراء/ناجون؛ الإسرائيليون = مهنيون).
التشبيه: تخيل شخصاً يلقي خطاباً عن المساواة. في ملاحظاته (الاستدلال)، يكتب: "سأعامل الجميع بالتساوي تماماً". ولكن عندما يقف ويتحدث (التوليد)، يعامل عن غير قصد طرفاً كالملوك والطرف الآخر كالخدم. وجدت الورقة أن "ملاحظات" الذكاء الاصطناعي كانت صادقة، لكن "خطابه" كان لا يزال متحيزاً.
الخلاصة الكبرى
تظهر هذه الورقة البحثية أن نماذج اللغات الكبيرة (LLMs) ليست مجرد مرايا تعكس الواقع؛ بل هي رواة قصص نشطون لديهم تحيزاتهم الخاصة.
عندما يتحدث هؤلاء، فهم لا يكتفون بنقل الحقائق فحسب، بل يفسرون "العدالة" بطريقة غريبة وغير متسقة. قد يغيرون الجنس أو المسمى الوظيفي ليبدوا وكأنهم يحاولون أن يكونوا عادلين، لكنهم غالباً ما يفشلون في إصلاح عدم المساواة الهيكلية العميقة في نظرتهم لمجموعات مختلفة من البشر.
باختصار: إذا طلبت من الذكاء الاصطناعي أن يحكي قصة عن حرب، فقد يعطيك قصة يكون فيها طرف واحد ضحية والآخر مهنياً، بغض النظر عن عدد المرات التي تطلب فيها منه أن "يكون عادلاً". يحتاج الذكاء الاصطناعي إلى تعلم أن العدالة الحقيقية لا تقتصر فقط على تغيير بعض الكلمات، بل تتعلق بتغيير الصورة بأكملها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.