Polarization by Default: Auditing Recommendation Bias in LLM-Based Content Curation
تكشف هذه الدراسة أن تنسيق المحتوى القائم على النماذج اللغوية الكبيرة يضخم الاستقطاب بشكل منهجي ويظهر تحيزات متميزة خاصة بكل مزود فيما يتعلق بالتعامل مع السمية والمشاعر، بينما يفرط باستمرار في تمثيل المؤلفين ذوي التوجه اليساري على تويتر/إكس بغض النظر عن استراتيجيات التلقين المستخدمة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدخل مكتبة ضخمة وفوضوية حيث يصرخ الملايين من الناس بقصص، ونكات، وأخبار، وتذمرات في آن واحد. في الماضي، كان أمين مكتبة بشري سيقف على سلم، ويستمع إلى بعض الصرخات، ويقرر أي القصص يضعها على رف "الأفضل لهذا الأسبوع" ليقرأها الجميع.
الآن، تخيل أن أمين المكتبة البشري هذا قد استُبدل بـ ثلاثة روبوتات مختلفة فائقة الذكاء (GPT من OpenAI، وClaude من Anthropic، وGemini من Google). هذه الروبوتات مكلفة بقراءة 100 صوت صاخب واختيار أفضل 10 لوضعها على الرف.
هذه الورقة البحثية هي تجربة ضخمة حيث سأل الباحثون: "إذا أعطينا هذه الروبوتات تعليمات مختلفة، هل ستختار قصصاً مختلفة؟ وهل هي عادلة؟"
إليك تفاصيل ما وجدوه، باستخدام بعض التشبيهات من الحياة اليومية:
1. الروبوت "الافتراضي" منحاز بالفعل
حتى عندما أخبر الباحثون الروبوتات بأن تكون "محايدة" (فقط "رتب هذه المنشورات")، لم تتصرف الروبوتات كصفحات بيضاء. لقد كانت لديها تفضيلات خفية متجذرة في أدمغتها من كل البيانات التي تدربت عليها.
- التشبيه: الأمر يشبه أن تطلب من طاهٍ أن "يصنع شطيرة فقط" دون تحديد المكونات. الطاهي لن يصنع شطيرة عادية؛ بل سيصنع شطيرة بمكوناتها المفضلة لأن هذا ما تعلم أن يحبه.
- النتيجة: حتى مع عدم وجود تعليمات محددة، اختارت الروبوتات باستمرار محتوى أكثر استقطاباً (متطرفاً). لقد أحبوا الدراما والصراع.
2. تأثير "خاتم المزاج" (التوجيه)
اختبر الباحثون ستة "أمزجة" أو تعليمات مختلفة للروبوتات، مثل طلب العثور على "المنشور الأكثر شعبية" أو "المنشور الأكثر تعليمية".
- التشبيه: فكر في الروبوتات كممثلين. إذا قلت للممثل أن يلعب دور "الشرير"، سيتصرف بشكل مخيف. إذا قلت له أن يلعب دور "البطل"، سيتصرف بشجاعة. النص (التوجيه) يغير كيفية سلوكهم، لكن الممثل (نموذج الروبوت المحدد) لا يزال يمتلك شخصيته الخاصة.
- المفاجأة:
- السمية: عندما طُلب منها البحث عن محتوى "جذاب" (إعجابات/مشاركات)، أحبت الروبوتات في الواقع المنشورات السامة والسيئة. ولكن عندما طُلب منها البحث عن محتوى "معلوماتي"، رفضت المنشورات المسيئة فوراً.
- المشاعر: عندما طُلب منها أن تكون "جذابة"، فضلت الروبوتات المحتوى السلبي، الغاضب، أو الحزين. وعندما طُلب منها أن تكون "معلوماتية"، فضلت المحتوى الإيجابي.
3. "العدسة السياسية" على تويتر
على تويتر (X)، استطاع الباحثون تخمين الآراء السياسية للأشخاص الذين ينشرون بناءً على سيرهم الذاتية.
- الإعداد: في مجموعة الاختبار الخاصة بهم، كان هناك في الواقع عدد أكبر من الأشخاص المنحازين لليمين يصرخون مقارنة بالمنحازين لليسار (نسبة 43% مقابل 17%).
- النتيجة: رغم أن الحشد المنحاز لليمين كان أكبر، إلا أن الروبوتات الثلاثة اختارت باستمرار أصواتاً أكثر ميلاً لليسار.
- التشبيه: تخيل بلدة حيث يرتدي 70% من الناس قبعات حمراء و30% يرتدون قبعات زرقاء. ولكن في كل مرة يختار فيها عمدة البلدة (الروبوت) متحدثاً للمنصة، فإنه يختار شخصاً يرتدي قبعة زرقاء. ليس لأن العمدة ينظر إلى القبعات مباشرة؛ بل لأن العمدة تعلم أن "القبعة الزرقاء" مرتبطة بـ "الخطاب المثير للاهتمام" في بيانات تدريبه.
- نقطة حاسمة: الروبوتات لم تُخبر من هو يساري أو يميني. لقد استنتجت الانحياز من أسلوب الكتابة.
4. الروبوتات الثلاثة لها شخصيات مختلفة
قارنت الدراسة بين مزودي الذكاء الاصطناي الثلاثة الكبار، وقد تصرفوا كثلاثة أشخاص مختلفين:
- OpenAI (GPT-4o Mini): هو "إيدي المستقر". بغض النظر عن التعليمات التي تعطيها له، ظل هذا الروبوت الأكثر اتساقاً وتوازناً. لم يتأرجح بجنون بين كونه سيئاً أو لطيفاً.
- Anthropic (Claude): هو "الحرباء". كان هذا الروبوت حساساً جداً لتعليمات "السلامة". كان بارعاً في تجنب المحتوى السام عندما طُلب منه أن يكون معلوماتياً، لكنه كان الأكثر عرضة للسماح للمحتوى السام بالمرور عندما طُلب منه أن يكون "جذاباً".
- Google (Gemini): هو "العبوس". كان لهذا الروبوت أقوى تفضيل للمحتوى السلبي، الغاضب، والسام، خاصة عندما طُلب منه أن يكون جذاباً.
5. "اليد الخفية" للانحياز
الجزء الأكثر رعباً في الدراسة هو كيف يحدث الانحياز.
- النتيجة: لم تقل الروبوتات صراحةً: "أنا أختار هذا الشخص لأنه امرأة" أو "لأنه منحاز لليسار".
- التشبيه: الأمر يشبه مدير توظيف يقول: "لم أنظر إلى اسم المرشح، لكنني رفضت المرشح لأن أسلوبه في الكتابة كان 'غير رسمي للغاية'". المدير لم ينظر إلى الاسم، لكن "الأسلوب غير الرسمي" كان في الواقع وسيطاً (Proxy) لخلفية المرشح.
- الواقع: اختارت الروبوتات الأصوات المنحازة لليسار أو مجموعات ديموغرافية معينة لأن تلك المجموعات كانت تميل للكتابة بأسلوب معين (مستقطب، مواضيع محددة) تعلمت الروبوتات أن تحبه. حتى لو أخفيت اسم المؤلف، ستظل الروبوتات تختار نفس الأشخاص بسبب طريقة كتابتهم.
الخلاصة الكبرى
نحن نسلم مفاتيح ما يراه مليارات البشر على وسائل التواصل الاجتماعي لهذه الروبوتات.
- المشكلة: هذه الروبوتات تحب بطبيعتها الدراما، الغضب، والاستقطاب.
- الوهم: نعتقد أننا نستطيع إصلاح ذلك بمجرد تغيير التعليمات (التوجيه). لكن الدراسة تظهر أنه بينما تغير التوجيهات الأشياء قليلاً، فإن "الإعداد الافتراضي" للروبوتات لا يزال منحازاً.
- التحذير: إذا تركنا هذه الروبوتات تنظم خلاصات الأخبار لدينا دون إشراف صارم، فمن المرجح أن تظهر لنا عالماً أكثر غضباً، وأكثر انقساماً، وأكثر انحيازاً لآراء سياسية معينة مما هو عليه في الواقع.
باختصار: الروبوتات ليست أمناء مكتبة محايدين؛ بل هم منسقون منحازون لديهم أنواعهم المفضلة، وهم حالياً يضخمون الأصوات الأعلى والأكثر غضباً في الغرفة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.