What Is The Political Content in LLMs' Pre- and Post-Training Data?
تتقصى هذه الورقة المحتوى السياسي في بيانات تدريب النماذج اللغوية الكبيرة، وتجد أن مجموعات بيانات ما قبل التدريب منحازة بشكل منهجي نحو وجهات النظر المنحازة لليسار، مع استمرار هذه الانحيازات عبر مراحل ما بعد التدريب وارتباطها القوي بالمواقف السياسية للنموذج الناتج، مما يسلط الضوء على الدور الحاسم لتكوين البيانات في تشكيل سلوك النموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف مساعداً جديداً لمساعدتك في كتابة رسائل البريد الإلكتروني، والإجابة على الأسئلة، وتقديم النصائح. أنت لا تكتفي بتسليمه دفتراً فارغاً؛ بل تعطيه مكتبة ضخمة من الكتب والمقالات والتدوينات ليقرأها قبل أن يبدأ العمل. هذا هو بالضبط كيف يتم بناء نماذج اللغات الكبيرة (LLMs) مثل تلك التي تشغل برامج الدردشة الآلية. فهي "تقرأ" تيرابايتات من بيانات الإنترنت لتتعلم كيف تتحدث وتفكر.
تطرح هذه الورقة سؤالاً بسيطاً ولكنه حاسم: ما نوع المكتبة التي أعطيناها لمساعدي الذكاء الاصطناعي هؤلاء، وهل تجعل هذه المكتبة نماذجهم منحازة؟
إليك تفصيل نتائجهم، مشروحة ببعض التشبيهات من الحياة اليومية.
١. المكتبة "المائلة لليسار"
نظر الباحثون في "الكتب" (البيانات) المستخدمة لتدريب ثلاثة نماذج ذكاء اصطناعي شهيرة مختلفة (OLMo، وFalcon، وPythia). أرادوا معرفة: هل المكتبة متوازنة، أم أنها منحازة لجهة معينة؟
- النتيجة: المكتبة منحازة بشدة لوجهات النظر المائلة لليسار.
- التشبيه: تخيل أنك تحاول التعرف على السياسة من خلال قراءة مجموعة من الصحف. إذا كانت ٨٠٪ من الصحف من صحف مثل The Guardian أو HuffPost (المائلة لليسار) و١٠٪ فقط من National Review أو The Telegraph (المائلة لليمين)، فستتعلم نسخة محددة جداً من العالم.
- الأرقـام: في البيانات التي حللوها، كان هناك من ٢.٣ إلى ١٢ ضعف عدد الوثائق المنحازة لليسار مقارنة بالوثائق المنحازة لليمين. الأمر يشبه نظاماً غذائياً لا تأكل فيه سوى نكهة واحدة من الآيس كريم؛ في النهاية، ستبدأ في الاعتقاد بأن هذه هي النكهة الوحيدة الموجودة.
٢. من أين تأتي الكتب؟ (المصدر)
نظر الباحثون أيضاً في أين جاءت هذه الوثائق.
- النتيجة: النصوص المنحازة لليسار جاءت غالباً من المنافذ الإخبارية المرموقة (مثل The New York Times أو The Washington Post). أما النصوص المنحازة لليمين فجاءت غالباً من المدونات، والمواقع الشخصية، والمجتمعات الهامشية (مثل Townhall أو FreeRepublic).
- التشبيه: فكر في بيانات اليسار كأنها عشاء رسمي يستضيفه صحفيون محترفون. أما بيانات اليمين فهي أشبه بـ حفلة شواء في فناء خلفي صاخبة مع أفراد متحمسين يصرخون بآرائهم. لقد "أكل" الذكاء الاصطناعي كليهما، لكن العشاء الرسمي قدم الكثير من الطعام.
٣. تأثير "غرفة الصدى"
كان أحد الأسئلة الكبيرة هو: إذا استخدمنا مكتبات مختلفة لنماذج ذكاء اصطناعي مختلفة، فهل سيكون لها انحيازات مختلفة؟
- النتيجة: للمفاجأة، لا. على الرغم من أن الباحثين استخدموا مصادر بيانات وطرق تصفية مختلفة لنماذج مختلفة، إلا أن الانحياز السياسي كان متطابقاً تقريباً.
- التشبيه: تخيل ثلاثة طهاة مختلفين (نماذج ذكاء اصطناعي مختلفة) يستخدمون ثلاث وصفات مختلفة (مجموعات بيانات مختلفة) لصنع الحساء. قد تتوقع أن يكون طعمها مختلفاً. لكن بدلاً من ذلك، كان طعمها جميعاً متطابقاً لأنهم جميعاً استخدموا المكون الرئيسي نفسه: وهو كمية ضخمة وغير مصفاة من الإنترنت التي تميل بطبيعتها لليسار. "التصفية" لم تغير النكهة كثيراً.
٤. "اللقمة الأولى" مقابل "الحلوى"
يحدث تدريب الذكاء الاصطناعي في مراحل:
١. ما قبل التدريب (Pre-training): يقرأ النموذج المكتبة الضخمة (الطبق الرئيسي).
٢. ما بعد التدريب (Post-training): يقوم البشر بضبط النموذج ليكون أكثر فائدة وتهذيباً (الحلوى).
- النتيجة: الانحياز السياسي مغروس في الطبق الرئيسي (ما قبل التدريب). وبحلول الوقت الذي يحاول فيه البشر ضبط النموذج بـ "الحلوى" (ما بعد التدريب)، يكون الانحياز موجوداً بالفعل. لم تغير الحلوى النكهة؛ بل جعلت الذكاء الاصطناعي يتحدث عن آرائه الحالية بتهذيب أكبر فقط.
- التشبيه: إذا علمت طفلاً أن "السماء خضراء" عندما يبلغ عامين (ما قبل التدريب)، ثم أخبرته في سن العاشرة أن "يكون مهذباً ومفيداً" (ما بعد التدريب)، فسيظل يعتقد أن السماء خضراء. سيصبح فقط مهذباً للغاية بشأن ذلك. لقد ترسخ الانحياز مبكراً واستقر.
٥. العلاقة: البيانات = السلوك
أخيراً، تحقق الباحثون مما إذا كانت إجابات الذكاء الاصطناعي الفعلية تتطابق مع الكتب التي قرأها.
- النتيجة: كان هناك تطابق قوي جداً (ارتباط بنسبة ٩٠٪). إذا قالت بيانات التدريب "تغير المناخ أمر ملح"، فإن الذكاء الاصطناعي يقول "تغير المناخ أمر ملح". وإذا قالت البيانات "يجب تقييد الهجرة"، كان الذكاء الاصطناعي أكثر عرضة للموافقة على القيود (على الرغم من أن البيانات كانت في الغالب ضد القيود، لذا كان الذكاء الاصطناعي غالباً ضدها أيضاً).
- التشبيه: الذكاء الاصطناعي هو ببغاء. ليس لديه آراء خاصة؛ هو فقط يكرر الأنماط التي سمعها في الغرفة أكثر من غيرها. إذا كانت الغرفة مليئة بأشخاص يصرخون بأفكار يسارية، فسيبدو الببغاء يسارياً.
الخلاصة الكبرى
تخلص الورقة إلى أنه لا يمكننا إصلاح انحياز الذكاء الاصطناعي بمجرد تعديل النموذج لاحقاً. الانحياز موجود في المكونات.
إذا أردنا أن يكون الذكاء الاصطناعي متوازناً وعادلاً حقاً، فنحن بحاجة إلى إصلاح المكتبة قبل أن يبدأ الذكاء الاصطنافي القراءة. نحن بحاجة إلى ضمان أن "الكتب" التي نغذيها له تمثل مزيجاً حقيقياً من الأصوات، وليس فقط الأصوات الأكثر صخباً أو الأكثر شيوعاً على الإنترنت.
باخت-اختصار: الذكاء الاصطناعي ليس "شريراً" أو "منحازاً" باختياره. إنه مجرد مرآة تعكس المكتبة المنحازة التي أعطيناها إياها. إذا كانت المكتبة غير متوازنة، فسيكون الانعكاس كذلك أيضاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.