Bias in Large Language Models: Origin, Evaluation, and Mitigation

إليك شرح لورقة بحثية بعنوان "التحيز في النماذج اللغوية الكبيرة: الأصل، التقييم، والتخفيف"، مقسمة إلى مفاهيم بسيطة مع تشبيهات من الحياة اليومية.

الصورة الكبيرة: "القارئ الخارق" ذو النقطة العمياء

تخيل النموذج اللغوي الكبير (LLM) كأنه طالب متفوق للغاية قرأ كل كتاب، وموقع إلكتروني، ومنشور على وسائل التواصل الاجتماعي كُتب على الإطلاق. هذا الطالب ذكي للغاية ويمكنه كتابة المقالات، والإجابة على الأسئلة، وترجمة اللغات بشكل أفضل من أي شخص آخر.

ومع ذلك، ولأن هذا الطالب تعلم من كل شيء كتبه البشر، فقد تعلم أيضاً كل تحيزاتنا، وصورنا النمطية، وعاداتنا غير العادلة. تماماً مثل طفل نشأ في حي يعتقد فيه الجميع أن مجموعة معينة من الناس سيئون في الرياضيات، قد يبدأ هذا الطالب في الاعتقاد بذلك أيضاً، حتى لو لم يكن صحيحاً.

هذه الورقة البحثية هي دليل إرشادي ضخم يطرح ثلاثة أسئبلة رئيسية:

1. من أين جاءت هذه العادات السيئة؟ (الأصول)
2. كيف نمسك بالطالب وهو يغش؟ (التقييم)
3. كيف نعلمه أن يكون عادلاً؟ (التخفيف)

---

الجزء الأول: من أين تأتي العادات السيئة (الأصول)

قسم المؤلفون "العادات السيئة" (التحيز) إلى نوعين: داخلي (Intrinsic) وخارجي (Extrinsic).

1. التحيز الداخلي: "الذاكرة الداخلية"

فكر في هذا كأنه القاموس الداخلي والرؤية للعالم التي تشكلت لدى الطالب أثناء دراسته.

• بيانات التدريب (الكتب المدرسية): قرأ الطالب كتباً كان فيها "الأطباء" دائماً رجالاً و"الممرضات" دائماً نساءً. لذا، في ذاكرته الداخلية، يربط بين "الطبيب" و"الذكر" وبين "الممرضة" و"الأنثى". هذا هو تحيز البيانات.
• طريقة الجمع (المكتبة): تخيل أن الطالب ذهب فقط إلى مكتبات في بلد معين. سيعتقد أن عطلات ذلك البلد هي العطلات الوحيدة في العالم. هذا هو التحيز المكاني/الزماني.
• الأدوات (القلم والورقة): حتى الطريقة التي يجزئ بها الطالب الكلمات إلى قطع (الترميز - Tokenization) يمكن أن تكون غير عادلة. إذا كان "قلم" الطالب يجزئ أسماء المجموعات الأقلية إلى قطع صغيرة ومربكة بينما يبقي الأسماء الشائعة كاملة، فلن يتمكن من فهم أسماء الأقليات بشكل جيد. هذا هو تحيز الترميز.

2. التحيز الخارجي: "الأداء السيئ"

هذا يحدث عندما يطبق الطالب عاداته السيئة أثناء اختبار أو مهمة محددة.

• مهام الفهم (NLU): إذا سألت "من هو الطبيب؟" وكان النص يقول "وصل الطبيب"، فقد يخمن الطالب "هو" حتى لو لم يذكر النص الجنس، لأن ذاكرته الداخلية متحيزة.
• مهام التوليد (NLG): إذا طلبت من الطالب كتابة قصة عن قائد، فقد يجعل القائد رجلاً والممرضة امرأة تلقائياً، حتى لو لم تطلب ذلك.
• النتيجة: قد يقدم الطالب توصية بوظيفة لرجل على حساب امرأة، أو يترجم جملة بطريقة تهين ثقافة ما، ببساطة لأنه يكرر الأنماط التي رآها في بيانات التدريب الخاصة به.

---

الجزء الثاني: كيف نمسك بالغش (التقييم)

كيف نعرف ما إذا كان الطالب متحيزاً؟ تقترح الورقة فحصهم على ثلاثة مستويات مختلفة، مثل معلم يصحح لطالب.

1. فحص مستوى البيانات (فحص الكتب المدرسية):
   • قبل أن يبدأ الطالب حتى، ننظر في الكتب التي يقرأها. هل هناك كتب كثيرة عن الرجال وقليل منها عن النساء؟ هل هناك الكثير من الكتب من الولايات المتحدة ولا يوجد شيء من أفريقيا؟ نستخدم الرياضيات لحساب عدد مرات ظهور المجموعات المختلفة.
2. فحص مستوى النموذج (فحص الدماغ):
   • نحن "ننبش" في دماغ الطالب لنرى كيف يربط الأفكار. إذا سألناه "هل الممرضة رجل؟" وأضاء دماغ الطالب بكلمة "لا"، ولكن إذا سألناه "هل الطبيب رجل؟" وأضاء بكلمة "نعم"، فنحن نعلم أن هناك تحيزاً خفياً في روابطه. نستخدم أدوات مثل الواقعات المضادة (Counterfactuals) (تغيير اسم من "جون" إلى "جين" ورؤية ما إذا كانت الإجابة ستتغير).
3. فحص مستوى المخرجات (تصحيح الواجب المنزلي):
   • ننظر إلى الإجابات الفعلية التي يقدمها الطالب. هل يستخدم كلمات مسيئة لمجموعات معينة؟ هل يقدم نصائح مختلفة لأشخاص مختلفين؟ نستخدم أيضاً المراجعين البشريين (أشخاص حقيقيون) لقراءة الإجابات وقول: "مهلاً، هذا يبدو غير عادل".

---

الجزء الثالث: كيف نصلح العادات السيئة (التخفيف)

تقترح الورقة ثلاث طرق لـ "إزالة التحيز" من الطالب، اعتماداً على متى تتدخل.

1. إزالة التحيز قبل النموذج (تنظيف الكتب المدرسية)

• الفكرة: قبل أن يبدأ الطالب الدراسة، نقوم بتنظيف المكتبة.
• الطريقة: نضيف المزيد من الكتب عن المجموعات غير الممثلة كفاية (زيادة العينات) أو نزيل الكتب التي تحتوي على كراهية شديدة. قد نقوم حتى بإعادة كتابة الجمل لتبديل الجنس (مثلاً تغيير "الطبيب هو هو" إلى "الطبيب هي هي") حتى يتعلم الطالب كلا الخيارين.
• الإيجابيات/السلبيات: هي عملية رخيصة وسهلة للبدء، لكن لا يمكنك إصلاح كل شيء بمجرد تنظيف الكتب. بعض العادات السيئة تكون قد ترسخت بالفعل في بنية دماغ الطالب.

2. إزالة التحيز أثناء النموذج (إعادة توصيل الدماغ)

• الفكرة: أثناء دراسة الطالب، نجبره على التعلم بشكل مختلف.
• الطريقة: نغير قواعد اللعبة. إذا حاول الطالب ربط "ممرضة" بـ "أنثى"، فإننا نعطيه "درجة عقوبة" (دالة الخسارة - Loss Function) ليتعلم التوقف عن فعل ذلك. قد نقوم أيضاً بـ "تقليم" (قطع) أجزاء معينة من دماغه التي تحمل هذه الروابط السيئة.
• الإيجابيات/السلبيات: هي فعالة جداً في معالجة السبب الجذري، لكنها مكلفة وصعبة. إنها تشبه محاولة إعادة توصيل أسلاك كمبيوتر أثناء تشغيله.

3. إزالة التحيز بعد النموذج (تعديل الواجب المنزلي)

• الفكرة: نترك الطالب يكتب الإجابة، لكننا نعدلها قبل عرضها على العالم.
• الطريقة: إذا كتب الطالب جملة متحيزة، نستخدم مرشحاً (Filter) لتغيير الكلمات. أو نستخدم خدعة "التحفيز السببي" حيث نطلب من الطالب التفكير في المشكلة بطريقة معينة تجبره على تجاهل الصور النمطية.
• الإيجابيات/السلبيات: هي سريعة ولا تتطلب إعادة تدريب الطالب. ومع ذلك، فهي تشبه وضع ضمادة على جرح؛ فهي تعالج العرض ولكنها لا تعالج المرض.

---

الجزء الرابع: لماذا هذا مهم (الأخلاق والقانون)

تحذر الورقة من أن هذه التحيزات ليست مج مدى إزعاجاً فحسب؛ بل هي خطيرة.

• الأضرار التمثيلية: قد يقول الطالب "المسلمون عنيفون" أو "النساء لسن قائدات". هذا يؤذي مشاعر الناس ويعزز الصور النمطية السلبية في المجتمع.
• الأضرار التوزيعية: هذا هو المكان الذي يفقد فيه الناس فرصاً حقيقية في الحياة. إذا كان الطالب المتحيز يساعد شركة في التوظيف، فقد يرفض سيرة ذاتية لامرأة مؤهلة. إذا كان الطالب المتحيز يساعد مستشفى في تشخيص المرضى، فقد يغفل عن مرض في مجموعة أقلية.

تشير الورقة إلى أن القوانين بدأت تلحق بالركب. في أماكن مثل مدينة نيويورك والاتحاد الأوروبي، تُطالب الشركات الآن بمراجعة أدوات الذكاء الاصطني لاستخدامها للتأكد من أنها لا تميز ضد الناس بناءً على العرق أو الجنس أو العمر.

الخلاصة

هذه الورقة هي خارطة طريق. تخبرنا أن الذكاء الاصطناعي يشبه المرآة التي تعكس عيوب مجتمعنا. لبناء ذكاء اصطناعي عادل، لا يمكننا الاعتماد على حل واحد فقط. نحن بحاجة إلى تنظيف بياناتنا، وتدريب نماذجنا بعناية، وفحص عملهم باستمرار، وإصلاح المخرجات قبل أن تصل إلى الناس. إنها عملية مستمرة، وليست مهمة تُنجز لمرة واحدة.