Are you sure? Measuring models bias in content moderation through uncertainty

إليك ملخص تقني مفصل لورقة البحث بعنوان "قياس تحيز النماذج في الإشراف على المحتوى من خلال عدم اليقين" (Measuring models bias in content moderation through uncertainty) للباحثين أوربيناتي وآخرون.

1. بيان المشكلة

يعد الإشراف التلقائي على المحتوى أمراً ضرورياً لسلامة وسائل التواصل الاجتماعي، ومع ذلك، غالباً ما تكرس مصنفات النماذج اللغوية (LMs) التحيزات العرقية والاجتماعية ضد الفئات المستضعفة (مثل الأشخاص غير البيض والنساء).

• الفجوة: يعتمد تقييم العدالة الحالي بشكل كبير على مقاييس الأداء مثل درجة F1. ومع ذلك، فإن الدقة العالية لا تضمن العدالة؛ فقد تحقق النماذج درجات F1 عالية بينما تظل غير متوافقة بشكل منهجي أو غير متسقة مع وجهات نظر الأقليات.
• التحدي: قياس تحيز النموذج في المهام الذاتية (مثل اكتشاف خطاب الكراهية) أمر صعب لأن "الحقيقة الأرضية" (ground truth) هي غالباً تجميع لآراء بشرية متنوعة. تفشل المقاييس القياسية في التقاط "الثقة" أو "عدم اليقين" الذي يظهره النموذج عند التنبؤ بالتصنيفات المقدمة من مجموعات اجتماعية وديموغرافية محددة.

2. المنهجية

يقترح المؤلفون نهجاً غير خاضع للإشراف باستخدام التنبؤ المتوافق (Conformal Prediction) لقياس عدم يقين النموذج كوكيل للتحيز. قاموا بتقييم 11 نموذجاً (8 نماذج لغوية تم ضبطها بدقة و3 نماذج لغوية كبيرة بنظام التعلم الصفري/zero-shot) على مجموعتين من بيانات خطاب الكراهية الموزعة ديموغرافياً: SBIC (مجموعة استدلال التحيز الاجتماعي) و CREHate.

الإطار الجوهري: التنبؤ المتوافق (Conformal Prediction)

بدلاً من درجات الاحتمالية القياسية، يستخدم المؤلفون التنبؤ المتوافق لتقييم مدى توافق تنبؤات النموذج مع النتائج المرصودة.

1. درجة بريير (Brier Score - $b$): تُستخدم كدرجة توافق لقياس مدى التوافق بين توزيع احتمالية النموذج والملصق الحقيقي (true label). تشير الدرجات المنخفضة إلى توافق أفضل (عدم يقين أقل).
2. دلتا التوافق ($\Delta$): تقيس التباين في ثقة النموذج عند مقارنة ملصق (label) مُعلق فردي مقابل المعيار الذهبي المجمع (تصويت الأغلبية).
   • $\Delta = b(\text{individual label}) - b(\text{aggregated label})$
   • تشير $\Delta$ المرتفعة إلى أن النموذج أكثر عدم يقيناً تجاه منظور فرد معين مقارنة بالإجماع.

المقاييس المقترحة

لتحليل التحيز عبر أربع مجموعات اجتماعية وديموغرافية (رجال بيض، نساء بيض، رجال غير بيض، نساء غير بيض)، قدم المؤلفون مقييزن:

• تباعد عدم اليقين (Uncertainty Divergence):

  • يحول دلتا التوافق إلى توزيع (سالب، صفر، موجب).
  • يحسب تباعد كولباك-ليبلر (KL Divergence) بين توزيع مجموعة البيانات الإجمالية وتوزيع مجموعة ديموغرافية محددة.
  • الهدف: تحديد ما إذا كان النموذج يظهر عدم يقيناً أعلى بشكل منهجي لمجموعات معينة مقارنة بالسكان العامين.

• التباعد الديموغرافي (Demographic Divergence):

  • يمثل كل مُعلق (annotator) كمتجه مكون من 40 بُعداً بناءً على تكرار قيم عدم اليقين الخاصة به (حاويات من -1 إلى 1).
  • يقوم بتجميع المُعلقين باستخدام K-Means بناءً على ملفات تعريف عدم اليقين هذه.
  • يحسب تباعد جينسن-شانون (JSD) للتوزيعات الديموغرافية عبر المجموعات الناتية.
  • الهدف: تقييم ما إذا كان عدم يقين النموذج يفصل المُعلقين طبيعياً حسب ديموغرافيتهم. التباعد المنخفض يعني العدالة (عدم اليقين لا يدفعه العامل الديموغرافي)؛ والتباين العالي يعني التحيز.

3. المساهمات الرئيسية

1. كشف التحيز غير الخاضع للإشراف: تقديم طريقة لتقييم عدالة النماذج باستخدام عدم اليقين بدلاً من الحقيقة الأرضية المصنفة، مع الاستفادة من التنبؤ المتوافق.
2. مقاييس مبتكرة: تعريف تباعد عدم اليقين والتباعد الديموغرافي لقياس التوافق بين ثقة النموذج والمجموعات الاجتماعية والديموغرافية.
3. معيار شامل: تقييم 11 نموذجاً من أحدث النماذج (بما في ذلك النماذج القائمة على BERT والنماذج اللغوية الكبيرة مثل Mistral و Olmo و Bloom) على مجموعتين من البيانات التي تعتمد على تعدد المنظورات.
4. تمثيل المستخدم: إثبات إمكانية تمثيل وتجميع المُعلقين بفعالية من خلال "بصمات عدم اليقين" الخاصة بهم، مما يكشف عن المجموعات الفرعية والتحيزات الخفية.

4. النتائج الرئيسية

السؤال البحثي الأول (RQ1): هل يعد عدم اليقين مؤشراً للتحيز؟

• الفصل بين الدقة والعدالة: لا يوجد ارتباط بين درجات F1 وتباعد عدم اليقين (القيم الاحتمالية p-values > 0.1). يمكن للنماذج ذات درجات F1 العالية أن تظهر أيضاً عدم يقيناً عالياً (عدم توافق) مع المجموعات الأقلية.
• التحيز المنهجي: تظهر معظم النماذج عدم يقيناً أعلى بكثير (توافق أقل) عند التنبؤ بملصقات صادرة عن أشخاص غير بيض مقارنة بالبيض.
• سلوك النماذج اللغوية الكبيرة (LLMs): تظهر النماذج اللغوية الكبيرة عموماً متوسط عدم يقين أعلى من النماذج اللغوية التي تم ضبطها بدقة، مما يشير إلى أنها أقل معايرة للمنظورات الديموغرافية المحددة رغم قدراتها العامة.
• أنماط النوع الاجتماعي: غالباً ما تؤدي النماذج بشكل أفضل (عدم يقين أقل) في الملصقات المقدمة من النساء مقارنة بالرجال في مجموعات بيانات محددة، رغم أن العرق يظل العامل المهيمن في التباعد.

السؤال البحثي الثاني (RQ2): هل يمكن تقييم العدالة عبر تمثيل المستخدم؟

• رؤى التجميع (Clustering): عندما يتم تجميع المُعلقين حسب عدم اليقين، فإن المجموعات الناتجة غالباً ما تفصل حسب الديموغرافيا.
• مقارنة النماذج:
  • Mistral-7B: حقق أفضل توازن، حيث أظهر تباعد عدم يقيناً منخفضاً وتباعداً ديموغرافياً منخفضاً، مما يشير إلى أنه عادل نسبياً عبر النوع الاجتماعي والعرق.
  • MuRIL: أظهر أدنى عدم يقين إجمالي ولكن سجل أعلى تباعد ديموغرافي، مما يعني أنه واثق جداً ولكنه متحيز منهجياً (ثقة عالية في تنبؤات خاطئة لمجموعات معينة).
  • Olmo-7B & Bloom: أظهرت قيماً سالبة للتباعد الديموغرافي، مما يشير إلى توزيع غير متساوٍ لعدم اليقين عبر الديموغرافيا.

5. الأهمية والآثار المترتبة

• ما وراء درجات F1: تجادل الورقة بأن الاعتماد فقط على مقاييس الأداء (F1) يحجب التحيزات الخفية. يمكن للنموذج أن يكون "دقيقاً" في المتوسط بينما يفشل في احترام وجهات نظر الأقليات المستضعفة.
• تحيزات ما قبل التدريب: يشير عدم اليقين المنهجي فيما يتعلق بالمُعلقين غير البيض إلى أن بيانات ما قبل التدريب تفتقر إلى المنظورات المتنوعة، مما يرسخ تحيزات لا يمكن للضبط الدقيق وحده إزالتها بالكامل.
• توجيه اختيار النماذج: يمكن لمقاييس عدم اليقين أن تعمل كـ "مخطط" لاختيار نماذج الإشراف على المحتوى التي تكون أكثر أماناً للسكان المتنوعين قبل نشرها.
• القيود: تقتصر الدراسة على فئات النوع الاجتماعي/العرق الثنائية (مع استبعاد الهويات غير الثنائية) وتعتمد على مجموعات بيانات قد تحمل تحيزاتها الخاصة في التصنيف.

الخاتمة

يخلص المؤلفون إلى أن عدم اليقين هو مؤشر قوي وغير خاضع للإشراف للتحيز. من خلال قياس مدى ثقة النموذج عند تفسير آراء المجموعات الاجتماعية والديموغرافية المختلفة، يمكن للباحثين تحديد وتخفيف التمييز المنهجي في أنظمة الإشراف على المحتوى التي تفشل مقاييس الدقة التقليدية في اكتشافه.