HatePrototypes: Interpretable and Transferable Representations for Implicit and Explicit Hate Speech Detection

إليك ملخص تقني مفصل لورقة البحث بعنوان: "HatePrototypes: تمثيلات قابلة للتفسير وقابلة للنقل للكشف عن خطاب الكراهية الضمني والصريح."

1. بيان المشكلة

تواجه أنظمة الكشف عن خطاب الكراهية الحالية قيوداً حرجة مزدوجة:

• الفجوة بين الضمني والصريح: تركز المعايجات والنماذج الحالية بشكل أساسي على الكراهية الصريحة (الإهانات المباشرة، الشتائم). وهي تعاني في التعامل مع الكراهية الضمنية، التي تعتمد على إشارات دقيقة مثل السخرية، واللغة المشفرة، والقوالب النمطية، والمقارنات المهينة. تتطلب الكراهية الضمنية معالجة دلالية عميقة بدلاً من مجرد مطابقة الميزات السطحية.
• القابلية للنقل والكفاءة: تعتمد النهج القياسية على إعادة الضبط الدقيق (Fine-tuning) المتكرر للمجالات أو المهام الجديدة، وهو أمر مكلف حوسبياً وغالباً ما يفشل في التعميم عبر مجموعات البيانات (الأداء خارج النطاق ضعيف). علاوة على على ذلك، يتطلب الإشراف في الوقت الفعلي زمن استجابة منخفضاً، لكن الاستدلال بكامل النموذج يكون بطيئاً. كما أن طرق الخروج المبكر (Early-exiting) الموجودة غالباً ما تتطلب بارامترات تدريبية إضافية (بوابات) أو تواجه صعوبة في التعامل مع تفاصيل الكراهية الضمنية.

يتساءل المؤلفون عن ضرورة إعادة الضبط الدقيق المتكرر، ويقترحون استقصاء ما إذا كانت تمثيلات المتجهات على مستوى الفئة (النماذج الأولية - Prototypes) المستمدة من النماذج المحسنة يمكن أن تعمل كآلية قابلة للنقل وخالية من البارامترات للكشف والتسريع.

2. المنهجية: HatePrototypes

جوهر العمل هو إطار عمل HatePrototypes، الذي يستخدم مراكز الفئات (Class Centroids) المستمدة من الحالات الخفية (Hidden States) للنماذج اللغوية (LM).

أ. بناء النماذج الأولية (Prototype Construction)

• التعريف: النموذج الأولي ($\mu_c$) لفئة $c$ (كراهية أو غير كراهية) هو متوسط التضمين (Mean Embedding) لأمثلة التدريب لتلك الفئة، المستخرج من طبقة محددة $\ell$ من نموذج مدرب مسبقاً أو تم ضبطه دقيقاً.
• الاستخراج:
  • لنماذج الترميز (مثل BERT): الحالة الخفية لرمز [CLS].
  • لنماذج فك الترميز (مثل OPT, LLaMA): الحالة الخفية لآخر رمز غير حشوي (Non-padding token).
  • الصيغة: $\mu^{(\ell)}_c = \frac{1}{|D_c|} \sum_{(x,y) \in D_c} h^{(\ell)}(x)$.
• التصنيف: عند الاستدلال، يتم تصنيف مدخل جديد $x$ عن طريق حساب تشابه جيب التمام (Cosine Similarity) بين تمثيله والنماذج الأولية للفئات. ويتم اختيار الفئة ذات التشابه الأعلى.

ب. تطبيقان أساسيان

1. النقل عبر المهام/المجالات (Cross-Task/Domain Transfer):
   • يتم بناء النماذج الأولية من مجموعة بيانات مصدر (مثل Implicit Hate Corpus) وتُستخدم لتصنيف البيانات في مجموعة بيانات مستهدفة (مثل HateXplain) دون الحاجة لضبط دقيق لنموذج الهدف.
   • يختبر هذا مدى قابلية نقل التمثيلات الدلالية المتعلقة بالكراهية بين المجالات الصريحة والضمنية.
2. الخروج المبكر الموجه بالنماذج الأولية (Prototype-Guided Early Exiting):
   • الآلية: أثناء الاستدلال، يحسب النموذج درجات التشابه عند كل طبقة $\ell$. إذا تجاوز الهامش (الفرق) بين أعلى درجتي تشابه العتبة $\delta$ ($m^{(\hat{\ell})}(x) \geq \delta$)، تتوقف عملية المرور الأمامي (Forward Pass)، ويتم إجراء التنبؤ عند تلك الطبقة.
   • الميزة: هذه الطريقة خالية من البارامترات (لا تحتاج لتدريب رؤوس تصنيف أو بوابات إضافية) وتعتمد فقط على فجوة التشابه لتحديد الثقة.

3. الإعداد التجريبي

• النماذج:
  • المُرمِّزات (Encoders): BERT-base (109 مليون بارامتر).
  • مفككات الترميز (Decoders): OPT-125M (125 مليون بارامتر).
  • نماذج الحماية (Guard Models): LLaMA-Guard-1B و BLOOMZ-Guard-3B (للتقييم في مجال الإشراف على السلامة).
• مجموعات البيانات:
  • الكراهية الضمنية: Implicit Hate Corpus (IHC)، Social Bias Inference Corpus (SBIC).
  • الكراهية الصريحة: Offensive Language Identification Dataset (OLID)، HateXplain.
• النماذج المرجعية (Baselines): المصنفات التقليدية التي تم ضبطها دقيقاً، وطرق الخروج المبكر القائمة على الإنتروبيا (DeeBERT)، والطرق القائمة على الصبر (PABEE).

4. النتائج الرئيسية

أ. القابلية للنقل (الأداء عبر المجالات)

• قابلية نقل عالية: تتيح HatePrototypes مكاسب كبيرة في الأداء عند النقل بين مجموعات البيانات. على سبيل المثال، نقل النماذج الأولية من نموذج تم ضبطه دقيقاً على HateXplain (صريح) إلى SBIC (ضمني) أدى إلى تحسين درجات F1 بمقدار +28.02% لنموذج BERT مقارنة بالنموذج المرجعي.
• من الضمني إلى الصريح والعكس: النماذج الأولية المبنية من مجموعات بيانات الكراهية الضمنية (IHC, SBIC) تعمل بشكل جيد تقريباً مثل النماذج الأولية لنفس المجال عند تصنيف الكراهية الصريحة، والعكس صحيح. يشير هذا إلى وجود مساحة دلالية مشتركة لمفاهيم الكراهية بغض النظر عن كونها صريحة أم ضمنية.
• نماذج الحماية: تطبيق النماذج الأولية على نماذج حماية السلامة (LLaMA-Guard, BLOOMZ-Guard) عزز بشكل كبير قدرتها على اكتشاف الكراهية، خاصة للمحتوى الضمني (على سبيل المثال، ارتفع F1 لـ BLOOMZ-Guard على IHC من 49.49% إلى 60.92%).

ب. كفاءة النماذج الأولية (متطلبات البيانات)

• قدرة التعلم من أمثلة قليلة (Few-Shot): النماذج الأولية المبنية من 50 مثالاً فقط لكل فئة تحقق أداءً مقارباً للنماذج المبنية من 500 مثال. وهذا يثبت قوة التمثيل حتى مع وجود بيانات محدودة.

ج. أداء الخروج المبكر

• التسريع: تقلل استراتيجية الخروج المبكر القائمة على النماذج الأولية التكلفة الحوسبية بنسبة تقارب 20% (متوسط طبقة الخروج ~10.5 من أصل 12) مع فقدان ضئيل في الدقة (أقل من 1% في درجة F1).
• المقارنة: تتفوق على الطرق القائمة على الصبر (PABEE) وتماثل أو تتفوق على الطرق القائمة على الإنتروبيا (DeeBERT) في درجة F1، بينما تتطلب صفر بارامترات قابلة للتدريب لآلية الخروج.
• العمق الضمني مقابل الصريح: تتطلب عينات الكراهية الضمنية معالجة أعمق (طبقات خروج متأخرة) من الكراهية الصريحة. على سبيل المثال، في مجموعة بيانات SBIC، غالباً ما تخرج العينات حول الطبقات 9–12، بينما تخرج الكراهية الصريحة (HateXplain) في وقت أبكر. وهذا يتوافق مع الحدس بأن الكراهية الضمنية تتطلب عمقاً دلالياً أكبر لحلها.

5. المساهمات الرئيسية

1. إطار عمل HateProtophypes: تقديم طريقة خالية من البارامترات للكشف عن خطاب الكراهية باستخدام مراكز الفئات، مما يثبت أن التمثيلات الدلالية عالية المستوى قابلة للنقل بفعالية بين مجالات الكراهية الصريحة والضمنية.
2. النقل عبر المجالات: إثبات أن النماذج الأولية من مجموعة بيانات واحدة يمكنها تصنيف بيانات أخرى بفعالية، مما يقلل من الحاجة إلى الضبط الدقيق المكثف لكل معيار جديد.
3. الخروج المبكر الفعال: تطوير استراتيجية خروج مبكر قائمة على فجوة التشابه، مما يسرع الاستدلال دون إضافة بارامترات قابلة للتدريب، مع توضيح أن الكراهية الضمنية تتطلب معالجة أعمق للنموذج من الكراهية الصريحة.
4. إتاحة الموارد: إصدار الكود البرمدي، وموارد النماذج الأولية، وسكريبتات التقييم لتسهيل الأبحاث المستقبلية حول الكشف الفعال والقابل للنقل عن خطاب الكراهية.

6. الأهمية والتأثير

• الكفاءة: يقدم حلاً خفيف الوزن للإشراف في الوقت الفعلي من خلال تقليل زمن استجلال الاستدلال دون الحاجة لإعادة التدريب.
• القابلية للتفسير: يوفر التحليل على مستوى الطبقات رؤى حول مدى العمق الذي يحتاجه النموذج لمعالجة النص لاكتشاف الكراهية الضمنية (الخفية)، مما يساعد في فهم سلوك النموذج.
• التعميم: يعالج مشكلة "خارج النطاق" من خلال إظهار أن دلالات الكراهية مشفرة بطريقة تسمح بالنقل عبر المهام، مما قد يقلل من عبء ترميز البيانات للمنصات أو اللغات الجديدة.
• السلامة: يعزز قدرات حواجز حماية السلامة العامة (مثل LLaMA-Guard) لاكتشاف خطاب الكراهية الدقيق الذي قد تغفله.

القيود

• جودة الترميز (Annotation Quality): يعتمد على المعايقات الموجودة والتي قد تحتوي على ترميزات غير متسقة للكراهية الضمنية نظراً لطبيعتها الذاتية.
• فجوة الأداء: رغم كونه فعالاً، إلا أن الخروج المبكر قد يؤدي لنتائج أقل قليلاً مقارنة بالاستدلال بكامل النموذج في حالة البيانات خارج النطاق، وإن كان يمكن التخفيف من ذلك عبر ضبط عتبة الخروج.
• أحادي الوسيط (Unimodal): يركز حالياً على النصوص فقط؛ وقد يتوسع العمل المستقبلي ليشمل التمثيلات متعددة الوسائط.