Causality Guided Representation Learning for Cross-Style Hate Speech Detection

ملخص تقني: تعلم التمثيل الموجه بالسببية للكشف عن خطاب الكراهية عبر الأساليب المختلفة (CADET)

تعريف المشكلة
يمثل انتشار خطاب الكراهية عبر الإنترنت تحديًا كبيرًا لعمليات الإشراف على المحتوى، لا سيالما فيما يتعلق بالكشف عن خطاب الكراهية الضمني. فبينما يتميز خطاب الكراهية الصريح بالهجمات المباشرة والألفاظ النابية الواضحة، يعتمد خطاب الكراهية الضمني على السخرية، والتهكم، والقوالب النمطية، واللغة المشفرة، مما يجعل من الصعب على النماذج المدربة على السمات اللغوية السطحية اكتشافه. تعاني أنظمة الكشف الحالية من ضعف التعميم عبر التنوع في الأساليب والمنصات المختلفة؛ حيث تعتمد النماذج غالبًا على ارتباطات زائفة بين سمات أسلوبية محددة (مثل ألفاظ نابية معينة أو بناء جمل خاص بمنصة ما) وبين تسميات الكراهية، مما يؤدي إلى فشلها عند مواجهة التعبيرات الضمنية أو عند نشرها في منصات ذات سياقات ديموغرافية ورقابية مختلفة. تكمن المشكلة الجوهرية في التمييز بين نية الكراهية الحقيقية (العامل المسبب) وبين التجلي الأسلوبي (العامل المربك) الذي يتغير باختلاف المجالات.

المنهجية: إطار عمل CADET
يقترح المؤلفون إطار عمل CADET (تعلم التمثيل الموجه بالسببية للكشف عن خطاب الكراهية عبر الأساليب المختلفة)، وهو إطار قائم على رسم بياني سببي مفترض لتوليد خطاب الكراهية.

1. الفرضية السببية: يتم نمذجة توليد خطاب الكراهية كعملية تتضمن:

   • البيئة السياقية ($U$): عامل مربك غير ملاحظ (مثل سياسات المنصة، أو الديموغرافيا) يؤثر على دوافع المبدع، واختيار الهدف، والخيارات الأسلوبية.
   • العوامل الكامنة:
     • دافع المبدع ($M$): النية لإلحاق الأذى.
     • الهدف ($T$): المجموعة أو الفرد المستهدف.
     • الأسلوب ($S$): التعبير اللغوي (صريح مقابل ضمني).
   • الدافع الحقيقي ($M^*$): متغير كامن ثابت عبر المجالات يمثل نية الكراهة الحقيقية، والمستقل عن البيئة السياقية $U$.
   • التسمية ($Y$): تتحدد بناءً على الدافع الحقيقي $M^*$ والسياق $U$.

2. مكونات البنية الهيكلية:

   • فك الارتباط المتوافق سببياً: يستخدم النموذج مشفراً مدرباً مسبقاً (RoBERTa) لتعيين النص في مساحة كامنة، ثم يقوم بفك ارتباط هذا التمثيل إلى أربعة عوامل كامنة: متغيرات مستمرة للدافع ($z_m$) والمربك ($z_u$)، ومتغيرات منفصلة للهدف ($z_t$) والأسلوب ($z_s$) باستخدام Gumbel-Softmax.
   • تخفيف حدة العوامل المربكة: لمنع العوامل الكامنة من ترميز ارتباطات زائفة مع السياق، يستخدم الإطار:
     • إعادة بناء المربك التنافسي: تُستخدم طبقة عكس التدرج (GRL) حيث تحاول المميِّزات استعادة المربك $U$ من العوامل الكامنة المدمجة. ويتم تدريب المشفّر لتقليل عملية الاستعادة هذه، مما يؤدي فعلياً إلى إزالة $U$ من العوامل السببية.
     • قيود التعامد: تضمن عمليات الإسقاط أن تكون العوامل الكامنة ($M, T, S, U$) متعامدة متبادلة، مما يفرض استقلالاً إحصائياً.
     • إعادة بناء المدخلات: يقوم وحدة فك الترميز (Decoder) بإعادة بناء النص الأصلي من العوامل الكامنة المدمجة لضمان أن فك الارتباط يحافظ على المعنى الدلالي.
   • الاستدلال المضاد للواقع في الفضاء الكامن: لفرض ثبات الأسلوب، يتدخل النموذج في متغير الأسلوب الكامن ($S$) داخل المساحة الكامنة. تقوم "شبكة قلب الأسلوب" بعكس الأسلوب (على سبيل المثال، من صريح إلى ضمني) مع إبقاء الدافع والهدف ثابتين. ويتم تدريب النموذج لضمان بقاء توقع الكراهية متسقاً بغض النظر عن تدخل الأسلوب (خسارة الاتساق المضاد للواقع).

3. هدف التدريب: يتم تحسين النموذج باستخدام دالة خسارة متعددة الأهداف تجمع بين خسارة المهمة (تصنيف الكراهية)، وتصنيف الهدف/الأسلوب، والتعامد، وإزالة الارتباط التنافسي، وإعادة البناء، وخسارة الاتساق المضاد للواقع. كما يتم استخدام منهج تدريب تدريجي لاستقرار عملية التحسين لهذه الأهداف المتنافسة.

المساهمات الرئيسية

• رسم بياني سببي مبدئي: قدمت الورقة نموذجاً سببياً رسمياً يفصل عملية توليد خطاب الكراهية إلى عوامل كامنة قابلة للتفسير (الدافع، الهدف، الأسلوب، السياق)، مما يوحد بين الكشف عن الكراهية الصريحة والضمنية.
• إطار عمل CADET: هو تطبيق لتعلم التمثيل الذي يعمل على تشغيل هذا الرسم البياني، باستخدام الاستدلال المضاد للواقع وإزالة الارتباط التنافسي لعزل نية الكراهية عن السمات الأسلوبية.
• التحقق التجريبي: أظهرت تجارب مكثفة على أربع مجموعات بيانات من العالم الحقيقي (IsHate, IHC, AbuseEval, DynaHate) تفوقاً في أداء مهام التعميم عبر الأساليب مقارنة بأفضل النماذج المرجعية الحالية، بما في ذلك نماذج معالجة اللغات الطبيعية التقليدية، وكاشفات خطاب الكراهية المتخصصة، والنماذج اللغوية الكبيرة.

النتائج

• التعميم عبر الأساليب: حقق CADET متوسط F1 كلي قدره 0.81 في مهام النقل من الصريح إلى الضمني، مما يمثل تحسناً نسبياً بنسبة 13% عن أقوى نموذج مرجعي. وفي حالة النقل من الضمني إلى الصريح، حافظ على متوسط F1 قوي قدره 0.885.
• المتانة: على عكس النماذج التقليدية التي تظهر استدعاءً عالياً ولكن دقة منخفضة في السياقات الضمنية (أو العكس)، يحافظ CADET على أداء متوازن. كما أنه يتفوق بشكل كبير على النماذج السببية المرجعية (PEACE, HateWATCH) والكاشفات القائمة على النماذج اللغوية الكبيرة (ShieldGemma, Llama Prompt Guard)، والتي تظهر أداءً متذبذباً أو فشلاً في سيناريوهات نقل الأساليب.
• دراسات الاستئصال (Ablation Studies): أدى حذف خسارة التناقض المضاد للواقع ($L_{cf}$) إلى أكبر انخفاض في الأداء (انخفاض 24 نقطة في F1)، مما يؤكد الدور الحاسم لتدخل الأسلوب في تعلم تمثيلات ثابتة.
• التصور: تؤكد تصورات t-SNE أن مساحة الدافع الكامنة ($z_m$) تفصل بوضوح بين المنشورات التي تحتوي على كراهية وتلك التي لا تحتوي، بينما لا تفعل مساحات الهدف والأسلوب والمربك ذلك، مما يثبت نجاح فك الارتباط للعوامل السببية.

الأهمية
تزعم الورقة أن CADET يقدم حلاً مبدئياً لتحدي الكشف عن خطاب الكراهية الثابت تجاه الأساليب. ومن خلال تحويل التركيز من الأنماط اللغوية السطحية إلى النية السببية الكامنة، يعالج الإطار هشاشة النماذج الحالية تجاه الكراهية الضمنية وتحولات النطاق. يسلط العمل الضوء على إمكانات فك الارتباط السببي والاستدلال المضاد للواقع في إنشاء أنظمة إشراف على المحتوى أكثر متانة وقابلية للتفسير والتعميم، مما يوفر مساراً نحو بيئات عبر الإنترنت أكثر أماناً وقدرة على التكيف مع الأشكال المتطورة لخطاب الكراهية.