Reliability of Urdu–Arabic Abusive Language Detection with Cross- Lingual Transformers and Explainable AI
تقيم هذه الدراسة نموذج XLM-RoBERTa ثنائي اللغة للكشف عن اللغة المسيئة في اللغتين الأردية والعربية، كاشفةً أنه بينما يحقق التدريب المشترك دقة عالية، إلا أن النظام يفتقر إلى النقل القوي عبر اللغات والحساسية للسياق، مما يؤكد ضرورة إجراء اختبارات موثوقية مستهدفة بدلاً من الاعتماد على المقاييس الإجمالية وحدها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
على وسائل التواصل الاجتماعي، نما حجم خطاب الكراهية بسرعة أكبر مما يمكن للمراقبين البشريين قراءته. ولمواكبة هذا التسارع، يعمل الباحثون على بناء برامج حاسوبية يمكنها رصد اللغة المسيئة تلقائياً. لسنوات طويلة، عملت هذه الأدوات بشكل جيد مع اللغة الإنجليزية، لكنها غالباً ما تتعثر عندما تواجه لغات مثل الأردية والعربية، التي يتحدث بها مئات الملايين من البشر. ويتمثل أحد العوائق الرئيسية في أن هذه اللغات تُكتب من اليمين إلى اليسار وتتميز بنصوص معقدة، مما يجعل من الصعب على البرمجيات القياسية تحليلها. علاوة على ذلك، حتى عندما يحدد البرنامج الحاسوبي منشوراً سيئاً بشكل صحيح، فإنه عادة لا يقدم تفسيراً لسبب اتخاذه لهذا القرار. وهذا النقص في الشفافية يجعل من الصعب على المراقبين البشريين الوثوق بالأداة أو فهم ما إذا كان الحاسوب منحازاً ضد مجموعات معينة. إن الهدف من البحث الحديث في هذا المجال ليس مجرد بناء كاشف يعطي الإجابة الصحيحة معظم الوقت، بل بناء كاشف يمكنه شرح منطقه ويظل موثوقاً حتى عندما يكون النص غير مرتب أو مكتوباً بلهجات مختلفة.
لقد عزم فريق من الباحثين من جامعات في باكستان والسعودية على حل هذه المشكلات المحددة عبر إنشاء نموذج حاسوبي واحد قادر على فهم كل من الأردية والعربية. قاموا بجمع مجموعة ضخمة تضم أكثر من 65,000 منشور من وسائل التواصل الاجتماعي، تم تصنيفها بعناية إما على أنها مسيئة أو غير مسيئة، لتعليم نظامهم. وعلى عكس المحاولات السابقة التي كانت تعامل كل لغة على حدة، قاموا بتدريب نموذجهم ليتعلم من كلتا اللغتين في وقت واحد. وأظهرت النتائج أن هذا النهج المشترك قد نجح: حيث حدد النموذج المحتوى المسيء بشكل صحيح في حوالي 82 في المئة من الحالات لكلتا اللغتين، مما أظهر مهارة متساوية تقريباً في الأردية والعربية. ومع ذلك، عندما اختبروا ما إذا كان بإمكان النموذج فهم لغة واحدة بعد تدريبه على اللغة الأخرى فقط، فقد فشل تماماً، حيث خمن بشكل صحيح في حوالي نصف الحالات فقط. وكشفت هذه النتيجة حقيقة جوهرية: وهي أن نجاح النموذج لم يأتِ من قدرة سحرية على الترجمة بين اللغات، بل من العمل المحدد المتمثل في تعلم اللغتين معاً.
ولضمان أن النموذج لا يقوم بمجرد التخمين، طلب الباحثون منه الإشارة إلى الكلمات المحددة التي أدت إلى قراره. استخدموا طريقتين رياضيتين مختلفتين للتحقق من الكلمات الأكثر أهمية، ووجدوا أن هاتين الطريقتين تتفقان مع بعضهما البعض في حوالي ثلث الحالات فقط. يشير هذا إلى أنه لا توجد طريقة واحدة مثالية للعثور على "السبب" وراء قرار ما. ثم حاول الفريق جعل منطق الحاسوب أكثر قابلية للقراءة من قبل البشر عن طريق تغذية نتائج ما توصل إليه في نموذج لغوي كبير، والذي كتب تفسيرات قصيرة باللغة الإنجليزية البسيطة. وبينما بدت هذه التفسيرات جيدة واقتبست العديد من الكلمات المهمة، أظهر اختبار صارم أنها لم تكن دائماً وفية لمنطق الحاسوب الفعلي. فعندما قام الباحثون بإزالة الكلمات التي سلط الحاسوب الضوء عليها، تغير التنبؤ بشكل ملحوظ، ولكن عندما أزالوا الكلمات التي اقتبسها شرح الحاسوب المكتوب، ظل التنبؤ كما هو في كثير من الأحيان. وهذا يعني أن التفسيرات المكتوبة كانت أحياناً تكتفي بترديد الكلمات الصحيحة دون التقاط المنطق الداخلي للحاسوب حقاً.
كما اختبرت الدراسة مدى قوة النظام عندما يكون النص غير كامل، وهو أمر شائع في وسائل التواصل الاجتماعي الواقعية. تعامل النموذج مع غياب علامات التشكيل والأخطاء المطبعية العشوائية بشكل معقول، لكنه عانى بشكل كبير عندما كُتبت الأردية باستخدام الحروف اللاتينية، وهو ممارسة شائعة في الدردشات غير الرسمية عبر الإنترنت. وقد سلط هذا الانخفاض في الأداء الضوء على فجوة في بيانات التدريب. ولعل الأهم من ذلك، اكتشف الباحثون أن النموذج يمكن خداعه بسهولة بواسطة السياق. فقد كان يصنف جملة ما على أنها مسيئة لمجرد أنها تحتوي على كلمة حساسة، حتى لو كانت الجملة في الواقع تقدم نصيحة أخلاقية أو تستخدم الكلمة بطريقة غير مسيئة. على سبيل المثال، قد يخطئ في اعتبار تحذير من سلوك غير لائق بمثابة إهانة. ومن خلال إضافة قدر صغير من التدريب الإضافي الذي يركز خصيصاً على هذه السياقات الصعبة، تمكن الباحثون من إصلاح هذا الخطأ، مما سمح للنموذج بالتمييز بين الإهانة والتحذير دون فقدان دقته الإجمالية.
النتيجة النهائية لهذا العمل هي نظام يفعل أكثر من مجرد تحديد المنشورات السيئة؛ فهو يوفر "بطاقة موثوقية" لكل قرار. تسرد هذه البطاقة مستوى الثقة في التنبؤ، والكلمة المحددة التي أطلقت التنبيه، والهدف من الهجوم، والسبب وراء التصنيف. ويؤكد الباحثون أن هذه الأداة مصممة لمساعدة المراقبين البشريين، وليس لاستبدالهم. فمن خلال إظهار سبب وسم المنشور بالضبط والاعتراف عندما يكون غير متأكد، يساعد النظام البشر على اتخاذ قرارات نهائية أفضل. وتخلص الدراسة إلى أنه لكي تكون الأنظمة متعددة اللغات موثوقة حقاً، يجب اختبارها ضد هذه التحديات المحددة — مثل السياق واختلافات النصوص — بدلاً من مجرد النظر إلى درجة إجمالية واحدة. ويتضمن المسار المستقبلي صقل هذه الأدوات للتعامل مع الواقع الفوضوي للغة البشرية مع إبقاء العنصر البشري في الحلقة لضمان العدالة والدقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.