GemDetox at TextDetox CLEF 2025: Enhancing a Massively Multilingual Model for Text Detoxification on Low-resource Languages
حقق نظام GemDetox، الذي يستفيد من نموذج Gemma-3 المكون من 12 مليار معلمة والمعزز بالضبط الدقيق الكفء للمعلمات، والتلقين بأسلوب القليل من الأمثلة، والسياق المعزز بالاسترجاع، مراكز متقدمة في تحدي CLEF 2025 لـ TextDetox من خلال إعادة صياغة النصوص السامة بفعالية إلى عبارات محايدة عبر اللغات ذات الموارد العالية والمنخفضة على حد سواء.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل وسائل التواصل الاجتماعي كساحة مدينة صاخبة ومزدحمة. أحياناً، يصرخ الناس بالإهانات، أو ينشرون الكراهية، أو يستخدمون لغة بذيئة تجعل الآخرين يشعرون بعدم الأمان. قام فريق "GemDetox" في جامعة كوبنهاغن ببناء "حارس سلام" رقمي للمساعدة في تنظيف هذه الساحة دون إسكات المتحدثين.
إليك كيف فعلوا ذلك، مشروحاً ببساطة:
المهمة: تنظيف الفوضى دون محو الرسالة
كان التحدي هو أخذ جملة واحدة مليئة بالكلمات السامة (مثل الإهانات أو الألفاظ النابية) وإعادة كتابتها لتبدو مهذبة ومحايدة، ولكن مع الحفاظ على المعنى الأصلي.
- التشبيه: تخيل شخصاً يصرخ: "أنت غبي وغير مفيد!" الهدف ليس حذف الجملة تماماً (وهذا يعتبر رقابة) أو تغيير الموضوع، بل بدلاً من ذلك، يعيد النظام كتابتها لتصبح: "أنا أشعر بالإحباط من أدائك". لقد زال الغضب، لكن الشكوى بقيت.
العقل: مترجم فائق الذكاء مع ذاكرة
لم يبنِ الفريق عقلاً جديداً من الصفر. بل استخدموا نموذج ذكاء اصطناعي ذكي جداً وموجود مسبقاً يسمى Gemma-3 (والذي يحتوي على 12 مليار "عصبون" أو معلمة/parameter). فكر في هذا النموذج كشخص متعدد اللغات يجيد بالفعل التحدث بـ 15 لغة مختلفة بطلاقة، من الإنجليزية والإسبانية إلى التتارية والهينجليش (مزيج من الهندية والإنجليزية).
ومع ذلك، كان هذا الشخص متعدد اللغات بحاجة لتعلم وظيفة محددة: كيف يكون مهذباً.
التدريب: تعليم الذكاء الاصطناعي أن يكون لطيفاً
لتعليم الذكاء الاصطناعي، أنشأ الفريق دليلاً تدريبياً خاصاً باستخدام ثلاث طرق مختلفة:
- كتيب الإنسان: بدأوا بـ 3,600 مثال حقيقي كتبها بشر، توضح بالضبط كيفية تحويل جملة سامة إلى جملة لطيفة.
- المترجم الآلي: بما أنهم لم يمتلكوا أمثلة بشرية لست لغات، فقد استخدموا مترجماً آلياً لتحويل تلك الأمثلة الـ 3,600 إلى اللغات المفقودة. الأمر يشبه تصوير كتاب وصفات ضوئياً وترجمة قائمة المكونات إلى لغة جديدة.
- تمارين الممارسة: قاموا بتوليد جمل ممارسة إضافية باستخدام الذكاء الاصطناعي نفسه، لكنهم كانوا صارمين جداً في تصفيتها. إذا كانت إعادة كتابة الذكاء الاصطناعي مشابهة جداً للإهانة الأصلية (مثل تغيير حرف واحد فقط)، فإنهم يتخلصون منها. احتفظوا فقط بالتي كانت مختلفة حقاً ولكنها تعني الشيء نفسه.
خدعة "التفكير":
علم الفريق الذكاء الاصطناعي طريقة خاصة للتفكير تسمى سلسلة الأفكار (Chain-of-Thought). فبدلاً من مجرد تخمين الإجابة، تم توجيه الذكاء الاصطناعي لاتباع قائمة مراجعة مكونة من أربع خطوات قبل التحدث:
- تحديد الكلمات السيئة.
- فهم موضوع الجملة الفعلي.
- إعادة كتابتها باستخدام كلمات لطيفة.
- التحقق المزدوج من أن الجملة الجديدة ليست مسيئة.
النتائج: انتصار للأغلبية، ولكن ليس للجميع
عندما اختبروا نظامهم في المسابقة:
- الفائز: جاء نظامهم في المركز الأول لمعظم اللغات، خاصة تلك التي تتوفر عنها بيانات كثيرة (مثل الإنجليزية والألمانية والفرنسية).
- الصعوبة: عانى النظام أكثر مع "اللغات ذات الموارد المنخفضة" (اللغات التي تتوفر عنها بيانات أقل، مثل الأمهرية أو التتارية). في هذه الحالات، كان الذكاء الاصطناعي ينتج أحياناً كلاماً غير مفهوم أو يغفل عن الإهانات الضمنية.
- الفجوة: وجد الفريق أن العامل الأكبر في مدى أداء الذكاء الاصطناعي كان ببساطة كمية البيانات الموجودة لتلك اللغة. إذا كانت اللغة تمتلك الكثير من أمثلة التدريب، كان الذكاء الاصطناعي يبدع، وإذا كانت قليلة، كان يتعثر.
الواقع المُر: إنه ليس مثالياً
كان المؤلفون صادقين بشأن العيوب:
- خلاف "الحَكَم": عندما طلبوا من ذكاء اصطناعي آخر متطور جداً تقييم عملهم (بصفته حكماً بشرياً)، انخفض نظامهم من المركز الأول إلى المركز الثالث. وهذا يشير إلى أنه بينما يتبع نظامهم القواعد جيداً، قد يفتقر إلى "الشعور البشري" الدقيق لما هو مسيء حقاً.
- النقاط العمياء الثقافية: أخطأ الذكاء الاصطناعي أحياناً في فهم المصطلحات العامية أو الإهانات الإقليمية لأنه تدرب غالباً على اللغة القياسية. على سبيل المثال، فاته مصطلح عامي أرجنتيني لكلمة "عديم القيمة" لأنه لم يكن موجوداً في بيانات التدريب الخاصة به.
- مشكلة الانحياز: النموذج الأساسي للذكاء الاصطناعي الذي استخدموه تم تدريبه على كمية هائلة من بيانات الإنترنت التي لا يمكننا رؤيتها. وهذا يعني أن الذكاء الاصطناعي قد يحمل بالفعل انحيازات مبنية مسبقاً لم يستطع الفريق معالجتها بالكامل.
الخلاصة
بنى فريق GemDetox أداة قوية يمكنها تلقائياً تنظيف منشورات وسائل التواصل الاجتماعي السامة بـ 15 لغة مختلفة. تعمل الأداة بشكل أفضل عندما يكون هناك الكثير من البيانات للتعلم منها وعندما يتم تعليم الذكاء الاصطناعي "التفكير خطوة بخطوة". ورغم أنها ليست مثالية ولا تزال تعاني مع الفروق الثقافية المعقدة، إلا أنها تمثل خطوة مهمة للأمام في مساعدة المشرفين على الحفاظ على سلامة المساحات عبر الإنترنت دون إسكات حرية التعبير.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.