Cost-sensitive multi-label classification in BERT-based models: An inverse-frequency re-weighting approach to emoji pragmatics
تُظهر هذه الدراسة أن تطبيق نهج إعادة التوزين بتردد عكسي على نموذج MARBERT يتفوق بشكل كبير على النماذج المرجعية في تصنيف الوظائف التداولية للرموز التعبيرية (emojis) غير الممثلة كفايةً ضمن الخطاب الرقمي العربي، مما يعالج بفعالية الاختلال الشديد في توازن الملصقات لتعزيز التداولية الحاسوبية في معالجة اللغات الطبيعية للغة العربية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في المشهد الصاخب والواسع لوسائل التواصل الاجتماعي، يمكن لمنشور واحد أن يحمل عشرات المعاني المختلفة في آن واحد. فقد تكون الجملة مزحة، وتنهيدة ارتياح، وانتقاداً مبطناً لصديق، وكل ذلك مغلف في بضع كلمات وحفنة من الرموز الملونة. بالنسبة للحواسيب، يعد فهم هذا التعقيد مهمة جسيمة. وبينما أصبحت الآلات جيدة جداً في رصد المشاعر البسيطة مثل السعادة أو الغضب، إلا أنها غالباً ما تتعثر عندما يُطلب منها التعرف على الأغراض الأكثر دقة وتعدداً في التواصل البشري. هذا هو مجال التداولية الرقمية (digital pragmatics): دراسة كيفية استخدام الناس للغة والرموز للقيام بأشياء معينة، مثل إظهار التضامن، أو تلطيف وقع الكلام، أو التعبير عن السخرية. وفي العالم الناطق بالعربية، يزداد هذا التحدي صعوبة لأن اللغة نفسها عبارة عن فسيفساء حية؛ حيث ينتقل الناس بسلاسة بين اللغة العربية الفصحى المكتوبة ومجموعة متنوعة من اللهجات العامية الملونة، وغالباً ما يمزجون بينهما في محادثة واحدة. وعندما تضيف الرموز التعبيرية (emojis) إلى هذا المزيج، تصبح مهمة تعليم الكمبيوتر فهم القصد الكامل وراء المنشور لغزاً ذا صعوبة هائلة.
لقد شرع باحثان، فهد الحسين ومحمد شرماني، في حل جزء محدد من هذا اللغز. أرادا معرفة ما إذا كانت النماذج الحاسوبية المتقدمة قادرة على تعلم تحديد الوظائف المتعددة والمتداخلة للرموز التعبيرية في منشورات فيسبوك العربية، حتى عندما تظهر بعض هذه الوظائف نادراً جداً. ركزا على مجموعة بيانات تضم أكثر من 8,000 منشور فريد، يحتوي كل منها على رمزين تعبيريين على الأقل. لم يكن الهدف مجرد تحديد ما إذا كان المنشور إيجابياً أم سلبياً، بل تصنيفه إلى فئات محددة من المعنى، مثل "الدعاء"، أو "المفاجأة"، أو "الموافقة"، أو "التلطيف" (وهو فعل تخفيف حدة الخلاف). واجه الباحثان عقبة كبيرة: ففي بياناتهما، ظهرت بعض الوظائف مثل "الفكاهة" آلاف المرات، بينما ظهرت وظائف أخرى مثل "التلطيف" بضع عشرات من المرات فقط. هذه مشكلة شائعة في الذكاء الاصطناعي؛ فبدون مساعدة، يميل الكمبيوتر إلى تجاهل العناصر النادرة والتركيز فقط على العناصر الشائعة، مما يجعله فعلياً أعمى عن المعاني الدقيقة والأقل تكراراً.
ولمعالجة ذلك، اختبر الفريق نموذجين حاسوبيين قويين مصممين لفهم النصوص العربية. الأول، المعروف باسم (AraBERT)، تم تدريبه بشكل أساسي على اللغة العربية الفصحى، تماماً مثل طالب درس الكتب المدرسية والمقالات الإخبارية. والثاني، (MARBART)، تم تدريبه على مجموعة ضخمة من منشورات وسائل التواصل الاجتماعي، مما جعله أكثر دراية بالعامية واللهجات وأساليب الكتابة غير الرسمية الموجودة في الحياة اليومية عبر الإنترنت. علم الباحثون هذه النماذج التعرف على عشر وظائف دقيقة مختلفة للرموز التعبيرية، تتراوح من التعبير عن الحب إلى الإشارة إلى السخرية. ومع ذلك، كانوا يعلمون أن مجرد تغذية البيانات للنماذج لن يكون كافياً. ولحل مشكلة تجاهل الوظائف النادرة، قدموا تعديلاً ذكياً لعملية التعلم. فبدلاً من معاملة كل مثال لوظيفة ما على أنه متساوٍ في الأهمية، جعلوا الكمبيوتر يولي اهتماماً إضافياً للوظائف النادرة. تخيل معلماً يصحح واجب الطالب: إذا أجاب الطالب بشكل صحيح على الأسئلة الشائعة لكنه أخطأ في الأسئلة النادرة والصعبة، فقد يقرر المعلم إعطاء تلك الأسئلة النادرة وزناً إضافياً في الدرجة النهائية لضمان استيعاب الطالب للمادة بأكملها حقاً. طبق الباحثون نفس المنطق، حيث أخبروا الكمبيوتر أن ارتكاب خطأ في وظيفة نادرة مثل "التلطيف" هو خطأ أكبر بكثير من ارتكاب خطأ في وظيفة شائعة مثل "التأكيد".
كانت نتائج هذه التجربة كاشفة. فعندما تُركت النماذج لتتعلم دون هذا التعديل الخاص، أدت أداءً جيداً نوعاً ما في الوظائف الشائعة، لكنها فشلت تماماً في الوظائف النادرة. على سبيل المثال، لم تستطع النماذج تحديد "المفاجأة" أو "الموافقة" أو "التلطيف" على الإطلاق، حيث سجلت معدل نجاح صفري. وقد أكد ذلك أنه بدون تدخل، فإن تركيز الكمبيوتر على البيانات المتكررة أعماه عن المعاني الدقيقة والنادرة. ومع ذلك، بمجرد أن طبق الباحثون طريقة إعادة الوزن الحساسة للتكلفة (cost-sensitive re-weighting)، تغير المشهد بشكل جذري. بدأت النماذج في التعرف على الوظائف النادرة بدقة أكبر بكثير. وأظهر النموذج المدرب على بيانات وسائل التواصل الاجتماعي، (MARBART)، التحسن الأكثر إثارة للإعجاب؛ إذ قفزت قدرته على تحديد النطاق الكامل للوظائف بشكل صحيح بشكل كبير، من مستوى نجاح متوسط إلى مستوى عالٍ من الأداء المتوازن. لقد تعلم رصد "المفاجأة" و"الموافقة" بموثوقية أكبر بكثير، وبدأ حتى في التقاط وظيفة "التلطيف" المراوغة، التي كانت غير مرئية للنظام سابقاً.
كما سلطت الدراسة الضوء على فرق جوهري بين النموذجين. فالنموذج المدرب على العربية الفصحى، (AraBERT)، قد تحسن أيضاً باستخدام الطريقة الجديدة، لكن مكاسبه كانت متواضعة، حيث عانى للتكيف مع الطبيعة المختلطة والفوضوية لمنشورات وسائل التواصل الاجتماعي. في المقابل، كان (MARBART)، الذي تعرض للفوضى الواقعية للهجات واللغة غير الرسمية أثناء تدريبه، مجهزاً بشكل أفضل بكثير للتعامل مع المهمة. وهذا يشير إلى أنه لفهم كيفية تواصل الناس عبر الإنترنت، يحتاج النموذج إلى أن يتم تدريبه على اللغة كما هي منطوقة ومكتوبة في تلك المساحات، وليس فقط كما تظهر في الكتب الرسمية. ووجد الباحثون أن الجمع بين نموذج مدرب على وسائل التواصل الاجتماعي واستراتيجية تعلم تجبر النظام على الانتباه للأمثلة النادرة أنتج أفضل النتائج. لم يجدوا أن طريقة واحدة وحدها تمثل حلاً سحرياً؛ بل إن النجاح جاء من الجمع بين نموذج يفهم السياق اللغوي وطريقة تدريب تضمن عدم تجاهل أي جزء من المحادثة.
في نهاية المطاف، يثبت هذا العمل أن الحواسيب يمكن تعليمها فهم الطرق المعقدة ومتعددة الطبقات التي يستخدم بها الناس الرموز التعبيرية في الخطاب الرقمي العربي، بشرط أن يتم تصميم عملية التدريب لتقدير النادر والشائع على حد سواء. لقد أظهر الباحثون أنه من خلال ضبط كيفية تعلم الكمبيوتر، استطاعوا فتح القدرة على التعرف على الوظائف التداولية الدقيقة التي كانت مفقودة سابقاً. وتعد هذه خطوة مهمة للأمام في تقنية اللغة العربية، بالانتقال من مجرد تحليل المشاعر البسيط إلى فهم أعمق للتفاعل البشري. وتشير النتائج إلى أنه لكي يتمكن الذكاء الاصطناعي من استيعاب ثراء التواصل الرقمي حقاً، يجب تدريبه على الواقع المتنوع وغير الرسمي وغير المتوازن لكيفية تحدث الناس وكتابتهم عبر الإنترنت. وتخلص الدراسة إلى أنه بينما لا تزال التكنولوجيا غير مثالية وتواجه تحديات مع الأمثلة النادرة للغاية، فإن الطريق إلى الأمام يكمن في استخدام نماذج تعكس التنوع الحقيقي للغة وفي تصميم أنظمة تعلم لا تسمح للشيء الشائع بأن يطغى على الشيء الفريد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.