Cyberbullying Detection: Exploring Datasets, Technologies, and Approaches on Social Media Platforms
تقدم هذه الورقة مراجعة منهجية شاملة حول كشف التنمر السيبراني على وسائل التواصل الاجتماعي، حيث تُحلل مجموعات البيانات والتقنيات والأساليب القائمة لتحديد الفجوات البحثية واقتراح حلول فعالة للكشف والوقاية والتنبؤ.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
حارس الملعب الرقمي: دليل بسيط لكشف المتنمرين إلكترونيًا
تخيل الإنترنت كأنه ملعب ضخم وصاخب. إنه مكان يذهب إليه المليارات من الناس (خاصة الأطفال والمراهقين) للدردشة، ومشاركة الصور، وتكوين الصداقات. ولكن تمامًا مثل أي ملعب، يوجد أحيانًا أطفال يتنمرون على الآخرين، أو يصرخون بكلمات مسيئة، أو يحاولون إفساد يوم شخص ما. هذا هو التنمر الإلكتروني.
هذه الورقة بمثابة تقرير مدرسي كتبه فريق من الباحثين الذين قضوا سنوات في دراسة كيفية بناء "حارس الملعب الرقمي" الأمثل. لقد نظروا في جميع الأدوات، والقواعد، وكاميرات المراقبة (الخوارزميات) التي نستخدمها حاليًا للإمساك بالمتنمرين وحماية الأطفال.
إليك تفصيل لنتائجهم، مشروحة ببساطة.
١. المشكلة: الملعب كبير جدًا وصاخب جدًا
لاحظ الباحثون أن الملعب يزداد ازدحامًا. مع وجود ما يقرب من ٥ مليارات شخص عبر الإنترنت، فإن عدد الرسائل المسيئة يتزايد بشكل هائل.
- التحدي: المتنمرون يزدادون ذكاءً. فهم يستخدمون لغة عامية، أو يتعمدون كتابة الكلمات بشكل خاطئ، أو يمزجون اللغات، أو يخفون إهاناتهم داخل نكات.
- الهدف: نحن بحاجة إلى حارس يمكنه رصد المتنمر فورًا، بغض النظر عن اللغة التي يتحدثها أو الحيلة التي يستخدمها.
٢. أدوات المهنة: كيف نحاول الإمساك بالمتنمرين
تراجع الورقة أربعة أنواع رئيسية من "الحراس" (التقنيات) التي بناها العلماء. فكر فيهم كأنهم مستويات مختلفة من الأمن:
🛡️ المستوى ١: كتاب القواعد (النماذج التقليدية)
- كيف تعمل: هذا يشبه حارس أمن لديه قائمة صارمة بـ "الكلمات السيئة". إذا كتب شخص ما كلمة موجودة في القائمة، يتم إيقافه.
- الجيد: إنها سريعة وبسيطة.
- السيء: المتنمرون مخادعون. إذا كانت القاعدة تقول "لا تكتب 'غبي'"، فقد يكتب المتنمر "غ-بي" أو "غ ب ي". يفشل الحارس في رصده لأن القواعد جامدة للغاية. كما أنها لا تفهم السياق (على سبيل المثال، هل جملة "أنت غبي جدًا!" قيلت كمزحة بين أصدقاء أم كإهانة حقيقية؟).
🤖 المستوى ٢: الطالب الذكي (تعلم الآلة)
- كيف يعمل: هذا الحارس قرأ آلاف الأمثلة على التنمر. بدلًا من مجرد قائمة كلمات، فإنه يبحث عن الأنماط. إنه يشبه طالبًا يتعلم: "أوه، عندما يستخدم شخص ما هذه الكلمات الثلاث معًا، فعادة ما يكون الأمر مسيئًا".
- الجيد: هو أفضل في كشف الحيل من "كتاب القواعد".
- السيء: يحتاج إلى الكثير من "الواجبات المنزلية" (البيانات) ليتعلم. إذا درس التنمر باللغة الإنجليزية فقط، فسيصاب بالارتباك عندما يتحدث المتنمر باللغة السواحيلية أو الهندية. كما أنه يعاني مع المحادثات الطويلة والمعقدة.
🧠 المستوى ٣: المفكر العميق (التعلم العميق)
- كيف يعمل: هذا ذكاء اصطناعي فائق الذكاء لا ينظر فقط إلى الكلمات؛ بل ينظر إلى شكل المحادثة. إنه يفهم كيفية بناء الجمل ويمكنه رصد السخرية أو الغضب الخفي بشكل أفضل من النماذج السابقة.
- الجيد: هو دقيق جدًا ويمكنه التعامل مع كميات هائلة من البيانات.
- السيء: إنه مثل عبقري يحتاج إلى مكتبة ضخمة للدراسة. يتطلب الكثير من قوة الكمبيوتر (والكهرباء) للتشغيل. كما أنه يرتبك أحيانًا إذا قام المتنمر بتغيير اللغة في منتصف الجملة.
🌟 المستوى ٤: العبقري الخارق (النماذج اللغوية الكبيرة / LLMs)
- كيف يعمل: فكر في هذا كذكاء اصطناعي قرأ الإنترنت بأكمله تقريبًا. إنه يفهم الثقافة، والنكات، والسخرية، والتلميحات بشكل أفضل من أي شخص آخر. يمكنه التمييز بين المزاح الودي والهجوم الحماسي.
- الجيد: هو حاليًا الأفضل في كشف المتنمرين. إنه مرن وذكي للغاية.
- السيء: إنه مكلف وبطيء. إنه مثل توظيف بروفيسور حائز على جائزة نوبل لفحص كل تغريدة؛ الأمر يتطلب الكثير من الطاقة والوقت للقيام به في الوقت الفعلي. كما أنه لا يزال يعاني مع اللغات التي لا تملك بيانات كثيرة عبر الإنترنت (مثل بعض اللهجات الأفريقية أو الآسيوية).
٣. العقبات الكبرى: لماذا لا يزال الأمر صعبًا؟
حتى مع وجود هؤلاء الحراس الأذكياء، وجد الباحثون ثلاث مشكلات رئيسية:
- "حاجز اللغة": معظم بيانات التدريب هي باللغة الإنجليزية. الأمر يشبه تعليم حارس التحدث بالإنجليزية فقط، ثم إرساله إلى ملعب يتحدث فيه الناس ٥٠ لغة مختلفة. الحارس سيفقد المتنمرين الذين يتحدثون السواحيلية أو البنغالية أو الماراثية.
- "الواجب المنزلي السيئ" (مشكلات البيانات): لتعليم الذكاء الاصطناğu، نحتاج إلى أمثلة على التنمر. ولكن:
- عدم التوازن: هناك منشورات "لطيفة" أكثر بكثير من المنشورات "المسيئة". الأمر يشبه محاولة تعلم تمييز النمر في حقل من الأغنام؛ سيصبح الذكاء الاصطناعي كسولاً ويخمن "نعجة" في كل مرة.
- التصنيفات الفوضوية: أحيانًا يختلف البشر الذين يصنفون البيانات (يحددون ما هو تنمر). شخص ما يرى التعليق مضحكًا، بينما يراه آخر تنمرًا. هذا يربك الذكاء الاصطناعي.
- "مفارقة الخصوصية": لكشف المتنمرين، يجب على الذكاء الاصطناعي قراءة رسائل الناس الخاصة. وهذا يثير تساؤلات كبيرة حول الخصوصية. كيف نوقف المتنمرين دون التجسس على الجميع؟
٤. المستقبل: بناء ملعب أفضل
تقترح الورقة كيف يمكننا حل هذه المشكلات في المستقبل:
- تعليم الذكاء الاصطناعي المزيد من اللغات: نحن بحاجة إلى بناء حراس متخصصين للغات ذات الموارد المحدودة (مثل السواحيلية) حتى لا يُترك أحد دون حماية.
- النظر إلى ما هو أكثر من النص: يستخدم المتنمرون "الميمز" (Memes)، ومقاطع الفيديو، والرموز التعبيرية. يجب أن يكون حراس المستقبل متعددي الوسائط (Multimodal)—أي قادرين على "رؤية" صورة و"سماع" صوت، وليس فقط قراءة النص.
- العمل الجماعي (أسال_الجمع/Ensemble Methods): بدلًا من الاعتماد على حارس واحد فائق الذكاء، يجب أن نستخدم فريقًا من الحراس المختلفين الذين يعملون معًا. إذا فات أحدهم الأمر، فقد يكتشفه الآخر.
- الضوابب الأخلاقية: يجب أن نتأكد من أن الحراس لا يتحولون هم أنفسهم إلى متنمرين من خلال كونهم منحازين أو غير عادلين. نحن بحاجة إلى موازنة السلامة مع الخصوصية.
الخلاصة
إن كشف المتنمرين إلكترونيًا يشبه محاولة العثور على إبرة في كومة قش، حيث تغير الإبرة شكلها ولونها باستمرار. لقد حققنا تقدمًا كبيرًا في الذكاء الاصطناعي، لكننا لا نزال بحاجة إلى بيانات أفضل، ودعم لغوي أكثر، وموازنة دقيقة بين السلامة والخصوصية.
يخلص الباحثون إلى أنه بينما تصبح "حراس الملعب الرقمي" لدينا أكثر ذكاءً، فإننا بحاجة إلى مواصلة ترقيتهم لضمان بقاء الإنترنت مكانًا آمنًا للجميع، بغض النظر عن اللغة التي يتحدثونها أو المكان الذي يعيشون فيه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.