Toxicity in Twitch Chats: An LLM-Based Analysis Across Gaming Communities
تحلل هذه الورقة ٢٠ مليون رسالة من دردشة منصة تويتش باستخدام نموذج لغوي كبير مُدرب مسبقاً لتكشف أن ٢.٤٪ من الرسائل سامة، مع وجود تباينات كبيرة عبر أنواع الألعاب وعناوين محددة، مما يسلط الضوء على الحاجة إلى استراتيجيات إشراف مستهدفة بناءً على المعايير المجتمعية الخاصة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل منصة "تويتش" (Twitch) كأنها ساحة مدينة رقمية صاخبة ومزدحمة، حيث يتجمع الملايين لمشاهدة الآخرين وهم يلعبون ألعاب الفيديو. وبينما تمتلئ هذه الساحة بالحماس والمجتمع، إلا أن لها جانباً مظلماً: أشخاص يصرخون بالإهانات، أو يلقون نكاتاً سخيفة، أو يتصرفون بكراهية. هذه الورقة البحثية تشبه إحصاءً سكانياً ضخماً أجراه باحثون لمعرفة حجم "السلوك السيئ" بالضبط في هذه الساحة الرقمية وكيف يبدو شكله.
إليك تفصيل لنتائجهم، باستخدام تشبيهات بسيطة:
العمل الاستقصائي: كيف قاموا بعدّ السلوك السيئ؟
لم يقم الباحثون بقراءة 20 مليون رسالة دردشة واحدة تلو الأخرى (لأن ذلك قد يستغرق عمراً كاملاً!)، بل قاموا ببناء محقق رقمي باستخدام ذكاء اصطناعي قوي (نموذج لغوي كبير).
- كتاب القواعد: لقد زودوا هذا الذكاء الاصطناعي بـ "كتاب القواعد" الرسمي الخاص بتويتش لما يُعتبر سلوكاً سيئاً. يحتوي هذا الكتاب على أربعة تصنيفات رئيسية: المضايقة (التنمر، التهديدات)، التمييز (الكراهية بناءً على العرق، الجنس، إلخ)، المحتوى الجنسي، والألفاظ النابية (السب).
- السياق: تماماً كما يحتاج البشر لسماع المحادثة كاملة ليعرفوا ما إذا كان الشخص يمزح أم يكون لئيماً، تم تزويد الذكاء الاصطناسي بـ "ذاكرة لمدة 10 ثوانٍ". حيث استطاع قراءة الرسائل التي سبقت رسالة الدردشة مباشرة لفهم السياق.
- الاختبار: قبل الوثوق بالذكاء الاصطناعي، قاموا بجعل خبراء بشريين يراجعون عمله. وقد اتفق الذكاء الاصطناعي مع البشر بنفس القدر الذي قد يتفق فيه بشر مختلفون مع بعضهم البعض. وهذا أثبت أن الذكاء الاصطناعي هو محقق موثوق.
النتائج الكبرى: ماذا اكتشفوا؟
1. الأجواء العامة
من بين كل 100 رسالة تُكتب في الدردشة، كانت حوالي 2 إلى 3 رسائل سامة. قد يبدو هذا الرقم صغيراً، ولكن في مدينة تضم 20 مليون رسالة، يمثل ذلك ما يقرب من نصف مليون رسالة مسيئة أو ضارة.
- الجريمة الأكثر شيوعاً: كان الجزء الأكبر من هذا السلوك السيئ هو المضايقة (مثل التنمر أو إطلاق الألقال).
- المساعد الملازم: غالباً ما تأتي المضايقة مصحوبة بـ ألفاظ نابية (سب). فكر في الأمر كمتنمر يستخدم كلمات بذيئة لجعل إهاناته أكثر إيلاماً.
- الانتهاكات الأقل حدوثاً: كانت حالات التمييز والمحتوى الجنسي تحدث بشكل أقل تكراراً، لكنها كانت موجودة ومؤثرة.
2. لكل لعبة "شخصيتها" الخاصة
نظر الباحثون في أنواع مختلفة من الألعاب (الأنواع/Genres) وألعاب محددة لمعرفة ما إذا كان "الجو العام" يتغير.
- جمهور الـ "MOBA": ألعاب مثل League of Legends و Dota 2 (حيث تتقاتل الفرق في معارك معقدة) سجلت أعلى معدل للدردشة السامة. إنها تشبه ساحة رياضية عالية المخاطر حيث تشتعل الأعصاب بسهولة.
- جمهور "الرياضة": ألعاب مثل FIFA سجلت أدنى معدل للسمية.
- عامل "المفاجأة": حتى داخل النوع الواحد، كانت الألعاب مختلفة. على سبيل المثال، ألعاب Counter-Strike و Valorant (كلاهما ألعاب تصويب تنافسية) كان لديهما سلوكيات دردشة متشابهة جداً، كأنهما توأمان. لكن لعبة Red Dead Redemption 2 كانت تمتلك معدلاً أعلى بكثير من السمية مقارنة بالألعاب الأخرى في فئتها.
- الخلاصة: السمية لا تتعلق فقط بـ نوع اللعبة؛ بل تتعلق بالمجتمع المحدد وقواعد تلك اللعبة المعينة. لا يمكنك معاملة كل مجتمع ألعاب بالطريقة نفسها.
3. مشكلة "المقاس الواحد الذي يناسب الجميع"
تشير الورقة إلى أن محاولة إصلاح السلوك السيئ بقاعدة واحدة للجميع لن تنجح بشكل جيد.
- بما أن لاعبي League of Legends قد يكونون لئيمين بطريقة تختلف عن لاعبي Minecraft، فإن أدوات الإشراف يجب أن تكون مخصصة للعبة محددة.
- وجد الباحثون أنه على الرغم من كفاءة الذكاء الاصطناعي، إلا أن "كتاب القواعد" الخاص بتويتش يكون غامضاً أحياناً. فمن الصعب التمييز بين "المتنمر" وبين شخص "يستخدم الكثير من الألفاظ النابية"، وحتى البشر يجدون صعوبة في الاتفاق على الفرق بينهما.
الخلاصة
تخلص الدراسة إلى أنه بينما تكون معظم الدردشات طبيعية، فإن نسبة الـ 2-3% السامة هي مشكلة حقيقية تشكل ملامح المجتمع. "السلوك السيئ" يتمثل في الغالب في التنمر والسب، لكنه يتغير اعتماداً على اللعبة التي تشاهدها. ولجعل هذه المساحات عبر الإنترنت أكثر أماناً، نحتاج إلى فهم أن كل مجتمع ألعاب فريد من نوعه، وأن قواعد الحفاظ على السلام يجب أن تكون فريدة بنفس القدر.
ملاحظة: تركز الورقة البحثية حصرياً على تحليل البيانات لفهم أنماط السمية. وهي لا تقترح أي علاجات سريرية محددة، أو منتجات برمجية جديدة، أو تطبيقات مستقبلية تتجاوز اقتراح ضرورة أن تكون استراتيجيات الإشراف أكثر استهدافاً بناءً على هذه النتائج.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.