Context-Aware Detection and Victim-Centered Response Generation for Online Harassment in Private Messaging
تقدم هذه الدراسة إطار عمل للذكاء الاصطناعي مدركاً للسياق ومركزاً على الضحية، يستفيد من نماذج لغوية كبيرة مدربة على مجموعة بيانات من رسائل إنستغرام الخاصة للكشف بدقة أكبر عن التحرش عبر الإنترنت وتوليد استجابات داعمة نفسياً تتفوق على ردود الفعل البشرية من حيث الدعم العاطفي وتهدئة الموقف.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن رسائلك النصية الخاصة هي بمثابة مذكرات سرية لا يقرأها سواك أنت وأصدقاؤك. الآن، تخيل أن شخصًا ما يستخدم تلك المذكرات لقول أشياء لئيمة، أو مخيفة، أو جارحة. هذه الورقة البحثية تدور حول بناء مساعد ذكي (ذكاء اصطناعي) يمكنه قراءة تلك المذكرات السرية لرصد التنمر، ومن ثم مساعدة الشخص الذي يتعرض للتنمر في معرفة ما يجب أن يقوله رداً على ذلك.
إليك قصة ما فعله الباحثون، مقسمة إلى أجزاء بسيطة:
1. المشكلة: "الغرفة الخاصة" مقابل "الساحة العامة"
معظم البرامج الحاسوبية المصممة لوقف التنمر عبر الإنترنت تشبه حراس الأمن الواقفين في ساحة عامة مزدحمة (مثل تويتر أو فيسبوك). إنهم يراقبون الصرخات العالية والعلنية.
لكن التنمر غالبًا ما يحدث في غرف خاصة (مثل الرسائل المباشرة على إنستغرام). في هذه الغرف الخاصة، يكون التنمر مخادعًا. فهو ليس مجرد كلمة واحدة لئيمة؛ بل هو محادثة كاملة يتغير معناها بناءً على ما قيل قبل خمس دقائق. إنه يشبه لعبة "الهاتف المكسور"، حيث تتحول المزحة إلى تهديد فقط إذا كنت تعرف القصة بأكملها. ولأن هذه المحادثات خاصة، فإن الحواسيب عادة لا تستطيع رؤيتها، وتجد صعوبة في فهم السياق.
2. البيانات: لمحة من حياة واقعية
لتعليم حاسوبهم، طلب الباحثون من 26 مراهقًا (تتراوح أعمارهم بين 12 و18 عامًا) مشاركة رسائل إنستغرام الخاصة بهم. بعض هؤلاء المراهقين كانوا يمرون بأوقات عصيبة للغاية، بما في ذلك أفكار تتعلق بالانتحار.
- الجمع: قاموا بجمع أكثر من 80,000 رسالة.
- التصنيف: قرأ بشر هذه الرسائل للعثور على الـ 41 حالة محددة التي حدث فيها التنمر بالفعل. كان عليهم قراءة المحادثة كاملة لفهم ما إذا كانت الرسالة تنمرًا أم مجرد مزاح بين الأصدقاء.
3. الجزء الأول: "المحقق" (رصد التنمر)
حاول الباحثون تعليم الذكاء الاصطناعي كيف يكون محققًا.
- الطريقة القديمة: حاولوا استخدام "كاشفات السمية" القياسية (مثل جهاز كشف المعادن في المطار). هذه الكاشفات جيدة في رصد الكلمات السيئة الصريحة والعلنية في المنشورات العامة، لكنها فشلت في الدردشات الخاصة لأنها لم تفهم السياق.
- الطريقة الجديدة (التتابع/Cascade): بنوا "فريق تحقيق" مكون من خطوتين:
- المحقق (أ): يقرأ الرسالة والـ 50 رسالة التي سبقتها. إذا بدا الأمر مريبًا، فإنه يضع علامة تنبيه.
- المحقق (ب): هو "كبير المفتشين". ينظر إلى تنبيه المحقق (أ) ويتساءل: "هل أنت متأكد؟ هل هذا تنمر حقًا، أم مجرد مزحة غريبة؟"
- النتيجة: كان هذا الفريق المكون من خطوتين أفضل بكثير في العثور على التنمر من الكاشفات القديمة. لقد رصدوا 60% من حالات التنمر مع الحفاظ على انخفاض الإنذارات الكاذبة. كان المفتاح هو أن الذكاء الاصطناعي قرأ القصة كاملة، وليس الجملة الأخيرة فقط.
4. الجزء الثاني: "المدرب" (مساعدة الضحية)
بمجرد أن يرصد الذكاء الاصطناعي التنمر، يبرز السؤال التالي: ماذا يجب أن ترد الضحية؟
بنى الباحثون ذكاءً اصطناعيًا ثانيًا يعمل مثل مدرب داعم.
- الاستراتيجية: بدلاً من كتابة رد عشوائي، يقرر الذكاء الاصطناعي أولاً استراتيجية معينة (مثل "كن هادئًا"، "ضع حدودًا"، أو "أظهر التعاطف"). ثم يكتب رسالة بناءً على تلك الاستراتيجية.
- فحص الأسلوب: تم توجيه الذكاء الاصطناعي ليبدو كأنه مراهق (باستخدام العامية، والجمل القصيرة، والنصوص غير الرسمية) حتى لا يبدو كآلة أو معلم.
- الاختبار: عرض الباحثون 100 سيناريو تنمر على حكام بشريين. عرضوا عليهم خيارين:
- ما كتبه المراهق الحقيقي للرد.
- ما كتبه الذكاء الاصطناعي للرد.
الحكم النهائي:
- الفائدة: فضل الحكام ردود الذكاء الاصطناعي بشكل ساحق. شعروا أن ردود الذكاء الاصطناعي كانت أفضل في إيقاف الشجار، وتهدئة الأمور، وجعل الضحية يشعر بالدعم.
- الطبيعية: ومع ذلك، شعر الحكام أن ردود المراهقين الحقيقيين تبدو أكثر "طبيعية" وأصيلة. كان الذكاء الاصطناعي رائعًا في كونه مفيدًا، ولكنه كان يبدو أحيانًا جامدًا بعض الشيء مقارنة بكيفية تحدث المراهقين الحقيقيين.
5. الفكرة الكبرى: "التحصين الاصطناعي" (Synthetic Buffering)
تقدم الورقة مفهومًا رائعًا يسمى "التحصين الاصطناعي".
تخيل أنك في جدال حاد وأنك غاضب أو خائف لدرجة أن عقلك يتوقف عن العمل. أنت لا تعرف ماذا تقول.
يعمل الذكاء الاصطناعي هنا كـ وسادة أو درع. إنه يأخذ الثقل العاطفي للموقف، ويحدد أفضل شيء يمكن قوله، ثم يصيغ ردًا لك. يمكنك بعد ذلك قراءته، أو تعديله، أو إرساله. هو لا يحل محلك؛ بل يساعدك على إيجاد صوتك عندما تفقده.
ملخص لما يدعيه البحث
- السياق هو الملك: لا يمكنك العثًا التنمّر في الدردشات الخاصة دون قراءة المحادثة بأكملها.
- رصد بخطوتين: فريق من اثنين من نماذج الذكاء الاصطناعي يعمل بشكل أفضل من نموذج واحد لرصد التنمر دون إطلاق إنذارات خاطئة.
- الذكاء الاصطناعي كمدرب: يمكن للذكاء الاصطناعي إنشاء ردود تكون أكثر فائدة وتهدئة مما يصل إليه الضحايا عادة في لحظات الانفعال.
- المقايضة: ردود الذكاء الاصطناعي مفيدة جدًا، لكنها تبدو أحيانًا أقل "واقعية" من ردود البشر.
ملاحظة هامة: تؤكد الورقة بحذر أن هذا أداة للمساعدة، وليس بديلاً عن الأصدقاء البشر، أو الآباء، أو المساعدة المهنية. الهدف هو منح الضحية دفعة "في الوقت المناسب" عندما يتعرض للأذى عبر الإنترنت.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.