HateMirage: An Explainable Multi-Dimensional Dataset for Decoding Faux Hate and Subtle Online Abuse
تقدم هذه الورقة HateMirage، وهي مجموعة بيانات جديدة متعددة الأبعاد تضم 4,530 تعليقاً من "الكراهية الزائفة" المشروحة والمستمدة من معلومات مضللة تم تفنيدها، والمصممة لتعزيز أبحاث الذكاء الاصطناً القابل للتفسير من خلال رصد التفاعل الدقيق بين السرديات المشوهة، والنوايا الضارة، والأثر الاجتماعي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كأنه ساحة مدينة صاخبة ومزدحمة. في هذه الساحة، يصرخ الناس، ويتجادلون، وأحياناً يقولون أشياء فظيعة. لفترة طويلة، كان الباحثون الذين يحاولون الحفاظ على سلامة الساحة يبحثون عن المتنمرين الأكثر صخباً ووضوحاً — أولئك الذين يصرخون بالشتائم والتهديدات. لقد بنوا "أدوات كشف" (مجموعات بيانات) للإمساك بهؤلاء الفاعلين السيئين الواضحين.
لكن هناك نوع جديد من المثيرين للمشاكل يتجاهله هؤلاء الكشافون القدامى. هؤلاء هم فاعلو "الكراهية الزائفة" (Faux Hate). إنهم لا يصرخون؛ بل يهمسون. لا يستخدمون الألفاظ النابية؛ بل يستخدمون الأكاذيب المغلفة في شكل "حقائق". إنهم يشبهون السحرة الذين يجعلون خطاب الكراهية يختفي في خدعة، مما يتركك في حيرة من أمرك حول ما إذا كانوا سيئين أم مجرد يمزحون.
تقدم هذه الورقة أداة جديدة تسمى HateMirage للإمساك بهؤلاء السحرة.
1. ما هو تعليق "الكراهية الزائفة"؟
فكر في خطاب الكراهة التقليدي كأنه طوبة تُلقى على شخص ما. إنها واضحة، ثقيلة، وتؤلم فوراً.
- مثال: "أنا أكره الناس من [دولة ما]."
أما الكراهية الزائفة، فهي تشبه تفاحة مسمومة تبدو لذيذة. إنها مغلفة بكذبة أو نظرية مؤامرة.
- مثال: "الناس من [دولة ما] ينشرون فيروساً سرياً عن قصد لإيذاءنا."
التعليق الثاني لا يستخدم شتيمة، لكنه مصمم لجعل الناس يكرهون تلك الدولة تماماً مثل التعليق الأول. المشكلة هي أنه يختبئ خلف "حقيقة مزيفة". إذا كنت تبحث فقط عن الكلمات السيئة، فستفقد السم.
2. المشكلة مع أدوات الكشف القديمة
كانت مجموعات البيانات السابقة مثل أجهزة كشف المعادن. هي رائعة في العثور على الطوب المعدني الكبير (الكراهية الصريحة)، لكنها لا تستطيع اكتشاف التفاح المسموم المغلف بالبلاستيك (الكراهية المبطنة القائمة على الأخبار الزائفة). كما أنها لم تكن تشرح لماذا كان الشيء سيئاً؛ بل كانت تكتفي بالقول: "هذا سيء".
3. دخول HateMirage: مجموعة بيانات "الرؤية بالأشعة السينية"
ابتكر المؤلفون HateMirage (وهي تلاعب بكلمة "Mirage" أي السراب، بمعنى الوهم). هذه مجموعة من 4,530 تعليقاً تبدو بريئة ولكنها في الواقع ضارة لأنها مبنية على أكاذيب.
لكنهم لم يكتفوا بجمع التعليقات فحسب؛ بل أضافوا ثلاث طبقات من "الرؤية بالأشعة السينية" لشرح ما يحدث بالضبط:
- الهدف (من هو الضحية؟): من الذي يتعرض للهجوم؟ (على سبيل المثال: دين معين، بلد ما، حزب سياسي).
- النية (ما هي الخدعة؟): ماذا يحاول الكاذب أن يفعل؟ (على سبيل المثال: "يريد جعل الناس يخافون من هذه المجموعة"، أو "يريد إشعال حرب بين الجيران").
- التداعيات (ماذا سيحدث بعد ذلك؟): ما هو الضرر؟ (على سبيل المثال: "هذا سيجعل الناس يتوقفون عن الثقة بحكومتهم المحلية" أو "هذا قد يؤدي إلى عنف في العالم الحقيقي").
التشبيه:
تخيل أن التعليق هو خدعة سحرية.
- مجموعات البيانات القديمة تقول فقط: "كانت تلك خدعة سيئة".
- HateMirage تقول: "كانت تلك خدعة سيئة. الهدف كان الجمهور. النية كانت جعلهم يعتقدون أن الأرنب كان في الواقع جرذاً. التداعيات هي أن الجمهور أصبح الآن مرعوباً من الأرانب".
4. كيف بنوا هذا؟
عمل الفريق كـ محققين:
- وجدوا الأكاذيب: ذهبوا إلى مواقع تدقيق الحقائق (مثل AltNews) للعثور على القصص التي ثبت بطلانها بالفعل (مثل "الفيروس هو سلاح بيولوجي").
- وجدوا التعليقات: ذهبوا إلى فيديوهات يوتيوب التي تناقش هذه الأكاذيب وجمعوا التعليقات التي كتبها الناس.
- المحقق الآلي: استخدموا ذكاءً اصطناعياً فائق الذكاء (GPT-4) لقراءة هذه التعليقات وكتابة تفسيرات "الهدف"، و"النية"، و"التداعيات".
- التحقق البشري: قام بشر حقيقيون بمراجعة عينة للتأكد من أن الذكاء الاصطناعي لم يكن يختلق الأمور.
5. اختبار المحققين (النماذج)
اختبر المؤلفون نماذج ذكاء اصطناعي متنوعة (من الصغيرة إلى الكبيرة) لمعرفة ما إذا كان بإمكانها العمل كمحققين وشرح هذه التعليقات.
- النتيجة: الأمر لا يتعلق فقط بجعل الذكاء الاصطناعي "أكبر" (أكثر قدرة عقلية). بل يتعلق بتعليمه كيفية التفكير والاستنتاج.
- بعض النماذج الأصغر حققت نجاحاً مفاجئاً لأنها تدربت على بيانات تعلمتها كيف تفكر وتتبع التعليمات، بدلاً من مجرد حفظ الحقائق.
- الجزء الأصعب بالنسبة للذكاء الاصطناعي كان التنبؤ بـ التداعيات (الضرر طويل المدى)، لأن ذلك يتطلب فهم النفس البشرية والمجتمع، وليس مجرد الكلمات.
6. لماذا يهم هذا؟
إذا كنا نكتفي فقط بالإمساك بمن يرمون الطوب، فإن التفاح المسموم سيستمر في تعفن ساحة المدينة.
- للمراقبين (Moderators): يساعدهم هذا في فهم لماذا يعتبر المنشور ضاراً، حتى يتمكنوا من شرح قراراتهم للمستخدمين.
- للباحثين: يساعدنا في فهم كيف تتحول الأكاذيب إلى كراهية.
- لك أنت: إنها خطوة نحو إنترنت أكثر أماناً حيث يمكننا رصد "الأخبار الزائفة" التي تحاول جعلنا نكره بعضنا البعض، حتى عندما تكون متخفية في زي مزاح أو "حقيقة".
باخت-صار: HateMirage هي خريطة جديدة تساعدنا على التنقل في ضباب الأكاذيب عبر الإنترنت. إنها تعلم الحواسيب ليس فقط رصد الكلمات السيئة، بل فهم القصة وراء الكراهية، حتى نتمكن من إيقاف الوهم قبل أن يؤذي أي شخص.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.