Leveraging Argument Structure to Predict Content Hatefulness
تُثبت هذه الورقة أن الاستفادة من تعليقات بنية الحجج (المقدمات والنتائج) من مجموعة بيانات WSF-ARG+ يمكن أن تتنبأ بفعالية بمدى كراهية رسائل منتديات تفوق العرق الأبيض الإجمالية، محققةً ما يصل إلى 96% في مقياس F1، مما يقدم نهجاً واعداً لمكافحة اضطراب المعلومات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كأنه سوق ضخم وصاخب حيث يصرخ الناس بالأفكار. أحياناً، تكون هذه الأفكار خاطئة تماماً (معلومات مضللة)، وأحياناً أخرى تكون مصممة لإيذاء أو إهانة مجموعات معينة من الناس (خطاب الكراهية). وغالباً ما يختلط هذان الأمران معاً؛ فقد يقوم شخص سيء بتغليف رسالة كراهية في قالب "منطقي" لجعلها تبدو وكأنها حجة جادة، على أمل أن تصدقها.
هذه الورقة البحثية تشبه المحقق الذي يحاول اكتشاف كيفية رصد ذلك "القالب الحاقد" عبر النظر في كيفية بناء الحجة، بدلاً من مجرد قراءة الكلمات.
اللبنات الأساسية: المقدمات والنتائج
فكر في الحجة كأنها منزل.
- المقدمات هي الطوب والملاط. هذه هي الحقائق أو الادعاءات التي يستخدمها الشخص كقاعدة.
- النتيجة هي السقف. هذه هي النقطة الرئيسية التي يحاول الشخص إثباتها.
عادةً، عندما نحاول اكتشاف خطاب الكراهية، فإننا ننظر فقط إلى المنزل بأكمله ونسأل: "هل يبدو هذا مخيفاً؟" لكن هذه الورقة تسأل سؤالاً مختلفاً: "هل يمكننا معرفة ما إذا كان المنزل خطيراً بمجرد النظر إلى كيفية رص الطوب وما يقوله السقف؟"
التجربة: منتدى تفوق العرق الأبيض
نظر الباحثون في مجموعة محددة من الرسائل من منتدى لتفوق العرق الأبيض (مكان معروف بالمحتوى الحاقد). كان لديهم 227 رسالة كراهية و136 رسالة غير حاقدة.
لم يكتفوا بقراءة النص فحسب؛ بل فككوا كل رسالة إلى "طوبها" (المقدمات) و"سقفها" (النتيجة). كما وضعوا لكل جزء علامتين خاصتين:
- الحِدّة/الكراهية: هل هذه الجملة بعينها مسيئة أو مهينة؟
- قابلية التحقق: هل هذا ادعاء يمكن التحقق من صحته (مثل "السماء زرقاء") أم أنه مجرد رأي (مثل "أعتقد أن السماء جميلة")؟
العمل الاستقصائي: كيف اختبروا ذلك؟
بنى الباحثون نموذجاً حاسوبياً ("فرز ذكي") للتنبؤ بما إذا كانت الرسالة حاقدة. حاولوا تغذية النموذج بأنواع مختلفة من الأدلة:
المخطط الهندسي فقط (الهيكل): أخبروا النموذج: "إليك ترتيب الطوب والسقف، ولكن دون تفاصيل عما يقولونه".
- النتيجة: عمل بشكل جيد. مجرد معرفة شكل الحجة ساعد النموذج على التخمين بشكل صحيح بنسبة 70% تقريباً. الأمر يشبه معرفة أن منزلاً بقاعدة مائلة هو على الأرجب منزل سيء، حتى دون رؤية الجدران.
المخطط + علامات التحقق من الحقائق: أضافوا علامات "قابلية التحقق" (إخبار النموذج أي الأجزاء هي حقائق مقابل الآراء).
- النتيجة: من المثير للدهشة أن هذا جعل النموذج أسوأ. الأمر يشبه إعطاء محقق خريطة بها الكثير من الضجيج المربك؛ فالهيكل البسيط كان في الواقع أكثر موثوقية لهذه المجموعة الصغيرة المحددة من الرسائل.
المخطط + علامات الكراهية: أخبروا النموذج بالضبط أي الأجزاء (الطوب) والسقف كانت حاقدة.
- النتيجة: كان هذا هو "الدليل القاطع". عندما عرف النموذج الأجزاء المحددة الحاقدة، أصبح دقيقاً للغاية، حيث أصاب الإجابة الصحيحة بنسبة 96% تقريباً.
الخلاصة الكبرى
وجد الباحثون أمرين رئيسيين:
- الهيكل مهم: الطريقة التي تُنظم بها الحجة (ترتيب المقدمات المؤدية إلى نتيجة) تحمل الكثير من الأدلة حول ما إذا كانت الرسالة بأكملها حاقدة. لا تحتاج دائماً لقراءة كل كلمة للحصول على تلميح قوي.
- "الطوب" يروي القصة: الطبيعة الحاقدة لـ "الطوب" (المقدمات) غالباً ما تكون كافية لتقول لك إن "المنزل" بأكمله خطير. لا تحتاج دائماً للانتظار حتى ترى "السقف" (النتيجة) لتعرف أن هناك خطباً ما.
تحذير للمستقبل
أشار الباحثون أيضاً إلى عقبة. فبينما جعلت معرفة "علامات الكراهية" للأجزاء النموذج فائق الدقة، إلا أننا في العالم الحقيقي لا نملك تلك العلامات جاهزة للاستخدام. علينا العثور عليها بأنفسنا.
وجدوا أيضاً أن إضافة "قابلية التحقق" (علامات التحقق من الحقائق) لم تساعد نموذجهم البسيط والصغير. الأمر يشبه محاولة استخدام عدسة مكبرة صغيرة جداً لقراءة خريطة ضخمة ومعقدة؛ فالأداة لم تكن كبيرة بما يكفي للتعامل مع المعلومات الإضافية. يقترحون أن الحواسيب الأكبر والأكثر قوة (مثل النماذج اللغوية الكبيرة) قد تكون قادرة على استخدام علامات التحقق من الحقائق بفعالية، ولكن في الوقت الحالي، يظل الهيكل البسيط هو الدليل الأكثر موثوقية الذي وجدوه.
باختصار: من خلال معاملة خطاب الكراهية كبناء وتحليل كيفية تركيب أجزائه، يمكننا رصد الخطر بسهولة أكبر. إن شكل الحجة في حد ذاته هو إشارة قوية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.