💬 NLP

When Hate Meets Facts: LLMs-in-the-Loop for Check-worthiness Detection in Hate Speech

تقدم هذه الورقة WSF-ARG+، وهي أول مجموعة بيانات تجمع بين خطاب الكراهية ومعلومات قابلية التحقق، وتقترح إطار عمل يعتمد على النماذج اللغوية الكبيرة في الحلقة (LLM-in-the-loop) يقلل من جهد التوسيم البشري مع إثبات أن دمج تسميات قابلية التحقق يحسن بشكل كبير من أداء الكشف عن خطاب الكراهة.

المؤلفون الأصليون: Nicolás Benjamín Ocampo, Tommaso Caselli, Davide Ceolin

نُشر 2026-03-27

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Nicolás Benjamín Ocampo, Tommaso Caselli, Davide Ceolin

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل الإنترنت كأنه ساحة مدينة ضخمة وفوضوية. في هذه الساحة، توجد مشكلتان رئيسيتان: أشخاص يصرخون بشتائم كراهية (خطاب الكراهية)، وأشخاص ينشرون الأكاذيب أو أنصاف الحقائق (المعلومات المضللة).

لفترة طويلة، تعامل الباحثون مع هاتين المشكلتين كمسألتين منفصلتين؛ حيث بنوا أدوات لاكتشاف الصارخين، وأدوات أخرى لاكتشاف الكاذبين. لكن هذه الورقة البحثية تجادل بأن هاتين المشكلتين، في العالم الحقيقي، غالبًا ما ترتديان نفس القناع. فخطاب الكراهية بدأ يتنكر بشكل متزايد في زي "حقائق" أو "أخبار".

إليك شرح مبسط لما قام به المؤلفون، باستخدام بعض التشبيهات من الحياة اليومية.

1. المشكلة: "الذئب في ثوب حمل"

تخيل شخصًا يحاول إثارة شغب. بدلًا من مجرد توجيه الإهانات (وهي سهلة الرصد)، يقف على منصة ويقول: "هل تعلمون أن 90% من [المجموعة X] هم في الواقع كائنات فضائية؟"

هذا ادعاء يشبه الحقيقة. يبدو وكأنه تقرير إخباري، لكنه كذبة مصمم لجعل الناس يكرهون مجموعة معينة.

الطريقة القديمة: قد يغفل المشرفون عن هذا الأمر لأنه لا يبدو كإهانة تقليدية.
الطريقة الجديدة: إذا استطعنا رصد أن هذه الجملة هي "ادعاء" يستحق التحقق من صحته، يمكننا ضبط خطاب الكراهية المختبئ داخلها.

يطلق المؤلفون على هذا التقاطع اسم "القابلية للتحقق" (Check-worthiness). وهي تسأل: "هل هذا التصريح هو ادعاء مهم بما يكفي ليتم التحقق من صحته؟"

2. الحل: "فريق البشر والذكاء الاصطناعي"

لدراسة هذا، احتاج الباحثون إلى مجموعة بيانات ضخمة من هذه الرسائل الماكرة. لكن تصنيفها عمل شاق؛ فالأمر يشبه محاولة تصحيح 1,000 مقال حيث تكون الإجابات ذات طبيعة تقديرية (تعتمد على وجهات النظر). أنت بحاجة إلى خبراء، والخبراء مكلفون ويتعبون.

لذا، ابتكروا سير عمل جديدًا يسمى "الذكاء الاصطناعي في الحلقة" (LLM-in-the-Loop).

فكر في هذا الأمر كأنه موقع بناء:

النموذج اللغوي الكبير (LLM) هو المثقاب الكهربائي (الدريل). إنه سريع، قوي، ويمكنه القيام بالأعمال الشاقة. يقوم بمسح آلاف الرسائل ويقول: "هذا يبدو كادعاء!" أو "هذا مجرد رأي!".
الإنسان هو المراقب (المهندس المسؤول). هو لا يقوم بكل عملية ربط مسمار بنفسه، بل يراقب "المثقاب الكهربائي".
- إذا اتفق المثقاب والمراقب، ينتقلان للمهمة التالية.
- إذا ارتبك المثقاب أو اختلف مع المراقب، يتدخل المراقب لاتخاذ القرار النهائي.

النتية: استخدموا 12 "مثقابًا كهربائيًا" مختلفًا (نماذج ذكاء اصطناعي) لمساعدتهم في بناء مجموعة بيانات جديدة تسمى +WSF-ARG. هذه المجموعة مميزة لأنها تحتوي على رسائل كارهة وغير كارهة، وكل "حقيقة" بداخلها تم تصنيفها إما كـ "قابلة للتحقق" أو "غير قابلة للتحقق".

3. الاكتشاف: الأكاذيب تجعل الكراهية أسوأ

بمجرد حصولهم على مجموعة البيانات الجديدة، أجروا بعض التجارب ووجدوا أمرين مفاجئين:

أ. تأثير "الكأس المسمومة"
وجدوا أن خطاب الكراهية الذي يحتوي على ادعاءات "قابلة للتحقق" (أكاذيب مقدمة في شكل حقائق) هو أكثر ضررًا من الإهانات البسيطة.

التشبيه: الإهانة البسيطة تشبه جرحًا ورقيًا صغيرًا؛ تؤلم لكنها تلتئم بسرعة. أما الكذبة المغلفة بالكراهية فهي مثل السهم المسموم؛ تنشر الخوف وتسبب ضررًا أعمق وأطول أمدًا للمجتمع. أظهرت البيانات أن هذه الرسائل تم تقييمها بمستويات أعلى بكثير من حيث "المضايقة" و"الكراهية".

ب. تأثير "المساعد الخارق"
اختبروا ما إذا كان إعطاء نماذج الذكاء الاصطني cut "ورقة غش" (تسميات القابلية للتحقق) سيساعدها على اكتشاف خطاب الكراهية بشكل أفضل.

التشبيه: تخيل أنك تحاول العثود على إبرة في كومة قش. إذا أخبرت الذكاء الاصطناعي: "الإبرة ملفوفة بشريط أحمر"، فسيجدها بشكل أسرع بكثير.
عندما أعطوا الذكاء الاصطناعي تسميات "القابلية للتحقق"، تحسنت قدرة الذكاء الاصطناعي على رصد خطاب الكراهية بشكل ملحوظ، خاصة في النماذج الأكبر والأكثر ذكاءً. لقد تحول من مجرد محقق جيد إلى محقق بارع.

4. لماذا هذا مهم؟

هذه الورقة البحثية هي مخطط لمستقبل سلامة الإنترنت.

لدينا خريطة جديدة: لقد أصدروا مجموعة بيانات +WSF-ARG، وهي أول خريطة توضح أين يتقاطع خطاب الكراهية مع الحقائق المزيفة.
لدينا أداة أفضل: لقد أثبتوا أنك لست بحاجة لتوظيف 100 إنسان لتصنيف البيانات. يمكنك استخدام ذكاء اصطناعي ذكي كـ "مساعد مبتدئ" وجعل "مدير" بشري يصلح الأخطاء. هذا يوفر الوقت والمال دون فقدان الجودة.
نحن نفهم العدو بشكل أفضل: نحن نعلم الآن أنه عندما يحاول خطاب الكراهية أن يبدو كأنه "علم" أو "أخبار"، فإنه يصبح أكثر خطورة. ومن خلال التركيز على الحقائق الموجودة داخل الكراهية، يمكننا تفكيك الحجة بشكل أكثر فعالية من مجرد حظر الإهانة.

باختدصار: وضع المؤلفون طريقة أذكى للإمساك بالكاذبين الذين هم أيضًا كارهون، باستخدام فريق من البشر والذكاء الاصطناعي يعملان معًا، وأثبتوا أن رصد هذه الأنواع المحددة من الأكاذيب يجعل الإنترنت مكانًا أكثر أمانًا.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "عندما يلتقي الكراهية بالحقائق: استخدام النماذج اللغوية الكبيرة في حلقة التقييم (LLMs-in-the-Loop) للكشف عن جدارة الادعاءات بالتحقق في خطاب الكراهية."

1. بيان المشكلة

تتناول الورقة نقطة التقاطع بين خطاب الكراهية (Hate Speech) والمعلومات المضللة (Misinformation). حيث يتم التعبير عن الكراهية عبر الإنترنت بشكل متزايد ليس فقط من خلال الشتائم، بل عبر ادعاءات "شبيهة بالحقائق" قد تكون كاذبة أو مضللة (مثل الإحصائيات الزائفة حول مجموعات عرقية معينة).

التحدي: تتعامل أنظمة الإشراف على المحتوى الحالية غالباً مع خطاب الكراهية والمعلومات المضللة كظاهرتين منفصلتين. ومع ذلك، عندما يعتمد خطاب الكراهية على ادعاءات يمكن التحقق منها، يجب على المشرفين تقييم كل من الضررية والصحة، مما يزيد بشكل كبير من العبء المعرفي والجهد المطلوب للترميز (Annotation).
الفجوة: تحتوي مجموعات البيانات الحالية لخطاب الكراهية عادةً على شتائم صريحة وقصيرة دون حجج معقدة، بينما تفتقر مجموعات بيانات المعلومات المضللة إلى ترميزات خطاب الكراهية. هناك نقص في الموارد لدراسة كيفية عمل الادعاءات "الجديرة بالتحقق" (الادعاءات التي تستوجب التحقق من الحقائق) ضمن السرديات الحاقدة.

2. المنهجية

أ. إطار عمل النماذج اللغوية الكبيرة في حلقة التقييم (LLM-in-the-Loop)

لمعالجة التكلفة العالية للترميز الخبير للمهام الذاتية مثل "الجدارة بالتحقق"، يقترح المؤلفون إطار عمل مبتكرًا يدمج النموذج اللغوي الكبير كـ "مُرمِّز مساعد" (Auxiliary Annotator) بجانب الخبير البشري، على عكس نظام "الإنسان في الحلقة" (حيث يقوم البشر بالتحقق من المخرجات الآلية).

سير العمل:
1. الترميز المتوازي: يقوم خبير بشري ونموذج لغوي كبير بترميز نفس حالة مجموعة البيانات.
2. فحص الإجماع: يولد النموذج اللغوي ثلاثة تنبؤات مستقلة لكل حالة (عند درجة حرارة/Temperature قدرها 1.0) لتحديد التصويت بالأغلبية.
3. حل النزاع:
  - إذا تطابق تصويت الأغلبية للنموذج اللغوي مع الملصق البشري، يتم قبول الملصق.
  - إذا اختلفا، أو إذا كانت تنبؤات النموذج الثلاثة غير متسقة، يقوم "مُرمِّز قاضٍ" (Judge Annotator) (خبير ثانٍ) بمراجعة الحالة.
  - يكون "القاضي" أعمى (Blind) عن مصدر الملصقات (بشري مقابل نموذج لغوي) لمنع انحياز الارتكاز (Anchor Bias)، ويتخذ القرار النهائي.
استراتيجيات التخفيف: يستخدم إطار العمل استراتيجيات محددة لتقليل أخطاء النماذج اللغوية، بما في ذلك التصويت بالأغلبية، والتحكيم الأعمى، ومقارنة التلقين بـ "الصفر محاولة" (Zero-shot) مقابل "المحاولة الواحدة" (One-shot).

ب. بناء مجموعة البيانات: +WSF-ARG

يقدم المؤلفون مجموعة +WSF-ARG، وهي أول مجموعة بيانات تجمع بين خطاب الكراهية وترميزات الجدارة بالتحقق.

المصدر: تعتمد على مجموعة بيانات White Supremacy Forum Argumentive (WSF-ARG)، والتي تحتوي على 227 رسالة حاقدة من منتدى Stormfront.
التوسيع: تم توسيع مجموعة البيانات بـ 294 رسالة غير حاقدة (منشورات طويلة وحجاجية) للسماو بـ تحليل مقارن.
التفصيل (Granularity): يتم استخراج الادعاءات من الرسائل. ويتم ترميز كل ادعاء من حيث الجدارة بالتحقق (Check-worthiness) إلى ثلاثة فئات:
1. CFS (بيان واقعي جدير بالتحقق): ادعاءات مهمة وقابلة للتحقق ذات تأثير عام.
2. UFS (بيان واقعي غير مهم): ادعاءات قابلة للتحقق ولكن ذات أهمية منخفضة.
3. NFS (بيان غير واقعي): آراء، أو معتقدات، أو تساؤلات بلاغية.

ج. الإعداد التجريبي

النماذج: 12 نموذجاً لغوياً كبيراً مفتوح الأوزان من أربع عائلات (Mistral, Llama3, Qwen2.5, OLMo2, Command-r) تتراوح من 7 مليار إلى 104 مليار معلمة (Parameters).
التقييم: تم التحقق من صحة إطار العمل مقابل معيار "البلاتيني" (Platinum) (ترميز بشري كامل من قبل ثلاثة خبراء) لقياس الاتفاق (معامل كوهين كابا $\kappa$ ) والاتفاق بين المرمِّزين (IAA).

3. المساهمات الرئيسية

مجموعة بيانات +WSF-ARG: مورد جديد يحتوي على 521 رسالة (227 حاقدة، 294 غير حاقدة) مع ترميزات الجدارة بالتحقق على مستوى الادعاء (CFS, UFS, NFS). وتتضمن كلاً من الملصقات "الذهبية" (Gold - ناتجة عن LLM-in-the-loop) والملصقات "البلاتينية" (Platinum - ناتجة عن الترميز البشري الكامل).
إطار عمل LLM-in-the-Loop: منهجية تم التحقق منها تقلل الجهد البشري بنسبة 46.69% (الادعاءات التي تتطلب حكماً) مع الحفاظ على جودة ترميز تضاهي الترميز البشري الكامل.
رؤى تجريبية:
- ارتباط الضرر: رسائل خطاب الكراهية التي تحتوي على ادعاءات جديرة بالتحقق هي أكثر تحرشاً وكراهية بشكل ملحوظ من تلك التي لا تحتوي عليها.
- تحسين الكشف: يؤدي دمج ملصقات الجدارة بالتحقق كميزات مدخلة إلى تحسين أداء الكشف عن خطاب الكراهية في النماذج اللغوية الكبيرة (LLMs).

4. النتائج

جودة الترميز والكفاءة

تقليل الجهد البشري: قلل إطار العمل عدد الادعاءات التي تتطلب تحكيماً بشرياً من 100% إلى 46.69%.
الاتفاق: حقق النموذج الأفضل أداءً (OLMo2-32B في وضع Zero-shot) معامل كوهين كابا $\kappa$ قدره 0.483 (ثنائي) مقابل أول مرمِّر بشري، وهو ما يضاهي الاتفاق بين البشر في مهام مماثلة.
التحقق: عند مقارنة الملصقات "الذهبية" (الناتجة عن LLM-in-the-loop) مع الملصقات "البلاتينية" (البشرية الكاملة)، حقق إطار العمل معامل كوهين كابا $\kappa$ قدره 0.800 (للفئات الثلاث) و 0.815 (للثنائي)، مما يدل على دقة عالية.

التأثير على الكشف عن خطاب الكراهية

اختبر المؤلفون ما إذا كان تقديم ملصقات الجدارة بالتحقق للنماذج اللغوية يحسن قدرتها على كشف خطاب الكراهية.

مكاسب الأداء: أظهرت النماذج الكبيرة (≥70 مليار معلمة) تحسناً ملحوظاً في درجات Macro-F1 عند تضمين ملصقات الجدارة بالتحقق في التلقين (Prompt).
- متوسط التحسن: تحسنت النماذج الكبيرة بمعدل 0.154 Macro-F1 في المتوسط.
- مثال محدد: تحسن نموذج Qwen2.5-72B من درجة F1 بلغت 0.701 (بدون الملصقات) إلى 0.766 (مع الملصقات).
الأهمية الإحصائية: كانت الرسائل ذات الادعاءات الجديرة بالتحقق ذات درجات تحرش وكراهية أعلى بكثير (وفقاً لـ OpenAI Moderation API) مقارم بالرسائل التي لا تحتوي عليها ( $p < 0.05$ ).

5. الأهمية والعمل المستقبلي

الأثر النظري: تؤكد الدراسة أن المعلومات المضللة هي وسيلة قوية لخطاب الكراهية. ومن خلال تحديد وتحقيق ادعاءات محددة داخل السرديات الحاقدة، يمكن للمنصات تعطيل "رابط المعلومات المضللة والكراهية" بشكل أكثر فعالية.
التطبيق العملي: يوفر إطار عمل LLM-in-the-loop حلاً قابلاً للتوسع ومنخفض التكلفة لترميز مجموعات البيانات المعقدة والذاتية، مما يجعل البيانات عالية الجودة أكثر سهولة في الوصول إليها.
الخطاب المضاد (Counter-Speech): تتيح مجموعة البيانات تطوير خطاب مضاد مستهدف يقوم بتفنيد المقدمات الكاذبة المحددة بدلاً من مجرد وسم المحتوى كسمية عامة.
القيود: تم اختبار إطار العمل بشكل أساسي على محتوى "السيادة البيضاء"؛ وتتطلب قابلية التعميم على مجالات ولغات أخرى مزيداً من الدراسة. بالإضافة إلى ذلك، يدعو المؤلفون إلى توليد الخطاب المضاد بدلاً من الرقابة لتخفيف مخاطر ضبط الكلام.

الخلاصة: تثبت هذه الورقة أن خطاب الكراهية غالباً ما يعتمد على ادعاءات "شبيهة بالحقائق" لإضفاء الشرعية على التحيز. ومن خلال دمج النماذج اللغوية الكبيرة في حلقة الترميز، يمكن للباحثين إنشاء مجموعات بيانات عالية الجودة تربط خطاب الكراهية بالمعلومات المضللة بكفاءة، مما يؤدي في النهاية إلى أنظمة كشف أكثر قوة وتدخلات أكثر استهدافاً.