Leveraging LLMs for Context-Aware Implicit Textual and Multimodal Hate Speech Detection
تُثبت هذه الورقة أن الاستفادة من النماذج اللغوية الكبيرة لتوليد سياق خلفي مساعد ودمجه عبر دمج التضمين (embedding concatenation) يحسن بشكل كبير من كشف خطاب الكراهية الضمني في كل من السياقات النصية ومتعددة الوسائط، متفوقاً بذلك على النماذج المرجعية ذات السياق الصفر وبنهج ربط الكيانات الحالي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إن الإنترنت سوق شاسعة وصاخبة من التعبير البشري، حيث تكون الكلمات الأكثر خطورة هي تلك التي لا تصرخ. وبينما يسهل على الحاسوب رصد الشتائم الصريحة أو التهديدات المباشرة، إلا أن نوعاً آخر من السمية يختبئ في وضح النهار؛ وهذا هو خطاب الكراهية الضمني: العدائية التي تعتمد على السخرية، أو الرموز الثقافية، أو الفهم المشترك للعالم لإيصال وجهة نظرها. فالجملة التي قد تبدو غير ضارة في حد ذاتها، يمكن أن تتحول إلى هجوم مسموم عند النظر إليها من خلال عدسة حدث معين، أو مرجع تاريخي، أو نكتة داخلية لمجتمع ما. لسنوات طويلة، حاول الباحثون تعليم الحواسيب رؤية هذه المعاني الخفية، لكنهم واجهوا مشكلة جوهرية: الآلات تفتقر إلى الخلفية المعرفية التي يعتبرها البشر أمراً بديهياً. يمكنها قراءة الكلمات، لكنها لا تعرف القصة الكامنة وراءها.
ولحل هذه المعضلة، قرر فريق من الباحثين في جامعة "فريجي" الحرة بأمستردام منح نماذجهم الحاسوبية معلماً خاصاً. فقد لجأوا إلى النماذج اللغوية الكبيرة، وهي نفس أنظمة الذكاء الاصطناعي القوية التي يمكنها كتابة المقالات أو إجراء المحادثات، وطلبوا منها القيام بشيء محدد. فبدلاً من ترك الذكاء الاصطناعي يلعب دور القاضي فيما إذا كان الكلام يحمل كراهية أم لا، استخدموه كمدقق للحقائق ومؤرخ. فلكل منشور على وسائل التواصل الاجتماعي يحلله النظام، طُلب من الذكاء الاصطناعي توليد فقرة قصيرة من السياق الخلفي. فإذا ذكر المنشور مجموعة سياسية غامضة أو "ميم" (meme) واسع الانتشار، يقوم الذكاء الاصطناعي بشرح من هم وماذا يمثلون، مما يسد الفجوات في المعرفة بالعالم التي قد يغفل عنها برنامج حاسوبي قياسي. ثم اختبر الباحثون أربع طرق مختلفة لتغذية هذا النوع من المعلومات الجديدة في نظام الكشف الخاص بهم، متسائلين عما إذا كان مجرد لصق الحقائق بجانب المنشور كافياً، أم أن الحاسوب يحتاج إلى معالجة المنشور والحقائق بشكل منفصل لفهم القصد الحقيقي.
كانت نتائج هذه التجربة واضحة وقابلة للقياس. فعندما اختبر الباحثون طريقتهم على مجموعة بيانات تضم آلاف التغريدات التي تحتوي على كراهية ضمنية، أظهر النظام الذي استخدم سياق الخلفية المولد بواسطة الذكاء الاصطناعي أداءً أفضل بكثير من النماذج التي اعتمدت فقط على النص الخام. وتمثل النهج الأكثر نجاحاً في تقنية محددة حيث يقوم الحاسوب بإنشاء تمثيل رقمي للمنشور الأصلي وتمثيل منفصل لقصة الخلفية المولدة، ثم يدمج هذين الجزءين المتميزين من المعلومات. وقد حسن هذا الأسلوب قدرة النظام على تحديد المحتوى الذي يحمل كراهية بنسبة تصل إلى ثلاث نقاط مئوية مقارنة بنظام لا يمتلك أي سياق على الإطلاق. وكان التحسن أكثر دراماتيكية عندما طبق الباحثون نفس المنطق على نوع مختلف من المحتوى: "الميمز" (memes). تجمع "الميمز" بين الصور والنصوص، وغالباً ما تعتمد على إشارات بصرية قد تكون مربكة للآلة تماماً كما هي اللغة المشفرة بالنسبة للبشر. وعلى مجموعة بيانات من "الميمز" التي تحمل كراهية النساء، حسن النظام المعزز بالسياق دقة الكشف بنسبة تصل إلى ست نقاط مئوية.
ومع ذلك، لم يكن الطريق نحو كشف أفضل خالياً من العثرات. فقد وجد الباحثون أن مجرد إضافة المزيد من الكلمات إلى المنشور لم يساعد دائماً؛ بل إن ذلك أدى أحياناً إلى إرباك الحاسوب. فعندما قام الذكاء الاصطناعي بتوليد شرح طويل ومفصل لمنشور كان هو في الأصل يحمل كراهية واضحة، أدت المعلومات الإضافية أحياناً إلى تمييع الرسالة الأصلية، مما تسبب في إغفال النظام للكراهية. وعلى العكس من ذلك، عندما قام الذكاء الاصطناعي بتوليد قصة خلفية لمنشور غير ضار، فإنه كان يربط أحياناً بوجود صلات بأفك actually كراهية لم تكن موجودة، مما أدى إلى تصنيف النظام لمحتوى بريء خطأً على أنه خطير. حدث هذا لأن الذكاء الاصطناعي، في محاولته ليكون مفيداً، كان يبالغ أحياناً في تفسير عبارة محايدة أو تحذير من مجموعة ما على أنه تأييد للكراهية. أظهرت الدراسة أنه بينما يعد توفير الخلفية المعرفية أداة قوية، إلا أنه يجب التعامل معه بحذر. ولم يكن النهج الأكثر فعالية هو دمج المنشور والسياق في كتلة نصية واحدة، بل في إبقائهما متميزين حتى نهاية عملية التحليل، مما يسمح للحاسوب بوزن الرسالة الأصلية مقابل المعلومات الجديدة دون السماقة لأحدهما بطمس الآخر.
كما تحدى هذا العمل افتراضاً شائعاً في هذا المجال: وهو أن الذكاء الاصطناዊ الأكثر قوة يجب أن يكون هو من يقوم بالتحكيم النهائي. فقد اختبر الباحثون ما إذا كان بإمكان النموذج اللغوي الكبير قراءة المنشور والبت في كونه يحمل كراهية، ليعمل هو نفسه كمصنف. وبينما كان الذكاء الاصطناعي جيداً جداً في ذلك، خاصة مع "الميمز" المرئية، إلا أنه لم يتفوق على نظام الكشف المتخصص الذي استخدم الذكاء الاصطناعي فقط لتوليد الحقائق الخلفية. وهذا يشير إلى أن النهج الأفضل في الوقت الحالي هو الشراكة: استخدام النموذج اللغوي الكبير كمكتبة ديناميكية لاسترجاع الحقائق ذات الصلة، ثم استخدام نظام أبسط وأكثر تركيزاً لاتخاذ القرار النهائي بناءً على تلك الحقائق. يسمح هذا النهج المجزأ للنظام بتعلم أنماط خطاب الكراهية المحددة في مجموعة بيانات معينة، مع الاستمرار في الوصول إلى المعرفة الواسعة بالعالم التي تجعل الكراهية الضمنية مفهومة.
في الختام، تثبت الدراسة أن السياق ليس مجرد إضافة مساعدة لكشف خطاب الكراهية، بل هو ضرورة لفهم اللغة المشفرة والدقيقة للإنترنت الحديث. ومن خلال معاملة توليد المعلومات الخلفية كخطوة منفصلة عن عملية التصنيف، أنشأ الباحثون نظاماً أكثر دقة ومتانة. لقد أظهروا أن المفتاح للإمساك بالكراهية الخفية لا يكمي فقط في قراءة الكلمات، بل في فهم العالم الذي تصفه تلك الكلمات. وبينما لا يزال النظام غير مثالي ولا يزال يعاني في رسم الخط الفاصل بين السخرية البريئة والخبث الحقيقي، فإن النتائج تقدم اتجاهاً واضحاً للمستقبل. ومع استمرار تطور الذكاء الاصطناعي، فإن القدرة على توليد ودمج السياق ذي الصلة ستصبح على الأرجح هي المعيار لأي نظام مكلف بحماية المساحات عبر الإنترنت من أكثر أشكال التعبير البشري دهاءً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.