💬 NLP

Beyond Binary Classification: Detecting Fine-Grained Sexism in Social Media Videos

تقدم هذه الورقة FineMuSe، وهي مجموعة بيانات إسبانية جديدة متعددة الوسائط ذات تعليقات توضيحية دقيقة وتصنيف هرمي، لتطوير الكشف عن التمييز الجنسي بما يتجاوز التصنيف الثنائي من خلال تقييم النماذج اللغوية الكبيرة متعددة الوسائط التي تظهر أداءً تنافسيًا مع البشر في تحديد التمييز الجنسي الدقيق مع تسليط الضوء على التحديات في اكتشاف الأنواع المتزامنة التي يتم نقلها عبر الإشارات المرئية.

المؤلفون الأصليون: Laura De Grazia, Danae Sánchez Villegas, Desmond Elliott, Mireia Farrús, Mariona Taulé

نُشر 2026-02-18

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Laura De Grazia, Danae Sánchez Villegas, Desmond Elliott, Mireia Farrús, Mariona Taulé

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم إنسان آلي (روبوت) كيف يكتشف السلوك الفظ أو غير العادل في غرفة دردشة فيديو مزدحمة وصاخبة.

لفترة طويلة، كانت الروبوتات التي نبنيها تشبه حراس البوابات الصارمين للغاية. كان بإمكانهم قول شيئين فقط: "تفضل بالدخول" (هذا جيد) أو "أنت خارج" (هذا تمييز جنسي). إذا كان الفيديو يحمل كراهية واضهة، كان الحارس يطرده. ولكن إذا كان التمييز الجنسي خفياً — مثل نكتة تبدو مضحكة لكنها في الواقع مسيئة، أو تعليق يبدو كأنه إطراء لكنه في الحقيقة فخ — كان الحارس يسمح بمروره. لقد كانوا ثنائيين للغاية؛ لم يروا سوى الأبيض والأسود، وفاتتهم كل درجات الرمادي.

تقدم هذه الورقة البحثية نظاماً جديداً وأكثر ذكاءً يسمى FineMuSe (فكر فيه كـ "مجهر دقيق لضبط التمييز الجنسي"). وإليك كيف يعمل، مقسماً ببساطة:

١. مجموعة البيانات الجديدة: "متحف اللحظات المسيئة"

جمع الباحثون ٨٢٨ مقطع فيديو قصير من أماكن مثل تيك توك، ويوتيوب شورتس، و"بِتشوت" (BitChute). ولكن بدلاً من مجرد تصنيفها كـ "سيئة" أو "جيدة"، أنشأوا فهرساً تفصيلياً ضخماً.

تخيل لوحة محقق مغطاة بالخيوط الحمراء. لم يكتفوا بالقول: "هذا الفيديو فيه تمييز جنسي"، بل تساءلوا:

هل هو صورة نمطية؟ (مثال: "النساء سيئات في الرياضيات.")
هل هو إنكار؟ (مثال: "لم يعد هناك شيء اسمه عدم المساواة بين الجنسين.")
هل هو تمييز؟ (مثال: مهاجمة شخص ما لكونه من مجتمع الميم.)
هل هو تسليع (شيئنة)؟ (مثال: معاملة الشخص كقطعة أثاث للنظر إليها.)
هل هي نكتة؟ (هل التمييز الجنسي مخفي داخل دعابة؟)

كما قاموا أيضاً بتصنيف الفيديوهات التي "تقاوم" التمييز الجنسي أو "تُبلغ" عن التجارب السيئة. هذا يخلق خريطة غنية توضح بالضبط كيف يظهر التمييز الجنسي، وليس فقط أنه يظهر.

٢. التحدي: "الفخ البصري"

اختبر الباحثون أذكى عقول الذكاء الاصطناعي في العالم (نماذج اللغات الكبيرة) على هذه الخريطة الجديدة. أعطوا الذكاء الاصطناعي نوعين من الأدلة:

النص (السيناريو): الكلمات المنطوقة في الفيديو فقط.
الصورة الكاملة: الكلمات، ونبرة الصوت، وصور الفيديو الفعلية.

النتيجة: أصبح الذكاء الاصطناعي جيداً جداً في قراءة النص. إذا قال أحدهم: "يجب على النساء البقاء في المنزل"، عرف الذكاء الاصطناعي أن هذا تمييز جنسي.

المشكلة: واجه الذكاء الاصطناعي صعوبة عندما كان التمييز الجنسي مخفياً في الصور المرئية.
تخيل فيديو يقول فيه رجل: "أنا أحب زوجتي"، وهو كلام يبدو لطيفاً. لكن الفيديو يُظهره وهو يعاملها كخادمة، حيث تحمل هي حقائبه بينما هي تجلس على عرش. قرأ الذكاء الاصطناعي الكلمات اللطيفة لكنه فاته المشهد المسيء. الأمر يشبه شخصاً يستمع فقط إلى كلمات الأغنية لكنه لا يرى الوجه الغاضب للمغني. يحتاج الذكاء الاصطناعي إلى تعلم كيفية "مشاهدة" الفيديو، وليس فقط "قراءة" النص المكتوب.

٣. المواجهة بين "الإنسان والروبوت"

سأل الباحثون أيضاً: "هل يستطيع الذكاء الاصطناعي شرح لماذا وضع علامة على فيديو ما؟"
قاموا بمقارنة تفسيرات الذكاء الاصطناعي بتلك التي كتبها خبراء بشريون.

الحكم: الذكاء الاصطناعي جيد بشكل مفاجئ في كتابة التفسيرات! يمكنه أن يقول: "هذا تمييز جنسي لأنه يستخدم نكتة لإخفاء صورة نمطية"، وذلك بمستوى يقارب البشر تقريباً.
العيب: في بعض الأحيان، يصيب الذكاء الاصطناعي في تحديد السبب لكنه يغفل عن الجزء البصري من السبب. إنه يشبه المحقق الذي يحدد الجريمة بشكل صحيح ولكنه نسي أن ينظر إلى بصمة الإصبع على النافذة.

٤. لماذا يهم هذا؟

فكر في مراقبة المحتوى عبر الإنترنت مثل محاولة تصفية المياه.

الطريقة القديمة: لديك شبكة كبيرة تلتقط فقط الصخور الكبيرة (خطاب الكراهية الواضح). أما الرمال الدقيقة وغير المرئية (التمييز الجنسي الخفي) فتمر من خلالها، مما يجعل المياه لا تزال متسخة.
الطريقة الجديدة (FineMuSe): لديك مرشح (فلتر) عالي التقنية يلتقط الصخور، والرمال، وحتى الطحالب المجهرية. إنه يفهم أن التمييز الجنسي ليس شيئاً واحداً؛ بل هو "حرباء" تغير ألوانها بناءً على المنصة (تيك توك مقابل يوتيوب) وبناءً على اللغة (اللهجات الإسبانية من المكسيك مقابل إسبانيا).

الخلاصة

هذه الورقة البحثية هي قفزة هائلة للأمام. إنها تخبرنا أنه بينما يصبح الذكاء الاصطناعي ذكياً جداً في رصد التمييز الجنسي الواضح، فإنه لا يزال بحاجة إلى تعلم كيفية "قراءة الغرفة" بصرياً. لا يكفي مجرد سماع الكلمات؛ يجب على الذكاء الاصطناعي فهم لغة الجسد، والسياق، والنكات الخفية.

من خلال إنشاء هذا "المتحف" التفصيلي من الأمثلة، يمنح الباحثون ذكاءً اصطناعياً مستقبلياً كتاباً مدرسياً أفضل للدراسة، آملين في بناء أدوات يمكنها أخيراً رصد الأشكال الخفية والمتسللة من عدم الإنصاف التي ظلت مختبئة في وضح النهار.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "ما وراء التصنيف الثنائي: الكشف عن التمييز الجنسي دقيق التفاصيل في فيديوهات وسائل التواصل الاجتماعي".

1. بيان المشكلة

تقتصر الأدوات الآلية الحالية للكشف عن التمييز الجنسي على وسائل التواصل الاجتماعي بشكل أساسي على التصنيف الثنائي (تمييز جنسي مقابل غير تمييز جنسي). يفشل هذا النهج في استيعاب الفروق الدقيقة، والسياق، والمظاهر المحددة للتمييز الجنسي، مثل الصور النمطية، وإنكار عدم المساواة، والتمييز، والشيئية (Objectification). علاوة على ذلك، تركز الأبحاث الحالية غالباً على:

البيانات المعتمدة على النص فقط أو الميمز (Memes)، متجاهلة التفاعل المعقد بين النصوص، والصوت، والإشارات المرئية في الفيديوهات قصيرة المدى.
مجموعات البيانات أحادية المنصة، مما يحد من القدرة على التعميم عبر مجتمعات المستخدمين المختلفة والمجالات اللغوية المختلفة.
نقص التوسيم (Annotation) دقيق التفاصيل للأساليب البلاغية مثل السخرية والفكاهة، والتي تُستخدم بشكل متكرر لإخفاء أو تغيير طبيعة المحتوى المتحيز جنسياً.

يرى المؤلفون أنه بدون تسميات دقيقة التفاصيل وحساسة للسياق وتحليل متعدد الوسائط، ستظل الأشكال الخفية من التمييز الجنسي دون اكتشاف، وستفتقر أدوات الإشراف الآلي إلى الشفافية المطلوبة لبناء الثقة مع المستخدمين والمشرفين.

2. المنهجية

أ. بناء مجموعة البيانات: FineMuSe

المساهمة الجوهرية هي FineMuSe، وهي مجموعة بيانات جديدة متعددة الوسائط باللغة الإسبانية مصممة للكشف عن التمييز الجنسي دقيق التفاصيل.

المصادر: تتكون مجموعة البيانات من 828 فيديو تم جمعها من ثلاث منصات متميزة لضمان التنوع:
- تيك توك (TikTok): 367 فيديو (منصة تخضع للإشراف).
- بيتشوت (BitChute): 33 فيديو (منصة ذات انتشار عالٍ للمحتوى الذي يحض على الكراهية).
- يوتيوب شورتس (YouTube Shorts): 428 فيديو (أضيفت لتوسيع MuSeD، مع التركيز على المحتوى قصير المدى).
اللغة: الإسبانية، وتغطي تنوعات شبه الجزيرة الإيبيرية وأمريكا اللاتينية.
عملية التوسيم (Annotation):
- الموسمون الخبراء: تم استخدام ستة موسمين مدربين تدريباً عالياً من ذوي الخلفيات في اللغويات والكشف عن التمييز الجنسي لضمان الجودة العالية.
- النهج متعدد الوسائط: تم إجراء التوسيم عبر ثلاثة مستويات: النص (النصوص المفرغة عبر Whisper)، الصوت، والفيديو.
- درجة التفصيل: تتضمن مجموعة البيانات تسميات ثنائية وتسميات متعددة دقيقة التفاصيل.

B. التصنيف الهرمي

طوّر المؤلفون تصنيفاً هرمياً مكوناً من ثلاثة مستويات (الشكل 1) لتصنيف المحتوى:

المستوى 1 (ثنائي): تمييز جنسي مقابل غير تمييز جنسي.
المستوى 2 (الفئات دقيقة التفاصيل):
- تمييز جنسي: الصور النمطية، إنكار عدم المساواة/رفض النسوية، التمييز (بناءً على التوجه الجنسي أو الهوية الجندرية)، والشيئية (Objectification).
- غير تمييز جنسي: الخطاب المضاد (نقد التمييز الجنسي) والتمييز المُنقل (سرد تجارب شخصية).
- ملاحظة: هذه الفئات غير حصرية؛ حيث يمكن أن يحتوي الفيديو الواحد على عدة تسميات.
المستوى 3 (الأساليب البلاغية): السخرية والفكاهة (تنطبق على كل من المحتوى المتحيز وغير المتحيز جنسياً).

3. المساهمات الرئيسية

مجموعة بيانات FineMuSe: أول مجموعة بيانات إسبانية متعددة الوسائط للكشف عن التمييز الجنسي تجمع بين التسميات الثنائية ودقيقة التفاصيل عبر وسائط النص والصوت والفيديو من منصات متعددة.
تصنيف شامل: إطار عمل هرمي مبتكر يلتقط الأشكال المتداخلة من التمييز الجنسي، والاستجابات غير المتحيزة، والاستراتيجيات البلاغية (السخرية/الفكاهة).
تقييم واسع لنماذج اللغة الكبيرة (LLMs): دراسة مرجعية تقيم مجموعة واسعة من نماذج اللغة الكبيرة، بما في ذلك النماذج المعتمدة على النص فقط، والنماذج التي تجمع بين الرؤية واللغة (V+L)، ونماذج معالجة الفيديو.
تحليل الارتباط بين الإنسان والنموذج: تحليل لكيفية ارتباط تنبؤات النماذج مع التوسيمات البشرية وتقييم جودة التفسيرات التي تولدها النماذج.

4. النتائج التجريبية

أ. أداء النماذج

قيمت الدراسة نماذج مختلفة (Llama-3, Qwen, GPT-4o, Claude-3.7, Gemini) باستخدام استراتيجية التلقين صفري المحتوى (Zero-shot prompting).

الكشف الثنائي: حققت النماذج متعددة الوسائط (تحديداً Claude-3.7-Sonnet (V+L)) أعلى دقة (85.8% في الجزء 1، و 83.6% في الجزء 2)، متفوقة على النماذج المعتمدة على النص فقط. وهذا يؤكد أن السياق البصري أمر بالغ الأهمية للكشف عن التمييز الجنسي.
الكشف دقيق التفاصيل:
- الحجم مهم: تفوقت النماذج الأكبر حجماً (مثل Llama-3-70B, GPT-4o) بشكل كبير على نظيراتها الأصغر.
- الميزة متعددة الوسائط: تفوقت النماذج متعددة الوسائط باستمرار على النماذج المعتمدة على النص فقط، لا سيما في "يوتيوب شورتس" (الجزء 2)، حيث كانت الإشارات المرئية حاسمة.
- صعوبة الفئة:
  - الأسهل: الصور النمطية وعدم المساواة (F1 > 69 لأفضل النماذج).
  - متوسطة: التمييز (F1 ~ 81 لأفضل النماذج).
  - الأصعب: الشيئية (Objectification). حتى أفضل النماذج واجهت صعوبة (F1 < 50)، ويرجع ذلك على الأرجتمل إلى ندرة هذا النوع من المحتوى في مجموعة البيانات (بسبب الإشراف على المنصات) وصعوبة تفسير الشيئية البصرية دون إشارات لفظية صريحة.

ب. التوافق بين الإنسان والنموذج

الارتباط: أظهر النموذج الأفضل أداءً (Claude-3.7-Sonnet V+L) ارتباطاً قوياً مع الموسمين البشريين في فئتي الصور النمطية والتمييز (معامل بيرسون $r \approx 0.70$ ).
نقاط الضعف: كان الارتباط منخفضاً في فئة الشيئية ( $r \approx 0.15$ في الجزء 1)، مما يشير إلى أن النماذج تواجه صعوبة في اكتشاف الشيئية عندما يتم التعبير عنها من خلال الإشارات البصرية البحتة دون نص صريح.
جودة التفسير: في دراسة قارنت بين التبريرات التي تولدها النماذج وتلك المكتوبة بشرياً، أنتجت النماذج تفسيرات ذات جودة مماثلة من حيث الصلة، والقدرة على الإخبار، والواقعية، رغم أن البشر فضلوا تفسيراتهم الخاصة قليلاً في حالات محددة.

5. الأهمية والخاتمة

ما وراء الثنائية: تثبت الورقة أن الانتقال لما وراء التصنيف الثنائي أمر ضروري لفهم الفروق الدقيقة في التمييز الجنسي عبر الإنترنت.
ضرورة تعدد الوسائط: تؤكد الدراسة أن الكشف الفعال عن التمييز الجنسي في فيديوهات وسائل التواصل الاجتماعي يتطلب دمج الوسائط النصية والصوتية والبصرية؛ فالنماذج المعتمدة على النص فقط تفقد السياق الحاسم.
تنوع المنصات: من خلال تضمين تيك توك، وبيتشوت، ويوتيوب شورتس، تسلط الدراسة الضوء على كيفية ظهور التمييز الجنسي بشكل مختلف عبر المنصات (على سبيل المثال، المزيد من الصور النمطية على تيك توك/بيتشوت مقابل المزيد من خطاب عدم المساواة الجدلي على يوتيوب).
الاتجاهات المستقبلية: يقترح المؤلفون أن العمل المستقبلي يجب أن يركز على تحسين اكتشاف الشيئية (Objectification) عبر الإشارات البصرية وتوسيع جمع البيانات الخاصة بـ السخرية والفكاهة، والتي تظل تحدياً بسبب طبيعتها الذاتية.

باختصار، توفر FineMuSe أساساً قوياً لتطوير أدوات إشراف آلي أكثر شفافية ودقة وتفصيلاً، قادرة على تحديد الطبيعة المعقدة والمتعددة الطبقات للتمييز الجنسي في وسائل التواصل الاجتماعي الحديثة.