IYKYK (But AI Doesn't): Automated Content Moderation Does Not Capture Communities' Heterogeneous Attitudes Towards Reclaimed Language
تُثبت هذه الورقة أن أدوات الإشراف الآلي على المحتوى تخفق في استيعاب المواقف المتباينة والذاتية للمجتمعات المهمشة تجاه الألفاظ المستعادة، مما يؤدي إلى تصنيف اللغة القائمة على التضامن خطأً على أنها خطاب كراهية بسبب الافتقار إلى الفهم السياقي والتباين الكبير حتى بين أفراد المجموعة الواحدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفكرة الكبرى: الروبوت "مقاس واحد للجميع" مقابل قلب الإنسان المعقد
تخيل أنك تحاول تعليم روبوت كيف يفهم اللغة البشرية. تعطي الروبوت قائمة من "الكلمات السيئة" (الألفاظ النابية) وتقول له: "إذا رأيت هذه الكلمة، احذف المنشور فوراً لأنه خطاب كراهية."
يفعل الروبوت بالضبط ما طلبته منه؛ يحذف كل شيء يحتوي على تلك الكلمات.
لكن هنا تكمن المشكلة: الروبوت لا يفهم السياق، ولا التاريخ، ولا الصداقة.
بالنسبة للعديد من المجتمعات المهمشة (مثل السود، ومجتمع الميم، والنساء)، تم استعادة هذه الكلمات نفسها واستخدامها كوسيلة لإظهار الحب، والتضامن، والفخر بين الأصدقاء. الأمر يشبه مجموعة من الأصدقاء يستخدمون لقباً قد يكون إهانة إذا استخدمه غريب، ولكنه تعبير عن المودة إذا استخدمه صديق مقرب.
تجادل هذه الورقة البحثية بأن أدوات الإشراف على المحتوى الحالية في الذكاء الاصطناعي تشبه ذلك الروبوت الأخرق. فهي تفتقر للذكاء الذي يميز بين مزاح صديق وهجوم غريب. ولأنها لا تستطيع التمييز، فإنها تسكت بالخطأ الأشخاص الذين كان من المفترض أن تحميهم.
التجربة الجوهرية: سؤال المجتمع ليحكم
لم يكتفِ الباحثون بالتخمين؛ بل طلبوا من أعضاء هذه المجتمعات أن يعملوا كقضاة. جمعوا حوالي 12,000 تغريدة تحتوي على ألفاظ مستعادة (الكلمة التي تبدأ بـ N، والكلمة التي تبدأ بـ F، والكلمة التي تبدأ بـ B) وطلبوا من أفراد المجتمع تصنيفها.
طرحوا أسئلة مثل:
- "هل يستخدم هذا الشخص الكلمة ليكون لئيماً، أم لإظهار الفخر؟"
- "إذا كان الكاتب جزءاً من مجتمعنا، هل يجب أن نبلغ عنه؟"
- "إذا لم يكن الكاتب جزءاً من مجتمعنا، هل يجب أن نبلغ عنه؟"
الاكتشاف الصادم: "نحن لا نتفق جميعاً"
توقع الباحثون أنه إذا سألوا أعضاء من نفس المجتمع، فإنهم سيتفقون جميعاً. فكروا قائلين: "إذا سألنا السود عن الكلمة التي تبدأ بـ N، فسيقولون جميعاً الشيء نفسه".
لكنهم كانوا مخطئين.
التشبيه: تخيل مأدبة عشاء (Potluck) حيث يحضر الجميع طبقاً. تتوقع أن يتفق الجميع على الوصفة. بدلاً من ذلك، تجد أن البعض يرى الطبق تقليداً عائلياً لذيذاً، والبعض الآخر يراه نكتة داخلية مضحكة، والبعض يراه في الواقع مقززاً.
وجدت الدراسة اختلافاً هائلاً في الآراء حتى بين الأشخاص من نفس المجتمع.
- قد يرى شخص تغريدة ويفكر: "هذا استعادة فخورة لهويتنا!"
- بينما قد يرى شخص آخر من نفس المجتمع نفس التغريدة تماماً ويفكر: "هذا لا يزال جارحاً ويجب حظره."
لماذا؟ لأن لكل شخص قصة حياة مختلفة.
- ربما نشأ شخص ما وهو يسمع الكلمة تُستخدم فقط كسلاح، لذا لا يطيق رؤيتها تُستخدم في أي مكان.
- وربما نشأ آخر وهو يسمعها كمزحة بين أبناء العمومة، لذا يشعر أنها آمنة للاستخدام.
تسمي الورقة هذا "المواقف المتباينة" (Heterogeneous Attitudes). ويعني: لا توجد طريقة واحدة "صحيحة" للشعور تجاه هذه الكلمات، حتى داخل المجموعة الواحدة.
الروبوت مقابل البشر
اختبر الباحثون أيضاً أداة ذكاء اصطناعي شهيرة تسمى Perspective API (والتي تستخدمها العديد من مواقع التواصل الاجتماعي) مقابل القضاة البشر.
- منطق الذكاء الاصطناعي: "أرى الكلمة. إنها لفظ نابٍ. إذن هي خطاب كراهية. احذفها."
- منطق البشر: "أرى الكلمة. من قالها؟ لمن؟ في أي سياق؟ هل هي مزحة؟ هل هي اقتباس؟ هل هي معنى جديد لغة عامية؟"
النتيجة: كان الذكاء الاصطناعي مخطئاً في كثير من الأحيان.
- لقد صنف بكثرة الاستخدامات الودية والمستعادة كخطاب كراهية (نتائج إيجابية خاطئة).
- فشل في فهم أن الكلمة نفسها قد تكون مقبولة إذا قالها شخص أسود، لكنها غير مقبولة إذا قالها شخص أبيض.
- بدا أن الذكاء الاصطناعي يفترض أن الجميع الذين يستخدمون الكلمة هم غرباء يحاولون أن يكونوا لئيمين.
تشبيه "الكلمة التي تبدأ بـ B" مقابل "الكلمة التي تبدأ بـ N"
وجدت الورقة أن الكلمات المختلفة تُعامل بشكل مختلف، حتى من قبل نفس الأشماء.
- "الكلمة التي تبدأ بـ B" (B*tch): أصبحت هذه الكلمة شائعة جداً في الأفلام والموسيقى والتسويق لدرجة أنها أصبحت مثل اسم عادي. اتفق الذكاء الاصطناعي والبشر أكثر على هذه الكلمة. إنها مثل كلمة فقدت معظم حدتها.
- "الكلمة التي تبدأ بـ N": تحمل هذه الكلمة تاريخاً ثقيلاً من العنف والصدمات. كان الخلاف هنا ضخماً. كان الذكاء الاصطناعي عدوانياً جداً في رصدها، وغالباً ما أضر بالمستخدمين السود الذين يستخدمونها فيما بينهم. أما البشر فكانوا أكثر دقة وفهماً، مدركين أن السياق هو كل شيء.
الخلاصة: نحن بحاجة إلى "إنسان في الحلقة" (Human-in-the-Loop)
تخلص الورقة إلى أنه لا يمكننا الاعتماد على "معيار ذهبي" بسيط (مجموعة واحدة من القواعد) للإشراف على المحتوى.
الاستعارة:
محاولة الإشراف على اللغة المستعادة باستخدام ذكاء اصطناٍ بسيط يشبه محاولة الحكم على جدال عائلي معقد من خلال النظر فقط إلى مستوى صوت الأصوات. أنت تفقد النبرة، والتاريخ، والعلاقة.
ماذا يجب أن نفعل؟
- توقف عن افتراض أن الجميع في مجتمع ما يفكرون بنفس الطريقة. نحتاج إلى قبول أن الناس سيختلفون، وأن هذا الاختلاف أمر طبيعي.
- السياق هو الملك. نحتاج إلى أنظمة يمكنها "قراءة الغرفة"، وليس فقط قراءة الكلمات.
- لا تدع الروبوت يكون القاضي الوحيد. نحن بحاجة إلى اللمسة البشرية الدقيقة، خاصة من المجتمعات المتأثرة، لتحديد ما هو ضار حقاً.
باختصار: تقول الورقة: "مهلاً، أيها الذكاء الاصطنا artificial، أنت تقوم بعمل سيء في فهم الطرق المعقدة، والمضطربة، والجميلة، والمؤلمة التي يستخدم بها البشر اللغة للتواصل. أنت تؤذي الأشخاص الذين تحاول مساعدتهم. نحن بحاجة إلى القيام بعمل أفضل."
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.