Who Decides What Is Harmful? Content Moderation Policy Through A Multi-Agent Personalised Inference Framework
تقترح هذه الورقة إطار عمل متعدد الوكلاء يعتمد على النماذج اللغوية الكبيرة (LLM) يعمل على تخصيص الإشراف على المحتوى من خلال محاكاة الحساسيات الفردية للمستخدمين عبر وكلاء متخصصين، محققاً تحسناً في الدقة بنسبة 32% مقارنة بالأنظمة المركزية التقليدية، مع تقديم نهج قابل للتوسع للموازنة بين حوكمة المنصة واستقلالية المستخدم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كأنه ساحة مدينة ضخمة وفوضوية، حيث يصرخ الملايين من الناس، ويتشاركون القصص، ويتجادلون، وينشرون "الميمز" في آن واحد. حالياً، يستخدم "حراس الأمن" (أنظمة الإشراف على المحتوى) الذين يحاولون الحفاظ على سلامة هذه الساحة كتاب قواعد واحداً ضخماً للجميع. هم يقررون ما هو "ضار" بناءً على قائمة موحدة للجميع؛ فإذا خرق منشور ما قاعدة ما، يتم حذفه، وإذا لم يخرقها، يظل موجوداً.
المشكلة، كما يشير مؤلفو هذه الورقة البحثية، هي أن الناس مختلفون. ما يراه شخص ما مضحكاً، قد يراه آخر جارحاً للغاية. وما يراه شخص ما رأياً سياسياً جريئاً، قد يراه آخر هجوماً شخصياً. النظام الحالي يتجاهل هذه المشاعر الفردية، مما يترك الناس غالباً غارقين في محتوى يجدونه ساماً، أو على العكس، يحذف أشياء يستمتعون بها بالفعل.
تقترح هذه الورقة طريقة جديدة لإدارة محطة حراسة الأمن. فبدلاً من كتاب قواعد واحد جامد، يقترحون نهجاً شخصياً قائماً على الفرق يسمى PRISM.
الفكرة الجوهرية: فريق أمني مخصص
فكر في نظام PRISM ليس كروبوت واحد، بل كفريق أمني مخصص يتم تعيينه لكل مستخدم على حدة. إليك كيف يعمل هذا الفريق، باستخدام تشبيهات بسيطة:
1. "ملف الحساسية" (كتاب قواعدك الشخصي)
بدلاً من البدء من نقطة الصفر، يتعلم النظام "نقاط الألم" الخاصة بك.
- التشبيه: تخيل أنك حساس جداً للضوضاء العالية ولكنك لا تمانع الغرف الفوضوية. بينما جارك، على العكس، يكره الفوضى ولكنه يحب الموسيقى الصاخبة. يتعلم نظام PRISM عتباتك الخاصة. يبني ملفاً يقول: "هذا المستخدم ينزعج بسهولة من الإهانات، لكنه يتقبل الحوارات السياسية القوية".
- كيف يعمل: بينما تتفاعل مع النظام (بإخبارِهِ "لا يعجبني هذا المنشور" أو "هذا جيد")، يقوم بتحديث ملفك. إنه يتعلم ما تجده أنت ضاراً بالضبط، وليس ما تراه خوارزمية عامة ضاراً.
2. "الوكيل المدير" (قائد الفريق)
عندما يصل منشور جديد، ينظر "مدير" مركزي إلى المنشور وإلى ملفك الشخصي.
- التشبيه: المدير يشبه قائد الأوركسترا. ينظر إلى المنشور ويقول: "هذا المنشور يحتوي على لغة عدوانية ويذكر مجموعة معينة. لسنا بحاجة إلى الأوركسترا بأكملها؛ لنستدعِ فقط عالم الاجتماع (الذي يعرف ديناميكيات المجموعات) وعالم النفس (الذي يعرف التأثير العاطفي)".
- التحول: المدير يهمس أيضاً بتفضيلاتك الخاصة للخبراء. فهو يخبر عالم النفس: "تذكر، هذا المستخدم حساس للغاية تجاه لغة تجريد البشر من إنسانيتهم، لذا ابحث عن ذلك تحديداً".
3. "الوكلاء الخبراء" (المتخصصون)
يستخدم النظام "خبراء" ذكاء اصطناعي مختلفين لتحليل المحتوى من زوايا مختلفة.
- عالم الاجتماع: يبحث عن التمييز أو المعاملة غير العادلة للمجموعات.
- عالم اللغويات: يبحث عن الكلمات الفظة، أو الإهانات، أو النبرة العدوانية.
- عالم النفس: يبحث عن التهديدات أو الأشياء التي قد تسبب ضيقاً عاطفياً.
- "الوكيل الشبح": هذا وكيل خاص يعمل تماماً مثلك. إذا اختلف الخبراء، يتدخل الوكيل الشبح ليقول: "بناءً على ما أخبرنا به هذا المستخدم سابقاً، هو سيجد هذا الأمر ضاراً".
4. "وكيل التركيب" (صانع القرار)
أخيراً، يقوم "وكيل التركيب" بجمع جميع آراء الخبراء والوكيل الشبح. يقوم بوزن حججهم مقابل ملفك الشخصي ويتخذ القرار النهائي: "أظهر هذا للمستخدم" أو "أخفِ هذا".
ماذا وجدوا؟
اختبر الباحثون هذا النظام مقابل الأساليب القديمة "الموحدة للجميع" وبعض نماذج الذكاء الاصطناعي القياسية الأكثر ذكاءً والمستخدمة حالياً.
- دقة أفضل: كان فريقهم المخصص أكثر دقة بنسبة 32% في التنبؤ بما سيجده مستخدم معين ضاراً مقارنة بالأنظمة العامة القياسية.
- أخطاء أقل: ارتكب فريق الوكلاء المتعددين أخطاءً أقل من ذكاء اصطناعي واحد يحاول القيام بكل شيء بمفرده. من خلال تقسيم المشكلة إلى مهام أصغر (مثل وجود متخصص للإهانات ومتخصص للتهديدات)، تجنبوا الخلط بينهما.
- تعلم سريع: لم يحتج النظام لسنوات ليتعلم. حتى بعد تقديم المستخدم لعدد قليل فقط من التعليقات، بدأ النظام يعمل بشكل أفضل بكثير من النسخة العامة. لم يستغرق الأمر طويلاً ليفهم "ذوقك".
الصورة الكبيرة: من يقرر؟
تطرح الورقة سؤالاً كبيًراً: "من يقرر ما هو ضار؟"
حالياً، الإجابة هي "المنصة". هم يقررون للجميع.
يقترح نظام PRISM أن الإجابة يجب أن تكون: "المستخدم، بمساعدة فريق ذكي."
يجادل المؤلفون بأنه بينما لا تزال على المنصات ضرورة الحفاظ على الأساسيات آمنة (مثل منع العنف)، فإن القرارات اليومية المتعلقة بما هو "أكثر من اللازم" لشخص معين يجب أن تعود لذلك الشخص. يسمح هذا النظام للمستخدمين بامتلاك "فلتر" يناسب سلامتهم النفسية الفريدة، بدلاً من إجبار الجميع على العيش تحت نفس القواعد الجامدة.
باختصار: بدلاً من حارس أمن يصرخ "لا يمكن لأحد قول ذلك!" للجمهور بأكمله، يمنح PRISM كل شخص حارساً شخصياً يعرف بالضبط ما يمكنهم تحمله وما لا يمكنهم تحمله، مما يضمن شعور الجميع بالأمان بطريقتهم الخاصة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.