Towards Automated Community Notes Generation with Large Vision Language Models for Combating Contextual Deception
تتناول هذه الورقة تحدي التوليد الآلي لملاحظات المجتمع (Community Notes) فيما يتعلق بالتضليل السياقي القائم على الصور من خلال تقديم مجموعة بيانات XCheck، وإطار العمل متعدد الوكلاء ACCNote المبني على النماذج اللغوية البصرية الكبيرة، ومقياس تقييم درجة مساعدة السياق (CHS)، مما يثبت أداءً فائقاً على النماذج المرجعية والأدوات التجارية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل وسائل التواصل الاجتماعي كساحة مدينة ضخمة ومزدحمة. في هذه الساحة، يواصل الناس الصراخ بقصصهم، ومشاركة صورهم، ونشر الأخبار. ولكن أحياناً، يقوم شخص مثير للمشاكل بأخذ صورة حقيقية لغروب شمس جميل ويدعي قائلاً: "انظروا! هذا شعاع ليزر عملاق ينطلق من السماء!" الصورة حقيقية، لكن القصة المرفقة بها كذبة. يُسمى هذا التضليل السياقي.
لفترة طويلة، اعتمدت ساحة المدينة على مجموعة من الجيران المتطوعين (يُطلق عليهم اسم ملاحظات المجتمع - Community Notes) للوقوف وقراءة الأكاذيب وكتابة ملاحظات صغيرة لتصحيح القصة. يقولون: "في الواقع، هذا مجرد غروب شمس من عام 2019".
ولكن تكمن المشكلة هنا: هناك الكثير من الأكاذيب، وهناك عدد قليل جداً من المتطوعين. يتعب المتطوعون، وتستغرق الملاحظات وقتاً طويلاً للظهور، وتنتشر الأكاذيب بشكل أسرع من التصحيحات.
تقدم هذه الورقة البحثية مساعداً آلياً (روبوت) صُمم للقيام بمهمة هؤلاء المتطوعين، ولكن بشكل أسرع وأذكى. وإليك كيف يعمل، مقسماً إلى أجزاء بسيطة:
1. المشكلة: لغز "الأخبار المزيفة"
أدرك المؤلفون أنه بينما تجيد الحواسيب رصد الصور المزيفة (مثل قطة بست أرجل)، إلا أنها سيئة في رصد القصص المزيفة حول الصور الحقيقية.
- الطريقة القديمة: تنظر الحواسيب فقط إلى الصورة وتقول: "صحيح" أو "خطأ".
- الهدف الجديد: يجب أن يعمل الكمبيوتر كمحقق. عليه أن يقول: "هذه الصورة حقيقية، لكن القصة خاطئة. إليكم القصة الحقيقية، وإليكم الدليل".
2. الأداة الجديدة: فريق المحققين (ACCNOTE)
بنى الباحثون نظاماً يسمى ACCNOTE. فكر في الأمر ليس كروبوت واحد، بل كـ فريق من المحققين المتخصصين يعملون معاً لحل لغز ما.
- المحقق رقم 1 (المُرشِّح): عندما يظهر منشور مشبوه، يذهب هذا المحقق إلى الإنترنت (مثل مكتبة ضخمة) للبحث عن صور مشابهة. لكن الإنترنت فوضوي؛ لذا يقوم هذا المحقق بالتخلص من الروابط المعطلة، والإعلانات، والصفحات غير المفيدة، محتفظاً فقط بالمصادر الجيدة والموثوقة.
- المحقق رقم 2 (المُصنِّف): يأخذ هذا المحقق المصادر الجيدة ويقسمها إلى ثلاث مجموعات:
- المجموعة أ: أدلة تدعم الكذبة.
- المجموعة ب: أدلة تثبت بطلان الكذبة.
- المجموعة ج: أدلة لا تهم.
- المحقق رقم 3 (المفكرون): ينظر مجموعة من الروبوتات إلى كل مجموعة على حدة. يحاول أحدهم كتابة ملاحظة بناءً على أدلة "تأييد الكذبة"، وآخر بناءً على أدلة "تفنيد الكذبة". هذا يمنعهم من الارتباك بسبب القصص المتضاربة.
- المحقق رقم 4 (القاضي): هذا هو المدير. يقرأ جميع الملاحظات التي كتبها "المفكرون" ويختار الأفضل بينها. يتحقق من: هل هي واضحة؟ هل هي محايدة؟ هل تحتوي على دليل؟ ثم ينشر التصحيح النهائي.
3. ميدان التدريب: مجموعة بيانات "XCHECK"
لتعليم هؤلاء المحققين الآليين، احتاج الباحثون إلى ميدان للتدريب. لم يكن بإمكانهم استخدام أمثلة مزيفة فقط لأن الأكاذيب الحقيقية تكون مخادعة.
- ذهبوا إلى منصة التواصل الاجتماعي الفعلية (إكس/تويتر) وجمعوا آلاف المنشورات الحقيقية التي تعرض فيها الناس للخداع بالفعل.
- جمعوا المنشورات الأصلية، والتصحيحات الحقيقية التي كتبها البشر، والأدلة من الإنترنت التي أثبتت صحة التصحيحات.
- أطلقوا على هذه المجموعة اسم XCHECK. إنها تشبه كتاباً مدرسياً ضخماً من ألغاز الحياة الواقعية ليدرسها الروبوتات.
4. تقرير الدرجات: "درجة الفائدة السياقية" (CHS)
كيف تعرف ما إذا كان تصحيح الروبوت جيداً حقاً؟
- الطريقة القديمة: عادة ما تتحقق الحواسيب مما إذا كانت كلمات الروبوت تطابق كلمات البشر (مثل التحقق مما إذا كانت مقالتان تستخدمان نفس المفردات). لكن هذا أمر سخيف! يمكن للروبوت أن يقول الشيء نفسه بطريقة مختلفة تماماً وأفضل.
- الطريقة الجديدة: طلب الباحثون من بشر حقيقيين تقييم الملاحظات. لقد أنشأوا درجة جديدة تسمى CHS (درجة الفائدة السياقية).
- بدلاً من السؤال: "هل تتطابق هذه الكلمات؟"، سألوا: "هل ساعدتك هذه الملاحظة على فهم الحقيقة؟".
- تحققوا مما إذا كانت الملاحظة واضحة، ومحايدة، وتحتوي على مصادر جيدة.
- وجدوا أن درجات "تطابق الكلمات" القديمة كانت سيئة جداً في التنبؤ بما إذا كان الإنسان سيجد الملاحظة مفيدة بالفعل. أما درجة CHS الجديدة فكانت أفضل بكثير.
5. النتائج: الروبوتات مقابل البشر
اختبر الباحثون فريق الروبوتات الخاص بهم ضد:
- نماذج الذكاء الاصطناعي القياسية (التي تخمن فقط دون البحث عن الحقائق).
- أداة ذكاء اصطدناعي تجارية شهيرة (GPT-5-mini).
- المتطوعين البشر.
الفائز: فريق الروبوتات ACCCNOTE هو الفائز.
- كان أفضل في رصد الأكبة من نماذج الذكاء الاصطناعي القياسية.
- كتب ملاحظات أفضل وأكثر فائدة من أداة الذكاء الاصطناعي التجارية.
- والأهم من ذلك، كتب ملاحظات قابلة للتحقق (لقد تضمنت روابط للأدلة)، مما جعلها أكثر موثوقية.
الصورة الكبيرة
تتعلق هذه الورقة ببناء جيش رقمي للتحقق من الحقائق. من خلال استخدام فريق من وكلاء الذكاء الاصطناعي الذين يبحثون عن الأدلة، ويفرزونها، ويكتبون تصحيحات واضحة ومحايدة، يمكننا محاربة انتشار القصص المضللة على وسائل التواصل الاجتماعي. الأمر لا يتعلق فقط بالقول "هذه كذبة"؛ بل يتعلق بالقول: "إليكم الحقيقة، وإليكم سبب ذلك".
الهدف النهائي هو عالم تواصل اجتماعي لا تتاح فيه الفرصة للأكاذيب للانتشار لأن الحقيقة تُصحح فوراً، وبوضوح، ومع إثبات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.