RW-Post: Auditable Evidence-Grounded Multimodal Fact-Checking in the Wild
تقدم هذه الورقة RW-Post، وهو معيار مرجعي جديد قابل للتدقيق للتحقق من الحقائق متعدد الوسائط في العالم الحقيقي يربط منشورات وسائل التواصل الاجتماعي بالأدلة والمسارات الاستدلالية التي تحقق منها البشر، إلى جانب خط الأساس AgentFact، للكشف عن فجوات كبيرة في قدرة النماذج الحالية على ربط الادعاءات البصرية بالأدلة بأمانة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "RW-Post: التحقق من الحقائق متعدد الوسائط القائم على الأدلة والقابل للتدقيق في الواقع الحقيقي" باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
المشكلة الكبرى: فخ "الأخبار المزيفة"
تخيل أنك تتصفح وسائل التواصل الاجتماعي ورأيت منشوراً بعنوان صادم وصورة درامية. يقول النص: "هذا صاروخ نووي يتم نقله إلى الحدود!" وتظهر الصورة شاحنة تحمل جسماً طويلاً.
المشكلة هي أن الصورة قد تكون حقيقية، لكن القصة كاذبة. ربما كانت الشاحنة تحمل في الواقع عربة استعراض من عام 2015، وليس صاروخاً. أدوات الذكاء الاصطناً الحالي أصبحت أفضل في كشف هذه الأكاذيب، لكنها غالباً ما تقع في خطأين:
- التخمين: تقول "يبدو هذا مزيفاً" دون توضيح طريقة عملها.
- الهلوسة: تأليف أسباب وهمية أو الاستشهاد بأدلة لا وجود لها في الواقع، فقط لتبدو مقنعة.
الحل: RW-Post (دفتر ملاحظات المحقق)
يقدم المؤلفون أداة جديدة تسمى RW-Post. فكر في هذا ليس مجرد اختبار، بل كـ دليل تدريب ذهبي للمحققين من الذكاء الاصطناعي.
في العالم الحقيقي، عندما يقوم مدقق حقائق بشري بالتحقيق في إشاعة ما، فإنه لا يكتفي بالتخمين، بل يقوم بـ:
- إيجاد المنشور الأصلي (لمعرفة السياق).
- جمع الأدلة (مثل الصور القديمة، المقالات الإخبارية، أو الفيديوهات).
- كتابة منطقهم خطوة بخطوة (مثلاً: "الشاحنة في الصورة تطابق عربة استعراض من عام 2015، وليست صاروخاً من عام 2023").
RW-Post هو مجموعة بيانات ضخمة تفعل هذا بالضبط للذكاء الاصطنا AI. فهي تربط المنشورات الحقيقية من وسائل التواصل الاجتماعي بـ:
- مسارات الاستنتاج: سجل خطوة بخوة لكيفية توصل البشر إلى الحقيقة.
- أدلة مرتبطة صراحةً: روابط محددة للصور أو المقالات التي تثبت صحة أو كذب الادعاء.
الأمر يشبه إعطاء طالب ذكاء اصطناعي كتاباً مدرسياً حيث كل إجابة مدعومة برقم صفحة محدد واقتباس مباشر، بدلاً من مجرد إعطائه اختباراً من متعدد.
الطرق الثلاث لخوض الاختبار
تختبر الورقة نماذج الذكاء الاصطناعي في ثلاثة "أنماط امتحانات" لمعرفة مواطن ضعفها:
- الكتاب المغلق (اختبار الذاكرة): يرى الذكاء الاصطناعي المنشور ولكن عليه الاعتماد فقط على ما يعرفه مسبقاً من تدريبه. لا يمكنه البحث عن أي شيء.
- النتيجة: يعاني الذكاء الاصطناعي هنا؛ فهو غالباً ما يخمن أو يختلق أشياء من خياله.
- الأدلة المحدودة (الاختبار المفتوح - الكتاب المفتوح): يرى الذكاء الاصطناعي المنشور ويُسلم إليه مجلد محدد يحتوي على الأدلة الصحيحة (المقالات والصور الدقيقة التي استخدمها مدقق الحقائق البشري).
- النتيجة: يصبح الذكاء الاصطناعي أكثر ذكاءً بكثير! عندما يمتلك الحقائق الصحيحة، يمكنه حل اللغز.
- الويب المفتوح (رحلة البحث في الواقع): يتعين على الذكاء الاصطناه الخروج إلى الإنترنت، والبحث عن الأدلة بنفسه، ثم حل اللغز.
- النتيجة: هذا هو النمط الأصعب. غالباً ما يتشتت انتباه الذكاء الاصطناعي أو يختار الروابط الخاطئة.
المحقق الجديد للذكاء الاصطناعي: AgentFact
لاختبار هذه النماذج، بنى المؤلفون نظاماً مرجعياً يسمى AgentFact. تخيل هذا كـ فريق من المحققين المتخصصين يعملون معاً، بدلاً من شخص واحد يحاول القيام بكل شيء.
- المخطط: يقرر الأسئلة التي يجب طرحها.
- صائد النصوص: يبحث في الويب عن المقالات.
يدور حول البحث عن الصور (Reverse Image Search) ليرى ما إذا كانت الصورة قد استُخدمت من قبل أو تم تعديلها. - المستنتج: ينظر في كل الأدلة ويقرر ما إذا كانت القصة حقيقية أم كاذبة.
- المراسل: يكتب التفسير النهائي، مع التأكد من الاستشهاد بدقة بالدليل الذي أثبت كل نقطة.
ما وجدوه (النتائج)
كشفت التجارب عن حقائق مثيرة للاهتمام حول الذكاء الاصطناعي الحالي:
- الأدلة هي الملك: عندما يتم تزويد نماذج الذكاء الاصطناعي بالأدلة (اختبار "الكتاب المفتوح")، تقفز دقتها بشكل كبير. وهذا يثبت أن الذكاء الاصطناعي ليس "ذكياً" بما يكفي لحل هذه الألغاز بمفرده؛ بل يحتاج إلى الحقائق.
- الثغرة البصرية: حتى عندما تم تزويد نماذج الذكاء الاصطناعي بكل من النص والأدلة، كانت لا تزال تعاني في فهم الصور. غال> ما فاتتها الأدلة البصرية، مثل إدراك أن الصورة تعود لعام أو موقع مختلف.
- مشكلة "الدليل المزيف": عندما يحاول الذكاء الاصطناعي شرح لماذا يعتقد أن شيئاً ما مزيف، فإنه غالباً ما يختلق أسباباً تبدو جيدة ولكنها غير مدعومة بالأدلة الفعلية. تساعد مجموعة البيانات الجديدة (RW-Post) في كشف هذا لأنها تجبر الذكاء الاصطنا على ربط استنتاجه بدليل حقيقي وقابل للتدقيق.
الخلاصة
تجادل الورقة بأننا لكي نوقف المعلومات المضللة، لا يمكننا الاعتماد فقط على تخمين الذكاء الاصطناعي. نحن بحاجة إلى أنظمة تعمل مثل الصحفيين الصارمين: يجب أن يجدوا المصدر الأصلي، ويجمعوا أدلة قوية، ويظهروا عملهم خطوة بخطوة.
يوفر RW-Post أرض التدريب لتعليم الذكاء الاصطناعي كيفية القيام بذلك، ويظهر لنا AgentFact كيف يبدو شكل المحقق المنظم والمبني على الأدلة من الذكاء الاصطناعي. الدرس الرئيسي هو أنه بينما يتحسن الذكاء الاصطناعي، فإنه لا يزال بحاجة إلى الكثير من المساعدة في العثور على وفهم الأدلة البصرية والنصية لقول الحقيقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.