VeritasAI Multi Agent Framework for Explainable Fake News Detection Using Retrieval Augmented Generation

لقد أصبح الإنترنت سوقاً واسعة وسريعة لتدفق المعلومات، حيث تنتقل الحقيقة والزيف بنفس السرعة تقريباً. فعندما يظهر خبر ما، يمكنه الانتشار في جميع أنحاء العالم في دقائق معدودة، مما يشكل الرأي العام، ويؤثر على الانتخابات، بل ويغير حتى سلوك الناس في حياتهم اليومية. ولا تكمن المشكلة فقط في وجود الأكاذيب، بل في أن الأدوات التي نملكها للتحقق منها غالباً ما تفشل في شرح سبب كون أمر ما كاذباً. تعمل معظم الأنظمة الآلية مثل "الصندوق الأسود": فهي تأخذ ادعاءً، تعالجه، ثم تخرج ملصقاً بسيطاً مثل "صحيح" أو "خاطئ" دون إظهار طريقة العمل. وهذا النقص في الشفافية يجعل من الصعب على الناس الوثوق بالنتيجة، خاصة عندما تكون المخاطر عالية. ولحل هذه المعضلة، يتجه الباحثون إلى نهج جديد يجمع بين فكرتين قويتين. أولاً، يستخدمون أنظمة يمكنها الوصول إلى الويب المباشر للعثور على حقائق جارية، بدلاً من الاعتماد فقط على ما حفظه الحاسوب. ثانياً، يقومون ببناء فرق رقمية حيث تتولى برامج حاسوبية مختلفة أدواراً محددة، وتتجادل مع بعضها البعض للوصول إلى استنتاج، تماماً مثل لجنة من الخبراء البشر.

في هذا السياق، قام فريق من الباحثين من كلية آر في (RV) للهندسة في بنغالورو، الهند، ببناء نظام جديد يسمى "VeritasAI". كان هدفهم هو إنشاء أداة لا تكتفي فقط بكشف الأخبار المزيفة، بل تشرح حكمها بطريقة يمكن للإنسان فهمها والتحقق منها. وبدلاً من أن يقوم برنامج حاسوبي واحد بإصدار حكم سريع، ينظم "VeritasAI" مناظرة مهيكلة بين ثلاثة وكلاء ذكاء اصطناعي متخصصين. تم تصميم النظام ليأخذ ادعاء المستخدم، ويبحث عن الأدلة عبر الإنترنت، ثم يجعل هؤلاء الوكلاء يتجادلون حول الحجة المؤيدة والمعارضة للبيان قبل تقديم قرار مسبب نهائي.

تبدأ العملية عندما يقدم المستخدم ادعاءً إخبارياً للنظام. يبدأ البرنامج بالعمل فوراً، حيث يبحث في مصدرين مختلفين في آن واحد: محركات البحث العامة وقواعد بيانات الأخبار المتخصصة. يضمن هذا النهج المزدوج أن يجمع النظام مجموعة واسعة من الأدلة المحتملة، بدءاً من التقارير الإخبارية الرسمية وصولاً إلى النقاشات العامة على الويب. وبمجرد أن يجمع النظام قائمة من الوثائق، يقوم بتصفية الضجيج؛ حيث يستبعد المقالات التي تأتي من نفس مصدر الادعاء الأصلي لتجنب الاستدلال الدائري، ويستبعد المقتطفات منخفضة الجودة التي لا تحتوي على معلومات مفيدة. بعد ذلك، يتم تنظيم الوثائق المتبقية بناءً على مدى قربها من الادعاء الأصلي، باستخدام طريقة تجمع الأفكار المتشابهة معاً. ومن هذه القائمة المنقحة، يختار النظام أكثر عشر قطع من الأدلة صلة لتكون بمثابة الأساس للمناظرة.

تُسلم هذه القطع العشر من الأدلة بعد ذلك إلى وكلاء الذكاء الاصطناعي الثلاثة، لكل منهم دور متميز. الوكيل الأول، الذي يعمل كمدعٍ عام، يراجع الأدلة للعثور على الحجج التي تتعارض مع الادعاء؛ فهو يبحث عن الحقائق التي تثبت خطأ البيان ويحدد أقوى الحجج المضادة. أما الوكيل الثاني، وهو المدافع، فيفعل العكس؛ إذ يبحث في نفس الأدلة لإيجاد نقاط تدعم الادعاء، بحثاً عن التأكيد والأسباب المنطقية لتصديق البيان. وأخيراً، يقوم الوكيل الثالث، وهو القاضي، بالاستماع إلى كلا الجانبين؛ حيث يراجع الحجج المقدمة من المدعي والمدافع، جنباً إلى جنب مع الأدلة الأصلية، ويزنها مقابل بعضها البعض. القاضي لا يكتفي باختيار فائز فحداً، بل يحلل قوة نقاط التأييد والمعارضة لإصدار حكم نهائي. يندرج هذا الحكم تحت واحدة من أربع فئات: صحيح، أو خاطئ، أو مضلل، أو غير مؤكد. كما يقدم النظام درجة ثقة، توضح مدى تأكده من النتيجة، ويسرد المصادر المحددة التي أدت إلى هذا الاستنتاج.

ما يجعل هذا النظام مفيداً بشكل خاص هو التزامه بالشفافية. فكل حجة يتم إنشاؤها من قبل المدعي أو المدافع مرتبطة مباشرة برابط المصدر (URL)، مما يسمح للمستخدم البشري بالنقر والتحقق من الأدلة بنفسه. ينتج النظام تقريراً مهيكلاً يتضمن القرار النهائي، ومستوى الثقة، وملخصاً للاستدلال. وإذا كانت الأدلة غير كافية لاتخاذ قرار، فإن النظام يصنف الادعاء بصدق على أنه "غير مؤكد" بدلاً من إجبار نفسه على التخمين. اختبر الباحثون هذا النظام على مجموعة بيانات تضم 500 ادعاء، وقارنوا أداءه مقابل الحقائق الموثقة بشرياً. أظهرت النتائج أن النظام حقق دقة عالية في تصنيف الادعاءات، حيث حامت مقاييس الأداء حول 87 بالمائة عبر الفئات المختلفة. والأهم من ذلك، نجح النظام في توليد تفسيرات واضحة بلغة طبيعية لقراراته، وهي ميزة تفتقر إليها العديد من الأنظمة الآلية السابقة.

بنى الباحثون أيضاً واجهة مرئية للنظام، تتيح للمستخدمين مشاهدة عملية التحقق بأكملها وهي تتكشف في الوقت الفعلي. وبينما يقوم النظام بالبحث والتصفية وترتيب الأدلة، يظهر متتبع التقدم للمستخدم الخطوة الحالية بدقة. وبمجرد انتهاء الوكلاء من مناظرتهم، تعرض الواجهة بطاقة الحكم النهائي، والحجج من كلا الجانبين، وشبكة الأدلة مع تقييمات المصداقية. تساعد هذه الطبقة المرئية في إزالة الغموض عن العمل المعقد الذي يحدث خلف الكواليس، مما يجعل التكنولوجيا متاحة لغير المتخصصين. تم تصميم النظام ليكون مرناً؛ حيث يمكنه تخزين العلاقات بين الادعاءات المختلفة في رسم بياني معرفي (knowledge graph)، مما قد يساعد مستقبلاً في تحديد الأنماط في كيفية انتشار المعلومات المضللة، رغم أن هذه الميزة المحددة لم يتم تقييمها بالكامل في الدراسة الحالية.

على الرغم من نجاحه، يوضح المؤلفون بحذر حدود النظام. تعتمد فعالية الأداة كلياً على توافر المعلومات على الويب؛ فإذا كان الادعاء يتعلق بموضوع متخصص جداً أو بحدث جديد تماماً لم تغطه الوسائل الإخبارية بعد، فقد يواجه النظام صعوبة في العث% من الأدلة لإصدار حكم. بالإضافة إلى ذلك، نظرًا لأن النظام يعتمد على نماذج لغوية كبيرة لتوليد حججه، فإنه يرث التحيزات المحتملة لتلك النماذج الأساسية. كما أشار الباحثون إلى أن تقييمهم الحالي أُجري على عينة صغيرة نسبياً مكونة من 500 ادعاء، وهم يخططون لاختبار النظام على نطاق أوسع بكثير في المستقبل. كما يعتزمون تحسين النظام عبر إضافة طرق أفضل لتقييم مصداقية الناشرين المختلفين وتوسيع قدرته على التعامل مع الادعاءات بلغات متعددة.

يمثل مشروع "VeritasAI" تحولاً في كيفية تعاملنا مع مشكلة المعلومات المضللة. فمن خلال الابتعاد عن الخوارزميات الفردية الغامضة والتوجه نحو نظام متعدد الوكلاء يحاكي المناظرة البشرية، أنشأ الباحثون أداة ليست دقيقة فحسب، بل وخاضعة للمساءلة أيضاً. فهو لا يملي على المستخدمين ما يجب التفكير فيه، بل يظهر لهم الأدلة، ويعرض وجهات النظر المعارضة، ويشرح المنطق وراء الاستنتاج. وفي عصر أصبحت فيه الثقة في المعلومات هشة، توفر هذه الشفافية مساراً للمضي قدماً، محولةً عملية التحقق من صندوق أسود إلى حوار واضح ومفهوم بين الإنسان والآلة. يتوفر النظام حالياً كبرنامج مفتوح المصدر، مما يدعو الآخرين لفحص كوده البرمجي، واختبار أساليبه، والبناء على إطاره العملي لمواصلة صقل المعركة ضد المعلومات الكاذبة.