Customized large language models can outperform Community Notes in correcting misinformation
تقدم الورقة البحثية MUSE، وهو إطار عمل لنماذج لغوية كبيرة مخصص يدمج الاسترجاع القائم على الثقة والاستدلال متعدد الوسائط للتفوق على "ملاحظات المجتمع" (Community Notes) في تحديد وتصحيح المعلومات المضللة عبر أنواع المحتوى المتنوعة، مما يؤدي إلى تحسين جودة الاستجابة وإدراك المستخدم للمعلومات الخاطئة على حد سواء.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تكتظ الساحة العامة الرقمية بمشكلة مستمرة: المعلومات المضللة التي تنتشر بسرعة أكبر من الحقيقة. ففي وسائل التواصل الاجتماعي، يمكن لمنشور مضلل واحد أن يصل إلى الملايين قبل أن تتاح لأي شخص فرصة للتحقق منه. لسنوات طويلة، كان الدفاع الأساسي ضد هذا الأمر هو الجهد البشري؛ حيث أصبحت الأنظمة القائمة على التعهيد الجماعي، حيث يكتب المتطوعون ملاحظات لتصحيح الادعاءات الكاذبة، أداة قياسية للمنصات. هذه الملاحظات قيمة لأنها تُكتب من قبل أشخاص يمكنهم تقديم السياق واللمسات الدقيقة، ولكن لديها نقطة ضعف كبيرة وهي أنها بطيئة. فبحلول الوقت الذي يكتب فيه متطوع تصحيحاً، قد يكون المنشور المضلل قد ألحق ضرره بالفعل. علاوة على على ذلك، لا يستطيع المتطوعون البشر تغطية كل منشور، مما يترك كميات هائلة من المعلومات المضللة دون تدقيق.
لطالاً ما نظر العلماء إلى الذكاء الاصطناعي لملء هذه الفجوة، آملين أن تتمكن الآلات من رصد الأكاذيب بنفس سرعة انتشارها. ومع ذلك، غالباً ما تعاني نماذج الذكاء الاصطناعي القياسية في هذه المهمة؛ فهي تتدرب على بيانات قديمة ولا تستطيع رؤية الأحداث التي تقع الآن. كما يمكنها أن "تهلوس"، فتختلق حقائق أو تستشهد بمصادر غير موجودة. التحدي لا يكمن فقط في بناء آلة يمكنها القراءة، بل في بناء آلة يمكنها التحقق، والاستنتاج عبر أنواع مختلفة من الوسائط مثل النصوص والصور، وفعل ذلك دون إدخال أخطاء أو تحيزات جديدة. الهدف هو بناء نظام يعمل كمدقق حقائق دؤوب ومحايد، مستعد للاستجابة فور ظهور أي منشور مشبوه.
قام فريق من الباحثين في جامعة واشنطن بتطوير نظام جديد يسمى MUSE لمعالجة هذه المشكلة تحديداً. MUSE هو إطار عمل للذكاء الاصطناعي مخصص لتحديد وتصحيح المعلومات المضللة في الوقت الفعلي. وخلافاً للنماذج القديمة التي تعتمد فقط على ما تعلمته في الماضي، تم تجهيز MUSE بآلية للبحث في الويب الحي للحصول على أدلة محدثة. فعندما يواجه منشوراً على وسائل التواصل الاجتماعي، فإنه لا يكتفي بالتخمين؛ بل يقوم بتفكيك المحتوى، والبحث عن معلومات موثوقة لدعم أو دحض الادعاءات، ثم يكتب تصحيحاً يستند إلى تلك الأدلة. النظام مصمم للتعامل مع المنشورات المعقدة التي تمزج بين النص والصور، مما يضمن قدرته على التحقق من كل شيء، بدءاً من التعليق وصولاً إلى الصورة الفوتوغرافية.
ولاختبار مدى فعالية هذا النهج، قارن الباحثون بين MUSE وأفضل التصحيحات المكتوبة بشرياً والمتاحة حالياً على منصة إكس (تويتر سابقاً). لقد جمعوا مئات المنشورات الحقيقية، بعضها يحتوي على أكاذيب واضحة، وبعضها الآخر يحتوي على تفاصيل مضللة دقيقة، وبعضها كان دقيقاً تماماً. ولكل منشور، وضعوا استجابة الذكاء الاصطناعي في مواجهة ملاحظات عالية الجودة كتبها متطوعون بشر، وملاحظات عادية كتبها مستخدمون أقل خبرة. كانت عملية التقييم صارمة، حيث شاركت لجنة من خبراء تدقيق الحقائق المحترفين الذين قاموا بتقييم الاستجابات بناءً على ثلاثة عشر معياراً مختلفاً. نظر هؤلاء الخبراء فيما إذا كان النظام قد حدد الأجزاء الخاطئة بشكل صحيح، وما إذا كان التفسير منطقياً، وما إذا كانت المصادر المستشهد بها موثوقة وموجودة بالفعل.
أظهرت النتائج ميزة واضحة للنظام الجديد. فقد أنتج MUSE استجابات صنفها الخبراء بأنها ذات جودة أعلى بكثير حتى من الملاحظات البشرية المكتوبة لأفضل المتطوعين. وعلى مقياس من عشرة، بلغ متوسط درجة الذكاء الاصطناعي 8.1، بينما بلغ متوسط الملاحظات البشرية الأعلى تقييماً 6.3. ولم تكن هذه الفجوة مجرد مسألة أسلوب؛ بل كان الذكاء الاصطناعي أكثر دقة في رصد الأجزاء المضللة من المنشور. وبينما تفشل نماذج الذكاء الاصطناعي القياسية غالباً في تحديد المشكلة أو تختلق حقائق، نجح MUSE في تحديد وشرح عدم الدقة في ما يقرب من 90 بالمائة من استجاباته. كما قدم روابط لمصادر كانت دائماً تقريباً قابلة للوصول وذات صلة، في حين كانت النماذج القياسية كثيراً ما تستشهد بروابط مكسورة أو وهمية. وقد أدى النظام أداءً جيداً في جميع المجالات، حيث تعامل مع المنشورات المتعلقة بالسياسة والصحة والأحداث الجارية بمهارة متساوية، ولم يظهر التحيز السياسي الذي يعيب أحياناً أنظمة الذكاء الاصطناعي الأخرى.
أراد الباحثون أيضاً معرفة ما إذا كان الناس سيثقون فعلياً في تصحيح صادر عن آلة. فأجروا دراسة شملت ما يقرب من ألف مشارك، عرضوا عليهم المنشورات المضللة والتصحيحات التي أنشأها الذكاء الاصطناعي. كانت النتائج مشجعة: فبعد قراءة شرح الذكاء الاصطناعي، أصبح المشاركون أفضل بكثير في التعرف على أن المنشور الأصلي كان مضللاً، وانخفض إيمانهم بالادعاء الكاذب. ومع ذلك، لم تؤثر أي من التصحيحات بشكل كبير على نية المشاركين في مشاركة المعلومات المضللة، والتي ظلت منخفضة بشكل عام. ومن المثير للاهتمام أن إخبار الناس بأن التصحيح جاء من ذكاء اصطناعي لم يجعلهم يثقون به أقل؛ إذ ظلت فعالية النظام عالية سواء تم الكشف عن مصدره أو إخفاؤه، مما يشير إلى أن جودة الشرح أهم من هوية الكاتب.
أحد أهم جوانب هذا العمل هو كيفية تعامل النظام مع المجهول. وجد الباحثون أن MUSE لا يحتاج إلى الاعتماد على عمليات تدقيق الحقائق الموجودة مسبقاً للقيام بعمله. فحتى بالنسبة للمنشورات التي لم يتم التحقق منها من قبل أي شخص، استطاع النظام العثج أدلة جديدة على الويب وبناء تصحيح موثوق. كما تمكن من القيام بذلك بسرعة، حيث أنتج استجابة كاملة في حوالي دقيقتين باستخدام أجهزة كمبيوتر قياسية. كما أن تكلفة تشغيل النظام منخفضة، حيث تبلغ حوالي 0.2 دولار أمريكي لكل منشور، وهو أقل بكثير من دفع المتطوعين البشر لمراجعة كل قطعة من المحتوى.
تنطوي هذه الدراسة على بعض الحدود؛ فالنظام يعمل حالياً مع النصوص والصور، لكنه لا يستطيع بعد تحليل الفيديو. كما أنه يعتمد على وجود معلومات موثوقة عبر الإنترنت؛ فإذا كان المنشور يتعلق بحدث إخباري عاجل لم تنشر عنه مصادر موثوقة بعد، فإن النظام مصمم للإقرار بعدم اليقين بدلاً من التخمين. كما اختبر الباحثون النظام على منصة واحدة، ورغم أن هذه المنصة واسعة الاستخدام، إلا أن النتائج قد تختلف في أماكن أخرى. وبالرغم من هذه الحدود، تقدم النتائج مساراً واعداً. فمن خلال الجمع بين سرعة الآلات والقدرة على البحث عن الأدلة في العالم الحقيقي والتحقق منها، يثبت MUSE أنه يمكننا بناء أدوات تساعد الناس على التمييز بين الحقيقة والزيف بالسرعة والنطاق المطلوبين في عصر الإنترنت الحديث. ويشير العمل إلى أن مستقبل محاربة المعلومات المضللة قد لا يكون اختياراً بين البشر والآلات، بل نظاماً تتولى فيه الآلات عبء عمليات التحقق الثقيلة، مما يسم يسمح للحكم البشري بالتركيز على الحالات الأكثر تعقيداً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.