Reliable News or Propagandist News? A Neurosymbolic Model Using Genre, Topic, and Persuasion Techniques to Improve Robustness in Classification
تقترح هذه الورقة نموذجاً عصبياً رمزياً يجمع بين تمثيلات النصوص غير السياقية والميزات الرمزية مثل النوع، والموضوع، وتقنيات الإقناع لتعزيز متانة وتعميم كشف الدعاية مقارنة بنهج النماذج اللغوية القياسية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
المشكلة: الذئب في ثوب حمل
تخيل أنك تسير في غابة (الإنترنت) بحثاً عن مياه عذبة ونظيفة (أخبار موثوقة). فجأة، ترى مجرى مائياً يبدو تماماً مثل المجرى الحقيقي؛ له نفس المياه الصافية، ونفس الصخور، وحتى نفس الأسماك. لكن إذا شربت منه، ستمرض. هذا هو البروباغندا (الدعاية المضللة).
البروباغندا مخادعة لأنها لا تكتفي بالكذب فحسب، بل تحاكي الأخبار الحقيقية بدقة شديدة تجعل من الصعب التمييز بينهما. فهي تمزج الحقائق مع رسائل خفية ومنحازة لخداعك.
الحل القديم: المحقق "فائق الذكاء"
لفترة من الوقت، حاول الباحثون الإمساك بهذه المجاري المائية المزيفة باستخدام محققين من الذكاء الاصطناعي (مثل BERT أو RoBERTa). هؤلاء هم حواسيب فائقة الذكاء تقرأ ملايين المقالات.
الخلل: كان هؤلاء المحققون من الذكاء الاصطناعي يشبهون الطلاب الذين حفظوا نموذج الإجابة لاختبار محدد. إذا أعطيتهم سؤالاً من كتاب مختلف، يصابون بالذعر. لقد حفظوا كلمات أو أنماطاً معينة من بيانات التدريب الخاصة بهم بدلاً من فهم مفهوم البروباغندا. وعند مواجهة مصدر جديد للأخبار المزيفة، غالباً ما كانوا يفشلون.
الحل الجديد: المحقق "النيوروسيمبولي" (العصبي الرمزي)
بنى مؤلفو هذه الورقة البحثية نوعاً جديداً من المحققين. يسمونه النموذج النيوروسيمبولي (Neurosymbolic Model). فكر في هذا كأنه محقق يمتلك أداتين متمايزتين:
- الحدس (العصبي - Neural): هذا هو جزء الذكاء الاصطناعي. إنه يقرأ النص ويحصل على "شعور" تجاه الكلمات، تماماً كما يفعل البشر عند قراءة جملة.
- قائمة التحقق (الرمزي - Symbolic): هذا هو الجزء المنطقي البشري. بدلاً من مجرد التخمين، تقوم هذه الأداة بفحص مربعات محددة على لوحة ملاحظات:
- النوع (Genre): هل هذا تقرير إخباري مباشر، أم مقال رأي، أم محتوى ساخر (هزلي)؟
- الموضوع (Topic): عن ماذا يتحدث هذا النص فعلياً؟
- حيل الإقناع (Persuasion Tricks): هل يستخدم التلاعب العاطفي؟ هل يكرر نفس العبارة؟ هل يستخدم كلمات "مشحونة" مصممة لإثارة الغضب؟
التجربة: اختبار "الغابة"
لمعرفة ما إذا كان محققهم الجديد أفضل، أجرى الباحثون سلسلة من الاختبارات. لم يكتفوا باختبار المحقق على مقالات عشوائية، بل صنعوا "فخاخاً" محددة لمعرفة ما إذا كان بإمكان المحقق التعامل مع مواقف جديدة.
- الفخ العشوائي: اختيار مقالات عشوائية (الاختبار السهل).
- فخ "المصدر الجديد": إعطاء المحقق مقالات من مؤسسات إخبارية لم يرها من قبل.
- فخ "السياسة الجديدة": إعطاءه مقالات ذات توجهات سياسية لم يواجهها أثناء التدريب.
- فخ "المصداقية": إعطاؤه مقالات من مصادر معروفة بعدم الموثوقية.
النتائج: لماذا تفوز قائمة التحقق؟
إليك ما حدث:
- الذكاء الاصطناعي القديم (النص فقط): عندما أُعطي المحقق مقالات من مصدر جديد أو من زاوية سياسية جديدة، أصيب بالارتباك. لقد اعتمد كثيراً على الكلمات المحددة التي حفظها. فشل في اختباري "المصدر الجديد" و"المصداقية"، وغالباً ما كان يستسلم تماماً (يسجل صفراً تقريباً).
- المحقق الهجين الجديد: حافظ هذا المحقق على هدوئه. حتى عندما رأى مصدراً جديداً، نظر إلى قائمة التحقق الخاصة به. لاحظ قائلاً: "مهلاً، هذا المقال يدعي أنه تقرير إخباري، لكنه يستخدم 10 حيل إقناع مختلفة ولا يحتوي على مصادر".
- النتيجة: كان النموذج الهجين أكثر قوة ومتانة. لم يحفظ الكلمات فحسب، بل فهم بنية الخداع.
"لماذا" (القابلية للتفسير)
أحد أروع أجزاء هذه الورقة البحثية هو أنه يمكننا رؤية لماذا اتخذ المحقق الجديد قراره.
- في الحالات السهلة (المقالات العشوائية)، اعتمد المحقق بشكل أساسي على حدسه (قراءة الكلمات).
- في الحالات الصعبة (المصادر الجديدة والمشبوهة)، انتقل المحقق إلى قائمة التحقق. أدرك أن الكلمات لم تكن كافية، لذا اعتمد بقوة على "حيل الإقناع" و"النوع" للقبض على الأخبار المزيفة.
الخلا الخلاصة
تجادل الورقة البحثية بأنه للإمساك بالبروباغندا الحديثة، لا يمكننا الاعتماد فقط على الذكاء الاصطناعي الذي يقرأ النصوص. نحن بحاجة لتعليم الذكاء الاصطناٍ أن ينظر أيضاً إلى كيفية بناء النص.
التشبيه:
- الذكاء الاصطناعي القديم: شخص يعرف وصفة كعكة معينة. إذا أعطيتهم كعكة مختلفة، فلن يعرفوا ما هي.
- الذكاء الاصطناعي الهجين الجديد: شخص يعرف الوصفة ويمتلك أيضاً قائمة تحقق بالمكونات. إذا أعطيتهم كعكة تبدو كالكعكة ولكنها مصنوعة من الصابون واللمعان (البروباغندا)، فإن قائمة التحقق ستصرخ: "انتظر، هناك صابون هنا!"
من خلال الجمع بين سرعة القراءة لدى الذكاء الاصطناعي وبين قائمة تحقق تشبه المنطق البشري، ابتكر الباحثون نظاماً يصعب خداعه للغاية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.