ExTax: Explainable Disinformation Detection via Persuasion, Emotion, and Narrative Role Taxonomies
يُعد ExTax إطار عمل مبتكرًا وقابلًا للتفسير للكشف عن التضليل الإعلامي، حيث يوحد 17 بُعدًا من البلاغة الإقناعية، والتلاعب العاطفي، والأدوار السردية ضمن فضاء تصنيفي ليتفوق على النماذج المرجعية الحالية من حيث الدقة والمتانة، مع توفير ملفات تعريف تلاعب قابلة للتدقيق البشري.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن الإنترنت عبارة عن سوق ضخم وصاخب. لفترة طويلة، كان اكتشاف المنتجات المزيفة (التضليل الإعلامي) أمراً سهلاً: كنت تكتفي بالبحث عن أخطاء إملائية واضحة أو كلمات بلا معنى. ولكن الآن، مع ظهور الذكاء الاصطناعي القوي، أصبح المحتالون يبيعون منتجات مزيفة "مغلفة بإتقان". إنها تبدو، وتُسمع، وتُشعر تماماً مثل المنتجات الحقيقية. هم لا يكتفون بالكذب فحسب؛ بل يستخدمون حِيلاً ذكية لجعلك تشعر بشعور معين أو تصدق قصة ما دون أن تدرك ذلك حتى.
تقدم هذه الورقة البحثية ExTax، وهي أداة جديدة مصممة لكشف هذه التزييفات المتطورة. فكر في ExTax ليس كختم بسيط يقول "صحيح/خطأ"، بل كـ محقق جنائي يفكك القصة إلى ثلاثة "مسارح جريمة" محددة ليرى كيف تم التلاعب بها.
إليك كيف يعمل ExTax، باستخدام تشبيهات بسيطة:
1. "مسارح الجريمة" الثلاثة (التصنيف)
بدلاً من مجرد طرح سؤال: "هل هذا مزيف؟"، يطرح ExTax ثلاثة أسئلة أكثر عمقاً، باحثاً عن أنماط محددة في النص:
- فخ البلاغة (الإقناع): تخيل بائعاً لا يكتفي ببيع منتج، بل يهاجم جارك لجعلك تشعر بالأمان عند شراء منتجه. يبحث ExTax عن هذه "الحيل البيعية". إنه يتحقق مما إذا كان النص يهاجم سمعة شخص ما، أو يبسط مشكلة معقدة بشكل مخل، أو يستخدم لغة مربكة لتشتيت انتباهك.
- المحفز العاطفي (العاطفة): هل سبق لك أن شاركت منشوراً لمجرد أنه جعلك غاضباً أو مرعوباً؟ يعمل ExTax كجهاز كشف للمشاعر. فهو يمسح بحثاً عن مشاعر عالية الكثافة مثل الغضب، أو الخوف، أو القلق، والتي تُستخدم غالباً لتجاوز عقلك المنطقي ودفعك للتصرف باندفاع.
- الأدوار الشخصية (السرد): كل قصة لها أبطال وأشرار. في الأخبار المزيفة، غالباً ما يتم تعيين "الأشرار" و"الضحايا" بشكل غير عادل. يراقب ExTax كيفية تأطير الناس. هل يتم تصويرهم كـ "مخربين مخادعين" (أشرار سريين) أو "سموم مؤسسية" (أنظمة فاسدة)؟ أم كـ "مثبتات أخلاقية" (أشخاص طيبون)؟ غالباً ما تجبر الأخبار المزيفة الناس على تقمص هذه الأدوار المتطرفة والسلبية.
2. "مجلس الخبراء" (المنهجية)
إحدى المشكلات في استخدام الذكاء الاصطناعي لكشف الأخبار المزيفة هو أن الذكاء الاصطناعي نفسه قد يكون مرتبكاً أو منحازاً. ولحل هذه المشكلة، لا يعتمد ExTax على ذكاء اصطناعي واحد فقط.
- المجلس المتنوع: يقوم بتكليف أربعة نماذج مختلفة من أرقى نماذج الذكاء الاصطناعي بتحليل النص نفسه. الأمر يشبه طلب استشارة من أربعة محققين مختلفين لقراءة حجة مشتبه به.
- فلتر "الاعتلاج" (Entropy): أحياناً يختلف المحققون. أحدهم يقول: "هذا بالتأكيد تلاعب بالخوف"، بينما يقول آخر: "لست متأكداً". بدلاً من فرض إجابة بنعم أو لا، يستخدم ExTax حيلة رياضية ذكية تسمى تنعيم الملصقات المدفوع بالاعتلاج (Entropy-driven Label Smoothing).
- التشبيه: إذا اتفق المحققون الأربعة، يكون ExTax واثقاً بنسبة 100%. أما إذا انقسموا في الرأي، فإن ExTax يقول: "حسناً، هذه منطقة رمادية"، ويعطي درجة "ربما" بدلاً من إجابة قاطعة بـ "نعم". هذا يمنع النظام من الوقوع في فخ ارتباك الذكاء الاصطناعي نفسه.
3. "تسليط الضوء" (الكشف)
بمجرد أن يجمع ExTax هذه القرائن (حيل الإقناع، والمحفزات العاطفية، والأدوار الشخصية)، فإنه يستخدم آلية خاصة تسمى "الاهتمام متعدد الرؤوس غير المتجانس" (Heterogeneous Multi-Head Attention).
- التشبيه: تخيل كشافاً ضوئياً بثلاث عدسات ملونة مختلفة (الأحمر للإقناع، الأزرق للعاطفة، والأخضر للأدوار). يسلط ExTax هذه الأضواء على النص في وقت واحد. هو لا ينظر فقط إلى الصورة الكاملة؛ بل يركز ليرى بالضبط أين يسقط الضوء الأحمر (الهجوم على السمعة) وأين يسقط الضوء الأزرق (الخوف). ومن خلال دمج هذه الرؤى المحددة، يبني "ملف تلاعب" كاملاً للنص.
لماذا هذا مهم (النتائج)
اختبرت الورقة البحثية ExTax على خمسة أنواع مختلفة من المحتوى، من منشورات التواصل الاجتماعي القصيرة إلى المقالات الإخبارية الطويلة.
- مشكلة "النوع": العديد من الأدوات السابقة كانت بارعة في كشف التزييف في التغريدات القصيرة لكنها كانت سيئة جداً في كشفه في المقالات الإخبارية الطويلة (أو العكس). الأمر يشبه حارس أمن جيد في تفتيش حقائب الظهر ولكنه سيء في تفتيش حقائب السفر.
- نجاح ExTax: ظل ExTax قوياً عبر كلا النوعين. وبينما شهدت الأدوات الأخرى انخفاضاً في دقتها بنسبة تقارب 33% عند الانتقال من التغريدات إلى المقالات، حافظ ExTax على اتساقه. وقد حقق أعلى درجة بلغت 0.8456، متفوقاً على أفضل الأساليب الحالية.
الخلاصة
ExTax لا يكتفي بإخبارك "هذا مزيف" فحسب، بل يشرح لك لماذا. إنه يقدم لك تقريراً يوضح: "حاول هذا النص التلاعب بك من خلال مهاجمة السمعة، وتحفيز غضبك، وتصوير سياسي ما على أنه شرير".
هذا يجعل عملية الكشف شفافة وقابلة للتدقيق، مما يساعد البشر على فهم الحيل النفسية المحددة المستخدمة، بدلاً من مجرد الثقة في حكم حاسوبي "صندوق أسود".
ملاحظة حول القيود: يقر المؤلفون بأنه نظراً لاستخدامهم نماذج ذكاء اصطناعي تجارية باهظة الثمن لإجراء التحليل الأولي، فإن تشغيل النظام يكلف مالاً. كما أن النظام تم تدريبه بشكل أساسي على نصوص إنجليزية تتعلق بالسياسة والصحة في الغرب، لذا قد لا يعمل بنفس الكفاءة على القصص بلغات أخرى أو من ثقافات مختلفة. وأخيراً، هم يؤكدون أن هذه الأداة هي لدعم القرار البشري—فهي تساعد البشر على اتخاذ أحكام أفضل، ولكن لا ينبغي أن تكون هي الحكم الوحيد فيما يتم حذفه أو الإبقاء عليه عبر الإنترنت.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.