LLM-based Detection of Manipulative Political Narratives
تقدم هذه الورقة إطاراً حوسبياً يجمع بين التلقين بلقطات قليلة ونماذج الاستدلال من أجل التصفية والتجميع غير الخاضع للإشراف لتحديد وهيكلة السرديات السياسية التضليلية المتميزة بفعالية من بين أكثر من 1.2 مليون منشور على وسائل التواصل الاجتماعي دون الاعتماد على فئات محددة مسبقاً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل ساحة مدينة ضخمة وفوضوية (وسائل التواصل الاجتماعي) حيث يصرخ الملايين في وقت واحد. البعض يكتفي بالشكوى من الطقس أو انتقاد سياسة العمدة الجديدة (نقد مشروع). لكن آخرين يهمسون بقصة محددة ومنسقة تهدف إلى جعل الجميع يصاب بالذعر، أو يكره جيرانه، أو يفقد الثقة في النظام (روايات تلاعبية).
المشكلة هي أن هذه "الهمسات" تبدو تماماً مثل "الشكاوى". فهي تستخدم كلمات مشابهة، لكن "النية" مختلفة. شخص ما يقول: "العمدة سيء في عمله"، بينما يقول آخر: "العمدة يعمل سراً مع الكائنات الفضائية لتدمير بلدتنا". كلاهما ينتقد العمدة، لكن أحدهما فقط هو فخ تلاعبي.
تصف هذه الورقة نظاماً ذكياً جديداً بناه باحثون في جامعة "بوندسفير ميونخ" (University of the Bundeswehr Munich) للعثور على تلك "الأفخاخ" المحددة وسط بحر من 1.2 مليون منشور على وسائل التواصل الاجتماعي. إليكم كيف فعلوا ذلك، باستخدام تشبيهات بسيطة:
1. "الحارس الذكي" (المُصفي)
أولاً، احتاج الباحثون إلى فصل النقاد الحقيقيين عن المتلاعبين. لم يكن بإمكانهم مجرد أن يطلبوا من الكمبيوتر "إيجاد الأكاذيب"، لأن المتلاعبين غالباً ما يستخدمون الحقيقة لقول كذبة (على سبيل المثال: "نعم، الاقتصاد سيء، وإليكم قصة مزيفة حول من تسبب في ذلك").
بدلاً من ذلك، بنوا حارساً ذكياً باستخدام ذكاء اصطناعي قوي (نموذج لغوي كبير - LLM).
- كيف يعمل: أعطوا الذكاء الاصطناعي كتاب قواعد محدداً وبعض الأمثلة على "الجهات الفاعلة السيئة" (مثل مجموعة تقوم باستنساخ المواقع الإخبارية أو اختلاق فضائح وهمية).
- الخدعة: أخبروا الذكاء الاصطناعي: "إذا سمعت قصة تبدو وكأنها مؤامرة منسقة لجعل الناس غاضبين أو خائفين، فقم بتمييزها. ولكن إذا كان مجرد شخص عادي غاضب بشأن الضرائب، فدعه يمر".
- النتيجة: عمل الذكاء الاصطناعي كحارس صارم جداً. لقد سمح لجميع القصص التلاعبية المحتملة بالمرور (حتى لو سمح بالخطأ بمرور بعض الأشخاص العاديين)، لأنه من الأفضل الإمساك ببعض الأشخاص الإضافيين بدلاً من تفويت مؤامرة خطيرة.
2. "خريطة الحالة المزاجية" (التجميع)
بعد أن قام الحارس بتصفية المنشورات، أصبح لدى الباحثين كومة من القصص "المشبوهة". الآن، احتاجوا إلى تجميعها.
- التشبيه: تخيل إلقاء آلاف الكرات الملونة في صندوق ضخم. بعضها أحمر، وبعضها أزرق، لكنها جميعاً مختلطة.
- الطريقة: استخدموا أداة لصنع الخرائط (تسمى UMAP و HDBSCAN) لترتيب هذه الكرات. وبدلاً من تجميعها حسب الموضوع (مثل: "كل المنشورات حول الاقتصاد")، قاموا بتجميعها حسب الحالة المزاجية أو النية (مثل: "كل المنشورات التي تشعر وكأنها خيانة").
- السحر: لأنهم لم يخبروا الكمبيوتر بالبحث عن مجموعات محددة، وجد الكمبيوتر 41 "قبيلة" متميزة من القصص بمفرده. الأمر يشبه دخول غرفة مزدحمة وإدراك أن: "أوه، الجميع في هذا الركن يهمسون بمؤامرة حكومية سرية، بينما الجميع في ذلك الركن يهمسون عن الكائنات الفضائية".
3. "ملخص القصة" (التسمية)
بمجرد تشكيل المجموعات، احتاج الباحثون لمعرفة ما الذي تقوله كل مجموعة بالفعل.
- العملية: أخذوا أفضل المنشورات من كل مجموعة وسألوا ذكاءً اصطناعياً فائق الذكاء لكتابة عنوان من جملة واحدة لكل مجموعة.
- المخرج: بدلاً من الحصول على قائمة مملة من الكلمات المفتاحية مثل "اقتصاد، غاز، حرب"، أعطاهم الذكاء الاصطناعي قصصاً كاملة.
- مثال المجموعة 1: "الحكومة تخوننا من خلال السماح للمهاجرين الخطيرين باستبدال أطفالنا".
- مثال المجموعة 2: "الحكومة تضحي بسلامنا لخوض حرب وهمية من أجل جماعات الضغط الغنية".
ماذا وجدوا؟
عندما طبقوا هذا النظام على أكثر من 1.2 مليون منشور من ألمانيا، وجدوا 41 قصة تلاعبية متميزة. وقد وقعت هذه القصص ضمن أربعة "محاور" أو ركائز رئيسية:
- الاستبدال العظيم: فكرة أن الحكومة تقوم باستبدال السكان الأصليين بالمهاجرين بشكل متعمد.
- حرب الوكالة: فكرة أن ألمانيا مجرد دمية للولايات المتحدة، تضحي بشعبها لخوض حرب ضد روسيا.
- ديكتاتورية المناخ: فكرة أن تغير المناخ هو خدعة اخترعتها النخب للسيطرة على الناس وإفقارهم.
- رواية المخلص: فكرة أن جميع الأحزاب التقليدية فاسدة، وأن حزباً واحداً معيناً فقط (وشخصيات خارجية مثل إيلون ماسك) يمكنه إنقاذ البلاد.
لماذا هذا مهم؟
وجد الباحثون أن الطرق التقليدية (مثل مجرد عدّ عدد مرات ظهور الكلمات) تفشل هنا لأنها تغفل القصة. يمكنك أن تجد منشوراً عن "أسعار الغاز" وهو شكوى عادية، ومنشوراً آخر عن "أسعار الغاز" وهو جزء من نظرية مؤامرة.
هذا النظام الجديد يشبه المحقق الذي لا ينظر فقط إلى الكلمات المكتوبة على الصفحة، بل يفهم الحبكة. لقد نجح في الفصل بين "الضجيج" الناتج عن الجدال السياسي العادي وبين "الإشارة" الخاصة بالتلاعب المنسق، حتى عندما استخدم المتلاعبون حقائق حقيقية لسرد قصة مزيفة.
ملاحظة هامة: يؤكد الباحثون أن نظامهم مصمم للعثور على المؤامرات المنسقة، وليس للحكم على ما إذا كان رأي شخص ما صحيحاً أم لا. أحياناً قد يقول شخص عادي شيئاً يبدو وكأنه نظرية مؤامرة، وقد يقوم النظام بتمييزه. ولكن بما أن النظام يقوم بتجميع الأشياء معاً، فإن هذه الأصوات الفردية والمعزولة عادة ما يتم تصفيتها كـ "ضجيج"، مما يترك القصص الكبيرة والمنسقة فقط واضحة للعيان.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.