Beyond speculation: Measuring the growing presence of LLM-generated texts in multilingual disinformation
تقدم هذه الدراسة أول دليل تجريبي على الوجود المتزايد للمحتوى المُنشأ بواسطة النماذج اللغوية الكبيرة في مجموعات بيانات التضليل متعددة اللغات في العالم الحقيقي في أعقاب إصدار ChatGPT، حيث توثق أنماطًا محددة عبر اللغات والمنصات والفترات الزمنية لسد الفجوة في الجدل الأكاديمي حول الحجم الفعلي لهذا التهديد.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: هل "القلم الروبوتي" يكتب الأكاذيب؟
تخيل عالماً يمكن لأي شخص فيه أن يلتقط قلماً ذكياً للغاية وسريع الكتابة (نموذج لغوي كبير، أو LLM) يمكنه كتابة القصص والأخبار والمنشورات بأي لغة تقريباً. منذ صدور أدوات مثل ChatGPT، يشعر الناس بالقلق: هل يُستخدم هذا القلم لكتابة الأخبار المزيفة والأكاذيب (التضليل الإعلامي)؟
لفترة طويلة، كان الخبراء يتجادلون في حلقات مفرغة. قال البعض: "لا تقلقوا، الإنترنت فوضوي للغاية بحيث لا يمكن للروبوتات السيطرة عليه". وقال آخرون: "احذروا، هناك زوايا خفية حيث تسبب الروامت بالفعل مشاكل".
هذه الورقة البحثية هي الأولى التي تقوم فعلياً بإحصاء عدد هذه الأكاذيب "المكتوبة بواسطة الروبوتات" الموجودة في العالم الحقيقي. لم يكتفوا بالتخمين؛ بل ذهبوا إلى الأرشيفات الرقمية للأخبار التي تم التحقق من صحتها ومنصات التواصل الاجتماعي للعثور على الأدلة.
أدوات المحقق: كيف وجدوا الروبوتات؟
بنى الباحثون "جهازي كشف كذب رقميين". فكر في هذه الأدوات كأنها حارسان مختلفان عند مدخل ملهى ليلي:
- الحارس (أ) (Gemma_GenAI): مُدرب على رصد الكتابة الروبوتية بناءً على أنماط عامة.
- الحارس (ب) (Gemma_MultiDomain): مُدرب خصيصاً على وسائل التواصل الاجتماعي والأخبار لرصد الكتابة الروبوتية.
قاموا باختبار هذين الحارسين على قوائم معروفة من الكتابة "البشرية مقابل الروبوتية" للتأكد من جودة عملهما. ووجدوا أنه عندما يتفق الحارسان على أن نصاً ما مكتوب بواسطة روبوت، فإنهما يكونان على صواب بنسبة تتراوح بين 93% إلى 99%.
بمجرد أن وثقوا في حراسهم، أرسلوهم للدوريات في أربعة "أحياء" (مجموعات بيانات) من المحتوى الواقعي، بما في ذلك الادعاءات التي تم التحقق من صحتها، وتغريدات الانتخابات، والأخبار المتعلقة بالحروب.
ما وجدوه: الغزو الروبوتي حقيقي (لكنه غير متساوٍ)
وجدت الدراسة أن التضليل المكتوب بواسطة الروبوتات موجود بالتأكيد، لكنه ليس فيضاناً عارماً؛ بل هو أشبه بتسرب بطيء يزداد حجماً.
1. تأثير "ما قبل وما بعد" ChatGPT
تخيل خطاً زمنياً. قبل أواخر عام 2022 (عندما أصبح ChatGPT شائعاً)، كان مقدار الأكاذيب المكتوبة بواسطة الروبوتات منخفضاً جداً.
- التشبيه: فكر في الأمر كبركة هادئة. في عام 2021، كانت الروبوتات تسبب تموجات قليلة فقط (حوالي 1%).
- التغيير: بحلول عام 2023، بعد وصول ChatGPT، نمت هذه التموجات. وجدت الدراسة أنه في عام 2023، كان ما بين 1.5% و15% من الأكاذيب التي تم التحقق من صحتها في مجموعة البيانات الخاصة بهم قد كُتبت أو عُدلت على الأرجح بواسطة الروبوتات. ويضع التقدير الأكثر ثقة النسبة عند حوالي 1.85%.
- الاتجاه: عدد الأكاذيب المكتوبة بواسطة الروبوتات يتزايد كل عام.
2. الهجوم "المستهدف"
الروبوتات لا تكتب الأكاذيب في كل اللغات أو على كل المنصات بالتساوي. الأمر يشبه لصاً يستهدف منازل محددة فقط.
- اللغات: بينما تمتلك الإنجليزية والإسبانية أكبر عدد من الأكاذيب الروبوتية ببساً لأن هناك عدداً أكبر من المتحدثين بهما، إلا أن نسبة الأكاذيب هي الأعلى في اللغة البولندية (4.7%) والفرنسية (4.2%).
- المنصات: الروبوتات أكثر نشاطاً على إنستغرام (1.5%) وفيسبوك (1.3%)، وأقل نشاطاً على تويتر/إكس (0.64%).
- أحداث محددة: خلال انتخابات عام 2024 في الولايات المتحدة، تضاعف مقدار المحتوى المكتوب بواسطة الروبوتات في التغريدات من يناير إلى نوفمبر، ووصل إلى ذروته قبيل الانتخابات مباشرة.
3. مجموعات بيانات "الأخبار المزيفة"
نظر الباحثون أيضاً في مجموعات البيانات المصنفة تحديداً كـ "أخبار مزيفة".
- وجدوا أن 2.6% إلى 3.3% من المقالات المصنفة كـ "مزيفة" كانت في الواقع مكتوبة بواسطة روبوتات.
- في مجموعة بيانات حول الحرب في غزة، وجدوا أن أكثر من 10% من المنشورات باللغة الفرنسية تم إنشاؤها بواسطة الروبوتات، مقارنة بأرقام أقل بكثير في اللغات الأخرى.
لماذا هذا مهم؟
تخلص الورقة البحثية إلى أن الخوف من كتابة الروبوتات للأكاذيب ليس مجرد تكهنات؛ بل هو يحدث الآن.
- الأخبار "السيئة": تُستخدم الروبوتات لإنشاء التضليل، وهي تصبح أفضل في ذلك. هذا يحدث في لغات محددة وأوقات محددة (مثل الانتخابات)، مما يشير إلى أن شخصاً ما يستخدمها بشكل استراتيجي.
- الأخبار "الجيدة": لا تزال كمية الأكاذيب الروبوتية تشكل جزءاً صغيراً من إجمالي الإنترنت (حوالي 2% في عام 2024). ومع ذلك، ولأن الإنترنت ضخم جداً، فإن حتى 2% تعتبر كمية كبيرة من المحتوى المزيف.
- التحذير: مع زيادة ذكاء الروبوتات، قد تبدأ في "تلوث" المياه. إذا تم تدريب نماذج الذكاء الاصطناعي المستقبلية على بيانات تحتوي بالفعل على أكاذيب مكتوبة بواسطة الروبوتات، فقد تبدأ تلك النماذ الجديدة في تصديق الأكاذيب على أنها حقائق ونشرها بشكل أسرع.
الخلاصة
يقول المؤلفون: "توقفوا عن التخمين وابدأوا في القياس." لدينا الآن دليل على أن الروبوتات تكتب الأكاذيب في العالم الحقيقي، خاصة باللغات البولندية والفرنسية وخلال مواسم الانتخابات. نحن بحاجة إلى أدوات أفضل للإمساك بها وأنظمة أفضل لتخبرنا متى نقرأ قصة كتبها روبوت حتى لا نُخدع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.