Assessing Capabilities of Large Language Models in Social Media Analytics: A Multi-task Quest
تقدم هذه الورقة أول تقييم شامل لنماذج اللغات الكبيرة الحديثة عبر ثلاث مهام أساسية في تحليلات وسائل التواصل الاجتماعي — التحقق من الهوية، وتوليد المنشورات، واستنتاج سمات المستخدم — باستخدام مجموعة بيانات تويتر جُمعت حديثاً للحد من انحياز البيانات وإرساء معايير مرجعية قابلة لإعادة الإنتاج.
تخيل أنك تدخل إلى ساحة مدينة رقمية ضخمة وفوضوية (مثل تويتر/إكس)، حيث يصرخ الملايين، ويهمسون، ويشاركون "الميمز"، ويتجادلون. لسنوات، حاولت الحواسيب فهم هذا الضجيج، لكنها كانت ترتبك غالباً بسبب المصطلحات العامية، والجمل القصيرة، وحقيقة أن الناس يغيرون آراءهم (وأساليب كتابتهم) بسرعة.
مؤخراً، وصلت إلى الساحة حواسيب ذكية للغاية تُسمى "نماذج اللغات الكبيرة" (LLMs) — فكر فيها كأنها "عباقرة رقميون" قرأوا كل شيء تقريباً على الإنترنت. السؤال الكبير هو: هل تستطيع هذه العباقرة الرقمية حقاً فهم ومحاكاة عالم وسائل التواصل الاجتماعي الفوضوي والواقعي، أم أنها مجرد ببغاوات متطورة؟
هذه الورقة البحثية هي بمثابة "تقرير درجات" ضخم، حيث وضع مؤلفوها سبعة من أذكى نماذج الذكاء الاصطناعي (بما في ذلك GPT-4 وGemini وLlama) في تحدٍ مكون من ثلاثة أجزاء ليروا مدى براعتهم في التعامل مع وسائل التواصل الاجتماعي.
الهدف: هل يستطيع الذكاء الاصطناعي النظر إلى تغريدة والقول: "نعم، كتبها المستخدم (أ) بالتأكيد"، أو "لا، هذه مزيفة"؟
التشبيه: تخيل أنك محقق تحاول تحديد هوية مشتبه به. لديك دفتر ملاحظات لكتاباته القديمة (بيانات التدريب). ثم، يُسلم إليك ورقة جديدة. هل يمكنك معرفة ما إذا كان هذا خط يده أم تزوير؟
الخدعة: لم يختبر المؤلفون الذكاء الاصطناعي على ملاحظات قديمة فحسب. بل أعطوه ملاحظات جديدة تماماً كُتبت بعد توقف الذكاء الاصطناعي عن التعلم (مثل إعطاء طالب اختباراً في فصل من الكتاب لم يقرأه بعد). هذا يتحقق مما إذا كان الذكاء الاصطناعي ذكياً حقاً أم أنه مجرد يحفظ الإجابات.
النتيجة: كان GPT-4 هو المحقق النجم. لقد كان بارعاً للغاية في رصد "خط اليد"، حتى في الملاحظات الجديدة. كانت النماذج الأخرى جيدة، لكن بعضها (مثل نموذج BERT القديم) كان من السهل خداعه.
التحدي الثاني: "مسابقة التقليد" (توليد المنشورات)
الهدف: هل يمكن للذكاء الاصطناعي كتابة تغريدة تبدو تماماً مثل شخص حقيقي معين؟
التشبيه: تخيل أنك استأجرت كاتب شبح ليكتب تغريدة لك. تعطي هذا الكاتب مذكراتك، ونبذة عنك، وقائمة بأصدقائك. ثم يكتب تغريدة جديدة. بعد ذلك، تسأل أصدقاءك: "هل كتبتُ أنا هذا؟"
الاختبار: طلب الباحثون من أشخاص حقيقيين النظر إلى التغريدات التي أنتجها الذكاء الاصطناعي وتخمين ما إذا كانت مكتوبة بواسطتهم أم بواسطة روبوت. كما استخدموا الرياضيات لقياس مدى تشابه الكلمات.
النتيجة: كانت النتائج مختلطة.
كان Gemini وLlama الأفضل في خداع البشر. غالباً ما كان الناس يفكرون: "واو، هذا يبدو مثلي تماماً!"
كتب DeepSeek تغريدات مشابهة جداً في الموضوع، لكنها بدت أحياناً آلية أو أقل "بشرية".
كان GPT-4o نموذجاً متوازناً وجيداً في كل شيء، لكنه لم يفز بجائزة "الأكثر بشرية".
خلاصة رئيسية: مجرد استخدام الذكاء الاصطناعي للكلمات الصحيحة لا يعني أنه استطاع التقاط "روح" المستخدم.
الهدف: هل يمكن للذكاء الاصطناعي النظر إلى تغريدات مستخدم ما وتخمين وظيفته وهواياته دون رؤية ملفه الشخصي أبداً؟
التشبيه: تخيل أنك عراف (متنبئ). تم تسليمك مجموعة من 50 بطاقة بريدية عشوائية لشخص غريب. بناءً على ما كتبوه فقط، هل يمكنك التخمين: "هذا الشخص طبيب أسنان يحب أفلام الخيال العلمي"؟
الاختبار: كان على الذكως الاصطناعي تخمين وظيفة المستخدم (باستخدام فئات الوظائف الحكومية الرسمية) واهتماماته (باستخدام قائمة معيارية للهوايات).
النتيجة: كان Gemini هو أفضل عراف. فقد خمن الوظائف والهوايات بدقة عالية. أما Llama، فقد عانى بشكل كبير، وغالباً ما خمن وظائف خاطئة تماماً. أظهر هذا أنه حتى الذكاء الاصطناي الذكي يمكن أن يرتبك إذا كانت الأدلة دقيقة أو غير مباشرة.
الصورة الكبيرة: ماذا تعلمنا؟
لا يوجد فائز واحد: لا يوجد ذكاء اصطناعي واحد "هو الأفضل" لكل شيء. GPT-4 هو أفضل محقق، وGemini هو أفضل عراف، وLlama هو أفضل ممثل (مقلد).
مشكلة "البيانات الجديدة": العديد من نماذج الذكاء الاصطناعي بارعة في تكرار ما تعرفه بالفعل، لكنها تواجه صعوبة عند مواجهة توجهات (trends) جديدة تماماً أو منشورات كُتبت بعد "توقف التعلم" الخاص بها.
الإنسان مقابل الآلة: أحياناً، النموذج الذي يبدو "مثالياً" رياضياً ليس هو النموذج الذي يشعر البشر بأنه أكثر طبيعية. أفضل ذكاء اصطناعي لوسائل التواصل الاجتماعي يحتاج إلى موازنة الذكاء مع القدرة على التحدث بشكل طبيعي.
باختصار: نماذج الذكاء الاصطنا هذه هي أدوات قوية يمكنها مساعدتنا في فهم وسائل التواصل الاجتماعي بشكل أفضل، لكنها ليست بدائل مثالية للحدس البشري بعد. إنها تشبه المتدربين الموهوبين جداً الذين يحتاجون إلى مدير بشري لمراجعة عملهم، خاصة عندما يتعلق الأمر بالعالم الفوضوي والمتغير باستمرار للمحادثات عبر الإنترنت.
إليك ملخص تقني مفصل للورقة البحثية بعنوان "تقييم قدرات النماذج اللغوية الكبيرة في تحليلات وسائل التواصل الاجتماعي: مهمة متعددة الأوجه".
1. بيان المشكلة
تواجه تحليلات وسائل التواصل الاجتماعي تحديات كبيرة بسبب التعقيد، وعدم الرسمية، والتطور السريع للمحتوى الذي ينشئه المستخدمون (مثل: العامية، الميمز، والنصوص القصيرة). وبينما أظهرت النماذج اللغوية الكبيرة (LLMs) وعوداً في مهام معالجة اللغات الطبيعية المختلفة، إلا أن قدراتها وقيودها المحددة في سياق وسائل التواصل الاجتماعي لا تزال غير مقيمة بشكل كافٍ. غالباً ما تركز الدراسات الحالية على مهام فردية أو تفتقر إلى الضوابط الصارمة لمنع تسرب البيانات (تدريب النماذج على البيانات التي تُختبر عليها) والتعميم على فترات زمنية غير مرئية.
تعالج الورقة ثلاث مهام أساسية ضرورية لفهم هوية المستخدم في وسائل التواصل الاجتماعي:
التحقق من هوية كاتب منشورات التواصل الاجتماعي: تحديد ما إذا كان منشور معين قد كُتب بواسطة مستخدم مستهدف.
توليد منشورات وسائل التواصل الاجتماعي: توليد محتوى يحاكي بصدق أسلوب مستخدم معين وتفضيلاته.
استنتاج سمات المستخدم: التنبؤ بسمات المستخدم الكامنة (المهنة والاهتمامات) من المحتوى النصي.
2. المنهجية
تستخدم الدراسة إطار عمل شاملاً تم تقييمه على مجموعة بيانات ضخمة من تويتر (X) (أكثر من 120 ألف مستخدم، فترة 15 أسبوعاً). تنقسم المنهجية إلى ثلاث مراحل تجريبية متميزة:
أ. التحقق من هوية كاتب منشورات التواصل الاجتماعي (المهمة الأولى)
الهدف: تصنيف ثنائي (المستخدم المستهدف مقابل مستخدم آخر).
استراتيجية أخذ العينات: لضمان المتانة، قدم المؤلفون إطار عمل منهجي لأخذ العينات:
المستخدمون الإيجابيون: تم أخذ عينات عبر استراتيجيات: العشوائية، النشاط الأخير، والنشاط الأعلى.
المنشورات السلبية: تم أخذ عينات عبر استراتيجيات: العشوائية، تشابه الموضوع (التشابه الدلالي)، والرسوم البيانية الاجتماعية (المتابِعون، المتابَعون، والمتابعة المتبادلة) لخلق تحديات "منتحلة" واقعية.
تقييم البيانات غير المرئية: للتخفيف من تحيز "البيانات المرئية"، تم اختبار النماذج على تغريدات جُمعت من يناير 2024 فصاعداً، وهو ما يتجاوز تاريخ قطع المعرفة للنماذج اللغوية الكبيرة التي تم تقييمها (على سبيل المثال، تاريخ قطع GPT-4 هو أكتوبر 2023).
المقاييس: مقياس F1 الموزون (Weighted F1-score).
ب. توليد منشورات وسائل التواصل الاجتماعي (المهمة الثانية)
الهدف: توليد تغريدات اصطناعية مشروطة بملف تعريف المستخدم (السيرة الذاتية، الإحصائيات) ومنشوراته التاريخية (أمثلة قليلة السياق).
مجموعة البيانات: اقتصرت على مستخدمي VAPOR (الموثقون، النشطون، الأثريون بالملفات الشخصية، والأصليون) لضمان جودة عالية للحقيقة الأرضية (Ground Truth).
مقاييس التقييم:
المعجمية/الدلالية: BLEU، ROUGE-1، ROUGE-L، والارتباك (Perplexity) باستخدام GPT-2.
المقاييس المبتكرة المقترحة:
متوسط التوليد مقابل الحقيقي (AGR) ومتوسط الحقيقي مقابل التوليد (ARG): متوسط الحد الأقصى لتشابه جيب التمام بين المنشورات المولدة والحقيقية.
نسب التشتت (GDR/RDR): يقيس مدى اتساع التغطية (كم عدد المنشورات الحقيقية الفريدة التي تطابقها المنشورات المولدة).
دراسة المستخدم: تقييم بشري شمل 12 مشاركاً صالحاً قاموا بتقييم "أصالة" التغريدات المولدة بواسطة النماذج اللغوية الكبيرة مقابل تغريداتهم الحقيقية على مقياس من 5 درجات.
ج. استنتاج سمات المستخدم (المهمة الثالثة)
الهدف: التنبؤ بمهن واهتمامات المستخدمين.
التصنيفات (Taxonomies):
الاهتمامات: تصنيف محتوى IAB Tech Lab الإصدار 3.1 (الفئات العليا).
المهن: التصنيف القياسي الأمريكي للمهن لعام 2018 (SOC) عند المستوى 1 (18 مجموعة) والمستوى 2 (38 مجموعة).
المنهج: تم توجيه النماذج اللغوية الكبيرة لتصنيف المستخدمين بناءً فقط على 50 تغريدة مختارة، دون الوصول إلى السير الذاتية أو بيانات الشبكة، لاختبار قدرات الاستنتاج النصي الصرفة.
المقاييس: الدقة (Accuracy) ومقياس F1 الموزون.
3. المساهمات الرئيسية
إطار عمل موحد للتقييم: أول دراسة تقيم بشكل مشترك عدة نماذج لغوية كبيرة متطورة (GPT-4, GPT-4o, GPT-3.5, Gemini 1.5 Pro, DeepSeek-V3, Llama 3.2, BERT) عبر هذه المهام الثلاث الأساسية لوسائل التواصل الاجتماعي تحت إطار عمل واحد قابل لإعادة الإنتاج.
التخفيف من تحيز البيانات: تقديم بروتوكول تقييم "البيانات غير المرئية" باستخدام تغريدات ما بعد تاريخ قطع المعرفة (يناير 2024+) لاختبار التعميم بصرامة ومنع تسرب البيانات.
مقاييس توليد مبتكرة: تطوير مقاييس قائمة على التشتت (GDR/RDR) ودراسة مستخدم مهيكلة لسد الفجوة بين المقاييس الآلية والإدراك البشري للأصالة.
تصنيفات معيارية: ربط استنتاج السمات بتصنيفات هرمية معتمدة (IAB و SOC) لتمكين تسميات دقيقة وقابلة لإعادة الإنتاج والمقارنة مع المعايير الواقعية.
4. النتائج الرئيسية
التحقق من هوية الكاتب (المهمة الأولى)
الأداء الأفضل: حقق GPT-4 أعلى متوسط لمقياس F1 (0.845) وحافظ على أداء قوي (0.85) على البيانات غير المرئية.
الفئة الثانية: أظهر Gemini و DeepSeek أداءً قوياً (~0.75–0.79).
النماذج المرجعية: أدت النماذج التقليدية (Random Forest, TF-IDF) والنماذج اللغوية الأصغر (Llama, BERT) أداءً أسوأ بكثير أو أظهرت تبايناً عالياً.
رؤية: كان لاستراتيجية أخذ عينات المنشورات السلبية (خاصة التشابه الموضوعي والرسوم البيانية الاجتماعية) تأثير أكبر على الدقة (تباين بنسبة 17% تقريباً) من أخذ عينات المستخدمين الإيجابيين.
توليد المنشورات (المهمة الثانية)
المحاذاة الدلالية: حقق DeepSeek أعلى تشابه دلالي (AOS) ولكنه عانى من ارتباك عالٍ (انخفاض في الطلاقة).
إعادة الاستخدام المعجمي: حقق Llama أعلى درجات BLEU/ROUGE، مما يشير إلى نسخ معجمي قوي ولكن بتنوع دلالي أقل.
التوازن: قدم GPT-4o الملف الأكثر توازناً، حيث جمع بين التشابه الدلالي القوي وأقل نسبة ارتباك بين النماذج اللغوية الكبيرة.
الإدراك البشري: في دراسة المستخدم، حصل Gemini و Loma على أعلى تقييمات "الأصالة" (متوسط ~3.95/5)، مما يشير إلى أن إعادة الاستخدام المعجمي وإعادة الصياغة يمكن أن تخدع البشر بشكل أفضل من المحاذاة الدلالية العميقة أحياناً.
استنتاج سمات المستخدم (المهمة الثالثة)
الأداء الأفضل: تفوق Gemini على جميع النماذج الأخرى في الاهتمامات وفي كلا مستويي المهن (L1 و L2).
تأثير التفصيل (Granularity): انخفض الأداء بشكل كبير مع زيادة تفصيل التصنيف (من L1 إلى L2)، مما يسلط الضوء على صعوبة الاستنتاج الدقيق.
ضعف الأداء: سجل Llama أداءً ضعيفاً باستمرار، خاصة في مهام المهن الدقيقة.
5. الأهمية والآثار المترتبة
معيار قياسي: يضع هذا العمل معياراً قابلاً لإعادة الإنتاج لتقييم مهام متعددة في تحليلات وسائل التواصل الاجتماعي، متجاوزاً التقييمات أحادية المهمة.
إثبات التعميم: تظهر الدراسة أنه بينما تعد النماذج اللغبية الكبيرة قوية، فإن أداءها يختلف بشكل كبير بناءً على المهمة (التحقق مقابل التوليد مقابل الاستنتاج) وبناءً على بنية النموذج المحددة.
المواءمة بين الإنسان والآلة: تكشف دراسة المستخدم عن وجود انفصال بين المقاييس الآلية (مثل BLEU) والإدراك البشري للأصالة، مما يشير إلى أن التقيال المستقبلي يجب أن يتضمن التحقق من خلال العنصر البشري.
الاعتبارات الأخلاقية: يسلط المؤلفون الضوء على مخاطر نمذجة الهوية المدفوعة بالنماذج اللغوية الكبيرة، بما في ذلك انتحال الشخصية وتوصيف الخصوصية الحساسة، مؤكدين على ضرورة استخدام هذه الأدوات للتقييم وليس للنشر غير المحمي.
الخلاصة: تخلص الورقة إلى أن GPT-4 هو الأفضل للتحقق من هوية الكاتب، و DeepSeek يتفوق في المحاذاة الدلالية للتوليد، و Gemini هو الأكثر قوة في استنتاج السمات. ومع ذلك، لا يهيمن نموذج واحد على جميع المهام، ويعتمد اختيار النموذج بشكل كبير على هدف تحليل وسائل التواصل الاجتماعي المحدد.