CHASM: Unveiling Covert Advertisements on Chinese Social Media
تقدم هذه الورقة البحثية CHASM، وهي مجموعة بيانات جديدة تضم ما يقرب من 5,000 إعلان خفي من واقع الحياة من منصة التواصل الاجتماعي الصينية "ريدنوت" (Rednote)، لتوضيح أن النماذج اللغوية الكبيرة متعددة الوسائط الحالية تعاني في اكتشاف هذه المنشورات الخادعة ولتسليط الضوء على الحاجة إلى تحسين آليات الضبط الدقيق والدفاع ضد هذا التهديد الناشئ.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تتصفح تطبيق التواصل الاجتماعي المفضل لديك، بحثاً عن إلهام حول ما ترتديه أو ما تجربه من منتجات العناية بالبشرة. ترى منشوراً يبدو وكأنه من صديق حقيقي يشارك رأياً صادقاً: "لقد جربت هذا التونر الجديد، ويا للروعة، ملمس بشرتي مذهل! إليكم صورة لروتيني الصباحي."
يبدو الأمر أصيلاً. يبدو وكأنه توصية من شخص في مثل سنك. ولكن ماذا لو كان هذا "الصديق" في الواقع معلناً مدفوع الأجر يتنكر في زيّ آخر، و"الرأي الصادق" هو نص مكتوب بعناية لتبيع لك شيئاً ما؟
هذه هي المشكلة التي يعالجها بحث CHASM. إنه يشبه قصة بوليسية حيث المجرمون بارعون جداً في ارتداء الأقنعة لدرجة أن حتى أذكى المحققين من الذكاء الاصطناعي يتم خداعهم.
إليك قصة البحث، مقسمة إلى أجزاء بسيطة:
1. الشرير: "الذئب في ثوب حمل"
في عالم وسائل التواصل الاجتماعي (وتحديداً تطبيق صيني شهير يسمى Rednote، وهو مشابه لإنستغرام أو تيك توك)، هناك تهديد متزايد يسمى الإعلانات المستترة (Covert Advertisements).
- الإعلانات التقليدية: هي واضحة. تقول "إعلان" أو "ممول". إنها تشبه اللوحة الإعلانية على الطريق السريع. أنت تعرف أنها تحاول بيع شيء ما لك، لذا يمكنك اختيار تجاهلها.
- الإعلانات المستترة: هي الذئاب في ثياب الحملان. تبدو تماماً مثل المنشورات العادية. لا تقول "اشترِ هذا!" بل تقول: "أنا أحب هذا!" أو "انظروا إلى ملابسي!". ولكن بداخل الصورة، أو الوصف، أو التعليقات، توجد روابط سرية، أو أسماء علامات تجارية، أو تعليمات حول كيفية الشراء.
الهدف من هذه الإعلانات هو خداعك لتظن: "أوه، هذا مجرد شخص حقيقي يشارك نصيحة"، لكي تخفض دفاعاتك وتشتري المنتج.
2. أداة التحقيق: مجموعة بيانات CHASM
أدرك الباحثون أن نماذج الذكاء الاصطناعي الحالية (نماذج اللغات الكبيرة) سيئة جداً في كشف هذه الإعلانات المتنكرة. فكروا قائلين: "كيف يمكننا تعليم الذكاء الاصطناعي رصد الذئب؟"
للقيام بذلك، بنوا CHASM. فكر في CHASM كأنه صالة ألعاب رياضية تدريبية ضخمة لمحققين من الذكاء الاصطناعي.
- التمرين: جمعوا ما يقرب من 5,000 منشور حقيقي من Rednote.
- المزيج: بعض المنشورات كانت إعلانات حقيقية متنكرة (الأشرار)، والبعض الآخر كان مجرد أشخاص عاديين يشاركون حياتهم (الأخيار).
- التحدي: تأكدوا من أن "الأخيار" يشبهون "الأشرار" إلى حد كبير. إنها تشبه لعبة "أوجد الفروق" حيث تكون الاختلافات دقيقة للغاية.
- الخصوصية: قاموا بإزالة جميع الأسماء والوجوه الحقيقية من الصور حتى لا يتضرر أي أشخاص حقيقيين، تماماً مثل طمس الوجوه في رسم تخطيطي للشرطة.
3. الاختبار الكبير: هل يستطيع الذكاء الاصطناعي الرؤية من خلال القناع؟
أخذ الباحثون أذكى نماذج الذكاء الاصطناعي في العالم (مثل GPT-4o، وDeepSeek، وغيرها) وألقوا بهم في صالة ألعاب CHASM الرياضية. وسألوهم: "هل يمكنك تحديد أي من هذه المنشورات هو إعلان مزيف؟"
النتيجة؟ فشل الذكاء الاصطناعي فشلاً ذريعاً.
- حتى النماذج "فائقة الذكاء" لم تصب إلا بنسبة 60% تقريباً. وهذا بالكاد يتفوق على رمي العملة المعدنية!
- استمر الذكاء الاصطناعي في التعرض للخداع. فقد ظن أن الأصدقاء الحقيقيين يروجون لأشياء، وأغفل بالفعل حملات البيع المخفية في التعليقات.
- التشبيه: الأمر يشبه إعطاء طباخ ماهر عصابة على عينيه وسؤاله عن طعم طبق ما ليخبرك إذا كان يحتوي على ملح أم لا. لم يستطع الذكال الاصطناعي ببساطة "تذوق" "النكهة" الخفية للإعلان المستتر.
4. مونتاج التدريب: الضبط الدقيق (Fine-Tuning)
بما أن الذكاء الاصطناعي كان يفشل، جرب الباحثون استراتيجية جديدة: الضبط الدقيق.
- بدلاً من مجرد سؤال الذكاء الاصطناعي للتخمين، عرضوا عليه مجموعة بيانات CHASM وقالوا له: "انظر إلى هذه الأمثلة. هذا هو السبب في أن هذا واحد إعلان، وهذا هو السبب في أن ذاك ليس كذلك. الآن، حاول مرة أخرى."
- النتيجة: كان هذا بمثابة إعطاء المحقق عدسة مكبرة ودليل إرشادي. قفز أداء الذكاء الاصطناعي بشكل ملحوظ. أحد النماذج (Qwen2.5) انتقل من نسبة نجاح 42% إلى 75%.
- العقبة: حتى مع التدريب، ظل الذكاء الاصطناعي يعاني مع الحالات الأكثر صعوبة. فقد فاتته الإشارات الدقيقة المخفية في قسم التعليقات، أو فشل في ملاحظة أن المنشور يركز على علامة تجارية واحدة فقط (وهي خدعة إعلانية كلاسيكية) بدلاً من مقارنة العلامات التجارية المختلفة (وهو سلوك المستخدم الحقيقي).
5. لماذا يهم هذا؟
لماذا يجب أن نهتم إذا كان بإمكان الذكاء الاصطناعي رصد إعلان مزيف؟
- الثقة: إذا لم نتمكن من التمييز بين ما هو حقيقي وما هو عرض بيع، فسنفقد الثقة في وسائل التواصل الاجتماعي.
- المال: الناس يخسرون المال في منتجات لم يكونوا يعلمون أنه يتم بيعها لهم.
- القانون: في العديد من البلدان، يعد إخفاء حقيقة أنك تتقاضى أجراً للترويج لشيء ما أمراً غير قانوني.
الخلاصة
يخلص البحث إلى أن الذكاء الاصطناعي الحالي ليس مستعداً لمراقبة إعلانات وسائل التواصل الاجتماعي بمفرده. فهو يسهل خداعه بالتمويهات الذكية.
ومع ذلك، فإن مجموعة بيانات CHASM هي خطوة كبيرة للأمام. إنها تشبه "دليل تدريب" جديد يساعد الذكاء الاصطناعي على أن يصبح أفضل في كشف هذه الحيل. يأمل الباحثون من خلال مشاركة هذه البيانات أن تتمكن المنصات من بناء دفاعات أفضل، مما يضمن أنه عندما ترى منشوراً، تعرف ما إذا كانت نصيحة من صديق أم عرضاً من بائع.
باخت-اختصار: الإنترنت مليء بالذئاب في ثياب الحملان. هذا البحث بنى معسكراً تدريبياً لتعليم كلابنا من الذكاء الاصطناعي كيف تشم رائلتهم، لكن الذئاب لا تزال ماكرة جداً، ونحن بحاجة لمواصلة التدريب.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.