Breaking and Defending LLM-Powered Social Media Bot Detection Systems
تقدم هذه الورقة استراتيجيتين جديدتين للهجمات العدائية تستغلان نقاط الضعف الدلالية في كواشف الروبوتات على وسائل التواصل الاجتماعي القائمة على النماذج اللغوية الكبيرة، مما يقلل من دقتها بنسبة تصل إلى 48%، وتقترح إطار دفاعي قوي متعدد النماذج اللغوية الكبيرة يسمى LSABRE يحافظ على دقة كشف تبلغ 86% ضد مثل هذه التهديدات التكيفية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تُعد منصات التواصل الاجتماعي ساحات عامة شاسعة حيث يشارك بشر حقيقيون أفكارهم، لكنها أيضاً مزدحمة بحسابات آلية، تُعرف باسم "البوتات" (bots)، والتي تحاكي السلوك البشري لنشر الأكاذيب، وإثارة الصراعات، والتلاعب بالرأي العام. لسنوات طويلة، اعتمدت الفرق الأمنية على برامج حاسوبية لرصد هذه الحسابات المزيفة، من خلال البحث عن أنماط في كيفية نشرها للمنشورات أو من تتابعهم. ومؤخراً، تم إدخال نوع جديد من الذكاء الاصطنا-عي يُسمى "نماذج اللغات الكبيرة" إلى هذه المعركة. هذه النماذج متطورة للغاية؛ إذ يمكنها قراءة وفهم الفروق الدقيقة في المحادثات البشرية بشكل أفضل من الأدوات القديمة، مما يجعلها ممتازة في التمييز بين الشخص الحقيقي والآلة. ومع ذلك، تماماً كما يستدعي وجود قفل جديد طرقاً جديدة لفتحه، فقد خلقت أدوات الذكاء الاصطناعي القوية هذه ثغرة أمنية جديدة. ولأن هذه النماذج تعتمد على فهم التعليمات والنصوص، يمكن للمهاجمين الأذكياء خداعها لجعلها تتجاهل قواعد السلامة الخاصة بها أو تسئ فهم المحتوى الذي يُفترض بها تحليله. وهذا يخلق لعبة عالية المخاطر حيث يحاول المدافعون بناء كواشف أكثر ذكاءً بينما يحاول المهاجمون صياغة رسائل تنزلق من خلالها بعيداً عن الرصد.
قرر باحثون في جامعة رايخمان في إسرائيل رسم خريطة لهذه المعركة، مع التركيز تحديداً على كيفية كسر كواشف الذكاء الاصطناعي الجديدة هذه وكيفية إصلاحها. لم يكتفوا بالنظر إلى طريقة واحدة لمهاجمة النظام، بل اختبروا استراتيجيتين متميزتين. تضمنت الأولى تغيير النص الفعلي الذي ينشره "البوت"، عبر إعادة كتابة رسائله لتبدو مثل المحادثة البشرية الحقيقية. أما الاستراتيجية الثانية فكانت أكثر مباشرة: حقن تعليمات مخفية داخل النص تأمر الذكاء الاصطناعي بتجاهل مهمته تماماً وإعلان أن "البوت" غير ضار. ولاختبار هذه الأفكار، استخدم الفريق ثلاثة نماذج مختلفة من نماذج الذكاء الاصطناعي مفتوحة المصدر، معتبرين إياها بمثابة المدافعين والمهاجمين في آن واحد. ووجدوا أنه على الرغم من أن كواشف الذكاء الاصطناعي هذه كانت جيدة في عملها بشكل عام، إلا أنها كانت هشة بشكل مفاجئ. فعندما استخدم المهاجمون تقنية محددة لإعادة كتابة منشورات "البوت" من خلال التركيز على النبرة العاطفية ومواضيع الرسائل، انخفضت دقة الكواشف بشكل كبير. وفي بعض الحالات، انخفض معدل نجاح رصد "البوتات" بنسبة تقارب النصف، مما يعني أن النظام فشل في رصد ما يقرب من نصف الحسابات الضارة التي كان ينبغي له اكتشافها.
اكتشف الباحثون أن نماذج الذكاء الاصطناعي لا تتفاعل جميعها بنفس الطريقة مع هذه الحيل. فأحد النماذج، الذي كان الأقوى عموماً في تحديد "البوتات"، ثبت أنه الأكثر عرضة للاختراق عبر عمليات إعادة كتابة النصوص البسيطة. بينما كان نموذج آخر جيداً بشكل مفاجئ في تجاهل التعليمات المخفية التي تهدف إلى إرباكه، لكنه كان ضعيفاً جداً في مهمته الأصلية المتمثلة في رصد "البوتات"، مما جعله غير مفيد للمهمة في المقام الأول. كما كشفت الدراسة أن المهاجمين الأكثر فعالية لم يكونوا دائماً الأكثر تطوراً؛ فأحياناً، كان مجرد طلب بسيط مثل "أعد كتابة هذا ليبدو أكثر شرعية" كافياً لخداع النظام. وتعد هذه النتيجة بالغة الأهمية لأنها تشير إلى أن أسهل الأدوات التي يمكن للمهاجم استخدامها هي غالباً الأكثر خطورة. كما اختبر الفريق آليات دفاعية متنوعة، مثل مطالبة الذكاء الاصطناعي بمراجعة عمله مرة أخرى أو إضافة علامات خاصة للنص لفصل التعليمات عن المحتوى. وبينما ساعدت بعض هذه الأساليب، لم ينجح أي منها بشكل مثالي بمفرده؛ إذ لم تستطع استراتيجية دفاعية واحدة إيقاف كل أنواع الهجمات دون التأثير أيضاً على قدرة النظام على رصد "البوتات" الحقيقية.
ولحل هذه المعضلة، بنى الباحثون نظاماً جديداً يسمى "LSABRE"، والذي يعمل مثل فريق من المتخصصين بدلاً من حارس واحد. فبدلاً من الاعتماد على نموذج ذكاء اصطناعي واحد لاتخاذ القرار النهائي، يستخدم هذا النظام مجموعة من النماذج المختلفة التي تعمل معاً. تبدأ العملية بطبقة كشف تقوم بمسح المنشورات الواردة لمعرفة ما إذا كانت تبدو مشبوهة أو تعرضت للتلاعب. وإذا تم رصد منشور مشبوه، فإنه ينتقل إلى طبقة وقاية، حيث تتم معالجته بواسطة نماذج أخرى مدربة خصيصاً للتعامل مع التعليمات الملتوية أو النصوص المعاد كتابتها. وأخيراً، تقوم طبقة التصنيف باتخاذ القرار النهائي بشأن ما إذا كان الحساب "بوتاً" أم بشراً. ومن خلال الجمع بين نقاط القوة لنماذج متعددة وتقنيات دفاعية مختلفة، تمكن هذا النهج الجماعي من الحفاظ على مستوى عالٍ من الدقة حتى تحت الهجوم الشديد. وقد نجح النظام في الحفاظ على دقة رصد بلغت 86 بالمئة، وهو تحسن ملحوظ مقارنة بالنماذج الفردية التي يسهل خداعها. ويشير هذا إلى أن مستقبل الأمن على وسائل التواصل الاجتماعي قد لا يكمن في بناء ذكاء اصطناعي واحد مثالي، بل في إنشاء فرق متنوعة من الذكاء الاصطناعي يمكنها حماية بعضها البعض.
كما سلطت الدراسة الضوء على أن الأدوات المستخدمة لبناء هذه الدفاعات متاحة الآن للآخرين لاستخدامها. فقد أطلق الباحثون بياناتهم وأكوادهم البرمجية للجمهور، مما يسمح لعلماء آخرين باختبار هذه الأفكار بشكل أكبر. وأشاروا إلى أنه على الرغم من أن عملهم ركز على منصة "تويتر"، إلا أن المبادئ نفسها تنطبق على منصات أخرى مثل "فيسبوك" أو "ريديت". ولا تدعي الدراسة أنها حلت مشكلة رصد "البوتات" إلى الأبد، بل إنها تقدم صورة واضحة لمواضع فشل الأنظمة الحالية وتقدم مساراً ملموساً للمضي قدماً. ومن خلال إظهار أن النهج القائم على الفريق يمكنه الصمود أمام الهجمات التي تهزم النماذج الفردية، فإن هذا العمل يقترح طريقة عملية لجعل وسائل التواصل الاجتماعي أكثر أماناً. وتؤكد النتائج أنه كلما أصبح الذكاء الاصطناعي أكثر قوة، يجب أن تصبح الأساليب المستخدمة لحمايته أكثر تعقيداً، بالانتقال من الدفاعات البسيطة ذات الطبقة الواحدة إلى أنظمة قوية متعددة الطبقات يمكنها التكيف مع التكتيكات المتطورة لأولئك الذين يسعون لإساءة استخدامها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.