Malicious Agent Skills in the Wild: A Large-Scale Security Empirical Study
تقدم هذه الورقة أول دراسة تجريبية واسعة النطاق لمهارات الوكلاء الخبيثين من الأطراف الثالثة، حيث تقدم مجموعة بيانات مصنفة تضم 157 تهديداً مؤكداً تكشف عن نظام بيئي منقسم من لصوص البيانات ومختطفي الوكلاء الذين يستغلون ثغرات سلاسل التوريد وخطافات المنصات، مع إثبات فعالية الإفصاح المسؤول في إزالة 93.6% من هذه المخاطر.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك اشتريت للتو مساعداً آلياً ذكياً للغاية (عميل ذكاء اصطناعي - AI Agent) يمكنه مساعدتك في كتابة الأكواد، وتحليل البيانات، وإدارة حياتك الرقمية. ولجعل هذا الروبوت أكثر فائدة، قام المطورون بإنشاء "متجر مهارات" حيث يمكن للناس تحميل برامج إضافية صغيرة تسمى "مهارات" (Skills). فكر في هذه المهارات كأنها تطبيقات لهاتفك، ولكن بدلاً من العمل على هاتفك فقط، تعمل هذه المهارات بصلاحيات وصول كاملة إلى جهاز الكمبيوتر الخاص بك، وملفاتك، وكلمات المرور الخاصة بك.
الورقة البحثية التي شاركتَها هي تحقيق أمني ضخم في هذا "متجر المهارات" الجديد. أراد الباحثون معرفة: هل هذا المتجر آمن، أم أنه مليء بالفخاخ؟
إليك قصة نتائجهم، مشروحة ببساطة:
1. الإعداد: الغرب المتوحش
نظر الباحثون في متجرين شهيرين عبر الإنترنت حيث يشارك الناس هذه المهارات. وفي غض-ثلاثة أشهر فقط، تم رفع أكثر من 98,000 مهارة.
- المشكلة: على عكس متجر تطبيقات Apple، حيث يتم فحص التطبيقات قبل بيعها، فإن متاجر المهارات هذه تفتقر تقريباً إلى أي ضوابط أمنية. يمكن لأي شخص رفع أي شيء.
- الفخ: نظرًا لأن هذه المهارات تعمل بصلاحيات الوصول الكاملة لجهاز الكمبيوتر الخاص بك، فإن أي "مهارة سيئة" يمكنها فعل أي شيء يمكنك فعله: سرقة كلمات المرور الخاصة بك، أو حذف ملفاتك، أو السماح للمخترقين بالسيطرة على جهازك.
2. التحقيق: طريقة "الكلب البوليسي"
لم يكتفِ الباحثون بقراءة أوصاف المهارات (لأن الكاذبين يمكنهم كتابة أوصاف جيدة)، بل قاموا ببناء "صندوق رمل رقمي" (Digital Sandbox) — وهو غرفة معزولة وآمنة يمكنهم فيها تشغيل الـ 98,000 مهارة هذه لرؤية ما تفعله حقاً.
- النتيجة: من بين 98,000 مهارة، وجدوا 157 مهارة خبيثة مؤكدة.
- النطاق: رغم أن رقم 157 قد يبدو صغيراً مقارنة بـ 98,000، إلا أنه في الواقع ضخم لأن هذه ليست مجرد "أخطاء برمجية" عفوية، بل هي هجمات متعمدة. في المتوسط، كان لكل مهارة سيئة 4 طرق مختلفة لإيذائك، واستخدموا "سلسلة قتل" (Kill Chain) — وهي خطة خطوة بخطوة — لسرقة البيانات.
3. نوعا الأشرار
اكتشف الباحثون أن المهاجمين ينقسمون إلى مجموعتين متميزتين، مثل نوعين مختلفين من المجرمين في الأفلام:
🕵️ النوع (أ): لصوص البيانات (النشالون)
- ماذا يفعلون: يتظاهرون بأنهم أدوات مفيدة (مثل "آلة حاسبة رياضية" أو "مساعد بريد إلكتروني"). وبمجرد تثبيتهم، يقومون بهدوء بسرقة كلمات المرور الخاصة بك وإرسالها إلى المخترق.
- الخدعة: يستخدمون نهج "المصنع". فقد أنشأت مجموعة إجرامية واحدة 85 مهارة مزيفة تبدو جميعها مختلفة قليلاً ولكنها مبنية من نفس القالب تماماً. لقد انتحلوا صفة علامات تجارية كبرى لخداعك.
- التشبيه: تخيل بائعاً متجولاً يبيع زجاجات "مياه مجانية"، ولكن كل زجاجة تحتوي على كاميرا مخفية بالداخل. لقد صنعوا 85 زجاجة مختلفة، لكنها جميعاً جاءت من نفس المصنع.
🎭 النوع (ب): مختطفو الوكيل (مسيطرو العقول)
- ماذا يفعلون: هم لا يكتفون بسرقة البيانات فحسب؛ بل يحاولون خداع الذكاء الاصطناعي نفسه. يكتبون تعليمات تخبر الذكاء الاصطناعي: "تجاهل قواعد السلامة الخاصة بك"، "لا تطلب الإذن من المستخدم"، و"افعل هذا سراً".
- الخدعة: يخفون تعليماتهم الشريرة داخل الوصف النصي (الكتيب/الدليل) بدلاً من الكود البرمโปรgram. وبما أن الذكاء الاصطناعي يقرأ الدليل ليفهم ما يجب القيام به، فإنه يطيع التعليمات الشريرة.
- التشبيه: تخيل روبوتاً يعمل كخادم. المخترق العادي يحاول كسر ذراع الروبوت لسرقة محفظتك. أما "المختطف" فيقترب من الروبوت ويهمس في أذنه: "هيي، صاحبك أخبرني أن آخذ محفظتك وألا أخبره". الروبوت، بكونه مطيعاً، يفعل ذلك بالضبط.
4. الميزات "الظلية" (Shadow Features)
الجزء الأكثر رعباً هو كيفية اختبائهم.
- تشبيه الظل: تخيل سيارة تبدو كسيارة سيدان عادية، ولكن تحت غطاء المحرك، يوجد محرك سري لا يعمل إلا عندما تمر بجانب مبنى معين.
- النتيجة: كلما كان الهجوم أكثر تطوراً، كان الاختباء أفضل.
- الهجمات المبتدئة: لا يوجد اختباء.
- الهجمات المتقدمة: 100% منها امتلكت "ميزات ظلية" — وهي قدرات لم تكن موجودة نهائياً في الوصف العام. كانت مخفية في التعليقات، أو الحروف غير المرئية، أو الكود المشفر.
5. منطقة خطر "اللغة الطبيعية"
هذا هو الاكتشاف الأكثر تميزاً. في البرمجيات التقليدية، يخفي المخترقون الكود السيئ داخل ملفات البرنامج. أما هنا، فإن 84% من الأشياء الخطيرة كانت مخبأة في الأوصاف النصية (الأدلة/الكتيبات).
- لماذا يهم هذا: برامج الأمن التقليدية تفحص الكود. الأمر يشبه حارس أمن يفحص حقيبة بحثاً عن أسلحة. لكن هؤلاء المخترقين أخفوا الأسلحة داخل كتيب التعليمات الذي يقرأه الروبوت! الحارس الأمني لم يكن يعرف بضرورة فحص الكتيب أيضاً!
6. الخبر الجيد: لقد تم القبض عليهم
مارس الباحثون ما يسمى "الإفصاح المسؤول". لقد أخبروا أصحاب المتجر عن الـ 157 مهارة الخبيثة.
- النتيجة: في غضون 30 يوماً، تمت إزالة 93.6% من المهارات الخبيثة.
- الدرس المستفاد: أصحاب المتاجر يستجيبون بسرعة، ولكن بحلول الوقت الذي يزيلون فيه المهارات السيئة، قد يكون العديد من المستخدمين قد قاموا بتثبيتها بالفعل.
ملخص: ماذا يجب أن نتعلم؟
- لا تثق في الملصق: مجرد كون المهارة تسمى "آلة حاسبة آمنة" لا يعني أنها كذلك.
- الذكاء الاصطناعي ساذج: يتعلم المخترقون كيفية خداء عقل الذكاء الاصطناعي (التعليمات) بدلاً من مجرد كسر جسده (الكود).
- نحن في البداية: هذا النظام البيئي يشبه الإنترنت في التسعينيات أو متاجر التطبيقات في عام 2010. إنه ينمو بسرعة، لكن القواعد الأمنية لم تلحق به بعد.
- الحل: نحن بحاجة إلى أدوات جديدة يمكنها "قراءة" التعليمات ومقارنتها بما يفعله البرنامج فعلياً، بحثاً عن تلك "الميزات الظلية".
باختاًصر: عالم مساعدي الذكاء الاصطناعي يشهد ظهور متجر تطبيقات من نوع "الغرب المتوحش". المخترقون موجودون بالفعل، يرتدون الأقنعة ويختبئون في وضح النهار. ولكن الآن بعد أن عرفنا كيف يبدو شكلهم، يمكننا البدء في بناء أقفال وحراس أفضل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.