ColluSkill: Adversarial Cross-Skill Composition for Evading Agent Skill Scanners
تقدم هذه الورقة ColluSkill، وهو إطار عمل هجومي يتملص من ماسحات المهارات الحالية عبر تفكيك النوايا الخبيثة إلى حمولات فرعية مترابطة وغير ضارة محلياً، وتقترح ChainGuard، وهي آلية دفاعية مدركة للسياق تخفف بفعالية من هجمات تركيب المهارات المتقاطعة هذه من خلال تحليل المخاطر على مستوى سير العمل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً لا يكتفي فيه حاسوبك بتنفيذ الأوامر فحسب، بل يمتلك بالفعل صندوق أدوات يحتوي على "مهارات" يمكنه التقاطها واستخدامها. فكر في هذه المهارات مثل قطع "الليغو" أو التطبيقات على هاتفك: قطعة "البحث عن الملفات"، قطعة "إرسال بريد إلكتروني"، أو قطعة "قراءة مستند". تُسمى هذه المهارات "مهارات الوكيل" (Agent Skills)، وهي تتيح لبرامج الكمبيوتر الذكية (المعروفة باسم وكلاء الذكاء الاصطناعي - AI Agents) تنفيذ مهام معقدة عبر تركيب هذه الأدوات معاً. ولكن، تماماً كما في الحياة الواقعية، ليست كل أداة في الصندوق آمنة. فقد تكون هناك بعض الفخاخ المخفية المصممة لسرقة أسرارك أو حذف واجباتك المدرسية. وللحفاظ على الأمان، لدينا "ماسحات المهارات" (Skill Scanners) — وهي حراس أمن رقميون يفحصون كل أداة جديدة قبل السماح بدخولها إلى صندوق أدواتك. إنهم يفحصون التعليمات والشيفرة البرمجية للتأكد من عدم وجود شيء مخادع مختبئ بالداخل. والسؤال الكبير الذي يطرحه الباحثون هو: ماذا يحدث إذا لم يحاول الأشرار إخفاء فخ واحد كبير وواضح، بل قاموا بتسلل ثلاثة أو أربعة أجزاء صغيرة تبدو غير ضارة، والتي لا تصبح خطيرة إلا عند تركيبها معاً؟
هذا هو بالضبط ما يستكشفه بحث "كولو-سكيل" (ColluSkill). لقد اكتشف المؤلفون طريقة ذكية لخداع حراس الأمن هؤلاء؛ حيث وجدوا أن الماسحات الحالية تشبه البوابين الذين يفحصون كل شخص يدخل النادي واحداً تلو الآخر. إذا بدا الشخص بريئاً بمفرده، فإنه يدخل. لكن الباحثين أظهروا أنه يمكنك تقسيم خطة خطيرة إلى عدة أجزاء صغيرة تبدو بريئة. كل جزء منها يمر من فحص البواب بشكل منفرد، ولكن بمجرد دخولها جميعاً والعمل معاً بالترتيب الصحيح، تعود لتتجمع وتشكل هجوماً خطيراً. يطلق البحث على هذه العملية اسم "كولو-سكيل" (ColluSkill)، وهو إطار عمل يقوم بتفكيك خطة خبيثة إلى سلسلة من المهارات "المتآمرة". يستخدم البحث ذكاءً اصطناعياً ذكياً للتخطيط لكيفية ملاءمة هذه القطع معاً، ثم يستمر في تعديلها حتى تبدو آمنة تماماً بالنسبة للماسح الضوئي، رغم أنها جاهزة لإثارة المشاكل بمجرد بدء العمل.
ولمواجهة ذلك، قدم البحث مدافعاً جديداً يسمى "تشين-جارد" (ChainGuard). فبدلاً من فحص الأداة الجديدة بمعزل عن غيرها، ينظر "تشين-جارد" إلى الصورة الكاملة: "ما هي الأدوات الموجودة بالفعل في صندوق الأدوات؟ وكيف تتصل هذه الأداة الجديدة بها؟" إنه يشبه حارس الأمن الذي لا يكتفي بفحص هويتك فحسب، بل يسأل أيضاً: "مع من ستلتقي، وماذا تنويان فعله معاً؟". اختبر الباحثون أفكارهم على ستة ماسحات أمنية مختلفة ووجدوا أن خدعتهم نجحت بشكل مذهل؛ حيث تمكن هجوم "كولو-سكيل" من التسلل عبر الماسحات بنسبة 96.0% في المتوسط، بينما لم تنجح الطرق القديمة في الهجوم إلا بنسبة 37.8% تقريباً. ومع ذلك، عندما استخدموا "تشين-جارد"، انخفضت نسبة نجاح الهجوم بشكل كبير إلى 22.5%، مع السماح لـ 99.5% من الأدوات الجيدة وغير الضارة بالمرور.
قصة مجموعة الليغو الماكرة
دعونا نتعمق في كيفية عمل كل هذا، باستخدام قصة عن نوع محدد جداً من عمليات السطو.
المشكلة: حارس الأمن "الذكي جداً"
تخيل أنك تحاول تهريب "سكربت استخراج بيانات" (برنامج لسرقة أسرارك) إلى مبنى عالي الأمن. حارس الأمن عند الباب لديه ماسح ضوئي. إذا أحضرت صندوقاً كبيراً أحمر مكتوب عليه "بيانات مسروقة"، سيصرخ الماسح: "محظور!" ويوقفك.
وجد الباحثون أن ماسحات الأمن الحالية تعمل تماماً مثل هذا الحارس؛ فهي تفحص كل مهارة على حدة. تفحص تعليماتها، وصلاحياتها، وشيفرتها. إذا بدت مهارة واحدة آمنة، فإنها تحصل على "مرور". المشكلة هي أن هؤلاء الحراس لا ينظرون إلى "الفريق بأكمله". إنهم لا يدركون أنه إذا أحضرت ثلاثة أشخاص مختلفين، يحمل كل منهم قطعة صغيرة وغير ضارة من لغز ما، فقد يتمكن هؤلاء الثلاثة من تجميع اللغز المحظور بمجرد دخولهم.
الهجوم: كولو-سكيل (سيد التنكر)
ابتكر المؤلفون طريقة تسمى "كولو-سكيل" لاستغلال هذه النقطة العمياء. فكر في الأمر كاللص المحترف الذي يقرر ألا يحضر قنبلة كبيرة واحدة، بل يحضر ثلاثة عناصر منفصلة تبدو بريئة:
- المهارة (أ) (المستطلع): "أريد فقط إلقاء نظرة على الملفات الموجودة في الغرفة". (تبدو غير ضارة).
- المهارة (ب) (الكاتب): "أريد فقط تدوين ما أراه". (تبدو غير ضارة).
- المهارة (ج) (المراسل): "أريد فقط إرسال رسالة إلى الخارج". (تبدو غير ضارة).
بشكل فردي، يفحص الماسح الأمني كل واحدة منها ويقول: "بالتأكيد، هذا جيد". ولكن إليكم الخدعة: يستخدم "كولو-سكيل" ذكاءً اصطناعياً ذكياً للتخطيط لكيفية ربط هذه العناصر الثلاثة بدقة:
- المهارة (أ) تجد ملفاً سرياً.
- المهارة (أ) تمرر هذا الملف إلى المهارة (ب).
- المهارة (ب) تكتب محتويات الملف في رسالة.
- المهارة (ب) تمرر هذه الرسالة إلى المهارة (ج).
- المهارة (ج) ترسل الرسالة إلى الخارج.
سحر "كولو-سكيل" يكمن في خطوتين:
- تخطيط السلسلة: يحدد الذكاء الاصطناعي الترتيب المثالي بحيث يتم توزيع "الخطر"؛ فلا تقوم أي مهارة بمفردها بأي عمل سيء، بل يكتفون فقط بتمرير الأشياء.
- التغذية الراجعة من الماسح: يحاول الذكاء الاصطناعي تهريب المهارات. إذا رصد الماسح إحداها (مثلاً: "المهارة ج تبدو مشبوهة قليلاً")، يقوم الذكاء الاصطناعي بإعادة كتابتها لتبدو أكثر براءة، ثم يحاول مرة أخرى. ويستمر في فعل ذلك حتى تمر كل قطعة من الفحص.
في اختباراتهم، كانت هذه الطريقة فعالة بشكل مرعب. عندما حاولوا تمرير هذه السلاسل أمام ستة ماسحات أمنية حقيقية، نجح "كولو-سكيل" بنسبة 96.0% من المرات. قارن ذلك بالطرق القديمة التي كانت تكتفي بتقسيم الكود السيئ دون هذا التخطيط الذكي، والتي نجحت بنسبة 36.7% فقط. وجد الباحثون أن مجرد تقسيم الكود لم يكن كافياً؛ بل كان "التخطيط" و"إعادة الكتابة" هما ما صنعا الفارق.
الدفاع: تشين-جارد (المحقق)
إذاً، كيف نوقف هذا؟ يقترح البحث "تشين-جارد". فبدلاً من أن يكون حارساً يفحص الأشخاص واحداً تلو الآخر، فإن "تشين-جارد" هو محقق ينظر إلى المجموعة بأكملها.
عندما تريد مهارة جديدة الدخول، يسأل "تشين-جارد": "من الموجود في الغرفة بالفعل؟ وماذا يفعلون؟"
- إذا حاولت المهارة (ج) (المراسل) الدخول، ينظر "تشين-جارد" إلى المهارات المثبتة ويرى أن المهارة (أ) (المستطلع) والمهارة (ب) (الكاتب) موجودتان بالفعل.
- يدرك فوراً: "انتظر لحظة. إذا وجد (أ) أسراراً، وكتبها (ب)، وأرسلها (ج)، فهذه سلسلة سرقة!"
- ورغم أن (ج) تبدو بريئة بمفردها، إلا أن "تشين-جارد" يحظرها بسبب ما يمكن أن تفعله مع الآخرين.
كانت النتائج مبهرة. عندما استخدم الباحثون "تشين-جارد"، انخفض معدل نجاح هجوم "كولو-سكيل" من 96.0% إلى 22.5%. والأهم من ذلك، أن "تشين-جارد" لم يحظر كل شيء؛ بل سمح لـ 99.5% من تدفقات العمل الجيدة وغير الضارة بالمرور. لقد تعلم التمييز بين فريق من الأصدقاء يبنون منزلاً وفريق من اللصوص يخططون لعملية سطو.
هل يعمل هذا حقاً في العالم الحقيقي؟
لم يتوقف الباحثون عند الماسح الأمني فحسب، بل اختبروا ما إذا كانت هذه السلاسل الماكرة يمكن أن تعمل فعلياً على أدوات برمجة الذكاء الاصطناعي الحقيقية مثل OpenCode و Claude Code و Codex. ووجدوا أن السلاسل تعمل بشكل مثالي. ففي OpenCode، نجحت سلاسل الهجوم في التفعيل بنسبة 89.5% (باستخدام GPT-5.5). وهذا يثبت أن التهديد ليس مجرد نظرية؛ فإذا استخدم شخص سيء النية هذه الطريقة، يمكنه تنفيذ هذه الهجمات على أجهزة كمبيوتر حقيقية.
الخلاصة
يخلص البحث إلى أننا نواجه نوعاً جديداً من المشكلات الأمنية. لا يمكننا فقط التحقق مما إذا كانت أداة واحدة آمنة، بل يجب أن نتحقق مما إذا كانت مجموعة من الأدوات آمنة عندما تعمل معاً. يوضح هجوم "كولو-سكيل" أن تقسيم خطة سيئة إلى قطع صغيرة بريئة هو وسيلة قوية جداً لتجاوز الدفاعات الحالية. ولكن الخبر الجيد هو أن "تشين-جارد" يمهد الطريق للمستقبل: إذا بدأنا في مراقبة كيفية اتصال الأدوات وتفاعلها، يمكننا الإيقاع بهذه السلاسل الماكرة قبل أن تسبب أي ضرر. ويشير الباحثون إلى أن مستقبل سلامة الذكاء الاصطناعي لا يقتصر فقط على ماسحات أفضل، بل يتعلق بحراس أكثر ذكاءً وإدراكاً للسياق، يفهمون القصة كاملة، وليس مجرد الفصول المنفردة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.