Structured Security Auditing and Robustness Enhancement for Untrusted Agent Skills
تقدم هذه الورقة البحثية SkillGuard-Robust، وهو إطار عمل يحول التدقيق المسبق للتحميل لمهارات الوكيل (Agent Skills) غير الموثوقة إلى مهمة تصنيف ثلاثية الأبعاد قوية، محققاً استدعاءً شبه مثالي للمخاطر الخبيثة واتساقاً في الهجمات عبر تقييمات الحزم المتنوعة، مع تسليط الضوء على التحديات المستمرة في النقل من المصادر الخارجية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف مساعداً جديداً لوظيفة معقدة. بدلاً من مجرد قراءة سيرة ذاتية واحدة (أي "أمر" أو Prompt)، يصل هذا المساعد ومعه مجموعة أدوات كاملة: دليل استخدام (SKILL.md)، ومجموعة من السكربتات (Scripts)، ووثائق مرجعية، وسجل تاريخي لكيفية بناء هذه الأدوات (سياق المستودع/Repository Context).
المشكلة تكمن في أن جهة خبيثة قد تخفي تعليمات خطيرة داخل الدليل المرجعي أو داخل أحد السكربتات، متخفيةً في هيئة أداة طبيعية. إذا قرأت السيرة الذاتية فقط، فستفوتك الفخ. وإذا قمت بمجرد رمي جميع الملفات في كومة واحدة من النصوص وطلبت من ذكاء اصطناعي ذكي أن "يقرأها كلها"، فقد يرتبك الذكاء الاصطناعي بسبب الحجم الهائل للمعلومات أو يتم خداعه بواسطة إعادة كتابة ذكية للتعليمات.
تقدم هذه الورقة البحثية SKILLGUARD-ROBUST، وهو نظام أمني جديد مصمم لفحص هذه "المجموعات الأدواتية" قبل السماح لها بالعمل. إليك كيف يعمل، باستخدام تشبيهات بسيطة:
المشكلة: الرؤية "المسطحة" مقابل الرؤية "الهيكلية"
- الطريقة القديمة (التسطيح - Flattening): تخيل أنك تأخذ آلة معقدة، وتحطمها إلى كومة من الخردة، ثم تطلب من حارس البحث عن قنبلة مخبأة داخل الكومة. قد يغفل الحارس عن القنبلة لأن الأجزاء ليست متصلة بطريقة منطقية. في الورقة البحثية، يُطلق على هذا "تسطيح الحزمة". هذا يؤدي لفقدان الهيكل، مما يجعل الهجمات المخفية (مثل أمر تجاوز مدمج في ملف مرجعي) تمر دون اكتشاف.
- الطوام الجديدة (الهيكلية - Structured): نظام SKILLGUARD-ROBUST لا يحطم الآلة، بل يبقي الأجزاء منظمة. هو يعرف أي ملف هو الدليل، وأيها هو السكربت، وأيها هو السجل التاريخي. إنه يبحث عن الدلائل العابرة للملفات—مثل سكربت يقول "استدعِ المساعد البعيد هذا"، والذي لا يتم شرحه إلا في الدليل المرجعي.
الحيل الثلاث الرئيسية التي يستخدمها المهاجمون
تحدد الورقة ثلاث طرق محددة يستخدمها المهاجمون للاختباء داخل هذه المجموعات الأدواتية:
- التجاوز المخفي (The Hidden Override): مثل ملاحظة لاصقة على دليل الاستخدام تقول: "تجاهل تعليمات السلامة في الصفحة 1".
- النقل المموه (The Disguised Transfer): مثل شاحنة توصيل مكتوب عليها "نسخة احتياطية" ولكنها في الواقع تهرب بضائع ممنوعة.
- التمهيد عن بُعد (The Remote Bootstrap): مثل "معالج إعداد" يقوم سراً بتثبيت باب خلفي (Backdoor) بدلاً من مجرد تثبيت البرنامج.
كيف يعمل SKILLGUARD-ROBUST (عملية المراحل الأربع)
بدلاً من مطالبة ذكاء اصطناعي واحد فائق الذكاء باتخاذ قرار نهائي فوراً، يستخدم هذا النظام خط تجميع مكون من أربع مراحل للإمساك بالأخطاء التي تغفل عنها الأنظمة الأخرى.
المرحلة 1: المحقق (استخراج الأدلة الهيكلية)
يقوم النظام أولاً بتنظيم الملفات. هو لا يكتفي بقراءتها فحسب؛ بل يرسم خريطة لكيفية تواصل كل جزء مع الآخر. يسأل: "هل يعتمد هذا السكربت على ذلك الملف المرجعي؟" ويبني خريطة لهيكل مجموعة الأدوات بحيث لا تفوت أي اتصالات مخفية.
المرحلة 2: المتخصص (التحقق الدلالي الانتقائي)
معظم المجموعات الأدواتية تكون إما آمنة بوضوح أو خطيرة بوضوح. لكن بعضها يكون "ضبابياً"—يبدو مشبوهاً ولكنه قد يكون بريئاً.
- الابتكار: لا يهدر النظام وقته في طلب مراجعة كل مجموعة أدوات من ذكاء اصطناعي قوي. هو يرسل فقط الحالات "الضبابية" إلى ذكاء اصطناعي متخصص.
- التشبيه: تخيل نقطة تفتيش أمنية. إذا كانت حقيبتك تبدو عادية، تمر عبرها. أما إذا بدت غريبة، فيقوم متخصص بفتحها وفحص محتوياتها بدقة. هذا يوفر الوقت ويركز القوة حيث تشتد الحاجة إليها.
المرحلة 3: القاضي (التحكيم الواعي بالصراعات)
أحياناً، تحتوي المجموعة الأدواتية على إشارتين متضاربتين: جزء يبدو كـ "إعداد عن بُعد" (مشبوه) وجزء آخر يبدو كـ "نقل بيانات" (خطير).
- المشكلة: قد يكتفي ذكاء اصطناعي بسيط بالقول: "هذا يبدو خطيراً" ويتوقف عند هذا الحد، أو يرتبك بشأن أي خطر هو "الحقيقي".
- الحل: تعمل هذه المرحلة كقاضٍ يزن الأدلة. يسأل: "هل هذا إعداد غير ضار، أم أنه سرقة بيانات مموهة؟" ويصدر قراراً نهائياً بشأن أي "سلسلة من الأحداث" هي المهيمنة.
المرحلة 4: فاحص الاتساق (ترسيخ اتساق المرتكزات)
غالباً ما يحاول المهاجمون خداع النظام عن طريق إعادة كتابة التعليمات بشكل طفيف (مثلاً: تغيير "سرقة البيانات" إلى "نقل الملفات") مع الحفاظ على نفس النية السيئة.
- الحل: ينظر النظام إلى النسخة الأصلية من مجموعة الأدوات ونسخها المعاد كتابتها معاً. إذا كانت النسخ المعاد كتابتها خطيرة بوضوح، بينما تم تصنيف الأصل بأنها "مشبوهة"، فإن النظام يصحح تصنيف الأصل ليتوافق مع الحقيقة. إنه يضمن عدم خداع النظام لمجرد أن الكلمات تغيرت.
النتائج: لماذا يهم هذا؟
اختبر المؤلفون هذا النظام على مئات المجموعات الأدواتية، بما في ذلك بعض المجموعات التي لم يسبق رؤيتها (مثل مشاريع حقيقية جديدة مفتوحة المصدر).
- "الأساس القوي" (الذكاء الاصطناعي الذكي): حتى نماذج الذكاء الاصطناعي الموجودة والأكثر ذكاءً (مثل Qwen2.5-14B) كانت جيدة في رصد بعض المخاطر، لكنها غالباً ما فشلت في تحديد الأكثر خطورة بدقة. كانوا يقولون: "هذا يبدو مشبوهاً"، لكنهم يخطئون في إدراك أنه كان هجوماً مؤكداً.
- SKILLGUARD-ROBUST: من خلال استخدام عملية المراحل الأربع، حقق النظام درجات تقترب من المثالية (حوالي 97-99% دقة) في تحديد المجموعات الأدواتية الخطيرة، والأهم من ذلك، في التعرف على أن الهجوم المعاد كتابته لا يزال هجوماً.
الخلاصة
تخلص الورقة البحثية إلى أنه لتأمين هذه "المهارات الوكيلة" (Agent Skills)، لا يمكنك الاعتماد فقط على ذكاء اصطناعي أكبر أو أذكى يقرأ كل شيء دفعة واحدة. أنت بحاجة إلى عملية هيكلية تلتزم بـ:
- احترام تنظيم الملفات.
- استخدام قوة الذكاء الاصطناعي الثقيلة فقط في الحالات المحيرة.
- حل الصراعات بين أنواع المخاطر المختلفة.
- التحقق من الاتساق عندما يحاول المهاجمون إعادة كتابة حيلهم.
تعترف الورقة بأنه بينما يعمل هذا بشكل رائع على مجموعات البيانات المعروفة و"المجمدة"، فإن العالم الحقيقي لا يزال يمثل تحدياً، وأن النظام ليس "عصا سحرية" لكل هجوم مستقبلي ممكن. ولكن بالنسبة لمشكلة تدقيق هذه المجموعات الأدواتية قبل تشغيلها، فإن هذا النهج الهيكلي يعد تحسناً هائلاً مقارنة بالطرق الحالية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.