← أحدث الأبحاث
💻 computer science

SkillJack: Persistent Skill Backdoors in Self-Evolving Agents

تقدم هذه الورقة SkillJack، وهو هجوم مبتكر يستغل مسار "الخبرة إلى المهارة" للوكلاء ذاتيي التطور لتحويل التفاعلات المسمومة إلى سلوكيات خبيثة مستمرة وغير قابلة للكشف، تنجو من إزالة السجلات المصدرية وتتجنب فلاتر السلامة.

المؤلفون الأصليون: Zonghao Ying, Xiangfan Wu, Huiyu Wu, Xing Zheng, Huangsheng Cheng, Xiaorong Shi, Jing Guo

نُشر 2026-08-05
📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Zonghao Ying, Xiangfan Wu, Huiyu Wu, Xing Zheng, Huangsheng Cheng, Xiaorong Shi, Jing Guo

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل عالماً لا تكون فيه مساعداتك الرقمية مجرد أدوات ثابتة تفعل بالضبط ما تمليه عليها، بل رفاقاً فضوليين يتعلمون حقاً من كل محادثة. هذا هو الأفق المثير لـ "الوكلاء ذاتيي التطور". فكر فيهم مثل شخصية في لعبة فيديو لا تكتفي بإعادة الضبط بعد كل مستوى؛ بل تحتفظ بمذكرات، وتكتشف ما نجح، وتحول تلك الدروس إلى "مهارات" دائمة يمكنها استخدامها للأبد. إذا علمته كيفية خبز كعكة، فهو لا يتذكر الوصفة ليوم اليوم فحسب؛ بل يكتب مهارة جديدة تسمى "الخبز" في عقله لاستخدامها غداً. يبدو هذا مذهلاً لأنه يعني أن هؤلاء الوكلاء يمكنهم أن يصبحوا أكثر ذكاءً دون الحاجة إلى إنسان يقوم بإعادة برمجتهم باستمرار. ولكن، تماماً كما في الحياة الواقعية، إذا خدع شخص سيء طالباً ليتعلم خدعة خطيرة، فإن تلك الخدعة تصبح جزءاً من مهاراته الدائمة. السؤال الكبير الذي يطرحه الباحثون هو: ماذا يحدث إذا تسلل شخص ما بدرس سام إلى مذكرات الوكيل؟ هل ينساه الوكيل لاحقاً، أم أنه يحول ذلك السم بالخطأ إلى سلاح قوي ودائم؟

هذا هو بالضبط ما سعى فريق من الباحثين من مختبر "Tencent Zhuque"، بقيادة "Zonghao Ying"، للتحقيق فيه في ورقتهم البحثية "SkillJack". لقد اكتشفوا طريقة جديدة وماكرة لاختراق هؤلاء الوكلاء المتعلمين، وهي أكثر خطورة بكثير من الطرق السابقة. فبدلاً من مجرد إخفاء رسالة سيئة في ذاكرة الوكيل ليتم قراءتها مرة واحدة، أظهروا كيف يمكن للمهاجم خداع عملية التعلم الخاصة بالوكيل نفسه. تخيل مزوراً لا يكتفي بكتابة رسالة مزيفة، بل يقنع الوكيل بإعادة كتابة تلك الرسالة المزيفة في شكل "بطاقة مهارة" لامعة وتبدو رسمية، يتم أرشفتها في مكتبته الدائمة. وبمجرد صنع تلك البطاقة، يستخدمها الوكيل تلقائياً للمهام المستقبلية، ويمكن حذف الرسالة المزيفة الأصلية دون إزالة المهارة الخطيرة أبداً.

يطلق الباحثون على هذا الهجوم اسم "SkillJack". لقد اختبروه على نظامين مختلفين مصممين لتحويل التجارب إلى مهارات، وكانت النتائج مذهلة. وجدوا أن عملية تحويل محادثة فوضوية ومشبوهة إلى مهارة نظيفة وقابلة لإعادة الاستخدام تعمل في الواقع مثل آلة "تبييض". في اختباراتهم، رصد فاحص السلامة 98.5% من المحادثات السيئة الأصلية كأفعال خطيرة. ولكن بعد أن حول الوكيل تلك المحادثات إلى مهارات، لم يكتشف فاحص السلامة سوى 11.4% منها. لقد تم إخفاء النية السيئة داخل وصف المهارة الجديدة، مما جعلها تبدو بريئة.

والأسوأ من ذلك، أن هذه "المهارات المسمومة" متينة للغاية. وجد الباحثون أنه حتى بعد حذف السجلات السيئة الأصلية من ذاكرة الوكيل، لا تزال 80.0% من الهجمات تحدث لأن بطاقة المهارة الدائمة كانت لا تزال موجودة. استمر الوكيل في استخدام المهارة السيئة في مهام جديدة، محققاً معدل نجاح قدره 56.2% في أحد الأنظمة و89.2% في الآخر. تشير الدراسة إلى أن هذا ليس مجرد خلل في برنامج محدد؛ بل هو خطر جوهري في كيفية عمل هؤلاء الوكلاء ذاتيي التعلم. وتخلص الورقة البحثية إلى أننا لم نعد نستطيع مجرد تنظيف "الشيفرة المصدرية" لفكرة سيئة؛ بل يجب علينا تتبع كل مهارة تم تعلمها منها، وإلا سيظل الخطر مخفياً في وضح النهار، جاهزاً للاستخدام مراراً وتكراراً.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →