SkillGate: Cost Efficient Runtime Malicious Skill File Detection in Coding Agents
تُعد SkillGate بوابة أمنية فعالة من حيث التكلفة تحمي وكلاء البرمجة القائمين على الذكاء الاصطناعي من هجمات سلاسل التوريد لملفات المهارات الخبيثة، وذلك عبر توظيف خط معالجة هجين يجمع بين التصفية الأولية بالتعبيرات النمطية (regex) وحكم النماذج اللغوية الكبيرة (LLM-judge) لتحقيق دقة كشف عالية مع تقليل تكاليف الفحص والأعباء التشغيلية أثناء وقت التنفيذ بشكل كبير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن حاسوبك هو مساعد روبوت ذكي للغاية ومبدع للغاية يساعدك في بناء الأشياء، مثل خبير "ليغو" رقمي. مؤخرًا، بدأ الناس في إعطاء هذا الروبوت "دليل تعليمات" خاصًا يسمى ملف المهارة (skill file). فكر في هذه الملفات كأنها رموز غش أو وصفات مخصصة تخبر الروبوت بالضبط كيفية التحدث مع مشاريعك الخاصة، وأي الأزرار يضغط، وكيف يتبع قواعد شركتك. يمكنك تحميل هذه الأدلة من المكتبات العامة بنقرة واحدة، تمامًا مثل تحميل تطبيق جديد.
ولكن هنا تكمن المشكلة: نظرًا لأن هذه الأدلة مكتوبة بلغة بسيطة (مثل قصة أو قائمة تعليمات) بدلاً من لغة برمجة معقدة، فإن حراس الأمن المعتادين الذين يفحصون الفيروسات لا يعرفون كيفية قراءتها. الأمر يشبه وجود حارس عند ملهى ليلي لا يفحص سوى الأسلحة المعدنية، لكنه يسمح لشخص بالدخول وهو يحمل سكينًا مخفيًا مصنوعًا من الورق. إذا قام شخص سيء بإدخال تعليمات خبيثة في أحد هذه الأدلة، فقد يتبعها مساعدك الروبوت دون علم، مما يؤدي إلى سرقة كلمات المرور السرية الخاصة بك أو زرع باب خلفي في عملك. هذه ليست حبكة فيلم رعب؛ إنها مشكلة حقيقية تحدث الآن في عالم برمجة الذكاء الاصطناعي.
هنا يأتي دور الباحثين بأداة جديدة تسمى SkillGate. لقد أدركوا أن الطرق القديمة لفحص هذه الملفات كانت إما خرقاء للغاية (تحظر الكثير من الملفات الجيدة عن طريق الخطأ) أو مكلفة للغاية (تستغرق وقتًا طويلاً وتكلف الكثير من المال لفحص كل كلمة). لذا، قاموا ببناء نقطة تفتيش أمنية ذكية مكونة من خطوتين.
أولاً، يستخدمون "ماسحًا للأنماط" فائق السرعة (مثل كاشف المعادن) يبحث عن عبارات مشبوهة محددة، مثل الأوامر لسرقة كلمات المرور أو إخفاء رسائل سرية. إذا بدا الملف نظيفًا تمامًا، فإن الماسح يعطيه "إشارة موافقة" سريعة ويسمح له بالمرور فورًا دون إزعاج بشري أو عقل كمبيوتر بطيء. هذه هي خطوة "التخطي" (skip).
ومع ذلك، إذا رصد الماسح شيئًا غريبًا، فإنه لا يرسل الملف الضخم بأكمله إلى المستوى التالي. بدلاً من ذلك، يعمل كأداة تحديد (highlighter)، حيث يقتطع فقط الفقرة الصغيرة المشبوهة ويرسل ذلك الجزء الصغير فقط إلى قاضٍ ذكي يعمل بالذكاء الاصطناعي (LLM). يقرر هذا القاضي ما إذا كان ذلك الجزء المحدد خطيرًا حقًا أم أنه مجرد إنذار كاذب. هذا النهج القائم على "القصاصات" يوفر الكثير من الوقت والمال لأن الذكاء الاصطناعي لا يحتاج إلى قراءة الكتاب بأكل ليعثر على الصفحة السيئة.
عندما اختبروا هذا النظام ضد مكتبة تضم 1,650 ملف مهارة (حيث كان حوالي 9% منها خبيثًا معروفًا)، حقق SkillGate أداءً مثيرًا للإعجاب. فقد كشف عن حوالي 77% من الملفات السيئة بينما منع خطأً 1% فقط من الملفات الجيدة. بالمقارنة، كانت الأدوات الأخرى التي اختبروها إما عدوانية للغاية (تحظر نصف الملفات الجيدة) أو بطيئة ومكلفة. تمكن SkillGate من القيام بذلك باستخدام عدد أقل من "الرموز" (tokens) -وهي عملة قراءة الذكاء الاصطناعي- بنسبة 77% عما لو تم فحص كل ملف من البداية إلى النهاية. كما عمل بسرعة مذهلة، حيث استغرق أقل من ثانية في المتوسط لفحص الملف، وهو ما يكفي ليحدث الأمر فورًا أثناء قيام المطور بتثبيت أداة جديدة.
يؤكد الباحثون بحذر أنه على الرغم من أن نظامهم يمثل تحسنًا كبيرًا، إلا أنه ليس سحرًا. فهو يعتمد على مجموعة محددة من القواعد ونموذج ذكاء اصطناعي محدد، ولا تزال هناك بعض الطرق الماكرة التي قد يحاول بها الأشخاص السيئون إخفاء حيلهم والتي لم يكتشفها النظام في هذا الاختبار. ولكن في الوقت الحالي، يوفر SkillGate طريقة عملية وبأسعار معقولة وسريعة للحفاظ على مساعدينا من الذكاء الاصطناعي من اتباع تعليمات خطيرة عن غير قصد، حيث يعمل كحارس بوابة موثوق قبل أن يرى الروبوت الدليل الجديد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.