TRUSS: Towards Task-Reliable and User-Safe Automated Agent Skill Generation
إن TRUSS هو إطار عمل قائم على الأدلة يعمل على توليد مهارات لوكلاء آليين موثوقة في تنفيذ المهام وآمنة للمستخدم من خلال الجمع بين عمليات فحص السلامة الساكنة وآثار التنفيذ الديناميكية في بيئة محكومة لتنقيح المهارات بشكل تكراري من أجل الفعالية الوظيفية والأمن على حد سواء.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي سريع التطور، تنتقل الوكلاء البرمجية من مجرد التخطيط البسيط إلى تنفيذ المهام مباشرة في العالم الحقيقي. وللتعامل مع الوظائف المعقدة أو المتخصصة، يمنح المطورون هذه الوكلاء "مهارات" — وهي تعليمات مغلفة تجمع بين خطوات قابلة لإعادة الاستخدام، ومعرفة محددة، والوصول إلى أدوات رقمية. تتيح هذه المهارات للوكيل تعلم قدرة جديدة دون الحاجة إلى إعادة تدريبه من الصفر. ومع ذلك، كان إنشاء هذه المهارات عملية يدوية تقليديًا، تتطلب خبرة عميقة لضمان أن تكون التعليمات مفيدة وآمنة في آن واحد. ومع نمو الطلب على الوكلاء المؤتمتين، يتجه الباحثون إلى الذكاء الاصطناعي لكتابة هذه المهارات تلقائيًا. ويتمثل التحدي المركزي في تحقيق توازن دقيق: يجب أن تكون المهارة فعالة بما يكفي لإنجاز المهمة، ولكن يجب أن تكون أيضًا آمنة بما يكفي لمنع الوكيل من حذف الملفات عن طريق الخطأ، أو سرقة البيانات، أو تنفيذ أوامر خطيرة. فإذا كُتبت المهارة بشكل سيئ، فقد تحول المساعد المفيد إلى خطر أمني، مما يعرض جهاز الكمبيوتر الخاص بالمستخدم للضرر.
لقد طور فريق من الباحثين إطار عمل جديدًا يسمى TRUSS لحل هذه المشكلة. فبدلاً من مجرد التحقق من التعليمات المكتوبة لمهارة تم إنشاؤها لمعرفة ما إذا كانت تبدو صحيحة، يقوم TRUSS بإخضاع المهارة لتجربة تشغيل صارمة قبل استخدامها فعليًا. يعمل النظام مثل خط مراقبة جودة صارم يجمع بين مراجعة دقيقة للمستندات واختبار قيادة تجريبي تحت الإشراف. أولاً، يقرأ النظام تعليمات المهارة ويتحقق منها مقابل الحقائق المعروفة وقواعد السلامة. وإذا اجتازت التعليمات هذا الفحص الساكن الأولي، فلا يتم إصدار المهارة فورًا؛ بل يتم تحميلها في بيئة معزولة وآمنة حيث يحاول "وكيل ظل" استخدامها. يحاول وكيل الظل هذا أداء المهمة بينما تراقب مجموعة من أدوات المراقبة الآلية كل إجراء يحاول الوكيل القيام به. تقوم هذه الأدوات بتسجيل ما يحدث بالضبط، مما ينشئ سجلًا مفصلاً لسلوك المهارة، بما في ذلك أي محاولات للوصول إلى مناطق محظورة أو تنفيذ أوامر محفوفة بالمخاطر.
تكمن قوة هذا النهج في قدرته على كشف الأخطاء التي لا تظهر على الورق. فقد تبدو مهارة ما غير ضارة في وصفها النصي، ولكنها قد تؤدي إلى سلسلة من الأحداث التي تؤدي إلى خرق أمني عند تنفيذها فعليًا. يستخدم TRUSS الأدلة التي تم جمعها من هذه الاختبارات الحية لتحديد الإخفاقات. فإذا حاولت المهارة القيام بشيء غير آمن أو فشلت في إكمال المهمة، يقوم النظام بربط ذلك الفشل المحدد بالجزء من المهارة الذي تسبب فيه. ثم يتم تغذية هذه المعلومات مرة أخرى إلى المولد، الذي يعيد كتابة المهارة لإصلاح المشكلة. وتستمر دورة الاختبار، والتحديد، والتحسين هذه حتى يثبت أن المهارة فعالة وظيفيًا وآمنة تمامًا. وقد اختبر الباحثون هذه الطريقة في مئات السيناريوهات المختلفة، بما في ذلك الحالات التي صُممت فيها المهارات عمدًا لاحتواء هجمات خفية.
كانت نتائج هذه الدراسة مذهلة. فعندما طلب الباحثون من TRUSS تحديد المهارات الضعيفة، حقق دقة مثالية، حيث كشف عن كل حالة خبيثة دون أي إنذارات كاذبة ضمن الـ 168 من قطع (SkillInject) التي استُخدمت في التقييم. وفي المقابل، فإن الأنظمة التي تكتفي فقط بالنظر في نص التعليمات قد أغفلت غالبية هذه التهديدات. وعندما طُلب من النظام إصلاح مهارات كانت خطيرة بالفعل، نجح في تقليل معدل الهجمات الناجحة بنسبة تقارب النصف، مع ضمان استمرار المهارات في إكمال مهامها المقصودة. وفي اختبار أوسع شمل الإنشاء التلقائي لمهارات جديدة لـ 187 مهمة مختلفة، رفع الإطار معدل نجاح الوكلاء من خط أساس منخفض إلى أكثر من نصف جميع المحاولات، مع رفع معدل اجتياز السلامة إلى 100 بالمائة في التقييم المرجعي. وهذا يعني أنه لأول مرة، استطاع النظام توليد مهارات ليست فقط أفضل في أداء العمل، بل تلبي أيضًا معايير السلامة في السيناريوهات المختبرة.
وجد الباحثون أن الاعتماد فقط على التحليل الساكن، وهو ممارسة فحص الكود أو النص دون تشغيله، كان غير كافٍ. فالعديد من السلوكيات الخطيرة لا تظهر إلا عندما يتفاعل الوكيل مع بيئة حقيقية، وهو فارق دقيق غالبًا ما تغفله عمليات الفحص القائمة على النصوص. ومن خلال الإصرار على الحصول على أدلة من التنفيذ الفعلي، تمكن TRUSS من توجيه إنشاء مهارات موثوقة في الممارسة العملية، وليس فقط في النظرية. وتوضح الدراسة أن إنشاء المهارات المؤتمت يمكن أن يكون آمنًا وفعالًا، بشرما يتم التحقق من سلوك المهارة في إعداد مضبوط قبل السماح لها بلمس بيانات المستخدم. ويشير هذا العمل إلى مسار مستقبلي حيث يمكن للذكاء الاصطناعي توسيع قدراته بأمان، مما يمنح الوكلاء أدوات جديدة لحل المشكلات دون المساس بأمن الأنظمة التي يعملون عليها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.