← أحدث الأبحاث
💻 computer science

AgentPort-Bench: A Controlled Seven-Framework Evaluation of Agentic AI Security Portability

تقدم هذه الورقة تقييماً قائماً على سبعة أطر عمل مضبوطة يوضح أنه في حين أن نوع الهجوم واختيار النموذج يؤثران بشكل كبير على أمن وكلاء النماذج اللغوية الكبيرة (LLMs) المستخدمة للأدوات، فإن اختيار إطار عمل التنسيق لا يؤثر عموماً بشكل ملموس على الوضع الأمني، باستثناء حالة CrewAI التي تظهر ارتفاعاً طفيفاً ولكن ذا دلالة إحصائية في معدلات الفشل حتى بعد تصحيح عيب محدد في المهايئ.

المؤلفون الأصليون: Waqar Javed

نُشر 2026-09-22
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Waqar Javed

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل عالماً لا يكتفي فيه الذكاء الاصطناعي بالإجابة على الأسئلة، بل يتخذ إجراءات فعلية: كحجز الرحلات الجوية، أو إدارة الحسابات المصرفية، أو تنظيم جداول زمنية معقدة عبر استخدام الأدوات الرقمية نيابة عنا. هذه هي الأنظمة "الوكيلة" (agentic)، وهي تزداد شيوعاً بشكل متزايد. ولبناء هذه الأنظمة، يعتمد المهندسون على أطر عمل برمجية — وهي في الأساس مجموعات أدوات تعمل كوسيط بين عقل الذكاء الاصطناعي والعالم الخارجي. ويبرز سؤال جوهري لأي شخص يقوم ببناء أو تدقيق هذه الأنظمة: هل يهم اختيار هذا الوسيط من أجل الأمن؟ إذا حاول مخترق خداع الذكاء الاصطناعي بأمر خبيث، فهل يغير نوع مجموعة الأدوات المستخدمة لتوصيل هذا الأمر طريقة استجابة الذكاء الاصطناعي؟ أم أن سلامة الذكاء الاصطناعي تتحدد بالكامل تقريباً من خلال النموذج نفسه وطبيعة الهجوم، بغض النظر عن الغلاف البرمجي المحيط به؟ هذا السؤال يقع في قلب تحقيق جديد واسع النطاق سعى لحسم الجدل بالبيانات الصلبة بدلاً من النظرية.

لق sense البحث من خلال إجراء تجربة محكومة ضخمة شملت تسعة آلاف وثلاثمائة وستين تجربة منفصلة. حيث وضعوا سبعة أطر عمل مختلفة وشائعة للذكاء الاصطناعي في مواجهة اتصال مباشر بالذكاء الاصطناعي، مما خلق ثماني حالات متميزة لمعرفة ما إذا كان إطار العمل سيحدث فرقاً. ولضمان اختبار عادل، استخدموا ستة نماذج ذكاء اصطناعي مختلفة من ثلاثة مزودين رئيسيين، وأخضعوها لخمس عائلات مختلفة من الهجمات، تتراوح من الخداع البسيط إلى المحاولات المعقدة لاختطاف أهداف النظام. ومن الأهمية بمكان أن الفريق لم يفترض فقط أن الهجمات يتم تسليمها بنفس الطريقة؛ بل تحققوا من كل رسالة "بايت ببايت" للتأكد من أن المحتوى الخبيث الذي وصل إلى عقل الذكاء الاصطناعي كان متطابقاً في كل سيناريو. سمحت هذه الدقة العالية بعزل إطار العمل كالمتغير الوحيد الذي يتغير، مما أزال أي ارتباك ناتج عن كيفية قيام البرمجيات بإعادة كتابة الهجوم عن طريق الخطأ.

كانت النتائج واضحة بشكل صارخ: لم يكن لاختيار إطار العمل أي تأثير يذكر على وقوع الذكاء الاصطناعي في فخ الهجوم. ووجد الباحثون أن نوع الهجوم ونموذج الذكاء الاصطناعي المحدد المستخدم كانا العاملين المهيمنين، حيث فسرا الغالبية العظمى من الاختلافات في النتائج. وفي المقابل، فسر اختيار إطار العمل حصة من النتائج صغيرة جداً لدرجة أنها لا يمكن تمييزها إحصائياً عن الصفر. وللتأكد من ذلك، طبق الفريق اختبارات إحصائية صارمة مصممة لإثبات أن أي اختلافات لم تكن مجرد غير مرئية، بل غير موجودة عملياً. وقد أكدوا أنه في معظم الحالات، فإن استبدال إطار عمل بآخر لن يغير بشكل ملموس الموقف الأمني للنظام. وهذا يشير إلى أن الفرق الأمنية يجب أن تركز طاقتها على فهم النماذج والتهديدات المحددة التي تواجهها، بدلاً من القلق بشأن مجموعة الأدوات البرمجية التي تستخدمها.

ومع ذلك، كشفت الدراسة عن استثناء واحد محدد تطلب عناية دقيقة. فقد أظهر أحد أطر العمل، وهو "CrewAI"، ميلاً صغيراً ولكنه حقيقي إحصائياً ليكون أقل أماناً بقليل من الآخرين، حتى بعد أن قام الباحثون بإصلاح خطأ معروف حيث كانت تعليماته الداخلية مختلفة عن البقية عن طريق الخطأ. كان هذا الفرق المتبقي ضئيلاً من الناحية المطلقة ولا يزال يقع ضمن النطاق الذي يعتبر مهملًا من الناحية العملية، ولكنه كان إطار العمل الوحيد الذي برز عن المجموعة. كما اكتشف الباحثون نمط فشل منفصل ومثير للاهتمام، حيث يقوم نموذج ذكاء اصطناعي معين، عند مواجهته لمطالبة (prompt) معقدة، باستهلاك جميع موارده الحوسبية المتاحة في التفكير الداخلي بصمت دون إنتاج أي مخرجات على الإطلاق. حدث هذا باستمرار عبر أطر عمل مختلفة، مما أثبت أنه سمة من سمات النموذج نفسه، وليس البرمجيات التي تغلفه.

في الختن، يقدم هذا العمل إجابة عالية الثقة لسؤال هندسي عملي. فهو يوضح أن أمن الوكيل الذكي لا يتشكل بشكل ملموس بواسطة إطار عمل التنسيق (orchestration framework) بالنسبة لأنواع الهجمات والأدوات التي تم اختبارها. وتؤكد الدراسة أن برنامج "الوسيط" شفاف إلى حد كبير أمام المخاطر الأمنية، وأن سلوك الذكاء الاصطناعي نفسه وطبيعة الهجوم هما المحركان الحقيقيان للسلامة. وبينما أظهر إطار عمل واحد خللاً طفيفاً ومستمراً، فإن الصورة العامة هي صورة استقرار: اختيار إطار العمل ليس قراراً أمنياً أساسياً. بدلاً من ذلك، فإن العمل الحقيقي المتمثل في الحفاظ على سلامة هؤلاء الوكلاء يكمن في فهم النماذج التي يشغلونها والطرق المحددة التي يمكن التلاعب بها، وهو استنتاج يقدم مساراً واضحاً للمطورين والمراجعين على حد سواء.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →