AEGIS: Preventing Cross-Domain Resource Abuse in MCP
تقدم هذه الورقة AEGIS، وهو مكون لإنفاذ السياسات يستفيد من النماذج اللغوية الكبيرة لتحليل وتطبيع استدعاءات أدوات MCP المتنوعة، مما يمكّن المسؤولين من تحديد ضمانات دقيقة ضد إساءة استخدام الموارد عبر المجالات مع الحفاظ على مرونة النظام البيئي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً تعمل فيه وكلاء الذكاء الاصطناعي كمساعدين شخصيين، قادرين على التواصل مع برامج حاسوبية أخرى لجلب البيانات، أو تحليل الصور، أو إدارة مهام معقدة. ولجعل هذا ممكناً، ابتكر المهندسون لغة معيارية تسمى "بروتوكول سياق النموذج" (Model Context Protocol)، والتي تسمح لوكلاء الذكاء الاصطناعي بالتحدث مع الأدوات الخارجية بطريقة منظمة. فكر في الأمر كجهاز تحكم عن بعد عالمي للبرمجيات، يتيح للذكاء الاصطناعي أن يطلب من قاعدة بيانات قائمة بالملفات، أو من خدمة خرائط موقعاً معيناً. ومع ذلك، تماماً كما يمكن استخدام جهاز التحكم عن بعد لتغيير قناة أو إيقاف تشغيل التلفاز بالكامل عن طريق الخطأ، يمكن لوكلاء الذكاء الاصطناعي أحياناً تقديم طلبات كبيرة جداً أو متطلبة للغاية. فإذا طلب الوكيل فيديو طويل الأمد، أو قائمة نتائج هائلة، أو دقة صورة عالية جداً، فقد يؤدي ذلك إلى إرهاق الأنظمة الحاسوبية الكامنة وراء الكواليس، مما يتسبب في تباطؤها أو توقفها عن العمل تماماً. هذه ليست مشكلة تتعلق بكون الذكاء الاصطناعي خبيثاً، بل هي نتيجة لقدرته على طلب أي شيء، مقترنة بحقيقة أن العديد من هذه الأدوات تفتقر إلى حدود صارمة لما تقبله.
لقد طور باحثون في "آي بي إم ريسيرش" (IBM Research) نظاماً جديداً يسمى "إيجيس" (AEGIS) لحل هذه المشكلة المحددة المتعلقة باستنزاف الموارد. كان التحدي الجوهري الذي واجهوه هو أن كل أداة قد يستخدمها الذكاء الاصطناعي تختلف عن الأخرى. فقد تطلب إحدى الأدوات "نصف قطر" لتحديد منطقة بحث، بينما تطلب أخرى "مسافة"، وأخرى تستخدم "أميالاً" أو "كيلومترات". علاوة على ذلك، تتعامل الأدوات مع أنواع مختلفة من البيانات، مثل النصوص أو الفيديو أو المواقع، وكل نوع من البيانات يستهلك طاقة حاسوبية بطريقة فريدة. فطلب ألف رسالة نصية أمر سهل بالنسبة للحاسوب، لكن طلب ألف فيديو عالي الدقة قد يؤدي إلى انهيار النظام. ونظراً لأن لغة وهيكلية هذه الطلبات تختلف بشكل هائل، فقد كان من المستحيل تقريباً على فرق الأمن كتابة مجموعة واحدة من القواعد تعمل مع جميع هذه الأدوات. إن كتابة هذه القواعد يدوياً لمئات الأدوات المختلفة عملية بطيئة، وعرضة للخطأ، وصعبة التوسع.
وللتغلب على ذلك، بنى الفريق "إيجيس"، وهو نظام يستخدم قدرة الاستنتاج لنماذج اللغات الكبيرة ليعمل كمترجم وحارس بوابة. فبدلاً من محاولة حفظ كل أداة ممكنة، يقوم النظام بتحليل وصف كل أداة قد يستخدمها الذكاء الاصطناعي، ويستنتج تلقائياً نوع البيانات التي تتعامل معها ونوع الإجراء الذي تقوم به. ثم يأخذ الأسماء المربكة والمتنوعة للمعلمات (parameters) — مثل "الحد" (limit)، أو "العدد" (count)، أو "النتائج القصوى" (max_results) — ويترجمها إلى مفردات موحدة ومعيارية. فعلى سبيل المثال، يدرك النظام أن طلب "خمسين ميلاً" في أداة تحديد مواقع وطلب "مائة نتيجة" في أداة نصوص، كلاهما يمثل طلباً لحجم معين من البيانات قد يكون خطيراً إذا تُرك دون رقابة. ومن خلال تحويل هذه الطلبات المتنوعة إلى لغة مشتركة، يمكن للنظام تطبيق مجموعة متسقة من قواعد السلامة عبر المنظومة بأكملها.
بمجرد أن يفهم النظام الأدوات، فإنه لا يكتفي بالتخمين حول مكان وضع الحدود، بل يقوم بقياسها. فقد أجرى الباحثون سلسلة من الاختبارات حيث قاموا بزيادة حجم الطلبات المرسلة إلى الخادم تدريجياً، مع مراقبة دقيقة لمعرفة متى يبدأ النظام في المعاناة أو ارتكاب الأخطاء. وقد وجدوا النقطة الدقيقة التي يمكن للحاسوب عندها تحمل الحمل دون فشل، وجعلوا تلك النقطة هي حدود السلامة. هذه العملية، المعروفة باسم "الاختبار القياسي" (benchmarking)، تسمح للنظام بإنشاء حد سلامة مخصص لكل أداة يواجهها، مما يضمن قدرة الذكاء الاصطناعي على أداء مهمته دون كسر الحاسوب الذي يتحدث إليه عن طريق الخطأ.
اختبر الفريق هذا النهج على مجموعة من ما يقرب من ألف أداة مستمدة من مجموعة واسعة من الخدمات الواقعية، بما في ذلك الحوسبة السحابية، وقواعد البيانات، ومحركات البحث. وقد أثبت النظام دقة ملحوظة في تحديد ما تفعله كل أداة وتصنيف البيانات التي تتعامل معها، حيث صنف نوع البيانات وطبيعة العملية بشكل صحيح في أكثر من ثمانية وتسعين بالمائة من الحالات. كما نجح أيضاً في تحديد الأدوات التي من المرجح أن تسبب مشاكل في الموارد ومعالجة معالمها بدقة عالية. وعندما قام الباحثون بمحاكاة سيناريو حاول فيه وكيل ذكاء اصطناعي إغراق خادم عبر طلب عدد مفرط من الصور، قام النظام المزود بـ "إيجيس" بحظر الطلب الضار وأبقى الخادم يعمل بسلاسة، بينما انهار الخادم غير المحمي تحت وطأة الحمل.
يُظهر هذا العمل أنه من الممكن تأمين هذه الأنظمة المعقدة والمترابطة دون التضحية بمرونتها. فمن خلال استخدام التحليل الذكي لفهم القصد وراء الطلب، ومن خلال قياس القدرة الفعلية للأنظمة، يوفر "إيجيس" وسيلة للحماية من إساءة استخدام الموارد تتكيف مع تنوع الأدوات المستخدمة. ويشير الباحثون إلى أنه على الرغم من فعالية النظام العالية، فإن مهمة ترجمة كل اسم معلمة بشكل مثالي تظل تحدياً، وسيركز العمل المستقبلي على توسيع هذه الحماية لتشمل سيناريوهات أكثر تعقيداً حيث تُستخدم أدوات متعددة بالتتابع. وفي الوقت الحالي، يوفر النظام طريقة عملية لضمان أن وكلاء الذكاء الاصطناعي، مع زيادة قدراتهم وانتشارهم، لن يتسببوا دون قصد في تعطيل الأنظمة التي يعتمدون عليها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.