Auditing MCP Servers for Over-Privileged Tool Capabilities
تقدم هذه الورقة mcp-sec-audit، وهي مجموعة أدوات أمنية قابلة للتوسيع تجمع بين مطابقة الأنماط الساكنة والفحص الديناميكي داخل بيئة معزولة (sandboxed fuzzing) للكشف عن القدرات ذات الامتيازات المفرطة في خوادم بروتوكول سياق النموذج (MCP) والحد منها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك قمت للتو ببناء مساعد روبوت فائق الذكاء (ذكاء اصطناعي) يمكنه مساعدتك في أي شيء تقريبًا. ولجعله مفيدًا حقًا، أعطيته مجموعة من "المفاتيح" لمنزلك، ومكتبك، وحسابك البنكي. تُسمى هذه المفاتيح "خوادم MCP" (بروتوكول سياق النموذج - Model Context Protocol). وهي تتيح للذكاء الاصطناعي التحدث إلى ملفاتك، أو إرسال رسائل البريد الإلكتروني، أو حتى تشغيل البرامج على جهاز الكمبيوتر الخاص بك.
المشكلة هي أنك قد تكون أعطيت الروبوت بالخطأ "مفتاحًا رئيسيًا" يفتح كل شيء، بما في ذلك الخزنة التي تحفظ فيها أسرارك، رغم أنه كان يحتاج فقط لفتح الثلاجة.
تقدم هذه الورقة أداة جديدة تسمى mcp-sec-audit. فكر فيها كأنها مفتش أمني فائق الذكاء يفحص مفاتيح الروبوت الخاص بك قبل أن تسمح للروبوت بدخول منزلك.
إليك كيف تعمل الأداة، مقسمة إلى مفاهيم بسيطة:
1. عملية الفحص ذات الخطوتين
الأداة لا تكتفي بالنظر إلى شيء واحد فقط؛ بل تستخدم نظام "التحقق المزدوج"، مثل المحقق الذي يقرأ المخططات الهندسية ويراقب المشتبه به أثناء حركته.
الخطوة أ: مسح المخططات (التحليل الساكن - Static Analysis)
تخيل أنك تنظر إلى كتيب تعليمات الروبوت (الكود) دون تشغيله. تقوم الأداة بمسح النص بحثًا عن "كلمات خطيرة".- التشبيه: الأمر يشبه قيام معلم بمسح مقال طالب بحثًا عن كلمات محظورة مثل "قنبلة" أو "اختراق". إذا كان الكود يقول
open_safe()(افتح الخزنة) أوdelete_files()(احذف الملفات)، فإن الأداة ترفع راية حمراء فورًا. هذه العملية سريعة ولا تتطلب تشغيل الكود. - القصور: إذا كتب الطالب كلمة "قنبلة" بلغة مختلفة أو أخفاها داخل كود برمجي، فقد يفوته المعلم.
- التشبيه: الأمر يشبه قيام معلم بمسح مقال طالب بحثًا عن كلمات محظورة مثل "قنبلة" أو "اختراق". إذا كان الكود يقول
الخطوة ب: اختبار الصندوق الرملي (التحليل الديناميكي - Dynamic Analysis)
هذا هو الجزء المذهل. تضع الأداة الروبوت في قفص زجاجي (حاوية معزولة وآمنة تسمى Docker sandbox) وتتركه ينطلق بحرية.- التشبيه: تخيل ترك الروبوت يحاول فتح صندوق مغلق داخل غرفة عازلة للصوت ومضادة للرصاص. وبينما يحاول، تراقب الأداة بالضبط ما يحدث. هل كسر القفل بالفعل؟ هل يحاول الاتصال برقم هاتف؟
- "سحر eBPF": تستخدم الأداة كاميرا عالية التقنية (تسمى eBPF) يمكنها الرؤية داخل دماغ الكمبيوتر (النواة/Kernel) لمراقبة كل حركة يقوم بها الروبوت، حتى لو حاول الروبوت إخفاءها.
2. "تقرير الدرجات"
بمجرد انتهاء التفتيش، لا تكتفي الأداة بالقول "سيء!"، بل تعطيك تقرير درجات مفصل:
- درجة المخاطر: تعطي الروبوت درجة (مخاطر منخفضة، متوسطة، عالية، أو حرجة).
- قائمة "ماذا لو": تخبرك بالضبط بما يمكن للروبوت فعله. "هذا الروبوت يمكنه الكتابة في مجلد البنك الخاص بك"، أو "هذا الروبوت يمكنه تشغيل أي أمر على جهاز الكمبيوتر الخاص بك".
- دليل الإصلاح: الأهم من ذلك، هي تخبرك بكيفية الإصلاح. بدلًا من قول "لا تستخدم هذا"، تقول: "حسنًا، إذا كنت يجب أن تستخدم هذا الروبوت، فأعطه فقط مفتاحًا للثلاجة، وليس للخزنة. إليك الكود الدقيق لإغلاق باب الخزنة".
3. لماذا نحتاج إلى هذا؟
في الوقت الحالي، أصبح الذكاء الاصطناعي جيدًا جدًا في استخدام الأدوات. لكن المطورين غالبًا ما يرتكبون أخطاءً؛ فقد يعطون الذكاء الاصطناعي قوة مفرطة عن طريق الخطأ، مثل السماح لأمين مكتبة بحذف قاعدة بيانات المكتبة بأكملها.
- قبل هذه الأداة: قد لا تكتشف أن ذكاءك الاصطناعي خطير إلا بعد أن يقوم بحذف ملفاتك عن طريق الخطأ.
- مع هذه الأداة: أنت تكتشف الخطأ قبل أن تقوم بتشغيل الذكاء الاصطناعي حتى. إنها مثل مفتش سلامة يفحص الأفعوانية (قطار الموت) قبل أن يسمح لأي شخص بركوبها.
4. أمثلة من الواقع الواردة في الورقة
اختبر المؤلفون أداتهم بثلاث طرق:
- "الاختبار المزيف": قاموا ببناء روبوت خطير مزيف عن قصد. اكتشفت الأداة 100% من الأجزاء الخطيرة في كود Python.
- "اختبار العالم الحقيقي": فحصوا مجموعة بيانات تضم 45 خادمًا حقيقيًا للذكاء الاصطناعي. وجدوا مئات السلوكيات الخطرة، مثل الأدوات التي يمكنها اختطاف أدوات أخرى أو حقن تعليمات مزيفة.
- "اختبار اللغة": اختبروا روبوتات مبنية بلغات مختلفة (Python و JavaScript).
- "مسح المخططات" (الساكن) فاته الروبوتات المبرمجة بلغة JavaScript لأن الأداة كانت تعرف فقط كيفية قراءة تعليمات Python.
- "اختبار الصندوق الرملي" (الديناميكي) كشف عن كل شيء، بغض النظر عن اللغة، لأنه راقب ما فعلته الروبوتات بالفعل.
الخلاصة
mcp-sec-audit هي شبكة أمان لمستقبل الذكاء الاصطناوي. فهي تضمن أنه عندما نربط مساعدي الذكاء الاصطناعي الأذكياء بأدواتنا في العالم الحقيقي، فإننا لا نسلمهم مفاتيح المملكة عن طريق الخطأ. إنها تفحص الكود، وتراقب السلوك، وتخبرك بالضبط كيف تغلق الأبواب التي لا ينبغي أن تكون مفتوحة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.