ADR: An Agentic Detection System for Enterprise Agentic AI Security
تقدم هذه الورقة إطار عمل ADR، وهو إطار عمل مؤسسي مثبت في بيئات الإنتاج لتأمين وكلاء بروتوكول سياق النموذج (MCP)، والذي يجمع بين القياس عن بُعد عالي الدقة، واختبار الاختراق المنهجي، ونظام كشف ذو مستويين قابل للتوسع للتغلب على تحديات القابلية للملاحظة، والمتانة، والتكلفة، محققاً أداءً فائقاً في عمليات النشر الواقعية وتقييمات المعايير المرجعية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل مكتباً ضخماً وعالي التقنية حيث يعمل آلاف الموظفين باستخدام نوع جديد من "المساعدين الخارقين" (الوكلاء الذكيين - AI Agents) لأداء وظائفهم. يمكن لهؤلاء المساعدين قراءة الملفات، وكتابة الأكواد، والتحدث مع أدوات برمجية أخرى لإنجاز المهام. وهم يستخدمون لغة قياسية للتحدث مع هذه الأدوات تسمى MCP (بروتوكول سياق النموذج).
المشكلة هي أن هؤلاء المساعدين أذكياء ومستقلون للغاية لدرجة أنه يمكن خداعهم. يمكن لمخترق أن يهمس بتعليمات سرية للمساعد، مما يقنعه بسرقة كلمات المرور أو حذف ملفات مهمة، وكل ذلك بينما يعتقد المساعد أنه يقوم بعمله فحسب.
أدوات الأمن التقليدية (مثل تلك التي تراقب تغيير الملفات) يمكنها رؤية أن ملفاً ما قد تغير، لكنها لا تستطيع سماع لماذا قام المساعد بتغييره. إنها تفقد "عملية التفكير" وراء هذا الإجراء.
تقدم هذه الورقة البحثية ADR (الكشف والاستجابة للوكلاء - Agentic Detection and Response)، وهو نظام أمني جديد مصمم خصيصاً لمراقبة هؤلاء المساعدين الذكيين. وإليك كيف يعمل، مشروحاً ببساة:
١. المشكلة: "النقطة العمياء"
فكر في أدوات الأمن القديمة ككاميرا تراقب أرضية مصنع. يمكنها رؤية عامل يحمل صندوقاً ويخرج من الباب، لكنها لا تستطيع سماع محادثة العامل أو رؤية الملاحظة التي في يده والتي تقول: "هذا الصندوق هو في الواقع قنبلة".
- الفجوة: الأدوات القديمة ترى الإجراء (كتابة ملف) ولكنها تغفل عن النية (الأمر البرمجي وعملية الاستنتاج).
- الخطر: يمكن للمخترقين خداع الذكاء الاصطناعي لجعله يعتقد أن سرقة البيانات هي مهمة عادية.
٢. الحل: نظام ADR
بنى المؤلفون نظاماً من ثلاثة أجزاء لمعالجة هذه المشكلة، يعمل مثل فريق أمني مدرب تدريباً عالياً.
الجزء (أ): مستشعر "العين الصقرية" (مستشتر ADR)
بدلاً من مجرد مراقبة أرضية المصنع، يجلس هذا المستشعر داخل عقل الذكاء الاصطناعي مباشرة.
- ماذا يفعل: يسجل كل شيء: ما الذي طلبه المستخدم، كيف فكر الذكاء الاصطناعي حول الأمر، ما هي الأدوات التي استخدمها، وماذا حدث بعد ذلك.
- التشبيه: إنه يشبه كاتب الجلسة في المحكمة الذي يسجل كل كلمة تُقال في الاجتماع، وليس فقط القرار النهائي. هذا يمنح فرق الأمن القصة الكاملة لما كان يفعله الذكاء الاصطناعي، وليس مجرد النتيجة.
الجزء (ب): فريق التحري "ثنائي المستويات" (كاشف ADR)
إن فحص كل إجراء باستخدام ذكاء اصطناعي فائق الذكاء (ولكن مكلف) سيكون مكلفاً جداً من حيث المال والوقت. لذا، يستخدم ADR عملية من خطوتين:
- المستوى الأول (الفرز السريع): ماسح ضوئي سريع وخفيف الوزن يفحص آلاف الإجراءات في الثانية. إنه يشبه حارس النادي الذي يتحقق بسرعة من الهويات؛ إذا بدا الشيء آمناً تماماً، فإنه يسمح بمروره. أما إذا بدا "مريباً" (مثل طلب كلمة مرور)، فإنه يضع عليه علامة.
- المستوى الثاني (التحقيق العميق): تذهب العناصر التي تم وضع علامة عليها إلى محقق رفيع المستوى. هذا المحقق لديه إمكانية الوصول إلى كتاب قواعد الشركة، وأدلة الأكواد، وقائمة بالحيل الإجرامية المعروفة. إنه يقرأ القصة الكاملة (من المستشعر) ويقرر: "هل هذا هجوم حقيقي أم مجرد سوء فهم؟"
- لماذا ينجح: هذا يوفر المال عبر عدم استخدام المحقق الغالي في المهام المملة والآمنة، ولكنه يضمن خضوع المهام المشبوهة لتحليل عميق ودقيق.
الجزء (ج): محاكي "الفريق الأحمر" (مستكشف ADR)
قبل أن يدخل النظام حيز التنفيذ، يجب اختباره.
- ماذا يفعل: يحاول "فريق أحمر" خاص من الذكاء الاصطناعي كسر النظام. يقومون بابتكار طرق جديدة وماكرة لخداع المساعدين الذكيين.
- التشبيه: تخيل تدريب حريق حيث تحاول فرقة ما تهريب حريق إلى المبنى لترى ما إذا كانت الإنذارات ستعمل. عندما يجد الفريق الأحمر خدعة جديدة، يتعلم النظام منها ويصبح أكثر ذكاءً قبل أن يتمكن المخترقون الحقيقيون من استخدامها.
٣. النتائج: إثبات من الواقع
اختبر الفريق هذا النظام في شركة Uber لأكثر من عشرة أشهر على أكثر من ٧,٢٠٠ جهاز كمبيوتر.
- النجاح: وجد النظام مئات الحالات التي شارك فيها الموظفون (سواء عن غير قصد أو بسوء نية) كلمات المرور والأسرار مع العالم الخارجي.
- الدقة: كان دقيقاً للغاية. في الاختبارات، سجل صفر إنذارات خاطئة في معيار محدد (بمعنى أنه لم يصرخ "ذئب" أبداً عندما لم يكن هناك ذئب)، ومع ذلك نجح في كشف ٦٧٪ من الهجمات الفعلية.
- المقارنة: تفوق على غيره من أفضل الأدوات الأمنية المتاحة حالياً بمقدار مرتين إلى ٤ مرات.
٤. الوقاية عبر "التحرك لليسار" (Shift-Left Prevention)
لأن النظام كان جيداً جداً في رصد مشاركة الأسرار، لم يكتفِ الفريق برصدها فحسب، بل منع حدوثها.
- أضافوا فحصاً "لما قبل الأمر" (hook) يقوم بمسح ما يوشك المستخدم على كتابته. إذا رأى كلمة مرور، فإنه يحظرها فوراً.
- حقق هذا دقة بنسبة ٩٧.٢٪، مما منع تسريبات البيانات قبل أن تبدأ حتى.
الملخص
تقدم الورقة البحثية ADR باعتباره أول نظام أمني مثبت وواسع النطاق لعصر المساعدين الذكيين الجديد. إنه يحل مشكلة "لا يمكننا رؤية ما يفكر فيه الذكاء الاصطناعي" من خلال تسجيل المحادثة الكاملة، واستخدام عملية تحقيق ذكية من خطوتين لتوفير التكال، وتدريب نفسه باستمرار عبر محاولة اختراق نظامه الخاص. وقد أثبت نجاحه في بيئة شركات حقيقية، حيث كشف عن مخاطر أمنية حقيقية فاتتها الأدوات القديمة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.