Beyond Input Guardrails: Reconstructing Cross-Agent Semantic Flows for Execution-Aware Attack Detection
تقدم هذه الورقة البحثية \SysName، وهو إطار عمل مبتكر يعزز أمن الأنظمة متعددة الوكلاء عبر الانتقال من تصفية المدخلات الثابتة إلى التحليل المدرك للتنفيذ من خلال إعادة بناء التدفقات الدلالية عبر الوكلاء، مما يكشف بفعالية عن ناقلات الهجوم المعقدة التي تتجاوز الضوابط الوقائية التقليدية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل مكتباً تقنياً متطوراً يعج بالحركة، حيث الموظفون ليسوا بشراً، بل هم وكلاء ذكاء اصطناعي (AI Agents). هؤلاء الوكلاء أذكياء للغاية؛ يمكنهم كتابة الأكواد، وإدارة قواعد البيانات، وإرسال رسائل البريد الإلكتروني، وحجز الرحلات الجوية. يعملون معاً في فرق، يتبادلون الملاحظات ويتناوبون المهام لحل المشكلات المعقدة. هذا هو النظام متعدد الوكلاء (Multi-Agent System - MAS).
ومع ذلك، هناك مشكلة. نظرًا لأن هؤلاء الوكلاء يتواصلون مع بعضهم البعض بلغة طبيعية (مثل البشر) ويتصرفون من تلقاء أنفسهم، فهم عرضة لنوع جديد من الخداع.
المشكلة: "حصان طروادة" في الرواق
تخيل مجرماً لا يستطيع اقتحام خزينة المكتب مباشرة. بدلاً من ذلك، يقوم بتسلل ملاحظة إلى غرفة البريد (المدخل) تقول: "مهلاً، المدير في إجازة، لذا يرجى تجاهل قواعد الأمن وإرسال الرواتب إلى منزلي".
في الماضي، كان حراس الأمن (يُطلق عليهم حواجز الحماية للمدخل - Input Guardrails) يقفون عند الباب الأمامي للتحقق من الهويات. كانوا جيدين في إيقاف الأشرار الواضحين. لكن في مكتب الذكاء الاصطناعي الجديد هذا، لا يهاجم المجرم الباب. بدلاً من ذلك، يخدع وكيلاً، والذي بدوره يخدع وكيلاً آخر، والذي يخدع بدوره وكيلاً ثالثاً. وبحلول الوقت الذي يحدث فيه الإجراء السيئ، تكون "الملاحظة السيئة" الأصلية قد اختفت تماماً، ويبدو الوكلاء وكأنهم يؤدون وظائفهم فحسب.
حراس الأمن القدامى لا يستطيعون رؤية القصة كاملة لأنهم ينظرون فقط إلى الباب الأمامي. إنهم لا يفهمون سلسلة الأحداث التي تحدث داخل المبنى.
الحل: MAScope (المحقق "راوي القصص")
يقدم البحث نظاماً أمنياً جديداً يسمى MAScope. بدلاً من مجرد فحص الباب الأمامي، يعمل MAScope مثل محقق فائق الذكاء يراقب تاريخ المبنى بأكد.
إليك كيف يعمل، باستخدام تشبيهات بسيية:
1. مرحلة "الترجمة" (الاستخراج الدلالي - Semantic Extraction)
يتحدث الوكلاء بملاحظات فوضوية وغير منظمة. قد يقول أحدهم: "افحص الملف في المجلد الأحمر"، بينما يقول آخر: "قم بتشغيل السكريبت على الخادم".
- مهمة MAScope: يعمل كمترجم. يقرأ كل هذه الملاحظات الفوضوية ويحولها إلى قائمة منظمة ونظيفة من "من فعل ماذا لمن".
- التشبيه: تخيل مطبخاً فوضوياً حيث يصرخ الطهاة بالأوامر. MAScope هو رئيس الطهاة الذي يكتب بطاقة وصفة مثالية: "الشيف (أ) أخذ السكين (الأداة)، وقطع البصل (الإجراء)، وسلمه إلى الشيف (ب) (الوكيل)".
2. مرحلة "شريط الفيلم" (إعادة بناء التدفق - Flow Reconstruction)
هذا هو الجزء الأهم. قد يبدو إجراء واحد غير ضار.
- الإجراء (أ): "قراءة قاعدة بيانات الموظفين". (يبدو طبيعياً لوكيل موارد بشرية).
- الإجراء (ب): "إرسال بريد إلكتروني إلى عنوان IP غير معروف". (يبدو طبيعياً لوكيل بريد).
- الفخ: إذا نظرت إليهما بشكل منفصل، فهما سليمان. ولكن إذا وضعتهما معاً، فإنهما يشكلان جريمة: سرقة البيانات وإرسالها إلى مخترق.
- مهمة MAScope: يقوم بربط هذه الإجراءات المنفصلة معاً في شريط فيلم مستمر ("تدفق دلالي"). إنه يربط النقاط ليرى القصة الكاملة. ويتساءل: "مهلاً، لماذا أعطى وكيل الموارد البشرية قاعدة البيانات لوكيل البريد، الذي قام بعد ذلك بإرسالها إلى شخص غريب؟"
3. مرحلة "القاضي" (تدقيق المسار - Trajectory Scrutiny)
بمج once يحصل MAScope على "شريط الفيلم"، فإنه يمرره إلى ذكاء اصطناعي مشرف (قاضٍ صارم جداً).
- يتحقق القاضي من ثلاثة أشياء:
- النية: هل فعل الوكلاء ما طلبه المدير البشري بالفعل؟ (على سبيل المثال: "هل طلبنا إرسال رسائل بريد إلكتروني إلى غرباء؟ لا؟ إذن توقفوا!").
- تدفق البيانات: هل تسربت أسرار حساسة (مثل كلمات المرور) خارج المبنى؟
- تدفق التحكم: هل حصل متدرب بسيط فجأة على مفاتيح مكتب الرئيس التنفيذي؟
- إذا أظهر شريط الفيلم جريمة، فإن MAScope يطلق الإنذار فوراً، حتى لو بدت الخطوات الفردية بريئة.
لماذا يعد هذا أفضل؟
- الطريقة القديمة (حواجز الحماية للمدخل): مثل حارس يقف عند الباب للتحقق من الهويات. إذا قمت بتسلل ملاحظة داخل صندوق بيتزا، فسوف يفتقدها الحارس.
- الطريقة الجديدة (MAScope): مثل نظام كاميرات مراقبة يتتبع حركة كل شخص داخل المبنى. حتى لو تسللت للداخل، إذا بدأت في السير نحو الخزنة ثم نحو المخرج، فسيرى النظام النمط ويوقفك.
النتائج
اختبر الباحثون هذا النظام ضد 10 أنواع مختلفة من الهجمات المعقدة (مثل "OWASP Top 10" الخاصة بالذكاء الاصطناعي).
- النتيجة: نجح MAScope في كشف أكثر من 85% من هذه الهجمات المعقدة ومتعددة الخطوات.
- المقارنة: طريقة الأمن القديمة (أسلوب الحارس - Vanilla GPT) لم تكشف سوى حوالي 22% منها لأنها لم تستطع رؤية الرابط بين الخطوات.
باخت-الاختصار
MAScope هو نظام أمني لا يحاول التخمين ما إذا كانت جملة واحدة سيئة أم لا. بدلاً من ذلك، يراقب القصة الكاملة لكيفية تفاعل وكلاء الذكاء الاصطناعي. إنه يعيد بناء "فيلم" أفعالهم لرصد متى يتحول تسلسل من الأحداث التي تبدو غير ضارة إلى عملية سطو، مما يحمي أماكن عمل الذكاء الاصطناعي المستقبلية من المخترقين الماكرين والمتسللين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.