Securing the Agent: Vendor-Neutral, Multitenant Enterprise Retrieval and Tool Use
تتناول هذه الورقة الفجوة الأمنية الحرجة في أنظمة الذكاء الاصطناعي للمؤسسات متعددة المستأجرين حيث تتجاوز صلة الاسترجاع صلاحيات التفويض، وذلك عبر اقتراح والتحقق من بنية عزل طبقية من جانب الخادم ضمن إطار العمل مفتوح المصدر OGX، والتي تفرض بوابات استيعاب واسترجاع مدركة للسياسات لمنع تسرب البيانات بين المستأجرين مع عبء تشغيلي ضئيل على الأداء.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل مكتبة ضخمة عالية التقنية حيث استأجرت آلاف الشركات المختلفة (المستأجرون) أرففاً لتخزين مستنداتها السرية. في هذه المكتبة، يوجد أيضاً روبوتات قوية (وكلاء ذكاء اصطناعي) تم توظيفها للبحث عن معلومات محددة وتنفيذ مهام بناءً على ما تطلبه الشركات.
لقد حددت الورقة البحثية التي أعدها "أرسيو ونارسينج" (Arceo and Narsing) خللاً خطيراً في كيفية عمل هذه المكتبات حالياً، واقترحت نظاماً أمنياً جديداً لإصلاحه.
المشكلة: فخ "الصلة" (Relevance)
في مكتبة عادية، إذا طلبت "وصفات طعام"، سيقوم أمين المكتبة بتسليمك الكتب الأكثر صلة بهذه الكلمة. هو لا يهتم بمن يملك الكتب؛ بل يكتفي بجلب أفضل المطابقات.
يشير المؤلفان إلى أن هذا الأمر، في عالم الذكاء الاصطناعي، يعد كارثة أمنية.
- السيناريو: تطلب الشركة (أ) من الروبوت: "كيف نصلح خادمنا (server)؟"
- الخطأ: يبحث الروبوت في المكتبة بأكملها. فيجد وثيقة من الشركة (ب) تشبه السؤال تماماً (ربما تتعلق بإصلاح خادم أيضاً).
- التسريب: ولأن الوثيقة هي "مطابقة مثالية" للسؤال، يقوم الروبوت بتسليمها. وهكذا، تكون الشركة (أ) قد قرأت للتو دليل الخادم السري الخاص بالشركة (ب).
تطلق الورقة على هذا الأمر اسم "فجوة الصلة والتفويض" (Relevance-Authorization Gap). فالنظام بارع في إيجاد ما هو "صلة" بالموضوع، لكنه سيء جداً في التحقق ممن "يُسمح" له برؤيته.
الحل: مبنى "العزل متعدد الطبقات"
لإصلاح ذلك، اقترح المؤلفان تصميماً جديداً للمبنى يتكون من ثلاث طبقات أمنية محددة وقاعدة صارمة بشأن من يملك المفاتيح.
1. الطبقات الثلاث للأمن
فكر في رحلة البيانات كطرد يمر عبر منشأة آمنة:
الطبقة الأولى: محطة التصنيف (الاستيعاب المدرك للسياسات - Policy-Aware Ingestion)
عندما تضع شركة ما صندوقاً من المستندات، يقوم النظام فوراً بختم كل صفحة بملصق "الشركة أ" أو "الشركة ب". لا يمكنك نسيان وضع الملصق لاحقاً؛ فهذا يحدث لحظة وصولها. هذا يضمن أن كل ورقة تعرف لمن تنتمي.الطبقة الثانية: بوابة الأمن (بوابة الاسترجاع - Retrieval Gating)
قبل أن يُسمح للروبوت حتى بالبحث عن الكتب، يجب أن يمر عبر بوابة أمنية. تتحقق البوابة من بطاقة الهوية الخاصة بالمستخدم.- إذا كان المستخدم من الشركة (أ)، فإن البوابة تغلق مادياً الممر الذي يحتوي على كتب الشركة (ب).
- الروبوت لا يرى أبداً الكتب المحظورة، وبالتالي لا يمكنه تسليمها بالخطأ. يُسمى هذا "التحكم في الوصول القائم على السمات" (ABAC gating).
الطبقة الثالثة: الدماغ المشترك (الاستدلال المشترك - Shared Inference)
جزء "التفكير" الفعلي للروبوت (نموذج الذكاء الاصطناعي) مشترك للجميع لتوفير التكالب. عادةً، قد تعتقد أنك بحاجة لروبوت منفصل لكل شركة للحفاظ على الأسرار. ولكن لأن الطبقتين الأولى والثانية تضمنان أن المستندات المصححة والموسومة فقط هي التي ستُغذى للروبوت، يمكن مشاركة الروبوت بأمان. الأمر يشبه طباخاً يطهو للجميع، لكن المكونات مفروزة مسبقاً بحيث لا يستخدم الطباخ بالخطأ وصفة سرية لأحد الزبائن في طبق زبون آخر.
2. قاعدة "جانب الخادم" (Server-Side)
يجادل المؤلفان بأن الفحوصات الأمنية يجب أن تحدث داخل المبنى (الخادم)، وليس خارج مكتب العميل (العميل/Client).
- الطريقة القديمة (جانب العميل): يقوم جهاز الكمبيوتر الخاص بالعميل بعملية البحث والتحقق. يمكن لعميل مخادع ببساطة إيقاف تشغيل برنامج الحماية الخاص به، وتجاهل القواعد، وطلب من الروبوت البحث في "كل شيء".
- الطريقة الجديدة (جانب الخ server): يرسل العميل طلباً، لكن فريق الأمن الداخلي للمبنى هو من يقوم بكل عمليات البحث، واستخدام الأدوات، والتحقق. يمكن للعميل أن يطلب "سيارة حمراء"، لكن لا يمكنه إخبار فريق الأمن بتجاهل القواعد وإظهار "سيارة زرقاء" تخص شخصاً آخر. المبنى هو من يتحكم في كيفية حدوث البحث، مما يضمن عدم كسر القواعد أبداً.
النتائج: ما الذي اختبروه؟
قام المؤلفون ببناء نموذج أولي للنظام يسمى OGX (Open GenAI Stack) لاختبار هذه الفكرة. أجروا تجارب باستخدام شركات وهمية وأسئلة مخادعة لمعرفة ما سيحدث.
- الأمن: بدون بوابة الأمن الجديدة، سرب الروبوت مستندات سرية من شركات أخرى بنسبة تتراوح بين 98 إلى 100% من الوقت. مع البوابة الجديدة، كانت نسبة تسريب الأسرار 0%. لقد أوقفت بوابة الأمن التسريبات تماماً.
- السرعة: إضافة بوابة الأمن أبطأت العمليات بمقدار ضئيل جداً (حوالي 19 ميلي ثانية). هذا يشبه إضافة وقفة قصيرة جداً في محادثة؛ وهي غير ملحوظة للبشر لكنها حاسمة للسلامة.
- الجودة: نظرًا لأن الروبوت لم يتشتت بمستندات غير ذات صلة من شركات أخرى، فقد وجد الإجابات الصحيحة بشكل أسرع وأكثر دقة.
الخلا الخلاصة
تخلص الورقة إلى أنه يمكنك امتلاك نظام ذكاء اصطناعي مشترك ومنخفض التكلفة للعديد من الشركات المختلفة دون أن تسرق الشركات أسرار بعضها البعض. كل ما تحتاجه هو التوقف عن الثقة في "صلة" نتيجة البحث والبدء في فرض فحوصات "إذن" صارمة عند الباب، والتي يديرها فريق أمني مركزي داخل الخادم.
ويؤكد المؤلفون أن هذا الحل "محايد للمورد" (vendor-neutral)، مما يعني أنه لا يقيدك بشركة ذكاء اصطناعي واحدة (مثل OpenAI أو Google)؛ بل يعمل مع أي أدوات ذكاء اصطنا_ي مفتوحة المصدر أو تجارية تختارها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.