Mastyf Guard 1.5B: Cognitive Harvard Architectures for Sub-Millisecond AI Agent Perimeter Defense and Capability-Based Access Control

تخيل عالماً تُمنح فيه الحواسيب القدرة على التصرف من تلقاء نفسها، ليس فقط للإجابة على الأسئلة، بل لأداء مهام مثل إرسال رسائل البريد الإلكتروني، أو إدارة قواعد البيانات، أو التحكم في الأجهزة المنزلية الذكية. هذه الوكلاء المستقلون أقوياء، لكنهم يواجهون مشكلة أمنية جوهرية متجذرة في كيفية بنائهم. لعقود من الزمن، عملت أنظمة الكمبيوتر بناءً على تصميم حيث توجد التعليمات التي تخبر الآلة بما يجب فعله والبيانات التي تعالجها الآلة معاً في نفس مساحة الذاكرة. هذا الترتيب، رغم مرونته، يخلق ثغرة أمنية: إذا تمكن طرف خبيث من تمرير تعليمات مخفية داخل تدفق البيانات، فقد تظن الحواسيب أن هذه البيانات هي أمر وتطيعه. وفي مجال الذكاء الاصطناعي، عادت هذه الثغرة في شكل جديد. نظرًا لأن وكلاء الذكاء الاصطناعي يقرأون تعليماتهم الخاصة والمعلومات غير الموثوقة التي يجمعونها من الإنترنت في آن واحد، يمكن خداعهم. إذ يمكن للمهاجم إخفاء أمر داخل مراجعة منتج تبدو غير ضارة أو رسالة بريد إلكتروني، وقد يتبع الذكاء الاصطناعي، غير القادر على التمييز بين البيانات الآمنة والأمر المخفي، ذلك الأمر وينفذ إجراءات لم يكن مقصوداً له القيام بها، مثل حذف الملفات أو سرقة كلمات المرور.

اقترح باحث في مختبر "ماستيف" لأبحاث الذكاء الاصطناعي (Mastyf AI Research Laboratory) في كولكاتا، الهند، حلاً لهذه المشكلة المحددة، أطلق عليه اسم "بنية هارفارد المعرفية" (Cognitive Harvard Architecture). يقدم عمله، المفصل في دراسة بعنوان "Mastyf Guard 1.5B"، طريقة جديدة لحماية هؤلاء الوكلاء المستقلين. فبدلاً من ترك الذكاء الاصطناعي يخلط بين تعليماته وبياناته بحرية، صمم الباحث نظاماً يفصل بينهما مادياً. في هذا الإعداد الجديد، يُسمح للذكاء الاصطناعي بقراءة المعلومات غير الموثوقة والتفكير فيما يجب فعله، لكنه لا يستطيع تنفيذ أي إجراء من تلقائه. وقبل أن يتمكن الذكاء الاصطناعي من أداء مهمة، مثل فتح ملف أو إرسال رسالة، يجب أن يمر طلبه عبر نقطة تفتيش أمنية صارمة. تعمل نقطة التفتيش هذه كحارس بوابة يتحقق من أذونات الوكيل مقابل قائمة محددة من الأفعال المسموح بها. إذا جاء الطلب من مصدر موثوق وطابق الأذونات، فإنه يمر؛ أما إذا كان الطلب يحاول القيام بشيء خارج نطاقه، أو إذا بدا وكأنه أمر مخفي متنكر في زي بيانات، فإن حارس البوابة يوقفه فوراً. يعتمد هذا النهج على مفهوم قديم من عتاد الكمبيوتر حيث تُحفظ ذاكرة التعليمات وذاكرة البيانات في مواقع فيزيائية منفصلة لمنع هذا النوع من الارتباك تحديداً.

بنى الباحث أداة برمجية تسمى "Mastyf Guard" لاختبار هذه الفكرة. قام بتدريب نموذج ذكاء اصطناعي متخصص، وهو صغير وفعال نسبياً، ليعمل كحارس بوابة أمني. ولرؤية ما إذا كان سينجح، أخضعه لاختبار صارم يتضمن خمسين ألف سيناريو مختلف. نصف هذه السيناريوهات كانت أمثلة واقعية لأوامر مطورين آمنة، مثل تحديث قاعدة بيانات أو دمج كود برمجي. والنصف الآخر كان هجمات مصممة بعناعة لخداع الذكاء الاصطناعي للقيام بشيء ضار. شملت هذه الهجمات تعليمات مخفية مدفونة في النصوص، ومحاولات لتجاوز الفلاتر الأمنية، وطلبات لسرقة معلومات حساسة. كانت النتائج مذهلة؛ فقد نجح نظام "Mastyf Guard" في تحديد ومنع 99.33% من المحاولات الخبيثة. في المقابل، فشلت أدوات أمنية رائدة أخرى كانت متاحة في ذلك الوقت في رصد أكثر من نصف هذه الهجمات. لم يكن النظام الجديد أكثر دقة فحسب، بل كان سريعاً بشكل مذهل أيضاً؛ حيث استطاع اتخاذ قرار أمني في أقل من خمسة ميكروثانية، وهي سرعة سمحت له بالعمل على معالجات الكمبيوتر القياسية دون الحاج بحاجة إلى أجهزة رسوميات (graphics hardware) باهظة الثمن ومتخصصة.

كما سلطت الدراسة الضوء على سبب إخفاق الطرق السابقة في حماية الذكاء الاصطناعي. فقد صُممت العديد من الأدوات الأمنية الموجودة لرصد التهديدات الواضحة مثل خطاب الكراهية أو العنف في محادثات الدردشة، ولم تكن مبنية للتعرف على متى تحتوي جملة تبدو مهذبة على أمر مخفي لحذف خادم أو فتح باب. ولأن هذه الأدوات القديمة كانت تبحث عن الكلمات السيئة بدلاً من الأفعال الخطيرة، فقد سمحت للهجمات المتطورة بالمرور. ومع ذلك، فإن نظام "Mastyf Guard" لا يبحث فقط عن الكلمات السيئة، بل يتحقق من السياق والأذونات. فهو يدرك أن جملة مثالية في تهذيبها يمكن أن تكون خطيرة إذا كانت تحاول استخدام أداة لا يُسمح للوكيل بلمسها. ومن خلال فرض قاعدة صارمة تقضي بأن الوكيل لا يمكنه استخدام الأدوات إلا إذا كان لديه إذن صريح لها، يمنع النظام الذكاء الاصطناعي من أن يُخدع ويصبح "نائباً مرتبكاً" (confused deputy) - وهو مصطلح يُستخدم لوصف برنامج موثوق يُخدع من قبل مهاجم للقيام بشيء ضار.

وعلى الرغم من نجاحه، كان الباحث حريصاً على الإشارة إلى حدود عمله. فالنظام فعال للغاية في إيقاف الهجمات التي تحاول جعل الوكيل يستخدم أدوات لا يملك حق الوصول إليها. ومع ذلك، إذا تمكن المهاجم من خداع الوكيل لتغيير تفاصيل أداة مسموح له باستخدامها بالفعل، فإن النظام يعتمد على قدرة الذكاء الاصطناعي على رصد الفرق الدقيق في المعنى. وفي هذه الحالات المحددة، رصد النظام حوالي 78.5% من التهديدات، وهي نسبة قوية ولكنها ليست مثالية. كما أكد الباحث أن حله مصمم ليكون خفيفاً وغير مكلف؛ ولأنه يعمل بكفاءة على ذاكرة الكمبيوتر القياسية، فهو لا يتطلب كميات هائلة من الكهرباء أو الأجهزة باهظة الثمن التي تحتاجها نماذج الذكاء الاصطناعي الأكبر. وهذا يجعل من الممكن للشركات تأمين وكلائها المستقلين دون تحمل عبء مالي ضخم.

تشير النتائج إلى أن الطريقة التي نبني بها أنظمة الذكاء الاصطناعي الآمنة يجب أن تتغير. فبدلاً من الاعتماد على كون الذكاء الاصطناعي ذكياً بما يكفي لمعرفة ما هو آمن، يجب أن تفرض البنية التحتية نفسها السلامة. ومن خلال فصل جزء التفكير في الذكاء الاصطناعي عن جزء الفعل، ووضع بوابة صارمة قائمة على الأذونات بينهما، نجح الباحث في إنشاء نظام أكثر سرعة وأماناً من البدائل الحالية. تقدم الدراسة مساراً واضحاً للمستقبل لبناء وكلاء مستقلين يمكنهم العمل في العالم الحقيقي دون المخاطرة المستمرة بالكوارث. إنها تثبت أنه من خلال تطبيق المبادئ الأساسية لبنية الكمبيوتر على التحديات الجديدة للذكاء الاصطناعي، من الممكن إنشاء دفاع يكون سليماً رياضياً وفعالاً من الناحية العملية. ويعد هذا العمل خطوة مهمة نحو جعل الوكلاء المستقلين جزءاً آمناً وموثوقاً من بنيتنا التحتية الرقمية، مما يثبت أن الأمن لا يجب أن يأتي على حساب السرعة أو الكفاءة.