Open Security Benchmark: Towards Autonomous Enterprise Cyber Defense
تقدم هذه الورقة معيار الأمن المفتوح (OSB)، وهو إطار عمل مبتكر مصمم لتقييم وبناء الثقة في وكلاء الذكاء الاصطناعي المستقلين للدفاع السيبراني في المؤسسات، وذلك من خلال توفير بيئة أمنية ثابتة وشاملة وقابلة للاستعلام مع إجابات نموذجية لسد الفجوة الحرجة في بيانات التقييم العامة والمتعددة الموردين.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً لا تكتفي فيه الحواسيب بتنفيذ الأوامر فحسب، بل تعمل كالمحققين المبتدئين، حيث تطارد الثغرات الأمنية في مبانٍ مكتبية ضخمة وفوضوية قبل أن يتمكن الأشرار من الاقتحام. هذا هو حلم "الدفاع السيبراني المستقل"، حيث تقوم وكلاء الذكاء الاصطناعي بمسح الحالة الرقمية للمؤسسة باستمرار—التحقق من هوية من يملك مفاتيح غرفة الخوادم، ومعرفة ما إذا كان أي برنامج قد أصبح قديماً، وما إذا كان هناك أحد يتسلل خفية. ولكن هنا تكمن العقبة: لكي يكون المحقق جديراً بالثقة، عليك أن تعرف ما إذا كان يحل القضية بالفعل أم أنه مجرد يخمن. في الوقت الحالي، هناك مشكلة كبيرة: بيانات الشركات الحقيقية سرية، لذا لا يستطيع الباحثون اختبار هؤلاء المحققين الآليين في نفس السيناريوهات الفوضوية والواقعية. الأمر يشبه محاولة تعليم طيار الطيران عبر إظهار صور للسحب له فقط، دون السماح له أبداً بلمس أدوات التحكم في عاصفة حقيقية. وبدون ميدان اختبار مشترك وعادل، لن نتمكن من معرفة ما إذا كانت وكلاء الذكاء الاصطناعي هذه جاهزة لإنقاذنا أم أنها مجرد تبتدع أشياء من خيالها.
تقدم هذه الورقة حلاً يسمى "المعيار المفتوح للأمن" (Open Security Benchmark - OSB)، وهو في جوهره "مدينة رقمية" وهمية وضخمة ومجمدة، بُنيت خصيصاً لاختبار هؤلاء المحققين الآليين. فكر في الأمر كأنه مستوى في لعبة فيديو ضخمة وغير قابلة للتغيير، تبدو وتعمل تماماً مثل شركة حقيقية، بما في ذلك موظفون وهميون، وخوادم سحابية وهمية، وكلمات مرور وهمية. لقد أنشأ المؤلفون هذه "المدينة" لسد الفجوة بين النظرية والواقع. لقد بنوا إطار عمل حيث يُعطى وكلاء الذكاء الاصطناعي لغزاً لحله—مثل "ابحث عن جميع الموظفين الذين تم فصلهم الشهر الماضي ولكن لا يزال لديهم حق الوصول إلى ملفات الشركة السرية"—ويتعين على الوكلاء إيجاد الإجابة باستخدام طريقتين مختلفتين: إما عن طريق كتابة استعلام بلغة خاصة (SQL) للبحث في قاعدة بيانات ضخمة، أو عن طريق التظاهر بأنهم مشغل بشري ينقر عبر أدوات حقيقية لمزودين مثل AWS أو Google Workspace.
لا تكتفي الورقة بالقول "انظروا، لقد صنعنا لعبة". بل تضع إطار عمل صارم لاختبار هؤلاء الوكلاء من خلال تجميد البيئة بحيث تظل "الحقيقة الأرضية" (الإجابة الصحيحة) ثابتة تماماً في كل مرة يعمل فيها الوكيل. وهذا يسمح للباحثين بتقييم الذكاء الاصطناعي ليس فقط بناءً على ما إذا كان قد توصل إلى الإجابة الصحيحة، بل أيضاً على كيفية وصوله إليها. هل طرح الأسئلة الصحيحة؟ هل ربط النقاط بين الأنظمة المختلفة؟ تجسد الدراسة هذا الإطار باستخدام منظمات وهمية، مما يسمح بالاختبار عبر أحجام مختلفة من الشركات (من فرق صغيرة تضم 75 شخصاً إلى شركات كبرى تضم 2000 موظف). وقد صُمم إطار العمل للكشف عما إذا كان بإمكان وكلاء الذكاء الاصطناعي التعامل مع تعقيدات المهام الواقعية، مثل ربط سجل موارد بشرية بحساب سحابي عبر موردين مختلفين، وهي قدرة يصعب تحقيقها عادةً بواسطة الأدوات التي تتبع مورداً واحداً فقط.
ومن الأهمية بمكان أن الورقة تجادل بأنه لا يمكننا الوثوق بوكيل ذكاء اصطناعي لمجرد أنه قدم إجابة تبدو واثقة. يرفض المؤلفون صراحةً فكرة إمكانية تقييم هؤلاء الوكلاء بمعزل عن غيرهم أو باستخدام مجموعات بيانات صغيرة ونظيفة؛ ويصرون على أن البيئة يجب أن تكون "مجمدة" ومتعددة الموردين لتكون عادلة. هم لا يدعون أن الذكاء الاصطناعي قد حل الدفاع السيبراني بعد، بل يقترحون أن هذا المعيار هو أداة ضرورية لقياس التقدم، محولين السؤال الغامض "هل هذا الذكاء الاصطناعي آمن؟" إلى بطاقة أداء ملموسة. ومن خلال توفير هدف مشترك وقابل لإعادة الإنتاج، يهدف OSB إلى نقل المجال من مرحلة التخمين إلى مرحلة القياس، لضمان أننا عندما نسمح لوكلاء الذكاء الاصطناعي في نهاية المطام بتولي زمام الأمور في مدننا الرقمية الحقيقية، سنعرف بالضبط كيف سيكون أداؤهم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.