To Defend Against Cyber Attacks, We Must Teach AI Agents to Hack
تجادل ورقة الموقف هذه بأنه لمواجهة الهجمات السيبرانية الحتمية المدفوعة بالذكاء الاصطناي، يجب على المدافعين تغيير استراتيجيتهم بشكل جذري من خلال تطوير ونشر قدراتهم الهجومية الخاصة القائمة على الذكاء الاصطناي بمسؤولية ضمن بيئات خاضعة للرقابة والحوكمة لإتقان التهديدات قبل أن يفعل الخصوم ذلك.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "للدفاع ضد الهجمات السيبرانية، يجب أن نعلم وكلاء الذكاء الاصطنا-ي على الاختراق"، باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
الفكرة الكبرى: القواعد القديمة لم تعد تعمل بعد الآن
على مدار العقد الماضي، كان العمل في مجال الأمن السيبراني يشبه لعبة "ضرب الخلد" (Whac-A-Mole).
- الطريقة القديمة: كان على المخترقين أن يكونوا بشراً ذوي مهارات عالية. بناء هجوم معقد كان يشبه بناء منزل مخصص؛ الأمر يتطلب شهوراً من العمل الشاق والخبرة العميقة. ولأن ذلك كان مكلفاً وبطيئاً، كان المخترقون يهاجمون فقط "البيوت الكبيرة" (الشركات الكبرى) أو يستخدمون أدوات بسيطة وعامة لطرق آلاف الأبواب على أمل أن يكون أحدها مفتوحاً. افترض المدافعون أن المخترقين لا يستطيعون تحمل تكلفة طرق كل باب.
- التهديد الجديد: وكلاء الذكاء الاصطناعي يغيرون قواعد اللعبة. تخيل مخترقاً ليس شخصاً، بل سرباً من آلاف الروبوتات الصغيرة التي لا تكل ولا تمل. هذه الروبوتات لا تحتاج لأن تكون خبراء. يمكنها طرق ملايين الأبواب في ثانية واحدة. حتى لو فشلت بنسبة 99% من المرات، فهي تحتاج فقط للنجاح بنسبة 1% فقط لتحقيق الربح. يمكنها مهاجمة "البيوت الصغيرة" (الأنظمة المتخصصة) التي كان البشر يتجاهلونها سابقاً لأنها لا تستحق الجهد.
تجادل الورقة البحثية بأن المدافعين يحاولون حالياً إيقاف هذه الروبوتات عن طريق وضع لافتات "ممنوع الدخول" على الروبوتات نفسها. لكن الورقة تقول إن هذا لن ينجح لأن الجهات السيئة يمكنها ببساطة بناء روبوتاتها الخاصة بدون تلك اللافتات.
لماذا تفشل الدفاعات الحالية؟
يقول المؤلفون إننا نحاول إيقاف مخترقي الذكاء الاصطناعي باستخدام ثلاث طرق رئيسية، لكنها جميعاً تشبه محاولة إيقاف فيضان باستخدام مصفاة:
تصفية بيانات التدريب (نهج "المكتبة النظيفة"):
- الفكرة: نقوم بإزالة جميع التعليمات السيئة (مثل "كيف تصنع قنبلة") من كتب تدريب الذكاء الاصطناعي حتى لا يتعلم كيف يكون سيئاً.
- لماذا تفشل: المخترقون السيئون لا يحتاجون لقراءة "الكتب السيئة". يمكنهم تعليم الذكاء الاصطنا كيفية تعلم الاختراق باستخدام المنطق الأساسي والمنطق السليم، تماماً كما يمكن للإنسان أن يعرف كيفية فتح قفل دون دليل تعليمات. أيضاً، يمكن للمخترقين السيئين ببساال تحميل الذكاء الاصطناعي وتعليمه بأنفسهم.
المواءمة مع السلامة (نهج "السلوك الجيد"):
- الفكرة: ندرب الذكاء الاصطناعي على قول "لا" عندما يُطلب منه القيام بشيء سيء.
- لماذا تفشل: المخترقون السيئون أذكياء. يمكنهم خداع الذكاء الاصطناعي لجعله يعتقد أن الطلب السيئ هو في الواقع طلب جيد (مثل طلب من الحارس "اختبار الأمن" بدلاً من "الاقتحام"). أيضاً، إذا كان الذكاء الاصطناعي يعمل على جهاز الكمبيوتر الخاص بالمخترق، فيمكنه ببساطة إعادة تدريبه لتجاهل زر الـ "لا".
حواجز الحماية للمخرجات (نهج "الحارس الشخصي"):
- الفكرة: نضع حارساً عند الباب لفحص كل رسالة يرسلها الذكاء الاصطنا ويمنع أي شيء يبدو خطيراً.
- لماذا تفشل: يمكن للمخترق تقسيم الهجوم الكبير إلى ألف خطوة صغيرة تبدو غير ضارة. يرى الحارس كل خطوة على أنها آمنة، ولكن عند تجميعها معاً، فإنها تصنع قنبلة.
الحل المقترح: ابنِ "روبوتات الفريق الأحمر" الخاصة بك
تقترح الورقة تحولاً جذرياً: يجب أن نعلم وكلاء الذكاء الاصطناعي لدينا كيفية الاختراق، حتى نتمكن من استخدامهم للدفاع عنا.
فكر في الأمر مثل إدارة الإطفاء.
- الدفاع الحالي: نحن ننتظر حتى يبدأ الحريق، ثم نحاول إخماده.
- فكرة الورقة: نحن نوظف فريقاً من رجال الإطفاء المحترفين (ذكاؤنا الاصطنافي الهجومي) للعمل داخل منشأة تدريب محاطة بجدران آمنة ("ساحة سيبرانية").
- هؤلاء "الإطفائيون الطيبون" يحاولون حرق المبنى باستخدام كل حيلة ممكنة.
- ولأنهم ذكاء اصطناعي، يمكنهم تجربة ملايين الطرق لبدء حريق في ثوانٍ.
- نحن نراقب أين ينجحون، ونكتشف نقاط الضعف في مبنانا، ونصلحها قبل أن يظهر شرير حقيقي.
الخطوات الثلاث لجعل هذا آمناً
يعلم المؤلفون أن هذا يبدو خطيراً، لذا يقترحون ثلاث قواعد صارمة لمنع "الإطفائيين الطيبين" من التسبب في ضرر حقيقي:
- بناء مسارات اختبار أفضل: نحتاج إلى "دورات قيادة" أفضل (مقاييس) لقياس مدى براعة روبوتات الاختراق هذه. نحتاج لاختبارهم في سيناريوهات واقعية، وليس مجرد ألغاز بسيطة.
- التدريب، وليس مجرد البرمجة النصية: بدلاً من إعطاء الروبوتات قائمة ثابتة من الخطوات لاتباعها، نحتاج إلى تدريبهم على التعلم والتكيف، تماماً كما يفعل المخترق البشري. هذا يجعلهم أفضل في اكتشاف نقاط الضعف الجديدة وغير المعروفة.
- قاعدة "المنطقة المعزولة" (Sandbox): هذا هو الجزء الأهم. يجب ألا يغادر "الإطفائيون الطيبون" أبداً منشأة التدريب الآمنة.
- سيبقون داخل قفص رقمي حيث لا يمكنهم لمس الإنترنت الحقيقي.
- سيجدون الثغرات ويكتبون تقريراً عنها.
- ثم نأخذ ذلك التقرير ونعطيه لـ "ذكاء اصطناعي آمن" آخر لا يعرف سوى كيفية إصلاح الثغرات، وليس صنعها. هذا "الذكاء الاصطناعي الآمن" هو ما نطلقه للجمهور لحماية أنظمتنا.
الخلاية
تخلص الورقة إلى أنه لا يمكننا الانتظار حتى يكتشف المخترقون السيئون كيفية استخدام الذكاء الاصطناي للهجوم علينا. فبحلول الوقت الذي يفعلون فيه ذلك، سيكون الأوان قد فات.
بدلاً من ذلك، يجب علينا إتقان السلاح أولاً. نحن بحاجة لبناء ذكائنا الاصطنافي الهجومي الخاص، وإبقائه محبوساً في قفص آمن، واستخدامه للعثور على كل طريقة ممكنة لكسر أنظمتنا. فقط من خلال فهم كيف يفكر العدو ويتصرف على نطاق واسع، يمكننا أن نأمل في الدفاع عن أنفسنا.
باخت-صار: لإيقاف الروبوتات السيئة، علينا بناء روبوتاتنا الطيبة التي تكون حتى أفضل في كسر الأشياء، ولكن يجب أن نبقيها في قفص حتى تساعدنا فقط في إصلاح منزلنا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.