← أحدث الأبحاث
🤖 AI

Trident : How to Break Deep Reinforcement Learning Cyber Defenses (Agentic)

تقدم الورقة البحثية Trident، وهو إطار عمل لاختبار الاختراق القائم على الوكلاء للنماذج اللغوية الكبيرة (LLM) يستفيد من بنية "البرمجية كسياسة" (Code-as-Policy) في التعلم المعزز مع التغذية الراجعة من المخرأ (RLVR) لتوليد استراتيجيات هجوم تكيفية، مما يكشف أن دفاعات الأمن السيبراني الحالية القائمة على التعلم المعزز العميق هشة جوهرياً ويتم التفوق عليها بسهولة من قبل التهديدات الديناميكية مقارنة بالنماذج المرجعية الاستدلالية الثابتة.

المؤلفون الأصليون: Ryozo Masukawa, Ian Bryant, Armita Kazeminajafabadi, Sanggeon Yun, Hyunwoo Oh, SungHeon Jeong, Nathaniel D. Bastian, Mahdi Imani, Mohsen Imani

نُشر 2026-08-06
📖 2 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Ryozo Masukawa, Ian Bryant, Armita Kazeminajafabadi, Sanggeon Yun, Hyunwoo Oh, SungHeon Jeong, Nathaniel D. Bastian, Mahdi Imani, Mohsen Imani

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل لعبة شطرنج رقمية عالية المخاطر، ولكن بدلاً من تحريك القطع على رقعة، يتقاتل فريقان للسيطرة على شبكة واسعة وغير مرئية من أجهزة الكمبيوتر. يبني أحد الفريقين، "الفريق الأزرق"، مدافعاً يعمل بالذكاء الاصطناعي يتعلم كيفية رصد المتسللين وإصلاح أجهزة الكمبيوتر المعطلة في الوقت الفعلي. بينما يحاول الفريق الآخر، "الفريق الأحمر"، الاختراق. لسنوات، اختبر العلماء هؤلاء المدافعين من الفريق الأزرق ضد مهاجمين من الفريق الأحمر يشبهون الروبوتات التي تتبع نصاً صارماً وثابتاً؛ فهم يكررون نفس الحركات مراراً وتكراراً، مثل لعبة ميكانيكية تعمل بنظام الساعة. المشكلة هي أن المخترقين الحقيقيين ليسوا ألعاباً ميكانيكية؛ بل هم أذكياء، متكيفون، ويغيرون تكتيكاتهم بمجرد رؤيتهم للدفاع. وفي الوقت نفسه، أصبح نوع جديد من الذكاء الاصطناعي فائق الذكاء، يُعرف باسم "النماذج اللغوية الكبيرة" (LLM)، بارعاً للغاية في حل الألغاز وكتابة الأكواد البرمجية. السؤال الكبير الذي يطرحه العلماء هو: إذا علمنا هذه الأنظمة الذكية جداً لتكون هي "الفريق الأحمر"، فهل يمكنها أخيراً التفوق على دفاعات "الفريق الأزرق" بطريقة تعجز عنها الروبوتات القديمة الثابتة؟

هذا هو بالضبط ما سعى الباحثون وراء مشروع يسمى "ترايدنت" (Trident) لاكتشافه. لقد بنوا ساحة اختبار ديناميكية جديدة حيث يمكن لمهاجم ذكي يعمل بالذكاء الاصطناعي أن يتعلم من خلال التجربة والخطأ، بدلاً من مجرد اتباع نص مكتوب مسبقاً. لقد أنشأوا مكتبة ضخمة تضم أكثر من 13,000 معركة محاكية بين المهاجمين والمدافعين لتدريب ذكائهم الاصطناعي. وبدلاً من جعل الذكاء الاصطناعي يختار حركة واحدة في كل مرة، علموه كتابة "استراتيجية هجوم" خاصة به كقطعة من الكود البرمجي، والتي يقوم بعد ذلك بتشغيلها ضد المدافع.

كانت النتائج مذهلة. فالذكاء الاصطناعي "ترايدنت"، الذي تم تدريبه باستخدام نموذج واحد فقط بحجم 7 مليارات معلمة (وهو حجم صغير نسبياً بالنسبة للنماذج الحديثة)، لم يهزم المدافعين فحسب، بل تسبب في انخفاض هائل في فعاليتهم. وبينما لم تكد المهاجمون القدامى الثابتون يحدثون أي تأثير يذكر، أدى "ترايدنت" إلى تقليل أداء الدفاع لدى الفريق الأزرق بمتوسط قدره 522% مقارنة بالخط المرجعي. يشير هذا إلى أن العديد من الدفاعات السيبرانية "الذكية" اليوم هي في الواقع أكثر هشاشة مما نعتقد، لأنها اختُبرت فقط ضد أعداء أغبياء ويمكن التنبؤ بسلوكهم. لم يكتفِ "ترايدنت" باتباع القواعد، بل اكتشف حِيلاً ذكية جديدة من تلقاء نفسه، مثل إدراك متى يحاول المدافع خداعه بهدف وهمي ("طعم") وتعلم تجاهله، أو معرفة أي أجهزة الكمبيوتر هي الأكثر قيمة للاختراق أولاً. تشير الورقة البحثية إلى أنه لبناء أنظمة آمنة حقاً، نحتاج إلى التوقف عن اختبارها ضد روبوتات ثابتة، والبدء في اختبارها ضد أنظمة ذكاء اصطناعي متكيفة ومتعلمة مثل "ترايدنت".

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.AI →