Redefining AI Red Teaming in the Agentic Era: From Weeks to Hours
تقدم هذه الورقة عميلًا لاختبار الاختراق بالذكاء الاصطناعي (AI red teaming agent) مبنيًا على حزمة أدوات Dreadnode مفتوحة المصدر، والذي يعمل على أتمتة إنشاء سير عمل أمني معقد عبر اللغة الطبيعية، مما يقلل الوقت المطلوب لفحص أنظمة الذكاء الاصطناعي الحرجة من أسابيع إلى ساعات مع توحيد اختبار النماذج التقليدية والنماذج التوليدية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول اختبار أمن خزنة رقمية متطورة وجديدة للغاية (نظام ذكاء اصطناعي). في الماضي، لكي تفعل ذلك، كان عليك أن تكون خبيرًا في فتح الأقفال يقضي أسابيع في صنع مئات المفاتيح الفريدة يدويًا، وتجربتها واحدًا تلو الآخر، ثم كتابة تقرير حول أي منها نجح. إذا لم يناسب المفتاح القفل، كان عليك البدء من الصفر. هذا ما تسميه الورقة البحثية بـ "النهج المرتكز على المكتبة": حيث يظل المشغل البشري عالقًا في القيام بكل العمل الشاق لتجميع الأدوات.
تقدم هذه الورقة طريقة جديدة للقيام بالأمر: النهج "الوكيل" (The Agentic Approach).
فكر في هذا النظام الجديد كأنك توظف فريق أمن آلي فائق الذكاء يمكنك التحدث إليه كبشر. بدلًا من بناء المفاتيح بنفسك، ما عليك سوى إخبار الفريق: "أريد معرفة ما إذا كان بإمكان خداع هذه الخزنة لإفشاء أسرارها"، وسيتولى الفريق كل شيء آخر.
إليك تفصيل لكيفية عمل ذلك، باستخدام تشبيهات بسيطة:
1. المشكلة: كابوس "افعلها بنفسك"
اختبار سلامة الذكاء الاصطناعي حاليًا يشبه محاولة خبز كعكة معقدة حيث يتعين عليك ابتكار الدقيق الخاص بك، وخلط البيض بنفسك، وبناء فرنك الخاص.
- الطريقة القديمة: يقضي خبراء الأمن (المشغلون) أسابيع في كتابة الأكواد لتجميع "الهجمات" (المطالبات السيئة)، و"التحويلات" (تغيير الكلمات لإخفاء النية السيئة)، و"أدوات التقييم" (أدوات لتحديد ما إذا كان الذكاء الاصطناعي قد فشل).
- النتيجة: يقضون وقتًا في بناء أدوات الاختبار أكثر مما يقضونه في اختبار الذكاء الاصطناعي نفسه. وإذا أرادوا اختبار نوع جديد من الذكاء الاصطناعي، فغالبًا ما يتعين عليهم تعلم مجموعة جديدة تمامًا من الأدوات.
2. الحل: "رئيس أمن محادث"
لقد بنى المؤلفون نظامًا (يعتمد على Dreadnode SDK) يعمل كمساعد ذكي.
- اللغة الطبيعية: أنت لا تكتب أكوادًا برمجية. أنت فقط تكتب جملة في واجهة السطر البرمجي (Terminal)، مثل: "حاول خداع هذا الذكاء الاصطناعي لكتابة دليل لصنع فيروس."
- مهمة الوكيل (Agent): يأخذ وكيل الذكاء الاصطناعي هذه الجملة ويقوم تلقائيًا بـ:
- اختيار أفضل "استراتيجية هجوم" (مثل طريقة محددة لخداع الذكاء الاصطناعي).
- تطبيق "التحويلات" (مثل ترجمة الطلب إلى لغة أخرى أو تشفيره في رمز سري لمعرفة ما إذا كانت فلاتر الذكاء الاصطناعي ستتعطل).
- تشغيل الاختبار آلاف المرات.
- تقييم النتائج.
- السرعة: ما كان يستغرق أسابيع من العمل اليدوي، يستغرق الآن ساعات.
3. إطار عمل "السكين السويسري"
قبل هذا، إذا كنت تريد اختبار مصنف صور بسيط (ذكاء اصطناعي تقليدي)، كنت تحتاج إلى مجموعة من الأدوات. وإذا كنت تريد اختبار روبوت دردشة (ذكاء اصطناعي توليدي)، كنت تحتاج إلى مجموعة مختلفة تمامًا من الأدوات.
- الطريقة الجديدة: هذا النظام هو مترجم عالمي. يستخدم واجهة واحدة لاختبار كل شيء. سواء كان الهدف هو روبوت دردشة، أو نظام رؤية، أو وكيل ذكاء اصطناوت معقد يستخدم أدوات أخرى، فإن نفس "الرئيس" يتولى عملية الاختبار. الأمر يشبه امتلاك جهاز تحكم عن بعد واحد يعمل على تلفازك، ومكيف الهواء، ونظام الصوت الخاص بك، بدلًا من الحاجة إلى ثلاثة أجهزة تحكم مختلفة.
4. تجربة القيادة "Llama Scout"
لإثبات نجاح هذا النهج، اختبر المؤلفون نموذج ذكاء اصطناعي حقيقي يسمى Meta's Llama Scout.
- المهمة: طلبوا من الوكيل محاولة كسر قواعد السلامة الخاصة بالذكاء الاصطناعي فيما يتعلق بالمحتوى الضار (مثل صنع برامج ضارة، أو سرقة كلمات المرور، أو تقديم نصائح لإيذاء النفس).
- النتيجة: قام الوكيل بكل شيء بمفرده. لقد نفذ 674 هجوماً مختلفاً و 7,727 تجربة في غضون 3 ساعات فقط.
- الدرجة: نجح في كسر قواعد السلامة للذكاء الاصطناعي في 85% من المرات.
- معجزة "صفر كود": لم يكتب المشغل البشري سطرًا واحدًا من الكود. لقد وصف الهدف فحسب، وقام الوكيل بالباقي.
5. "المُقرر الآلي"
عندما ينتهي الاختبار، لا يرمي النظام عليك كومة من البيانات الخام.
- الطريقة القديمة: تحصل على جدول بيانات يحتوي على آلاف الأرقام وعليك اكتشاف معناها.
- الطريقة الجديدة: يعمل النظام مثل صحفي ذكي. فهو يقرأ جميع النتائج، ويكتب تقريرًا واضحًا، ويسلط الضوء على حالات الفشل الأكثر خطورة (مثل "حرجة" أو "عالية" الخطورة)، بل ويقوم بتصنيفها تلقائيًا مع ملصقات الامتثال الرسمية (مثل معايير "OWASP" أو "NIST"). إنه يخبرك بالضبط بما حدث بشكل خاطئ و"كيف" تعالجه.
الملخص
تجادل الورقة البحثية بأننا ننتقل من عصر كان فيه البشر ميكانيكيين (يبنون أدوات الاختبار بأنفسهم) إلى عصر يكون فيه البشر طيارين (يخبرون الآلة أين تطير).
من خلال استخدام نظام "الوكيل" (Agentic)، يمكن لفرق الأمن التوقف عن إضاعة الوقت في تجميع الأدوات والبدء في التركيز على المهمة الفعلية: العث وصل إلى الثغرات وإصلاحها في سلامة الذكاء الاصطناعي قبل أن يجدها الأشخاص السيئون. وتزعم الورقة أن هذا التحول يحول عملية كانت تستغرق أسابيع إلى عملية تستغرق ساعات، وكل ذلك دون كتابة سطر واحد من الكود.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.