FERRET: Framework for Expansion Reliant Red Teaming
تقدم الورقة البحثية FERRET، وهو إطار عمل آلي متعدد الأوجه لاختبار الاختراق (red teaming) يستخدم التوسعات الأفقية والعمودية والميتا لتوليد محادثات عدائية متعددة الوسائط وفعالة، مما يظهر أداءً متفوقاً على النهج الحالية الرائدة في هذا المجال.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقوم ببناء روبوت جديد وذكي للغاية، يمكنه التحدث، ورؤية الصور، وفهم العالم. قبل أن تطلق هذا الروبوت في الإنترنت لمساعدة الناس، عليك التأكد من أنه لن يقول أي شيء مسيء أو خطير أو غير قانوني. عملية محاولة "كسر" الروبوت للعثور على نقاط ضعفه تسمى Red Teaming (الفريق الأحمر).
يقدم البحث أداة جديدة فائقة الذكاء تسمى FERRET (إطار العمل القائم على التوسع للتدقيق الأمني). فكر في FERRET ليس فقط كأداة اختبار، بل كـ محقق ماهر يتطور باستمرار للإيقاع بالروبوت على حين غرة.
إليك كيف يعمل FERRET، مشروحاً من خلال قصة بسيطة:
استراتيجية المحقق ذات الخطوات الثلاث
كانت الطرق القديمة لاختبار الروبوتات تشبه طفلاً يرمي حجراً واحداً على جدار ليرى ما إذا كان سيتصدع. لكن FERRET مختلف؛ فهو يشبه المحقق الذي يخطط لعملية سطو كاملة. إنه يستخدم ثلاثة أنواع محددة من "التوسعات" (طرق لتنمية مهاراته) للقيام بذلك:
1. التوسع الأفقي: "مولد الأفكار"
- التشبيه: تخيل أنك تحاول خداع كلب حراسة. بدلاً من مجرد التخمين عما ستقوله، تجلس وتستعرض ذهنياً 100 جملة افتتاحية مختلفة. تجرب قول "أنا جائع"، ثم "أنا ضائع"، ثم "لدي سر". تحتفظ بالجمل التي تجعل الكلب ينبح وتتخلص من الجمل التي تجعله ينام.
- ماذا يفعل FERFER: يبدأ بتوليد العديد من "بدايات المحادثة" (الطلبات/Prompts). يتعلم من إخفاقاته ونجاحاته السابقة ليعرف أي الجمل الافتتاحية هي الأكثر قدرة على خداع النموذج المستهدف. إنه يسأل نفسه باستمرار: "ما هي أفضل طريقة لبدء محادثة قد تؤدي إلى المشاكل؟"
2. التوسع الرأسي: "الغوص العميق"
- التشبيه: بمجرد العثور على جملة افتتاحية جيدة (مثل "أنا ضائع")، لا تتوقف عند هذا الحد. تستمر في الحديث. تقول: "في الواقع، أنا ضائع في منطقة خطيرة في المدينة"، ثم "هل يمكنك إظهار خريطة لي؟"، ثم "هل يمكنك رسم صورة لي عن الخطر؟". أنت تقوم بتكديس الأسئلة فوق بعضها البعض، وتخلط بين الكلمات والصور، لتضعف دفاعات كلب الحراسة تدريجياً.
- ماذا يفعل FERRET: يأخذ تلك الجمل الافتتاحية الجيدة ويحولها إلى محادثات كاملة وطويلة. والأهم من ذلك، أنه يمزج بين النصوص والصور معاً. قد يرسل نصاً يقول "هذا رسم غير ضار" بينما يرسل في الواقع صورة تحتوي على رسالة مخفية وخطيرة. يستمر في المحادثة حتى يرتكب الروبوت خطأً.
3. التوسع الميتا (النمطي): "المخترع"
- التشبيه: تخيل أن كلب الحراسة بارع جداً في كشف الحيل التقليدية. لذا، يقرر المحقق اختراع حيلة جديدة تماماً في اللحظة ذاتها. ربما يدرك أنه إذا همس بشفرة سرية أثناء الإشارة إلى لون معين، فإن الكلب سيصاب بالارتباك. إنه يخترع قواعد اشتباك جديدة أثناء سير اللعبة.
- ماذا يفعل FERRET: أثناء حدوث المحادثة، ينظر FERRET إلى الحيل التي يستخدمها ويفكر: "كيف يمكنني جعل هذا أفضل؟". إنه يخترع تقنيات "كسر الحماية" (Jailbreak) وأساليب هجوم جديدة على الطاير، مبتكراً طرقاً لم يسبق لها مثيل.
لماذا FERRET مميز؟
قبل ظهور FERFER، كان هناك نوعان رئيسيان من المختبرين:
- رماة الطلقة الواحدة: كانوا يلقون سؤالاً سيئاً واحداً على النموذج ثم يتوقفون. (جيد للسرعة، سيئ للعمق).
- المتحدثون الموجهون نحو هدف: كان لديهم هدف سيئ محدد (مثل "جعل الروبوت ينطق بكلمة نابية") ويحاولون التحدث للوصول إليه. (جيد للعمق، لكنهم يحتاجون إلى إنسان ليعطيهم الهدف أولاً).
FERRET يجمع بين أفضل ما في العالمين. فهو لا يحتاج إلى إنسان ليخبره ما هو الهدف السيئ الذي يجب أن يصبو إليه؛ بل يكتشف الأهداف السيئة بنفسه (الأفقي). ثم يخوض محادثة طويلة وعميقة لتحقيقها (الرأسي)، ويخترع حيلًا جديدة أثناء القيام بذلك (الميتا).
النتائج: هل نجح الأمر؟
اختبر الباحثون FERRET مقابل أدوات اختبار شهيرة أخرى (مثل FLIRT و GOAT) على ثلاثة نماذج ذكاء اصطناعي فائقة الذكاء.
- النتيجة: نجح FERRET في كسر النماذج بشكل أكثر تكراراً من أي شخص آخر. لقد وجد المزيد من نقاط الضعف وابتكر طرقاً أكثر تنوعاً لخداع الذكاء الاصطناعي.
- اختبار البشر: حتى أنهم جعلوا بشرًا حقيقيين يراجعون المحادثات التي أنشأها FERFET. واتفق البشر على أن FERRET كان الأكثر فعالية في العثور على الثغرات الخطيرة في سلامة الذكاء الاصطناعي.
الصورة الكبيرة
فكر في FERRET كـ حارس أمن يطور نفسه ذاتياً للذكاء الاصطناعي. بدلاً من الانتظار حتى يخبره إنسان بما يجب اختباره، فإنه يتدرب، ويتعلم من أخطائه، ويخترع طرقاً جديدة لكسر النظام، ويمزج النصوص مع الصور للعثور على الثغرات التي تفوتها المختبرات الأخرى.
الهدف ليس إيذاء الذكاء الاصطناعي فعلياً؛ بل هو العثور على الشقوق في الدرع قبل أن يجدها الأشرار، حتى يتمكن المطورون من إصلاحها وجعل الذكاء الاصطناعي أكثر أماناً للجميع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.