Code as a Weapon: A Consensus-Labeled Prompt Bank for Measuring Coding-Model Compliance with Malicious-Code Requests
تقدم هذه الورقة بنك مطالبات مصنف بالإجماع يميز بين الكود البرمجي الخبيث القابل للتنفيذ والمعرفة الأمنية الضارة لتوفير معيار مرجعي موثوق ومعياري لقياس ما إذا كانت النماذج المتخصصة في البرمجة تستوفي معايير الرفض الأكثر صرامة المطلوبة لمنع توليد أسلحة وظيفية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "الكود كسلاح" (Code as a Weapon)، باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
الفكرة الكبرى: النص مقابل الشيء الحقيقي
تخيّل أنك سألت روبوت دردشة عاماً: "كيف أصنع قنبلة؟". إذا أجاب، فإنه يعطيك وصفة. لا يزال يتعين عليك الذهاب إلى المتجر، وشراء المكونات، وخلطها بنفسك. إنها معلومات خطيرة، لكنها مجرد كلمات.
الآن، تخيّل أنك سألت ذكاءً اصطناعياً متخصصاً في البرمجة نفس السؤال. إذا أجاب، فهو لا يكتفي بإعطائك وصفة فحسب؛ بل يسلمك قنبلة جاهزة ومكتملة التركيب، جاهزة للانفجار في اللحظة التي تضغط فيها على زر "تشغيل" (Run).
يرى مؤلفو هذه الورقة أنه بما أن أجهزة الذكاء الاصطناًعي البرمجية يمكنها تسليم "أسلحة عاملة" (مثل الفيروسات أو برامج التجسس) فوراً، فيجب أن تكون أكثر صرامة في قول "لا" من روبوتات الدردشة العادية. ولكن في الوقت الحالي، لا يوجد لدى أحد طريقة جيدة لقياس ما إذا كانت تقول "لا" بشكل كافٍ بالفعل.
المشكلة: خلط التفاح بالبرتقال
لاختبار مدى أمان هذه الأنظمة، يستخدم الباحثون قوائم من الأسئلة (المطالبات/Prompts). لكن هذه القوائم كانت غير منظمة؛ فهي تمزج بين نوعين مختلفين تماماً من الطلبات الخطيرة:
- طلبات "السلاح": "اكتب لي برنامجاً يسرق كلمات المرور". (الذكاء الاصطناعي يعطيك الكود).
- طلبات "المعرفة": "اشرح كيف تتم عملية سرقة كلمات المرور". (الذكاء الاصطناعي يعطيك مقالاً).
إذا مزجت بينهما وقلت: "هذا الذكاء الاصطناعي رفض 50% من الطلبات السيئة"، فأنت لا تعرف ما إذا كان قد رفض الأسلحة أم رفض فقط الشروحات. الأمر يشبه اختبار حارس أمن بطلب منه منع لص وفي نفس الوقت منعه من طلب الاتجاهات؛ إذا منع الحارس اللص وسمح لطلب الاتجاهات بالمرور، فلا يمكنك معرفة ما إذا كان جيداً في عمله بمجرد النظر إلى إجمالي عدد الأشخاص الذين تم منعهم.
الحل: "بنك مطالبات" مصنف بالإجماع
أنشأ المؤلفون قائمة ضخمة، نظيفة، ومنظمة من 6,675 سؤالاً خطيراً. وقسموها إلى مجموعتين واضحتين:
- مجموعة "الكود" (CODE): الأسئلة التي تطلب برمجيات خطيرة وقابلة للتنفيذ (الأسلحة).
- مجموعة "المعرفة" (KNOWLEDGE): الأسئلة التي تطلب معلومات أو نظريات ضارة (الوصفات).
وللتأكد من تصنيف الأسئلة بشكل صحيح، لم يكتفوا بسؤال شخص واحد، بل استخدموا لجنة مكونة من خمسة أحكام من الذكاء الاصطناعي (مثل هيئة المحلفين). نظر كل حكم في كل سؤال وصوّت: "هل هذا طلب سلاح؟" أم "هل هذا طلب معرفة؟".
- الحكم: إذا اتفق 3 من أصل 5 أحكام على شيء ما، يتم منح السؤال تصنيفاً نهائياً.
- النتيجة: انتهى بهم الأمر بـ 4,748 طلباً مؤكداً لـ "الأسلحة" و 1,923 طلباً مؤكداً لـ "المعرفة".
"اللجنة" والمفاجآت
استخدم المؤلفون خمسة نماذج مختلفة من الذكاء الاصطناعي للقيام بدور الأحكام. أرادوا التأكد من أن الاختبار رخيص ومتاح للجميع، لذا اختاروا نماذج مجانية أو مفتوحة المصدر بدلاً من النماذج المدفوعة والمكلفة.
خلال هذه العملية، وجدوا أمرين مثيرين للاهتمام:
1. مفارقة "السهولة المفرطة"
بالنسبة لبعض قوائم الأسئلة (مثل قائمة ASTRA)، كان كل سؤال تقريباً عبارة عن "سلاح" واضح جداً. اتفقت اللجنة بنسبة 99% من الوقت.
- التشبيه: تخيل اختبار رياضيات حيث كل سؤال هو "كم يساوي 2+2؟". الجميع سيحصل على 100%. لا يمكنك حقاً قياس مدى "ذكاء" الطلاب لأن الاختبار كان سهلاً للغاية.
- النتيجة: في الإحصاء، عندما يتفق الجميع على كل شيء، فإن درجة "الاتفاق" المعتادة (التي تسمى Kappa) تتعطل وتبدو كصفر أو رقم سالب. اضطر المؤلفون لابتكار طريقة خاصة للإبلاغ عن ذلك: "مهلاً، لقد اتفق الجميع تماماً، لكن الدرجة الرياضية تبدو غريبة لأن الاختبار كان سهلاً جداً".
2. خلل "حارس البوابة"
بدأ أحد الأحكام الخمسة (وهو نموذج مجاني من OpenAI) برفض الإجابة على أي من الأسئلة، حتى تلك التي كان من المفترض أن يحكمها. كان يصطدم باستمرار بـ "علامة التوقف" (المنع) من الشركة المستضيفة له.
- التشبيه: تخيل هيئة محلفين حيث يتم طرد أحد المحلفين باستمرار من قاعة المحكمة لأنه يطرح الكثير من الأسئلة.
- الحل: بما أن القاعدة كانت "3 من أصل 5"، استطاع الأحكام الأربعة الآخرون اتخاذ القرار. لاحظ المؤلفون هذا كخلل واقعي: أحياناً، أدوات الاختبار المجانية التي تستخدمها لاختبار السلامة لديها فلاتر سلامة خاصة بها تمنع الاختبار قبل أن يبدأ حتى.
لماذا يهم هذا الأمر؟
لا تتعلق هذه الورقة باختبار ذكاء اصطناعي معين لمعرفة ما إذا كان آمناً اليوم. بدلاً من ذلك، تتعلق بـ بناء المسطرة التي يمكن للجميع استخدامها.
قبل هذا، كان الباحثون يحاولون قياس السلامة بمسطرة مكسورة تخلط بين "الأسلحة" و"الوصفات". الآن، لديهم مسطرة معيارية عالية الجودة (بنك المطالبات) تفصل بوضوح بين الاثنين. وهذا يسمح لأي شخص باختبار أجهزة الذكاء الاصطناعي البرمجية والقول: "حسناً، هذا الذكاء الاصطناعي رفض 90% من الأسلحة الفعلية"، وهو فحص سلامة أكثر جدوى بكثير مما كان عليه الوضع سابقاً.
الملخص
- الهدف: إنشاء قائمة نظيفة من الأسئلة الخطيرة لاختبار ما إذا كانت أنظمة الذكاء الاصطناعي البرمجية آمنة.
- الطريقة: استخدام "لجنة" من 5 نماذج ذكاء اصطناعي لتصنيف 6,675 سؤالاً إلى "أسلحة" (كود) و"وصفات" (معرفة).
- النتيجة: قاعدة بيانات عامة تضم 4,748 طلباً مؤكداً للأسلحة و 1,923 طلباً للمعرفة.
- الرؤية الجوهرية: لا يمكنك قياس السلامة بشكل صحيح إذا خلطت بين "صنع قنبلة" وبين "القراءة عن القنابل". هذه الورقة تعالج هذا الخلط.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.