What AI Red-Team Evaluations Can and Cannot Prove
تضع هذه الورقة "سقفاً استدلالياً" قابلاً للحساب لتقييمات الفرق الحمراء للذكاء الاصطناعي، حيث تثبت أنه في حين يمكن للمعايير المرجعية الحالية أن تصادق بفعالية على السلامة فيما يتعلق بالأضرار عالية التكرار، إلا أنها غير كافية جوهرياً لإثبات السلامة تجاه المخاطر الكارثية النادرة بسبب القيود الإحصائية المتأصلة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق تحاول حل لغز: "هل هذا الروبوت الجديد آمن لإطلاقه في العالم الحقيقي؟" لمعرفة ذلك، لا تكتفي بسؤال الروبوت أن يقول "أنا جيد"؛ بل تخضعه لسلسلة من الاختبارات الماكرة، مثل تمرين "الفريق الأحمر" (red-team exercise) حيث تحاول خداعه لقول شيء مسيء أو خطير. هذا هو عالم تقييم سلامة الذكاء الاصطناعي. ولكن إليك العقبة: كم عدد الخدع التي تحتاج لتجربتها قبل أن يمكنك أن تكون متأكداً من أن الروبوت آمن؟ إذا جربت 10 خدع ونجح فيها، فهل هذا كافٍ؟ ماذا لو كان الروبوت خطيراً مرة واحدة فقط في كل مليون محاولة؟
هنا يأتي دور الإحصاء. فكر في الأمر كأنه كشاف ضوئي في غرفة مظلمة. الكشاف الصغير (الاختبار الصغير) يمكنه بسهولة إظهار صخرة كبيرة وواضحة على الأرض (خطأ شائع). ولكن إذا كان الخطر عبارة عن ذرة غبار صغيرة، تكاد تكون غير مرئية ولا تظهر إلا نادراً، فإن نفس الكشاف الصغير قد يخطئها تماماً، حتى لو كانت ذرة الغبار موجودة بالفعل. لقد ناقل العلماء طويلاً ما إذا كانت "اختبارات سلامة" الذكاء الاصطناعي هذه مفيدة حقاً أم أنها مجرد إضاعة للوقت. البعض يقول إنها لا تثبت شيئاً؛ والبعض الآخر يقول إنها تثبت كل شيء. تأتي هذه الورقة البحثية لتفصل في الجدل عبر القيام بشيء محدد للغاية: وهو حساب مدى سطوع الكشاف الضوئي المطلوب بالضبط لرؤية أحجام مختلفة من ذرات الغبار.
تجادل الورقة، التي كتبتها "باندانا كور" من مختبرات "أبي سيك ريسيرش" (APIsec Research Labs)، بأن اختبارات السلامة ليست عديمة الفائدة، لكنها ليست أيضاً عصا سحرية. فهي لها حد أقصى لما يمكن أن تثبته، وهذا الحد هو مسألة رياضية، وليس مسألة رأي. تستخدم المؤلفة مفهوماً يسمى "السقف الدليلي" (evidential ceiling). تخيل أن لديك دلواً لا يمكنه حمل سوى كمية معينة من الماء. إذا كنت تحاول إثبات أن التسريب صغير، فإن دلواً ممتلئاً بالماء (اختبار نظيف بصفر إخفاقات) سيكون مقنعاً للغاية. ولكن إذا كنت تحاول إثبات أن التسريب ضئيل جداً (مثل فشل كارثي نادر)، فإن نفس الدلو قد يكون أصغر من أن يلتقط ما يكفي من الأدلة لتكون متأكداً.
النتيجة الرئيسية للورقة هي وجود "نقطة عبور" يمكن حسابها. إذا كان نوع من الضرر يحدث بشكل متكرر (مثل 1% من الوقت)، فإن اختباراً قياسياً يتكون من حوالي 520 مطالبة (prompt) كافٍ للقول: "حسناً، يبدو أن هذا النموذج آمن بما يكفي للنشر". في الواقع، إذا أجريت 520 اختباراً ولم تجد أي مشاكل، فإن ذلك يعد دليلاً أقوى من رؤية مشكلة واحدة فقط. الأمر يشبه العثست في غرفة نظيفة: إذا كنت تتوقع وجود الجراثيم في كل مكان، فإن الغرفة النظيفة ستكون مفاجأة كبيرة وتثبت أن شيئاً ما يعمل بشكل صحيح.
ومع ذلك، ترسم الورقة خطاً حازماً في الرمال بالنسبة للأحداث النادرة. إذا كان السلوك الضار نادراً للغاية (على سبيل المثال، يحدث بنسبة أقل من 0.001% من الوقت)، فلا يهم عدد المطالبات التي تجربها ضمن ميزانية معقولة، فإن "الورقة البيضاء" (صفر إخفاقات) لا تخبرك بشيء تقريباً. توضح الرياضيات أنه بالنسبة لهذه المخاطر الكارثية النادرة، فإن نتيجة الاختبار النظيف هي دليل ضعيف. في هذه المنطقة، يكون ملاحظة فشل واحد في الواقع أكثر إفادة من الاختبار النظيف، لأن الاختبار النظيف قد يكون مجرد حظ جيد. تحسب الورقة أن المعايير المرجعية العامة الحالية "أقصر من المطلوب بعدة مراتب" (orders of magnitude short) — أي أنها أصغر بآلاف المرات من أن تثبت السلامة.
تشير المؤلفة أيضاً إلى أن الطريقة التي تُبنى بها هذه الاختبارات مهمة. إذا كانت أسئلة الاختبار متشابهة جداً (مثل طرح نفس السؤال بكلمات مختلفة قليلاً)، فذلك يشبه البحث عن إبرة في كومة قش ولكنك تفحص زاوية واحدة فقط من الغرفة. تشير الورقة إلى أن الاختبارات الحالية غالباً ما تتجمع معاً، مما يجعلها أقل فعالية مما تبدو عليه على الورق. علاوة على ذلك، تجادل الورقة ضد فكرة أننا نحتاج فقط إلى "المزيد" من الاختبارات. بدلاً من ذلك، نحن بحاجة إلى اختبارات أذكى تكون أفضل في التمييز بين النموذج الآمن والنموذج غير الآمن. إذا كان بإمكان الاختبار خداع نموذج سيء بنسبة 90% ولكنه يخدع نموذجاً جيداً بنسبة 10% فقط، فهذه أداة قوية. ولكن إذا كان يخدع كليهما بالتساوي، فهو عديم الفائدة، بغض النظر عن عدد المرات التي تشغله فيها.
في النهاية، تقترح الورقة قاعدة جديدة لكيفية إبلاغ مختبرات الذكاء الاصطناعي عن نتائجها. بدلاً من مجرد قول "لقد أجرينا 500 اختبار ولم نجد شيئاً سيئاً"، يجب عليهم الإبلاغ بدقة عما يمكن لاختبارهم إثباته. إذا كان معدل الضرر مرتفعاً، يمكنهم ادعاء السلامة. وإذا كان معدل الضرر منخفضاً ونادراً، فيجب عليهم الاعتراف بأن اختبارهم لم يستطع إثبات السلامة وأنهم بحاجة إلى أنواع أخرى من الأدلة. لا تقول الورقة إنه يجب علينا التوقف عن الاختبار؛ بل تقول إنه يجب علينا التوقف عن التظاهر بأن اختباراتنا يمكنها إثبات أشياء لا تستطيع إثباتها رياضياً. إنها دعوة للأمانة: اعرف حدود كشافك الضوئي، ولا تدعي أنك ترى الغرفة بأكملها إذا كنت تضيء زاوية واحدة منها فقط.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.