Responsiveness Verification: Will Predictions Change? How Much? How Often?
تقدم هذه الورقة إطار عمل وخوارزميات لقياس "الاستجابة" —وهي احتمالية تغير مخرجات نموذج تعلم الآلة عند تعديل مدخلاته عبر التفاعلات، أو الضجيج، أو التلاعب— مما يوفر ضمانات إحصائية لتعزيز السلامة والموثوقية عبر مجالات مثل التنبؤ بالعودة للإجرام، والإشراف على المحتوى، واختبار نماذج اللغات الكبيرة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تلعب لعبة فيديو تتغير قواعدها في كل مرة تضغط فيها على زر. إذا قفزت، قد تتحرك الأرضية؛ وإذا أطلقت النار، قد ينتقل العدو آنياً. في العالم الحقيقي، "اللاعبون" هم البشر، و"اللعبة" هي نماذج تعلم الآلة التي تقرر أشياء مثل من يحصل على قرض، أو من يتم تصنيفه كـ "روبوت"، أو أي روبوت دردشة ذكاء اصطناعي هو آمن للاستخدام. عادة ما يتم تدريب هذه النماذج على لقطة ثابتة للعالم، مثل صورة فوتوغرافية. لكن العالم الحقيقي هو فيلم سينمائي؛ فالناس يغيرون سلوكهم، أحياناً للتلاعب بالنظام، وأحياناً لمجرد ممارسة حياتهم. السؤال الكبير الذي يطرحه العلماء هو: إذا غير الشخص مدخلاته (مثل دخله، أو منشوراته على وسائل التواصل الاجتماعي، أو طريقة كتابته للأوامر)، هل ستتغير إجابة النموذج بطريقة يمكن التنبؤ بها؟ أم أن النموذج سيظل عالقاً، معطياً نفس الإجابة الخاطئة بغض النظر عما يفعله الشخص؟ هذه هي مشكلة "الاستجابة". إذا لم يكن النموذج مستجيباً، فقد يكون ذلك خطيراً لأنه قد يحرم شخصاً ما من الفرص بشكل دائم أو يسمح لجهات سيئة بالإفلات من ملاحظتنا.
يقدم هذا البحث طريقة جديدة لاختبار هذه النماذج، ليس من خلال محاولة بناء نموذج مثالي من الصفر، بل عبر العمل كمهندس اختبار إجهاد. يقترح المؤلف "هاري تشيون" وفريقه طريقة لقياس "الاستجابة" — وهي احتمالية أن يتغير تنبؤ النموذج فعلياً عندما يتفاعل معه الشخص. فكر في الأمر كأنه "اختبار اهتزاز" لجسر؛ فبدلاً من مجرد النظر إلى المخططات، تقوم بإرسال شاحنة عبر الجسر لترى ما إذا كان سيتمايل، أو يصمد، أو ينهار. طور الفريق مجموعة أدوات تسمح لأي شخص بتحديد كيف يمكن للشخص محاولة تغيير بياناته (مثل "يمكنني زيادة مدخراتي ولكن لا يمكنني تغيير عمري") ثم يستخدم الرياضيات لمحاكاة آلاف هذه التغييرات. هم لا يخمنون فحسب؛ بل يستخدمون قواعد إحصائية صارمة للقول: "نحن متأكدون بنسبة 95% أن هذا النموذج سيغير رأيه في 88% من المرات"، أو على العكس: "هذا النموذج عنيد ولن يغير رأيه على الإطلاق، مهما حاولت".
وجد الباحثون أن العديد من النماذج عنيدة بشكل مفاجئ. في أحد الاختبارات المتعلقة بالتنبؤ بالعودة إلى الإجرام (توقع ما إذا كان الشخص سيعاود ارتكاب الجرائم)، اكتشفوا أن حوالي 17.3% من الأشخاص المتوقع عودتهم للإجرام كانوا "مستبعدين" — بمعنى أنه مهما قاموا بتحسين سجلاتهم الجنائية في المحاكاة، ظل النموذج يقول "نعم، سيعاودون الإجرام". كان النموذج يتجاهل جهودهم للتحسن فعلياً. وفي اختبار آخر مع مراقبة المحتوى (كشف حسابات الروبوتات المزيفة)، أظهروا أن بعض النماذج تبدو رائعة على الورق ولكنها في الواقع سهلة الخداع. عندما اختبروا النماذج اللغوية الكبيرة (روبوتات الدردشة الذكية) باستخدام أوامر غير ضارة، بدت بعضها آمناً. ولكن عندما "تلاعبوا" بالأوامر عبر إضافة أخطاء إملائية أو ترجمتها إلى لغات أخرى، انخفضت سلامة النماذج بشكل كبير. على سبيل المثال، بدا نموذج يسمى "OLMo 2 7B" آمناً جداً في البداية، ولكن تحت هذه الاختبارات التفاعلية، ارتفعت نسبة امتثاله للطلبات الضارة، مما جعله أقل أماناً بكثير مما بدا عليه.
يجادل البحث ضد فكرة أننا بحاجة إلى إعادة تصميم جميع نماذجنا لتكون "قابلة للتنبؤ" قبل أن نتمكن من استخدامها. بدلاً من ذلك، يقترحون أنه يجب علينا أولاً اختبار النماذج التي لدينا لنرى أين تنهار. لقد بنوا مكتبة بلغة "بايثون" لمساعدة الناس على إجراء هذا الاختبار. كان اكتشافهم الرئيسي هو أنه من خلال قياس الاستجابة، يمكننا رصد هذه الإخفاقات الخفية قبل أن تسبب ضرراً حقيقياً في العالم. لم يكتفوا باقتراح أن هذا قد ينجح، بل قدموا الخوارزميات، والضمانات الإحصائية، وأمثلة من الواقع تظهر بالضبط مدى تغير التنبؤات (أو عدم تغيرها) في سيناريوهات مختلفة. لقد أثبتوا أنه بدون هذا النوع من الاختبار، قد نثق في نماذج هي في الواقع هشة للغاية، أو والأسوأ من ذلك، نماذج غير قابلة للتغيير وغير عادلة. ويخلص البحث إلى أنه بينما لا يمكننا التحكم في كيفية تفاعل الناس مع أنظمتنا، يمكننا بالتأكيد بناء أدوات أفضل لرؤية كيفية تفاعل أنظمتنا مع تلك التفاعلات، مما يضمن بقاءها آمنة وعادلة حتى عندما يتغير العالم من حولها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.