Toward a Threat Actor Profiling Taxonomy for Pre-Release Risk Management of Open-Weight Frontier Models
تقترح هذه الورقة تصنيفاً قائماً على أسس تجريبية يتكون من ست سمات لتوصيف الجهات المهددة بشكل صريح، وذلك لتوحيد إدارة المخاطر قبل الإصدار وتحسين قابلية التفسير والموثوقية للتقييمات الخاصة بنماذج الذكاء الاصطناعي ذات الأوزان المفتوحة والرائدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي المتطور بسرعة، ظهر نوع معين من البرمجيات يعمل كأداة عالمية قوية. هذه الأنظمة، المعروفة باسم النماذج الرائدة (frontier models)، يمكنها كتابة الأكواد البرمجية، وتحليل البيانات المعقدة، وحل المشكلات التي كانت تتطلب في السابق خبراء بشريين. لسنوات طويلة، كانت النسخ الأكثر تقدمًا من هذه الأدوات تُحفظ خلف أبواب مغلقة، ولا يمكن الوصول إليها إلا من خلال اتصالات إنترنت آمنة حيث يمكن للمطورين مراقبة كيفية استخدامها. ومع ذلك، هناك موجة جديدة من هذه النماذج يتم إصدارها مع توفر "أوزانها" الأساسية — وهي التعليمات الرياضية الجوهرية التي تجعلها تعمل — مجانًا للجميع لتحميلها. هذا التحول يشبه تسليم المخططات وأجزاء المحرك لسيارة عالية الأداء إلى الجمهور؛ فبينما يسمح ذلك بابتكار وبحث مذهلين، فإنه يعني أيضًا أنه بمجرد خروج هذه الأجزاء، لا يمكن استردادها. إذا قام شخص ما بتحميل هذه الملفات، فيمكنه تعديل البرنامج، أو إزالة ميزات السلامة، أو استخدامه لأغراض ضارة دون أن يعلم المبتكرون الأصليون بذلك أبدًا.
يتمثل التحدي المركزي للأشخاص الذين يبنون هذه الأنظمة في معرفة مدى خطورتها قبل إصدارها. حاليًا، تقوم فرق السلامة بإجراء اختبارات لمعرفة ما يمكن للنموذج القيام به، وغالبًا ما تطلب منه حل مشكلات صعبة أو تحاول خداعه للكشف عن معلومات ضارة. ولكن توجد فجوة كبيرة في كيفية تصميم هذه الاختبارات. غالبًا ما يفترض باحثو السلامة أن "فاعلاً سيئًا" عامًا قد يساء استخدام التكنولوجيا، لكنهم نادرًا ما يحددون بدقة من هو هذا الشخص. هل هو مراهق وحيد يمتلك حاسوبًا محمولًا؟ أم عصابة إجرامية ممولة جيدًا؟ أم فريق مدعوم من دولة من الخبراء؟ بدون صورة واضحة للخصم، قد تكون الاختبارات سهلة للغاية لمهاجم متمرس، أو صعبة للغاية لمبتدئ، مما يترك المطورين مع شعور زائف بالأمان أو خوف غير مبرر. السؤال ليس فقط ما يمكن للبرنامج القيام به، بل من هو الشخص الذي من المرجح أن يستخدمه وكم من الجهد سيحتاج للنجاح.
تتناول ورقة بحثية قُدمت مؤخرًا إلى جامعة تسينغ هوا هذا الغموض من خلال اقتراح طريقة جديدة لوصف التهديدات المحتملة. يجادل المؤلف، جيمس كيو تشانغ، بأنه قبل إجراء أي اختبار سلامة، يجب على المطورين تحديد خصائص الشخص أو المجموعة التي يحاولون الحماية منها بشكل صريح. وللقيام بذلك، أنشأ نظامًا مهيكلًا، أو تصنيفًا، يقسم الفاعل المهدد إلى ست فئات محددة. وبدلاً من استخدام تسميات غامضة مثل "ماهر" أو "ذو موارد جيدة"، يطلب النظام تفاصيل ملموسة: ما مدى التقدم التقني للفاعل؟ هل لديهم معرفة مسبقة بالبيولوجيا أو الحرب السيبرانية؟ كم عدد الأشخاص في مجموعتهم؟ ما نوع المعدات التي يمتلكونها؟ كم من المال يمكنهم إنفاقه؟ وكم من الوقت هم مستعدون لاستثماره؟
قام الباحثون بتطوير هذا الإطار من خلال النظر في كيفية تحليل الخبراء في مجالات أخرى، مثل الأمن السيبراني ودراسات الإرهاب، للتهديدات. ووجدوا أنه بينما تمتلك هذه المجالات طرقًا مفصلة لوصف المهاجمين، فإن مجتمع الذكاء الاصطناعي لم يتبنَّ بعد معيارًا مماثلاً. ينظم النظام الجديد هذه السمات الست في شبكة ذات مستويات مختلفة من القدرة، تتراوح من مستخدم أساسي بحد أدنى من الموارد إلى مؤسسة متطورة للغاية وممولة جيدًا. على سبيل المثال، تحت بند "القدرة المالية"، تتراوح المستويات من امتلاك أقل من ألف دولار إلى أكثر من عشرة ملايين. وتحت بند "الأفق الزمني"، تمتد المستويات من الأفعال الاندفاعية التي تستغرق أقل من يوم واحد إلى الحملات المستمرة التي تستمر لستة أشهر أو أكثر.
توضح الورقة البحثية قيمة هذا النهج من خلال إنشاء ملفين تعريفيين متميزين لإظهار كيف تتطلب التهديدات المختلفة اختبارات سلامة مختلفة. يصف الملف الأول "باحثًا متخرجًا متطرفًا". هذا الفرد لديه معرفة عميقة بالبيولوجيا ويعمل على هدف ضار لعدة أشهر، لكنه يعمل بمفرده وبأموال قلي খুব قليلة ومهارات حاسوبية أساسية فقط. نظرًا لأن هذا الشخص يمتلك العلم بالفعل، فيجب أن يركز اختبار السلامة بالنسبة له على ما إذا كان بإمكان الذكاء الاصطناعي مساعدته في التخطيط للوجستيات الهجوم، بدلاً من تعليمه العلم نفسه. ويصف الملف الثاني "مجموعة إجرامية صغيرة مدفوعة بالمال". هؤلاء الفاعلون لديهم مهارات حاسوبية متوسطة وبعض المال لاستئجار المعدات، لكنهم يفتقرون إلى المعرفة المحددة بهدفهم. بالنسبة لهم، الخطر الأكثر خطورة هو أن يتمكن الذكاء الاصطعي من سد فجواتهم المعرفية، والعمل كدليل لمساعدتهم في العثور على الثغرات التي لم يكونوا ليلاحظوها بمفردهم.
باستخدام هذا النظام المهيكل، يمكن للمطورين التوقف عن التخمين والبدء في تصميم اختبارات تتناسب مع المخاطر الواقعية التي يخشونها. إذا كانت الشركة تعلم أنها قلقة من مجموعة ممولة جيدًا ذات خطة طويلة الأمد، فيمكنها إعداد اختبار سلامة يمنح المختبرين ميزانية كبيرة ووقتًا كافيًا، لمحاكاة جهد جاد ومستمر. وإذا كانوا قلقين بشأن فرد وحيد بموارد محدودة، فيمكن تعديل الاختبار ليعكس تلك القيود. يقترح المؤلف أن هذه الطريقة يجب أن تصبح جزءًا قياسيًا من عملية الإصدار، تمامًا كما يجب على الباحثين الطبيين كتابة خططهم قبل بدء تجربة سريرية. وهذا من شأنه أن يضمن أن تقييمات السلامة ليست مجرد فحوصات عشوائية، بل هي قياسات دقيقة للمخاطر مقابل خصوم محددين وواضحين.
تؤكد الورقة البحثية أن هذا الأمر ملح للغاية بالنسبة للنماذج ذات الأوزان المفتوحة، حيث يتم إصدار البرنامج للجمهور ولا يمكن استدعاؤه. بمجرد خروج هذه الأوزان، يفقد المطورون السيطرة، مما يجعل قرار ما قبل الإصدار هو الفرصة الوحيدة لمنع الضرر. لا يدعي المؤلف أن هذا النظام يحل جميع مشافت السلامة أو أنه يمكنه التنبؤ بالمستقبل بيقين. بدلاً من ذلك، يقدم أداة لجعل الافتراضات الكامنة وراء اختبارات السلامة مرئية وقابلة للمقارنة. ومن خلال إجبار المطورين على ملء تفاصيل من يحمون منه، يجعل النظام من الصعب التغاضي عن السيناريوهات الخطيرة ومن السهل مقارنة سلامة النماذج المختلفة. الهدف النهائي هو نقل الصناعة من التحذيرات الغامضة إلى إدارة مخاطر واضحة وقابلة للتنفيذ، لضمان فهم القدرات القوية لهذه التقنيات الجديدة في سياق الأشخاص الذين قد يحاولون إساءة استخدامها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.