🤖 AI

A Reproducible, License-Aware Distillation Recipe for CPUDeployable Safety Classification

تقدم هذه الورقة وصفة قابلة لإعادة الإنتاج، ومدركة للتراخيص، لتقطير المعرفة تُدرب مصنفات سلامة صغيرة وفعالة في استهلاك المعالج المركزي لتطابق أداء نماذج الحماية الأكبر الموجهة للمعالجات الرسومية على النصوص العدائية، مع تقليل الإنذارات الكاذبة بشكل كبير في المطالبات غير الضارة من خلال إعادة التوازن لكل فئة.

المؤلفون الأصليون: Edson Rodrigues da Cruz Filho, Paulo Ricardo Ferreira Neves, Paulo Henrique Eleuterio Falsetti, João Vitor Pavan, Ian Degaspari, Henrique Vieira Laturrague, Patrick Vieira Laturrague, Guilherme Nielse

نُشر 2026-08-25

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Edson Rodrigues da Cruz Filho, Paulo Ricardo Ferreira Neves, Paulo Henrique Eleuterio Falsetti, João Vitor Pavan, Ian Degaspari, Henrique Vieira Laturrague, Patrick Vieira Laturrague, Guilherme Nielsen Dias, Marccello Wilson Perez Berto, Gustavo Voltani Von Atzingen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تُعد النماذج اللغوية الكبيرة أدوات قوية يمكنها الكتابة، والتعليل، والمحادثة، لكنها ليست آمنة بطبيعتها. فبدون وجود مرشح، قد تولد تعليمات ضارة، أو خطاب كراهية، أو نصائح خطيرة. ولمنع حدوث ذلك، يضع المطورون طبقة أمان أمام هذه النماذج، وهي نظام مخصص يعمل كحارس بوابة. يقرأ هذا الحارس كل رسالة ويقرر ما إذا كانت تنتهك سياسة ما. حالياً، أفضل حراس البوابات هم برامج حاسوبية ضخمة تتطلب أجهزة رسوميات متخصصة وباهظة الثمن لتعمل بسرعة. وإذا حاولت تشغيلها على معالج حاسوبي قياسي، فإنها تصبح بطيئة للغاية، حيث تستغرق عدة ثوانٍ للإجابة على سؤال واحد. وهذا يخلق مشكلة للعديد من التطبيقات التي تحتاج إلى العمل على أجهزة عادية وميسورة التكلفة أو تتطلب استجابات فورية. وكان السؤال الذي طرحه الباحثون هو ما إذا كان من الممكن تقليص حجم أنظمة الأمان الضخمة هذه لتناسب حاسوباً عادياً دون فقدان قدرتها على رصد الخطر.

لقد سعى فريق من الباحثين لحل هذه المشكلة من خلال ابتكار طريقة جديدة لتدريب أنظمة أمان أصغر حجماً. بدأوا بنموذج أمان كبير وقوي يثقون في دقته. عمل هذا النموذج الكبير كمعلم، حيث قام بقراءة مجموعة هائلة تضم حوالي 97,000 مطالبة مختلفة وتصنيفها إلى سبع فئات محددة من الضرر، مثل العنف الجسدي، أو خطاب الكراهية، أو النصائح الخطيرة. ثم قام الباحثون بتدريب أسطول من النماذج الأصغر بكثير لمحاكاة أحكام المعلم. صُممت هذه النماذج الصغيرة لتكون خفيفة الوزن بما يكفي لتعمل على معالجات الحاسوب القياسية. وقد حرص الفريق على ضمان أن تكون بيانات التدريب الخاصة بهم قابلة للاستخدام قانونياً في المنتجات التجارية، حيث قسموا البيانات إلى مجموعتين: إحداهما يمكن استخدامها للبرمجيات العامة، والأخرى مخصدة للبحث فقط. وقد سمح لهم ذلك بقياس مدى التكلفة التي تفرضها القيود القانونية على الأداء بدقة.

أظهرت النتائج أن النماذج الأصغر يمكنها بالفعل تعلم أن تكون حراساً فعالين للأمان. وعند اختبارها على نصوص عدائية صعبة صُممت لخداع النظام، أدى النموذج التوليدي الأصغر أداءً يضاهي النموذج المعلم الضخم، حيث طابق قدرته على رصد الخطر. والأكثر إثارة للدهشة، هو أن النموذج التوليدي الصغير كان أفضل في تجنب الإنذارات الكاذبة. فبينما كان المعلم الكبير يحظر أحياناً الرسائل غير الضارة عن طريق الخطأ، كان النموذج التطليدي الصغير يرتكب هذا الخطأ بشكل أقل، حيث صنف حوالي 3.8 بالمائة فقط من المطالبات الآمنة على أنها خطيرة، مقارنة بـ 4.8 بالمائة للمعلم الكبير. ومع ذلك، كانت النماذج الصغيرة الأخرى، مثل نماذج الترميز (encoders) والشبكات الضحلة، أسوأ من المعلمين في تجنب هذه الإنذارات الكاذبة. غير أن الحل الأكثر كفاءة لم يكن نموذجاً توليدياً بل كان مُرمِّزاً متخصصاً، وهو نوع من الأنظمة المصممة خصيصاً للتصنيف. استطاع هذا المُرمِّز معالجة طلب في غض_ب 24 ميلي ثانية على حاسوب قياسي، مما يجعله فورياً تقريباً للمستخدم البشري. وفي المقابل، كان المعلم الكبير يستغرق ثوانٍ للقيام بنفس المهمة على نفس الأجهزة.

كما كشفت الدراسة أن حدود هذه الأنظمة لا تعود إلى حجم نموذج الحاسوب، بل إلى تعريفات المشكلات التي تحاول حلها. وجد الباحثون أن جميع النماذج، من النماذج الصغيرة جداً إلى المعلم الضخم، عانت بالتساوي مع فئة محددة: وهي النصائح الضارة. وسواء كان النموذج يحتوي على ملايين أو مليارات المعلمات، فإنه غالباً ما فشل في التمييز بين النصيحة المفيدة والنصيحة التي قد تؤدي إلى ضرر. وهذا يشير إلى أن الصعوبة تكمن في كيفية تعريف الفئات، وليس في القدرة الحوسبية المتاحة. وخلص الباحثون إلى أن النهج الأفضل لمعظم تطبيقات العالم الحقيقي هو استخدام هذه النماذج الصغيرة المقطرة (distilled). فهي توفر توازناً بين السرعة والدقة يجعل طبقات الأمان ممكنة على الأجهزة العادية، بشرط أن تكون تعريفات ما يشكل ضرراً واضحة ومتسقة. ويعمل هذا العمل كدليل عملي لبناء أنظمة ذكاء اصطنا-عي أكثر أماناً وسرعة وسهولة في الوصول إليها دون الاعتماد على معدات متخصصة وباهظة الثمن.

أبحاث مشابهة