Shieldstral
يُعد Shieldstral نموذجاً مصنفاً للسلامة متعدد الوسائط، متكيف السياسات، ومدمجاً بحجم 3 مليارات معلمة، يعمل على توحيد مهام الإشراف على المحتوى المتنوعة ضمن إطار عمل قائم على الإجابة عن أسئلة ثنائية، مما يمكّنه من مضاهاة أو تجاوز النماذج الأكبر حجماً بكثير من خلال مجموعة بيانات ضخمة ومنقحة تضم 54.1 مليون عينة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كمدينة رقمية ضخمة ومزدحمة. في هذه المدينة، هناك الملايين من الناس يتحدثون، ويشاركون الصور، ويسألون الأسئلة. ولكن تماماً مثل أي مدينة حقيقية، هي بحاجة إلى قواعد للحفاظ على الأمان. أحياناً، يقول الناس أشياء مسيئة، أو يشاركون أسراراً خطيرة، أو ينشرون صوراً لا ينبغي أن تكون موجودة. لإيقاف ذلك، نستخدم "الحواجز الواقية" (guardrails)—وهي برامج كمبيوتر خاصة تعمل مثل "البوابين"، تفحص كل رسالة وصورة قبل أن تصل إلى الجمهور.
لفترة طويلة، كانت هذه الحواجز جامدة بعض الشيء. كانت تشبه رجال الأمن الذين يمتلكون كتاب قواعد واحداً غير قابل للتغيير: "إذا رأيت سكيناً، أوقف الحركة. إذا رأيت كلمة بذيئة، أوقف الحركة". لكن العالم الحقيقي فوضوي. فقد تكون صورة سكين مخيفة في دردشة تتعلق بالصحة النفسية، ولكنها طبيعية تماماً في فيديو تعليمي عن ألعاب الفيديو أو درس تاريخ عن السيوف. لم تكن الحواجض القديمة تستطيع فهم "السياق" أو "السبب" وراء السؤال؛ بل كانت ترى الشيء فقط وتصاب بالذعر. لقد حاول العلماء بناء حراس أكثر ذكاءً يمكنهم الاستماع إلى القواعد المحددة للغرفة التي يتواجدون فيها، بدلاً من مجرد الصراخ "توقف!" أمام كل شيء. هذا هو تحدي "السلامة المتكيفة مع السياسات": تعليم الذكاء الاصطنا Artificial Intelligence أن يفهم أن ما هو آمن في موقف ما قد يكون خطيراً في موقف آخر.
هنا يظهر Shieldstral، وهو نوع جديد من البوابين الرقميين الذي يحاول تغيير قواعد اللعبة. بدلاً من أن يكون روبوتاً ضخماً وبطيئاً ومكلفاً، فإن Shieldstral هو نموذج رشيق وصغير بحجم 3 مليارات بارامتر (تخيله كدماغ صغير وذكي جداً). اكتشف الباحثون وراءه أنك لست بحاجة إلى دماغ ضخم لتكون حارساً رائعاً إذا علمته الطريقة الصحيحة للتفكير.
إليك الخدعة السحرية: بدلاً من تدريب الذكاء الاصطناي على حفظ قائمة طويلة من "الأشياء السيئة" (مثل طالب يحفظ قاموساً من الكلمات المحظورة)، علم الفريق Shieldstral أن يلعب لعبة بسيطة وهي "نعم/لا". لقد أعطوا الذكاء الاصطناعي سؤالاً محدداً، مثل "هل تظهر هذه الصورة شخصاً يتعرض للتنمر؟" أو "هل يحاول هذا النص خداع الكمبيوتر؟" وطلبوا منه أن يجيب ببساطة بـ "نعم" أو "لا".
قد يبدو هذا بسيطاً للغاية، لكنه عبقري. لأنه لا يعتمد على حفظ قائمة ثابتة، يمكنه التعامل مع أي سؤال تطرحه عليه. إذا كنت تقوم بتشغيل أداة للأمن السيبراني، يمكنك أن تسأل: "هل يحاول هذا الكود اختراق بنك؟". وإذا كنت تدير منتدى مدرسياً، يمكنك أن تسأل: "هل هذا النص يتنمر على طالب؟". Shieldstral يستمع لسؤالك المحدد ويعطي درجة بناءً على ذلك. إنه يشبه امتلاك حارس لا ينظر فقط إلى وجهك، بل يستمع فعلياً إلى السبب الذي من أجله أنت موجود قبل أن يقرر ما إذا كان بإمكانك الدخول.
لتعليم هذا النموذج الصغير أن يكون بهذا الذكاء، اضطر الباحثون إلى إطعامه كمية هائلة من الطعام—حوالي 54.1 مليون مثال! لم يكتفوا بصب بيانات عشوائية من الإنترنت عليه، بل كانوا طهاة حذرين للغاية. لقد أخذوا بيانات فوضوية من كل مكان (بعضها بقواعد صارمة، وبعضها بقواعد فضفاضة) وحولوها جميعاً إلى نفس التنسيق وهو "سؤال + إجابة". حتى أنهم ابتكروا طريقة تدريب خاصة تسمى "التعلم التبايني" (contrastive learning). تخيل أنك تري الذكاء الاصطناعي قصتين متطابقتين تقريباً: واحدة حيث تكون الشخصية لئيمة، وأخرى حيث يمزحون فقط. يجب على الذكاء الاصطناعي أن يتعلم الفرق الدقيق بين الاثنين بناءً على السؤال المطروح. هذا يساعده على فهم "الفروق الدقيقة" بدلاً من مجرد المستوى السطحي.
النتائج مذهلة حقاً. على الرغم من أن Shieldstral صغير (3 مليارات بارامتر فقط)، إلا أنه قدم أداءً يضاهي، أو حتى يتفوق على، بعض أكبر نماذج السلامة التي تبلغ أحجامها 7 أضعاف حجمه (حوالي 20 مليار بارامتر). وفي الاختبارات التي كان على الذكاء الاصطناعي فيها التكيف مع قواعد جديدة ومحددة لم يسبق له رؤيتها، حقق Shieldstral درجة مبهرة بلغت 91.3%. كما سحق المنافسة في المهام متعددة الوسائط (التي تفحص النصوص والصور معاً)، محققاً متوسط درجة قدره 83.8%.
تشير الورقة البحثية إلى أن هذا النهج—تحويل السلامة إلى لعبة أسئلة وأجوبة مرنة والتدريب على مزيج ضخم ومنسق بعناية من البيانات—يسمح للنماذج الصغيرة بالتفوق بمراحل على حجمها الحقيقي. إنها تثبت أنك لست بحاجة إلى دماغ ضخم ومكلف لتكون حارساً جيداً؛ بل تحتاج فقط إلى تعليمه كيف يستمع لقواعد الغرفة. يظهر Shieldstral أن نموذجاً صغيراً ومتكيفاً يمكنه مضاهاة أو هزيمة النماذج الأكبر والأكثر جموداً، مما يجعل من الممكن الحصول على ذكاء اصطناعي أكثر أماناً وذكاءً وكفاءة في كل مكان.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.