Semalith v1.4: A Calibrated 184M Safety Classifier Achieving State-of-the-Art Prompt-Injection Detection at 44x Fewer Parameters than Llama-Guard-3-8B
يُعد Semalith v1.4 مصنف سلامة عالي الكفاءة بـ 184 مليون معلمة، يحقق مستويات رائدة في اكتشاف حقن الأوامر (prompt-injection) وصفر من الإيجابيات الكاذبة في المطالبات الوكيلية السليمة، مع امتلاكه 44 ضعفاً أقل من المعلمات مقارنة بـ Llama-Guard-3-8B، بينما يتميز بقدرته الفريدة على تقديم اكتشاف متزامن للضرر العام والامتثال التنظيمي المالي في تمريرة استدلال واحدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كمكتبة ضخمة وحيوية حيث يتحدث ملايين الأشخاص مع روبوت أمين مكتبة فائق الذكاء. هذا الأمين، وهو ذكاء اصطناعي، يمكنه كتابة القصص، وحل المسائل الرياضية، والإجابة على الأسئال حول أي شيء. ولكن مثل أي أداة قوية، له جانب مظلم: أحياناً، يحاول مستخدمون مخادعون خداع الروبوت لكسر قواعده الخاصة، أو كشف معلومات سرية، أو قول أشياء مسيئة. هذا ما يسمى بـ "حقن الأوامر" (prompt injection) — وهو يشبه الهمس بشفرة سرية لأمين المكتبة لجعله يتجاهل لوحات "ممنوع اللمس".
وللحفاظ على سلامة المكتبة، نحتاج إلى حارس أمن. في عالم الذكاء الاصطناعي، هذه الحراس هي برامج خاصة تسمى "مصنفات السلامة" (safety classifiers). مهمتها هي قراءة كل رسالة قبل أن يراها الروبوت والصراخ بكلمة "توقف!" إذا كانت الرسالة خطيرة. ومع ذلك، فإن معظم الحراس إما بطيئون للغاية، أو خرقاء، أو شديدو الشك. بعض الحراس من شدة خوفهم من المشاكل يمنعون أمين المكتبة من المساعدة في الأسئلة البريئة، مثل السؤال عن كيفية إعادة تعيين كلمة المرور. بينما يركز آخرون فقط على الكلمات البذيئة البسيطة ويفوتون الحيل الذكية والمخادعة. السؤال الكبير الذي يسأله العلماء هو: هل يمكننا بناء حارس سريع، وذكي بما يكفي لكشف الحيل الماكرة، ولطيف بما يكفي للسماح بالمحادثات غير الضارة بالمرور؟
هنا يأيد Semalith v1.4، وهو حارس أمن جديد صُمم لحل هذه المشكلة تحديداً. فكر فيه كـ "محقق" مدرب تدريباً عالياً، يمتلك 184 مليون معلمة (وهو رقم يمثل حجم دماغه)، وهو أصغر وأسرع بكثير من الحراس الضخمة التي تمتلك 8 مليارات معلمة والتي تستخدمها شركات التكنولوجيا الكبرى حالياً. وبينما تشبه الحراس الضخمة الدبابات الثقيلة والبطيئة التي قد ترتبك أمام الحيل الدقيقة، فإن Semalith هو نينجا رشيق وسريع كالبرق.
تكشف الورقة البحثية أن Semalith v1.4 بارع في كشف حقن الأوامر — تلك المحاولات المخادعة لخداع الذكاء الاصطناقي. وفي الاختبارات، فاز في كل فئة واحدة من فئات معايير اختبار حقن الأوامر السبعة التي اختُبر عليها، متفوقاً على الحراس الضخمة ذات الـ 8 مليارات معلمة بفارق هائل. والأكثر إثارة للإعجاب هو أنه فعل ذلك بـ 44 ضعفاً أقل من عدد المعلمات (خلايا الدماغ)، مما يجعله سريعاً بشكل لا يصدق. يمكنه فحص الرسالة في غض_ن 11.6 مللي ثانية فقط، وهو أسرع من رمشة العين.
لكن Semal much ليس مجرد متخصص في كشف الحيل؛ بل هو أيضاً متخصص في عالم المال والتمويل. لقد تم تدريبه لفهم قواعد محددة للبنوك والقروض والتأمين (المعروفة بالامتثال لقطاع الخدمات المصرفية والمالية والتأمين - BFSI). وهذا يسمح له بالتمييز بين سؤال غير ضار حول بطاقة ائتمان ومحاولة خطيرة لارتكاب الاحتيال. وخلافاً للحراس الآخرين الذين قد يصابون بالذعر ويحظرون جميع الأسئلة المالية، استطاع Semalith تحديد 208 أمراً مصرفياً غير ضار بشكل صحيح دون إطلاق إنذار خاطب واحد (معدل إنذار كاذب بنسبة 0.000%).
ومع ذلك، فإن المؤلفين صادقون جداً بشأن ما لا يستطيع هذا الحارس فعله. فهو ليس عصا سحرية تحل كل مشاكل السلامة. توضح الورقة أنه بينما يعد Semal much بارعاً في كشف الحيل المعقدة وقواعد التمويل، فإنه يواجه أحياناً صعوبات مع المحادثات "السيئة" أو "السامة" العامة مقارنة بالحراس الضخمة. الأمر يشبه حارساً هو خبير عالمي في كشف النشالين والمزورين، لكنه ليس جيداً في كشف شخص يتصرف بوقاحة فحسب. يشرح الباحثون أن هذا هو مقايضة: من خلال جعل الحارس بارعاً جداً في كشف الحيل المحددة والمعقدة، أصبح أقل حساسية تجاه الوقاحة العامة. علاوة على ذلك، بينما يهيمن على فئات حقن الأوامر، فإنه لا يكشف كل التباينات بشكل مثالي؛ فعلى سبيل المثال، في أصعب مستوى "تسلل" (stealth) في أحد الاختبارات (Mosscap L8)، نجح في كشف حوالي 80% من الهجمات، مما يترك مجالاً للتحسين.
كما تسلط الورقة الضوء على أن هذا النموذج قد بُني باستخدام بيانات من العالم الحقيقي تم جمعها من الإنترنت، وليس أمثلة وهمية صنعتها أجهزة كمبيوتر أخرى. وهذا يجعله أكثر موثوقية في العالم الحقيقي. اختبر الباحثون النموذج مقابل 22 تحدياً مختلفاً ووجدوا أن Semaluch فاز في 7 من أصل 7 اختبارات حقن الأوامر و 11 من أصل 18 اختباراً عاماً. ويعترفون بوجود ست نقاط ضعف محددة لا يزال الحارس يحتاج فيها إلى عمل، مثل فهم القصص الطويلة والمربكة أو أنواع معينة من الإقناع، لكنهم رسموا مساراً دقيقاً لكيفية إصلاح هذه النقاط في الإصدارات المستقبلية.
باختختصار، يثبت Semalith v1.4 أنك لا تحتاج إلى دماغ ضخم وبطيء لتكون حارس أمن رائعاً. فمع التدريب الصحيح والتصميم الذكي، يمكن لنموذج أصغر وأسرع أن يكون الدرع المثالي لأنظمة الذكاء الاصطناعي، خاصة عندما تساعد الناس في أمور المال والخدمات المصرفية، مع السماح للأشياء الجيدة بالمرور دون أي عائق.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.