Shaping capabilities with token-level data filtering
تُثبت هذه الورقة أن تصفية بيانات ما قبل التدريب على مستوى الرمز (token) هي وسيلة قابلة للتوسع، وقوية، وفعالة من حيث التكلفة لتشكيل النماذج اللغوية لإزالة القدرات غير المرغوب فيها أثناء مرحلة ما قبل التدريب، متفوقةً بذلك على التصفية على مستوى المستند والأساليب المتبعة في المحاذاة اللاحقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقوم بتدريس طالب عملاق وذكي للغاية (ذكاء اصطناعي) عبر إعطائه مكتبة ضخمة من الكتب ليقرأها قبل أن يبدأ عمله. الهدف هو أن يتعلم كيفية كتابة قصص رائعة وإجراء أبحاث بيولوجية، ولكن ليس تعلم كيفية صنع أسلحة بيولوجية خطيرة أو نشر معلومات طبية مضللة.
عادةً، إذا تعلم الطالب مهارات خطيرة بالخطأ، يحاول المعلمون "محو التعلم" منه لاحقاً. قد يقولون له: "لا تقل ذلك"، أو يحاولون مسح الذاكرة. لكن هذه الورقة البحثية تجادل بأن هذا يشبه محاولة "إلغاء تعليم" طالب حفظ الكتاب بالفعل؛ إذ يمكن خداعه بسهولة لقول الأشياء المحظورة مرة أخرى.
بدلاً من ذلك، تقترح هذه الورقة استراتيجية مختلفة: كن حذراً بشأن الكتب التي تضعها في المكتبة في المقام الأول.
إليك تفصيل بسيط لما اكتشفه الباحثون:
١. "المقص" مقابل "الموس" (تصفية الكلمات مقابل تصفية المستندات)
تخيل أن لديك كتاباً عن البيولوجيا. في مكان ما في المنتصف، توجد فقرة واحدة عن كيفية صنع فيروس.
- الطريقة القديمة (تصفية المستندات): إذا وجدت تلك الفقرة، تقول الطريقة القديمة: "هذا الكتاب بأكمله خطير!" لذا، فإنك ترمي الكتاب بأكره. أنت تخسر كل المعلومات البيولوجية الجيدة لمجرد التخلص من تلك الفقرة السيئة الواحدة.
- الطريقة الجديدة (تصفية الكلمات/الرموز): وجد الباحثون طريقة لاستخدام "موس" بدلاً من "المقص". يمكنهم تحديد الكلمات (الرموز) المحددة المتعلقة بالفيروس وإزالة تلك الكلمات فقط، مع ترك بقية الكتاب كما هو.
- النتيجة: هذه الطريقة الجديدة أفضل بكثير. فهي تزيل المعرفة الخطيرة مع الحفاظ على معظم المعرفة المفيدة. الأمر يشبه تحرير جملة بدلاً من حرق الصفحة بأكملها.
٢. كلما كبر حجم الدماغ، زادت فعالية الفلتر
قد تعتقد: "إذا أزلت الكلمات، فسيتعلم الطالب أقل". لكن الورقة وجدت مفاجأة: كلما كان دماغ الطالب أكبر، أصبح هذا الفلتر أكثر فعالية.
- الأدمغة الصغيرة: إذا قمت بتصفية الكتب لطالب صغير، فقد يتعلم القليل من الأشياء الخطيرة لأنهم يتوقون بشدة للتعلم من أي شيء متبقٍ.
- الأدمغة الكبيرة: بالنسبة للطلاب العمالقة والأذكياء جداً (أكبر النماذج التي تم اختبارها)، كان إزالة الكلمات الخطيرة فعالاً بشكل لا يصدق. وكأن الطالب احتاج إلى جهد أكبر بـ ٧٠٠٠ مرة لتعلم المهارة الخطيرة مقارنة بطالب قرأ الكتب غير المفلترة. كلما كان النموذج أكبر، أصبح الفلتر أكثر "متانة".
٣. اختبار "الاختراق" (Jailbreak)
اختبر الباحثون ما إذا كان بإمكان شخص سيء خداع الطالب المفلتر لتعلم المهارات الخطيرة مرة أخرى (عملية اختراق).
- الطرق القديمة: إذا حاولت "محو تعلم" مهارة بعد أن تعلمها الطالب بالفعل، يمكن لشخص سيء إعادة تعليمها له في دقائق معدودة.
- الطريقة الجديدة: مع المكتبة المفلترة، تطلب الأمر من الشخص السيئ جهداً أكبر بـ ١٠ مرات لإعادة تعليم المهارة الخطيرة للطالب المفلتر مقارنة بالطالب غير المفلتر. من الصعب جداً كسر الفلتر بمجرد بنائه في الأساس.
٤. هل لا يزال بإمكانهم قول "لا"؟
هناك قلق شائع: "إذا أزلنا المعرفة الخطيرة، فهل سيعرف الطالب ما الذي يجب أن يرفضه؟" (على سبيل المثال، قول "لا يمكنني إخبارك بكيفية صنع قنبلة" يتطلب معرفة ماهية القنبلة).
- المفاجأة: وجدت الورقة أن الطلاب الذين تدربوا باستخدام طريقة التصفية هذه كانوا في الواقع أفضل في رفض الأسئلة الخطيرة من غير المفلترين. لم يكونوا بحاجة لحفظ التفاصيل الخطيرة ليعرفوا أنه لا ينبغي لهم التحدث عنها. لقد تعلموا التعرف على "شكل" السؤال وقول "لا أعرف ذلك"، بدلاً من محاولة الإجابة.
٥. كيف فعلوا ذلك (خدعة "التوسيم")
لإزالة الكلمات الصحيحة، تحتاج لمعرفة أي منها خطير. إن توسيم كل كلمة في المكتبة أمر مكلف وبطيء.
- الحيلة: استخدم الباحثون أداة خاصة (تسمى "المُشفّر التلقائي المتناثر" - Sparse Autoencoder) تعمل مثل المحقق. إنها تنظر إلى الأنماط في دماغ الذكاء الاصطناعي لتخمين أي الكلمات مرتبطة بالطب.
- النتيجة: على الرغم من أن هذا المحقق لم يكن مثالياً (ارتكب بعض الأخطاء)، إلا أن النظام كان قوياً جداً لدرجة أنه لا يزال يعمل بشكل جيد للغاية. وجدوا أيضاً أنه يمكنك تدريب "قاضٍ" صغير ورخيص للقيام بالتوسيم، وسيعمل بنفس كفاءة القاضي العملاق والمكلف.
الخلاصة
تزعم الورقة أن أفضل طريقة لمنع الذكاء الاصطعي من تعلم المهارات الخطيرة هي تنسيق بيانات التدريب بعناية شديدة على مستوى الكلمة قبل أن يبدأ الذكاء الاصطناعي في التعلم أبداً. هذا الأمر أرخص، وأكثر فعالية، وأصعب في التجاوز من محاولة إصلاح الذكاء الاصطناعي بعد أن تعلم بالفعل الأشياء السيئة. الأمر يتعلق ببناء أساس آمن بدلاً من محاولة رتق سقف يسرب الماء لاحقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.