Optimus: A Robust Defense Framework for Mitigating Toxicity while Fine-Tuning Conversational AI
تقدم هذه الورقة Optimus، وهو إطار دفاعي قوي يخفف من السمية في الذكاء الاصطناعي الحواري المضبط بدقة عبر الاستفادة من تصنيف السمية الخالي من التدريب وعملية محاذاة ذات استراتيجية مزدوجة، مما يحافظ بفعالية على المنفعة ويتفوق على الأساليب المتطورة حتى في ظل ظروف المصنفات المنحازة والهجمات العدائية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تريد بناء مساعد روبوت شخصي (دردشة آلية) لمساعدتك في مهامك اليومية. لديك عقل عبقري ومثقف (نموذج لغوي كبير أو LLM) يعرف الكثير عن العالم. ومع ذلك، لكي تجعل هذا الروبوت مفيدًا لاحتياجاتك الخاصة، فأنت بحاجة إلى تعليمه باستخدام دفتر ملاحظات للمحادثات (مجموعة بيانات).
المشكلة: الدفتر المسموم
المشكلة تكمكمن في أنك لا تستطيع دائمًا الوثوق بمصدر دفتر الملاحظات هذا. تخيل أنك اشتريت دفتر ملاحظات مستعمل من شخص غريب، أو قمت بجمع محادثات من منتدى إنترنت فوضوي. قد يحتوي دفتر الملاحظات هذا على "سم" خفي، مثل محادثات سامة، أو كراهية، أو مسيئة.
إذا علّمت روبوتك باستخدام هذا الدفتر المسموم، فسوف يتعلم أن يكون لئيمًا أيضًا. قد يبدأ في إهانة الناس أو قول أشياء خطيرة. وهذا ما يسمى تسميم البيانات (Data Poisoning).
الطريقة القديمة: الحارس المفرط في الحذر
سابقًا، حاول الناس إصلاح ذلك عبر توظيف "حارس" (فلتر للسمية) لفحص كل جملة في دفتر الملاحظات قبل السماح للروبوت بالتعلم منها.
- العيب: الحارس ليس مثاليًا. فأحيانًا يغفل عن الأشياء السيئة (مما يسمح بدخول السم)، وأحيانًا يخاف أكثر من اللازم ويرمي الجمل البريئة الجيدة (مما يجعل الروبوت مملًا أو عديم الفائدة). وإذا غير "الأشرار" لغتهم (باستخدام مصطلحات جديدة أو رموز مشفرة)، فإن الحارس يرتبك ويفشل تمامًا.
الحل الجديد: أوبتيموس (Optimus)
ابتكر المؤلفون نظام دفاع جديدًا يسمى أوبتيموس. فكر في "أوبتيموس" ليس كحارس أمن، بل كـ مُعلم حكيم ومعالج يصلح دفتر الملاحظات ويعلم الروبوت طريقة أفضل للتصرف، حتى لو ارتكب الحارس أخطاءً.
إليك كيف يعمل "أوبتيموس"، خطوة بخوة، باستخدام تشبيهات بسيطة:
1. محقق "الرفض" (تصنيف السمية)
بدلاً من توظيف حارس تقليدي، يستخدم "أوبتيموس" ذكاءً اصطناعيًا ذكيًا جدًا ومدربًا على السلامة (مثل معلم متمرس) للنظر في دفتر الملاحظات.
- كيف يعمل: تم تدريب هذا المعلم على قول "لا!" للأفكار السيئة. عندما يرى جملة سامة، يشعر غريزيًا بالرغبة في رفض قولها. يستخدم "أوبتيموس" غريزة "الرفض" الطبيعية هذه لتحديد الجمل السيئة.
- السحر: حتى لو كان هذا المعلم متحيزًا قليلاً أو أغفل بعض الكلمات السيئة، فإن "أوبتيموس" لا يصاب بالذعر؛ فهو يعلم أن المعلم ليس مثاليًا ولديه خطة بديلة.
2. ورشة "الشفاء" (البيانات الاصطناعية)
بمجرد أن يحدد المعلم جملة سامة، لا يقوم "أوبتيموس" بمجرد رميها (لأن ذلك سيترك فجوات في دفتر الملاحظات). بدلاً من ذلك، يقوم بإجراء عملية جراحية.
- العملية: يأخذ الجزء السام من المحادثة ويستبدله بـ "استجابة شافية".
- أسلوبان للشفاء:
- الاستجابة "الجاهزة": مثل قول "لا يمكنني التحدث عن ذلك" بشكل مهذب وعام. (آمنة، لكنها تبدو آلية بعض الشيء).
- الاستجابة "السياقية": هذا هو السلاح الخارق. يقوم الذكاء الاصطناعي بكتابة استجابة جديدة تناسب المحادثة تمامًا ولكنها تكون لطيفة، متعاطفة، ومفيدة.
- تشبيه: تخيل أن طالبًا كتب تعليقًا مسيئًا في مذكراته. بدلًا من تمزيق الصفحة، يقوم محرر حكيم بإعادة كتابة التعليق ليكون بناءً ولطيفًا، مع الحفاظ على تدفق القصة.
3. "اختبار التذوق" (محاذاة DPO)
حتى بعد عملية الجراحة، قد يظل لدى الروبوت عادة سيئة في تكرار العبارات السامة القديمة التي رآها من قبل. يستخدم "أوبتيموس" تقنية تسمى تحسين التفضيل المباشر (DPO).
- كيف يعمل: تخيل أنك تدرب كلبًا. أنت لا تعاقبه فقط عندما يعض، بل تريه مكافأتين: واحدة هي "المكافأة السيئة" (الاستجابة السامة) والأخرى هي "المكافأة الجيدة" (الاستجابة الشافية). ثم تقول للكلب: "أنا أفضل المكافأة الجيدة".
- النتيجة: يتعلم الروبوت أن يختار الاستجابة اللطيفة على الاستجابة المسيئة، حتى لو رأى المسيئة مرة أخرى. هذا أمر قوي لأنه يعلم الروبوت مفهوم أن يكون جيدًا، وليس مجرد حفظ قائمة من الكلمات المحظورة.
لماذا يعد "أوبتيموس" تغييراً جذرياً في قواعد اللعبة؟
يثبت البحث أن "أوبتيموس" صلب للغاية، حتى عندما تسوء الأمور:
- يعمل مع حارس مكسور: حتى لو كان كاشف السمية سيئًا للغاية (يغفل عن 85% من الأشياء السيئة)، فإن "أوبتيموس" لا يزال ينظف الروبوت. الأمر يشبه وجود شبكة أمان تلتقطك حتى لو أخطأ لاعب السيرك في القفزة.
- يتفوق على المنافسين: إنه يتفوق على أفضل دفاع حالي (StarDSS)، والذي يعتمد بشكل مفرط على الفلاتر المثالية.
- يواجه المخترقين: حاول المؤلفون خداع "أوبتيموس" بهجمات "كسر الحماية" (محاولة إجبار الذكاء الاصطناعي على قول أشياء سيئة) وهجمات "عدائية" (إخفاء السم بطرق ذكية). صمد "أوبتيموس" وحافظ على سلامة الروبوت.
الخلاصة
أوبتيموس هو إطار عمل قوي يسم يسمح لنا بتخصيص روبوتات الدردشة الآلية بأمان باستخدام بيانات فوضوية وغير موثوقة. فهو لا يحاول فقط تصفية الأشياء السيئة، بل يعمل بنشاط على شفاء البيانات السيئة وإعادة تدريب الذكاء الاصطناعي ليفضل اللطف على السمية. إنه يضمن أنه حتى لو استخدمنا نظام سلامة معيبًا، فإن مساعدينا من الذكاء الاصطناعي سيظلون مفيدين، غير ضارين، وصادقين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.