Measuring and Mitigating Toxicity in Large Language Models: A Comprehensive Replication Study
تقيم هذه الدراسة التكرارية الشاملة تقنية التخفيف أثناء وقت الاستدلال "DExperts"، لتجد أنه في حين تحقق سلامة شبه مثالية ضد السمية الصريحة، إلا أنها تظل هشة أمام خطاب الكراهية الضمني وتتسبب في عقوبة زمن استجابة باهظة تصل إلى عشرة أضعاف، مما يسلط الضوء على فجوات حرجة في المتانة والكفاءة من أجل نشر سلامة الذكاء الاصطناعي في العالم الحقيقي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك كاتباً موهوباً جداً ولكنه غير مدرب يُدعى "GPT-2". هذا الكاتب قد قرأ كل شيء تقريباً على الإنترنت. ولأن الإنترنت يحتوي على قصص جميلة وجميلة، وصرخات كراهية فظيعة، فقد تعلم بالخطأ أن يبدو مثل كليهما. أحياناً، إذا سألته سؤالاً غير ضار مثل "بدأ الرجال بـ..."، فقد يكمل الجملة بشيء عنيف أو مليء بالكراهية، رغم أنك لم تطلب منه ذلك. يُسمى هذا "التدهور السام" (Toxic Degeneration).
الورقة البحثية التي قدمتها تشبه فريقاً من مفتشي السلامة الذين قرروا اختبار نظام "حواجز حماية" محدد يُسمى DExperts ليروا ما إذا كان بإمكحه منع هذا الكاتب من أن يكون لئيماً، دون أن تجعل الكاتب يبدو آلياً أو غبياً.
إليك قصة تحقيقهم، مقسمة إلى أجزاء بسيطة:
1. المشكلة: الكاتب غير المدرب
أولاً، طلب الفريق من الكاتب غير المدرب (GPT-2) أن يكمل 100 جملة.
- النتيجة: في حوالي 96 من أصل 100 مرة، كان الكاتب آمناً. ولكن في حوالي 4 مرات من أصل 100، قال الكاتب شيئاً ساماً.
- التشبيه: تخيل سيارة تقود بشكل مثالي 96% من الوقت، ولكن بين الحين والآخر، تنحرف عشوائياً نحو الجدار. خطر الـ 4% هذا مرتفع جداً بالنسبة لسيارة تريد قيادتها على الطريق السريع.
2. الحل: حاجز الحماية "DExperts"
جرب الفريق خدعة ذكية تسمى DExperts. بدلاً من إعادة تدريب الكاتب (وهو ما يشبه إرساله للعودة إلى المدرسة لسنوات)، وضعوا اثنين من "المحررين" بجانب الكاتب أثناء الكتابة:
- المحرر الجيد (الخبير): نموذج تم تدريبه فقط على نصوص مهذبة ولطيفة. يقول: "مهلاً، هذه الكلمة تبدو لئيمة! لنختر كلمة ألطف".
- المحرر السيئ (المحرر المضاد): نموذج تم تدريبه فقط على نصوص لئيمة وسامة. يقول: "أوه، هذه الكلمة هي بالضبط ما يستخدمه الكارهون! لا تستخدمها!".
يستمع الكاتب لكليهما. إذا صرخ المحرر السيئ "لا!" وقال المحرر الجيد "نعم!"، فإن الكاتب يغير الكلمة إلى شيء آمن.
النتيجة في الاختبارات العادية:
عندما اختبروا هذا على خطاب الكراهية الواضح والمباشر (مثل الشتائم أو التهديدات)، عمل النظام بشكل مثالي.
- درجة السلامة: 100%. لم يقل الكاتب أي شيء سام أبداً.
- العيب: كان بطيئاً.
- بدون المحررين، استغرق الكاتب 0.2 ثانية لإنهاء الجملة.
- مع المحررين، استغرق 2.0 ثانية.
- التشبيه: الأمر يشبه امتلاك سيارة سباق فائقة السرعة، لكن عليك التوقف عند كل إشارة حمراء للتحقق من الخريطة مع ثلاثة أشخاص مختلفين قبل أن تتمكن من التحرك. إنه آمن، لكنك لن تفوز بالسباق أبداً.
3. اختبار الضغط: الكراهية "المستترة"
عرف الفريق أن خطاب الكراهية في العالم الحقيقي ليس دائماً واضحاً. أحياناً، يستخدم الناس "لغة مشفرة" أو صوراً نمطية خفية تبدو مهذبة ولكنها في الواقع ضارة. أرادوا معرفة ما إذا كان بإمكان DExperts رصد هذا الكراهية "المستترة".
استخدموا مجموعة بيانات خاصة تسمى ToxiGen، وهي مليئة بالجمل المصممة لخداع فلاتر السلامة. هذه الجمل لا تستخدم كلمات سيئة؛ بل تستخدم كلمات "لطيفة" لقول أشياء سيئة عن مجموعات معينة من الناس.
النتيجة على الكراهية المستترة:
بدأ نظام حاجز الحماية في التصدع.
- درجة السلامة: انخفضت من 100% إلى 98.5%.
- التشبيه: كان المحررون رائعين في رصد شخص يصرخ "أنا أكرهك!"، لكنهم فاتهم شخص يهمس بإهانة خفية تبدو وكأنها إطراء. سمح النظام لحوالي 1.5% من الكراهية المستترة بالتسلل.
- "العقوبة المزدوجة": عندما حاول الكاتب توليد هذه الجمل التي تحتوي على كراهية خفية ومراوغة، أصبح النظام أبطأ (استغرق أكثر من 3 ثوانٍ) ومع ذلك فشل في إيقاف السمية. كان يعمل بجهد أكبر لكنه يؤدي عملاً أسوأ.
4. الخلاصة الكبرى
تختتم الورقة البحثية بثلاث نقاط رئيسية:
- إنه يعمل على الأشياء الواضحة: DExperts مذهل في إيقاف خطاب الكراهية الصاخب والواضح.
- إنه يفشل في الأشياء الماكرة: يعاني مع خطاب الكراهية الخفي والمشفر الذي يحاول الاختباء.
- إنه بطيء جداً للاستخدام في الوقت الفعلي: لأنه يتعين عليه تشغيل ثلاثة نماذج مختلفة في وقت واحد، فإنه يجعل الكمبيوتر أبطأ بـ 10 مرات. وهذا يجعل من الصعب استخدامه في أشياء مثل الدردشة المباشرة حيث يتوقع الناس إجابات فورية.
باختاً: وجد الفريق حاجز حماية هو مثالي لإيقاف المتنمرين الذين يصرخون، لكنه يرتبك أمام المتنمرين الذين يهمسون، ويجعل العملية برمتها بطيئة جداً لدرجة قد تجعل من الصعب استخدامها في الحياة اليومية. ويقترحون أننا بحاجة إلى طرق أذكى وأسرع للإمساك بـ "المتنمرين الهامسين" في المستقبل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.