Choosing Where and How to Moderate: End-to-End Trade-offs in Filter Placement and Response Rewriting

تخيل أنك محرر لجريدة ضخمة وفوضوية تطبع ملايين القصص في كل ثانية. بعض هذه القصص رائعة، مضحكة، ومفيدة. والبعض الآخر خطير، أو لئيم، أو مجرد هراء محض. مهمتك هي التأكد من أن النسخة النهائية التي تصل إلى يد القارئ آمنة ومفيدة. لكن الجزء الصعب هنا هو أن لديك فريقاً من "حراس السلامة" (برامج حاسوبية) يمكنهم رصد الأشياء السيئة. السؤال الكبير ليس فقط ما إذا كان الحراس قادرين على إيجاد الأشياء السيئة؛ بل هو متى وكيف يجب عليهم فعل ذلك.

هل ينبغي للحراس فحص طلب القارئ قبل كتابة القصة حتى؟ هل ينبغي لهم الانتظار حتى تنتهي القصة ثم فحصها؟ أم ينبغي لهم القيام بالأمرين معاً؟ هذا البحث يغوص في هذا اللغز تحديداً بالنسبة لدردشة الذكاء الاصطناي (Chatbots). إنه يعامل الذكاء الاصطناعي ككاتب، وفلاتر السلامة كمحررين، ويختبر طرقاً مختلفة لترتيبهم ليرى أي إعداد يعطي أفضل نتيجة: الإجابات الأكثر فائدة مع أقل قدر من الانزلاقات الخطيرة.

---

رقصة سلامة الذكاء الاصطناعي الكبرى: أين تقف وماذا تفعل

قرر مؤلفو هذا البحث، وهم فريق من Microsoft Responsible AI وGoodfire، التوقف عن النظر إلى فلاتر السلامة بمعزل عن غيرها. عادةً ما يقيس العلماء مدى جودة الفلتر في رصد الكلمات السيئة، مثل مصحح إملائي يعد الأخطاء المطبعية. لكن العالم الحقيقي أكثر تعقيداً. إذا كان الفلتر صارماً للغاية، فقد يحظر قصة جيدة تماماً لمجرد أنها استخدمت كلمة تبدو "خطرة". وإذا كان متساهلاً للغاية، فقد تتسلل قصة خطيرة.

لذا، أعد الفريق تجربة ضخمة لاختبار أربع "حركات رقص" مختلفة لأنظام السلامة الخاص بهم. أرادوا إيجاد النقطة المثالية حيث يكون الذكاء الاصطناعي أكثر فائدة (يظهر لك إجابة رائعة) ولكنه لا يزال آمناً (لا يظهر لك أي شيء ضار).

حركات الرقص الأربع

لقد اختبروا أربعة إعدادات محددة، والتي يسمونها "تكوينات" (configurations):

1. المدخلات فقط (Input Only): يتحقق الحارس من سؤال القارئ قبل أن يكتب الذكاء الاصطناعي أي شيء. إذا بدا السؤال خطيراً، يوقف الحارس العملية برمتها فوراً. لا تُكتب أي قصة.
2. الاستجابة فقط (Response Only): يترك الحارس الذكاء الاصطناعي يكتب القصة أولاً. ثم يقوم الحارس بفحص القصة المكتملة. إذا كانت سيئة، يتم التخلص من القصة.
3. المدخلات + الاستجابة (Input + Response): يتحقق الحارس من كل من السؤال والإجابة. إذا بدا أي منهما خطيراً، يتم حظر القصة.
4. الاستجابة + إعادة الكتابة (Response + Rewrite): هذه هي الحركة المتطورة الجديدة. يتحقق الحارس من القصة المكتملة. إذا كانت خطيرة، فبدلاً من مجرد رميها، يحاول "مُصلح" (ذكاء اصطناعي ثانٍ) إعادة كتابة القصة لجعلها آمنة. ثم يتحقق الحارس من النسخة الجديدة للمرة الأخيرة. إذا اجتازت الاختبار، تحصل على القصة المُصلحة!

الاكتشاف الكبير: انتظر حتى النهاية!

أجرى الفريق هذه الاختبارات على مرحلتين مختلفتين: مجموعة بيانات خاصة مصنفة بشرياً مكونة من 1,250 محادثة ("المعيار الداخلي")، ومجموعة بيانات عامة تضم أكثر من 5,000 دردشة سامة ("Public ToxicChat").

إليك النتيجة المفاجئة: الانتظار حتى النهاية (الاستجابة فقط) كان الاستراتيجية الأفضل للحفاظ على الفائدة.

عندما قاموا فقط بحظر الإجابات السيئة بعد كتابتها، حافظ النظام على 85.68% من المحادثات مفيدة وفي صلب الموضوع. ولكن عندما حاولوا حظر الأسئلة السيئة قبل أن يكتب الذكاء الاصطنا anything، تسببوا بالخطأ في التخلص من نصف المحادثات الجيدة! اتضح أن نماذج الذكاء الاصطناعي الحديثة بارعة بالفعل في تجاهل الأسئلة السيئة وكتابة إجابات آمنة من تلقاء نفسها. لذا، فإن إيقاف العملية مبكراً كان يشبه حارس أمن يطرد الناس من النادي قبل أن تتاح لهم فرصة إظهار بطاقات هويتهم، رغم أن الكثير منهم كانوا بخير تماماً.

ومع ذلك، كان هناك فخ. بينما كان نظام "الاستجابة فقط" هو الأكثر فائدة، إلا أنه سمح بمرور المزيد قليلاً من المحتوى الضار مقارنة بفحص المدخلات والمخرجات معاً. إذا كانت لديك ميزانية سلامة صارمة للغاية (بمعنى أنه لا يمكنك السمار بمرور أي شيء سيء)، فإن فحص كل من المدخلات والمخرجات (المدخلات + الاستجابة) كان الأكثر أماناً، لكنه جعل النظام أقل فائدة بكثير.

سحر "المُصلح"

سأل الفريق بعد ذلك: "هل يمكننا الحصول على أفضل ما في العالمين؟ هل يمكننا الحفاظ على استراتيجية 'الاستجابة فقط' لكونها مفيدة، ولكن مع إصلاح الإجابات السيئة القليلة التي تتسلل؟"

جربوا استراتيجية "الاستجابة + إعادة الكتابة". عندما يضبط الحارس إجابة سيئة، بدلاً من حظرها، يرسلونها إلى "مُصلح" (ذكاء اصطناعي). يقوم هذا المُصلح بإعادة كتابة الإجابة لإزالة الأجزاء السيئة مع الحفاظ على الأجزاء الجيدة.

كانت النتائج مثيرة للإعجاب. باستخدام خدعة إعادة الكتابة هذه، استعادوا تقريباً كل حركة المرور التي كان من الممكن حظرها.

• في الاختبار الداخلي، قفزت نسبة الفائدة من 85.68% إلى 95.04%.
• انخفض عدد المحادثات المحظورة من 9.60% إلى 0.24% فقط.

والأهم من ذلك، أن عدد الإجابات الضارة التي وصلت بالفعل إلى المستخدم ظل كما هو تماماً في استراتيجية "الاستجابة فقط". لم تسمح عملية إعادة الكتابة بمرور المزيد من الأشياء السيئة؛ بل قامت فقط بإنقاذ الأشياء الجيدة التي كادت أن تُرمى.

السرعة وتكلفة "إعادة الكتابة"

بالطبع، لا شيء مجاني. إعادة الكتابة تستغرق وقتاً. قاس الفريق الوقت الذي استغرقه إصلاح قصة ما.

• إذا استخدموا ذكاءً اصطناعياً ضخماً وبطيئاً لتقرير ما يجب إعادة كتابته وكيف، فسيستغرق الأمر حوالي 13.8 ثانية. وهذا دهر في وقت الدردشة!
• لكنهم وجدوا طريقاً مختصراً ذكياً باستخدام "مجسات" (probes) متخصصة وصغيرة (كواشف صغيرة وسريعة) لتقرير ما يجب فعله. هذا قلل الوقت إلى 0.47 ثانية فقط.

هذا يعني أنه يمكنك امتلاك نظام مفيد وآمن للغاية دون جعل المستخدم ينتظر للأبد.

التفاصيل الدقيقة: ما الذي فات "إعادة الكتابة"

لم يكتفِ المؤلفون بالنظر إلى الأرقام؛ بل قرأوا القصص المعاد كتابتها لمعرفة ما يحدث فعلياً. وجدوا أن "المُصلح" كان جيداً في التعميم. على سبيل المثال، إذا ذكرت قصة تطبيقاً خطيراً معيناً، فإن المُصلح يستبدل الاسم بـ "منصة آمنة" ويقدم مع ذلك نصائح جيدة حول كيفية البقاء آمناً.

ومع ذلك، وجدوا أيضاً حداً فاصلاً. في بعض الحالات الحساسة، مثل القصص المتعلقة بإيذاء النفس، كانت إعادة الكتابة أحياناً تزيل موارد محددة ومفيدة (مثل أرقام الخطوط الساخنة للأزمات) لمجرد أن تكون أكثر أماناً. يشير البحث إلى أنه بينما يكون النظام رائعاً في موازنة السلامة والفائدة، إلا أنه ليس مثالياً. أحياناً، في الاندفاع نحو السلامة، قد يحذف النظام بالخطأ معلومة دعم كان من الممكن أن يرغب الإنسان في الاحتفاظ بها.

الخلاصة

لا يخبرنا هذا البحث بوجود قاعدة واحدة "مثالية" لكل سلامة الذكاء الاصطناعي. بدلاً من ذلك، فهو يعطينا خريطة. إنه يوضح أن:

1. لا تحظر مبكراً جداً: ترك الذكاء الاصطناعي يكتب أولاً يؤدي عادةً إلى إجابات أكثر فائدة.
2. أعد الكتابة، ولا تكتفِ بالحظر: إذا ضبطت إجابة سيئة، فحاول إصلاحها. إنها تنقذ الكثير من المحادثات الجيدة دون زيادة الخطر.
3. السرعة مهمة: يمكنك إصلاح الأشياء بسرعة إذا استخدمت الأدوات الصحيحة.

يخلص المؤلفون إلى أنه لا توجد قاعدة واحدة تناسب الجميع. بدلاً من ذلك، تحتاج الشركات إلى النظر في احتياجاتها الخاصة. إذا كان بإمكانهم تحمل قدر ضئيل من المخاطرة للحصول على إجابات أكثر فائدة، فعليهم استخدام استراتيجية "الاستجابة فقط" مع مُصلح "إعادة الكتابة". وإذا كانوا بحاجة إلى صفر مخاطرة مطلق، فقد يحتاجون إلى فحص المدخلات أيضاً، حتى لو كان ذلك يعني حظر المزيد من المحادثات الجيدة. الأمر كله يتعلق بإيجاد التوازن المناسب لناديك الخاص.