Neither the Judge nor the Rules: Instrument-Validity Failure in Safety-Response Classification

في عالم الذكاء الاصطناعي سريع التطور، يحاول الباحثون باستمرار تعليم الحواسيب أن تكون مفيدة دون أن تكون ضارة. ولضمان عدم توليد هذه الأنظمة لنصائح خطيرة أو محتوى سام، يجب على العلماء تقييم مخرجاتها. لسنوات طويلة، هيمنت طريقتان رئيسيتان على عملية فحص السلامة هذه؛ الأولى تتضمن استخدام ذكاء اصطناعي واحد لتقييم عمل ذكاء اصطناعي آخر، ليعمل بمثابة قاضٍ آلي. والثانية تعتمد على قواعد حاسوبية مكتوبة يدويًا، تقوم بمسح النصوص بحثًا عن كلمات مفتاحية أو أنماط محددة تشير إلى الضرر، لتعمل بمثابة مرشح رقمي. وكان الافتراض وراء الطريقة الثانية هو أنه نظرًا لأن هذه القواعد ثابتة وحتمية —بمعنى أنها تنتج دائمًا نفس النتيجة لنفس المدخلات— فإنها موثوقة تمامًا ويمكن التعامل معها كحقيقة مطلقة. والمنطق يقول إنه إذا اتبع برنامج حاسوبي مجموعة صارمة من التعليمات، فإن حكمه بشأن السلامة لا بد أن يكون صحيحًا.

تتحدى دراسة جديدة هذا الافتراض من خلال التعامل مع أدوات السلامة هذه ليس كحكام لا يخطئون، بل كأدوات يمكن أن ترتكب أخطاء، تمامًا مثل أي جهاز قياس آخر. فقد قرر الباحث "يانجي تشانغ" من جامعة جورج تاون، تدقيق كل من القاضي الآلي والمرشح القائم على القواعد لمعرفة ما إذا كانت تؤدي بالفعل ما تدعيه. ركز التحقيق على مجموعة مكونة من 550 استجابة تم توليدها بواسطة نماذج لغوية كبيرة مختلفة عند طرح أسئلة صعبة أو قد تكون ضارة. ولاكتشاف الحقيقة، أنشأ الباحث معيارًا مرجعيًا صغيرًا ومستقلاً من خلال قراءة وتصنيف 32 استجابة من هذه الاستجابات يدويًا، حيث حدد السلامة بناءً على ما إذا كان النموذج قد قدم محتوى ضارًا يمكن تنفيذه. وقد عملت هذه المجموعة التي تم التحقق منها بشريًا كـ "حقيقة أرضية" (ground truth) تم اختبار الأداتين الآليتين مقابلها.

وكشفت النتائج عن فشل كبير في موثوقية كلتا الأداتين. فقد كان المصنف القائم على القواعد، والذي حظي بثقة واسعة واستُخدم في أبحاث سابقة كمعيار للسلامة، ضعيف الأداء. فعند مقارنته بالتصنيفات البشرية، كان هذا النوع من الأدوات الآلية صحيحًا في حوالي نصف الحالات فقط. والأهم من ذلك، أنه فشل في تحديد نصف الاستجابات غير الآمنة حقًا، حيث أغفل المحتوى الخطير تمامًا. وفي الوقت نفسه، قام بتصنيف ست استجابات غير ضارة بشكل خاطئ على أنها غير آمنة، حيث أساء تفسير الرفض المهذب على أنه تقديم لمحتوى خطير. أما القاضي الآلي، وهو نموذج لغوي أصغر مهمته تقييم الاستجابات، فقد كان أداؤه أفضل قليلاً من حيث الدقة الإجمالية، لكنه عانى من خلل قاتل مختلف؛ فقد فشل في رصد أي من الاستجابات الأربع غير الآمنة حقًا في مجموعة الاختبار، حيث أغفلها جميعًا تمامًا. وبدلاً من ذلك، صنف اثنين من حالات الرفض الآمنة بشكل خاطئ على أنها غير آمنة.

كما كشفت الدراسة أيضًا عن عدم استقرار خفي في النظام القائم على القواعد لم يلاحظه أحد من قبل. فقد قام الباحث بتشغيل نسختين مختلفتين من نفس مجموعة القواعد على المجموعة الكاملة المكونة من 550 استجابة؛ حيث حددت النسخة الأولى 40 استجابة بأنها غير آمنة، بينما حددت النسخة الثانية، المعدلة قليلاً، ثماني استجابات فقط. حدث هذا الفرق بخمسة أضعاف دون أي تغيير في المحتوى الفعلي للاستجابات، مما يثبت أن عدد العناصر غير الآمنة يعتمد كليًا على نسخة القواعد التي يتم تحميلها. ولأن النظام حتمي، فإنه يعيد إنتاج أخطائه بدقة في كل مرة، مما يجعل تلك الأخطاء غير مرئية لأي شخص ينظر فقط إلى الأرقام النهائية. وقد اتفقت الأداتان الآليتان مع بعضهما البعض في حوالي 62 في المائة من العناصر، وهو رقم قد يبدو للوهلة الأولى كإجماع قوي. ومع ذلك، كان هذا الاتفاق مجرد وهم ناتج عن حقيقة أن معظم الاستجابات كانت آمنة. وعندما عدل الباحث هذا الاختلال، تبين أن الاتفاق الفعلي بين الأداتين كان ضئيلاً، مما أظهر أنهما لم يكونا يتحققان من صحة بعضهما البعض، بل كانا ينهاران نحو توقع افتراضي بالسلامة.

إن النتيجة الجوهرية هي أن لا القاضي الآلي ولا المرشح القائم على القواعد يعدان مقياسًا محايدًا أو صالحًا للسلامة بمفردهما. فالمصنف القائم على القواعد ليس نموذجًا مثاليًا افتراضيًا، بل هو أداة قياس ذات معدل خطأ عالٍ وغير مقاس. وتخلص الدراسة إلى أن السبيل الوحيد للوثوق في أرقام السلامة هذه هو التحقق من كل أداة مقابل معيار مرجعي مستقل تم التحقق منه بشريًا قبل نشر أي نتائج. يجب على الباحثين عدم الاكتفاء بالإبلاغ عن مدى اتفاق أداة مع أخرى، بل عن مدى قدرتها على رصد الأخطاء المحددة التي تهم، مثل إغفال المحتوى الخطير. وبدون هذا الفحص المستقل، يواجه المجال خطر بناء تقييمات السلامة على أسس معيبة في حد ذاتها، والخلط بين اتساق الأداة المعطلة وبين الحقيقة.