Bridging Fairness and Explainability: Can Input-Based Explanations Promote Fairness in Hate Speech Detection?
تقدم هذه الورقة دراسة كمية منهجية حول العلاقة بين التفسيرات القائمة على المدخلات والعدالة في كشف خطاب الكراهية، حيث وجدت أنه بينما يمكن للتفسيرات أن تساعد في كشف التنبؤات المتحيزة وتساعد في تخفيف التحيز أثناء التدريب، إلا أنها غير موثوقة لاختيار النماذج الأكثر عدلاً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك حَكم في مسابقة مواهب عالية المخاطر. أنت تريد اختيار أفضل المؤدين، لكنك تدرك أنك — ونظام التقييم الذي تستخدمه — قد تكون منحازًا بشكل غير مقصود. ربما تميل إلى تفضيل الأشخاص الذين يرتدون اللون الأزرق، أو ربما تعاقب لا شعوريًا الأشخاص ذوي لهجات معينة.
لإصلاح ذلك، قررت استخدام "التفسيرات" (Explanations). في عالم الذك never الاصطناعي، التفسير هو بمثابة "ملاحظات الحَكم المكتوبة": "لقد أعطيت هذا المؤدي 9/10 لأن إيقاعه كان مثاليًا وطاقته كانت عالية".
هذه الورقة البحثية تسأل سؤالًا جوهريًا: هل يمكن لهذه "ملاحظات الحكام" (تفسيرات الذكاء الاصطناعي) أن تساعدنا فعليًا في جعل المسابقة أكثر عدلاً؟
لقد اختبر الباحثون ذلك في سياق "كشف خطاب الكراهية" — وهي "حراس الأمن" من الذكاء الاصطناعي الذين يمسحون الإنترنت لتمييز التعليقات السامة. لقد نظروا في ثلاث طرق مختلفة يمكن استخدام هذه الملاحظات من خلالها، وإليكم ما وجدوه:
1. اختبار "كاشف الدخان" (هل يمكن للملاحظات أن تساعدنا في كشف التحيز؟)
الهدف: إذا كان الحَكم متحيزًا (على سبيل المثال، يعاقب شخصًا لمجرد دينه)، فهل يمكننا النظر في ملاحظاته للإمساك به؟
التشبيه: تخيل كاشف دخان. إذا بدأ حريق، ينطلق الإنذار. أراد الباحثون معرف لـ "الإنذار" أن يعمل في كل مرة يتخذ فيها الذكاء الاصطناعي قرارًا متحيزًا.
النتيجة: نعم. وجدوا أن أنواعًا معينة من الملاحظات (تحديدًا طرق "L2-based" و"Occlusion") هي كواشف دخان ممتازة. إذا كان الذكاء الاصطناعي يتخذ قرارًا بناءً على كلمة حساسة (مثل العرق أو الجنس) بدلاً من المحتوى الفعلي، فإن الملاحظات تظهر ذلك بوضوح. إنه يشبه حَكمًا يكتب: "أنا أخصم النقاط لأنهم يرتدون قبعة معينة" بدلاً من "لقد غنوا بشكل سيء".
2. اختبار "كشاف المواهب" (هل يمكن للملاحظات أن تساعدنا في اختيار أفضل نموذج؟)
الهدف: إذا كان لدينا عشرة "حكام" مختلفين من الذكاء الاصطناعي، فهل يمكننا النظر في ملاحظاتهم أثناء التدريبات لمعرفة أي منهم هو الأكثر عدلاً لتوظيفه في العرض الحقيقي؟
التشبيه: تخيل أنك كشاف مواهب. تشاهد عشرة حكام أثناء البروفات. تنظر في ملاحظاتهم لترى أي حَكم هو الأكثر اتساقًا وعدم تحيز، آملًا أن يكون صاحب "الملاحظات الأنظف" هو الأفضل للتحكيم في المنافسة النهائية.
النتيجة: لا. للمفارقة، كانت الملاحظات غير موثوقة لهذا الغرض. قد يمتلك الحَكم ملاحظات نظيفة وغير منحازة للغاية أثناء التدريب، ولكنه قد ينحرف عن المسار ويظهر تحيزًا أثناء العرض المباشر الفعلي. وجد الباحثون أنه لا يمكنك ببساطة الوثوق في أن "الملاحظات" ستخبرك ما إذا كان النموذج "لاعبًا عادلًا" على المدى الطويل.
3. اختبار "المدرب" (هل يمكن للملاحظات أن تساعدنا في تدريب نماذج أفضل؟)
الهدف: هل يمكننا استخدام الملاحظات لـ "تدريب" الذكاء الاصطناعي أثناء عملية التعلم حتى يتعلم التوقف عن التركيز على الأشياء الخاطئة؟
التشبيه: تخيل مدربًا يراقب طالبًا. في كل مرة يرتكب فيها الطالب خطأً بناءً على حكم مسبق، يشير المدرب إلى ملاحظات الطالب ويقول: "انظر؟ أنت تركز على الشيء الخاطئ. توقف عن النظر إلى ملابسهم وابدأ في النظر إلى مهارتهم".
النتيجة: نعم. من خلال استخدام التفسيرات كدليل أثناء التدريب، استطاعوا بالفعل "تعليم" الذكاء الاصطناعي تجاهل السمات الحساسة (مثل العرق أو الجنس) والتركيز على سمات الترويع الفعلية في الكلام. إنه يشبه تدريب حَكم على تجاهل لون زي المؤدي والتركيز فقط على الموسيقى.
الملخص "للصورة الكبيرة"
اكتشف الباحثون أن التفسيرات تشبه كشاف الضوء في غرفة مظلمة.
- هي رائعة في الإشارة إلى مكان اختباء "النفايات" (التحيز) حتى نتمكن من رؤيتها.
- هي رائعة في توجيه "الطالب" (التدريب) حتى لا يتعثر بتلك النفايات.
- لكنها ليست "بلورة سحرية" (تنبؤية). لا يمكنك مجرد النظر إلى كشاف الضوء لتتوقع ما إذا كان الشخص الذي يحمله سيبقى على المسار الصحيح للأبد.
الخلاة للعالم الحقيقي: إذا أردنا ذكاءً اصطناعيًا أكثر عدلاً، فلا ينبغي لنا فقط أن نأمل في أن يكون عادلاً؛ بل يجب أن نستخدم "ملاحظات التفسير" هذه لنكشف أخطاءهم بنشاط ونقوم بتدريبهم ليكونوا أفضل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.