Bias Mitigation in Face Recognition via Demographic-based Supervised Contrastive Learning
تقترح هذه الورقة دالة خسارة جديدة تُسمى "التعلم التبايني الخاضع للإشراف القائم على الديموغرافيا" (DeSCon)، والتي تعمل على تحسين العدالة في التعرف على الوجوه من خلال استهداف معدلات الخطأ في ذيل توزيع درجات عدم التطابق تحديداً عبر تكوين الدفعات واختيار الأزواج الواعي بالخصائص الديموغرافية، مما يؤدي إلى التخفيف من التحيز بما يتجاوز ما يمكن أن يحققه موازنة بيانات التدريب البسيطة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تسير في ممر رقمي ضخم ومزدحم حيث يقوم حارس أمن بفحص هويات الجميع. هذا الحارس هو ذكاء اصطناعي، برنامج كمبيوتر فائق الذكاء مدرب على التعرف على الوجوه. لفترة طويلة، كان هؤلاء الحراس بارعين للغاية في عملهم، لكن كان لديهم عيب سري: كانوا أفضل بكثير في التعرف على بعض الأشخاص دون غيرهم. إذا كنت تملك بشرة معينة، أو عمراً معيناً، أو جنساً معيناً، فقد يضيق الحارس عينيه أكثر، أو يرتكب المزيد من الأخطاء، أو قد يسمح للشخص الخطأ بالمرور. هذا ليس مجرد خلل تقني؛ بل هو انحياز. بدأت المشكلة لأن الذكاء الاصطناعي تم تدريبه على "صورة جماعية" للإنترنت تحتوي على صور لبعض المجموعات أكثر بكثير من غيرها. الأمر يشبه تعليم طالب التعرف على الحيوانات باستخدام كتاب مدرسي يحتوي فقط على صور للكلاب من فصيلة "جولدن ريتريفر" ولا يحتوي على صور للكلاب من فصيلة "باج"؛ سيصاب الطالب بالارتباك عندما يرى كلب "باج".
ولإصلاح ذلك، جرب العلماء عدة أشياء. حاول البعض "إعادة ضبط" دماغ الحارس بعد حدوث الخطأ، عبر تعديل القواعد لمجموعات مختلفة. وحاول آخرون جعل "الصورة الجماعية" لتدريب الذكاء الاصطناعي متوازنة تماماً، عبر إعطاء كل مجموعة عدداً متساوياً من الصور. لكن الجزء الصعب هو أنه حتى لو وازنت ألبوم الصور بشكل مثالي، لا يزال بإمكان الذكاء الاصطناعي أن يرتبك عند العمل الفعلي في العالم الحقيقي، خاصة عندما يتعين عليه اتخاذ قرار "لا" تجاه وجه محير للغاية. الاختبار الحقيقي ليس مجرد الحصول على المتوسط الصحيح؛ بل يتعلق بالتأكد من أن الذكاء الاصطناعي لا يفشل بشكل غير عادل عندما يكون على حافة ارتكاب خطأ ما. وهنا يأتي دور دراسة جديدة تحاول اتباع نهج مختلف، نهج يركز على كيفية تعلم الذكاء الاصطناعي للتمييز بين الوجوه المتشابهة دون أن يتعثر بهوية أصحابها.
يقترح الباحثون وراء هذه الدراسة، يو لينغهو وفريقه من جامعة زيورخ، طريقة جديدة لتدريب أنظمة التعرف على الوجه هذه تسمى DeSCon (التعلم التبايني الخاضع للإشراف القائم على الديموغرافيا). فكر في عملية تعلم الذكاء الاصطناعي كأنها لعبة "كراسي موسيقية"، ولكن بدلاً من الكراسي، يكون اللاعبون هم الوجوه.
عادةً، عند تدريب ذكاء اصطناعي، يكون الهدف هو التأكد من أن جميع وجوه "الشخص أ" تجلس قريبة من بعضها في زاوية معينة من الغرفة، بينما يجلس "الشخص ب" في زاوية أخرى مختلفة. هذا يشبه استخدام مغناطيس لجذب جميع وجوه "الشخص أ" معاً. ومع ذلك، فإن الطريقة القديمة في القيام بذلك كانت تتجاهل أحياناً حقيقة أن "الشخص أ" قد يشبه "الشخص ج" إذا تشاركا في لون بشرة أو عمر متشابهين، حتى لو كانا شخصين مختلفين. قد يرتبك الذكاء الاصطناعي ويعتقد أن "الشخص أ" هو "الشخص ج" لمجرد أنهما يتشابهان في تلك الجوانب المحددة.
أضافت طريقة الفريق الجديدة، DeSCon، قاعدة خاصة لهذه اللعبة. تقول القاعدة: "حسناً، اسحب جميع وجوه 'الشخص أ' لتجتمع معاً، ولكن تأكد أيضاً من دفع وجوه 'الشخص أ' بعيداً عن وجوه 'الشخص ج' التي تشبههم إلى أقصى حد، وتحديداً ضمن نفس المجموعة الديموغرافية". إنه يشبه معلماً صارماً لا يكتفي فقط بإخبار الطلاب بالجلوس مع أصدقائهم، بل يخبر تحديداً الطلاب الذين يشبهون بعضهم البعض كثيراً بأن يجلسوا بعيداً عن بعضهم حتى لا يختلطوا ببعضهم.
اختبر الباحثون ثلاث طرق مختلفة لاختيار أزواج "الأشباه" التي يجب دفعها بعيداً:
- نهج "الجميع": ادفع أي شخصين ليسا نفس الشخص، بغض النظر عن هويتهما.
- نهج "المجموعة": ادفع فقط الأشخاص الذين ينتمون إلى نفس المجموعة الديموغرافية (على سبيل المثال، القلق فقط بشأن إبعاد وجهين آسيويين مختلفين، أو وجهين مسنين مختلفين).
- نهج "الوضع الصعب" (DeSCon-Hard): وهذا هو نجم العرض. فهو يحدد تحديداً الأزواج "الأصعب" — تلك التي تبدو متشابهة بشكل مربك للغاية ضمن نفس المجموعة — ويجبر الذكاء الاصطناعي على تعلم الفرق بينهما.
تشير النتائج إلى أن نهج "الوضع الصعب" هذا هو الأفضل. فعندما اختبروا نظامهم على مجموعات بيانات مختلفة، بما في ذلك المجموعات المتوازنة تماماً والمجموعات غير المتوازنة والفوضوية، نجح نظام DeSCon-Hard في جعل الذكاء الاصطناعي أكثر عدلاً دون أن يجعله أسوأ في مهمته الأساسية. في الواقع، غالباً ما كان النظام أفضل في التعرف على الوجود بشكل عام مع تقليل عدد المرات التي يرتكب فيها أخطاء غير عادلة.
تجادل الورقة البحثية ضد فكرة أن مجرد موازنة بيانات التدريب أمر كافٍ. لقد أظهروا أنه حتى مع وجود مجموعة بيانات متوازنة، لا يزال بإمكان الذكاء الاصطناعي أن يكون منحازاً إذا لم يتعلم كيفية التعامل مع الحالات "الصعبة" حيث يتشابه الناس المختلفون جداً. كما وجدوا أن محاولة إزالة المعلومات الديموغرافية تماماً من دماغ الذكاء الاصطناعي (بحيث لا يمكنه "رؤية" العرق أو الجنس) غالباً ما تجعل الذكاء الاصطناعي أسوأ في التعرف على الوجوه بشكل عام. بدلاً من ذلك، تعلمهم طريقتهم استخدام تلك التفاصيل ليكونوا أكثر دقة، مما يضمن عدم ارتكاب خطأ لمجرد هوية الشخص.
في تجاربهم، استخدم الفريق معايير قياسية لقياس النجاح. ووجدوا أن طريقتهم الجديدة، وخاصة نسخة "الوضع الصعب"، قللت باستمرار من الفجوة في معدلات الخطأ بين المجموعات المختلفة. على سبيل المثال، في أحد الاختبارات، قلل إصدار "الوضع الصعب" من عدم العدالة في المطابقات الخاطئة (القول بأن شخصين مختلفين هما نفس الشخص) بشكل كبير، مع الحفاظ على دقة عالية إجمالاً. كما لاحظوا أنه بينما تعمل طريقتهم بشكل جيد على مجموعات البيانات التي استخدموها، فإن بيانات التدريب التي امتلكوها كانت أصغر من مجموعات البيانات الضخمة التي تستخدمها شركات التكنولوجيا الكبرى، لذا لا يزال هناك عمل يتعين القيام به لمعرفة مدى قدرتها على التوسع.
في النهاية، تقترح هذه الورقة أنه لبناء نظام تعرّف على الوجوه عادل حقاً، نحتاج إلى التوقف عن مجرد محاولة موازنة السجلات والبدء في تعليم الذكاء الاصطناعي الانتباه بشكل خاص للحالات المحيرة والصعبة حيث يختبئ الانحياز عادةً. فمن خلال التركيز على "الأشباه الأكثر صعوبة" داخل كل مجموعة، يتعلم الذكاء الاصطناعي أن يكون أكثر عدلاً وأكثر حدة في آن واحد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.