Human, Algorithm, or Both? Gender Bias in Human-Augmented Recruiting
تثبت هذه الدراسة تجريبياً أنه في حين أن مسؤولي التوظيف البشر أكثر إنصافاً من حيث النوع الاجتماعي مقارنة بأنظمة الذكاء الاصطناعي فقط، فإن النهج الهجين الذي يقوم فيه البشر أولاً بمراجعة المرشحين الذين أوصى بهم الذكاء الاصطناعي قبل البحث يدوياً ينتج أكثر نتائج التوظيف إنصافاً بشكل عام.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف موظفاً جديداً لشركتك. لديك ثلاث طرق للعثور على الشخص المناسب:
- المحقق من المدرسة القديمة: تقوم يدوياً بغربلة كومة ضخمة من السير الذاتية، وتقرأ كل واحدة منها بنفسك.
- المساعد الآلي: تطلب من برنامج كمبيوتر ذكي مسح الكومة وتزويدك بأفضل 100 اسم يعتقد أنها مثالية.
- فريق الأحلام: تترك المساعد الآلي يقدم لك قائمة قصيرة أولاً، ثم تستخدم حكمك الخاص لمراجعة تلك القائمة والعثور على بعض الأشلخاص الآخرين بمفردك.
هذه الورقة البحثية هي تجربة من الواقع لمعرفة أي من هذه الطرق الثلاث هي الأكثر عدلاً عندما يتعلق الأمر بالنوع الاجتماعي (الجنس). وتحديداً، هل تفضل إحدى هذه الطرق الرجال على النساء (أو العكس) أكثر من الطرق الأخرى عن طريق الخطأ؟
إليك تفصيل ما وجده الباحثون، باستخدام تشبيهات بسيطة.
الإعداد: مكتبة سير ذاتية عملاقة
أُجريت الدراسة في Jobindex، أكبر موقع للوظائف في الدنمارك. نظروا في أكثر من 58,000 إعلان وظيفي وما يقرب من 1.3 مليون مرشح على مدار عامين.
- المشكلة: لم يتمكنوا من رؤية الأسماء أو الصور الحقيقية للمرشحين (للحفاظ على العدالة)، لذا كان عليهم تخمين الجنس بناءً على الاسم الأول للمرشح. الأمر يشبه محاولة تخمين ما إذا كان الصندوق الغامض يحتوي على كرة حمراء أم زرقاء فقط من خلال النظر إلى الملصق الموجود على الصندوق. كانت آلة التخمين الخاصة بهم دقيقة بنسبة 99%.
- الهدف: معرفة ما إذا كانت القائمة النهائية للأشخاص الذين تواصل معهم مسؤولو التوظيف متوازنة بين الرجال والنساء، أم أنها كانت منحازة.
السيناريوهات الثلاثة والنتائج
1. المحقق البشري (البحث اليدوي)
التشبيه: تخيل أمين مكتبة يتعين عليه العثور على كتب في مكتبة ضخمة بدون جهاز كمبيوتر. إنه يتجول في الممرات، يلتقط الكتب، ويقرر أي منها يوصي به.
النتيجة: عندما بحث مسؤولو التوظيف يدوياً، قاموا بعمل جيد، لكنهم ظلوا منحازين قليلاً. لقد مالوا إلى "النقر" على الرجال والتواصل معهم أكثر من النساء. ومع ذلك، كلما قضوا وقتاً أطول في التفكير والمراجعة، أصبحت قائمتهم أكثر عدلاً. كان الأمر يشبه طباخاً يتذوق الحساء مرات أكثر؛ فكلما زاد عدد مرات التحقق، أصبح التوازن أفضل.
2. المساعد الآلي (الذكاء الاصطناعي فقط)
التشبيه: تخيل روبوتاً قرأ كل سيرة ذاتية في المكتبة ولكنه تعلم من الماضي. إذا كان الماضي منحازاً (على سبيل المثال، إذا كان في الماضي يتم توظيف الرجال غالباً لوظائف معينة)، فقد يعتقد الروبوت: "أوه، الرجال هم الأنسب لهذه الوظيفة!" ويستمر في اقتراح الرجال.
النتيجة: كان الذكاء الاصطناعي في الواقع أقل عدلاً من البشر. لقد اقترح باستمرار عدداً أقل من النساء مقارنة بالرجال. ومن المرجح أن يكون ذلك لأن الذكاء الاصطناعي تم تدريبه على بيانات قديمة كان فيها مسؤولو التوظيف البشر منحازين بالفعل. كان الروبوت ببساطة ينسخ أخطاء الماضي.
3. فريق الأحلام (الإنسان + الذكاء الاصطناعي)
التشبيه: هذا هو المكون السحري. تخيل أن الروبوت يسلمك قائمة قصيرة تضم 100 مرشح. تنظر إليها، ثم تعود إلى المكتبة لتجد بعض الأشخاص الآخرين بنفسك.
النتيξε: كان هذا هو الفائز. الجمع بين الذكاء الاصطناعي والإنسان أنتج القوائم الأكثر عدلاً على الإطلاق.
- لماذا؟ لم يكن الأمر مجرد "ذكاء اصطناعي + إنسان = جيد". بل كان أشبه بـ "ذكاء اصطناائي + إنسان = جيد جداً".
- تأثير "الإلهام": عندما نظر مسؤولو التوظيف إلى قائمة الذكاء الاصطناي أولاً، بدا الأمر وكأنها "أيقظتهم". على الرغم من أن قائمة الذكاء الاصطناعي كانت منحازة، إلا أن رؤيتها جعلت مسؤولي التوظيف أكثر وعياً. عندما عادوا للبحث يدوياً بعد رؤية قائمة الذكاء الاصطناعي، انتهى بهم الأمر بالعثور على مزيج أكثر توازناً من الرجال والنساء مما لو كانوا قد بحثوا يدوياً منذ البداية.
الخلاصة الكبرى: "أكثر من مجموع أجزائه"
النتيجة الأكثر إثارة للدهشة هي أن الإنسان + الذكاء الاصطناعي أفضل من كل منهما بمفرده.
فكر في الأمر مثل نظام تحديد المواقع (GPS) وسائق محلي.
- إذا استخدمت الـ GPS فقط (الذكاء الاصطناعي)، فقد تعلق في ازدحام مروري لأن الخريطة قديمة.
- إذا استخدمت السائق المحلي فقط (الإنسان)، فقد يسلك طريقاً مختصراً يعرفه، لكنه قد يفوت طريقاً أفضل لم يره منذ فترة.
- إذا استخدمت كلاهما، فإن الـ GPS يعطيك الصورة الكبيرة، والسائق يعدل المسار بناءً على الواقع الحالي. النتيجة هي رحلة أكثر سلاسة وعدلاً.
في هذه الدراسة، قدم الذكاء الاصطناعي "دفعة" لمسؤولي التوظيف. على الرغم من أن اقتراحات الذكاء الاصطناعي لم تكن مثالية، إلا أن النظر إليها جعل البشر أكثر تأنياً وحرصاً في خياراتهم النهائية، مما أدى إلى مجموعة أكثر تنوعاً من المرشحين.
معلومات أخرى مثيرة للاهتمام
- نوع الوظائف مهم: في الوظائف التي يهيمن عليها النساء عادةً (مثل رعاية الأطفال)، تواصل مسؤولو التوظيف في الواقع مع مزيد من الرجال مما اقترحته قاعدة البيانات. وفي الوظائف التي يهيمن عليها الرجال (مثل السباكة)، تواصلوا مع مزيد من النساء. يبدو أن مسؤولي التوظيف يحاولون لا شعورياً "إصلاح" عدم التوازن بين الجنسين في مجالات معينة.
- العدالة لا تضر الجودة: تحقق الباحثون مما إذا كانت العدالة تعني توظيف مرشحين "أسوأ". ووجدوا أن كونهم عادلين لم يؤثر على معدل النجاح. فقد استجاب الأشخاص الذين تم التواصل معهم بشكل إيجابي لعروض العمل، بغض النظر عن التوازن بين الجنسين.
الخلاصة
إذا كنت تريد التوظيف بعدالة، فلا تعتمد فقط على الروبوت، ولا تعتمد فقط على الإنسان. استخدم الروبوت للحصول على بداية جيدة، ولكن أبقِ الإنسان في الدورة لاتخاذ القرار النهائي. هذا المزيج يخلق شبكة أمان تلتقط انحيازات كل من الآلة والإنسان، مما يؤدي إلى عملية توظيف أكثر عدلاً بكثير.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.