Fairness Hazard Analysis for Socio-Technical Processes: A Multiple-Case Study in Bias-sensitive Organisational Settings
تقدم هذه الورقة البحثية وتتحقق تجريبياً من "تحليل مخاطر العدالة" (FHA)، وهو منهجية منظمة لتحديد وتخفيف مخاطر العدالة في العمليات التقنية-الاجتماعية بشكل منهجي أثناء هندسة المتطلبات، مما يثبت فعاليتها العملية من خلال مجموعات التركيز ودراسة حالة متعددة في سياقات تنظيمية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تبني آلة ضخمة ومعقدة لتقرر من يحصل على وظيفة، أو قرض، أو مقعد في جامعة. قد تعتقد أن الشيء الوحيد الذي يمكن أن يحدث خطأ هو تعطل تروس الآلة أو وجود خطأ في برمجتها. لكن في العالم الحقيقي، هذه الآلات ليست مجرد معدن وبرمجيات؛ إنها أنظمة "اجتماعية-تقنية". وهذا تعبير منمق يعني أنها عبارة عن رقصة فوضوية بين أجهزة الكمبيوتر، والمديرين البشر، وقواعد المكاتب، والأشخاص المتقدمين للوظيفة. أحياناً، تعمل الآلة بشكل مثالي، لكن "القواعد" التي تتبعها تكون غير عادلة، أو يكون البشر الذين يضغطون على الأزرار متعبين أو متحيزين.
هنا يأتي دور مفهوم "العدالة". فكر في العدالة ليس فقط كـ "كون المرء لطيفاً"، بل كالتأكد من أن الآلة لا تسحق بعض الناس بالخطأ بسبب كيفية بنائها أو استخدامها. لقد عرف العلماء منذ زمن طويل أنه إذا تجاهلت مشاكل عدم العدالة هذه، فإنها لن تختفي فحسب، بل ستتراكم مثل ديون غير مرئية، وتكبر وتصبح أصعب في الإصلاح بمرور الوقت. ولإيقاف ذلك، يحاول الباحثون استعارة حيلة من مهندسي السلامة. تماماً كما يفحص المهندسون الجسور بحثاً عن "مخاطر" (مثل نقاط الضعف التي قد تسبب انهياراً) قبل السماح للسيارات بالمرور فوقها، نحتاج إلى فحص آلات التوظيف لدينا بحثاً عن "مخاطر العدالة" قبل السماح لها باتخاذ قرارات تغير مجرى الحياة.
هذه الورقة البحثية تتحدث عن أداة جديدة تسمى تحليل مخاطر العدالة (FHA). أراد الباحثون معرفة ما إذا كانت هذه الأداة تعمل حقاً في العالم الحقيقي، وليس فقط على الورق. لقد أخذوا طريقتهم، التي تم اختبارها سابقاً على مثال افتراضي، وطبقوها على منظمتين مختلفتين تماماً في الواقع: شركة دولية ضخمة للمعدات، وكلية جامعية ناشئة ومتنامية. لم ينظروا فقط إلى البرمجيات؛ بل نظروا إلى العملية بأكملها، من إعلان الوظيفة حتى المصافحة النهائية.
إليك ما وجدوه:
العمل الاستقصائي
عمل الباحثون كالمحققين في قضايا العدالة. لقد رسموا مسار توظيف الأشخاص في كل منظمة بدقة، خطوة بخطوة. ثم استخدموا تحليل مخاطر العدالة (FHA) لمسح الخريطة بحثاً عن "المخاطر" — الأماكن التي يمكن أن يتسلل منها عدم العدل. ووجدوا أن مشاكل العدالة لم تكن تختبئ في برمجيات الذكاء الاصطناعي فحسب. في الواقع، وجدوا مخاطر في أوصاف الوظائف، وفي الطريقة التي يتحدث بها البشر مع بعضهم البعض في الاجتماعات، وفي ترتيب قراءة السير الذاتية، وحتى في كيفية قرار الشركة بشأن التوظيف داخلياً مقابل التوظيف خارجياً.
في شركة المعدات الكبيرة (المنظمة أ)، وجدوا 15 خطراً مختلفاً للعدالة. غطت هذه المخاطر حوالي 27% من خطوات عملية التوظيف لديهم. وفي الكلية الجامعية (المنظمة ب)، وجدوا 14 خطراً، تغطي حوالي 17% من خطواتهم.
الأنماط
على الرغم من أن هاتين المنظمتين مختلفتان تماماً — إحداهما تصنع الآلات، والأخرى تُدرّس الطلاب — فقد وجدوا نفس أنواع المشاكل تظهر مراراً وتكراراً.
- مشكلة "حارس البوابة": أحياناً، تؤدي طريقة وصف الوظيفة أو القنوات المستخدمة في نشرها إلى إغلاق الباب دون قصد أمام مجموعات معينة من الناس.
- "الخلل البشري": البشر يصابون بالتعب. إذا قرأ مسؤول التوظيف 50 سيرة ذاتية على التوالي، فقد يحصل السيرة رقم 50 على تقييم أسوأ لمجرد أن المسؤول مرهق، وليس لأن المرشح سيء.
- "صدى الذكاء الاصطناعي": إذا قام الكمبيوتر بكتابة إعلان الوظيفة أو أسئلة المقابلة، فقد يكرر بالخطأ الصور النمطية القديمة أو التحيزات التي تعلمها من الإنترنت.
- "الدائرة الضيقة": أحياناً، يبدو توظيف الأشخاص الذين تعرفهم بالفعل أو الذين يعملون داخل الشركة أسهل، ولكن يمكن أن يكون ذلك غير عادل للغرباء الذين لا تتاح لهم الفرصة أبداً.
الحلول (والفخ)
لم يكتفِ الباحثون بالإشارة إلى المشكلات؛ بل اقترحوا حلولاً. لم تكن هذه الحلول من نوع "احذف الكود البرمجي". لقد اقترحوا أشياء مثل:
- وجود شخص ثانٍ مستقل يراجع إعلانات الوظائف للتأكد من أنها ليست متحيزة.
- استخدام قائمة مراجعة معيارية للمقابلات لضمان تقييم الجميع بناءً على نفس المعايير.
- التأكد من أن مجموعة من الأشوة، وليس مجرد مدير واحد، هي من تتخذ قرار التوظيف النهائي.
ومع ذلك، تشير الورقة البحثية إلى نقطة مهمة جداً: مجرد اقتراح حل لا يعني أنه سيعمل مع الجميع. عندما عرض الباحثون قائمة الحلول هذه على الشركات الحقيقية، قالت الشركات: "هذه فكرة جيدة، ولكن..."
- قالت شركة المعدات: "نحب أن نكون شخصيين في التعامل مع المرشحين؛ فالقالب الموحد يبدو آلياً للغاية بالنسبة لنا".
- وقالت الجامعة: "نحن نقوم بالفعل ببعض هذه الأشياء، لكن جدولة اجتماع لجنة كبيرة يعد كابوساً".
الخلاصة الكبرى
تشير الدراسة إلى أن تحليل مخاطر العدالة (FHA) هو بمثابة كشاف قوي. فهو يساعد المنظمات على رؤية مشاكل العدالة التي لم تكن تعلم بوجودها، ويساعدها على إدراك أن بعض عاداتها القديمة هي في الواقع ضمانات جيدة. لكنه ليس عصا سحرية. لا يمكنك مجرد نسخ ولصق حل من شركة إلى أخرى. يجب عليك النظر في عمليتك الخاصة، وأشخاصك الخاصين، وقواعدك الخاصة.
الباحثون واثقون من أن هذه الطريقة تعمل لـ إيجاد المشكلات واقتراح الحلول، لكنهم يعترفون بأنهم لم يختبروا بعد ما إذا كانت هذه الحلول تجعل التوظيف أكثر عدلاً على المدى الطويل. هذه هي الخطوة التالية. في الوقت الحالي، لقد أثبتوا أنه إذا كنت تريد بناء نظام عادل، فعليك النظر إلى الرقصة بأكملها، وليس فقط إلى الروبوت الذي يقودها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.