When Computational Fairness Is Not Enough: Explaining the Gap Between Algorithmic Fairness and Organizational Justice from a Business Ethics Perspective
تقترح هذه الدراسة المفاهيمية إطاراً لأخلاقيات العمل لتفسير سبب فشل أنظمة الذكاء الاصطناعي العادلة تقنياً في تعزيز تصورات العدالة التنظيمية، محاجةً بأن عوامل مثل الشفافية، والإشراف البشري، والحوكمة الأخلاقية ضرورية لسد الفجوة بين العدالة الخوارزمية وثقة الموظفين.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في مكان العمل الحديث، ثورة هادئة تجري تحت السطح. فبدأت الشركات تلتجئ بشكل متزايد إلى الذكاء الاصطناعي لاتخاذ القرارات المتعلقة بالتوظيف، والترقيات، ومراجعات الأداء. والوعد الذي تقدمه هذه الأنظمة هو عالم من الاتساق المثالي، حيث يُحاكم كل موظف وفقًا لنفس القواعد الصارمة، بعيدًا عن التعب أو التحيز الذي قد يؤثر على المديرين البشر. ولضمان قيام هذه الآلات بفعل الشيء الصحيح، أمضى علماء الكمبيوتر سنوات في تطوير "العدالة الخوارزمية". وهذا مفهوم تقني، وهو وسيلة للتحقق من الحسابات لضمان عدم تفضيل الكمبيوتر لمجموعة من الناس على أخرى بشكل منهجي بناءً على العرق أو الجنس أو العمر. إنها خطوة ضرورية، لكنها تتعامل مع العدالة كمشكلة رياضية بحتة، يمكن حلها عبر كود أفضل وبيانات أنظف.
ومع ذلك، فإن الأشخاص الذين يعيشون هذه القرارات فعليًا ليسوا حواسيب. إنهم بشر يحكمون على العدالة ليس فقط من خلال الرقم النهائي، بل من خلال كيفية معاملتهم أثناء العملية. إنهم يهتمون بما إذا كان بإمكانهم فهم سبب اتخاذ قرار ما، وما إذا كانت لديهم فرصة للتحدث إذا ساءت الأمور، وما إذا كان هناك شخص حقيقي مسؤول في نهاية المطاف عن النتيجة. هذا هو مجال "العدالة التنظيمية"، وهو مفهوم من أخلاقيات الأعمال ينظر إلى التجربة الإنسانية للعدالة. لفترة طويلة، افترض الخبراء أنه إذا كانت الرياضيات عادلة، سيشعر الناس بأنها عادلة. لكن هناك خط تفكير جديد يشير إلى أن هذا الافتراض ناقص بشكل خطير.
تتحدى دراسة مفاهيمية حديثة أجراها سيد جلال الدين حسيني، وهو مدرب في المنظمة التقنية والتدريب المهني في إيران، فكرة أن الخوارزمية المثالية رياضيًا تخلق تلقائيًا مكان عمل عادلًا. لا تقدم الورقة بيانات جديدة من شركة محددة أو أداة برمجية جديدة. بدلاً من ذلك، هي تبني إطارًا نظريًا من خلال نسج الأبحاث الموجودة من علوم الكمبيوتر، وأخلاقيات الأعمال، وعلم النفس التنظيمي. ويجادل المؤلف بأن هناك فجوة كبيرة بين ما تحسبه الحواسيب كعدل وبين ما يشعر الموظفون فعليًا بأنه عدل. هذه الفجوة، التي تسميها الورقة "الفجوة الأخلاقية"، توجد لأن المؤسسات غالبًا ما تركز بالكامل على الجودة التقنية للخوارزمية بينما تهمل الأنظمة البشرية المحيطة بها.
تشير الدراسة إلى أن الخوارزمية يمكن أن تكون غير منحازة إحصائيًا ومع ذلك تبدو غير عادلة للغاية للأشخاص الذين تؤثر عليهم. تخيل نظام توظيف يتجنب التمييز تمامًا في بياناته، ولكنه يعمل كـ "صندوق أسود"، لا يقدم أي تفسير لسبب رفض مرشح ما، ولا يوفر أي وسيلة له للاستئناف ضد القرار. في هذا السيناريو، تكون الحسابات نظيفة، لكن التجربة تجعل المرء يشعر بالاغتراب. يقترح المؤلف أنه لكي تكون المؤسسة عادلة حقًا، يجب عليها أن تفعل أكثر من مجرد إصلاح الكود. يجب عليها بناء نظام للحوكمة الأخلاقية. يتضمن ذلك ضمان الشفافية بحيث يعرف الناس كيف تُتخذ القرارات، وتوفير تفسيرات واضحة، والحفاظ على الإشراف البشري بحيث يمكن لشخص ما التدخل، وخلق فرص حقيقية للموظفين للتعبير عن مخاوفهم.
تقدم الورقة نموذجًا محددًا لشرح كيفية تفاعل هذه العوامل. وهي تفترض أن الحوكمة الأخلاقية تعمل كجسر، أو آلية ترجمة، تحول المخرجات العادلة تقنيًا إلى شعور بالعدالة التنظيمية. وبدون هذا الجسر، يمكن حتى لأكثر الخوارزميات تقدمًا أن تقوض الثقة. وتحدد الدراسة أربعة سيناريوهات محتملة لتوضيح هذه الأفكار. النتيجة الأفضل هي "الشرعية المتوافقة"، حيث تكون الرياضيات عادلة ويشعر الناس بأنها عادلة. أما الفشل الأكثر شيوعًا، وفقًا للمؤلف، فهو "عجز الشرعية"، حيث تكون الرياضيات عادلة ولكن الناس يشعرون بعدم العدالة لأن العملية تفتقر إلى الشفافية أو المساءلة. وهناك أيضًا سيناريو خطير يسمى "الشرعية الزائفة"، حيث يشعر الناس بأن الأمور عادلة لمجرد أنهم لا يفهمون التحيز الخفي في النظام. وأخيرًا، هناك "الظلم الواضح"، حيث يكون كل من الرياضيات والمشاعر خاطئين.
يشير عمل حسيني إلى أن الحل ليس في التخلي عن الذكاء الاصطناعي، بل في تغيير كيفية حوكمته. وتجادل الورقة بأن على المؤسسات التوقف عن السؤال فقط: "هل الخوارزمية عادلة؟" والبدء في السؤال: "هل المؤسسة عادلة عندما تحكم هذه الخوارقة؟". هذا التحول ينقل المسؤولية من الكود نفسه إلى الأشخاص والسياسات التي تديره. وتبرز الدراسة أنه مع تولي الذكاء الاصطناعي قرارات أكثر أهمية، مثل فصل شخص ما أو حرمان شخص من ترقية، تصبح الحاجة إلى هذه الضمانات الأخلاقية أكثر إلحاحًا. فإذا اعتمدت مؤسسة على آلة لاتخاذ قرار يغير مجرى الحياة دون توفير مسار بشري للمراجعة أو التفسير، فإنها تخاطر بفقدان الثقة والالتزام من قوتها العاملة، بغض النظر عن مدى دقة حسابات الآلة.
في النهاية، تخلص الورقة إلى أن الدقة التقنية هي شرط ضروري للعدالة، لكنها ليست كافية بمفردها. فالعدالة التنظيمية الحقيقية تنبع من الجمع بين خوارزمية مصممة جيدًا وعملية بشرية مصممة جيدًا. إنها تتطلب ثقافة يشعر فيها الموظفون بالاحترام، وأنهم مطلعون ومسموعون. ويقترح المؤلف أن الأبحاث المستقبلية يجب أن تختبر هذه الأفكار في بيئات واقعية لمعرفة كيفية استجابة الصناعات والثقافات المختلفة لهذه الفجوات الأخلاقية. ولهذا السبب، تظل الرسالة واضحة: إن بناء مستقبل عادل للعمل يتطلب أكثر من مجرد برمجيات أفضل؛ إنه يتطلب التزامًا بالقيم الإنسانية التي لا تستطيع البرمجيات حسابها بمفردها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.