Designing for Ethical AI: HCI Feature Considerations to Improve Fairness and User Experience in AutoML use for Human Resources

تخيل أنك بنيت للتو روبوتاً طباخاً ليصنع الشطيرة المثالية للجميع في المقصف. قلت له: "تأكد من أن يحصل الجميع على وجبة لذيذة!". لكن هنا تكمن المشكلة: لقد تعلم الروبوت كيفية الطبخ من خلال مشاهدة فيديو لطاهٍ من قبل 50 عاماً، وكان هذا الطاهي يصنع شطائر لمجموعة محددة جداً من الناس فقط. إذا لم تعلم الروبوت كيف ينظر إلى الصورة الكاملة، فقد يبدأ بالخطأ في تقديم خبز قديم لأي شخص يبدو مختلفاً عن زبائن الطاهي المفضلين القدامى. هذا هو عالم الذكاء الاصطناعي (AI) في التوظيف. تستخدم الشركات هذه "الروبوتات" (التي تسمى أدوات AutoML) لمسح آلاف السير الذاتية واختيار أفضل المرشحين، آملة في توفير الوقت والعدالة. ولكن تماماً مثل روبوت الطباخ الخاص بنا، إذا كانت البيانات التي تعلم منها قديمة أو متحيزة، فقد يستمر الروبوت في اتخاذ خيارات غير عادلة دون أن يلاحظ أحد ذلك.

السؤال الكبير الذي تطرحه هذه الورقة هو: كيف نصمم لوحة تحكم الروبوت بحيث يمكن للأشخاص العاديين (الذين ليسوا عباقرة كمبيوتر) رؤية ما إذا كان الروبوت غير عادل فعلياً وإصلاح ذلك؟ تبحث الورقة في AutoML (الذي يشبه "المساعد الذكي" الذي يبني هذه الروبوتات تلقائياً) وتتحقق مما إذا كانت الأزرار والشاشات التي يوفرها للمستخدمين البشريين جيدة بما يكفي لكشف التحيز. وهي تستخدم أفكساً من التفاعل بين الإنسان والحاسوب (HCI)، وهو ببساطة دراسة كيفية تواصل البشر مع الآلات، والعدالة، والتي تعني التأكد من عدم معاملة أي مجموعة من الناس بشكل أسوأ من غيرهم لمجرد هويتهم. تهتم الورقة بهذا الأمر لأن الشركات إذا استخدمت هذه الأدوات للتوظيف، وإذا كانت هذه الأدوات منحازة سراً، فقد يدمر ذلك حياة الناس ويوقع الشركات في مشاكل قانونية كبيرة.

---

لوحة تحكم الروبوت: قصة بوليسية

إذاً، ماذا فعل الكاتب، سوندارابورينان نارانايان، في الواقع؟ تخيل متجراً ضخماً للألعاب مليئاً بثماني "مجموعات بناء روبوتات" مختلفة (وهي أدوات AutoML). تأتي بعض المجموعات مع شاشة فاخرة وأزرار ملونة (أدوات تعتمد على واجهة رسومية GUI)، بينما البعض الآخر مجرد صناديق من الأكواد التي يتعين عليك بناؤها بنفسك (مكتبات برمجية). قرر المؤلف لعب لعبة "اكتشف التحيز" مع كل هذه المجموعات الثمانية.

أولاً، أقام المؤلف مطبخ اختبار. أخذ بيانات توظيف حقيقية — قوائم لمتقدمي الوظائف مع تفاصيل مثل أعمارهم، وجنسهم، وأماكن سكنهم — وغذى بها كل واحد من بناة الروبوتات الثمانية. كان الهدف هو معرفة ما إذا كانت الروبوتات ستبدأ بالتمييز عن طريق الخطأ ضد مجموعات معينة، مثل النساء أو كبار السن، فقط لأن البيانات التي تعلمت منها كانت تحتوي على تلك التحيزات القديمة المخبأة في داخلها.

بعد ذلك، ارتد المؤلف قبعة المحقق ونظر إلى لوحات التحكم الخاصة بهذه الروبوتات. وسأل: "إذا كنت مديراً للموارد البشرية عادياً، وليس عبقرياً في الرياضيات، هل يمكنني بسهولة رؤية ما إذا كان هذا الروبوت لئيماً تجاه مجموعة معينة؟ وهل يمكنني إصلاح ذلك إذا فعل؟"

ما وجده المحقق

كشف التحقيق عن أشياء مفاجئة ومخيفة نوعاً ما.

1. مشكلة "الصندوق الأسود"
معظم بناة الروبوتات يشبهون الصناديق السوداء. تضع سيرة ذاتية في الداخل، ويخرج من الجهة الأخرى ختم "توظيف" أو "رفض". ولكن إذا سألت الصندوق لما কেন اتخذ هذا القرار، فإنه غالباً ما يكتفي بهز كتفيه. وجدت الورقة أن العديد من هذه الأدوات تعمل وكأنها "عادلة" بشكل افتراضي، لكنها لا تظهر لك الأدلة فعلياً. الأمر يشبه معلماً يعطيك درجة في اختبار دون أن يريك الإجابات. إذا كان الروبوت منحازاً، فغالباً لن يكون لدى المستخدم البشري وسيلة لمعرفة ذلك ما لم يكن خبيراً بالفعل في رصد الأنماط الخفية.

2. غياب "لوحة معلومات العدالة"
وجد المؤلف أنه بينما بدأت بعض الأدوات الفاخرة (مثل DataRobot وDataiku) في إضافة لوحات معلومات صغيرة لإظهار ما إذا كان الروبوت غير عادل، إلا أن معظم الأدوات الأخرى لا تزال في عصور الجهل. فهي لا تملك رسوماً بيانية ملونة وكبيرة تقول: "مهلاً! هذا الروبوت يرفض 90% من المتقدمين من المدينة (س)!" بدلاً من ذلك، هي تخفي هذه الأرقام في أكواد معقدة أو نصوص صغيرة لا يمكن إلا للمبرمج قراءتها. بالنسبة لشخص يعمل في مجال الأعمال، هذا يشبه محاولة قيادة سيارة ومقياس السرعة مغطى بقطعة من الشريط اللاصق. قد تكون مسرعاً، لكن ليس لديك أدنى فكرة.

3. فجوة "الإنسان في الحلقة" (Human-in-the-Loop)
تقترح الورقة أننا بحاجة إلى "إنسان في الحلقة" (HITL). تخيل روبوتاً يقول: "أعتقد أن هذا الشخص مناسب جداً، لكنني متأكد بنسبة 80% فقط لأن البيانات غريبة. هل تريد التحقق مرة أخرى؟". وجدت الدراسة أن معظم أدوات AutoML لا تقوم بذلك جيداً. فهي غالباً ما تسمح للإنسان بمجرد الضغط على "انطلق" دون منحهم الأدوات لإلغاء قرار سيء. إنه يشبه إعطاء طفل جهاز تحكم عن بعد لمفاعل نووي دون تعليمه كيفية إيقافه إذا ساءت الأمور.

4. لغز المقايضة (Trade-Off)
هناك جزء شائك تسلط الورقة الضوء عليه: أحياناً، جعل الروبوت عادلاً تماماً قد يجعله أقل دقة قليلاً في التنبؤ بمن سيكون موظفاً جيداً. وجدت الورقة أن عدداً قليلاً جداً من الأدوات يسمح لك برؤية هذه المقايضة بوضوح. فهي لا تملك شريط تمرير يقول: "إذا جعلت الروبوت أكثر عدلاً بنسبة 10%، فسيخطئ بنسبة 2% أكثر". بدون رؤية هذا التوازن، قد تجعل الشركات الروبوت صارماً للغاية (وتفقد توظيف أشخاص جيدين) أو متساهلاً للغاية (وتوظف الأشخاص الخطأ)، وكل ذلك لأن لوحة التحكم لم تظهر لهم الخيارات.

الاستنتاج الكبير: العدالة هي ميزة أساسية، وليست مج de afterthought**

الخلاصة الرئيسية من هذا البحث هي أن العدالة لا ينبغي أن تكون ميزة اختيارية تضيفها في النهاية، مثل وضع ملصق على سيارة. بل يجب أن تُبنى في تصميم الروبوت من البداية.

تجادل الورقة بأنه إذا كنت تريد من الشركات أن تثق في أدوات الذكاء الاصطناعي هذه، فيجب تصميم الأدوات للأشخاص، وليس للحواسيب فقط. وهذا يعني:

• تحذيرات واضحة: إذا كان الروبوت على وشك اتخاذ قرار منحاز، فيجب أن يصرخ "توقف!" بضوء أحمر كبير، لا أن يهمس بها في سجل الأكواد.
• إصلاحات سهلة: يجب أن يتمكن البشر من قول "أنا لا يعجبني كيف يتم التعامل مع هذه المجموعة"، وأن يكون لديهم زر بسيط لتعديل سلوك الروبوت.
• دليل بصري: بدلاً من عرض جدول بيانات بالأرقام، يجب أن تعرض الأداة صورة أو رسماً بيانياً يمكن لأي شخص فهمه، مثل نظام إشارات المرور (أخضر = جيد، أحمر = خطر).

تشير الورقة إلى أنه إذا لم تعالج شركات AutoML لوحات التحكم هذه، فهي ليست فقط غير أخلاقية، بل هي سيئة في إدارة الأعمال أيضاً. فالشركات لن تشتري أدوات لا يمكنها الوثوق بها، وبالتأكيد لن تشتري أدوات قد تتسبب لها في ملاحقات قضائية بسبب التمييز.

ما لا تقوله الورقة (وما تستبعده)

من المهم معرفة ما لا تدعيه هذه الورقة. هي لا تقول إن الذكاء الاصطناعي شرير أو أن علينا التوقف عن استخدامه. كما أنها لا تقول إن أداة واحدة محددة هي "الفائزة" والبعض الآخر "خاسر". بدلاً من ذلك، هي تقترح أن حتى أفضل الأدوات لديها فجوات عندما يتعلق الأمر بمساعدة الناس العاديين على فهم العدالة.

كما تنفي الورقة صراحة فكرة أن "الأتمتة عادلة دائماً". فهي تظهر أنه مجرد كون الكمبيوتر يقوم بالعمل لا يعني أنه عادل؛ بل في الواقع، بدون إشراف بشري، قد يكون أكثر عدم عدالة لأنه يتعلم من أخطائنا الماضية.

تعتمد النتائج على المحاكاة والتدقيق للأدوات الموجودة، وليس على اختراع سحري جديد. قام المؤلف بقياس كيفية أداء هذه الأدوات على مجموعات بيانات محددة وفحص واجهاتها. لذا، بينما تقترح الورقة بقوة أن الأدوات الحالية تفتقر إلى الكثير، فهي دعوة للعمل للمصممين لبناء أدوات أفضل، بدلاً من كونها إعلاناً بأن المشكلة قد حُلت بالفعل.

الحكم النهائي

في النهاية، هذه الورقة هي دفعة ودية للأشخاص الذين يبنون مستقبل التوظيف. تقول لهم: "مهلاً، لقد صنعتم بعض الروبوتات المذهلة التي يمكنها قراءة السير الذاتية بسرعة فائقة. ولكن إذا لم تعطوا المشغلين البشريين نافذة واضحة لرؤية كيف يفكر هؤلاء الروبوتات، وإذا لم تمنحوهم طريقة لإيقاف الروبوت إذا خرج عن المسار، فستواجهون مشكلة".

الحل ليس في التوقف عن بناء الروبوتات؛ بل في بناء لوحات تحكم أفضل. من خلال جعل العدالة مرئية، ومفهومة، وقابلة للتحكم، يمكننا تحويل هذه الأدوات القوية إلى شركاء يساعدوننا في بناء عالم أكثر عدلاً، بدلاً من روبوتات تكرر أخطاءنا القديمة عن طريق الخطأ. الأمر يتعلق بالتأكد من أن روبوت الطباخ يعرف كيف يصنع شطيرة للجميع، وليس فقط للأشخاص الذين رآهم في الفيديو القديم.