Fairness-in-the-Workflow: How Machine Learning Practitioners at Big Tech Companies Approach Fairness in Recommender Systems
من خلال مقابلات مع 11 ممارساً في شركات تكنولوجيا كبرى، ترسم هذه الورقة مسار عمل دمج العدالة في أنظمة التوصية، وتحدد التحديات التقنية والتنظيمية الرئيسية مثل تعريف العدالة، وموازنة مصالح أصحاب المصلحة، وتسهيل التعاون بين الفرق، مع تقديم توصيات قابلة للتنفيذ للمجتمع.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تسير في سوق رقمي ضخم وصاخب. هذا ليس مجرد سوق عادي؛ بل يديره تجار متجولون عمالقة وغير مرئيين (أنظمة التوصية) وهم من يقررون ما تراه، وما تشتريه، والأفكار التي تواجهها. هم السبب في رؤيتك لحذاء معين على أمازون أو مقطع فيديو سياسي معين على وسائل التواصل الاجتماعي.
المشكلة؟ هؤلاء التجار غير المرئيين قد يكونون منحازين. قد يفضلون مجموعة من الناس على أخرى عن غير قصد، أو يدفعون بأفكار معينة بقوة شديدة لدرجة أنها تشوه الواقع.
هذه الورقة البحثية تشبه فيلمًا وثائقيًا من وراء الكواليس يضم 11 من المهندسين والعلماء الفعليين ("الميكانيكيين") الذين يبنون ويصونون هذه الأسواق الرقمية في شركات التقنية العملاقة. لقد سألهم الباحثون: "كيف تحاولون التأكد من أن آلاتكم عادلة، وما الذي يجعل ذلك صعبًا للغاية؟"
إليك قصة نتائجهم، مشروحة ببساطة:
1. الوظيفة: بناء آلة عادلة
فكر في بناء نظام توصية كأنه طهي حساء (طبيخ) ضخم ومعقد.
- المكونات (البيانات): تحتاج إلى بيانات حول المستخدمين والمنتجات.
- الوصفة (النموذج): تكتب كودًا لتحديد كيفية خلط هذه المكونات.
- اختبار المذاق (العدالة): يجب أن تتأكد من أن الحساء مذاقه جيد للجميع، وليس فقط للأشخاص الذين اعتادوا أكله.
وجد الباحثون أن هؤلاء الميكانيكيين لديهم سير عمل محدد. يبدأ في مطبخ هادئ (التطوير غير المتصل بالإنترنت/Offline Development) حيث يجمعون المكونات ويكتبون الوصفات. ثم يقدمون الحساء للجمهور (التطوير المتصل بالإنترنت/Online Development) ويراقبون ردود فعل الناس.
2. العقبات الثلاث الكبرى (التحديات التقنية)
العقبة أ: تعريف "العدل" يشبه تعريف "اللذة"
في المدرسة، تتعلم أن "العدل" يعني أن يحصل الجميع على نفس حجم قطعة الكعك. لكن في العالم الحقيقي، الأمور أكثر تعقيدًا.
- المشكلة: إذا كان لديك تطبيق مواعدة، هل من العدل إظهار نفس عدد الملفات الشخصية للجميع؟ أم من العدل إظهار ملفات شخصية من المرجح فعليًا أن يواعدونها؟
- الاستعارة: تخيل أنك طاهٍ. أحد الزبائن يقول: "أريد طبقًا حارًا". وآخر يقول: "أريد طبقًا حلوًا". إذا جعلت الطبق "عادلًا" بجعله "خفيفًا"، فقد تغضب كليهما. يعاني الميكانيكيون لأنهم لا يملكون كتاب قواعد واحد لما يعنيه "العدل" في كل موقف. غالبًا ما يضطرون لابتكار قواعدهم الخاصة في اللحظة ذاتها.
العقبة ب: مشكلة "كثرة الطهاة"
تخدم أنظمة التوصية مجموعتين رئيسيتين: المستخدمين (الناس الذين يتصفحون) والمزودين (البائعين، المبدعين، المعلنين).
- المشكلة: ما قد يكون عادلًا للمستخدم قد يكون غير عادل للمبدع، والعكس صحيح.
- الاستعارة: تخيل إشارة مرور. إذا جعلت الإشارة خضراء للمشاة (المستخدمين) لفترة طويلة، فستتعطل السيارات (المبدعون) ولن تتمكن من توصيل بضائعها. يتعين على الميكانيكيين موازنة هذه المصالح المتضاربة باستمرار. أحيانًا، يتعين عليهم اختيار من يحصل على "الضوء الأخضر"، وهذا قرار صعب للغاية.
العقبة ج: "الهدف المتحرك"
على عكس الجسر الثابت، يتغير نظام التوصية بناءً على كيفية استخدام الناس له.
- المشكلة: إذا عرض عليك النظام فيديو تحبه، فستضغط عليه. فيعتقد النظام: "أوه، إنه يحب هذا!" ويعرض لك المزيد منه. سرعان ما ستجد نفسك داخل فقاعة، لا ترى فيها سوى نوع واحد من المحتوى. وهذا ما يسمى بـ حلقة التغذية الراجعة (Feedback Loop).
- الاستعارة: الأمر يشبه كرة ثلج تتدحرج من فوق تلة. تبدأ صغيرة، ولكن بينما تتدحرج، تلتقط المزيد من الثلج (البيانات) وتصبح ضخمة. وبحلول الوقت الذي يدرك فيه الميكانيكيون أن كرة الثلج أصبحت كبيرة جدًا وتتدحرج في الاتجاه الخاطئ، يكون من الصعب جدًا إيقافها. غالبًا ما يضطرون للانتظار حتى يصبح النظام حيًا لرؤية هذه المشكلات، وهو أمر يشبه محاولة إصلاح سيارة أثناء قيادتها بسرعة 100 ميل في الساعة.
3. سياسات المكتب (التحديات التنظيمية)
التحدي أ: أزمة "لا وقت"
يقع الميكانيكيون تحت ضغط هائل لإبقاء النظام يعمل بسرعة وربحية.
- الاستعارة: تخيل أنك ميكانيكي في ورشة مزدحمة. يقول لك المدير: "أصلح المحرك لكي تسير السيارة بشكل أسرع!". وأنت تريد أيضًا أن تقول: "مهلاً، دعونا نتأكد أيضًا من أن المكابح آمنة للجميع". لكن المدير يقول: "ليس لدينا وقت لفحوصات السلامة اليوم؛ نحتاج لإخراج السيارات من الورشة".
- الواقع: أفاد الميكانيكيون بأنهم يقضون أقل من 10% من وقتهم في معالجة العدالة. ليس الأمر أنهم لا يهتمون، بل لأن "العدالة" لا تُعتبر حالة طوارئ، لذا يتم وضعها في أسفل قائمة المهام.
التحدي ب: "حاجز اللغة"
يتحدث الميكانيكيون إلى فريقين آخرين: المحامون وخبراء العدالة.
- المحامون: يتحدثون لغة واضحة: "لا يمكنك استخدام هذه البيانات، وإلا ستتعرض للمقاضاة". يحب الميكانيكيون هذا لأن القواعد واضحة وسوداء وبيضاء.
- خبراء العدالة: يتحدثون لغة مختلفة. يتحدثون عن "الأثر المجتمعي"، "التحيز النفسي"، و"الفروق الأخلاقية الدقيقة".
- الاستعارة: الأمر يشبه مترجمًا يحاول شرح قصيدة لجهاز كمبيوتر. يقول خبراء العدالة: "هذا يبدو غير عادل". ويسأل الميكانيكيون: "حسنًا، ولكن أي سطر من الكود يجب أن أغيره؟". غالبًا ما يجد الفريقان صعوبة في فهم بعضهما البعض لأنهما لا يتشاركان قاموسًا واحدًا.
4. ماذا يجب أن نفعل؟ (التوصيات)
تقترح الورقة عدة طرق للإصلاح:
- التدوين (التوثيق): غالبًا ما ينسى الميكانيكيون ما فعلوه في العام الماضي. هم بحاجة إلى "كتب وصفات" أفضل حتى لا يضطروا لابتكار العجلة في كل مرة يحاولون فيها معالجة التحيز.
- البدء مبكرًا: لا تنتظر حتى يتم بناء السيارة لتفحص المكابح. أحضر خبراء العدالة إلى المطبخ أثناء كتابة الوصفة، وليس فقط عند تقديم الطعام.
- تعلم لغات بعضكم البعض: يحتاج الميكانيكيون وخبراء العدالة إلى تعلم التحدث بنفس اللغة. ربما يحتاج خبراء العدالة لتعلم القليل من الكود، ويحتاج الميكانيكيون لتعلم القليل من الأخلاقيات.
- امنحهم الوقت: يجب على الشركات أن تدفع للميكانيكيين رسميًا مقابل قضاء وقت في التفكير في العدالة، تمامًا كما يدفعون لهم لجعل النظام أسرع.
الخلاصة
الناس الذين يبنون هذه الأنظمة يريدون فعل الشيء الصحيح. هم يعرفون أن ابتكاراتهم تشكل المجتمع. لكنهم عالقون في موقف صعب: إنهم يحاولون بناء آلة عادلة تمامًا في عالم فوضوي، سريع الخطى، ومليء بالقواعد المتضاربة. إنهم بحاجة إلى أدوات أفضل، ووقت أكثر، وطريقة أفضل للتواصل مع بعضهم البعض لجعل العالم الرقمي عادلاً للجميع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.