Proxy Discrimination After Students for Fair Admissions
تقترح هذه المقالة اختباراً قانونياً مقارناً لتنظيم التمييز بالوكالة في أعقاب قضية "الطلاب من أجل العدالة في القبول"، حيث تجادل بأن أدوات اتخاذ القرار تكون مصممة بدقة عندما تستخدم متغيرات ذات أضعف قوة وكالة إجمالية، وتقترح أن يضع المشرعون حدوداً قصوى لقوة الوكالة المسموح بها بينما يقع على عاتق المدعين عبء تحديد بدائل أقل تمييزاً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة فرانك فاجان البحثية، "التمييز عبر الوكيل بعد قضية الطلاب من أجل القبول العادل" (Proxy Discrimination After Students for Fair Admissions)، مترجمة إلى لغة بسيطة مع استخدام تشبيهات من الحياة اليومية.
المشكلة الكبيرة: "الشبح" في الآلة
تخيل أنك مدير بنك تحاول اتخاذ قرار بشأن من يحصل على قرض. أنت تعلم أن القانون يمنعك من رفض شخص ما لمجرد عرقه. لذا، تقول لحاسوبك: "لا تنظر إلى العرق!"
الحاسوب يطيع الأمر. يتجاهل عمود "العرق". ولكن إليك الخدعة: يبدأ الحاسوب في النظر إلى الرموز البريدية (Zip Codes) بدلاً من ذلك.
في العديد من المدن، تكون الرموز البريدية مقسمة عرقياً بشكل كبير. إذا كنت تعيش في رمز بريدي معين، فهناك احتمال كبير جداً أن تكون من عرق معين. لذا، حتى لو لم يكن الحاسوب ينظر إلى "العرق"، فهو ينظر إلى "الرمز البريدي"، والذي يعمل كـ بديل مثالي (أو وكيل - Proxy) للعرق.
التشبيه:
تخيل حارس بوابة عند ملهى ليلي يقول: "لا يهمني لون قميصك". لكنه بعد ذلك يقول: "أنا أسمح فقط بدخول الأشخاص الذين يرتدون أحذية حمراء". إذا كان كل من يرتدي أحذية حمراء ينتمي بالضرورة إلى حي معين، فقد قام الحارس فعلياً بمنع دخول ذلك الحي دون أن يذكر اسمه أبداً. إنه يستخدم وكيلاً (لون الحذاء) للقيام بما لا يمكنه فعله مباشرة (منع دخول حي معين).
لقد حكمت المحكمة العليا مؤخراً بأنه لا يمكن للكليات استخدام العرق مباشرة في عمليات القبول. لكن هذه الورقة تسأل: ما الذي يمنع الكليات من استخدام "الوكلاء" مثل المدرسة الثانوية التي ارتادها الطالب، أو دخل الوالدين، أو الرمز البريدي لتحقيق نفس النتيجة تماماً؟
الحل: قياس "قوة الوكيل"
يقترح المؤلف، فرانك فاجان، أننا بحاجة إلى طريقة جديدة لقياس مدى قيام هذه "المتغيرات الوكيلة" بالعمل القذر. وهو ما يسميه "قوة الوكيل" (Proxy Power).
فكر في وصفة لصنع كعكة:
- الهدف: صنع كعكة لذيذة (مثل التنبؤ بمن سيسدد القرض أو من سينجح في الكلية).
- المكونات: متغيرات مثل درجات الاختبار، الدخل، الرمز البريدي، إلمة.
- المكون المحظور: العرق.
إذا أخرجت "العرق" من الوصفة، ولكنك أبقيت على "الرمز البريدي"، وظلت الكعكة بنفس المذاق تماماً، فإن الرمز البريدي يقوم بعمل العرق. أي أن لديه "قوة وكيل" عالية.
يقترح فاجان ثلاث طرق لإصلاح ذلك:
1. "منطقة الحظر" (للأدوات الوكيلة المثالية)
أحياناً يكون الوكيل قوياً جداً لدرجة أنه يصبح هو نفسه الشيء المحظور.
- التشبيه: تخيل قاعدة تقول: "لا يُسمح لأي شخص يحمل علامة جينية معينة بالدخول". إذا كانت هذه العلامة الجينية مرتبطة بنسبة 100% بعرق معين، فإن استخدام هذه العلامة هو مجرد استخدام للعرق في شكل متنكر.
- القاعدة: إذا كان المتغير بمثابة "بديل مثالي" لفئة محمية (مثل العرق أو الجنس)، فيجب حظره فوراً. الأمر يشبه محاولة تهريب مادة محظورة إلى حفلة عن طريق إخفائها في صندوق مكتوب عليه بوضوح اسم المادة نفسها.
2. "منافسة البديل الأفضل" (الحد الأدنى المقارن)
هذه هي الفكرة الرئيسية للورقة. غالباً، لا يمكننا حظر متغير بالكامل لأنه يساعد بالفعل في التنبؤ بالنجاح (على سبيل المثال، الدخل يساعد في التنبؤ بسداد القروض). ولكن ربما توجد طريقة أفضل للتنبؤ بالنجاح لا تعتمد على وكلاء مرتبطين بالعرق.
- التشبيه: تخدمل طباخين يحاولان صنع أفضل حساء.
- الطباخ (أ): يستخدم مكوناً سرياً يرتبط بالصدفة بعرقية معينة. الحساء مذاقه رائع.
- الطباخ (ب): يستخدم مجموعة مختلفة من المكونات تجعل الحساء ذا مذاق مطابق تماماً، ولكن لا يوجد من بين مكوناته ما يرتبط بالعرقية.
- الحكم: الطباخ (ب) هو الفائز. يجب على القانون إجبار الطباخ (أ) على الانتقال إلى وصفة الطباخ (ب).
الاختبار: إذا كانت خوارزميتان (أو أداتان لاتخاذ القرار) تتنبآن بالنتيجة بنفس الكفاءة، ولكن إحداهما تستخدم متغيرات "مرتبطة بالعرق" أقل، فإن الخوارزمية التي تستخدم وكلاء أقل هي الفائزة قانونياً.
3. "حد السرعة" (قوة الوكيل المحدودة)
أحياناً، يكون من الصعب معرفة أي وصفة هي الأفضل. الرياضيات هنا معقدة.
- التشبيه: تخيل لوحة تحديد السرعة. لست بحاجة لحساب الديناميكا الهوائية لكل سيارة لتعرف أن القيادة بسرعة 90 ميلاً في الساعة هي سرعة زائدة. أنت فقط تضع حداً: "لا تتجاوز 55 ميلاً في الساعة".
- القاعدة: يمكننا وضع "سقف" لقوة الوكيل المسموح بها. إذا كان المتغير يضيف كمية ضئيلة وغير مؤثرة من الدقة (مثلاً 5%) ولكنه يتسبب في قدر هائل من التمييز، فيتم استبعاده. إنه "حد سرعة" للتمييز.
من الذي يجب أن يقوم بالعمل؟ (عبء الإثبات)
هناك سؤال رئيسي في الورقة: من الذي يجب أن يجد الوصفة الأفضل؟
- القانون الحالي: الشخص الذي يشعر بالتمييز (المدعي) هو من يتعين عليه إيجاد طريقة أفضل للشركة للقيام بأعمالها. هذا يشبه مطالبة زبون في مطعم بأن يأتي بوصفة أفضل للطعام.
- اقتراح الورقة: هذا غير عادل وصعب للغاية. الشركة (المدعى عليها) هي من تملك البيانات وأجهزة الكمبيوتر. يجب أن يكونوا هم من يبحثون عن طريقة أقل تمييزاً.
- فكرة "المنافسة": يقترح المؤلف إجراء "مسابقة طبخ":
- تقدم الشركة البيانات (بعد إخفاء الهوية) إلى حكم محايد.
- يقوم المدعي (المشتكي) ببناء خوارزميته الخاصة باستخدام البيانات العامة.
- تقوم الشركة ببناء خوارزمتها الخاصة.
- كلاهما يحاول تقديم أفضل تنبؤ ممكن.
- الفائز: هو الخوارزمية التي تتنبأ بالنتيجة بأفضل شكل مع استخدام أقل قدر من الوكلاء التمييزيين.
هذا يجبر الشركة على أن تكون صادقة. إذا لم يستطيعوا التغلب على خوارزمية المدعي "النظيفة"، فعليهم الاعتراف بأن خوارزميتهم الحالية تمييزية للغاية.
مشكلة "الصندوق الأسود"
أخيراً، تتحدث الورقة عن السرية.
- المشكلة: أحياناً، تتخذ لجنة بشرية القرارات في غرفة مغلقة. هم لا يكتبون لماذا رفضوا شخصاً ما. هم فقط يقولون: "شعرنا أنه ليس مناسباً". هذا هو "الصندوق الأسود".
- الحل: حتى لو لم نتمكن من رؤية ما يدور داخل العقل البشري، يمكننا مقارنة النتائج. إذا كانت لجنة بشرية ترفض 90% من العمال الأكبر سناً، بينما يمكن لبرنامج حاسوبي بسيط وشفاف تحقيق نفس الأهداف التجارية مع رفض 50% فقط، فإن اللجنة البشرية قد فشلت في "الاختبار المقارن".
الملخص: الخلاصة
تجادل الورقة بأننا لا نستطيع فقط أن نقول "لا تستخدم العرق". بل يجب أن ننظر إلى الصورة الكاملة.
- ابحث عن الشبح: تحقق مما إذا كانت المتغيرات "المحايدة" (مثل الرموز البريدية) هي مجرد وسيلة لإخفاء العرق.
- قارن بين الأدوات: إذا كان بإمكانك تحقيق هدفك (مثل إقراض المال أو قبول الطلاب) باستخدام أداة أقل تمييزاً، فيجب عليك استخدام تلك الأداة.
- ضع عبء الإثبات على صاحب العمل: الشركات والمدارس هي من تملك البيانات والقوة، لذا يجب أن يكونوا هم من يثبتون أنهم لا يستخدمون تمييزاً عبر "الوكلاء".
باختصار: لا يمكنك إخفاء مكون محظور بمجرد تغيير اسمه. إذا كان بإمكانك جعل الكعكة بنفس الجودة دون المكون المحظور، فيجب عليك فعل ذلك.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.