🤖 machine learning

Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing

تعيد هذه الورقة فحص دور المقارن في اختبارات التمييز من خلال التمييز بين نهج "بقاء الحال على ما هو عليه" المعياري وإطار عمل "مع مراعاة التغيير الضروري" المبتكر الذي يأخذ في الاعتبار كيفية تأثير السمات المحمية سببيًا على السمات غير المحمية، مما يقدم بديلًا أكثر تعقيدًا ولكنه أكثر تأثيرًا للكشف عن التمييز القائم على تعلم الآلة.

المؤلفون الأصليون: Jose M. Alvarez, Salvatore Ruggieri

نُشر 2026-05-04

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Jose M. Alvarez, Salvatore Ruggieri

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك قاضٍ تحاول أن تقرر ما إذا كان مدير التوظيف قد مارس التمييز ضد متقدمة للوظيفة تُدعى كلارا. كلارا امرأة، وقد رُفض طلبها. هي تزعم أنه تم رفضها بسبب كونها امرأة.

لإثبات ذلك، تحتاج إلى مقارنتها بشخص آخر. ولكن من؟ هذا هو اللغز المركزي الذي تحله الورقة البحثية.

يرى المؤلفان، خوسيه م. ألفاريز وسالفاتوري روجيري، أن كيفية اختيارنا لهذا "الشخص المقارن" (الذي يسمى المقارن) تغير النتيجة الكاملة للاختبار. وهما يقترحان طريقتين مختلفتين لاختيار هذا الشخص: طريقة "كل شيء آخر متساوٍ" وطريقة "إجراء التعديلات".

إليك شرح مبسط لحجتهما باستخدام تشبيهات من الحياة اليومية.

1. الطريقة القياسية: "كل شيء آخر متساوٍ" (Ceteris Paribus)

هذه هي الطريقة التقليدية التي يعمل بها اختبار التمييز. تخيل أنك تريد معرفة ما إذا كانت سيارة سباق أسرع من شاحنة. تضعهما على نفس المسار تماماً، مع نفس الوقود، ونفس حالة الطقس. الشيء الوحيد الذي تغيره هو نوع المركبة.

في مصطلات الورقة، هذا هو مقارن الـ CP.

السيناريو: كلارا (أنثى) تقدمت لوظيفة. لاختبار ادعائها، نجد مايك (ذكر) لديه نفس السيرة الذاتية تماماً، ونفس عدد سنوات الخبرة، ونفس الدرجات العلمية.
المنطق: إذا حصل مايك على الوظيفة ولم تحصل كلارا عليها، رغم امتلاكهما سيرتين ذاتيتين متطابقتين، فإن كلارا تعرضت للتمييز.
المشكلة: يرى المؤلفان أن هذا "خيال" مثالي. في العالم الحقيقي، غالباً ما يغير كون المرء امرأة (أو عضواً في فئة محمية) مسار حياتها قبل أن تتقدم للوظيفة حتى. ربما أخذت كلارا استراحة لتربية الأطفال، أو ربما تم توجيهها بعيداً عن تخصصات معينة بسبب التوقعات المجتمعية. إذا وجدت "مايك" لديه نفس السيرة الذاتية تماماً، فأنت تتجاهل حقيقة أن المجتمع عاملهم بشكل مختلف قبل كتابة السيرة الذاتية. أنت تتظاهر بأن الماضي لم يكن موجوداً.

2. الطالط الجديدة: "إجراء التعديلات" (Mutatis Mutandis)

يقترح المؤلفان طريقة أكثر ذكاءً وتعقيداً لاختيار الشخص المقارن. هذا هو مقارن الـ MM.

فكر في هذا الأمر كأنه محاكاة للسفر عبر الزمن.

السيناريو: لا نزال نملك كلارا. ولكن بدلاً من البحث عن "مايك" لديه نفس السيرة الذاتية تماماً، نسأل: "لو ولدت كلارا رجلاً، كيف كانت ستسير حياتها بشكل مختلف؟"
التعديل: إذا كان كونها امرأة قد يعني أن كلارا قضت وقتاً أقل في الدراسة أو حصلت على فرص تواصل أقل، فإن طريقة MM تقول: "دعونا نعدل سيرة مايك لتطابق ما كانت ستكون عليه حياة كلارا لو كانت رجلاً".
النتيجة: ربما ينتهي الأمر بمايك وهو يمتلك خبرة أكثر أو درجات أفضل من "كلارا التي نراها اليوم"، لأنها لم تواجه نفس العقبات المجتمعية.
المنطق: نحن نقارن كلارا الحقيقية بمايك المعدل. إذا حصل مايك المعدل على الوظيفة ولم تحصل كلارا الحقيقية عليها، فلدينا دليل قوي على التمييز. هذه الطريقة تعترف بأن "ساحة اللعب" لم تكن متكافئة منذ البداية.

مثال "الترقية الأكاديمية" (Tenure)

تستخدم الورقة قصة عن أستاذة جامعية تُدعى كلارا لتوضيح الفكرة:

كلارا (أنثى) لديها 12 بحثاً علمياً ورُفض طلب تثبيتها في منصبها.
مايك (ذكر) لديه 12 بحثاً علمياً ورُفض طلبه للتثبيت.
فينسنت (ذكر) لديه 18 بحثاً علمياً وحصل على التثبيت.

باستخدام طريقة "كل شيء آخر متساوٍ" (CP):
تقارن كلارا بمايك. كلاهما لديه 12 بحثاً. بما أن مايك رُفض أيضاً، فقد تقول: "انظروا؟ لم يكن السبب لأنها امرأة؛ بل لأنها ببسا_طة لم تملك أبحاثاً كافية". قد بذلك تستبعد ادعاءها.

باستخدام طريقة "إجراء التعديلات" (MM):
تسأل: "لو كانت كلارا رجلاً، هل كان سيكون لديها 12 بحثاً، أم 18 بحثاً؟" يجادل المؤلفان بأنه لأن النساء غالباً ما يواجهن أعباء إضافية (مثل رعاية الأطفال) لا يواجهها الرجال، فإن رجلاً في وضع كلارا قد يكون لديه وقت أكثر لكتابة الأبحاث. لذا، فإن النسخة "المعدلة" من كلارا (لنسمها "كلارا-الرجل") قد تمتلك 18 بحثاً.
ثم تقارن كلارا الحقيقية (12 بحثاً) بـ فينسنت (18 بحثاً، الذي حصل على التثبيت). إذا رفضت الجامعة المتقدمة ذات الـ 12 بحثاً وقبلت المتقدم ذو الـ 18 بحثاً، ونحن نعلم أن المتقدمة ذات الـ 12 بحثاً قد تم تقييدها بسبب الأدوار المجتمعية المرتبطة بالنوع الاجتماعي، يصبح التمييز أكثر وضوحاً.

لماذا يهم هذا الأمر؟

يقول المؤلفان إن معظم الأدوات الحالية للكشف عن التمييز تستخدم طريقة CP (كل شيء آخر متساوٍ). إنها تشبه الكاميرا التي تلتقط صوراً للحظة الحالية فقط، متجاهلة التاريخ الذي أوصلنا إلى هنا.

أما طريقة MM (إجراء التعديلات) فهي تشبه كاميرا تحتوي على زر "إرجاع وتعديل". إنها تحاول إعادة بناء ما سيكون عليه العالم لو لم يؤثر (السمة المحمية، مثل العرق أو الجنس) على مسار حياة الشخص.

العقبة:
يعترف المؤلفان بأن بناء طريقة MM أصعب بكثير. فهي تتطلب نماذج تعلم آلي معقدة لمحاكاة سيناريوهات "ماذا لو" هذه. إنها تشبه محاولة كتابة رواية تاريخ بديلة مثالية. طريقة CP سهلة (فقط ابحث عن توأم لها)، لكنها قد تغفل عن الظلم الحقيقي. أما طريقة MM فهي معقدة وتتطلب الكثير من الخيال، لكنها قد تنقل الحقيقة حول كيفية عمل النظام بالفعل.

الخلاصة

لا تقول الورقة إن الطريقة القديمة "خاطئة" أو أن الطريقة الجديدة "مثالية". بدلاً من ذلك، تقول: "يجب أن نتوقف عن التظاهر بأن هناك طريقة واحدة فقط للمقارنة."

عندما نختبر التمييز، فنحن نتخذ قراراً بشأن ماهية "العدالة".

إذا أردنا معرفة ما إذا كان شخصان لديهما نفس السيرة الذاتية يُعاملان بشكل مختلف، استخدم الطريقة القديمة.
إذا أردنا معرفة ما إذا كان شخصان واجها مسارات حياة مختلفة بسبب هويتهما، فقد عوملا بإنصاف، فنحن بحاجة إلى الطريقة الجديدة.

يعتقد المؤلفان أنه نظراً لامتلاكنا الآن أدوات ذكاء اصطناعي قوية، يجب أن نبدأ في استخدام طريقة "إجراء التعديلات" للحصول على صورة أوضح وأكثر صدقاً للتمييز.

إليك ملخص تقني مفصل لورقة البحث بعنوان "Mutatis Mutandis: إعادة النظر في المقارن في اختبار التمييز" للباحثين خوسيه م. ألفاريز وسالفاتوري روجيري.

1. بيان المشكلة

تعالج الورقة قصوراً جوهرياً في منهجيات اختبار التمييز الحالية، وتحديداً فيما يتعلق ببناء المُقارِن (Comparator).

السياق: يعتمد اختبار التمييز على مقارنة "المشتكي" (فرد يدعي تعرضه للتمييز بناءً على سمة محمية $A$ ، مثل العرق أو الجنس) مع "مُقارِن" (فرد مشابه من مجموعة غير محمية).
النهج المعياري (Ceteris Paribus - CP): تستخدم معظم الأدوات الحالية (سواء القانونية أو الخوارزمية) مُقارِناً يقوم على مبدأ "بفرض بقاء العوامل الأخرى ثابتة" (ceteris paribus). يفترض هذا النهج أن المُقارِن متطابق مع المشتكي في جميع السمات غير المحمية ( $X$ )، ويختلف عنه فقط في السمة المحمية ( $A$ ).
الخلل: يرى المؤلفان أن نهج الـ CP هو مقارنة مثالية تفشل في مراعاة الواقع السببي، حيث غالباً ما تؤثر السمات المحمية على السمات غير المحمية (على سبيل المثال، تأثير العنصرية الممنهجة على مستويات التعليم أو الدخل). ومن خلال فرض بقاء $X$ متطابقة عند تغيير $A$ ، يتجاهل مُقارِن الـ CP الآثار المترتبة على التمييز، مما قد يؤدي إلى حجب التمييز غير المباشر أو الفشل في رصد سيناريو "ما كان يجب أن يكون" الحقيقي.
السؤال الجوهري: كيف يمكننا اشتقاق مُقارِن يأخذ في الاعسب التأثير السببي للسمة المحمية على السمات الأخرى، بدلاً من افتراض عالم ثابت ومثالي يتغير فيه فقط المتغير المحمي؟

2. المنهجية

يقترح المؤلفان إطار عمل سببي لإعادة تعريف المُقارِن، والانتقال من مقياس مسافة ثابت إلى نهج توليدي مضاد للواقع (Counterfactual).

أ. الإطار السببي

تستخدم الورقة نماذج السببية الهيكلية (SCM) (إطار بيرل) لصياغة اختبار التمييز.

المتغيرات: $A$ (السمة المحمية)، $X$ (السمات غير المحمية)، $Y$ (قرار النتيجة).
الاستدلال المضاد للواقع: يتم صياغة اشتقاق المُقارِن للإجابة على سؤال مضاد للواقع: "ماذا ستكون النتيجة لو كان للمشتكي سمة محمية مختلفة؟"
الإجراء: يتبع المؤلفون خطوات الاستنباط-التدخل-التنبؤ القياسية:
1. الاستنباط (Abduction): استنتاج المتغيرات الخارجية الكامنة ( $U$ ) من البيانات المرصودة.
2. التدخل (Action): التدخل في $A$ (ضبط $A := \alpha$ ).
3. التنبؤ (Prediction): نشر التغيير عبر المعادلات الهيكلية لتوليد التوزيع المضاد للواقع لـ $X$ و $Y$ .

ب. نوعا المُقارِنين

تقدم الورقة تصنيفاً رسمياً للمُقارِنين:

المُقارِن القائم على مبدأ "بفرض بقاء العوامل الأخرى ثابتة" (CP Comparator):
- التعريف: يجد فرداً $i'$ بحيث يكون $d(x_i, x_{i'}) \leq \epsilon$ و $a_i \neq a_{i'}$ .
- الآلية: يقلل المسافة في السمات غير المحمية $X$ مع عكس قيمة $A$ .
- القصور: يفترض أن $X$ مستقلة عن $A$ في العالم المضاد للواقع، متجاهلاً الروابط السببية التاريخية أو الممنهجة.
المُقارِن القائم على مبدأ "مع إجراء التغييرات اللازمة" (MM Comparator):
- التعريف: يجد فرداً $i'$ بحيث يكون $\tilde{d}((x_i, a_i), (x_{i'}, a_{i'})) \leq \epsilon$ و $a_i \neq a_{i'}$ .
- الآلية: يستخدم دالة مسافة تراعي السمات المحمية $\tilde{d}$ . ومن الأهمية بمكان أنه يسمح بأن يكون $x_i \neq x_{i'}$ .
- التنفيذ: يتطلب مُقارِن الـ MM توليد تمثيل مضاد للواقع $\tilde{X}$ لسمات المشتكي غير المحمية. يمثل $\tilde{X}$ ما كانت ستكون عليه سمات المشتكي لو كان ينتمي إلى المجموعة غير المحمية، مما يؤدي فعلياً إلى "تعديل" الآثار المترتبة على $A$ على $X$ .
- الصياغة الرياضية: يقترح المؤلفون استخدام نموذج توليدي $g(\cdot)$ (مثل SCM) لتعلم $\tilde{X} = g(X, A)$ بحيث يكون $\tilde{X} \perp A$ (تمثيل عادل). ثم يتم إيجاد المُقارِن عن طريق تقليل المسافة بين $\tilde{X}$ والـ $X$ الفعلية للمجموعة غير المحمية.

ج. الإعداد التجريبي

للتحقق من التمايز، يقارن المؤلفان أداتين باستخدام مجموعة بيانات "قبولات كليات الحقوق" (Law School Admissions):

اختبار الموقف (Situation Testing - ST): يطبق مُقارِن الـ CP. يجد أقرب الجيران في مجموعة البيانات بناءً على $X$ (المعدل التراكمي GPA، واختبار LSAT) بعد عكس السمة المحمية.
اختبار الموقف المضاد للواقع (Counterfactual Situation Testing - CST): يطبق مُقارِن الـ MM. يستخدم نموذج SCM لتوليد ملفات تعريف مضادة للواقع (تعديل المعدل التراكمي/LSAT بناءً على التأثير السببي للعرق/الجنس) قبل البحث عن أقرب الجيران.

3. المساهمات الرئيسية

إعادة الصياغة السببية: يجادل المؤلفان بأن اشتقاق المُقارِن هو بطبيعته مشكلة نمذجة سببية، وليس مجرد بحث عن التشابه. المُقارِن هو تمثيل مضاد للواقع للمشتكي الفعلي.
مفهوم مُقارِن "Mutatis Mutandis": قدموا مُقارِن الـ Mutatis Mutandis كبديل قابل للتطبيق لمُقارِن الـ CP المعياري. هذا ينقل الهدف من "معاملة الأشخاص المتشابهين بشكل متشابه" (المساواة الشكلية) إلى "تحقيق المساواة الموضوعية" من خلال مراعاة العيوب الممنهجة.
التمييز الرسمي: تقدم الورقة تمييزاً رياضياً صارماً بين مُقارِني CP و MM، موضحة أن MM يسمح بعدم التشابه في السمات غير المحمية إذا كانت تلك الاختلافات ناتجة عن السمة المحمية.
دمج تعلم الآلة: يضع المؤلفان تعلم الآلة (وتحديداً النماذج التوليدية وSCMs) كعنصر أساسي لتنفيذ مُقارِن الـ MM، في تباين مع الآراء التي ترفض النمذجة السببية في اختبار التمييز.

4. النتائج

أسفرت التجربة التوضيحية على مجموعة بيانات "قبولات كليات الحقوق" عن نتائج هامة:

معدلات الكشف: اكتشفت أداة CST (MM) حالات تمييز ظاهرة (prima facie) أكثر بكثير من أداة ST (CP).
- العرق: اكتشفت CST حالات أكثر بـ ~3 مرات من ST (مثلاً 17.26% مقابل 3.08% عند $k=500$ ).
- الجنس: اكتشفت CST حالات أكثر قليلاً، لكن الفجوة كانت أصغر، مما يشير إلى أن التأثير السببي للجنس على السمات المحددة (GPA/LSAT) في هذه المجموعة من البيانات كان أقل بروزاً من العرق.
تحولات التوزيع: أظهر التحليل البصري (الرسوم البيانية الصندوقية - Box plots) أنه تحت نظام ST، كانت توزيعات المعدل التراكمي/LSAT لمجموعة الاختبار (المقارنين) متطابقة تقريباً مع توزيعات مجموعة الضبط. أما تحت نظام CST، فقد أظهرت توزيعات مجموعة الاختبار انزياحات، مما يعكس التعديل المضاد للواقع حيث تمت إزالة تأثير السمة المحمية على السمات.
الاستنتاج: غالباً ما يفشل نهج الـ CP (ST) في اكتشاف التمييز غير المباشر لأنه يفترض أنه إذا كان لدى مقدم طلب من الأقليات نفس المعدل/LSAT لشخص أبيض، فهم "متشابهون". بينما يدرك نهج الـ MM أن تحقيق ذلك المعدل/LSAT قد تطلب التغلب على حواجز ممنهجة، وبالتالي فإن المُقارِن "العادل" يجب أن يمتلك قيم سمات مختلفة.

5. الأهمية والخاتمة

المساواة الموضوعية مقابل المساواة الشكلية: تجادل الورقة بأن الاعتماد فقط على مُقارِني CP يفرض مساواة شكلية (معاملة الأشخاص ذوي الإحصائيات الحالية المتطابقة بنفس الطريقة)، مما قد يكرس عدم المساواة القائمة. يهدف مُقارِن MM إلى المساواة الموضوعية من خلال تصور عالم تمت فيه إزالة الحواجز الممنهجة.
الأثر المعياري: اختيار المُقارِن ليس مجرد معلمة تقنية، بل هو بيان معياري حول ما يشكل مقارنة "عادلة". يُجبر مُقارِن MM أصحاب المصلحة على مواجهة الآليات السببية للتمييز.
الاتجاهات المستقبلية: يقترح المؤلفون أن أدوات اختبار التمييز المستقبلية يجب أن تتجاوز مقاييس المسافة البسيطة وتدمج النماذج التوليدية (مثل SCMs أو تعلم التمثيل العادل) لاشتقاق مُقارِني MM. وهذا يسمح للمجال بالانتقال من اكتشاف التمييز المباشر إلى كشف أنماط التمييز غير المباشر المعقدة والمتجذرة في التحيز الممنهج.

باخت-صار، تفترض الورقة أنه لاختبار التمييز حقاً في مجتمع معقد ومنحاز، يجب أن نتوقف عن السؤال: "من هو بالضبط مثل هذا الشخص ولكن بجنس أو عرق مختلف؟" ونبدأ في السؤال: "من سيكون هذا الشخص لو تمت إزالة الآثار الممنهجة لعرقه أو جنسه؟" يوفر مُقارِن Mutatis Mutandis الإطار التقني للإجابة على السؤال الأخير.