🤖 machine learning

Fairness of Classifiers in the Presence of Constraints between Features

تقترح هذه الورقة تعريف عدالة المصنف من خلال وجود "تفسيرات عادلة" (الأسباب المتمثلة في المضروبات الأولية التي تستبعد السمات المحمية) التي تراعي قيود السمات، وهي تحلل العلاقات والتعقيد الحسابي لثلاثة تعريفات متميزة للعدالة في ظل هذه الظروف.

المؤلفون الأصليون: Martin C. Cooper, Imane Bousdira

نُشر 2026-05-04

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Martin C. Cooper, Imane Bousdira

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك قاضٍ يقرر من يحصل على وظيفة، أو قرض، أو مكافأة. في عالم الذكاء الاصطناعي، نريد التأكد من أن هؤلاء القضاة عادلون. عادةً ما تعني كلمة "عادل" أن القاضي لا ينظر إلى الأشياء الحساسة مثل جنس الشخص أو عرقه.

لكن هذه الورقة البحثية تجادل بأن النظر في الميزات "الحساسة" ليس كافيًا. يجب عليك أيضًا النظر في قواعد اللعبة (القيود) التي تربط بين المعلومات المختلفة. إذا تجاهلت هذه القواعد، فقد تعتقد أن القاضي غير عادل بينما هو في الواقع عادل، أو العكس.

إليك تفصيل للأفكاف الرئيسية للورقة باستخدام تشبيهات بسيطة.

1. فخ "القواعد الخفية"

تخيل نادياً لديه قاعدة: "يمكنك الدخول فقط إذا كنت ترتدي قبعة حمراء وَ كنت عضواً."

الميزات: "ارتداء قبعة حمراء" و"كونك عضواً".
القيد: في هذا النادي تحديداً، يُسمح فقط للأعضاء بارتداء القبعات الحمراء. إذا لم تكن عضواً، فلا يمكنك ارتداء قبعة حمراء.

الآن، تخيل قاضياً يعمل بالذكاء الاصطناعي يقرر من يدخل.

السيناريو أ (تجاهل القواعد): يرى الذكاء الاصطناعي شخصاً يرتدي قبعة حمراء ولكن بدون بطاقة عضوية (وهذا مستحيل في الواقع، لكن الذكاء الاصطناعي لا يعرف القاعدة). يقول: "لا، لأنك لا تملك بطاقة". يبدو الأمر وكأن الذكاء الاصطناعي يتجاهل القبعة.
السيناريو ب (معرفة القواعد): يعرف الذكال الاصطناعي القاعدة: "القبعات الحمراء موجودة فقط للأعضاء". لذا، إذا كان شخص ما يرتدي قبعة حمراء، فلا بد أنه عضو. يقول: "نعم، يمكنك الدخول لأنك ترتد قبعة حمراء".

تقول الورقة: إذا لم تكن تعرف القاعدة (القيد)، فقد تعتقد أن الذكاء الاصطناعي غير عادل لأنه يبدو وكأنه يهتم بالقبعة. ولكن إذا كنت تعرف القاعدة، فستدرك أن القبعة هي مجرد وسيلة مختصرة لإثبات العضوية. بالتالي، الذكاء الاصطناعي عادل بالفعل.

ادعاء الورقة: لا يمكنك الحكم على العدالة بمجرد النظر إلى المدخلات؛ يجب أن تنظر إلى كيفية ارتباط المدخلات منطقياً أو قانونياً.

2. اختبار "التفسير العادل"

يقترح المؤلفون طريقة جديدة للتحقق مما إذا كان القرار عادلاً. بدلاً من السؤال، "هل نظر الذكاء الاصطناعي إلى الجنس؟"، نسأل: "هل يستطيع الذكاء الاصطناعي شرح قراره دون ذكر الجنس؟"

يطلقون على هذا اسم "التفسير العادل".

التشبيه: تخيل أنك تتقدم بطلب للحصول على قرض.
- تفسير غير عادل: "تم رفضك لأنك امرأة." (هذا سيء).
- تفسير عادل: "تم رفضك لأن دخلك منخفض جداً." (هذا جيد).
- المنعطف: أحياناً يكون منطق الذكاء الاصطناعي فوضوياً. قد يقول: "تم الرفض بسبب (أنتِ امرأة وَ دخلك منخفض) أو (أنتَ رجل وَ دخلك منخفض)."
- حل الورقة: إذا استطاع الذكاء الاصطناعي إيجاد سبب واحد بسيط لا يذكر الجنس (مثل "الدخل منخفض")، فإن القرار يكون عادلاً وجودياً. أما إذا كانت كل الأسباب المحتملة التي يمكن أن يقدمها تتضمن الجنس، فإنه يكون غير عادل.

3. ثلاثة مستويات للعدالة

تحدد الورقة ثلاث طرق يمكن من خلالها اعتبار نظام ذكاء اصطناعي كامل (مصنف) عادلاً:

العدالة الوجودية (قاعدة "على الأقل واحد"):
- التشبيه: لكل قرار يتخذه الذكاء الاصطناعي، هل يمكنه إيجاد عذر واحد على الأقل لا يذكر الجنس؟
- الحكم: إذا كانت الإجابة بنعم، فإن النظام يجتاز هذا الاختبار. الأمر يشبه قول: "يمكنني تبرير هذا القرار دون أن أكون متحيزاً جنسياً، حتى لو كانت هناك أسباب أخرى متحيزة تدور في ذهني".
العدالة الشاملة (قاعدة "كل الأسباب"):
- التشبيه: لكل قرار، هل جميع التفسيرات الممكنة خالية من الجنس؟
- الحكم: هذا أكثر صرامة. هذا يعني أن الذكاء الاصطناعي لا يمكنه استخدام الجنس كسبب، حتى لو أراد ذلك.
العدالة من خلال عدم المعرفة (قاعدة "العصابة"):
- التشبيه: إذا كان شخصان متطابقين في كل شيء باستثناء الجنس، هل يحصلان على نفس النتيجة؟
- الحكم: توضح الورقة أنه في عالم مليء بالقواعد (القيود)، قد يكون اختبار "العصابة" هذا صعباً. فأحياناً، وبسبب القواعد، لا يمكن لشخصين أن يكونا متطابقين باستثناء الجنس (على سبيل المثال: لا يمكن للمرأة أن تكون في حالة "إجازة أمومة" بينما الرجل لا يمكنه ذلك). لذا، قد يفشل اختبار العصابة حتى لو كان الذكاء الاصطناعي عادلاً.

4. "سحر" القيود

تستخدم الورقة الرياضيات لتظهر بعض الأشياء المفاجئة:

تجاهل القيود يمكن أن يجعل الذكاء الاصطناعي العادل يبدو غير عادل. (مثل مثال إجازة الأمومة: إذا كنت لا تعرف أن النساء فقط هن من يأخذن إجازة أمومة، فقد تعتقد أن الذكاء الاصطناعي يميز ضد الرجال بينما هو فقط يتبع القانون).
تجاهل القيود يمكن أن يجعل الذكاء الاصطناعي غير العادل يبدو عادلاً. (إذا استخدم الذكاء الاصطناعي قاعدة خفية للتمييز، ولكنك لا ترى القاعدة، فقد تظن أنه بريء).

5. تكلفة التحقق من العدالة

تنتهي الورقة بتحذير بشأن التعقيد.

التشبيه: التحقق مما إذا كان يتم اتباع قاعدة "عدم المعرفة" البسيطة يشبه التحقق من قائمة تسوق؛ إنه سريع.
الواقع: التحقق مما إذا كان لدى الذكاء الاصطناعي "تفسير عادل" (خاصة عند وجود قواعد) يشبه محاولة حل لغز ضخم متعدد الطبقات حيث يتعين عليك تخيل كل نسخة ممكنة من الواقع.
النتيجة: وجد المؤلفون أن التحقق من هذه التعريفات المتقدمة للعدالة صعب جداً من الناحية الحسابية (من الناحية الرياضية، يقع في مستوى عالٍ من الصعوبة). ومع ذلك، وجدوا بعض الاختصارات (مثل "القيود المرنة") حيث يصبح التحقق أسهل مرة أخرى.

الملخص

تجادل هذه الورقة بأن العدالة لا تتعلق فقط بالبيانات التي تغذي بها الذكاء الاصطناعي، بل بالقواعد التي تربط تلك البيانات ببعضها البعض.

إذا تجاهلت القواعد، فقد تعاقب ذكاءً اصطناعياً عادلاً أو تسمح لواحد منحاز بالمرور.
أفضل طريقة للتحقق من العدالة هي السؤال: "هل يمكنك شرح هذا القرار دون استخدام الميزة المحمية؟"
القيام بهذا التحقق بشكل مثالي أمر صعب جداً على أجهزة الكمبيوتر، لكنه ضروري لضمان العدالة الحقيقية.

إليك ملخص تقني مفصل لورقة البحث بعنوان "عدالة المصنفات في ظل وجود قيود بين الميزات" (Fairness of Classifiers in the Presence of Constraints between Features) للباحثين مارتن سي. كوبر وإيمان بوسديرا.

1. بيان المشكلة

تتناول الورقة فجوة حرجة في تعريف وتقييم العدالة في مصنفات تعلم الآلة: وجود قيود منطقية بين الميزات.

السياق: تفترض تعريفات العدالة القياسية (مثل: العدالة من خلال عدم المعرفة - Fairness Through Unawareness) غالبًا أن القرار يكون عادلًا إذا لم يعتمد على الميزات المحمية (مثل الجنس أو العرق).
المشكلة: في السيناريوهات الواقعية، نادرًا ما تكون الميزات مستقلة. توجد قيود ناتجة عن:
- الترميز (Encoding): مثل الترميز بنظام "الواحد الساخن" (One-hot encoding) حيث يجب أن تكون ميزة بولينية واحدة فقط صحيحة.
- المنطق الواقعي: مثل "إذا كانت المرأة في إجازة أمومة، فيجب أن تكون أنثى وموظفة".
النتيجة: تجاهل هذه القيود يمكن أن يؤدي إلى نتائج إيجابية كاذبة (اعتبار مصنف عادل غير عادل) أو نتائج سلبية كاذبة (اعتبار مصنف غير عادل عادلًا).
- مثال: قد يبدو النموذج وكأنه يعتمد على الجنس لأن مخرجات النموذج تتغير عند تغيير الجنس، ولكن إذا كان القيد يقتضي أن تغيير الجنس سيؤدي أيضًا إلى تغيير ميزة أخرى (مثل الحالة الوظيفية)، فقد يكون القرار في الواقع مستقلًا عن الجنس ضمن فضاء الميزات الصالح.
الهدف: صياغة تعريف رسمي للعدالة في وجود قيود ( $C$ ) وتحليل التعقيد الحسابي للتحقق من هذه التعريفات.

2. المنهجية والمفاهيم الأساسية

يستخدم المؤلفون التفسيرات الاستنباطية (Abductive Explanations - AXp) و الاستلزامات الأولية (Prime Implicants - PI) ضمن فضاء ميزات مقيد.

تعريفات رئيسية

فضاء الميزات ( $F$ ): حاصل الضرب الديكارتي لنطاقات الميزات.
القيود ( $C$ ): مجموعة من القواعد المنطقية التي تقيد الحالات الصالحة. الفضاء الصالح هو $F[C]$ .
الميزات المحمية ( $P$ ) مقابل الميزات غير المحمية ( $N$ ): تحتوي $P$ على السمات الحساسة (مثل الجنس)؛ وتحتوي $N$ على سمات أخرى.
التفسير الاستنباطي (AXp): مجموعة فرعية من الميزات $S$ بحيث أن تثبيت قيم $S$ لتلك الموجودة في الحالة $x$ يضمن مخرج المصنف $\kappa(x)$ ، مع مراعاة الحالات الموجودة في $F[C]$ فقط.
تفسير الاستلزام الأولي (PI-explanation): هو تفسير استنباطي (AXp) لا يتم احتواؤه بشكل صارم بواسطة AXp آخر. في الفضاءات المقيدة، يتم تعريف الاحتواء عبر الاستلزام المنطقي داخل $F[C]$ ، وليس مجرد الاحتواء المجموعي.
التفسير الأولي العادل (Fair PI-explanation): هو تفسير استلزام أولي يحتوي على لا ميزات محمية ( $S \cap P = \emptyset$ ).

التعريفات المقترحة للعدالة

تقترح الورقة ثلاثة تعريفات متميزة لعدالة المصنف $\kappa$ :

العدالة من خلال عدم المعرفة المقيدة (Constrained FTU):
- لكل $x, y \in F[C]$ ، إذا كانت $x_N = y_N$ (الميزات غير المحمية متطابقة)، فإن $\kappa(x) = \kappa(y)$ .
- هذا يضمن أن القرار يعتمد فقط على الميزات غير المحمية داخل الفضاء الصالح.
العدالة الوجودية (Existential Fairness):
- لكل قرار $\kappa(x) = c$ ، يوجد على الأقل تفسير استلزام أولي عادل واحد.
- المعنى: هناك سبب صالح واحد على الأقل للقرار لا يعتمد على الميزات المحمية.
العدالة الشاملة (Universal Fairness):
- لكل قرار $\kappa(x) = c$ ، جميع تفسيرات الاستلزام الأولية هي تفسيرات عادلة.
- المعنى: كل سبب أدنى للقرار يتجنب الميزات المحمية.

التحليل النظري

يحلل المؤلفون العلاقات بين هذه التعريفات تحت سيناريوهات قيود مختلفة:

القيود بين $P$ و $N$ : تجاهل هذه القيود يمكن أن يغير تقييمات العدالة بشكل جذري. يمكن أن يكون القرار عادلًا بشكل شامل في $F[C]$ ولكنه يبدو غير عادل في $F$ غير المقيد، أو العكس.
القيود داخل $P$ فقط: إذا وجدت قيود بين الميزات المحمية فقط، فإن وجود تفسير استلزام أولي عادل يتم الحفاظ عليه من الفضاء غير المقيد إلى الفضاء المقيد (التقرير 1).
القيود داخل $N$ فقط: وجود تفسير استلزام أولي عادل مستقل عن هذه القيود (التقرير 2). ومع ذلك، يمكن للقيود داخل $N$ أن تخلق تفسيرات استلزام أولية غير عادلة لم تكن موجودة في الفضاء غير المقيد (المثال 7).

شروط خاصة للتكافؤ

تحدد الورقة الشروط التي تتبسط فيها التعريفات المعقدة (الوجودية/الشاملة) لتصبح أسهل في التحقق وهي "العدالة من خلال عدم المعرفة المقيدة":

القيود الفضفاضة (Loose Constraints): إذا لم يكن أي تعيين جزئي لميزة محمية يستلزم بشكل صارم تعيين جميع الميزات غير المحمية، فإن "العدالة من خلال عدم المعرفة المقيدة" تستلزم "العدالة الوجودية".
المصنفات المنفصلة (Disentangled Classifiers): يكون المصنف "منفصلاً" إذا كانت مجموعة الميزات غير المحمية $N$ هي AXp ضعيف لا يتم استلزامه بشكل صارم بواسطة أي AXp غير عادل. وهذا يضمن العدالة الوجودية.

3. المساهمات الرئيسية

صياغة العدالة مع القيود: تتجاوز الورقة تعريف "عدم المعرفة" القياسي من خلال دمج القيود المنطقية مباشرة في تعريف التفسيرات (تفسيرات الاستلزام الأولي).
إثبات تأثير القيود: من خلال أمثلة متعددة (مثل إجازة الأمومة، ووكالات التبني)، يثبت المؤلفون أن تجاهل القيود يؤدي إلى تقييمات خاطئة للعدالة.
التسلسل الهرمي لتعريفات العدالة: تؤسس الورقة العلاقات المنطقية بين العدالة من خلال عدم المعرفة المقيدة، والعدالة الوجودية، والعدالة الشاملة.
- الشاملة $\implies$ الوجودية $\implies$ العدالة من خلال عدم المعرفة المقيدة.
- الاستلزامات العكسية لا تتحقق عمومًا ما لم تُستوفَ شروط محددة (مثل "القيود الفضفاضة" أو "عدم وجود قيود بين P و N").
تحليل التعقيد: يقوم المؤلفون برسم خريطة للتعقيد الحسابي للتحقق من مفاهيم العدالة هذه ضمن التسلسل الهرمي متعدد الحدود (Polynomial Hierarchy).

4. النتائج وتحليل التعقيد

تقدم الورقة تحليلًا دقيقًا للتعقيد لاختبار تعريفات العدالة هذه:

مفهوم العدالة	فئة التعقيد	ملاحظات
وجود تفسير استلزام أولي عادل (لقرار واحد)	$\Sigma^P_3$	يتضمن تبديل المكممات $\exists \forall \exists$ .
وجود تفسير استلزام أولي غير عادل	$\Sigma^P_3$	متمم لما سبق.
اختبار العدالة الوجودية (للمصنف)	$\Pi^P_4$	يتطلب التحقق من جميع الحالات ( $\forall x$ ) لخاصية $\Sigma^P_3$ .
اختبار العدالة الشاملة (للمصنف)	$\Pi^P_3$	يكافئ التحقق من عدم وجود تفسير غير عادل لأي حالة.
اختبار العدالة من خلال عدم المعرفة المقيدة	coNP-complete	يمكن حله باستدعاء واحد لمحلل SAT (التحقق مما إذا كان يوجد $x, y$ بنفس $N$ ولكن بمخرجات مختلفة).

رؤية التعقيد الرئيسية:

اختبار العدالة من خلال عدم المعرفة المقيدة هو أمر ممكن حسابيًا (coNP-complete) ويمكن التعامل معه باستخدام أدوات SAT القياسية.

اختبار العدالة الوجودية/الشاملة أصعب بكثير ( $\Pi^P_3$ أو $\Pi^P_4$ )، ويتطلب حلول الصيغ البولينية المكممة (QBF).

الأثر العملي: يقترح المؤلفون استخدام فحوصات "القيود الفضفاضة" أو "المنفصلة" (وهي من فئة $\Pi^P_2$ ) كشروط كافية لضمان العدالة الوجودية، مما يسمي باستخدام حلول SAT الأبسط بدلاً من حلول QBF.

5. الأهمية والخاتمة

الأساس النظري: تؤكد الورقة أن العدالة لا يمكن تقييمها في فراغ؛ فالبنية المنطقية لفضاء الميزات (القيود) تغير بشكل أساسي تعريف "السبب" وراء القرار.
الإرشاد العملي: تحذر الممارسين من أن أدوات العدالة القياسية (التي تتجاهل القيود غالبًا) قد تعطي نتائج مضللة.
المقايضة: توجد مقايضة بين صرامة تعريف العدالة والقدرة على المعالجة الحسابية.
- العدالة الشاملة هي الأكثر صرامة ولكنها الأصعب في التحقق.
- العدالة من خلال عدم المعرفة المقيدة هي الأسهل في التحقق ولكنها قد تغفل الحالات التي تعتمد فيها القرارات تقنيًا على الميزات المحمية عبر القيود.
الاتجاهات المستقبلية: يقترح المؤلفون توسيع هذا الإطار المنطقي للتعامل مع الارتباطات الإحصائية واستكشاف "اختيار الميزات المحمية" باستخدام الرسوم البيانية السببية (العدالة من خلال الاستقلال السببي - FTCI).

باخت-صار، تجادل هذه الورقة بأن العدالة تعتمد على سياق قيود الميزات. وهي توفر إطارًا رسميًا لتعريف العدالة عبر تفسيرات الاستلزام الأولي وتوفر خارطة طريق للتحقق من هذه التعريفات، موازنةً بين الدقة النظرية والجدوى الحسابية.