💻 computer science

Unbiased Model Prediction Without Using Protected Attribute Information

تقترح هذه الورقة خوارزمية إزالة الانحياز القائمة على السمات غير المحمية (NPAD)، والتي تخفف من انحياز النموذج في التنبؤ بالسمات الوجهية دون الحاجة إلى معلومات السمات المحمية من خلال الاستفادة من البيانات المساعدة عبر دوال فقدان مبتكرة مثل DACL وFRL.

المؤلفون الأصليون: Puspita Majumdar, Surbhi Mittal, Mayank Vatsa, Richa Singh

نُشر 2026-04-01

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Puspita Majumdar, Surbhi Mittal, Mayank Vatsa, Richa Singh

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك توظف مديراً لشركة ما. تريد أن يكون قرارك عادلاً، قائماً بحتًا على المهارات، وليس على ما إذا كان المرشح شاباً، أو مسناً، أو ذكراً، أو أنثى. ومع ذلك، تواجه مشكلة: فأنت ممنوع قانوناً من السؤال عن عمرهم أو جنسهم.

في عالم الذكاء الاصطناعي (AI)، يمثل هذا صداعاً كبيراً. فغالباً ما تتعلم نماذج الذكاء الاصطناعي التحيز عن طريق الخطأ. على سبيل المثال، قد يتعلم نموذج ذكاء اصطناعي تم تدريبه على التعرف على "الوجوه المبتسمة" أن "الابتسام" مرتبط غالباً بـ "النساء" لأن البيانات التي غُذي بها كانت كذلك. وإذا طلبت منه بعد ذلك التنبؤ بما إذا كان الرجل يبتسم، فقد يفشل لأنه لم يتعلم أبداً الفصل بين هذين المفهومين.

عادةً، لإصلاح ذلك، يقول المهندسون: "حسناً، دعونا ننظر إلى بيانات النوع الاجتماعي (الجنس) ونجبر الذكاء الاصطناعي على تجاهلها". ولكن في العالم الحقيقي، غالباً ما لا تملك بيانات النوع الاجتماعي هذه (بسبب قوانين الخصوصية)، أو لا يمكنك طلبها.

تقدم هذه الورقة البحثية خدعة ذكية جديدة تسمى NPAD (إزالة التحيز القائم على السمات غير المحمية). إنها تشبه إصلاح آلة متحيزة دون النظر أبداً إلى "القائمة المحظورة" لمن هم ومن لا.

إليك كيف يعمل الأمر، باستخدام تشبيهات بسيطة:

1. المشكلة: الأنبوب "المتسرب"

تخيل أن الذكاء الاصطناعي هو أنبوب مياه. "السمات المحمية" (مثل الجنس أو العرق) هي صبغة سامة تسربت إلى الماء.

الطريقة القديمة: تحاول تصفية الصبغة من خلال معرفة مكان وجود الصبغة بالضبط. ولكن ماذا لو كنت لا تعرف أين توجد الصبغة؟
طريقة NPAD: أنت لا تبحث عن الصبغة مباشرة. بدلاً من ذلك، تنظر إلى الأنابيب (السمات الأخرى) المرتبطة بالصبغة. إذا كان الأنبوب يحمل الكثير من الصبغة، فأنت تعلم أن هذا الأنبوب مشبوه.

2. الاستراتيجية: البحث عن المشتبه بهم "المذنبين"

يحاول الذكاء الاصطناعي التنبؤ بسمة معينة، مثل "هل هذا الشخص لديه أنف كبير؟"
أدرك الباحثون أنه حتى لو لم يتمكنوا من رؤية "الجنس"، فإن سمات أخرى (مثل "الحواجب الكثيفة" أو "البشرة الشاحبة") قد تكون مرتبطة سراً بالجنس.

الخطوة 1: العمل الاستقصائي. يختبر الذكاء الاصطناعي نفسه: "إذا حاولت التنبؤ بـ 'الأنف الكبير'، هل تتغير دقتي بناءً على ما إذا كان الشخص لديه 'حواجب كثيفة'؟"
إذا كانت الإجابة نعم (أي أن الذكاء الاصطناعي أفضل بكثير في التنبؤ بالأنوف لأصحاب الحواجب الكثيفة مقارنة بغيرهم)، فهذا يعني أن "الحواجب الكثيفة" هي "مشتبه به" يسرب معلومات حول تحيز الجنس الخفي.
يختار الذكاء الاصطناً "المشتبه بهم" الذين يظهرون أكبر قدر من التسريبات ويستخدمهم لإصلاح المشكلة.

3. الأدوات: وظيفتان خاصتان للخسارة (Loss Functions)

لإصلاح الذكاء الاصطناعي فعلياً، ابتكر الباحثون قاعدتين خاصتين (تسميان وظائف الخسارة) تعملان مثل مدرب صارم يدرب رياضياً.

أ. DACL (مدرب التجميع)

تخيل أنك تقوم بفرز كومة من الجوارب المختلطة.

المشكلة: الذكاء الاصطناعي يخلط بين الجوارب التي يجب أن تكون مختلفة. هو يعتقد أن جورب "الأنف الكبير" هو نفسه جورب "ليس أنف كبير" إذا تصادف أن لهما نفس اللون (الجنس).
الحل: مدرب DACL يقول: "لا يهمني اللون! أريدكم أن تجمعوا هذه الجوارب بدقة حسب شكلها (السمة التي تتنبأ بها). تأكدوا من وضع كل جوارب 'الأنف الكبير' في كومة واحدة محكمة، وكل جوارب 'ليس أنف كبير' في كومة أخرى".
من خلال إجبار الذكاء الاصطناعي على تجميع الأشياء بشكل مثالي حسب السمة المستهدفة، فإنه يتسبب بالخطأ في تفكك معلومات "الجنس"، مما يجعل التنبؤ عادلاً للجميع.

ب. FRL (منظف التكرار)

تخيل أن الذكاء الاصطناعي هو فريق من 100 محقق.

المشكلة: في الفريق العادي، قد يقوم 50 محققاً بنفس الوظيفة تماماً (يفحصون نفس الشيء). هذا أمر هدِر ويجعل الفريق بطيئاً ومتحيزاً لأنهم جميعاً يعتمدون على نفس المنطق المعيب.
الحل: مدرب FRL يقول: "توقفوا عن نسخ بعضكم البعض! المحقق (أ)، افحص الحواجب. المحقق (ب)، افحص البشرة. المحقق (ج)، افحص الشعر. تأكدوا من أن الجميع ينظر إلى شيء مختلف".
هذا يضمن أن يتعلم الذكاء الاصطناي مجموعة واسعة من السمات، بحيث لا يعتمد على مجرد دليل واحد "متحيز" لاتخاذ القرار.

4. بطاقة التقييم الجديدة: OPE

قدم الباحثون أيضاً طريقة جديدة لتقييم الذكاء الاصطناعي، تسمى OPE (تساوي الأداء العام).

بطاقات التقييم القديمة: أحياناً، يغش الذكاء الاصطناعي. قد يقول "لا" للجميع لتجنب ارتكاب الأخطاء. إذا قال "لا" للجميع، فإن الفرق بين الرجال والنساء سيكون صفراً (عدالة مثالية!)، لكن الذكاء الاصطناعي سيكون عديم الفائدة لأنه لم يصب في أي شيء أبداً.
درجة OPE: تقول هذه الدرجة الجديدة: "لا يهم إذا كان الفرق صفراً إذا كان الذكاء الاصطناعي يفشل الجميع. نحن نريد للذكاء الاصطناعي أن يكون جيداً للجميع، وليس فقط متساوياً في فشله".

النتيجة

اختبر الباحثون هذا على مجموعات بيانات شهيرة للوجوه (LFWA و CelebA).

بدون مساعدتهم: كان الذكاء الاصطناعي متحيزاً ويرتكب أخطاءً لمجموعات معينة.
مع NPAD: أصبح الذكاء الاصطناعي أكثر عدلاً وأصبح في الواقع أفضل في أداء مهمته، على الرغم من أنه لم يرَ تسمية واحدة لـ "ذكر" أو "أنثى" أثناء التدريب.

الصورة الكبيرة

هذه الورقة البحثية تشبه تعليم طالب أن يكون عادلاً دون إخباره أبداً بما يبدو عليه "العدل" من حيث العرق أو الجنس. بدلاً من ذلك، أنت تعلمه أن ينظر إلى القرائن التي تحيط بالمشكلة، وينظم تفكيره، ويتوقف عن الاعتماد على الاختصارات الكسولة.

إنها تثبت أنك لست بحاجة لمعرفة الأسرار "المحظورة" لإصلاح التحيز؛ بل تحتاج فقط إلى أن تكون ذكياً في كيفية استخدام المعلومات التي تملكها بالفعل.

إليك ملخص تقني مفصل لورقة البحث بعنوان "التنبؤ بنموذج غير منحاز دون استخدام معلومات السمات المحمية" من قبل ماجومدار وآخرون.

1. بيان المشكلة

غالبًا ما تظهر نماذج التعلم العميق انحيازًا، حيث تقدم أداءً متباينًا عبر المجموعات الديموغرافية المختلفة (مثل الجنس، العرق، العمر). ينشأ هذا الانحياز لأن النماذج تتعلم وتدمج عن غير قصد سمات مرتبطة بـ السمات المحمية (البيانات الحساسة مثل العرق أو الجنس).

قصور الحلول الحالية: تتطلب معظم خوارزميات إزالة الانحياز الحالية معرفة مسبقة بالسمات المحمية أثناء التدريب لفرض قيود العدالة.
القيود في العالم الحقيقي: في كثير من السيناريوهات العملية، تكون معلومات السمات المحمية غير متاحة بسبب قوانين الخصوصية، أو القيود القانونية، أو الصعوبة الشديدة في تصنيف مجموعات البيانات الكبيرة بملصقات حساسة.
التحدي الجوهى: كيف يمكن التخفيف من الانحياز وتحقيق تنبؤات عادلة عندما تكون السمات المحمية غير معروفة خلال مرحلة التدريب.

2. المنهجية: إزالة الانحياز القائم على السمات غير المحمية (NPAD)

يقترح المؤلفون خوارزمية NPAD، التي تخفف من حدة الانحياز دون الوصول إلى ملصقات السمات المحمية. بدلاً من ذلك، تستفيد من السمات غير المحمية (مثل "ارتداء النظارات"، "الابتسام"، "أنف كبير") التي غالبًا ما تكون متاحة في مجموعات البيانات وقد ترتبط بالسمات المحمية المجهولة.

تتكون المنهجية من مرحلتين رئيسيتين:

المرحلة الأولى: الاختيار الذكي للسمات غير المحمية

بما أن ليس كل السمات غير المحمية مفيدة بالتساوي لإزالة الانحياز، تقوم الخوارزمية باختيار مجموعة فرعية من السمات التي تظهر تباينًا عاليًا فيما يتعلق بالسمة المستهدفة بشكل ذكي.

حساب التباين: يتم تدريب نموذج للتنبؤ بسمة مستهدفة ( $A_i$ ). ثم يتم تقييم هذا النموذج عبر فئات السمات الأخرى غير المحمية. يتم حساب التباين (الانحراف المعياري لدقة التصنيف) لكل سمة غير محمية.
منطق الاختيار: يتم اختيار السمات التي تظهر أعلى تباين أولاً، حيث يُحتمل أنها تشفر معلومات مرتبطة بالسمة المحمية.
فحص الاستقلال: لضمان التنوع وتقليل التكرار، يتم اختيار السمات اللاحقة بناءً على الاستقلال الإحصائي (باستخدام اختبار $\chi^2$ ) من السمات المختارة سابقًا.

المرحلة الثانية: التخفيف من الانحياز عبر دالات الخسارة المبتكرة

بمجرد اختيار السمات غير المحمية، يتم تحسين النموذج باستخدام مستخرج سمات للشبكات العصبية التلافيفية (CNN) مدمج مع دالتي خسارة مبتكرتين:

إزالة الانحياز عبر خسارة تكتل السمات (DACL):
- المفهوم: يتم دمج فئات السمة المستهدفة ( $A_i$ ) مع فئات السمات غير المحمية المختارة لتشكيل $2^{n+1}$ من التكتلات الفريدة (حيث $n$ هو عدد السمات غير المحمية المختارة).
- الآلية: تعمل DACL كإشارة إشراف لفصل هذه التكتلات في فضاء السمات. فهي تقلل من المسافة داخل الفئة الواحدة (عن طريق تقليل الانحراف المعياري المتحرك لتمثيلات السمات) وتزيد من المسافة بين الفئات (عن طريق زيادة المسافة بين المتوسطات المتحركة للتكتلات المختلفة).
- الهدف: إجبار النموذج على تعلم سمات تميز هذه التركيبات المحددة من السمات، مما يؤدي إلى كسر الارتباط مع السمة المحمية المجهولة.
خسارة تصفية التكرار (FRL):
- المفهوم: غالبًا ما تتعلم مرشحات (filters) الشبكة العصبية التلافيفية القياسية سمات عالية الارتباط (متكررة)، مما قد يعيق العدالة.
- الآلية: تقلل FRL من حاصل الضرب النقطي بين المرشحات المعيرة بالمتوسط. وهي تشجع النموذج على تعلم سمات متنوعة وغير متكررة.
- الهدف: تعزيز أداء النموذج الإجمالي وقدرته التعبيرية عن السمات، لتعمل كمكمل لـ DACL.

دالة الهدف النهائية:
$\mathcal{L} = \lambda_1 \mathcal{L}_{C} + \lambda_2 \mathcal{L}_{F}$
حيث $\mathcal{L}_{C}$ هي DACL و $\mathcal{L}_{F}$ هي FRL.

3. المساهمات الرئيسية

خوارزمية NPAD: إطار عمل مبتكر لإزالة الانحياز يعمل دون استخدام معلومات السمات المحمية، مستخدمًا بدلاً منها السمات المساعدة غير المحمية.
دالات خسارة مبتكرة:
- DACL: توفر إشرافًا خاصًا بالفئة لفصل التكتلات المتكونة من دمج السمات المستهدفة وغير المحمية.
- FRL: تقلل من تكرار السمات لتعزيز قوة النموذج وعدالته.
مقياس تقييم جديد (OPE): يقدم المؤلفون مقياس تساوي الأداء الإجمالي (OPE).
- المشكلة في المقاييس الحالية: يمكن أن تكون مقاييس مثل "الفرق في تكافؤ الفرص" مضللة إذا تنبأ النموذج بجميع العينات كفئة واحدة (مما يؤدي إلى تباين صفري ولكن بأداء ضعيف).
- الحل: يقيس OPE التباين في الأداء الإجمالي (مع مراعاة الإيجابيات/السلبيات الحقيقية والكاذبة) عبر المجموعات الفرعية، مما يضمن أن العدالة لا تأتي على حساب الدقة.
تقييم شامل: تجارب مكثفة على مجموعات بيانات LFWA و CelebA للتنبؤ بالسمات الوجهية.

4. النتائج التجريبية

تقيم الورقة خوارزمية NPAD مقابل تدريب النموذج الأساسي (BMT)، وطريقة إزالة الانحياز القائمة على السمات المحمية (PAD) (التي تفترض معرفة الحقيقة الأرضية)، وخوارزمية "التعلم من الفشل" (LfF).

الأداء مقابل العدالة:
- يتفوق NPAD بشكل كبير على BMT في كل من الدقة والعدالة (درجة انحياز DoB أقل، وOPE أقل).
- يحقق NPAD أداءً مشابهًا، وفي بعض الحالات أفضل من خوارزمية PAD (التي لديها وصول إلى الملصقات المحمية).
- تحديدًا، استخدام سمتين مختارتين من السمات غير المحمية (NPAD Two) غالبًا ما يعطي أفضل النتائج، بشرط أن تكون السمات مرتبطة بشدة بالسمة المحمية.
دراسات الاستئصال (Ablation Studies):
- يؤدي حذف DACL إلى انخفاض كبير في الدقة وزيادة في الانحياز، مما يثبت ضرورتها لفصل التكتلات.
- يؤدي حذف FRL إلى تقليل الأداء، مما يؤكد دورها في القدرة التعبيرية للسمات.
- الاختيار العشوائي للسمات غير المحمية يؤدي إلى أداء أسوأ من استراتيجية الاختيار الذكي المستخدمة في NPAD.
التعميم عبر مجموعات البيانات: تظهر الخوارزمية قدرة قوية على التعميم عندما يتم اختبار النماذج المدربة على LFWA على CelebA والعكس صحيح.
المقارنة مع ARL: يتفوق NPAD على التعلم المعاد وزنه تنافريًا (ARL)، وهو أسلوب آخر لا يستخدم السمات المحمية، من خلال التركيز على تقليل التباين عبر جميع المجموعات بدلاً من التركيز فقط على المجموعة الأقل أداءً.

5. الأهمية والخاتمة

يعالج هذا البحث فجوة حرجة في عدالة الذكاء الاصطناي: عدم القدرة على نشر تقنيات إزالة الانحياز عندما تكون البيانات الحساسة غير متاحة قانونيًا أو عمليًا.

القابلية للتطبيق العملي: من خلال الاعتماد على السمات غير المحمية (التي غالبًا ما يكون من الأسهل تصنيفها أو هي موجودة بالفعل في مجموعات البيانات)، تجعل خوارزمية NPAD تحقيق العدالة أمرًا ممكنًا في تطبيقات العالم الحقيقي حيث تمنع قوانين الخصوصية (مثل GDPR) أو نقص البيانات استخدام الملصقات المحمية.
رؤية نظرية: يوضح العمل أن الارتباط بين السمات غير المحمية والمحمية يمكن استغلاله إيجابيًا للتخفيف من الانحياز، بدلاً من كونه مجرد مصدر للمشكلة.
ابتكار المقياس: يوفر تقديم OPE طريقة أكثر قوة لتقييم العدالة، مما يمنع الوقوع في فخاخ "الدقة غير العادلة" أو "الانحياز غير العادل مع الأداء المنخفض" التي تعاني منها المقاييس الحالية.

باختًا، تقدم الورقة نهجًا قويًا وفعالًا من حيث استخدام الملصقات للتعلم العادل، حيث تثبت أن الاستخدام الذكي للبيانات المساعدة يمكن أن يحل بفعالية محل الحاجة إلى ملصقات السمات المحمية الحساسة أثناء تدريب النموذج.