🤖 machine learning

End-to-End Fairness Optimization with Fair Decision-Focused Learning

تقدم هذه الورقة البحثية "تحسين العدالة من الطرف إلى الطرف" (E2EFO) وإطار عمل "التعلم الموجه للقرار العادل" (FDFL) المرتبط به، والذي يعمل على تحسين دقة التنبؤ، وعدالة التنبؤ، وعدالة القرار في تخصيص الموارد بشكل مشترك عبر تدريب المتنبئات لتقليل ندم القرار من خلال طبقات تحسين قابلة للتفاضل.

المؤلفون الأصليون: Yu Wang (Xinying), Violet (Xinying), Chen

نُشر 2026-08-03

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yu Wang (Xinying), Violet (Xinying), Chen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك قبطان لسفينة فضاء ضخمة، ومهمتك هي توزيع إمدادات محدودة من الوقود على مستعمرات مختلفة. وللقيام بذلك بشكل عادل، تحتاج إلى شيئين: كرة بلورية للتنبؤ بكمية الوقود التي تحتاجها كل مستعمرة بالفعل، وكتاب قواعد لكيفية توزيع الوقود بمجرد حصولك على تلك التنبؤات. هذا هو عالم "صنع القرار القائم على التنبؤ"، وهو مجال تحاول فيه الحواسيب تخمين المستقبل حتى يتمكن البشر من اتخاذ خيارات أفضل. لكن الجزء الصعب هنا هو: ماذا لو كانت كرتك البلورية منحازة قليلاً؟ ربते أنها أفضل في تخمين احتياجات المستعمرات الغنية مقارنة بالمستعمرات الفقيرة. إذا استخدمت كرة بلورية منحازة لتتبع كتاب قواعد عادل، فقد ينتهي بك الأمر بالخطأ إلى كونك غير عادل تجاه الجميع. تتناول هذه الورقة هذا الصداع تحديداً؛ فهي تطرح سؤالاً بسيطاً ولكنه عميق: كيف يمكننا إصلاح الكرة البلورية وكتاب القواعد في آن واحد، بحيث تكون النتيجة النهائية عادلة حقاً للجميع، بغض النظر عن خلفياتهم؟

يقترح مؤلفا هذه الورقة، يو وانغ وفايوليت تشن، طريقة جديدة لتدريب النماذج الحاسوبية تسمى "تحسين العدالة من البداية إلى النهاية" (E2EFO). فكر في الأمر كأنه "نادي رياضي للعدالة" للذكاء الاصطناائي. عادةً، عندما ندرب ذكاءً اصطناعياً، نطلب منه أن يكون دقيقاً قدر الإمكان في تخمين المستقبل (مرحلة التنبؤ)، ثم نستخدم تلك التخمينات لاتخاذ القرارات. لكن المؤلفين أدركا أن الدقة وحدها لا تكفي. فإذا ارتكب الذكاء الاصطناعي أخطاء غير عادلة صغيرة تجاه مجموعات معينة من الناس، فإن هذه الأخطاء قد تتضاعف لتصبح انحيازات ضخمة عندما يحاول الذكاء الاصطناعي توزيع الموارد مثل الرعاية الصحية أو المال.

ولحل هذه المشكلة، قدموا طريقة تدريب تسمى "التعلم الموجه نحو القرار العادل" (FDFL). تخيل أنك تعلم طالباً كيفية خبز كعكة؛ المعلم التقليدي قد يقول لك: "فقط تأكد من قياس المكونات بدقة" (دقة التنبؤ). لكن FDFL يشبه معلماً يقول: "قِس مكوناتك، ولكن تأكد أيضاً من عدم نسيان السكر للضيوف الذين يعانون من حساسية الغلوتين، وتذكر أن الكعكة النهائية يجب أن يكون طعمها جيداً للجميع". هذه الطريقة تدرب الذكاء الاصطناعي على الاهتمام بثلاثة أشياء في وقت واحد:

الدقة: هل التخمين قريب من الحقيقة؟
عدالة التنبؤ: هل يرتكب الذكاء الاصطناعي نفس نوع الأخطاء للجميع، أم أنه يخطئ أكثر لمجموعة محددة؟
عدالة القرار: عندما يستخدم الذكاء الاصطناعي تخميناته لتوزيع الموارد، هل تبدو النتيجة النهائية عادلة لجميع المجموعات المعنية؟

تجد الورقة أنك لا تستطيع إصلاح جزء واحد وتجاهل الأجزاء الأخرى. ففي تجاربهم، التي تضمنت محاكاة كيفية توزيع موارد الرعاية الصحية على المرضى وكيفية تخصيص أنواع متعددة من الموارد لمجموعات مختلفة، أظهروا أن تدريب الذكاء الاصطناعي على النظر إلى هذه الأهداف الثلاثة معاً هو الأفضل. واكتشفوا أنه إذا كان الذكاء الاصطناعي ليس ذكياً جداً (نموذج "منخفض القدرة") أو إذا كانت قواعد العدالة صارمة للغاية، فإن تجاهل جزء "عدالة القرار" يؤدي إلى نتائج سيئة. وعلى العكس من ذلك، إذا كانت البيانات منحازة بشدة ضد مجموعات معينة، فإن تجاهل جزء "عدالة التنبؤ" سيؤدي إلى تعلم الذكاء الاصطناعي لتلك الانحيازات.

لم يكتف الباحثون بالتخمين، بل أجروا آلاف عمليات المحاكاة. ووجدوا أن طريقتهم الجديدة، FDFL، قللت باستمرار من "الندم" — وهو مصطلح تقني يعني "مدى سوء النتيجة بسبب عدم كمال الذكاء الاصطناعي" — مقارنة بالطرق القديمة. كما أثبتوا رياضياً أن طريقتهم مستقرة ولن تعمل فقط على بيانات التدريب، بل ستعمل أيضاً على بيانات جديدة غير مرئية. الخلاي الختامية هي أن العدالة ليست مفتاحاً واحداً تضغط عليه؛ بل هي توازن دقيق. ومن خلال تعليم الذكاء الاصطنا_ي الموازنة بين الدقة، وعدالة التنبؤ، وعدالة القرار في آن واحد، يمكننا بناء أنظمة لا تبدو جيدة على الورق فحسب، بل تفعل الشيء الصحيح في العالم الحقيقي.

ملخص تقني: التحسين الشامل للعدالة باستخدام التعلم الموجه بالقرار العادل

1. صياغة المشكلة

تتناول الورقة تحدي التحسين الشامل للعدالة (E2EFO) في أنظمة اتخاذ القرار القائمة على البيانات، حيث تساهم النماذج التنبؤية في توجيه قرارات تخصيص الموارد. يجادل المؤلفون بأن العدالة يجب أن تُعالج بشكل مشترك عبر مرحلتين متميزتين:

مرحلة التنبؤ: تقدير التأثيرات غير المعروفة (مثل الفوائد الصحية، أو الجدارة الائتمانية) من البيانات التاريخية. تتعلق العدالة هنا بـ تفاوت التنبؤ، لضمان عدم تسبب أخطاء التنبؤ في إلحاق الضرر بمجموعات معينة بشكل منهجي.
مرحلة القرار: تخصيص موارد محدودة بناءً على التنبؤات لتعظيم نتائج عادلة. تتعلق العدالة هنا بـ ندم القرار، وهو الخسارة في جودة القرار (الإنصاف) الناتجة عن الاعتماد على تنبؤات غير كاملة بدلاً من المعلمات الحقيقية.

يوضح المؤلفون أن التحسين من أجل العدالة في مرحلة واحدة فقط يمكن أن يؤدي إلى نتائج غير عادلة في المرحلة الأخرى. فعلى سبيل المثال، قد يؤدي المتنبئ العادل ذو التقديرات المشوبة بالضجيج إلى دفع صانع القرار لتخصيص موارد زائدة لمجموعة محرومة، مما يخلق عدم عدالة تجاه المجموعة المتميزة. وعلى العكس من ذلك، فإن المتنبئ عالي الدقة ولكنه منحاز قد يؤدي إلى تخصيصات تبدو عادلة ولكنها في الواقع غير منصفة.

تتم صياغة المشكلة المحددة كـ مهمة تخصيص موارد حيث:

يتم تقسيم أصحاب المصلحة إلى مجموعات.
التنبؤ: نموذج $f_\theta$ يقدر التأثيرات $\hat{r}$ من السمات $X$ .
القرار: نموذج تحسين يخصص الموارد $d$ لتعظيم دالة منفعة تعتمد على عدالة $\alpha$ للمجموعات $W_\alpha^g(u)$ ، مع مراعاة قيود محدبة (مثل الميزانية).
الهدف: تقليل ثلاثة مقاييس في آن واحد:
1. دقة التنبؤ: متوسط مربع الخطأ (MSE).
2. عدالة التنبؤ: متوسط الانحراف المطلق (MAD) لأخطاء التنبؤ على مستوى المجموعات.
3. ندم القرار: الفجوة بين درجة العدالة المحققة باستخدام التنبؤات ودرجة العدالة المثلى التي يمكن تحقيقها باستخدام التأثيرات الحقيقية.

2. المنهجية: التعلم الموجه بالقرار العادل (FDFL)

تقترح الورقة التعلم الموجه بالقرار العادل (FDFL)، وهو نموذج تدريب يعامل التحسين الشامل للعدالة (E2EFO) كمسألة تعلم متعدد المهام (MTL). وخلافاً لأسلوب "التنبؤ ثم التحسين" (PTO) القياسي أو "التعلم الموجه بالقرار" (DFL) القياسي الذي يحسن أهدافاً مفردة، يقوم FDFL بتحسين الأهداف الثلاثة المتعارضة بشكل مشترك.

المكونات التقنية الرئيسية:

التدريب القائم على التدرج: يتم تدريب المتنبئ $f_\theta$ $f_{θ}$ عبر التدرج النازل. يتم حساب تدرجات الأهداف الثلاثة ودمجها:
- $\nabla_\theta L_{pred}$ و $\nabla_\theta F$ (الدقة والعدالة) هما عملية انتشار خلفي قياسية.
- يتطلب $\nabla_\theta L_{regret}$ اشتقاق مسألة تحسين القرار.
حساب جاكوبي القرار: أحد التحديات الحسابية الجوهرية هو حساب $\frac{\partial d^*(\hat{r})}{\partial \hat{r}}$ $\frac{\partial d ^{*} ( r ^ )}{\partial r ^}$ . قدم المؤلفون حليْن:
1. الصيغة المغلقة: بالنسبة لتخصيص $\alpha$ -fair بميزانية واحدة (مسألة الحقيبة)، فقد اشتقوا صيغاً مغلقة دقيقة للحل الأمثل وللجاكوبي الخاص به باستخدام شروط كاروش-كون-تاكر (KKT).
2. التحسين القابل للتفاضل: بالنسبة للمجموعات الممكنة المحدبة العامة، استخدموا طبقات التحسين المحدب القابلة للتفاضل (تحديداً cvxpylayers) للاشتقاق الضمني لشروط الأمثلية.
استراتيجيات دمج التدرجات: للتعامل مع طبيعة تعدد الأهداف، يستخدم FDFL تقنيات MTL لدمج التدرجات في اتجاه تحديث واحد:
- التسكير الثابت (FDFL-Scal): مجموع أوزان ثابت لثلاثة أهداف.
- الطرق الديناميكية لتجنب الصراع: بما في ذلك PCGrad (إسقاط التدرجات المتعارضة على المستويات العمودية) و Nash-MTL (أوزان مساومة ناش).
الضمانات النظرية: تثبت الورقة وجود حد تعميم للعينات المحدودة لهدف FDFL المسكر. وتحت افتراضات الانتظام والارتباط، يُظهر أن الخطأ الزائد المركب للمُقلل التجريبي هو $O(\sqrt{q/N})$ ، حيث $q$ هو عدد المعلمات و $N$ هو حجم العينة.

3. المساهمات الرئيسية

يلخص المؤلفون مساهماتهم كما يلي:

الإطار العملي: تقديم E2EFO كإطار عمل موحد يدمج عدالة التنبؤ القائمة على المجموعات (MAD للأخطاء) وعدالة القرار القائمة على المجموعات (عدالة $\alpha$ ثنائية المستوى) في خط معالجة تحسين واحد.
الخوارزمية: تطوير خوارزميات FDFL التي تستخدم تقنيات MTL (ثابتة وديناميكية) لتدريب المتنبئات التي توازن بين الدقة، وعدالة التنبؤ، وندم القرار. يتضمن ذلك اشتقاق صيغ جاكوبي قرار مغلقة دقيقة لمهام تخصيص محددة وتطبيق طبقات التحسين القابلة للتفاضل للحالات العامة.
النظرية: وضع حد تعميم للعينات المحدودة لتدريب FDFL المسكر، والتحقق من الشروط الضرورية لمهام تخصيص $\alpha$ -fair.
التحقق التجريبي: التقييم على تخصيص مورد واحد قائم على الرعاية الصحية وتخصيص موارد متعددة اصطناعي، مما يوضح قيمة التحسين المشترك.

4. النتائج التجريبية

قيم المؤلفون FDFL مقابل نماذج مرجعية تشمل PTO، و DFL القياسي، ومتغيرات PTO المدمجة بالعدالة عبر قدرات تنبؤية متفاوتة (خطي، MLP-16، MLP-64)، وعدم توازن المجموعات، ومعاملات العدالة ( $\alpha$ ).

النتائج الرئيسية:

ضرورة تعدد الأهداف: غالباً ما يؤدي التدريب على هدف واحد (مثل الندم فقط) إلى تدهور المقاييس الأخرى. فعلى سبيل المثال، حقق DFL (الذي يركز على الندم فقط) أدنى ندم ولكن أعلى تفاوت في التنبؤ. نجح التدريب المشترك (FDFL) في تقليل التفاوت دون التضحية بجودة القرار.
الأدوار المتكاملة:
- عدالة التنبؤ هي الأكثر فعالية في تقليل التفاوت عندما يكون عدم التوازن بين المجموعات مرتفعاً.
- يوفر تحسين ندم القرار أكبر المكاسب عندما تكون قدرة المتنبئ محدودة (مما يؤدي إلى أخطاء أكبر) أو عندما يكون معامل عدالة القرار $\alpha$ كبيراً (مما يجعل التخصيص حساساً للغاية لأخطاء التنبؤ).
قدرة المتنبئ: في الإعدادات ذات المتنبئات عالية القدرة (MLP-64)، غالباً ما كانت دقة التنبؤ وجودة القرار متوافقتين، مما قلل الفجوة بين PTO و DFL. ومع ذلك، مع القدرة المنخفضة، أصبح هدف ندم القرار حاسماً للتخفيف من انتشار الخطأ.
المتانة: تفوقت طرق FDFL المقترحة باستمرار على النماذج المرجعية عبر مستويات مختلفة من عدم التوازن ومعاملات العدالة، لا سيما عند تضمين الأهداف الثلاثة في دالة خسارة التدريب.

5. الأهمية والادعاءات

تدعي الورقة أنها تسد فجوة مستمرة في الأدبيات من خلال توفير إطار عمل متكامل يعالج العدالة في كل من مرحلتي التنبؤ والقرار في وقت واحد، بدلاً من معاملتهما ككيانات معزولة.

الأهمية النظرية: توسع الفهم النظري للتعلم الموجه بالقرار ليشمل قيود العدالة وتوفر أول حدود للتعميم لمثل هذه الإعدادات متعددة الأهداف لـ E2EFO.
الأهمية العملية: تظهر النتائج أن "التنبؤات العادلة" لا تضمن بالضرورة "قرارات عادلة" والعكس صحيح. يجادل المؤلفون بأن الممارسين يجب أن يتبنوا نهج تدريب شامل (FDFL) لضمان العدالة طوال خط المعالجة بأكمله، خاصة في المجالات الحرجة مثل الرعاية الصحية والخدمات الاجتماعية حيث يتواجد التحيز المنهجي وندرة الموارد معاً.
التواضع: يقر المؤلفون بالقيود، مشيرين إلى أن حد التعميم الخاص بهم محدد بأوزان تسكير ثابتة وقد يصبح غير ذي قيمة في الأنظمة شديدة التوسع ( $q > N$ ). كما يتركون توسيع E2EFO إلى رؤى القرار العشوائية (حيث تكون التنبؤات توزيعات بدلاً من تقديرات نقطية) للعمل المستقبلي.