📊 statistics

Overcoming Representation Bias in Fairness-Aware data Repair using Optimal Transport

تقترح هذه الورقة إطار عمل جديد لإصلاح البيانات يراعي العدالة، يستخدم قاعدة توقف بايزية غير معلمية لتعلم مؤثرات النقل الأمثل القوية، مما يؤدي إلى التغلب على تحيز التمثيل في المجموعات الفرعية غير الممثلة كفاية وتمكين الإصلاح الفعال للبيانات الأرشيفية خارج العينة مع موازنة العدالة مقابل تشويه البيانات.

المؤلفون الأصليون: Abigail Langbridge, Anthony Quinn, Robert Shorten

نُشر 2026-03-11

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Abigail Langbridge, Anthony Quinn, Robert Shorten

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك طاهٍ يحاول إعداد حساء متوازن تمامًا يمثل مذاق مدينة بأكملة. ومع ذلك، فإن المكونات الوحيدة التي يمكنك الوصول إليها تأتي من حي صغير ومحدد حيث يعشق الجميع الطعام الحار. إذا تذوقت فقط حساء هذا الحي وحاولت "إصلاحه" ليمثل المدينة بأكملها، فمن المرجح أن تفشل. لن تعرف كيف يبدو طعم النكهات الباهتة أو الحلوة أو المالحة لبقية المدينة لأنك لم تتذوق منها ما يكفي.

هذه هي مشكلة تحيز التمثيل (Representation Bias) في الذكاء الاصطناعي. غالبًا ما يتم تدريب نماذج الذكاء الاصطناعي على بيانات تمثل مجموعات معينة بشكل مفرط (مثل الرجال البيض أو ذوي الشهادات الجامعية) وتمثل مجموعات أخرى بشكل ناقص (مثل النساء الملونات أو الأقل تعليمًا). وعندما نحاول "إصلاح" الذكاء الاصطناعي ليكون عادلاً، فإننا نفشل غالبًا لأننا لم نجمع ما يكفي من البيانات حول المجموعات الممثلة تمثيلاً ناقصًا لفهمهم بشكل صحيح.

تقترح هذه الورقة البحثية طريقة ذكية وجديدة للإصلاح، باستخدام مفهوم يُسمى النقل الأمثل (Optimal Transport) (فكر فيه كخريطة لوجستية لنقل البيانات) وقاعدة ذكية وهي "توقف عندما تعرف ما يكفي".

إليك تفصيل لحلهم باستخدام تشبيهات بسيطة:

١. المشكلة: الضيف "المُمثَّل تمثيلًا ناقصًا"

تخيل حفلة يرتدي فيها 90% من الضيوف قمصانًا حمراء، و10% فقط يرتدون قمصانًا زرقاء. إذا أردت التخطيط لقائمة طعام تعجب الجميع، ولكنك سألت فقط الضيوف أصحاب القمصان الحمراء عما يريدون، فستكون قائمتك سيئة للضيوف أصحاب القمصان الزرقاء.

في الذكاء الاصطناعي، هذا هو تحيز التمثيل. "أصحاب القمصان الزرقاء" (الأقليات) موجودون، ولكن يوجد عدد قليل جدًا منهم في بيانات التدريب بحيث لا يتعلم الذكاء الاصطناعي أنماطهم الحقيقية. الأمر يشبه محاولة تخمين شكل جبل من خلال النظر إلى حصاة واحدة صغيرة فقط.

٢. الطريقة القديمة: خطأ "العينة الثابتة"

حاولت الأساليب السابقة إصلاح ذلك عبر أخذ عدد ثابت من العينات من كل مجموعة. قد يقولون: "لنأخذ 1000 عينة من المجموعة الحمراء و1000 عينة من المجموعة الزرقاء".

العيب: إذا كانت المجموعة الزرقاء نادرة بطبيعتها في العالم الحقيقي، فإن فرض 1000 عينة قد يعني أنك تقوم فقط بتكرار نفس الأشخاص ذوي القمصان الزرقاء مرارًا وتكرارًا. أنت لا تتعلم التنوع الحقيقي للمجموعة الزرقاء؛ أنت فقط تتعلم عن نفس الأشخاص القلائل. لا يزال الذكاء الاصطناعي لا يفهم "النكهة الزرقاء".

٣. الحل الجديد: قاعدة "التذوق الذكي"

يقترح المؤلفون قاعدة توقف بايزية غير معلمية (Bayesian Nonparametric Stopping Rule). دعونا نترجم هذا إلى تشبيه المطبخ الخاص بنا:

بدلاً من تحديد عدد الأشخاص الذين ستتذوق طعامهم مسبقًا، استمر في تذوق طعام أشخاص جدد من المجموعة الزرقاء حتى تتأكد من أنك فهمت ملف نكهاتهم.

العملية: تتذوق شخصًا يرتدي قميصًا أزرق. ثم آخر. ثم آخر.
التحقق: بعد كل شخص جديد، تسأل نفسك: "هل علمني هذا الشخص الجديد شيئًا جديدًا عن ما يحبه أصحاب القمصان الزرقاء، أم أنه يشبه تمامًا الشخص السابق؟"
التوقف: بمجرد أن يصبح الشخص الجديد مشابهًا جدًا للأشخاص الذين قابلتهم بالفعل (بمعنى أنك رسمت خريطة كاملة لملف نكهة المجموعة الزرقاء)، تتوقف عن جمع البيانات لتلك المجموعة.

يضمن هذا أنه حتى لو كانت المجموعة الزرقاء صغيرة جدًا، فإنك تجمع ما يكفي بالضبط من المعلومات الفريدة لفهمهم بالكامل، دون إضاعة الوقت في التكرار. أنت لا تتوقف لأنك وصلت إلى رقم معين؛ بل تتوقف لأنك وصلت إلى المعرفة.

٤. الإصلاح: "خريطة نقل العدالة"

بمجرد فهم نكهات المجموعتين الحمراء والزرقاء تمامًا، تستخدم النقل الأمثل (Optimal Transport).

فكر في هذا كشركة لوجستية. لديك كومة من المكونات "الحمراء" وكومة من المكونات "الزرقاء". تريد إنشاء حساء "عادل" حيث تُخلط المكونات بشكل مثالي بحيث لا يتم تفضيل مجموعة على أخرى.

خوارزمية "النقل الأمثل" ترسم خريطة. تقول: "خذ هذا المكون الحار المحدد من المجموعة الحمراء وانقله إلى هنا ليوازن هذا المكون الخفيف من المجموعة الزرقاء".
إنها تنقل نقاط البيانات (المكونات) إلى منطقة وسطى ("الهدف العادل") بحيث لا تعتمد النتيجة النهائية على ما إذا كنت أحمر أو أزرق.

٥. لماذا هذا أفضل؟

لا مزيد من التخمين: لأن قاعدة "التذوق الذكي" تضمن فهمك الكامل للمجموعات الممثلة تمثيلًا ناقصًا قبل البدء، فإن عملية الإصلاح تعمل حتى بالنسبة للمجموعات النادرة جدًا.
التعميم: كانت الطرق القديمة لا يمكنها إلا إصلاح البيانات المحددة التي كانت لديها. أما هذه الطريقة الجديدة فتتعلم قواعد المجموعات الأقل تمثيلًا، لذا يمكنها إصلاح البيانات الجديدة غير المرئية (مثل البيانات الأرشيفية أو تدفقات البيانات المستقبلية) التي لم ترها من قبل.
أقل ضررًا: أحيانًا، يجعل إصلاح الذكاء الاصطناعي البيانات غريبة لدرجة أنها تفقد فائدتها (مثل تحويل حساء لذيذ إلى ماء فقط لجعله "عادلًا"). تقيس هذه الطريقة مقدار "الضرر" الذي تلحقه بالبيانات وتحاول إبقاءه في أدنى حد مع الاستمرار في تحقيق العدالة.

الخلاصة

هذه الورقة البحثية تدور حول تعليم الذكاء الاصطناعي أن يكون عادلاً من خلال عدم الاستعجال. بدلاً من فرض عدد ثابت من العينات، تقول: "استمر في التعلم حتى تفهم حقًا المجموعات الممثلة تمثيلًا ناقصًا، وبعد ذلك قم بإصلاح البيانات".

الأمر يشبه القول: "لا تسأل 10 أشخاص فقط عن رأيهم؛ بل استمر في السؤال حتى تتأكد بنسبة 100% من معرفة ما يفكر فيه الحي بأكمله، حتى لو كان ذلك الحي صغيرًا". هذا يضمن أنه عندما يتخذ الذكاء الاصطناعي قراراته، فإنه يعامل الجميع بإنصاف، وليس فقط الأغلبية الصاخبة.

إليك ملخص تقني مفصل لورقة البحث بعنوان "التغلب على انحياز التمثيل في إصلاح البيانات المراعي للعدالة باستخدام النقل الأمثل" من تأليف لانغبريدج، كوين، وشورتن.

1. بيان المشكلة

تتناول الورقة بحثاً في قصورين حرجين في الأساليب الحالية لـ إصلاح البيانات المراعي للعدالة (AIF)، وتحديداً تلك التي تستخدم النقل الأمثل (OT):

انحياز التمثيل في التعلم: تتعلم أساليب الإصلاح القائمة على النقل الأمثل (OT) معاملات التحويل من بيانات التدريب. إذا كانت بيانات التدريب تعاني من انحياز التمثيل (أي أن المجموعات الفرعية غير الممثلة تعاني من نقص في العينات)، فإن معاملات النقل الأمثل لهذه المجموعات الفرعية تُتعلم بشكل سيئ. يؤدي هذا إلى عمليات إصلاح غير فعالة للمجموعات الأقل تمثيلاً، مما يفاقم عدم المساواة.
الافتقار إلى التعميم: تتطلب أساليب الإصلاح الحالية غالباً الوصول إلى مجموعة البيانات الثابتة بأكملها لإجراء عمليات الإصلاح. وهي تفشل في التعميم على البيانات خارج العينة (الأرشيفية أو المتدفقة) التي تتبع نفس التوزيع الأساسي ولكنها لم تكن جزءاً من مجموعة التدريب الأصلية.

التحدي الجوهري هو تصميم آلية إصلاح تكون قوية تجاه توزيعات البيانات غير المتوازنة وقادرة على التعميم على البيانات الجديدة دون الحاجة لإعادة التدريب على مجموعة البيانات الكاملة.

2. المنهجية

يقترح المؤلفون إطار عمل بايزي غير معلمي (Bayesian Nonparametric) يدمج التعلم المتسلسل مع النقل الأمثل. تتكون المنهجية من ثلاثة مكونات رئيسية:

أ. قاعدة التوقف البايزية غير المعلمية (BNP)

بدلاً من استخدام حجم ثابت لمجموعة البيانات أو عتبات تعسفية لتعلم توزيعات المجموعات الفرعية، يستخدم المؤلفون نموذج عملية ديريكليه (Dirichlet Process - DP) لنمذجة التوزيعات الشرطية المجهولة $F(x|u,s)$ (حيث $u$ هو سمة غير محمية و $s$ هي سمة حساسة).

التعلم المتسلسلي: يتم رصد البيانات بشكل متسلسل. عملية التعلم لكل مجموعة فرعية لا تتوقف بناءً على عدد عينات محدد مسبقاً، بل يتم "إخمادها" (إيقافها) فقط عندما يتم استيفاء معيار توقف غير معلمي.
معيار التوقف: تستخدم القاعدة تباعد كولباك - ليبلر (KLD) بين التوزيعات البعدية المتتالية لعملية ديريكليه. يتوقف التعلم عندما ينخفض التباعد بين تقديرات التوزيع الحالي والسابق عن عتبة $\epsilon$ .
النتيجة: يضمن ذلك حتى المجموعات الفرعية غير الممثلة كفاية من البيانات لتعلم توزيعها بدقة، مما يفصل فعلياً بين حجم العينة المطلوب والاحتمالات الطبقية ( $p_{u,s}$ ).

ب. معاملات إصلاح النقل الأمثل (OT)

بمجرد تعلم التوزيعات لجميع المجموعات الفرعية بشكل كافٍ (عبر قاعدة التوقف)، يقوم المؤلفون ببناء معاملات الإصلاح:

التكميم (Quantization): يتم تكميم فضاء السمات المستمر بناءً على نقاط البيانات المرصودة (التقسيم المتكرر المتسلسل).
مركز باريسيه وايسرستاين (Wasserstein Barycenter): يتم تعريف التوزيع "العادل" المستهدف كـ مركز باريسيه وايسرستاين (تحديداً عند $t=0.5$ ) لتوزيعات المجموعات الحساسة ( $s=0$ و $s=1$ ) ضمن كل مجموعة غير محمية ( $u$ ). هذا الهدف يكون ثابتاً بالنسبة لـ $s$ بالتعريف.
المعامل العشوائي ( $T_{u,s}$ ): يتم تصميم رسم خرائط عشوائي لنقل نقاط البيانات من توزيعها الأصلي إلى مركز باريسيه. يتضمن ذلك:
1. قطع المدخلات إلى خلية تكميم.
2. استخدام خطة النقل الأمثل (مصفوفة الاقتران) لربط المدخلات احتمالياً بخلية مستهدفة في توزيع مركز باريسيه.
3. الاستكمال (Interpolation) بين النقاط المستهدفة لتوليد القيمة المُصلحة النهائية.

ج. المقاييس المبتكرة

تقدم الورقة مقاييس محددة لتقييم المقايضة بين العدالة وفائدة البيانات:

مقياس العدالة ( $\hat{E}$ ): نسبة معيرة لتباعد كولباك - ليبلر المتماثل بين المجموعات الحساسة قبل وبعد الإصلاح. تشير $\hat{E} < 1$ إلى تحسن في العدالة؛ بينما تعني $\hat{E} = 0$ استقلالاً تاماً.
مقياس ضرر البيانات ( $D$ ): مقياس لفقدان المعلومات، يُحسب عبر تباعد كولباك - ليبلر بين التوزيع المُصلح والتوزيع الأصلي. تشير القيم المنخفضة إلى تشويه أقل للمعلومات التنبؤية.

3. المساهمات الرئيسية

التعلم المتسامح مع انحياز التمثيل: يضمن إدخال قاعدة التوقف البايزية غير المعلمية أن تعلم المجموعات الفرعية الأقل تمثيلاً لا يتوقف قبل الأوان بسبب انخفاض عدد العينات. يضمن هذا تعلم جميع التوزيعات الشرطية بالكامل بغض النظر عن التقاطع أو عدم توازن الفئات.
التعميم على البيانات خارج العينة: من خلال تعلم المعاملات (التكميم وخرائط النقل) بدلاً من مجرد إصلاح مجموعة بيانات ثابتة، يمكن تطبيق الطريقة على البيانات الأرشيفية أو المتدفقة الناتجة عن نفس العملية، مما يحل مشكلة التعميم.
مقايضة مبتكرة بين العدالة والضرر: تسمح صياغة تعريف جديد للهدف العادل (مركز باريسيه وايسرستاين) والمقاييس المرتبطة به بإجراء مقايضة قابلة للقياس بين تحقيق العدالة والحفاظ على المنفعة التنبؤية للبيانات.
التعامل مع التقاطع (Intersectionality): يتعامل إطار العمل بشكل طبيعي مع التقاطع (مثل النساء غير البيض) من خلال تعلم نماذج متميزة لكل مجموعة فرعية $(u,s)$ ، مما يمنع "تمييع" المجموعات الأقل تمثيلاً الذي تسببه الطرق الأخرى.

4. النتائج التجريبية

تحقق المؤلفون من نهجهم من خلال المحاكاة ومجموعات البيانات المرجعية:

التحقق من قاعدة التوقف: أكدت التجارب على النماذج الفئوية ونماذج الخليط الغاوسي (GMM) أن قاعدة التوقف تتكيف مع تعقيد البيانات. فهي تتوقف مبكراً للبيانات الخشنة وتضمن التقارب للخلائط المعقدة، بشكل مستقل عن تحقق البيانات العشوائية.
القوة تجاه الانحياز: في محاكاة ذات انحياز تمثيل شديد (على سبيل المثال، احتمال الفئة الأقل تمثيلاً $Pr[U=0] = 0.025$ )، حققت الطريقة المقترحة عدالة عالية ( $\hat{E} \approx 0$ ) مع ضرر بيانات ثابت. في المقابل، فشلت الطرق التي تستخدم أحجام عينات ثابتة في تعلم توزيعات الأقليات، مما أدى إلى جودة إصلاح ضعيفة.
المقارنة المرجعية (نموذج GMM المحاكى): مقارنة بـ الإصلاح الهندسي و الإصلاح التوزيعي (أحدث ما توصل إليه العلم)، تفوقت الطريقة المقترحة بشكل كبير على كليهما من حيث العدالة ( $\hat{E}$ ) لكل من البيانات داخل العينة وخارج العينة.
مجموعة بيانات دخل البالغين (Adult Income): طُبقت على مجموعة بيانات دخل البالغين الواقعية (التنبؤ بالدخل بناءً على التعليم، الجنس، والعرق). قللت الطريقة من اعتماد السمات الحساسة في البيانات خارج العينة بمقدار 3 أضعاف على الأقل مقارنة بالإصلاح الهندسي (الذي لا يمكنه التعميم) وتفوقت على الإصلاح التوزيعي في مقاييس العدالة مع الحفاظ على ضرر بيانات مماثل.

5. الأهمية

يمثل هذا العمل خطوة هامة نحو أدوات عدالة الذكاء الاصطناعي القابلة للنشر.

الواقعية: يعالج حقيقة أن البيانات غالباً ما تكون غير متوازنة وأن النماذج يجب أن تعمم على بيانات جديدة لم تُشاهد من قبل (أرشيفية/متدفقة).
الامتثال التنظيمي: من خلال ضمان عدم إهمال المجموعات الأقل تمثيلاً بسبب ندرة البيانات، يتماشى هذا النهج مع اللوائح الناشئة مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي، الذي يفرض إدارة المخاطر والعدالة.
التقدم النظري: يربط بين العمليات البايزية غير المعلمية (للتعلم القوي) والنقل الأمثل (للتحويل التوزيعي)، مما يوفر أساساً رياضياً صارماً للعدالة يتجاوز التعديلات التجريبية.

باختصار، تقترح هذه الورقة إطار عمل قوياً وقابلاً للتعميم يضمن عدم المساس بالعدالة بسبب انحيازات البيانات التي تسعى لتصحيحها، مما يقدم حلاً قابلاً للتطبيق في نشر تعلم الآلة في العالم الحقيقي.