🤖 machine learning

Fair Conformal Classification via Learning Representation-Based Groups

تقترح هذه الورقة إطار عمل للتصنيف المتوافق العادل يضمن التغطية الشرطية عبر مجموعات فرعية محددة تكيفيًّا من خلال تركيبات سمات غير خطية، مما يعالج بفعالية التحيزات الخوارزمية لإنتاج مجموعات تنبؤ موثوقة وغنية بالمعلومات.

المؤلفون الأصليون: Senrong Xu, Yanke Zhou, Yuhao Tan, Zenan Li, Yuan Yao, Taolue Chen, Feng Xu, Xiaoxing Ma

نُشر 2026-05-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Senrong Xu, Yanke Zhou, Yuhao Tan, Zenan Li, Yuan Yao, Taolue Chen, Feng Xu, Xiaoxing Ma

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك طبيبًا ذكيًا جدًا يعتمد على الذكاء الاصطناعي. إنه بارع في تشخيص المرضى في المتوسط، ولكن إذا نظرت عن كثب، فقد يقع أحيانًا في فخ التخمينات الواثقة والخاطئة لأنواع معينة من الناس؛ مثل الشابات من منطقة معينة، أو الرجال كبار السن الذين لديهم تاريخ وظيفي محدد. هذا هو "التحيز الخوارزمي".

الآن، تخيل أنك تريد إضافة شبكة أمان لهذا الطبيب. تريد من الذكاء الاصطناعي أن يقول: "أنا لست متأكدًا بنسبة 100%، لذا إليكم قائمة بالتشخيصات المحتملة"، بدلًا من مجرد اختيار تشخيص واحد. هذا ما يسمى بـ التنبؤ المتوافق (Conformal Prediction). إنه يشبه توقعات الطقس التي تقول: "هناك احتمال بنسبة 90% لهطول الأمطار"، مما يضمن أنه إذا فحصت 100 يوم، فسوف تمطر بالفعل في 90 يومًا منها.

المشكلة:
تعمل شبكة الأمان القياسية بشكل جيد مع الشخص "المتوسط". ولكن إذا كان الذكاء الاصطناعي متحيزًا، فقد تفشل شبكة الأمان لهذه المجموعات المحددة التي لا يفهمها جيدًا. قد يقول: "أنا متأكد بنسبة 90% أنها أمطار"، ولكن بالنسبة للمجموعة المتحيز ضدها، قد تكون ثقته 50% فقط. تطلق الورقة البحثية على هذا فشلًا في العدالة (Fairness).

الحل القديم (ولماذا هو غير فعال):
حاولت الطرق السابقة إصلاح ذلك عن طريق فحص كل تركيبة ممكنة من السمات (مثل: "هل هي امرأة سوداء؟" "هل هو رجل أسود؟" "هل هي امرأة بيضاء؟").

التشبيه: تخيل أنك تحاول العثور على إبرة محددة في كومة قش عن طريق فحص كل قشة واحدة تلو الأخرى.
العيب: هناك الكثير من التركيبات. كما أن بعض التحيزات معقدة؛ فقد يكون الذكاء الاصطناعي متعثرًا فقط مع "النساء البيضات أو الرجال السود" (مزيج غريب). الطرق القديمة، التي تنظر إلى السمات واحدة تلو الأخرى، لا يمكنها بسهولة رصد هذا النمط المعقد. إنها تشبه المصباح اليدوي الذي يضيء فقط في خط مستقيم؛ فهي تفوت الظلال الموجودة في الزوايا.

الحل الجديد: FAREG (التنبؤ المتوافق العادل للمجموعات القائمة على التمثيل)
يقترح المؤلفون طريقة جديدة تسمى FAREG. وإليك كيف تعمل باستخدام استعارات بسيطة:

1. "المترجم" (المُشفّر والمفكك للرموز - Encoder-Decoder)

بدلاً من النظر إلى البيانات الخام (مثل "العمر: 25، الجنس: أنثى")، يستخدم FAREG مترجمًا.

التشبيه: تخيل أن الذكاء الاصطناعي يحاول فهم لغة أجنبية. البيانات الخام هي النص الأجنبي. يقوم "المترجم" (شبكة عصبية) بتحويل هذا النص إلى "شفرة سرية" (تمثيل كامن) تلتقط جوهر الشخص، بما في ذلك العلاقات المعقدة بين السمات التي قد يغفل عنها البشر.
لماذا يساعد ذلك: يمكن لهذه الشفرة السرية أن تكتشف بسه‌ولة أن "النساء البيضات" و"الرجال السود" يتشاركون في سمة خفية تجعل الذكاء الاصطناعي يتعثر، رغم أنهما يبدوان مختلفين تمامًا على السطح. الأمر يشبه إدراك أن شخصين من بلدين مختلفين يتحدثان لهجة نادرة، مما يجعلهما مجموعة محددة تستوجب المراقبة.

2. "محقق العدالة"

بمجرد ترجمة البيانات إلى هذه الشفرة السرية، يعمل FAREG كمحقق.

التشبيه: ينظر المحقق إلى الشفرة السرية للعثور على "نقاط المشاكل". ويتساءل: "أي مجموعات من الناس تحصل على أسوأ شبكات أمان؟"
الإجراء: هو لا يخمن فحسب؛ بل يتعلم. يجد المجموعات المحددة التي يعاملها الذكاء الاصطناعي بعدم عدالة، ويقوم بإنشاء شبكة أمان خاصة وأكبر لهم. إذا كان الذكاء الاصطناعي مهزوزًا تجاه مجموعة معينة، فإن النظام يقول: "حسنًا، بالنسبة لهذه المجموعة، سنقدم قائمة أكبر من الاحتمالات لنكون في أمان".

3. "باني شبكة الأمان"

أخيرًا، يقوم النظام ببناء مجموعة التنبؤات.

التشبيه: يشبه الأمر خياطًا يصنع بدلة مخصصة. بالنسبة عامة السكان، يصنع بدلة قياسية (قائمة تنبؤات صغيرة). ولكن بالنسبة للمجموعات التي وجد المحقق أنها "عوملت بعدم عدالة"، فإنه يخيط لها قماشًا إضافيًا (قائمة تنبؤات أكبر) لضمان تغطيتها بنفس القدر.
النتيجة: الجميع يحصل على ضمان بنسبة 90% بأن التنبؤ صحيح. الشخص "المتوسط" يحصل على قائمة قصيرة وفعالة. أما "المجموعة التي عوملت بعدم عدالة"، فستحصل على قائمة أكبر قليلاً، لكنها لن تُترك خلف الركب.

4. "المسطرة الجديدة" (WSC+)

تقدم الورقة أيضًا طريقة جديدة لقياس العدالة تسمى WSC+.

التشبيه: المسطات القديمة كانت عصيًا مستقيمة. لم يكن بإمكانها إلا قياس التحيزات البسيطة والمستقيمة. أما المسطرة الجديدة (WSC+) فهي مرنة ومنحنية. يمكنها قياس التحيزات المعقدة، المنحنية، أو الملتوية (مثل مثال "النساء البيضات أو الرجال السود").
لماذا يهم ذلك: إنها تثبت أن الطريقة الجديدة تجد بالفعل عدم العدالة الخفي الذي فاتت المسطرات المستقيمة القديمة.

ملخص النتائج

اختبر المؤلفون هذه الطريقة على بيانات وهمية (تحاكي تشخيصات الصحة النفسية) وبيانات من العالم الحقيقي (مثل طلبات الالتحاق بدار الحضانة).

النتيجة: نجح FAREG في العثور على المجموعات المعقدة والخفية التي كانت تُعامل بعدم عدالة.
المقايضة: لقد تمكن من إصلاح العدالة دون جعل قوائم التنبؤات ضخمة لدرجة تصبح معها عديمة الفائدة. لقد حافظ على كون القوائم "موجزة" (معلوماتية) مع ضمان حصول الجميع على فرصة عادلة في الدقة.

باختأصار:
FAREG هو نظام ذكي يترجم البيانات البشرية المعقدة إلى شفرة سرية للعثور على المجموعات الخفية من الناس الذين يعاملهم الذكاء الاصطناعي بعدم عدالة. ثم يقوم بتخصيص شبكة الأمان الخاصة بالذكاء الاصطناعي لتلك المجموعات المحددة، مما يضمن أن يكون الذكاء الاصطناعي موثوقًا للجميع، وليس فقط للشخص المتوسط.

ملخص تقني: التصنيف التنبؤي المتماثل عبر المجموعات القائمة على تعلم التمثيل

1. بيان المشكلة

يوفر التنبؤ التوافقي (Conformal Prediction - CP) ضمانات تغطية هامشية صارمة إحصائياً لنماذج تعلم الآلة، مما يضمن أن التسمية الحقيقية تقع ضمن المجموعة المتوقعة باحتمالية محددة من قبل المستخدم (على سبيل المثال، $1-\alpha$ ). ومع ذلك، فإن طرق التنبؤ التوافقي القياسية تضمن التغطية فقط في المتوسط عبر كامل المجتمع. وتفشل هذه الضمانات الهامشية في مراعاة التحيزات الخوارزمية، حيث قد تعاني مجموعات فرعية معينة (محددة بخصائص حساسة مثل العرق أو الجنس) من سوء تغطية بشكل غير متناسب.

تواجه أساليب "التغطية المتساوية" (Equalized Coverage)، التي تحاول ضمان تغطية صالحة عبر مجموعات محددة مسبقاً، قيوداً كبيرة:

القدرة التعبيرية: الأساليب الحالية (مثل Romano et al., 2020a) تحدد المجموعات عادةً بناءً على خصائص فردية. وهي تواجه صعوبة في التقاط التفاعلات المعقدة وغير الخطية بين الخصائص (مثل المجموعة الفرعية المحددة بـ "امرأة بيضاء أو رجل أسود" في علاقة "أو الحصرية" - XOR).
القابلية للتوسع والكفاءة: البحث الشامل عن جميع المجموعات الفرعية المحتملة أمر غير ممكن حسابياً. وتعتمد النهج التكيفية السابقة (مثل Zhou & Sesia, 2024) على الاختيار الجشع للخصائص المنفصلة أو افتراضات "نايف بايز" (Naïve Bayes)، مما يحد من قدرتها على التعامل مع الخصائص المستمرة وتعريفات المجموعات غير الخطية.

يتمثل التحد في جوهره في تطوير إطار عمل للتنبؤ التوافقي يحدد بشكل تكيفي المجموعات الفرعية التي تعرضت لمعاملة غير عادلة، والمحددة بتفاعلات خصائص معقدة وغير خطية، مع الحفاظ على الكفاءة الحسابية وإنتاج مجموعات تنبؤية مدمجة ومعلوماتية.

2. المنهجية: FAREG

يقترح المؤلفون إطار عمل FAREG (التنبؤ التوافقي العادل للمجموعات القائمة على التمثيل)، وهو إطار عمل قائم على التعلم يحدد المجموعات المتأثرة بالتحيز بشكل تكيفي ويعدل مجموعات التنبؤ لتحقيق تغطية متساوية تكيفية.

2.1 تعلم المجموعات القائمة على تمثيل التمثيل

بدلاً من استخراج المجموعات مباشرة من خصائص المدخلات الخام $X$ ، يقوم FAREG بتشفير $X$ إلى تمثيل كامن $Z$ عبر دالة رسم $Z = f(X)$ . يستخدم الأسلوب بنية عنق الزجاجة المعلوماتي العميق المتغير (Deep Variational Information Bottleneck - Deep VIB) لتعلم مؤشر عضوية المجموعة $S$ (حيث يشير $S=1$ إلى العضوية في مجموعة غير عادلة $\hat{G}$ ) بناءً على $Z$ .

يهدف هدف التحسين إلى تعظيم المعلومات المتبادلة بين التمثيل الكامن $Z$ وكل من عضوية المجموعة $S$ والمدخل $X$ ، مع تقليل المعلومات المتبادلة بين $Z$ وهويات العينات الفردية $i$ لضمان الخصوصية والتعميم. تُصاغ دالة الخسارة كالتالي:
$\mathcal{L} = \mathcal{L}_{CC} + \mathcal{L}_{MSE} - \beta \mathcal{L}_{KL}$
حيث أن:

$\mathcal{L}_{CC}$ : خسارة التغطية الشرطية التجريبية، والتي يتم تقليلها لتحديد المجموعات ذات التغطية الضعيفة.
$\mathcal{L}_{MSE}$ : خسارة إعادة البناء (متوسط مربع الخطأ) لضمان احتفاظ $Z$ بمعلومات كافية لإعادة بناء $X$ ، وبالتالي الحفاظ على القابلية للتفسير.
$\mathcal{L}_{KL}$ : حد تباعد كولباك - ليبلر (Kullback-Leibler) الذي يضغط $Z$ إلى توزيع طبيعي قياسي.

يتم تقييد اختيار المجموعة بنسبة حد أدنى لحجم المجموعة $\delta$ . يستخدم المؤلفون الاشتقاق المتدرج المسقط (Projected Gradient Descent - PGD) لتحسين معاملات فك التشفيد (Decoder)، مع إسقاط احتمالات عضوية المجموعة المتوقعة مرة أخرى على المجموعة الممكنة لتلبية قيد الحجم.

2.2 بناء مجموعات التنبؤ التكيفية

بمجرد تحديد المجموعات غير العادلة، يقوم FAREG ببناء مجموعة التنبؤ النهائية $C(X_{N+1})$ لعينة اختبار:

يتم بناء مجموعة تنبؤ توافقي قياسية $C_m(X_{N+1}, D)$ باستخدام مجموعة المعايرة الكاملة.
يقوم النموذج بأخذ عينات من $T$ من المتجهات $s_t$ من توزيع برنولي المشترك المتعلم، حيث يحدد كل منها مجموعة محددة $\hat{G}_{s_t}$ .
يتم بناء مجموعات توافقية منفصلة لكل مجموعة تم أخذ العينات منها.
تكون مجموعة التنبؤ النهائية هي اتحاد المجموعة القياسية وجميع المجموعات الخاصة بالمجموعات:
$C(X_{N+1}) = C_m(X_{N+1}, D) \cup \bigcup_{t=1}^{T} C_m(X_{N+1}, \hat{G}_{s_t})$

2.3 مقياس التقييم المحسن: +WSC

لتقييم فعالية تحديد المجموعات غير الخطية غير العادلة، قدم المؤلفون +WSC، وهو امتداد غير خطي لمقياس تغطية اللوح الموزون (Weighted Slab Coverage - WSC). بينما يقيم WSC التقليدي التغطية عبر ألواح خطية ( $a \leq v^T X \leq b$ )، يقوم +W+WSC بتقييم التغطية عبر دوال غير خطية عشوائية $\pi(X)$ (تحديداً الدوال التربيعية في التجارب). وهذا يسمح بتقييم أكثر دقة لما إذا كان الإجراء التوافقي يغطي المجموعات المحددة بتفاعلات الخصائص المعقدة.

3. المساهمات الرئيسية

إطار عمل FAREG: طريقة تنبؤ توافقي مبتكرة تستخدم بنية المشفر-فك التشفيد (Encoder-Decoder) لتحديد المجموعات الفرعية ذات التغطية الضعيفة والمحددة بتفاعلات خصائص غير خطية بشكل تكيفي، متجاوزةً بذلك قيود تعريفات المجموعات الخطية أو أحادية الخصائص.
مقياس +WSC: مقياس تغطية شرطية غير خطي جديد مصمم لالتقاط وتقييم أداء إجراءات التنبؤ التوافقي على المجموعات الفرعية المعقدة وغير العادلة بشكل أفضل.
الضمانات النظرية: يثبت البحث أن FAREG يحقق تغطية متساوية تكيفية (المعادلة 1) على مجموعة المجموعات المختارة، بشرط أن تكون البيانات قابلة للتبادل. تشير التحليلات النظرية عبر بُعد VC (VC-dimension) إلى أن فضاء المجموعات المرشحة لـ FAREG هو مجموعة فائقة من فضاء الطرق التكيفية السابقة (مثل AFCP)، مما يوفر قدرة تعبيرية أققة.
الكفاءة: يحافظ الأسلوب على تعقيد زمني مقارن بالتنبؤ التوافقي القياسي ( $O(N+M)$ )، وهو ما يتفوق بشكل كبير على تعقيد $O(N \log N + NM)$ الخاص بطريقة AFCP الأكثر تطوراً.

4. النتائج التجريبية

قيم المؤلفون FAREG على كل من البيانات الاصطناعية والبيانات الواقعية (Nursery, ACSIncome).

البيانات الاصطناعية (سيناريو تشخيص المرض النفسي):
- التغطية: كان FAREG هو الطريقة الوحيدة التي حققت باستمرار تغطية شرطية صالحة (≥0.9) على المجموعة الفرعية المستهدفة المحددة بعلاقة "أو الحصرية" (XNOR) بين الخصائص، بينما فشلت النماذج المرجعية (Marginal, Partial, AFCP1, AFCP2) في الحفاظ على هذه التغطية أو تطلبت أحجام عينات أكبر بكثير.
- الكفاءة: حافظ FAREG على أحجام تنبؤ متوسطة تنافسية، متجنباً أحجام المجموعات المفرطة التي لوحظت في AFCP2 عندما حاولت تغطية المجموعة المستهدفة.
- اختيار الخصائص: نجح FAREG في تحديد تركيبات الخصائص غير الخطية ذات الصلة (X[0] و X[1]) بتكرار أعلى من النماذج المرجعية مع زيادة حجم العينة.
- وقت التشغيل: أظهر FAFAREG تكلفة زمنية أقل بكثير مقارنة بـ AFCP، حيث يتناسب وقت التدريب خطياً مع حجم العينة.
البيانات الواقعية (Nursery و ACSIncome):
- في مجموعة بيانات Nursery، تفوق FAREG باستمرار على جميع النماذج المرجعية في مقاييس تغطية المجموعة و +WSC مع الحفاظ على تغطية هامشية صالحة.
- في مجموعة بيانات ACSIncome، حقق FAREG تغطية شرطية صالحة (0.9) وكفاءة تنافسية مقارنة بـ AFCP2.
التحقق من المقياس: أكدت التجارب أن +WSC يحدد المجموعات ذات التغطية الأسوأ من مقياس WSC الخطي، مما يؤكد فائدته في اكتشاف التحيزات غير الخطية.

5. الأهمية والادعاءات

يزعم البحث أن FAREG يوفر مساراً عملياً نحو تعلم آلي جدير بالثقة من خلال موازنة المقايضة بين كفاءة التنبؤ التوافقي (أحجام مجموعات صغيرة) ومتطلبات العدالة الخوارزمية (التغطية المتساوية).

القدرة التعبيرية: من خلال تعلم التمثيلات الكامنة، يلتقط FAFAREG التحيزات الخوارزمية المعقدة التي تغفل عنها الطرق الخطية أو أساليب الخصائص الأحادية.
القابلية للتفسير: رغم استخدام التمثيلات الكامنة، تسمح بنية المشفر-فك التشفيد بإعادة بناء خصائص المدخلات، مما يخفف من مخاوف "الصندوق الأسود" ويثبت أن المجموعات المتعلمة تعكس تفاعلات الخصائص ذات المعنى (مثل علاقات XNOR).
المتانة: يوفر إطار العمل نهجاً مرناً يمكن تكييفه مع مفاهيم مختلفة للعدالة دون الحاجة إلى هياكل مجموعات محددة مسبقاً.

يقر المؤلفون بوجود قيد: وهي أن القدرة التعبيرية المعززة للمجموعات القائمة على التمثيل قد تضحي جزئياً بالتفسير المباشر للمجموعات المحددة على الخصائص الظاهرة، رغم أنهم يجادلون بأن قدرة إعادة البناء تعوض عن ذلك. يضع هذا العمل FAREG كتقدم على أساليب التنبؤ التوافقي العادل التكيفية الحالية من خلال معالجة فجوة القدرة التعبيرية.