An Experimental Study on Fairness-aware Machine Learning for Credit Scoring Problems
تقدم هذه الورقة دراسة تجريبية شاملة تثبت أن نماذج تعلم الآلة المراعية للعدالة تحقق توازناً فائقاً بين دقة التنبؤ والعدالة مقارنة بنماذج التصنيف التقليدية في سياق التقييم الائتماني.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك مدير بنك. في الأيام الخوالي، إذا أراد شخص ما الحصول على قرض، كنت تجلس معه، وتطلع على أوراقه، وربما تطرح عليه بعض الأسئلة، وتستخدم حدسك لتقرر ما إذا كان "مخاطرة جيدة" أم "مخاطرة سيئة". كان الأمر بطيئاً، ويستغرق الكثير من استراحات القهوة، ويعتمد بشكل كبير على التقدير البشري.
الي اليوم، تستخدم البنوك تعلم الآلة (ML) للقيام بذلك فوراً. فكر في تعلم الآلة كأنه مساعد آلي فائق السرعة والذكاء، يقرأ آلاف السجلات المالية في جزء من الثانية ليتنبأ بمن سيعيد سداد قرضه ومن لن يفعل. وهذا ما يسمى التقييم الائتماني (Credit Scoring).
ولكن تكمن المشكلة هنا: الروبوتات يمكن أن تكون متحيزة.
إذا قمت بتدريب روبوت على بيانات تاريخية حيث تم، على سبيل المثال، حرمان النساء من القروض بشكل غير عادل في الماضي، فقد يتعلم الروبوت أن "كون الشخص امرأة" يعني "عدم إعطاء قرض". هو ليس شريراً؛ هو فقط ينسخ أخطاء الماضي. هذا هو "عدم الإنصاف" الذي تتحدث عنه الورقة البحثية.
المهمة: إصلاح عقل الروبوت
تساءل مؤلفو هذه الورقة سؤالاً كبيًا: "لدينا كل هذه الأدوات المتطورة لجعل روبوتاتنا عادلة، ولكن هل تعمل حقاً في عالم البنوك الواقعي؟"
لقد قرروا إجراء تجربة ضخمة. لم يتحدثوا فقط عن النظرية؛ بل وضعوا هذه الأدوات قيد الاختبار.
مكونات التجربة
1. عينات الاختبار (مجموعات البيانات)
جمعوا خمسة "ملاعب" مختلفة من البيانات المالية الواقعية. تخيل هذه الملاعب كأنها خمسة أحياء مختلفة بها أنواع مختلفة من الناس. بعض الأحياء كانت تحتوي على بيانات لمستخدمي البطاقات الائتمانية، وأخرى لمتقدمين ألمان، وأخرى لعملاء من آسيا الوسطى. لقد فحصوا هذه الأحياء ليروا ما إذا كانت البيانات نفسها متحيزة بالفعل (مثل اكتشاف أن سجلات الحي تعامل الرجال والنساء بشكل مختلف بالفعل). ووجدوا أن، نعم، البيانات كانت غالباً متحيزة منذ البلية.
2. الأدوات (النماذج)
اختبروا ثلاث طرق مختلفة لـ "إصلاح" الروبوت:
- المعالجة المسبقة (تنظيف المكونات): قبل أن يبدأ الروبوت في الطبخ، تقوم بغسل وفرز الخضروات. أنت تزيل الأشياء السيئة أو توازن المكونات حتى لا يبدأ الروبوت بتحيز.
- تشبيه: مثل طاهٍ يتذوق الحساء قبل إضافة الملح ليتأكد من أنه ليس مالحاً جداً.
- المعالجة أثناء العمل (التدريب مع القواعد): أنت تعلم الروبوت قاعدة جديدة أثناء تعلمه. "مهلاً، عندما تتخذ قراراً، يجب أن تعامل الرجال والنساء تماماً بالمثل، حتى لو كان ذلك أصعب قليلاً للوصول إلى الإجابة الصحيحة".
- تشبيه: مثل معلم يقول لطالبه: "لا يمكنك التخمين فقط؛ يجب عليك اتباع هذه القاعدة العادلة المحددة للحصول على درجة امتياز".
- المعالجة اللاحقة (تعديل النتيجة): يتخذ الروبوت قراره، ثم ينظر إنسان (أو برنامج آخر) إلى النتيجة ويقوم بتعديلها. "انتظر، لقد رفضت طلب هذه المرأة، ولكن بناءً على القواعد، كان يجب أن توافق عليه. لنقم بقلب المفتاح".
- تشبيه: مثل حكم يطلق صافرته بعد اللعبة ليقول: "كان ذلك خطأً، لنعد من جديد".
3. بطاقة التقييم (مقاييس العدالة)
كيف تعرف ما إذا كان الروبوت عادلاً حقاً؟ لا يمكنك مجرد النظر إليه. أنت بحاجة إلى مسطرة. اختبرت الورقة حوالي 8 "مساطر عدالة" مختلفة.
- التكافؤ الإحصائي: هل يوافق الروبوت الرجال والنساء بنفس المعدل؟
- تكافؤ الفرص: إذا كان كل من الرجل والمرأة "مقترضين جيدين"، فهل يمنحهما الروبوت كلاهما قرضاً؟
- التكافؤ التنبئي: إذا قال الروبوت إن شخصاً ما "مقترض جيد"، فهل هذا التنبؤ دقيق بنفس القدر لكل من الرجال والنساء؟
ماذا وجدوا؟ (النتائج)
كانت التجربة بمثابة سباق بين الروبوتات التقليدية (القديمة والمتحيزة) والروبوتات الجديدة "المدركة للعدالة".
- الطريقة القديمة: كانت النماذج التقليدية دقيقة جداً في التنبؤ بمن سيسدد، لكنها كانت غالباً غير عادلة. قد تميز ضد مجموعة معينة عن غير قصد.
- الطريقة "العادلة": نجحت النماذج الجديدة في أن تكون عادلة. لقد قللت من التمييز بشكل كبير.
- المقايضة: عادةً، عندما تجعل شيئاً ما عادلاً، فإنه يصبح أقل دقة (مثل حكم يكون صارماً جداً لدرجة أنه يضيع أهدافاً حقيقية). ومع ذلك، وجدت الورقة أن طريقة المعالجة أثناء العمل (تحديداً أداة تسمى AdaFair) كانت هي الحل "المثالي". لقد تمكنت من أن تكون دقيقة للغاية وعادلة للغاية في آن واحد. لم تضطر للتضحية بالكثير من الدقة لتكون عادلة.
الفائز الأكبر: كان نموذج AdaFair هو نجم العرض. لقد نجح باستمرار في تحقيق التوازن بين الحاجة إلى تحقيق الربح (الدقة) والحاجة إلى العدل (الإنصاف) بشكل أفضل من الطرق الأخرى عبر جميع الأحياء الخمسة (مجموعات البيانات).
الخلاصة
هذه الورقة هي بمثابة واقع ملموس لعالم البنوك. إنها تقول:
- التحيز حقيقي: بياناتنا معيبة، لذا ستكون روبوتاتنا معيبة ما لم نصلحها.
- الأدوات موجودة: لدينا التكنولوجيا لإصلاح هذا.
- إنه يعمل: ليس علينا الاختيار بين جني المال وبين العدل. مع الأدوات الصحيحة (مثل AdaFair)، يمكننا القيام بكليهما.
بكلمات بسيطة: أثبت المؤلفون أنه يمكننا تعليم روبوتاتنا المصرفية ألا تكون ذكية فحسب، بل أن تكون أيضاً طيبة وعادلة، دون جعلها غبية. الأمر يتعلق ببناء نظام مالي يحصل فيه الجميع على فرصة عادلة، بغض النظر عن هويتهم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.