Integrating Group and Individual Fairness Auditing in Clinical AI: A Post-Hoc, Model-Agnostic Approach
تقدم هذه الورقة EquiLense، وهي أداة تدقيق عملية، ولاحقة، ومستقلة عن النموذج، تسد الفجوة بين تقييمات العدالة الجماعية والفردية في الذكاء الاصطناكن السريري من خلال استخدام مقياس مبتكر يسمى "متوسط فرق الاحتمال المتوقع" (MPPD) لتحديد التناقضات المنهجية في التنبؤ عبر المجموعات الديموغرافية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً آلياً ذكياً للغاية، يساعد الأطباء في التنبؤ بكيفية تعافي المريض بعد الجراحة. هذا المساعد بارع جداً في عمله بشكل عام، ولكن هناك قلق ملحّ: هل يعامل الجميع بإنصاف؟
أحياناً، قد يكون هؤلاء المساعدون غير عادلين بطريقتين مختلفتين:
- عدم الإنصاف الجماعي: أنه يعطي باستمرار تنبؤات أسوأ لمجموعة كاملة من الناس (مثل عرق أو جنس معين) مقارنة بمجموعة أخرى.
- عدم الإنصاف الفردي: أنه يعامل مريضين متطابقين طبياً (لهما نفس العمر، ونفس المشاكل الصحية، ونفس الجراحة) بشكل مختلف لمجرد أنهما ينتميان إلى مجموعات مختلفة.
المشكلة هي أن معظم الأدوات المستخدمة للتحقق من الإنصاف تركز فقط على أحد هذين الجانبين. فقد تتحقق مما إذا كانت المجموعة (أ) تحصل على درجات أسوأ من المجموعة (ب)، لكنها قد تغفل حقيقة أن مريضين متطابقين يتم التعامل معهما بشكل مختلف. أو قد تتحقق مما إذا كان المرضى المتطابقون يُعاملون بنفس الطريقة، لكنها قد تغفل الصورة الكبيرة للتحيز المنهجي ضد مجموعة بأكملها.
دخول "إيكوي لينس" (EquiLense): نظارات الإنصاف
ابتكر مؤلفو هذه الورقة البحثية أداة جديدة تسمى EquiLense. فكر فيها كأنها "نظارات إنصاف" يمكن للطبيب أو المطور ارتداؤها بعد بناء نموذج الذكاء الاصطناعي وتشغيله بالفعل. لست بحاجة إلى إعادة بناء المحرك؛ أنت فقط تنظر من خلال النظارات لترى ما يحدث حقاً.
يقوم "إيكوي لينس" بثلاث مهام رئيسية لتقديم صورة كاملة:
- فحص المجموعة: ينظر إلى الصورة الكبيرة ليرى ما إذا كانت مجموعات ديموغرافية معينة تحصل على تنبؤات أسوأ بشكل منهجي من غيرها.
- الفحص الفردي: يبحث عن أزواج من المرضى الذين هم بمثابة "توائم طبية" (نفس العمر، ونفس التاريخ الصحي) ويتحقق مما إذا كان الذكاء الاصطناعي يعطيهم نفس التنبؤ. إذا أعطى أحدهم درجة "خطر مرتفع" والآخر درجة "خطر منخفض" لمجرد اختلاف عرقهم أو نوع تأمينهم، فهذا يعتبر علامة خطر.
- "متوسط فرق الاحتمالية المتوقعة" (MPPD): هذا هو السر الذي يميز الورقة البحثية. إنه طريقة جديدة لقياس الفجوة بين هؤلاء "التوائم الطبية".
إليك تشبيه بسيط لـ MPOD:
تخيل أنك قاضٍ يصدر حكماً على شخصين ارتكبا الجريمة ذاتها تماماً وبنفس السجل الجنائي.
- الإنصاف: كلاهما يحصل على 5 سنوات.
- عدم الإنصاف: أحدهما يحصل على 5 سنوات، والآخر يحصل على 10 سنوات لمجرد أنه من حي سكني مختلف.
إن الـ MPPD يشبه المسطرة التي تقيس بالضبط كم مقدار الوقت الإضافي الذي حصل عليه الشخص الثاني مقارنة بالأول، في المتوسط، عبر قاعة المحكمة بأكملها. إنه يحدد "الفجوة غير العادلة" بين الأشخاص الذين ينبغي معاملتهم بنفس الطريقة.
ماذا وجدوا؟
اختبر الفريق أداة "إيكوي لينس" على بيانات مستشفى حقيقية شملت أكثر من 59,000 مريض جراحي. بحثوا في نماذج تتنبأ بشيئين: الهذيان (الارتباك بعد الجراحة) وإعادة الإدخال للمستشفى (العودة للمستشفى في غض_ن 30 يوماً).
- المفاج المفاجئ: كانت نماذج الذكاء الاصطناعي دقيقة جداً في التنبؤ بالنتائج بشكل عام (كانت دقيقة). ومع ذلك، عندما وضعوا "نظارات إيكوي لينس"، وجدوا أن النماذج كانت لا تزال تعامل "التوائم الطبية" بشكل مختلف بناءً على العرق.
- مثال محدد: بالنسبة للمرضى المتطابقين طبياً مع المرضى البيض، كان المرضى الآسيويون يحصلون على تنبؤات مختلفة (وأقل إنصافاً) بشكل منهجي. كانت "الفجوة" في درجاتهم قابلة للقياس وذات دلالة.
- اختبار الإصلاح: قاموا بتجربة بسيطة: أخبروا الذكاء الاصطناعي أن يتجاهل العرق ونوع التأمين عند إجراء تنبؤاته. عندما فعلوا ذلك، تقلصت "الفجوة غير العادلة" (درجة MPPD) بشكل كبير. وهذا يشير إلى أن مجرد إزالة نقاط البيانات المحددة هذه من "عقل" النموذج جعلته يعامل المرضى المتشابهين بشكل أكثر مساواة، دون أن يجعل النموذج أسوأ في أداء مهمته.
هل نجح الأمر في مشكلات أخرى؟
للتأكد من أن مسطرتهم الجديدة (MPPD) تعمل بالفعل، اختبروا الأداة على مجموعتي بيانات شهيرتين غير طبيتين حيث يوجد تحيز معروف مسبقاً:
- COMPAS: أداة تُستخدم للتنبؤ باحتمالية عودة المجرمين لارتكاب الجرائم. (نعلم أن هذه الأداة كانت تاريخياً منحازة ضد المتهمين السود).
- دخل البالغين (UCI Adult Income): مجموعة بيانات تتنبأ بما إذا كان الشخص يكسب أكثر من 50 ألف دولار. (نعلم أن هذه المجموعة تحتوي على تحيز تاريخي ضد الجنس).
النتيجة: نجح مقياس MPPD الخاص بـ "إيكوي لينس" في رصد المجموعات الدقيقة التي كنا نعرف بالفعل أنها تُعامل بشكل غير عادل (المتهمين السود في بيانات COMPAS والنساء في بيانات الدخل). وقد أثبت هذا أن الأداة تعمل.
لماذا يهم هذا الأمر؟
تجادل الورقة البحثية بأننا بحاجة إلى أداة لا تتطلب منا التخلص من نماذج الذكاء الاصطناዊ الحالية والبدء من جديد (وهو أمر مكلف وصعب). بدلاً من ذلك، نحتاج إلى طريقة لمراجعتها وتدقيقها بعد بنائها.
"إيكوي لينس" يشبه مفتش مراقبة الجودة للذكاء الاصطناعي في الرعاية الصحية. هو لا يصلح الآلة لك، ولكنه يعطيك تقريراً واضحاً وسهل الفهم يقول: "مهلاً، آلتك بارعة في الرياضيات، لكنها تعامل هذين المريضين المتطابقين بشكل مختلف لمجرد اختلاف خلفياتهما".
هذا يسمح للأطباء والمطورين باتخاذ قرارات مدروسة، مثل اتخاذ قرار بإزالة بعض نقاط البيانات (مثل العرق) من النموذج لجعل عملية التنبؤ أكثر إنصافاً، دون الحاجة لأن يكونوا عباقرة في الرياضيات أو إعادة بناء النظام بأكره.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.