Persistent Proxy Discrimination in HIV Testing Prediction Models: A National Fairness Audit of 386,775 US Adults
يُظهر هذا التدقيق الوطني للعدالة الذي شمل 386,775 بالغاً في الولايات المتحدة أن فرض التكافؤ الديموغرافي في نماذج التنبؤ باختبار فيروس نقص المناعة البشرية غير ملائم في السياقات السريرية ذات العبء التفاضلي، حيث إنه يقلل بشكل كبير من إمكانية الوصول إلى الفحص للفئات السكانية عالية المخاطر ويؤكد على الحاجة إلى مقاييس عدالة مثل تكافؤ الفرص والمعايرة التي تتوافق مع الاحتياجات السريرية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل
تخيل أنك طبيب تحاول اتخاذ قرار بشأن من يحتاج إلى اختبار طبي معين. لديك برنامج حاسوبي جديد ومتطور (ذكاء اصطناعي) لمساعدتك في اتخاذ هذه القرارات. والهدف هو أن تكون عادلاً مع الجميع.
ولكن هنا تكمن الخدعة: تعريف "العدالة" الذي يستخدمه علماء الكمبيوتر قد يؤدي في الواقع إلى إلحاق الضرر بالأشخاص الأكثر احتياجاً للمساعدة.
تستخدم هذه الورقة البحثية، التي كتبها الباحث هايدن فاركوار، مثالاً من الواقع — اختبار فيروس نقص المناعة البشرية (HIV) — لتوضيح لماذا قد يكون اتباع قاعدة شائعة تسمى "التكافؤ الديموغرافي" (Demographic Parity) خطيراً في مجال الرعاية الصحية.
إليك القصة بكلمات بسيطة، باستخدام بعض التشبيهات لجعل الأمر واضحاً.
1. الإطار: مدينة غارقة في الفيضانات
تخيل حيين في مدينة:
- الحي (أ) (منطقة الخطر العالي): هذه المنطقة غارقة حالياً. 60% من المنازل تحت الماء.
- الحي (ب) (المنطقة الآمنة): هذه المنطقة جافة. 10% فقط من المنازل غارقة.
لديك أسطول من قوارب الإنقاذ (نموذج الذكاء الاصطناعي) وكمية محدودة من الوقود. مهمتك هي إرسال القوارب لإنقاذ الناس.
2. القاعدة "العادلة" التي تسير بشكل خاطئ
يقول علماء الكمبيوتر: "لكي نكون عادلين، يجب أن نرسل نفس العدد بالضبط من قوارب الإنقاذ إلى الحي (أ) والحي (ب)."
يسمون هذا التكافؤ الديموغرافي. يبدو الأمر عادلاً على الورق: "الجميع يحصل على نفس القدر من الاهتمام."
ولكن هنا تكمن المشكلة:
- إذا أرسلت 50 قارباً إلى الحي الغارق، فقد تنقذ 40 شخصاً.
- إذا أرسلت 50 قارباً إلى الحي الجاف، فقد تجد 5 أشخاص فقط يحتاجون للإنقاذ فعلياً (لأن معظم المنازل سليمة).
من خلال إجبار الكمبيوتر على إرسال نفس العدد من القوارب إلى كلا المكانين، فأنت تهدر الوقود في الحي الجاف وتترك الناس يغرقون في الحي الغارق. أنت تحاول جعل الأرقام تبدو متساوية، لكنك تتجاهل واقع الموقف.
3. المثال من الواقع: اختبار فيروس نقص المناعة البشرية (HIV)
في هذه الدراسة، "الفيضان" هو فيروس نقص المناعة البشرية.
- المجتمعات السوداء واللاتينية في الولايات المتحدة لديها معدل إصابة أعلى بكثير بفيروس نقص المناعة البشرية (الفيضان).
- المجتمعات البيضاء والآسيوية لديها معدل أقل بكثير (المنطقة الجافة).
تم تدريب الذكاء الاصطناعي للتنبؤ بمن تم اختباره لمرض نقص المناعة البشرية. وبطبيعة الحال، تعلم الذكاء الاصطناعي أن الأشخاص في المناطق عالية الخطورة هم أكثر عرضة للاختبار (لأن حملات الصحة العامة تستهدفهم). لذا، كان الذكاء الاصطناعي يوصي بإجراء الاختبار بشكل متكرر للأشخاص السود واللاتينيين.
"إصلاح" العدالة:
عندما حاول الباحثون جعل الذكاء الاصطناعي "عادلاً" باستخدام التكافؤ الديموغرافي، فقد أجبروا الذكاء الاصطناعي على التوصية بالاختبار بـ نفس المعدل للجميع، بغض النظر عن مستوى الخطورة.
النتيجة:
- توقف الذكاء الاصطناعي عن التوصية بالاختبارات للمجموعات عالية الخطورة (لأنه كان عليه خفض أرقامه لتتساوى مع المجموعات منخفضة الخطورة).
- بدأ الذكاء الاصطناائي يوصي بالاختبارات للمجموعات منخفضة الخطورة (لأنه كان عليه رفع أرقامه لتتساوى مع المجموعات عالية الخطورة).
التكلفة:
وجدت الدراسة أنه من خلال القيام بهذا الشيء "العادل"، فات الذكاء الاصطناعي 1,610 شخصاً إضافياً في مجموعة الاختبار الذين كانوا بحاجة فعلية للفحص. كان الأمر كأنك توقف قوارب الإنقاذ في الحي الغارق لمجرد التأكد من أن الحي الجاف سيحصل على نفس عدد القوارب.
4. فخ "تجاهل العرق"
حاول الباحثون حيلة أخرى: أخبروا الكمبيوتر: "لا تنظر إلى العرق على الإطلاق. فقط تجاهله."
ظنوا أن هذا سيحل المشكلة. لكنه لم يعمل بشكل جيد.
- التشبيه: تخيل أنك تقول لرجل إطفاء: "لا تنظر إلى لون المبنى". لكن رجل الإطفاء لا يزال بإمكانه رؤية أن المبنى مصنوع من الخشب (وهو مؤشر لخطر الحريق) وأنه يقع بجوار محطة وقود.
- حتى بدون معرفة متغير "العرق"، رأى الذكاء الاصطناعي أدلة أخرى مثل الدخل، ومكان السكن، والقدرة على الوصول إلى الرعاية الصحية. هذه الأدلة مرتبطة بالعرق بسبب عدم المساواة التاريخية. لذا، انتهى الأمر بالذكاء الاصطناعي بمعاملة المجموعات بشكل مختلف، ولكن بطريقة أكثر تعقيداً.
5. الطريقة الأفضل: "تساوي الاحتمالات" (Equalized Odds)
إذاً، ما هي الطريقة الصحيحة لتكون عادلاً؟ تقترح الورقة البحثية تساوي الاحتمالات.
- التشبيه: بدلاً من إرسال نفس العدد من القوارب، تأكد من أن القوارب بارعة بنفس القدر في العثور على الأشخاص الذين يغرقون، بغض النظر عن الحي الذي يتواجدون فيه.
- إذا كان هناك 100 شخص يغرقون في الحي (أ)، فيجب أن يجد القارب 90 منهم.
- إذا كان هناك 100 شخص في الحي (ب)، فيجب أن يجد القارب أيضاً 90 منهم.
هذا يسمح لك بإرسال مزيد من القوارب إلى الحي الغارق (لأن هناك المزيد من الناس هناك) مع ضمان أن يكون القارب دقيقاً بنفس القدر في كلا المكانين. هذه هي العدالة القائمة على الاحتياج، وليس مجرد الأرقام المتساوية.
6. المفاجأة "التقاطعية"
وجدت الدراسة أيضاً أثراً جانبياً مخادعاً. عندما أصلحوا العدالة بالنسبة لـ العرق، فقد تسببوا دون قصد في عدم العدالة بالنسبة لـ الجنس.
- التشبيه: تخيل أنك أصلحت مستوى المياه للمدينة بأكملها، ولكن في القيام بذلك، تسببت بالخطأ في غمر قبو مبنى سكني معين حيث تعيش النساء.
- من خلال التركيز فقط على العرق، بدأ الذكاء الاصطناعي يعامل الرجال والنساء بطرق مختلفة وغير عادلة في آن واحد. ولإصلاح ذلك، عليك النظر في التقاطع بين كليهما (العرق + الجنس) في نفس الوقت، وهو أمر صعب للغاية.
الخلاصة الكبرى
الدرس الرئيسي من هذه الورقة هو: في الرعاية الصحية، "العدل" لا يعني دائماً "الأرقام المتساوية".
- في البنك: إذا كانت خوارزمية القروض تعطي قروضاً لـ 50% من المجموعة (أ) و50% من المجموعة (ب)، فهذا عادل.
- في المستشفى: إذا كان المرض أكثر شيوعاً بخمس مرات في المجموعة (أ)، فإن النظام العادل يجب أن يوصي بالعلاج بمعدل خمس مرات أكثر للمجموعة (أ).
إذا أجبرنا نظام المستشفى على معاملة الجميع بنفس الطريقة تماماً (التكافؤ الديموغرافي)، فإننا ننتهي بتجاهل الأشخاص المرضى فعلياً.
الاستنتاج:
نحن بحاجة للتوقف عن استخدام "التكاف toolPath" كقاعدة افتراضية للذكاء الاصطناዊ الطبي. بدلاً من ذلك، يحتاج الأطباء والمجتمعات للجلوس وتحديد: "كيف تبدو العدالة فعلياً لهذا المرض المحدد؟" وعادة ما يعني ذلك التأكد من أن الذكاء الاصطناعي دقيق للجميع، وليس أنه يعامل الجميع بنفس الطريقة تماماً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.