FairLogue: Evaluating Intersectional Fairness across Clinical Machine Learning Use Cases using the All of Us Research Program
تقدم هذه الورقة FairLogue، وهي مجموعة أدوات تطبق تدقيق العدالة التقاطعية على نماذج التعلم الآلي السريرية باستخدام مجموعة بيانات "All of Us"، كاشفةً أنه في حين تكشف التحليات الديموغرافية المشتركة عن تفاوتات أكبر من النهج أحادي المحور، فإن التشخيصات المقابلة للواقع تشير إلى أن معظم الانحيازات الملحوظة تتوافق مع العضوية العشوائية في المجموعات بدلاً من التمييز المتأصل في النموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "FairLogue"، مقسمة إلى مفاهيم بسيية مع تشبيهات إبداعية.
الصورة الكبيرة: لماذا نحتاج إلى عدسة جديدة؟
تخيل أنك طبيب يحاول التنبؤ بمن قد يمرض. لقد قمت ببناء برنامج حاسوبي (ذكاء اصطابي) لمساعدتك. لكن، تدرك أن البرنامج يرتكب أخطاءً أكثر في حق مجموعات معينة من الناس.
لفترة طويلة، كان الباحثون يتحققون من هذه الأخطاء عبر فحص سمة واحدة في كل مرة. كانوا يسألون: "هل الذكاء الاصطناعي غير عادل مع السود؟" أو "هل هو غير عادل مع النساء؟" بشكل منفصل.
المشكلة: هذا يشبه التحقق مما إذا كانت السيارة آمنة من خلال النظر فقط إلى الإطارات، ثم النظر فقط إلى المكابح، دون التحقق أبداً من كيفية عملهما معاً. في الحياة الواقعية، يمتلك الناس هويات متعددة في آن واحد (مثل: امرأة سوداء، أو رجل هسباني مسن). عندما تنظر إلى هذه السمات بشكل منفصل، فإنك تفقد "الضربة المزدوجة" الفريدة من العيوب التي تحدث عندما تجتمع هذه السمات معاً.
الحل: ابتكر المؤلفون مجموعة أدوات تسمى FairLogue. فكر فيها كأنها مجهر عالي القدرة يسمح لك بالتركيز على تركيبات محددة من الهويات (التقاطعية) لرؤية التحيزات الخفية التي تغفل عنها رؤية "العدسة الواحدة".
التجربة: اختباران من العالم الحقيقي
لاختبار هذا المجهر، استخدم الباحثون قاعدة بيانات ضخمة ومتنوعة تسمى "All of Us" (وهي تشبه مكتبة عملاقة من السجلات الصحية لملايين الأمريكيين). اختبروا مجموعة الأدوات في سيناريوهين طبيين مختلفين:
- اختبار النزيف: التنبؤ بما إذا كان المريض الذي يتناول مضادات الاكتئاب الشائعة (SSRIs) سيعاني من حدث نزيف خطير.
- اختبار السكتة الدماغية: التنبؤ بما إذا كان المريض الذي يعاني من عدم انتظام ضربات القلب (الرجفان الأذيني) سيصاب بسكتة دماغية خلال عامين.
ما وجدوه: تأثير "الظل"
عندما نظروا إلى البيانات باستخدام مجهر FairLogue الجديد، وجدوا شيئاً مفاجئاً:
- رؤية العدسة الواحدة كانت ضبابية: عندما نظروا إلى العرق أو الجنس وحدهما، بدا الذكاء الاصطناعي عادلاً إلى حد كبير؛ حيث كانت الفجوات في الأداء صغيرة.
- الرؤية التقاطعية كانت حادة: عندما نظروا إلى التركيبات (مثل: النساء السود مقابل الرجال البيض)، أصبحت الفجوات أكبر بكثير. كان الأمر كأن تدرك أنه بينما الإطارات جيدة والمكابح جيدة، إلا أن السيارة تتعامل بشكل سيء جداً عندما تمطر ويكون الطريق جليدياً في نفس الوقت. هذا المزيج من العوامل خلق مشكلة أكبر مما قد يسببه أي عامل بمفرده.
التشبيه: تخيل نظام درجات مدرسية.
- إذا تحققت مما إذا كان النظام عادلاً تجاه "الأولاد"، سيبدو الأمر جيداً.
- إذا تحققت مما إذا كان عادلاً تجاه "الفتيات"، سيبدو الأمر جيداً.
- ولكن إذا تحققت من "الفتيات اللواتي هن أيضاً وافدات جديدات إلى البلاد"، فقد تجد أنهن يرسبن لأن النظام لا يراعي معاناتهن الخاصة. لقد وجدت مجموعة أدوات "FairLogue" هذه المعاناة الخفية في البيانات الطبية.
المفاجأة: هل الذكاء الاصطناعي "عنصري" أو "تمييزي ضد الجنس" حقاً؟
هذا هو الجزء الأكثر إثارة للاهتمام. مجرد كون الذكاء الاصطناعي يرتكب أخطاء أكثر مع مجموعة معينة، هل يعني ذلك أن الذك_اء الاصطناعي "يستهدفهم" عمداً؟
للإجابة على هذا، استخدم الباحثون محاكاة السفر عبر الزمن (التحليل المقابل للواقع).
- التشبيه: تخيل أن لديك كيساً من الكرات الزجاجية. بعضها أحمر وبعضها أزرق. تريد أن تعرف ما إذا كان الكيس منحازاً ضد الكرات الحمراء.
- الاختبار: أخذوا البيانات و"خلطوا الأوراق". حافظوا على جميع الحقائق الطبية (العمر، الصحة، الأدوية) كما هي تماماً، لكنهم استبدلوا تسميات العرق والجنس بشكل عشوائي.
- النتيجة: سألوا: "إذا قمنا بتوزيع هؤلاء الأشخاص على مجموعات مختلفة بشكل عشوائي، هل سيظل الذكاء الاصطناعي يرتكب نفس الأخطاء؟"
المفاجأة: في كلا الاختبارين الطبيين، كانت الإجابة هي "نعم" في الغالب.
حتى عندما قاموا بتوزيع المجموعات عشوائياً، ظل الذكاء الاصطناعي يرتكب أخطاءً مماثلة. وهذا يشير إلى أن الذكاء الاصطناعي ليس بالضرورة "يكره" مجموعة معينة. بدلاً من ذلك، يلتقط الذكاء الاصطنا induced إشارات أخرى في البيانات (مثل حالات صحية معينة، أو تاريخ الأدوية، أو عوامل اجتماعية واقتصادية) تصادف أنها أكثر شيوعاً في تلك المجموعات.
الاستعارة: الأمر يشبه تطبيق الطقس الذي يتنبأ بهطول الأمطار.
- إذا توقع التطبيق هطول الأمطار للجميع في وادٍ ما، بينما الجو مشمس بالفعل، فالتطبيق لا "يكره" ذلك الوادي؛ بل هو فقط يتفاعل مع نظام الضغط المنخفض الذي يصادف وجوده فوق الوادي.
- وبالمثل، لم يكن الذكاء الاصطناعي يمارس التمييز بناءً على العرق؛ بل كان يتفاعل مع أنماط صحية معقدة موزعة بشكل غير متساوٍ بين المجموعات المختلفة.
الخلاصة: لماذا يهم هذا؟
- لا تنظر إلى شيء واحد فقط: إذا كنت تتحقق من التحيز بناءً على العرق أو الجنس وحدهما، فأنت تفوت القصة الحقيقية. يجب أن تنظر إلى كيفية اختلاط هذه الهويات.
- التحيز غالباً ما يكون عرضاً وليس المرض: تظهر الدراسة أن عدم عدالة الذكاء الاصطناعي غالباً ما يأتي من البيانات (عدم المساواة في العالم الحقيقي في الرعاية الصحية) بدلاً من كون الذكاء الاصطناعي "شريراً". الذكاء الاصطناعي هو مجرد مرآة تعكس الواقع الفوضوي للعالم.
- مجموعة الأدوات هي محقق: تساعد FairLogue الأطباء والمهندسين في معرفة لماذا يعاني الذكاء الاصطناما. هل لأن الذكاء الاصطناعي "معطل"؟ أم لأن العالم الحقيقي غير عادل؟
- إذا كان الذكاء الاصطناعي معطلاً، فنحن نصلح الكود البرمجي.
- إذا كان العالم الحقيقي غير عادل (على سبيل المثال، مجموعات معينة لديها وصول أقل للرعاية)، فنحن بحاجة لإصلاح نظام الرعاية الصحية، وليس مجرد إصلاح الكمبيوتر.
باختصار
تقول هذه الورقة: "لقد صنعنا مكبراً أفضل (FairLogue) للعثور على عدم العدالة الخفية في الذكاء الاصطناዊ الطبي. وجدنا أن النظر إلى العرق والجنس بشكل منفصل يخفي المشاكل الحقيقية. ومع ذلك، عندما قمنا بمحاكاة عالم "ماذا لو" حيث كان العرق والجنس عشوائيين، أدركنا أن الذكاء الاصطناعي ليس بالضرورة هو الشرير — بل هو غالباً يتفاعل مع عدم المساواة العميقة والمعقدة في نظام الرعاية الصحية لدينا والتي نحتاج إلى إصلاحها."
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.