FRAME: separating sampling variation from representational cause in medical imaging fairness
تقدم هذه الورقة إطار عمل FRAME، وهو إطار عمل مكون من خطوتين يميز بين التباين في أخذ العينات والتحيز التمثيلي الحقيقي في عدالة التصوير الطبي من خلال إنشاء مرجع للنموذج العادل واختبار الفروقات المتبقية، مما يكشف أن جزءاً كبيراً من التفاوتات المبلغ عنها بين المجموعات الفرعية يمكن إرجاعه إلى الضوضاء الإحصائية بدلاً من آليات النموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تعد التصوير الطبي مجالاً بدأ فيه الذكاء الاصطناعي في قراءة الأشعة السينية، وصور الجلد، وفحوصات الشبكية بسرعة مذهلة، وغالباً ما يكتشف أمراضاً قد تخفى على العيون البشرية. ومع ذلك، فإن هذه الأنظمة لا تعمل دائماً بنفس الكفاءة لكل شخص. فعندما يتم اختبار برنامج حاسوبي على مجموعات مختلفة من المرضى، فإنه قد يرتكب أخطاءً لمجموعة ما أكثر من غيرها. على سبيل المثال، قد يكون النظام أقل دقة قليلاً في تشخيص أمراض القلب لدى المرضى السود مقارنة بالمرضى البيض، أو لدى النساء مقارنة بالرجال. وهذا التفاوت يمثل مصدر قلق جدي؛ فإذا كانت الأداة الطبية تعمل بشكل أفضل لبعض الناس دون غيرهم، فإنها تخاطر بتعميق التفاوتات الصحية القائمة. وكان الرد المعياري في هذا المجال هو افتراض أن الكمبيوتر "يتعلم" عن عرق المريض أو عمره من الصورة نفسها ويستخدم هذه المعلومات لاتخاذ قرارات منحازة. وبناءً على ذلك، قضى الباحثون سنوات في محاولة بناء نماذج "تنسى" هذه التفاصيل الديموغرافية، آملين أن يؤدي محو هذه المعلومات تلقائياً إلى جعل النظام عادلاً.
لقد تحدى فريق من الباحثين هذا الافتراض باستخدام نهج جديد يسمى (FRAME). فبدلاً من إلقاء اللوم فوراً على النموذج لكونه منحازاً، طرحوا سؤالاً أبسط وأكثر جوهرية: ما مقدار الفرق الملحوظ الذي ينتج في الواقع عن الرياضيات الناجمة عن عدد المرضى في كل مجموعة؟ عندما تقارن دراسة بين مجموعة كبيرة من المرضى ومجموعة صغيرة جداً، فإن المجموعة الصغيرة تنتج بطبيعة الحال نتائج أكثر تذبذباً لمجرد وجود نقاط بيانات أقل لتهدئة العشوائية. أدرك الباحثون أن هذا الضجيج الإحصائي، المعروف باسم "التباين في أخذ العينات"، يخلق وهماً بعدم الإنصاف حتى عندما يكون النموذج عادلاً تماماً. ولاختبار ذلك، بنوا إطار عمل يحسب أولاً ما يجب أن يكون عليه الفرق لو كان النموذج عادلاً تماماً، بالنظر إلى الأحجام الدقيقة للمجموعات قيد الدراسة. وهذا ينشئ "مرجعاً للنموذج العادل"، وهو خط أساس يأخذ في الاعتبار التقلبات الطبيعية الناتجة عن أحجام العينات الصغيرة. وفقط إذا كان الفرق الفعلي أكبر من خط الأساس هذا، يعتبره الباحثون مشكلة حقيقية تتطلب الإصلاح.
طبق الفريق إطار العمل هذا على قاعدة بيانات ضخمة تضم أكثر من 700,000 صورة طبية، بما في ذلك صور الأشعة السينية للصدر، وصور الجلد، وفحوصات العين، والتي تغطي آلاف المرضى عبر مستشفيات متعددة. واختبروا عشرات النماذج المختلفة للذكاء الاصطناعي ونظروا في كيفية أدائها عبر مجموعات مختلفة محددة حسب العرق، والعمر، والجنس. كانت النتائج مذهلة؛ فعندما قارنوا الفروقات المسجلة بمرجعهم للنموذج العادل، وجدوا أن التباين الطبيعي في أحجام المجموعات يفسر جزءاً كبيراً من المشكلة. فبالنسبة لفروق العرق في الأشعة السينية للصدر، فسر مرجع النموذج العادل متوسط 41% من الفجوة المسجلة. وبالنسبة لفروق العمر، فسر 22%. وفي كثير من الحالات، لم يكن الفرق الذي رآه الباحثون أكبر مما يتوقعونه من مجرد الصدفة المحضة، حتى لو كان النموذج يعامل الجميع بالتساوي تماماً. وهذا يشير إلى أن العديد من الدراسات التي تدعي وجود انحياز قد تكون في الواقع تقيس ضجيجاً إحصائياً بدلاً من قياس خلل في منطق الذكاء الاصطناعي.
ثم انتقل الباحثون إلى الخطوة التالية لمعرفة ما إذا كانت الفروقات المتبقية ناتجة حقاً عن معرفة النموذج بالعرق أو العمر. استخدموا طريقة يتم فيها حقن معلومات ديموغرافية اصطناعياً في ذاكرة النموذج الداخلية لمعرفة ما إذا كان ذلك سيغير النتائج. ووجدوا أن مجرد جعل النموذج أفضل في التعرف على العرق لم يغير فجوة الأداء. ومع ذلك، عندما ربطوا أنماط المرض اصطناعياً بالمجموعات الديموغرافية، نمت الفجوة بشكل كبير. وهذا يشير إلى أن المشكلة ليست في استخدام النموذج للعرق كطريق مختصر، بل في أن المرض نفسه قد يبدو مختلفاً أو يصعب اكتشافه في مجموعات معينة بسبب عوامل خارجة عن سيطرة النموذج. علاوة على ذلك، اختبروا تسعة أساليب مختلفة تُستخدم عادةً لإصلاح هذه الانحيازات، مثل إعادة تدريب النموذج أو تعديل درجاته. ووجدوا أن هذه التدخلات غيرت النتائج بمقدار ضئيل جداً، وغالباً ما كان أقل من التغيير الناتج عن مجرد تشغيل نفس النموذج ببذرة عشوائية مختلفة. في الواقع، كانت الطريقة الأكثر فعالية لتحسين أداء النظام للمجموعة الأكثر تضرراً ليست إزالة البيانات الديموغرافية، بل تدريب النموذج باستخدام مزيج من الصور والأوصاف النصية، مما رفع الأداء للمجموعة الأكثر حرماناً بنحو 0.05.
تخلص الدراسة إلى أن المجال كان ينظر إلى الأرقام الخاطئة. فمن خلال معاملة الفرق الخام بين المجموعات كدليل على الانحياز، كان الباحثون يعدّون الضجيج الإحصائي بمثابة فشل في التكنولوجيا. يوفر إطار عمل (FRAME) طريقة للفصل بينهما. فهو يظهر أنه في كثير من الحالات، يتوافق عدم الإنصاف المسجل مع ما قد ينتجه نموذج عادل تماماً نظراً للعدد الصغير من المرضى في بعض المجموعات. هذا لا يعني أن الانحياز غير موجود، ولكنه يشير إلى أننا بحاجة إلى مجموعات بيانات أكبر وأكثر تنوعاً لرؤية المشكلات الحقيقية بوضوح. وحتى ذلك الحين، فإن العديد من "الحلول" التي يتم تطبيقها على الذكاء الاصطناዊ الطبي قد تكون تعالج قضية وهمية، بينما يكمن المسار الفعلي نحو العدالة في جمع المزيد من البيانات وفهم الأسباب البيولوجية والاجتماعية التي تجعل الأمراض تظهر بشكل مختلف عبر السكان. ويجادل الباحثون بأنه قبل محاولة تغيير النموذج، يجب علينا أولاً فهم المجموعة التي نختبرها، لضمان أننا نحل مشكلات حقيقية بدلاً من مطاردة الأشباح الرياضية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.