Fair Foundation Models for Medical Image Analysis: Challenges and Perspectives

ملخص تقني: النماذج التأسيسية العادلة لتحليل الصور الطبية: التحديات والآفاق

بيان المشكلة
يوفر دمج النماذج التأسيسية (Foundation Models - FMs) في تحليل الصور الطبية إمكانات تحويلية للتشخيص وتسهيل الوصول إلى الرعاية الصحية. ومع ذلك، فإن نشر هذه النماذج يثير مخاوف أخلاقية حرجة تتعلق بالعدالة والإنصاف. فالنماذج التأسيسية، التي يتم تدريبها على مجموعات بيانات ضخمة عبر التعلم الخاضع للإشراف الذاتي، تخاطر باستيعकरण وتضخيم التحيزات المجتمعية المتأصلة، مما يؤدي إلى تفاوت في الأداء عبر المجموعات الديموغرافية المحددة بخصائص محمية (مثل العرق، والجنس، والعمر). علاوة على ذلك، يتطلب تطوير النماذج التأسيسية بنية تحتية حوسبية هائلة، ومجموعات بيانات واسعة النطاق، وعمالة متخصصة، وهي موارد تتركز حالياً في عدد قليل من الدول (بشكل أساسي الولايات المتحدة والصين). هذا التركيز يؤدي إلى تفاقم عدم المساواة العالمية، مما يترك مناطق في دول الجنوب العالمي بقدرة محدودة على كل من تطوير هذه النماذج والاستفادة العادلة من فوائد الرعاية الصحية التي تعد بها. غالباً ما تتناول الأدبيات الحالية العدالة كجزء من الموثوقية الأوسع أو تركز على تخفيف التحيز التقني دون وجود إطار عمل منهجي وشامل يدمج توثيق البيانات، والأثر البيئي، وحوكمة السياسات.

المنهجية
يقدم هذا العمل مراجعة سردية شاملة وإطار عمل مفاهيمي بدلاً من خوارزمية تجريبية جديدة أو مجموعة بيانات تجريبية. وتتضمن المنهجية ما يلي:

1. المراجعة المنهجية للأدبيات: تحليل الأبحاث الحالية حول استراتيجيات تخفيف التحيز (المعالجة المسبقة، والمعالجة أثناء التدريب، والمعالجة اللاحقة) وتطبيقها على السياق المحدد للنماذج التأسيسية.
2. تحليل النظام البيئي للبيانات: إجراء عملية تنسيق مهيكلة لـ 74,184,415 صورة طبية من 74 مجموعة بيانات متاحة للجمهور (المدرجة في الجدول 2) لرسم خريطة للتوزيع الجغرافي والديموغرافي لبيانات التصوير الطبي. يستبعد هذا التحليل مجموعات البيانات متعددة الدول لتسليط الضوء على التفاوتات الوطنية.
3. تطوير إطار عمل مفاهيمي: اقتراح إطار عمل شامل (موضح في الشكل 1) يحدد المراحل المتسلسلة لتطوير النماذج التأسيسية. يدمج هذا الإطار التدخلات التقنية مع اعتبارات السياسة، متجاوزاً الإصلاحات التقليدية على مستوى النموذج لمعالجة المسار بأكمله من إنشاء البيانات إلى النشر.
4. بناء التصنيف: تعريف المفاهيم الرئيسية ذات الصلة بالذكاء الاصطناعي القابل للتوسع والعادل، بما في ذلك "نماذج العالم" (World Models)، و"تجميع المعرفة" (Knowledge Agglomeration)، ونماذج التعلم المحددة (التعلم الخاضع للإشراف الذاتي، والتعلم ضعيف الإشراف) ضمن سياق العدالة.

المساهمات الرئيسية
يقدم البحث ثلاث مساهمات رئيسية في هذا المجال:

• إطار تخفيف التحيز عبر دورة الحياة: يقترح المؤلفون إطار عمل شاملاً يمد استراتيجيات تخفيف التحيز لتشمل جميع مراحل تطوير النماذج التأسيسية. وخلافاً للمقاربات السابقة التي تركز فقط على تعديلات مستوى النموذج، يؤكد هذا الإطار على التدخلات المنهجية في توثيق البيانات (لضمان التنوع والجودة)، والأثر البيئي (كفاءة التدريب والنشر)، والمشاركة السياسية.
• تقييم عدم المساواة في مجموعات البيانات العالمية: من خلال تنسيق مجموعات البيانات الرئيسية للتصوير الطبي، يكشف البحث عن عدم مساواة صارخة في التمثيل. يوضح التحليل أن عدداً محدوداً من الدول يستحوذ على غالبية البيانات المتاحة، مع نقص كبير في تمثيل السكان في أفريقيا والجنوب العالمي. هذا التركز الجغرافي يقيد القدرة على تعميم النماذج التأسيسية ويخاطر بتكريس الفوارق في الرعاية الصحية.
• تحليل السياسات والحوكمة: يحلل البحث دور صانعي السياسات في ضمان عدالة النماذج التأسيسية، مستنداً إلى أطر تنظيمية مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي وقانون الرعاية الميسرة في الولايات المتحدة. ويجادل بأن النماذج التأسيسية يجب تصورها كـ "مؤسسات" تتطلب هياكل حوكمة، وبروتوكولات تقييم موحدة، واستراتيجيات تخصيص موارد لدعم الفرق المتنوعة والبنية التحتية، خاصة في المناطق المحرومة.

النتائج والملاحظات

• التفاوتات في البيانات: تؤكد مراجعة 74 مجموعة بيانات أن بيانات التصوير الطبي منحازة بشدة نحو الدول المتقدمة (مثل الولايات المتحدة، والمملكة المتحدة، وألمانيا). على سبيل المثال، معظم مجموعات البيانات متعددة الوسائط تتمحور حول اللغة الإنجليزية، وقليل منها فقط (مثل PadChest) يقدم تسميات توضيحية بلغات غير الإنجليزية. كما أن البيانات الوصفية الديموغرافية (العمر، العرق، الجنس) غالباً ما تكون مفقودة أو غير مكتملة، مما يعيق التقييم الصارم للعدالة.
• تجليات التحيز: يشير البحث إلى أنه حتى مع مجموعات البيانات المنضبطة، يستمر التحيز بسبب تعقيد الصور، وعدم اتساق التسميات، والارتباطات الزائفة. وفي نماذج الرؤية واللغة (VLMs)، يتضخم التحيز مقارنة بالأنظمة أحادية الوسائط، وتشكل "الهلوسة" (مخرجات تبدو منطقية ولكنها خاطئة) مخاطر كبيرة على سلامة المرضى، خاصة عندما تفتقر النماذج إلى بيانات تدريب لفئات ديموغرافية أو مناطق محددة.
• المقايضات التقنية: يحدد التحليل "مقايضة المنفعة والعدالة"، حيث قد يؤدي تحقيق التكافؤ الإحصائي إلى تقليل منفعة النموذج لمجموعات معينة. كما يسلط الضوء على أنه بينما يقلل التعلم الخاضع للإشراف الذاتي من الاعتماد على البيانات المصنفة، فإنه لا يلغي التحيز إذا كانت البيانات غير المصنفة الأساسية غير ممثلة للواقع.
• عقبات الموارد: تشكل المتطلبات الحوسبية للتدريب المسبق للنماذج التأسيسية حواجز دخول عالية. يشير البحث إلى أن أمريكا الشمالية تمتلك أكثر من 55% من قدرة الحوسبة الفائقة، بينما تمتلك أمريكا الجنوبية وأوقيانوسيا أقل من 1%، بينما لا تظهر أفريقيا في التصنيفات العليا، مما يحد بشدة من قدرات التطوير المحلية.

الأهمية والادعاءات
يزعم البحث أن تحقيق الذكاء الاصطناعي العادل في الرعاية الصحية يتطلب تحولاً من الإصلاحات التقنية المنعزلة إلى نهج منسق يشارك فيه أصحاب المصلحة المتعددون. ويجادل بأن:

1. التدخل المنهجي أمر ضروري: لا يمكن أن يكون تخفيف التحيز مجرد فكرة لاحقة؛ بل يجب دمجه بدءاً من تنسيق البيانات وصولاً إلى النشر، مع إشراك صانعي السياسات لمعالجة العوائق المؤسسية والاقتصادية.
2. الديمقراطية أمر بالغ الأهمية: يعد تطوير نماذج تأسيسية عادلة شرطاً مسبقاً لدمقرطة تقنيات الرعاية الصحية المتقدمة. فبدون معالجة الفوارق في الموارد والبيانات، تخاطر النماذج التأسيسية بتوسيع الفجوة بين السكان الذين يستفيدون من الذكاء الاصطناعي وأولئك الذين لا يستفيدون منه.
3. الحوكمة والشفافية: يؤكد المؤلفون على الحاجة إلى توثيق شفاف (مثل بطاقات النموذج)، وبنى تحتية مفتوحة الأوزان لتسهيل التكيف من قبل المؤسسات ذات الموارد المحدودة، والمراقبة المستمرة للنماذج المنشورة للكشف عن تغيرات التوزيع والتحيزات الناشئة.

يخلص البحث إلى أنه بينما توفر الابتكارات التقنية (مثل تجميع المعرفة ونماذج العالم) مسارات واعدة، فإن التنفيذ الناجح للنماذج التأسيسية العادلة يعتمد في النهاية على موازنة الابتكار التقني مع المبادئ الأخلاقية والعمل المنسق بين التقنيين، ومقدمي الرعاية الصحية، وصانعي السياسات للحد من الفوارق في الرعاية الصحية أو تقليلها، بدلاً من تضخيمها.