Squeeze-and-Excitation Channel Attention in a Compact CNN for 24-Class Clinical Skin Disease Classification
تقدم هذه الورقة شبكة عصبية تلافيفية مدمجة، مكونة من 5.01 مليون معلمة، معززة بآلية انتباه القنوات "Squeeze-and-Excitation" تحقق دقة بنسبة 88.55% على مجموعة بيانات سريرية متوازنة لـ 24 نوعاً من الأمراض الجلدية، مما يظهر مكاسب أداء كبيرة مقارنة بالنماذج المرجعية مع الإقرار بحدود تقييم محددة قبل النشر السريري.
في أجزاء كثيرة من العالم، ولا سيما في المناطق الريفية التي تفتقر إلى المتخصصين الطبيين، غالباً ما ينتظر الشخص المصاب بحالة جلدية لأسابيع لرؤية الطبيب، أو يحاول علاج المشكلة بنفسه باستخدام كريمات تُباع دون وصفة طبية. وقد دفع هذه الفجوة في الرعاية الباحثين إلى بناء برامج حاسوبية يمكنها النظر إلى صورة لآفة جلدية واقتراح تشخيص لها. تعتمد هذه البرامج على نوع من الذكاء الاصطناعي يسمى "الشبكة العصبية التلافيفية"، وهي في الأساس نظام رقمي مصمم للتعرف على الأنماط في الصور تماماً كما تفعل العين والدماغ البشريان. ولجعل هذه الأنظمة أكثر ذكاءً دون جعلها ثقيلة جداً بحيث يصعب تشغيلها على الحواسيب المتواضعة الموجودة في العيادات الصغيرة، بدأ العلماء في إضافة آليات "الانتباه". فكر في هذا كوسيلة ليتعلم الكمبيوتر أي أجزاء الصورة هي الأكثر أهمية، مما يسمح له بالتركيز على ملمس أو لون الطفح الجلدي مع تجاهل الجلد المحيط أو الفوضى في الخلفية. والسؤال الذي يقود العمل البحثي الأخير هو ما إذا كانت أدوات الانتباه هذه يمكن أن تحسن بشكل كبير برنامجاً حاسوبياً صغيراً وفعالاً تم تدريبه من الصفر للتعرف على مجموعة متنوعة من الأمراض الجلدية.
لقد شرع باحث في جامعة شرق الدلتا في بنغلاديش في الإجابة على هذا السؤال من خلال بناء نموذج حاسوبي مدمج مخصص لتصنيف الصور السريرية للجلد. كان الهدف هو إنشاء نظام دقيق بما يكفي ليكون مفيداً، ولكنه خفيف بما يكفي للعمل على الأجهزة التي تمتلكها العيادات الصغيرة بالفعل، بدلاً من الاعتماد على الأنظمة الضخمة سابقة التدريب التي تتطلب خوادم قوية. ولتدريب هذا النموذج، جمع الباحث مجموعة عامة من صور الأمراض الجلدية ونظمها في أربع وعشرين فئة متميزة، تتراوح من الحالات الالتهابية الشائعة مثل الإكزيما إلى العدوى مثل الجدري المائي، بالإضافة إلى فئة للجلد السليم. ولضمان تعلم الكمبيوتر بشكل عادل، قام الباحث بموازنة مجموعة البيانات بعناية من خلال اختيار نفس العدد تماماً من الصور لكل فئة، مما نتج عنه إجمالي 68,568 صورة. ثم تم تعليم الكمبيوتر التعرف على هذه الفئات الأربع والعشرين من الصفر، دون أي معرفة سابقة من مهام أخرى، باستخدام تصميم معماري محدد يتضمن آلية الانتباه في كل مرحلة من مراحل تعلمه.
أظهرت النتائج أن هذا النهج نجح بشكل ملحوظ. فعند اختباره على مجموعة منفصلة من الصور التي لم يسبق له رؤيتها، حدد النموذج الحالة الجلدية بشكل صحيح في ما يقرب من 89 بالمائة من الحالات. وكان هذا الأداء أفضل بكثير مما هو متوقع من التخمين العشوائي، وتفوق على العديد من البنيات الحاسوبية القياسية والمعروفة التي تم اختبارها تحت نفس الظروف. تضمنت الدراسة تجربة منضبطة لإثبات أن التحسن جاء تحديداً من آلية الانتباه. فعندما قام الباحث بإزالة كتل الانتباه من النموذج ودرب بقية النظام بنفس الطريقة تماماً، انخفضت الدقة بشكل ملحوظ. وأدى إعادة إضافة كتل الانتباه إلى تعزيز الأداء بنسبة تقارب تسعة بالمائة، كل ذلك مع زيادة الحجم الإجمالي للبرنامج الحاسوبي بأقل من واحد بالمائة. وهذا يشير إلى أن القدرة على التركيز على السمات الأكثر أهمية في الصورة هي وسيلة فعالة للغاية لتحسين الدقة دون استهلاك المزيد من قدرة المعالجة الحاسوبية.
رغم هذه الأرقام القوية، يحرص الباحث على ملاحظة أن للدراسة حدوداً محددة قبل أن يمكن استخدام النظام في مستشفى حقيقي. فقد تم تقسيم الصور المستخدمة للاختبار عشوائياً، مما يعني أن صور المريض نفسه أو الآفة نفسها قد تنتهي بالصدفة في كل من مجموعتي التدريب والاختبار، مما قد يجعل النتائج تبدو أفضل مما هي عليه في الواقع. علاوة على على ذلك، لم تتضمن مجموعة البيانات معلومات حول لون بشرة المرضى، لذا فمن غير المعروف مدى جودة عمل النظام على أنواع البشرة الداكنة، المنتشرة في جنوب آسيا. كما لم يتناول النموذج سرطان الجلد، حيث تم استبعاد تلك الفئات المحددة من بيانات التدريب للحفاظ على التركيز على الحالات الشائعة الأخرى. ويخلص الباحث إلى أنه بينما يعد هذا النموذج المدمج والموجه بالانتباه نقطة انطلاق واعدة لمساعدة الأطباء في البيئات ذات الموارد المحدودة، فإنه يتطلب مزيداً من الاختبار على مجموعات منفصلة من المرضى وأنواع بشرة متنوعة قبل أن يمكن الوثوق به للاستخدام السريري. إن هذا العمل يثبت أنه مع التصميم الصحيح، يمكن للبرامج الحاسوبية الصغيرة والفعالة أن تتعلم رؤية الأمراض الجلدية بدرجة عالية من الدقة، مما يوفر أداة محتملة لسد الفجوة حيث يندر وجود أطباء الجلد.
ملخص تقني: انتباه القنوات بنمط "Squeeze-and-Excitation" في شبكة عصبية تلافيفية (CNN) مدمجة لتصنيف 24 فئة من الأمراض الجلدية السريرية
بيان المشكلة يعد الوصول إلى أطباء الجلد محدود للغاية في المناطق ذات الموارد المحدودة، مثل المناطق الريفية في بنغلاديش، مما يخلق حاجة ماسة لأدوات فرز تلقائية تكون دقيقة وخفيفة الحساب بما يكفي للعمل على أجهزة متواضدة. وبينما أظهرت الشبكات العصبية التلافيفية (CNNs) واسعة النطاق أداءً يضاهي مستوى الخبراء في طب الجلد، إلا أنها تعتمد غالباً على نماذج خلفية ثقيلة مدربة مسبقاً والتعلم بنقل المعرفة. تعالج هذه الدراسة السؤال المحدد حول مدى مساهمة انتباه القنوات بنمط "Squeeze-and-Excitation" (SE) في شبكة CNN مدمجة يتم تدريبها من الصفر على مجموعة واسعة ومتعددة الفئات من الصور الجلدية السريرية، بهدف الموازنة بين الأداء وحجم النموذج.
المنهجية تقترح الدراسة بنية SE-CNN مدمجة وبروتوكول تجريبي صارم:
تنسيق مجموعة البيانات: تم إنشاء مجموعة بيانات متوازنة الفئات مكونة من 68,568 صورة للأمراض الجلدية السريرية من مجموعة بيانات عامة من Kaggle. استبعد المؤلف المجلدات العامة أو المتداخلة للأورام (مثل الميلانوما، وسرطان الخلايا القاعدية) للتركيز على 24 فئة محددة: 23 فئة من الأمراض (بما في ذلك الحالات الالتهابية، والعدوى، والآفات الوعائية) وفئة واحدة للجلد السليم. تم أخذ عينات عشوائية من كل فئة بشكل ناقص (undersampling) لتصل إلى 2,857 صورة بالضبط لضمان التوازن المثالي دون تكرار اصطناعي.
بنية الشبكة: يتم تدريب SE-CNN المقترحة من الصفر دون استخدام التعلم بنقل المعرفة. تتكون من أربع مراحل تلافيفية بعدد مرشحات (filters) هي 64، 128، 256، و512. تتضمن كل مرحلة تلافيفين بحجم 3×3 مع دالة ReLU وتطبيع الدفعة (Batch Normalization)، يليهما كتلة Squeeze-and-Excitation (SE) وتجميع أقصى (max pooling) بحجم 2×2. تتعلم كتلة SE أوزان القنوات عبر التجميع المتوسط العالمي (global average pooling) وعنق زجاجة مكون من طبقتين (نسبة الاختزال r=16)، مما يعيد ضبط خرائط الميزات للتركيز على القنوات المعلوماتية. تنتهي الشبكة بالتجميع المتوسط العالمي، وطبقة متصلة بالكامل، وإسقاط (dropout)، وطبقة softmax لـ 24 فئة. إجمالي عدد المعلمات هو 5.01 مليون.
بروتوكول التدريب: تم تدريب النماذج باستخدام محسن Adam، ودالة خسارة التقاطع الفئوي (categorical cross-entropy)، وحجم دفعة قدره 64. تم تطبيق تعزيز البيانات (الدوران، التكبير، الإزاحة، القص، والقلب) على مجموعة التدريب فقط. تم تقسيم مجموعة البيانات بنسبة 80/20 إلى مجموعات تدريب ومجموعات محجوزة (held-out). تمت مراقبة التوقف المبكر (early stopping) على المجموعة المحجوزة.
التحليل المقارن: استخدمت الدراسة دراسة استئصال (ablation study) مضبوطة على مجموعة فرعية مخفضة من البيانات لعزل تأثير كتل SE. تم تدريب "نموذج CNN الأساسي" (Baseline CNN) وهو مطابق لـ SE-CNN ولكن بدون كتل SE تحت نفس الظروف تماماً. بالإضافة إلى ذلك، تم تدريب بنيات قياسية (MobileNetV2، DenseNet121، ResNet50، EfficientNetB0) باستخدام نفس المسار للمقارنة.
المساهمات الرئيسية
SE-CNN مدمجة: تطوير شبكة SE-CNN بـ 5.01 مليون معلمة لتصنيف 24 فئة من الأمراض الجلدية السريرية، تم تدريبها بالكامل من الصفر.
معيار متوازن: إنشاء مجموعة بيانات مكونة من 68,568 صورة، متوازنة الفئات تماماً، دون وجود صور مكررة عبر الأجزاء المختلفة.
استئصال مضبوط: عزل تجريبي لمساهمة كتلة SE، مما أظهر مكاسب في الأداء مع زيادة ضئيلة في عدد المعلمات.
القيود الصريحة: تقديم حساب شفاف لقيود التقييم، بما في ذلك تقسيم مستوى الصورة واستخدام المجموعة المحجوزة لعملية التوقف المبكر.
النتائج
أداء مجموعة البيانات الكاملة: في الجزء المحجوز (13,728 صورة)، حققت SE-CNN دقة top-1 بلغت 88.55% ودرجة F1 متوسطة (macro F1) بلغت 0.888. بلغت قيمة ROC AUC المتوسطة الدقيقة (micro-averaged) 1.00. تباين الأداء حسب الفئة؛ حيث حققت البشرة السليمة وعدوى معينة (مثل جدري الماء، والحزام الناري) درجات F1 ≥0.99، بينما سجل الإكزيما والصدفية/الحزاز المسطح أداءً أقل (F1 يتراوح بين 0.61 و0.66) بسبب التداخل البصري.
دراسة الاستئصال: عند إضافة كتل SE إلى نموذج CNN الأساسي على مجموعة فرعية مخفضة، ارتفعت دقة التحقق من 64.2% إلى 73.1%، وارتفع مقياس F1 للاختبار من 0.49 إلى 0.59. تم تحقيق هذا التحسن مع زيادة في عدد المعلمات تقل عن 1%.
المقارنة بالأساس: على نفس المجموعة الفرعية، تفوقت SE-CNN (بدقة تحقق 72.9%) بشكل كبير على MobileNetV2 (50.8%) وDenseNet121 (46.5%). فشلت نماذج ResNet50 وEfficientNetB0 في التقارب (convergence) تحت مسار التدريب المشترك، مما يشير إلى عدم التوافق مع مقاييس البيانات وتعزيز البيانات المستخدمة بدلاً من ضعف بنيوي أصيل.
الأهمية والادعاءات يزعم البحث أن دراسة الاستئصال توفر دليلاً مباشداً على أن انتباه قناة SE يضيف ما يقرب من تسع نقاط مئوية إلى دقة التحقق وعشر نقاط إلى F1 للاختبار مقابل أقل من 1% من المعلمات الإضافية. يدعم هذا فائدة وحدات الانتباه خفيفة الوزن لفرز الأمراض الجلدية في البيئات ذات الموارد المحدودة حيث يمثل حجم النموذج قيداً.
يصرح المؤلف صراحةً بأن النتائج هي "نقطة انطلاق" للفرز السريري وليست جاهزة بعد للنشر السريري. كما سلط الضوء على عدة قيود:
خطر تسرب البيانات: قد يؤدي استخدام التقسيم على مستوى الصورة (بدلاً من مستوى المريض) إلى تضخيم مقاييس الأداء إذا ظهرت صور متعددة لنفس المريض في كل من مجموعتي التدريب والاختبار.
تحيز التحقق: تم إعادة استخدام التقسيم المحجوز لعملية التوقف المبكر، مما يعني أنها ليست مجموعة اختبار مستقلة تماماً.
القدرة على التعميم: يمنع غياب البيانات الوصفية للون البشرة تقييم الأداء على أنواع البشرة الداكنة، المنتشرة في الفئة المستهدفة.
الآثار المصدرية: قد يكون التصنيف شبه المثالي لبعض الفئات ناتجاً جزئياً عن تعرف النموذج على بادئات الصور الخاصة بالمصدر بدلاً من سمات المرض.
يُقترح العمل المستقبلي لمعالجة هذه المشكلات من خلال الفصل على مستوى المريض، والتحقق الخارجي باستخدام مجموعات بيانات مثل Fitzpatrick 17k، وتضمين خرائط السلوية (مثل Grad-CAM) للتحقق من أن النموذج يركز على الآفات وليس على خلفية الصورة.