Multimodal Skin Lesion Classification with Swin Transformer and Clinical Metadata Fusion
تقترح هذه الورقة إطار عمل لتصنيف آفات الجلد متعدد الوسائط يدمج ميزات الصور المستمدة من محول "Swin Transformer" مع البيانات الوصفية السريرية، محققاً دقة وموثوقية عاليتين من خلال معايرة قياس درجة الحرارة وتقدير عدم اليقين مع إظهار قدرة قوية على التفسير.
تخيل أنك محقق يحاول حل لغز، ولكن بدلاً من مسرح جريمة، أنت تنظر إلى بقعة صغيرة ومراوغة على جلد شخص ما. في عالم الطب، يشبه اكتشاف سرطان الجلد مبكرًا العثور على إبرة في كومة قش قبل أن تتمكن الإبرة من إلحاق أي ضرر. لفترة طويلة، استخدم الأطباء عدسات مكبرة خاصة تسمى "الدرموسكوب" (dermoscope) للحصول على نظرة أفضل على هذه البقع، ولكن حتى مع وجود العدسة المكبرة، قد يكون من الصعب للغاية التمييز بين شامة حميدة وورم خطير. أحيانًا، تبدو أنواع مختلفة من البقع متطابقة تقريبًا، وأحيانًا تبدو نفس النوع من البقع مختلفة تمامًا اعتمادًا على مكان وجودها في الجسم أو شكل المريض. هنا يأتي دور علوم الحاسوب، لتعمل كمساعد فائق القدرة. لقد علم العلماء أجهزة الكمبيوتر كيف "ترى" هذه البقع باستخدام التعلم العميق، وهو نوع من الذكاء الاصطناعي الذي يتعلم من خلال النظر إلى آلاف الأمثلة، تمامًا مثل طالب يدرس لاجتياز امتحان كبير. ومع ذلك، فإن مجرد النظر إلى الصورة ليس كافيًا دائمًا؛ إذ يحتاج الكمبيوتر أيضًا إلى معرفة "القصة" وراء الصورة، مثل عمر المريض أو موقع البقعة.
تقدم هذه الورقة البحثية طريقة جديدة وأكثر ذكاءً ليلعب بها الكمبيوتر دور المحقق. فقد بنى الباحثون نظامًا لا يكتفي فقط بالتحديق في صورة الآفة الجلدية؛ بل يقرأ أيضًا الملاحظات السريرية للمريض، مثل عمره وجنسه والمكان الدقيق في الجسم الذي توجد فيه البقعة. وقد أطلقوا على هذا "التعلم متعدد الوسائط" (multimodal learning)، وهو مصطلح معقد يعني أن الكمبيوتر يستخدم حواسًا متعددة في وقت واحد — الرؤية والسياق — لحل اللغز. وللقيام بذلك، استخدموا أداة قوية تسمى "Swin Transformer"، وهي تشبه عدسة كاميرا متطورة جدًا يمكنها التركيز على التفاصيل الدقيقة وفهم كيفية ارتباط الأجزاء المختلفة من الصورة ببعضها البعض، بدلاً من مجرد رؤية كتلة ضبابية. اختبر الفريق نظامهم على مجموعة عامة ضخمة من صور الجلد تُعرف باسم HAM10000، والتي تحتوي على أكثر من 10,000 صورة لمختلف الحالات الجلدية. لقد واجهوا تحديًا صعبًا: كانت مجموعة البيانات غير متوازنة، مما يعني وجود صور كثيرة جدًا للبقع الشائعة وغير الضارة، وصور قليلة جدًا للبقع النادرة والخطيرة. فإذا تعلم الكمبيوتر فقط أن يخمن أنها "غير ضارة" في كل مرة، فسيحصل على درجة عالية ولكنه سيفشل في رصد الحالات الخطيرة.
ولحل هذه المشكلة، علم الباحثون نموذجهم أن يولي اهتمامًا إضافيًا للبقع النادرة، تمامًا مثل معلم يحرص على أن يدرس الطالب أصعب الأسئلة في الاختبار، وليس الأسئلة السهلة فقط. كما أضافوا خطوة "معايرة" خاصة، وهي تشبه ضبط جهاز الراديو للتأكد من أن مستوى الصوت يتناسب مع الصوت الفعلي. وهذا يضمن أنه عندما يقول الكمبيوتر إنه "متأكد بنسبة 90%" من التشخيص، فإنه بالفعل متأكد بنسبة 90%، وليس مجرد تخمين واثق. كانت النتائج مبهرة؛ حيث حقق النظام الجديد دقة اختبار بلغت 92.55% ودرجة F1-score كلي بلغت 91.33%. وهذا يعني أنه كان جيدًا جدًا في تحديد جميع أنواع الآفات، بما في ذلك الأنواع النادرة والخطيرة، دون أن يرتبك بسبب الأنواع الشائعة. وعندما قارنوا نظامهم بالأنظمة الأخرى التي تعتمد فقط على الصور أو فقط على بيانات المريض، كان نهجهم المشترك هو الفائز بوضوح. فقد سجل النموذج الذي يعتمد على الصور فقط دقة 88.62%، بينما كان النموذج الذي يعتمد على البيانات فقط متأخرًا كثيرًا بنسبة 11.13%، مما يثبت أنك تحتاج حقًا إلى الصورة والقصة معًا للحصول على أفضل إجابة.
كما توضح الورقة البحثية لنا كيف يتخذ الكمبيوتر قراراته. باستخدام تقنية تسمى "الذكاء الاصطناعي القابل للتفسير" (explainable AI)، أنشأ الباحثون خرائط حرارية تسلط الضوء على الأجزاء التي ينظر إليها الكمبيوتر بالضبط في صورة الجلد. وأظهرت هذه الخرائط أن النموذج كان يركز على الآفة الفعلية، متجاهلاً المشتتات مثل الشعر أو لون الجلد المحيط، وهو بالضبط ما يفعله الطبيب البشري. علاوة على ذلك، من خلال تطبيق طريقة تسمى "تدرج درجة الحرارة" (temperature scaling)، نجحوا في تقليل "خطأ المعايرة المتوقع" من 5.18% إلى 0.91%. وهذا تحسن هائل، مما يعني أن مستويات ثقة الكمبيوتر أصبحت الآن أكثر موثوقية. وبينما تشير الورقة إلى أن هذا النهج قوي وموثوق لتصنيف الآفات الجلدية آليًا، إلا أنها تشير أيضًا إلى الحاجة إلى عمل مستقبلي لاختبار هذه النتائج على مجموعات مختلفة من الناس وتضمين معلومات طبية أكثر تفصيلًا. أما الآن، فتظهر هذه الدراسة أنه عندما تجمع بين عين حادة للصور وفهم ذكي لسياق المريض، فإنك تحصل على مساعد طبي أكثر دقة وموثوقية.
ملخص تقني: تصنيف آفات الجلد متعدد الوسائط باستخدام محول "سوین" (Swin Transformer) ودمج البيانات السريرية الوصفية
بيان المشكلة يعد التصنيف الآلي لآفات الجلد أمراً بالغ الأهمية للتشخيص المبكر لسرطان الجلد، ولكنه يواجه تحديات كبيرة في النشر السريري. وتشمل هذه التحديات عدم التوازن الشديد في فئات البيانات، والتشابه العالي بين أنواع الآفات، والتباين الكبير داخل الفئة الواحدة بسبب الاختلافات في التصبغ، والموقع التشريحي، ومظهر الآفة. علاوة على ذلك، غالباً ما تعاني النهج الحالية للتعلم العميق من انحيازات بصرية خاصة بمجموعات بيانات معينة، وضعف الحساسية للفئات الأقلية (مثل الفئات الخبيثة النادرة)، والافتقار إلى مقاييس الموثوقية مثل الثقة المعايرة وتقدير عدم اليقين. كما أن الاعتماد على الصور وحدها غالباً ما يفشل في استيعاب السياق السريري الكامل، بينما قد تعاني طرق التقييم القياسية من تسرب البيانات إذا لم تتم إدارة الارتباطات على مستوى المريض بشكل صحيح.
المنهجية يقترح المؤلفون إطار عمل للتصنيف متعدد الوسائط يدمج ميزات الصور الجلدية مع البيانات السريرية المهيكلة (عمر المريض، الجنس، والموقع التشريحي) لتعزيز الأداء التشخيصي.
مجموعة البيانات والمعالجة المسبقة: تستخدم الدراسة مجموعة بيانات HAM10000، التي تضم 10,015 صورة عبر سبع فئات تشخيصية. ولمعالجة عدم التوازن المتأصل في الفئات (حيث تشكل الشامات الحميدة حوالي 67% من البيانات)، استخدم المؤلفون استراتيجية تقسيم للبيانات تراعي المجموعات. تم تقسيم العينات حسب معرف المريض أو الآفة لمنع تسرب البيانات بين مجموعات التدريب والاختبار. تتضمن المعالجة المسبقة تغيير حجم الصور إلى 224×224 بكسل، وتطبيق تعزيز البيانات (القلب، التدوير، تذبذب الألوان، والمحو العشوائي) أثناء التدريب، وتطبيع البيانات السريرية (تغيير المقياس للعمر، والترميز بأسلوب (one-hot) للجنس والموقع).
البنية الهيكلية: النواة الأساسية للنموذج هي شبكة ثنائية المسارات:
مسار الصورة: يستخدم خلفية "محول سوين" (Swin Transformer) لاستخراج ميزات بصرية هرمية قائمة على الانتباه من الصور الجلدية. يتم إزالة طبقة التصنيف النهائية من الخلفية لمعاملة المخرج كوصف عالمي.
مسار البيانات الوصفية: يعالج البيانات السريرية المهيكلة من خلال مدرك متعدد الطبقات (MLP) لتوليد تضمين ميزات مدمج.
الدمج: يتم دمج تضمينات الصورة والبيانات الوصفية وتمريرها عبر رأس تصنيف خفيف الوزن لإنتاج احتمالات الفئات.
استراتيجية التدريب: يتم تدريب النموذج باستخدام فقدان "الاعتراض الموزون للفئات" (class-weighted cross-entropy loss) للتخفيف من الانحياز نحو الفئات الأكثرية. تتم عملية التحسين باستخدام محسن يعتمد على التدرج التكيفي مع جدول تعلم بنمط "جيب التمام" (cosine learning-rate schedule) وحساب الدقة المختلطة.
الموثوقية والقابلية للتفسير: لضمان الثقة السريرية، طبق المؤلفون "تدرج درجة الحرارة" (temperature scaling) كطريقة معايرة لاحقة لضبط الاحتمالات المتوقعة مع الدقة المرصودة. كما تم استخدام تقنيات تقدير عدم اليقين والذكاء الاصطناعي القابل للتفسير (XAI) (خرائط التوزيع وخرائط الانتباه) للتحقق من أن النموذج يركز على مناطق الآفة بدلاً من عيوب الخلفية.
المساهمات الرئيسية
إطار عمل متعدد الوسائط: تطوير نظام تعلم تعاوني بصري-سياقي يدمج تمثيلات الصور القائمة على "محول سوين" مع البيانات السريرية المهيكلة.
نمذجة موجهة نحو الموثوقية: دمج تقدير الاحتمالات المعايرة وتحليل عدم اليقين التنبؤي لتحسين الثقة في التشخيصات الآلية، مما يعالج الفجوة في الثقة في الذكاء الاصطنا الطبي.
القابلية للتفسير: تطويع تقنيات الذكاء الاصطناعي القابل للتفسير (XAI) لهيكل المحول متعدد الوسائط لتوفير أدلة بصرية قابلة للتفسير سريرياً، مما يثبت أن النموذج ينتبه إلى هياكل الآفة ذات الصلة.
تقييم صارم: تنفيذ تقييم خالٍ من التسرب عبر التقسيم القائم على المجموعات وتحليل شامل للأداء عبر الفئات غير المتوازنة.
النتائج التجريبية عند تقييمه على مجموعة اختبار HAM10000، حقق النموذج متعدد الوساء المقترح دقة اختبار بلغت 92.55% ومقياس F1 كلي (macro F1-score) قدره 91.33%.
أداء الفئات: أظهر النموذج أداءً قوياً في الفئات الأقلية، محققاً استدعاءً عالياً للفئات النادرة مثل الورم الليفي الجلدي (df: 90.91%)، والآفات الوعائية (vasc: 4.12%)، والتقرن الشعاعي (akiec: 91.18%).
المقارنة: تفوق النهج متعدد الوسائط على النماذج أحادية الوسائط، حيث حقق النموذج المعتمد على الصور فقط دقة 88.62%، بينما حقق نموذج البيانات الوصفية فقط 11.13% فقط. كما أظهرت الطريقة المقترحة نتائج تنافسية أو متفوقة مقارنة بالدراسات الأخرى على نفس مجموعة البيانات (مثل دمج CNN-LSTM الذي حقق 92.0%).
المعايرة: أدى "تدرج درجة الحرارة" إلى تحسين موثوقية النموذج بشكل كبير، حيث خفض خطأ المعايرة المتوقع (ECE) من 5.18% (غير معاير) إلى 0.91%. وأظهر النموذج المعاير ثقة متوسطة عالية (0.84–0.96) مع انخفاض في "اللوغاريتم السالب للاحتمالية" (NLL) ودرجات "براير" (Brier scores).
التحليل النوعي: أكدت تصورات الذكاء الاصطناعي القابل للتفسير (XAI) أن آليات الانتباه في النموذج تركز على هياكل الآفة المحددة بدلاً من ضجيج الخلفية، مما يدعم المعقولية السريرية للتنبؤات.
الأهمية والادعاءات يدعي البحث أن الدمج متعدد الوسائط، عند اقترانه بالمعايرة وتحليل القابلية للتفسير، يوفر نهجاً فعالاً وجديراً بالثقة لتصنيف آفات الجلد. وتؤكد الدراسة أن دمج البيانات السريرية الوصفية مع المحولات البصرية المتقدمة لا يحسن دقة التشخيص فحسب، خاصة للفئات غير الممثلة كفاية، بل يعزز أيضاً موثوقية النظام من خلال تقديرات الثقة المعايرة. ومن خلال إثبات أن النموذج يركز على المناطق ذات الصلة سريرياً ويوفر احتمالات جيدة المعايرة، يجادل المؤلفون بأن هذا الإطار يعالج القيود الرئيسية في الذكاء الاصطنا الطبي الحالي، مثل ضعف حساسية الفئات الأقلية ونقص الشفافية، مما يوفر أساساً أكثر قوة لدعم القرار السريري. ويتجه العمل المستقبلي نحو التحقق الخارجي، وتضمين سمات سريرية أغنى، وتطوير آليات إحالة مدركة لعدم اليقين.