Synthetic Data Generation for Long-Tail Medical Image Classification: A Case Study in Skin Lesions

ملخص تقني: توليد البيانات الاصطناعية لتصنيف الصور الطبية ذات التوزيع طويل الذيل

بيان المشكلة
تنتشر توزيعات الفئات ذات الذيل الطويل (Long-tailed class distributions) في مجموعات البيانات الطبية متعددة الفئات، مما يفرض تحديات كبيرة على نماذج التعلم العميق. في هذه السيناريوهات، تحتوي فئة قليلة من الفئات المهيمنة "الرأسية" (head classes) على غالبية العينات، بينما تكون العديد من الفئات "الذيلية" (tail classes) الحرجة سريريًا (والتي غالبًا ما تقابل أمراضًا نادرة وعالية الخطورة) ممثلة بشكل ضعيف للغاية. عادةً ما تحقق النماذج المدربة على مثل هذه البيانات غير المتوازنة دقة إجمالية تنافسية، لكنها تفشل في التعميم على الفئات الذيلية. الحلول الحالية — المصنفة ضمن تصميم دالة الخسارة، وتحسين بنية النموذج، وإعادة توازن الفئات — لا تقدم سوى تحسينات هامشية. تعتمد هذه الطرق غالبًا على ضبط دقيق للمعلمات الفائقة (hyperparameters)، وتظهر تحسنًا محدودًا في القدرة على التعميم عبر النماذج المختلفة، وتواجه صعوبة في التوسع بسبب الطبيعة الحتمية لتعزيز البيانات المصنوع يدويًا. علاوة على ذلك، بينما أظهرت نماذج الانتشار (diffusion models) نجاحًا في توليد الصور الطبيعية، فإن تطبيقها على التصوير الطبي المتخصص ذي الذيل الطويل لا يزال غير مستكشف بشكل كافٍ، لا سيما فيما يتعلق بتوليد عينات متنوعة وذات مغزى سريري في آن واحد.

المنهجية
يقترح المؤلفون خط إنتاج لتوليد البيانات الاصطناعية مدفوعًا بنموذج انتشار، مصمم خصيصًا لتصنيف الصور الطبية ذات التوزيع طويل الذيل (LTMIC)، وقد تم استعراضه تحديدًا على تصنيف آفات الجلد. يتكون النهج من ثلاث مراحل رئيسية:

1. بنية نموذج انتشار لإكمال الصور (Inpainting Diffusion Model):
   جوهر الطريقة هو نموذج انتشار جديد لإكمال الصور (inpainting). وخلافًا لنماذج تضمين النص القياسية التي لا تناسب الأوصاف الطبية المتخصصة للغاية، قام المؤلفون بتدريب شبكة بسيطة لتضمين الفئة (class embedding network) تعتمد على الاتصال الكامل. يأخذ النموذج أربعة مدخلات: صورة الدرموسكوبي الأصلية ($x$)، وقناع منطقة الاهتمام الثنائي ($b$)، وخلفية صورة الدرموسكوبي ($d$)، وتسمية الفئة ($y$). يتم ترميز الصورة والخلفية إلى الفضاء الكامن (latent space) عبر مشفر تلقائي متغير (VAE) مدرب مسبقًا. يتم تغيير حجم القناع الثنائي ليتناسب مع أبعاد الفضاء الكامن. تُدمج هذه المكونات وتُغذى إلى شبكة UNet المعلمة بـ $\theta_d$ لتقدير الضوضاء المضافة خلال عملية الانتشار الأمامي. توفر شبكة تضمين الفئة المعلمة بـ $\theta_c$ التكييف الخاص بالتسمية.

2. الضبط الدقيق باستخدام اختيار العينات:
   لضمان أن يتعلم نموذج الانتشار توزيع كل فئة بشكل متساوٍ، يتم استخدام استراتيجية الإفراط في أخذ العينات (oversampling) أثناء الضبط الدقيق. يستفيد المؤلفون من نتائج أعمال سابقة تشير إلى أن العينات "القريبة تقريبًا من التوزيع" (AID) — وهي تلك البعيدة قليلًا عن مركز التوزيع — هي الأكثر أهمية لتدريب النماذج التوليدية. وبناءً على ذلك، تُستخدم طريقة اكتشاف الشذوذ الطبي ذاتية الإشراف لحساب درجات الشذوذ لكل عينة. يتم تعيين أوزان بناءً على مسافة العينة عن متوسط درجة الشذوذ لفئتها؛ حيث تُمنح العينات الأقرب إلى منطقة الـ AID أوزانًا أعلى ويتم تكرارها لموازنة مجموعة بيانات الضبط الدقيق عبر جميع الفئات.

3. التوليد الاصطناعي وتصفية البيانات خارج التوزيع (OOD Filtering):
   يقوم النموذج الذي تم ضبطه بدقة بتوليد صور اصطناعية عن طريق أخذ صور الخلفيات وتسميات الفئات من مجموعة التدريب الأصلية كمدخلات. ونظرًا للطبيعة العشوائية لنماذج الانتشار، تحتوي مجموعة البيانات الاصطناعية الأولية ($D_{syn}$) على عينات "مشوشة"، بما في ذلك صور خارج التوزيع (OOD) قد لا تكون صالحة سريريًا. ولمعالجة ذلك، يتم تطبيق آلية تصفية طبية للبيانات خارج التوزيع (OOD) على $D_{syn}$ لإنتاج مجموعة بيانات اصطناعية نظيفة ($D_{clean}^{syn}$). تتكون مجموعة التدريب النهائية من دمج مجموعة البيانات الأصلية طويلة الذيل ($D_{LT}$) مع $D_{clean}^{syn}$. يتحكم المعلم الفائق $\gamma$ في نسبة العينات النظيفة التي يتم الاحتفاظ بها من المجموعة الاصطناعية لكل فئة.

المساهمات الرئيسية
يحدد البحث ثلاث مساهمات رئيسية:

1. خط إنتاج مبتكر: خط إنتاج لتوليد البيانات الاصطناعية يدمج نموذج انتشار لإكمال الصور مع تصفية البيانات خارج التوزيع (OOD)، مصمم خصيصًا لمعالجة مشكلة LTMIC.
2. بنية متخصصة: بنية نموذج انتشار لإكمال الصور جديدة مصممة لتوليد الصور الطبية، تستخدم شبكة تضمين فئة مخصصة وتكييف الخلفية بدلاً من تضمينات النص العامة.
3. استراتيجية أخذ العينات: استراتيجية أخذ عينات مبتكرة قائمة على الـ OOD لضبط نماذج الانتشار على مجموعات البيانات الطبية طويلة الذيل، والتي تعطي الأولوية لعينات الـ AID لتحسين جودة البيانات المولدة للفئات الذيلية.

النتائج التجريبية
تم تقييم الطريقة على مجموعة بيانات ISIC2019 لتصنيف آفات الجلد، وهي مجموعة مرجعية تحتوي على 25,331 صورة موزعة على 8 فئات مع عدم توازن شديد (يتراوح من 12,875 عينة لـ Nevus إلى 62 فقط لـ Vascular Lesion). استخدمت التجارب التحقق المتقاطع خماسي الطيات (5-fold cross-validation) ومصنفًا بسيطًا يعتمد على الشبكات العصبية التلافيفية (CNN) — دون استخدام مجموعات (ensembles) أو بيانات خارجية — لعزل تأثير طريقة توليد البيانات.

• الأداء العام: حقق النهج المقترح دقة متعددة الفئات متوازنة (BMA) بلغت 0.802، متفوقًا بشكل كبير على طرق الحالة الراهنة (SOTA)، بما في ذلك المجموعات متعددة النماذج (MRE) وأساليب الانتشار الأخرى (مثل CBDM و Dreambooth). ومن الجدير بالذكر أنه تفوق على طريقة MRE بنسبة تقارب 4% في الـ BMA دون الحاجة إلى بيانات خارجية.
• تحسين الفئات الذيلية: لوحظت أكبر المكاسب في الفئات الذيلية. فبالنسبة للفئة التي تحتوي على أقل عدد من العينات (Dermatofibroma, DF)، حققت الطريقة تحسنًا في الدقة بنسبة تزيد عن 28% مقارنة بالنموذج الأساسي بدون بيانات اصطناعية.
• تأثير تصفية OOD: وجدت الدراسة أن تصفية OOD أمر بالغ الأهمية لموازنة الأداء. فبينما أدى استخدام البيانات الاصطناعية بدون تصفية إلى تحسين الفئات الذيلية بشكل كبير، إلا أنه أدخل ضوضاء أدت إلى تدهور طفيف في أداء الفئات الرأسية (head classes). وقد نجحت عملية التصفية في استعادة أداء الفئات الرأسية مع الحفاظ على المكاسب في الفئات الذيلية.
• الحساسية للمعلمات الفائقة: كشفت دراسة الاستبعاد (ablation study) حول $\gamma$ (معدل الاحتفاظ بالعينات الاصطناعية النظيفة) أن الأداء يتحسن بشكل حاد حتى مع وجود كمية صغيرة من البيانات الاصطناعية، ولكنه يستقر أو ينخفض عندما يقترب $\gamma$ من 1 (أي عند عدم وجود تصفية). وقد تم تحديد النطاق الأمثل لـ $\gamma$ بين 0.2 و 0.6.

الأهمية والادعاءات
يدعي المؤلفون أن نتائجهم تثبت فعالية التعزيز القائم على الانتشار في التخفيف من حدة عدم التوازن طويل الذيل وتعزيز قوة التصنيف الطبي. ومن خلال توليد عينات اصطناعية متنوعة، واقعية، وذات مغزى سريري، تعالج الطريقة ندرة البيانات للأمراض النادرة دون الاعتماد على مجموعات نماذج معقدة أو دوال خسارة متخصصة حساسة للمعلمات الفائقة. ويخلص البحث إلى أنه بينما تتعامل الطريقة الحالية مع توليد البيانات والتصنيف كعمليتين مستقلتين، فإن العمل المستقبلي سيركز على التحسين المشترك لهذين المكونين لتعزيز أداء LTMIC بشكل أكبر. كما تُقدم الطريقة على أنها مستقلة عن النموذج (model-agnostic)، وقابلة للدمج مع أي بنية تصنيف.