Semi-Supervised Biomedical Image Segmentation via Diffusion Models and Teacher-Student Co-Training

إليك ملخص تقني مفصل لورقة البحث بعنوان "التقطيع شبه الموجه للصور الطبية الحيوية عبر نماذج الانتشار والتدريب المشترك بين المعلم والطالب".

1. بيان المشكلة

يعد تقطيع الصور الطبية الحيوية (Biomedical image segmentation) أمراً بالغ الأهمية للتشخيص بمساعدة الكمبيوتر (مثل تحديد الأورام، أو الخلايا، أو الآفات). وبينما حققت نماذج التعلم العميق (الشبكات العصبية التلافيفية CNNs، والمحولات Transformers) دقة عالية، إلا أنها تعتمد بشكل كبير على مجموعات بيانات ضخمة موسومة (Annotated datasets). وفي السياقات السريرية، يكون التوسيم اليدوي مستهلكاً للوقت، ومكلفاً، ويتطلب معرفة الخبراء، مما يخلق عائقاً أمام القدرة على التوسع.

يهدف التعلم شبه الموجه (Semi-supervised learning - SSL) إلى حل هذه المشكلة من خلال الاستفادة من مجموعة صغيرة من البيانات الموسومة ومجموعة كبيرة من البيانات غير الموسومة. ومع ذلك، فإن أساليب SSL الحالية (خاصة أطر المعلم-الطالب) غالباً ما تعاني من التحيز التأكيدي (Confirmation bias). فإذا أنتج نموذج "المعلم" تسميات مستعارة (Pseudo-labels) منخفضة الجودة خلال مراحل التدريب الأولى، فإن "الطالب" يتعلم من معلومات خاطئة، مما يؤدي إلى تدهور الأداء العام. ويتمثل التحدي الجوهري في توليد تسمات مستعارة عالية الجودة وغنية بالمعلومات من البيانات غير الموسومة دون وجود حقيقة أرضية (Ground truth).

2. المنهجية

يقترح المؤلفون إطار عمل مبتكر يسمى SuperDiffusion، والذي يدمج نماذج الانتشار الاحتمالي لتقليل الضجيج (DDPMs) في بنية تدريب مشترك بين المعلم والطالب. تتكون الطريقة من ثلاث مراحل رئيسية:

أ. التدريب المسبق غير الموجه للمعلم

قبل بدء التدريب المشترك، يخضع نموذج المعلم لمرحلة تدريب مسبق غير موجهة متخصصة لتعلم توزيع البيانات وتوليد أقنعة (Masks) ذات معنى.

• بنية المسار المزدوج (Dual-Pathway Architecture): يستخدم النموذج بنية UNet بمسارين متبادلين:
  1. مسار القناع (Mask Pathway): يأخذ صورة نظيفة وقناعاً مشوهاً بالضجيج لإعادة بناء القناع النظيف.
  2. مسار الصورة (Image Pathway): يأخذ قناعاً نظيفاً وصورة مشوهة بالضجيج للتنبؤ بالضجيج المضاف إلى الصورة (مهمة وسيطة لإعادة البناء).
• قيد الاتساق الدوري (Cycle-Consistency Constraint): يفرض النموذج دورة حيث:
  1. يتم تحويل متجه ضجيج إلى قناع تقسيم مشروط بالصورة المدخلة.
  2. يُستخدم هذا القناع المولد لإعادة بناء الصورة الأصلية من الضجيج.
  3. تُحسب الخسارة كفرق بين الصورة الأصلية والصورة المعاد بناؤها.
• الهدف: هذا يجبر المعلم على تعلم ربط قوي بين ميزات الصورة والأقنعة الدلالية، مما يضمن قدرته على توليد تسمات مستعارة غنية بالمعلومات حتى بدون حقيقة أرضية.

ب. التدريب المشترك شبه الموجه بين المعلم والطالب

بمجرد اكتمال التدريب المسبق، يتم دمج المعلم مع شبكة طالب (ذات بنية متطابقة) للتعلم شبه الموجه.

• الإشراف المتبادل الزائف (Cross Pseudo-Supervision - CPS): يقوم كلا النموذجين بتوليد أقنعة من الصور والضجيج المدخل. ويقوم كل منهما بالإشراف على الآخر: حيث تعمل تنبؤات المعلم كالتسمية المستعارة للطالب، والعكس صحيح.
• دالة الخسارة (Loss Function):
  • للبيانات غير الموسومة: تستخدم خسارة الإنتروبيا المتقاطعة (CE) بين تنبؤ الطالب وتسمية المعلم المستعارة (والعكس).
  • للبيانات الموسومة: تستخدم خسارة CE القياسية مقابل الحقيقة الأرضية لكلا النموذجين.
• التحسين التكراري: يقوم المعلم بتحديث أوزانه باستمرار لتحسين جودة التسميات المستعارة، بينما يتعلم الطالب من كل من الحقيقة الأرضية وتنبؤات المعلم المتطورة.

ج. استراتيجية الانتشار متعددة الجولات

لتعزيز الاستقرار والأداء، قدم المؤلفون عملية تحسين تكرارية أثناء التدريب المشترك:

1. يولد المعلم قناعاً أولياً ($\hat{m}$).
2. يتم تغذية هذا القناع مرة أخرى في مسار الصورة الخاص بالمعلم لإعادة بناء الصورة ($\hat{i}_1$).
3. تُستخدم الصورة المعاد بناؤها لتوليد قناع جديد ومحسن ($\hat{m}_1$).
4. خسارة المحاذاة (Alignment Loss): يضمن مصطلح خسارة إضافي أن القناع المحسن ($\hat{m}_1$) يتوافق مع الهدف (الحقيقة الأرضية أو تنبؤ الطالب).
5. خسارة إعادة البناء (Reconstruction Loss): تضمن بقاء إعادة بناء الصورة متسقة.
   تتكرر هذه العملية لعدد $R$ من الجولات، مما يخلق مجموعة متنوعة من التنبؤات التي تعمل على استقرار التدريب وتقليل الضجيج في التسمات المستعارة.

3. المساهمات الرئيسية

1. إطار عمل مبتكر: إطار عمل معلم-طالب شبه موجه مصمم خصيصاً لتقطيع الصور الطبية الحيوية باستخدام DDPMs، مستفيداً من القدرات التوليدية لإنتاج تسمات مستعارة عالية الجودة.
2. التدريب المسبق غير الموجه: استراتيجية تدريب مسبق قائمة على الاتساق الدوري تمكن المعلم من تعلم توليد الأقنعة الدلالية من البيانات غير الموسومة وحدها، مما يعالج مشكلة "البداية الباردة" (Cold start) في التعلم شبه الموجه.
3. الانتشار متعدد الجولات: استراتيجية تكرارية تعمل على تحسين التسمات المستعارة من خلال جولات انتشار متعددة، مما يحسن متانة وموثوقية عملية التدريب المشترك.
4. التحقق الشامل: تقييم واسع النطاق عبر مجموعات بيانات متعددة (الأنسجة، طب الجلد، صور العين، ورنين القلب الأذيني الأيس "LA").

4. النتائج التجريبية

تم تقييم الطريقة على أربع مجموعات بيانات: GlaS (أنسجة القولون)، PH2 (آفات الجلد)، HMEPS (بؤبؤ العين)، و LA (الأذين الأيسر ثلاثي الأبعاد في رنين MRI).

• الأداء: تفوقت الطريقة المقترحة باستمرار على تقنيات التعلم شبه الموجه الحالية (بما في ذلك EM, CCT, UAMT, CPS, URPC, DTC) عبر جميع مستويات ندرة الملصقات (1%، 2%، 5%، 10%، 20%).
• نظام البيانات المنخفضة: كانت التحسينات أكثر أهمية في سيناريوهات الملصقات المنخفضة للغاية (1-5%)، حيث حققت الطريقة معاملات Dice (DC) ومؤشر Jaccard (JI) أعلى بكثير من المنافسين.
• القدرة على التكيف ثلاثي الأبعاد: نجحت الطة في الامتداد إلى البيانات الحجمية ثلاثية الأبعاد (مجموعة بيانات LA)، مما أثبت تعدد استخداماتها بما يتجاوز الصور ثنائية الأبعاد.
• دراسات الاستئصال (Ablation Studies):
  • التدريب المسبق: أدى حذف مرحلة التدريب المسبق غير الموجه إلى انخفاض ملحوظ في الأداء، مما يؤكد ضرورتها.
  • جولات الانتشار ($R$): أدى زيادة $R$ إلى تحسين استقرار التدريب (تضييق فترات الثقة). وتم تحديد $R=5$ كأفضل مقايضة بين الأداء والتكلفة الحسابية.

5. الأهمية

يعالج هذا العمل اختناقاً حرجاً في الذكاء الاصطنا-الطبي: ندرة البيانات الموسومة. ومن خلال دمج نماذج الانتشار التوليدية في حلقة التعلم شبه الموجه، أثبت المؤلفون أن:

• جودة التسمات المستعارة: يمكن لنماذج الانتشار توليد تسمات مستعارة أكثر موثوقية بكثير من النماذج التمييزية التقليدية، مما يقلل من خطر تراكم الأخطاء في التعلم شبه الموجه.
• القابلية للتطبيق السريري: تحقق الطريقة أداءً يقارب النماذج الخاضعة للإشراف الكامل باستخدام 20% فقط من البيانات الموسومة، مما يجعلها عملية للغاية في البيئات السريرية حيث تكون موارد التوسيم محدودة.
• القدرة على التعميم: الإطار مستقل عن نوع الوسائط (Modality-agnostic) والأبعاد (Dimension-agnostic)، وهو قابل للتطبيق على أنواع مختلفة من التصوير (H&E، طب الجلد، MRI) وعلى الأحجام ثلاثية الأبعاد.

في الختام، يضع هذا البحث نموذجاً جديداً لتقطيع الصور الطبية الحيوية شبه الموجه، مثبتاً أن نماذج الانتشار التوليدية يمكن أن تسد الفجوة بفعالية بين الملصقات المحدودة والتحليل عالي الدقة للصور الطبية.