A multifractal-based masked auto-encoder: an application to medical images

ملخص تقني: مشفر تلقائي محجوب متعدد العوامل للصور الطبية

بيان المشكلة
تستخدم المشفرات التلقائية المحجوبة (MAEs) التقليدية استراتيجية حجب عشوائية أثناء التدريب المسبق الخاضع للإشراف الذاتي. ورغم فعاليتها في الرؤية الحاسوبية العامة، إلا أن هذا النهج يعتبر غير مثالي للتصوير الطبي. ففي السياقات الطبية، غالبًا ما تحمل التغييرات الطفيفة في مناطق معينة قيمًا تشخيصية حرجة، بينما قد يتجاهل الحجب العشوائي هذه المناطق ذات المعلومات العالية أو يركز على ضوضاء الخلفية الأقل أهمية. وتعتمد التحسينات الحالية على حجب الـ MAE غالبًا على شبكات مساعدة قابلة للتعلم أو خرائط انتباه خاضعة للإشراف، مما قد يؤدي إلى عبء حسابي إضافي أو يتطلب إجراءات تدريب خارجية.

المنهجية: MO-MAE
يقترح المؤلفون المشفر التلقائي المحجوب المحسن متعدد الفركتلات (MO-MAE)، وهو إطار عمل يستبدل الحجب العشوائي بمقياس تعقيد قائم على الفيزياء لتوجيه اختيار الرقع (patches). تسير المنهجية كما يلي:

1. التقطيع (Patching): يتم تقسيم الصور المدخلة إلى رقع مستطيلة غير متداخلة (على سبيل المثال، $16 \times 16$).
2. التحليل متعدد الفركتلات (المُنتقي): بدلاً من الاختيار العشوائي، يقوم النموذج بحساب إنتروبيا ريني (مقياس متعدد الفركتلات) لكل رقعة. يقيس هذا المقياس مدى التعقيد ومحتوى المعلومات للرقعة عند مستويات مختلفة.
   • تُستخدم طريقة دالة التجزئة لتقدير توزيع احتمالية شدة البكسل داخل الرقعة.
   • يتم حساب دالة التجزئة للعزم رقم $q$، مما يؤدي إلى تقدير الطيف متعدد الفركتلات وإنتروبيا ريني المرتبطة به ($R_q$).
   • يتم ترتيب الرقع بترتيب تنازلي بناءً على قيم الإنتروبيا الخاصة بها.
3. استراتيجية الحجب: يختار النموذج أفضل $n_S$ من الرقع (حيث يتم تحديد $n_S$ بناءً على نسبة الحجب $r$) ذات الإنتروبيا الأعلى. تمثل هذه الرقع مناطق ذات تعقيد عالٍ وغنى معلوماتي.
4. التدريب المسبق: يتم تغذية الرقع عالية الإنتروبيا المختارة في مشفر "المحول الرؤي" (Vision Transformer - ViT). يحاول فك التشفير إعادة بناء الصورة الأصلية من هذا المدخل الجزئي. يقيس دالة الخسارة التباين بين الصورة الأصلية والمعاد بناؤها.
5. الضبط الدقيق (Fine-tuning): يتم بعد ذلك ضبط المشفر المدرب مسبقًا بدقة على بيانات طبية مصنفة لمهام محددة (مثل تصنيف الأمراض).

المساهمات الرئيسية
يسلط البحث الضوء على أربعة ابتكارات أساسية:

• استراتيجية حجب مبتكرة: تطوير استراتيجية حجب قائمة على تعدد الفركتلات تعمل على تحسين نتائج تصنيف الصور الطبية مقارنة بالحجب العشوائي القياسي.
• أول دمج: حسب علم المؤلفين، يعد هذا أول عمل يربط التحليل متعدد الفركتلات (تحديدًا إنتروبيا ريني) بالمشفرات التلقائية المحجوبة.
• التعقيد القائم على الفيزياء: يعد هذا أول استكشاف لمقياس تعقيد قائم على الفيزياء لتوجيه حجب الـ MAE، مما يميزه عن الاستراتيجيات التي تعتمد على معاملات قابلة للتعلم أو خوارزميات تدريب خارجية.
• القابلية للتفسير والكفاءة: يقدم النهج معيار حجب قابل للتفسير ويضيف عبئًا حسابيًا ضئيلًا، حيث أن حساب الإنتروبيا مباشر ولا يتطلب تعلم معاملات إضافية أثناء التدريب المسبق.

النتائج التجريبية
تم تقييم MO-MAE في معيارين أساسيين:

1. MedMNIST-V2: وهي مجموعة من الصور الطبية ثنائية الأبعاد تغطي نماذج متنوعة (علم الأمراض، الأشعة السينية، طب الجلد، إلخ).
   • الأداء: أظهر MO-MAE زيادة عامة في كل من الدقة (ACC) والمساحة تحت المنحنى (AUC) مقارنة بـ MAE الأصلي ذي الحجب العشوائي.
   • المقارنة: حقق النموذج أعلى AUC/ACC في معظم مجموعات البيانات، متفوقًا على النماذج المتطورة مثل MedVIT-S و MedVIT-L في عدة سيناريوهات، رغم أن MedVIT بنية مكثفة حسابيًا تجمع بين الشبكات العصبية الالتفافية (CNNs) والمحولات (Transformers).
   • الحساسية للمعلمات الفائقة: أشارت التجارب إلى أن $q=2$ قدم أفضل حل وسط بين الفركتلية قصيرة وطويلة المدى لاختيار الرقع.
2. COVID-CT: وهي مجموعة بيانات للتنبؤ بحالات كوفيد-19 من صور الأشعة المقطعية (CT).
   • الأداء: حقق MO-MAE دقة قدرها 0.85 ودرجة F1 قدرها 0.85.
   • المقارنة: تفوق النموذج بشكل كبير على الطرق الأدبية الأخرى، بما في ذلك DenseNet-169 و ResGANet-101، والتي تمتلك عددًا أكبر بكثير من المعلمات القابلة للتعلم.

الأهمية والادعاءات
يزعم المؤلفون أن إطار عمل MO-MAE يوفر اتجاهًا واعدًا لتحسين دقة وكفاءة نماذج التعلم العميق في تحليل الصور الطبية. فمن خلال إجبار النموذج على التركيز على إعادة بناء المناطق الأكثر تعقيدًا وغنى بالمعلومات في الصورة، يعزز هذا النهج قدرة النموذج على التقاط الميزات ذات الصلة تشخيصيًا.

ويؤكد البحث أن هذا النموذج القائم على التعلم الذاتي ذو قيمة خاصة في السيناريوهات الطبية حيث تكون البيانات المصنفة محدودة. علاوة على ذلك، يشير المؤلفون إلى أن الطريقة قابلة للتعميم، ومن المحتمل تطبيقها في مجالات أخرى تتجاوز الطب وفي مهام ذات صلة مثل تقسيم الصور (segmentation)، وإن كانت هذه التطبيقات مذكورة كمجالات للبحث المستقبلي وليس كنتائج حالية. وتخلص الدراسة إلى أن استخدام التحليل متعدد الفركتلات لتوجيه الحجب هو استراتيجية قابلة للتطبيق وفعالة تتجنب الحاجة إلى آليات حجب معقدة قابلة للتعلم.