SFMformer: A Spatial-Frequency Modulation Transformer for Lightweight Image Super-Resolution
يقدم SFMformer نموذج محول خفيف الوزن لرفع دقة الصور، يقوم بفصل وتحسين اختيار الرموز وتجميعها بشكل مشترك من خلال التعزيز المكاني والتعديل في نطاق المويجات، محققاً أداءً هو الأفضل في فئته عبر معايير قياس متعددة مع الحفاظ على عدد بارامترات يقل عن مليون.
تخيل محاولة استعادة صورة باهتة وضبابية إلى حدتها الأصلية. هذا هو تحدي "الارتقاء بالدقة لصورة واحدة"، وهي مهمة اعتمدت لفترة طويلة على التعلم العميق لتخمين ماهية التفاصيل المفقودة. لسنوات، كانت أقوى الأدوات لهذه المهمة هي نماذج حاسوبية ضخمة تتطلب أجهزة متخصصة وباهظة الثمن لتشغيلها. ولكن في العديد من الحالات الواقعية — مثل طائرة بدون طيار ترسل صوراً من موقع بعيد، أو جهاز محمول يُستخدم للفحص — لا يوجد حاسوب قوي متاح. الهدف إذن هو بناء نظام ذكي بما يكفي لإعادة بناء التفاصيل الدقيقة، ولكنه صغير بما يكفي ليتناسب مع معالج بسيط ومنخفض التكلفة.
لقد طور باحثون في جامعة تانغك actually (Tamkang) نهجاً جديداً لهذه المشكلة يسمى SFMformer. فبدلاً من محاولة جعل نموذج ضخم أصغر حجماً، بدأوا بطرح سؤال مختلف حول كيفية تفكير هذه النماذج. تعتمد أنظمة ترميم الصور الحديثة غالباً على آلية تسمى "الانتباه" (attention)، والتي تسمح للحاسوب بالنظر إلى أجزاء مختلفة من الصورة وتحديد الأجزاء الأكثر أهمية للاحتفاظ بها. وفي النسخ الأكثر كفاءة من هذه الأنظمة، لا ينظر الحاسوب إلى كل تفصيل صغير؛ بل يختار فقط القطع الأكثر قوة وصلة بالموضوع ويتخلص من الباقي لتوفير الطاقة. أدرك الباحثون أن فعل الاختيار والتخلص هذا يخلق فرصة فريدة. ففي نظام ينظر إلى كل شيء، يكون تحسين الصورة مهمة واحدة. أما في نظام يختار ويتخلص، فهناك في الواقع مكانان منفصلان يمكن أن يحدث فيهما الخطأ: اللحظة التي يقرر فيها الحاسوب ما يحتفظ به، واللحظة التي يدمج فيها ما احتفظ به في صورة نهائية.
اكتشف الفريق أنه إذا حاولت تحسين الصورة في مكان واحد فقط، فستفقد نصف الإمكانات. فإذا جعلت الحاسوب أفضل في اختيار التفاصيل الصحيحة، ولكن خطوة الدمج كانت ضعيفة، فستظل النتيجة ضبابية. وعلى العكس من ذلك، إذا كانت خطوة الدمج مثالية ولكن الحاسوب اختار التفاصيل الخاطئة في البداية، فلا يمكن إصلاح الخطأ لاحقاً. ولحل هذه المشكلة، بنوا نظاماً من جزأين. أولاً، أضافوا وحدة تساعد الحاسوب على فهم الشكل المحلي والملمس للصورة قبل اتخاذ قراره بالاختيار، مما يضمن اختياره للقطع الصحيحة. ثانياً، أضافوا وحدة مختلفة تعمل بعد عملية الاختيار، باستخدام تقنية رياضية لزيادة حدة التفاصيل عالية التردد — مثل الحواف الحادة لمبنى أو الخطوط الدقيقة في رسم — والتي غالباً ما تُفقد في العملية.
ما يجعل هذا الاكتشاف مثيراً للاهتمام بشكل خاص هو كيفية عمل هذين الجزأين معاً. اختبر الباحثون نظامهم على خمسة عشر نوعاً مختلفاً من الصور، تتراوح من المناظر الطبيعية إلى رسومات القصص المصورة. ووجدوا أن التحسينين لم يضيفا دائماً ببساطة إلى بعضهما البعض. ففي بعض الحالات، كانت النتيجة المجمعة أفضل بكثير من مجموع الجزأين يعملان بمفردهما، كما لو أن الوحدتين كانتا تساعدان بعضهما البعض في التغلب على اختناقات مختلفة. وفي حالات أخرى، حيث كانت الصورة بسيطة جداً أو كان الضرر شديداً للغاية، تداخلت الوحدتان في عملهما وقدمتا فائدة إضافية أقل. وجد الباحثون أن بإمكانهم التنبؤ بدقة متى سيحدث هذا من خلال النظر في مدى مساعدة كل وحدة بمفردها. فعندما تكون إحدى الوحدات ضعيفة، يمكن للأخرى غالباً أن تعوضها، مما يؤدي إلى تأثير مجمع قوي.
النتيجة النهائية هي نموذج فعال للغاية، يستخدم أقل من مليون معلمة (parameter)، وهو مقياس لحجمه وتعقيده. هذا الحجم صغير بما يكفي للعمل على "راسبيري باي" (Raspberry Pi)، وهو حاسوب بحجم بطاقة الائتمان يُستخدم غالباً من قبل الهواة وفي المستشعرات الصناعية. اختبر الفريق النظام على هذا الجهاز ووجد أنه بينما لا يمكنه معالجة الفيديو في الوقت الفعلي، فإنه يمكنه استعادة صورة واحدة عالية الجودة في غضون ثوانٍ إلى دقائق، اعتماداً على حجمها. وهذا يجعل الأمر عملياً للمهام التي قد يتوقف فيها المشغل البشري لفحص منطقة محددة من صورة، أو لمعالجة دفعات من الصور طوال الليل دون الحاجة إلى حاسوب خارق. لقد تفوق النظام على جميع الطرق خفيفة الوزن الأخرى تقريباً في الاختبارات القياسية، لا سيما في الصور ذات الأنماط الهندسية المعقدة والخطوط الحادة. ومن خلال الإدراك بأن عملية اختيار المعلومات وعملية صقلها هما تحديان متميزان، ابتكر الباحثون أداة فعالة للغاية وسهلة الوصول، مما جلب ترميم الصور عالي الجودة إلى الأجهزة التي كانت محدودة جداً في السابق للتعامل معها.
ملخص تقني: SFMformer
بيان المشكلة تعد عملية تحسين دقة الصورة الواحدة (Single Image Super-Resolution - SR) مشكلة غير محددة تتطلب استعادة المحتوى عالي التردد المفقود أثناء عملية خفض العينة (downsampling). وبينما حقق التعلم العميق تقدماً كبيراً في هذا المجال، فإن النماذج الأكثر فعالية غالباً ما تعتمد على ملايين المعلمات (parameters)، مما يجعلها غير عملية للنشر في البيئات محدودة الموارد (مثل الأجهزة الطرفية، أو المستشعرات عن بُعد، أو أنظمة الأرشفة) حيث لا تتوفر وحدات معالجة الرسومات (GPUs). يستهدف تحسين الدقة خفيف الوزن ميزانية تقل عن مليون معلمة. ويتمثل التحدي الحرج في هذا النطاق في تحسين آليات الانتباه المتناثر (sparse attention). تستخدم نماذج "المحولات" (Transformers) الفعالة الحالية آلية الانتباه المتناثر (تقوم بتقييم جميع أزواج الرموز/tokens ولكنها تنشر فقط الأقوى منها)، ومع ذلك، تتعامل الأدبيات مع هذه الشبكات كوحدات متجانسة (monolithic). يجادل المؤلفون بأن عملية التناثر تغير بشكل جذري مشهد التحسين: فخلافاً للانتباه الكثيف (dense attention) حيث تساهم جميع الرموز في كل مخرج، يقدم الانتباه المتناثر مرحلة اختيار متميزة (تقرير أي الرموز ستنجو) تليها مرحلة تجميع (دمج الناجين)، مما يخلق هدفين منفصلين للتحسين يتم الخلط بينهما غالباً في التصميمات الحالية.
المنهجية يعالج نموذج SFMformer (محول تعديل المجال المكاني-الترددي) هاتين المرحلتين المتميزتين باستخدام هيكل (Progressive Focused Attention - PFA) [14]، معزز بموديولين محددين وُضعا بشكل غير متماثل حول عامل الانتباه:
تعزيز جانب الاختيار (استخراج الميزات المزدوج - DFE):
الموضع: يُدرج قبل إسقاط الاستعلام-المفتاح-القيمة (QKV) في كل طبقة.
الآلية: يستخدم هيكل PFA القياسي عمليات إسقاط خطية تعتمد فقط على القنوات، مما يتجاهل البنية المكانية المحلية. يمكن أن يؤدي هذا إلى اختيار سيئ للرموز إذا لم تكن الرموز المتجاورة قابلة للتمييز بشكل كافٍ. يدمج SFMformer موديول DFE [10] يتكون من بنية مزدوجة المسار: مسار 1×1 يحافظ على دلالات القنوات، ومسار على شكل "ساعة رملية" (1×1 ← 3×3 ← 1×1) يلتقط الجوارات المكانية المحلية.
الهدف: ضمان أن الميزات التي تُغذى في عامل التناثر (top-k sparsification) تحمل بصمات هيكلية مكانية صريحة، مما يسمح لآلية الاختيار بالتقارب بدقة أكبر نحو الرموز الحرجة.
تعديل جانب التجميع (التعديل في مجال الموجات - WMA):
الموضع: يُدرج بعد تجميع الانتباه، ولكن في الطبقة الأخيرة فقط من كل كتلة SFM (وليس في كل طبقة).
الآلية: يطبق هذا الموديول تعديلاً عالمياً في مجال التردد على التمثيل المجمع. يستخدم تحويل الموجات المتقطعة (DWT) لتفكيك الميزات إلى النطاقات الفرعية LL، LH، HL، وHH. يتم حساب الانتباه عبر النطاقات الفرعية المدمجة للسماح للنطاقات الترددية بالتأثير في بعضها البعض، يليه تطويع ديناميكي (dynamic convolution) وتحويل موجات عكسي (IDWT) للعودة إلى المجال المكاني.
الهدف: تعويض قيود النمذجة المكانية البحتة من خلال استعادة وتوزيع طاقة التردد العالي بشكل صريح.
الكفاءة: للحفاظ على ميزانية أقل من مليون معلمة، يتم تطبيق التعديل الطيفي مرة واحدة لكل كتلة بدلاً من كل طبقة، مما يحافظ على الفائدة بتكلفة حسابية تبلغ حوالي سدس التكلفة الأصلية.
يتبع الهيكل العام مسار SR قياسي: استخراج الميزات الضحلة، استخراج الميزات العميقة عبر كتل SFM متتالية (التي تحتوي على طبقات SFM الموصوفة أعلاه)، وإعادة البناء عبر رفع العينة بأسلوب (pixel-shuffle). يستخدم التدريب دالة فقد (loss function) مشتركة: فقد L1 لدقة البكسل، وفقد في مجال فوريه للإشراف على توزيع التردد العالمي، لتجنب صراعات التدرج المرتبطة بفقد مجال الموجات.
المساهمات الرئيسية
الرؤية النظرية: يحدد البحث أنه في حالة الانتباه المتناثر، تعتبر مرحلتا الاختيار والتجميع نقطتي تدخل متميزتين. فشل الاختيار (استبعاد الرموز الحرجة) هو أمر لا يمكن استدراكه، بينما فشل التجميع (ضعف محتوى التردد العالي في الرموز الناجية) هو خاصية للمخرجات.
تحليل التفاعل: يحلل المؤلفون التفاعل بين التعزيز المكاني (DFE) والتعديل الطيفي (WMA). وجدوا أن الربح المشترك ليس مجرد ربح تراكمي بسيط. في تسعة من أصل خمسة عشر زوجاً من المقاييس المرجعية، تتضاعف الموديولات (الربح المشترك > مجموع الأرباء الفردية)، وفي ست حالات، تتداخل. يتم التنبؤ بهذا التفاعل بقوة من خلال أداء الموديول الأضعف وحده (r=−0.72)، مما يشير إلى أن الموديولات تتضاعف عندما تعالج قيوداً مختلفة (مثل الهياكل الهندسية في Urban100 مقابل الخطوط عالية التباين في Manga109) وتتداخل عندما تستهدف نفس المحتوى.
الهيكل الفعال: من خلال وضع التعديل الطيفي مرة واحدة لكل كتلة بدلاً من كل طبقة، يحتفظ النموذج بفوائد المعالجة في مجال التردد مع إبقاء عدد المعلمات دون مليون (0.97M–0.99M عبر المقاييس المختلفة).
التحقق التجريبي: يحتل النموذج المرتبة الأولى في 28 من أصل 30 مدخلاً لـ PSNR/SSIM عبر خمسة معايير مرجعية (Set5, Set14, BSD100, Urban100, Manga109) وثلاثة عوامل رفع دقة (×2, ×3, ×4).
النتائج
الأداء: يحقق SFMformer نتائج هي الأفضل في فئته (SOTA) بين المحولات خفيفة الوزن (<1M معلمة). وتكون المكاسب أكثر وضوحاً في Urban100 (الهياكل الهندسية المنتظمة) و Manga109 (فن الخطوط عالي التباين)، مما يتماشى مع التنبؤ النظري بأن هذه المجموعات تضغط على موديولات الاختيار والطيف على التوالي.
الدراسة الاستئصالية (Ablation): يوفر موديول DFE تحسيناً عاماً وشاملاً (+0.11 dB في Urban100 ×2)، بينما يركز WMA فوائده على مجموعات البيانات ذات التردد العالي مثل Manga109 (+0.15 إلى +0.19 dB).
النشر الطرفي: تم نشر النموذج على جهاز Raspberry Pi 5 (معالج CPU فقط). ورغم أن الاستنتاج للصورة الكاملة بطيء (مثلاً ~104 ثانية لصفحة Manga109)، إلا أن المؤلفين أثبتوا أن إعادة بناء منطقة الاهتمام (ROI) عملية (مثلاً ~45 ثانية لمنطقة 176×156)، مما يتيح الفحص التفاعلي. يعمل النموذج ضمن النطاق الحراري والذاكرة للجهاز (ذروة RAM ~21%، درجة حرارة SoC ~51–53 درجة مئوية).
الأهمية والادعاءات يدعي البحث أن المساهمة الأساسية هي مبدأ تصميم وليس مجرد بنية شبكة جديدة: وهو إدراك أن التناثر يخلق هدفين تحسين منفصلين (الاختيار والتجميع) يتطلبان تدخلات متميزة وموضوعة استراتيجياً.
يتسم المؤلفون بالتواضع في ادعاءاتهم بشأن آلية التفاعل. فبينما تدعم البيانات تفسير "الاختيار/التجميع" (حيث تتضاعف الموديولات عندما تعالج قيوداً مختلفة)، إلا أنهم يقرون بأن نموذج "تناقص العوائد" العام يمكنه أيضاً التنبؤ بالارتباط السلبي الملاحظ بين ربح الموديول الأضعف وحده وبين حد التفاعل. كما ذكروا صراحة أن التمييز بين هذين التفسيرين يتطلب تجارب تشخيصية إضافية (مثل تحليل تداخل اختيار الرموز أو نقل الموديولات إلى خلفيات كثيفة) والتي تركت للعمل المستقبلي.
في النهاية، يثبت البحث أن التكوين المزدوج للتعزيز المكاني والتعديل الطيفي "يستحق تكلفته"، حيث يقدم أداءً رفيع المستوى ضمن ميزانية صارمة لأقل من مليون معلمة، ويثبت الجدوى العملية على الأجهزة الطرفية الشائعة. يسلط العمل الضوء على أهمية عدم التماثل الهيكلي (تعزيز الاختيار في كل طبقة، وتعديل التجميع مرة واحدة لكل كتلة) لموازنة الأداء والكفاءة.