ملخص تقني: SEGA – الانتباه الموجه بالطاقة الطيفية لاستقراء الدقة في محولات الانتشار (Diffusion Transformers)

بيان المشكلة

أثبتت محولات الانتشار (DiTs) مكانتها كبنية مهيمنة لتوليد الصور من النصوص (T2I). ومع ذلك، يتدهور أداؤها بشكل كبير عند توليد صور بدقة تتجاوز نطاق تدريبها (عادةً من 1024² إلى 2048²). غالبًا ما يؤدي الاستقراء (Extrapolation) إلى دقات أعلى إلى ظهور أنسجة ضبابية، وأنماط متكررة، وانهيار هيكلي.

تحاول الحلول الحالية التي لا تتطلب تدريبًا التخفيف من حدة ذلك عبر تعديل سلوك الانتباه أثناء الاستنتاج، وبشكل أساسي من خلال دمج استقراء تضمين الموضع الدوار (RoPE) مع قياس الانتباه (Attention Scaling). تتبع الطرق الحالية، مثل YaRN، نهج القياس الموحد وغير المرتبط بالمحتوى عبر جميع مكونات RoPE. يعامل هذا النهج المكونات ذات الأطوال الموجية القصيرة (التي تتحكم في التفاصيل الدقيقة للنسيج) بشكل متطابق مع المكونات ذات الأطوال الموجية الطويلة (التي تشكل الهيكل العام). ويجادل البحث بأن هذا التوحيد الساكن يفرض مقايضة جوهرية: فالاستراتيجيات التي تحافظ على الهيكل العام غالبًا ما تفشل في استعادة التفاصيل الدقيقة، والعكس صحيح. علاوة على ذلك، فإن التوزيع الطيفي لتمثيل الكامن (Latent Representation) يتطور ديناميكيًا أثناء عملية إزالة الضجيج (Denoising) ويختلف باختلاف محتوى الصورة، مما يجعل القياس الساكن غير مثالي.

المنهجية: SEGA

قدم المؤلفون SEGA (الانتباه الموجه بالطاقة الطيفية)، وهو أسلوب لا يتطلب تدريبًا يقوم بقياس الانتباه ديناميكيًا عبر مكونات RoPE بناءً على بنية التردد المكاني للكامن الوسيط في كل خطوة من خطوات إزالة الضجيج.

الرؤية الجوهرية

يستند SEGA إلى ملاحظة مفادها أن مكونات RoPE مرتبطة بترددات مكانية محددة. وبدلاً من تطبيق عامل قياس ثابت، يستنتج SEGA مقادير القياس لكل بُعد من خلال تحليل توزيع الطاقة للكامن الوسيط الحالي.

سير العمل الخوارزمي

1. التحليل الطيفي: في كل خطوة من خطوات إزالة الضجيج، يتم تحويل الكامن الوسيط $Z$ من المجال المكاني إلى مجال التردد باستخدام تحويل فوريه السريع ثنائي الأبعاد (2D FFT).

   • الملفات المحورية: يتم دمج طيف القدرة ثنائي الأبعاد عبر المحاور المتعامدة للحصول على ملفات طاقة أحادية البعد ($E_H, E_W$) للترددات الأفقية والعمودية.
   • الملف الشعاعي: يتم حساب متوسط طيف القدرة ضمن حلقات متمركزة للحصول على ملف دوران ثابت ($E_{iso}$) يمثل توزيع الطاقة عبر المقاييس المكانية.

2. التصحيح لكل بُعد ($s_d$):

   • لكل بُعد $d$ في RoPE، يتم تحديد الطول الموجي المقابل لربطه بنطاق ترددي محدد في الملف المحوري.
   • يتم توحيد (Standardization) لوغاريتم الطاقة لهذا النطاق.
   • يتم تطبيق دالة غير خطية (tanh)، وتكون النتيجة متمركزة حول الصفر لضمان إعادة توزيع صارمة للقياس. الأبعاد المرتبطة بنطاقات الطاقة المنخفضة تتلقى قياسًا أقوى للحفاظ على التمييز الموضعي، بينما الأبعاد المرتبطة بنطاقات الطاقة العالية تتلقى قياسًا أضعف لتجنب التضخيم المفرط.

3. عامل السعة العالمي ($\sigma$):

   • يتم اختزال الملف الشعاعي إلى قيمة عددية واحدة باستخدام التسطح الطيفي (الإنتروبيا الويينرية - Wiener entropy).
   • يتحكم هذا العامل في قوة القياس. إذا كان طيف الكامن مسطحًا (مهيمن عليه الضجيج)، فإن $\sigma \to 0$، مما يثبط التصحيح. ومع ظهور المحتوى الهيكلي وتغير الطيف ليصبح أقل تسطحًا، فإن $\sigma \to 1$، مما يطبق التصحيح بكامل قوته.

4. صيغة القياس النهائية:
   يتم حساب عامل القياس النهائي $m_d$ لكل بُعد $d$ كالتالي:
   $$m_d = m_{ref} \cdot (1 - \sigma \cdot s_d)$$
   حيث $m_{ref}$ هو مقياس مرجعي يتم تحديده باستخدام صيغة قانون القوة (Power-law formulation). يسمح هذا لـ SEGA بالتكيف باستمرار مع المحتوى الطيفي للكامن، مما يعمل على شحذ الانتباه عند الترددات غير المستوفاة للحل (Under-resolved) وتخفيفه عند الترددات المبالغ في إبرازها.

المساهمات الرئيسية

• القياس الديناميكي المرتبط بالمحتوى: على عكس طرق القياس الموحد السابقة، يقوم SEGA بتكييف قياس الانتباه مع البنية الطيفية المحددة للكامن في كل خطوة من خطوات إزالة الضجيج.
• حل مقايضة الهيكل والتفاصيل: من خلال التمييز بين مكونات RoB بناءً على نطقاتها الترددية ومستويات طاقتها، يحسن SEGA في آن واحد من التماسك الهيكلي العالمي ودقة التفاصيل الدقيقة.
• لا يتطلب تدريبًا ومستقل عن البنية المعمارية: لا تتطلب هذه الطريقة أي ضبط دقيق (Fine-tuning)، ولا بارامترات قابلة للتعلم، ولا تغييرات في البنية. يمكن دمجها مباشرة في مسارات RoPE القياسية (كما تم إثباته على Flux و Qwen).
• أداء فائق عند الدقات الفائقة العالية: يتيح SEGA توليدًا مستقرًا عند دقات تتجاوز 36 مليون بكسل (مثل 6144²)، وهو نطاق تفشل فيه الطرق الأخرى تمامًا.

النتائج التجريبية

قيم المؤلفون SEGA على بنيات Flux و Qwen عبر إعدادات متعددة عالية الدقة (تصل إلى 6144²) باستخدام مجموعة بيانات Aesthetic-4K واختبار مرجعي مخصص للصفر (Zero-shot benchmark).

• الأداء الكمي: تفوق SE_GA باستمرار على أفضل النتائج المرجعية (بما في ذلك NTK، وYaRN، وDyPE، وUltraImage، وطرق التوجيه متعددة المراحل مثل HiFlow وI-Max) عبر جميع المقاييس: ImageReward (IR)، وPickScore (PS)، وCLIP Score (CS)، وMUSIQ (MSQ)، وFID. والجدير بالذكر أنه عند دقة 4096²، حقق SEGA أفضل النتائج في كل مقياس تم تقييمه.
• التحسينات النوعية: أظهرت المقارنات البصرية أن SEGA يمنع بفعالية أوضاع الفشل الشائعة مثل عيوب التكرار النمطي (Tiling artifacts)، والانهيار الهيكلي، وفقدان الوضوح الدلالي. كما أنه يحافظ على الهندسات المعقدة والأنسجة الدقيقة (مثل الفراء، وتفاصيل القماش) التي قد تقوم الطرق الأخرى بتضبيبها أو تشويهها.
• المتانة: حافظت الطريقة على استقرارها عبر نسب العرض إلى الارتفاع غير المربعة وعوامل الاستقراء القصوى (تصل إلى 36 ضعف مساحة التدريب)، بينما أظهرت الطرق المنافسة تدهورًا ملحوظًا في الأداء مع زيادة الدقة.

الأهمية والادعاءات

يزعم البحث أن SEGA يمثل حلاً بسيطًا وفعالًا لفتح قدرات توليد الدقة العالية لمحولات DiT المدربة مسبقًا. ومن خلال الانتقال من القياس الثابت القائم على الاستدلال إلى نهج ديناميكي موجه بالطاقة الطيفية، يعالج المؤلفون قيدًا جوهريًا في استراتيجيات الاستقراء الحالية.

يؤكد المؤلفون أن عملهم يقدم "منظورًا طيفيًا" على قياس الانتباه، ويكشف عن وجود ارتباط بين أبعاد RoPE والترددات المكانية يمكن استغلاله لتوجيه التكيف أثناء الاستنتاج. ويقدمون SEGA ليس كبديل للنهج القائمة على التدريب، بل كتعزيز قوي وسهل الاستخدام (Plug-and-play) يسمح للنماذج الموجودة بالتعميم إلى دقات أعلى بكثير من دقات تدريبها الأصلية دون التكلفة الحسابية لإعادة التدريب أو تعقيد المسارات متعددة المراحل. وتُقدم الطريقة كخطوة نحو فهم وتحكم أفضل في سلوك آليات الانتباه في مهام استقراء الدقة.