ملخص تقني: محاذاة الهندسة الكامنة من أجل مطابقة التدفق الكروي في توليد الصور

بيان المشكلة

تعمل عملية مطابقة التدفق الكامن (والمطابقة الانتشارية) لتوليد الصور عادةً عن طريق نقل الضوضاء الغاوسية إلى كامنات المشفّر التلقائي التبايني (VAE) عبر مسارات خطية في الفضاء الإقليدي. ومع ذلك، يتجاهل هذا النهج خاصيتين هيكليتين حرجتين لكامنات VAE عالية الأبعاد:

1. تركيز القياس: تتركز كل من الضوضاء الغاوسية السابقة (prior) وكامنات البيانات المشفرة في أغلفة كروية رقيقة بدلاً من ملء حجم الفضاء. الخط الإقليدي المستقيم (الوتر) الذي يربط بين نقطتين على هذه الأغلفة يمر عبر أنصاف أقطار داخلية لا تشغلها أي من التوزيعات، مما يجبر النموذج على تعلم الانتقالات عبر مناطق في الفضاء الكامن نادراً ما تكون مأهولة.
2. الهيمنة الاتجاهية: يعتمد مخرج فك التشفير (decoder) بشكل أساسي على الاتجاه (المكون الزاوي) لرمز الكامن بدلاً من طوله (المكون الشعاعي). تُظهر التجارب التي استبدلت نصف القطر والاتجاه لرموز من نفس الفئة أن الحفاظ على الاتجاه مع تغيير نصف القطر يؤدي إلى تغيير طفيف في الإدراك الحسي، بينما يؤدي تغيير الاتجاه إلى تحولات دلالية كبيرة.

تتجاهل مطابقة التدفق الخطي القياسية هذه الحقائق، حيث تخصص جزءاً كبيراً من هدف سرعة التدريب (يصل إلى 50-90% اعتماداً على المرمز/tokenizer) للحركة الشعاعية. وبما أن فك التشفير أقل حساسية لنصف القطر، فإن هذا الإشراف يكون غير فعال، مما يؤدي إلى تباطؤ التقارب وجودة صور دون المستوى مقارنة بالطرق التي تحترم الهندسة الأساسية.

المنهجية

يقترح المؤلفون مطابقة التدفق الكروي (Spherical Flow Matching)، وهي طريقة توائم الهندسة الكامنة مع البنية الكروية للبيانات دون تعديل بنية الانتشار أو الحاجة إلى مشفرات إضافية. يتكون النهج من أربعة مكونات رئيسية:

1. الإسقاط الكروي لكل رمز (Token-wise):
   تقوم الطريقة بإسقاط كل رمز كامن $z$ من VAE مدرب مسبقاً على كرة فائقة ($S^{d-1}(\sqrt{d})$) ذات نصف قطر ثابت. يتم تحقيق ذلك عبر خطوة تطبيع $L_2$ تُدرج بين المشفر (encoder) المجمد وفك التشفير (decoder):
   $$z_{i,j} \leftarrow \sqrt{d} \cdot \frac{z_{i,j}}{\|z_{i,j}\|}$$
   يضمن هذا أن جميع الرموز تقع على كرة بنصف قطر يطابق نصف قطر التركيز للتوزيع الغاوسي القياسي.

2. المقدمة الكروية (Spherical Prior):
   بدلاً من استخدام الضوضاء الغاوسية الخام، يتم إنشاء نهاية الضوضاء $z_0$ عن طريق أخذ عينات من ضوضاء غاوسية متناحية $\epsilon \sim \mathcal{N}(0, I)$ وإسقاطها على الكرة:
   $$z_0 = \sqrt{d} \cdot \frac{\epsilon}{\|\epsilon\|_2}$$
   ينتج عن ذلك توزيع منتظم على الكرة، مما يطابق هندسة الكامنات المسقطة.

3. ضبط فك التشفير (Decoder Finetuning):
   لاستيعاب القيد الهندسي، يتم ضبط فك التشفير (decoder) لعدة دورات (5 دورات في التجارب) بينما يظل المشفر وطبقة الإسقاط مجمدين. يحتفظ هدف إعادة البناء بخسائر البكسل القياسية (L1, LPIPS, adversarial) ولكنه يتخلى عن حد KL، لأن الكامن المسقط حتمي.

4. نقل Slerp وسرعة المماس:
   يتم استبدال مسار النقل بين نهاية الضوضاء ونهاية البيانات بـ الاستيفاء الخطي الكروي (slerp)، والذي يتبع المسار الجيوديسي على الكرة.

   • المسار الجيوديسي: يبقى المسار $z_t$ على الكرة لجميع قيم $t \in [0, 1]$.
   • هدف السرعة: سرعة الشرط $u_t$ هي المشتق الزمني للجيوديسي، المسقط على الفضاء المماسي $T_{z_t}S^{d-1}$. يضمن هذا أن السرعة زاوية بحتة، مع صفر مكون شعاعي بالبناء.
   • التدريب وأخذ العينات: يتم تدريب النموذج على التنبؤ بهذه السرعة المماسية. أثناء الاستدلال، يستخدم المجمع (sampler) الخريطة الأسية (exponential map) لدمج السرعة، مما يضمن بقاء المسار على الكرة دون الحاجة إلى تصحيحات إسقاط شعاعية في كل خطوة.

المساهمات الرئيسية

حدد الورقة وكممت "عدم تطابق الغلاف الشعاعي" في مطابقة التدفق الكامن القياسية وقدمت تدخلاً هندسياً لحله:

1. تحديد عدم التطابق: أظهر المؤلفون أن المسارات الخطية تجبر النموذج على التنبؤ بحركة شعاعية لا يستجيب لها فك التشففير، مما يهدر القدرة ويبطئ التقارب.
2. الإسقاط لكل رمز: قدموا طريقة لتقييد كامنات VAE المدربة مسبقاً على كرة ذات نصف قطر ثابت باستخدام ضبط فك التشفير فقط، مما يتجنب الحاجة لإعادة تدريب المشفر أو استخدام مشفرات تمثيل إضافية.
3. مطابقة التدفق القائمة على Slerp: اقترحوا تدريب مطابقة التدفق على طول جيوديسيات slerp مع أهداف سرعة مماسية، مما يضمن أن المسار بأكمله يحترم المتعدد الكروي.
4. التحقق التجريبي: أظهرت الطريقة تحسناً في الأداء عبر عائلات متعددة من المرمزات (FLUX.2, VA-VAE, REPA-E FLUX.1) ومقاييس النماذج (SiT-B إلى SiT-XL) دون تغييرات معمارية.

النتائج

أظهرت التجارب على توليد ImageNet-256 المشروط بالفئة تحسينات متسقة:

• تحسينات FID: حققت طريقة (spherical-slerp) درجات FID أقل من مطابقة التدفق الخطي التقليدية في جميع التكوينات المختبرة. على سبيل المثال، في SiT-B/2 مع FLUX.2، انخفضت قيمة FID من 26.35 (الخطي) إلى 20.55 (Spherical-slerp).
• كفاءة التدريب: تصل الطريقة إلى هدف FID قدره 30 في عدد خطوات تدريب أقل بمقدار 2.2$\times$ مقارنة بالخط المرجعي الخطي التقليدي.
• التعميم: لوحظت المكاسب عبر مستويات مختلفة من مقاييس التوجيه (CFG) وأحجام النماذج (B و XL)، مما يشير إلى أن الفائدة متأصلة في الهندسة الكامنة وليس مجرد ضبط للمعلمات الفائقة.
• دراسات الاستئصال (Ablation Studies):
  • تبادل فك التشفير بين المسارات التقليدية والمسارات الكروية أدى إلى تدهور الأداء في كلا الاتجاهين، مما يؤكد أن التدفق المتعلم مرتبط ارتباطاً وثيقاً بهندسة الكامنة المحددة.
  • استخدام مسار "مفكك الغلاف" (استيفاء نصف القطر والاتجاه بشكل منفصل) على الكامنات التقليدية لم يحقق نفس المكاسب، مما يؤكد أن إزالة درجة الحرية الشعاعية بالكامل أمر بالغ الأهمية.
  • ظلت جودة إعادة البناء (rFID) لفك التشفير الكروي المضبوط تنافسية، مما يظهر أن القيد الهندسي لا يضر بقدرة VAE على إعادة بناء الصور.

الأهمية

تؤسس هذه الورقة هندسة دعم الكامن (latent support geometry) كمحور تصميم حرج للنمذجة التوليدية. وتجادل بأن شكل توزيع الكامن يحدد الفضاء الذي يجب أن يعبره المولد، وأن تجاهل هذه الهندسة (عبر افتراض الخطية الإقليدية) يؤدي إلى عدم الكفاءة.

تكمن أهمية هذا العمل في قدرته على تحسين جودة توليد الصور وسرعة التدريب دون:

• تغيير بنية الانتشار (مثل هيكل SiT).
• إضافة مشفرات مساعدة (على عكس مطابقة التدفق الريماني على ميزات DINOv2 المجمدة).
• إعادة تدريب مشفر VAE من الصفر.

من خلال مجرد إسقاط الكامنات المدربة مسبقاً على كرة ومواءمة مسار التدفق مع الجيوديسيات الناتلة، تحقق الطريقة نتائج متطورة بأقل تكلفة حسابية. يقترح المؤلفون أن العمل المستقبلي يجب أن يستكشف هذه القيود الهندسية تحت أنظمة ضغط أقوى وتصميم مرمزات تتوافق أصلاً مع هذه البنية الكروية.