CMT: Mid-Training for Efficient Learning of Consistency, Mean Flow, and Flow Map Models

إليك ملخص تقني مفصل لورقة البحث: "CMT: التدريب المتوسط للتعلم الفعال لنماذج الاتساق، ومتوسط التدفق، وخريطة التدفق."

1. بيان المشكلة

تهدف نماذج خريطة التدفق (Flow map models)، مثل نماذج الاتساق (CM) ومتوسط التدفق (MF)، إلى تمكين التوليد في خطوات قليلة (أو خطوة واحدة) عبر تعلم خريطة الحل المباشر (التكامل) لمعادلة التدفق العادي لتدفق الاحتمالية (PF-ODE) المستخدمة في نماذج الانتشار. وبينما تعد هذه النماذج بتوليد سريع، إلا أن تدريبها يواجه ثلاثة تحديات حرجة:

• عدم الاستقرار: التدريب حساس للغاية للمعلمات الفائقة (hyperparameters) وغالبًا ما يكون عرضة للتباعد (divergence).
• التحيز والضجيج: تعتمد الطرق الحالية على أهداف شبه مستهدفة تعتمد على "إيقاف التدرج" (stop-gradient) (مثل استخدام الخطوة السابقة للنموذج نفسه أو مخرجات نموذج المعلم)، والتي تنحرف أثناء التدريب، مما يؤدي إلى إدخال تحيز وإشارات تحسين غير مستقرة.
• التكلفة العالية: يتطلب التدريب من الصفر، أو حتى التهيئة من نماذج انتشار مدربة مسبقًا، موارد حوسبة هائلة (ساعات GPU) وميزانيات بيانات ضخمة. تلتقط نماذج الانتشار المدربة مسبقًا التحركات المتناهية الصغر، بينما يجب على خرائط التدفق تعلم قفزات متكاملة كبيرة؛ وهذا التباين يجعل التهيئة المباشرة هشة وبطيئة في التقارب.

2. المنهجية: التدريب المتوسط للاتساق (CMT)

يقترح المؤلفون CMT، وهو مرحلة "تدريب متوسط" (mid-training) مبتكرة يتم إدراجها بين مرحلة ما قبل التدريب الأولية لنموذج الانتشار (أو نموذج خريطة تدفق أصغر) ومرحلة ما بعد التدريب النهائية لخريطة التدفق.

المفهوم الجوهري

يعامل CMT تعلم خريطة التدفق كمسألة انحدار متسق مع المسار (trajectory-consistent regression). فبدلاً من التعلم من أهداف ذاتية تولدت من ضجيج أو تهيئة عشوائية، يقوم CMT بتدريب النموذج ليرسم خريطة لأي نقطة على طول مسار محسوب مسبقًا وعالي الجودة مباشرة إلى الطرف النهائي النظيف لهذا المسار نفسه.

خط الإنتاج ثلاثي المراحل

1. المرحلة الأولى: ما قبل التدريب (عينة المعلم):
   • يستخدم نموذج انتشار موجود وعالي الجودة (مثل EDM أو EDM2) أو نموذج خريطة تدفق أصغر.
   • يتم تجهيز هذا "المعلم" بمحلل (solver) معادلة تفاضلية عادية حتمي (مثل DPM-Solver++) لتوليد مسارات عالية الدقة من عينة سابقة $x_T$ إلى عينة نظيفة $x_0$.
2. المرحلة الثانية: التدريب المتوسط (CMT):
   • الهدف: تدريب نموذج طالب ليتنبأ بالطرف النهائي النظيف ($x_0$) أو متوسط الانجراف (average drift) بين أي نقطتين على مسار المعلم.
   • دالة الخسارة (Loss Function):
     • لنماذج الاتساق (CM): يتم تدريب النموذج $f_\theta$ ليرسم خريطة من أي حالة وسيطة $\hat{x}_{t_i}$ على مسار المعلم مباشرة إلى الأصل النظيف $\hat{x}_0$.
       $$L_{CMT-CM} = \mathbb{E}_{i, x_T} [d(f_\theta(\hat{x}_{t_i}, t_i), \hat{x}_0)]$$
     • لمتوسط التدفق (MF): يتعلم النموذج متوسط الانجراف $h_\theta$ بين نقطتين على المسار.
       $$L_{CMT-MF} = \mathbb{E}_{i>j, x_T} \left[ \left\| h_\theta(\hat{x}_{t_i}, t_i, t_j) - \frac{\hat{x}_{t_i} - \hat{x}_{t_j}}{t_i - t_j} \right\|^2 \right]$$
   • الميزة الرئيسية: الأهداف ($\hat{x}_0$ أو الفروق المحدودة) هي ثابتة وصريحة (مشتقة من المعلم)، مما يلغي الحاجة إلى إيقاف التدرج، أو جداول زمنية معقدة لوزن الوقت، أو استدلالات عشوائية.
3. المرحلة الثالثة: ما بعد التدريب:
   • تُستخدم الأوزان من مرحلة CMT لتهيئة نموذج خريطة التدفق النهائي (مثل ECT أو ECD أو MF).
   • نظرًا لأن التهيئة أصبحت بالفعل "متسقة مع المسار"، فإن مرحلة ما بعد التدريب اللاحقة تتقارب بسرعة واستقرار مع حد أدنى من الحيل الهندسية.

3. المساهمات الرئيسية

• نموذج جديد: يقدم مفهوم التدريب المتوسط لتوليد الصور، مما يسد الفجوة بين ما قبل تدريب الانتشار وما بعد تدريب خريطة التدفق.
• ضمان نظري: تقدم الورقة تحليلاً نظرياً (النظرية 5.1) يوضح أن تهيئة CMT تقلل بشكل كبير من تحيز التدرج (gradient bias) بين خسارة التطبيق العملي وخسارة خريطة التدفق الأصلية مقارنة بالتهيئة العشوائية أو تهيئة الانتشار القياسية. وتثبت أن CMT توفر مهيئًا متسقًا مع المسار يقلل التفاوت بين الطالب والتدفق الحقيقي.
• استقلالية البنية: تعمل الطريقة مع كل من نماذج الاتساق (المعتمدة على EDM) ومتوسط التدفق (المعتمدة على Flow Matching)، ويمكنها استخدام عينات معلم مختلفة (نماذج الانتشار أو نماذج خريطة تدفق أصغر).
• البساطة: تلغي الحاجة إلى حيل تدريب معقدة مثل تكييف $\Delta t$ (annealing)، أو أخذ عينات زمنية مخصصة، أو أهداف شبه مستهدفة تعتمد على إيقاف التدرج.

4. النتائج التجريبية

قيم المؤلفون CMT على عدة اختبارات مرجعية (CIFAR-10، ImageNet 64x64/256x256/512x512، AFHQv2، FFHQ، و MS-COCO T2I).

• أداء رائد (SOTA):
  • CIFAR-10: سجلت 2-step FID قيمة 1.97 (متجاوزةً 2.01 الخاصة بـ EDM المعلم).
  • ImageNet 64x64: سجلت 2-step FID قيمة 1.32.
  • ImageNet 512x512: سجلت 2-step FID قيمة 1.84.
  • ImageNet 256x256: سجلت 1-step FID قيمة 3.34 (متفوقة على MF من الصفر التي بلغت 3.43).
• مكاسب الكفاءة:
  • كفاءة البيانات: تحقق نتائج رائدة باستخدام ما يصل إلى 98% أقل من البيانات التدريبية (الصور المعالجة) مقارنة بالنماذج المرجعية مثل sCT و sCD.
  • كفاءة الحوسبة: تقلل إجمالي وقت التدريب (ساعات GPU) بنسبة 91.4% على ImageNet 512x512 وحوالي 50% على ImageNet 256x256 مقارنة بالتدريب من الصفر.
  • التقارب: في ImageNet 256x256، يصل CMT إلى قيم FID منخفضة في نصف ساعات GPU المطللة لنموذج MF التقليدي، ويولد صورًا ذات دلالات واضية في وقت أبكر بكثير من التدريب مقارنة بالنماذج المهيأة عشوائيًا أو بانتشار.
• القوة والقدرة على التعميم: أظهرت فعالية حتى عند استخدام نموذج معلم ضعيف وأصغر (MF-B/4) لتدريب طالب أكبر (MF-XL/2)، مما يثبت قدرة الطريقة على نقل معرفة المسار بفعالية.

5. الأهمية

يحدث هذا العمل تحولًا جذريًا في نموذج التدريب لنماذج التوليد ذات الخطوات القليلة. فمن خلال تقديم مرحلة وسيطة متسقة مع المسار ومنضبطة، يحل CMT المشكلات طويلة الأمد المتمثلة في عدم الاستقرار والتكلفة الحوسبية العالية في تعلم خريطة التدفق.

• الأثر العملي: يجعل تدريب نماذج التوليد عالية الجودة ذات الخطوات القليلة أمرًا ممكنًا بميزانيات موارد أقل بكثير، مما يسهل الوصول إلى سرعات التوليد الرائدة عالميًا.
• الرؤية النظرية: توضح الورقة أن عدم الاستقرار في الطرق السابقة ينبع من عدم التطابق بين التهيئة وهدف خريطة التدفق الحقيقي، وأن "التهيئة المتسقة مع المسار" هي المفتاح لتحقيق استقرار الأمثلة (optimization).
• القدرة على التعميم: لا يقتماط الإطار بنماذج معمارية محددة، بل يقدم وصفة عامة لتحسين تدريب أي نموذج توليدي يعتمد على المعادلات التفاضلية العادية (ODE).

باختصار، يضع CMT معيارًا جديدًا لتدريب نماذج خريطة التدفق، محققًا جودة فائقة بتكاليف أقل بكثير عبر الاستفادة من استراتيجية تدريب متوسط بسيطة وقوية.