A-FloPS: Accelerating Diffusion Models via Adaptive Flow Path Sampler

ملخص تقني: A-FloPS (أداة أخذ عينات مسار التدفق التكيفي)

A-FloPS هو إطار عمل لا يتطلب تدريباً، صُمم لتسريع عملية أخذ العينات (sampling) لنماذج الانتشار (diffusion models) سابقة التدريب. يعالج هذا الإطار العقبة الحسابية المتمثلة في عملية أخذ العينات التكرارية من خلال تحويل مسار أخذ العينات إلى شكل أكثر "ملائمة للتكامل" واستخدام حل عددي تكيفي.

---

1. المشكلة: مسارات أخذ عينات غير فعالة

بينما تنتج نماذج الانتشار نتائج عالية الدقة، إلا أنها مكلفة حسابياً لأنها تتطلب العديد من الخطوات التكرارية (عدد مرتفع من تقييمات الدوال، أو ما يعرف بـ NFE). تنقسم طرق التسريع الحالية إلى فئتين:

• تتطلب تدريباً: (مثل التقطير - Distillation، ونماذج الاتساق - Consistency Models) وهي فعالة ولكنها تتطلب إعادة تدريب مكلفة ومرتبطة بنماذج أساسية محددة.
• لا تتطلب تدريباً: (مثل DDIM وDPM-Solver) وهي تعمل على تحسين الحلول العددية لمعادلة التدرج الزمني العكسي (reverse-time ODE). ومع ذلك، فإن فعاليتها تظل محدودة جوهرياً بـ البنية المتأصلة لمسار الانتشار، والذي قد يكون شديد الانحناء أو غير منتظم، مما يجعل من الصعب حتى على الحلول عالية الرتبة الحفاظ على الدقة عند عدد قليل جداً من الـ NFE.

2. المنهجية

يقترح المؤلفون حلاً يتكون من مرحلتتين يعمل بالكامل في وقت الاستدلال (inference time) دون تعديل أوزان النموذج الأصلي.

أ. إعادة تمثيل المسار (FloPS):
لاحظ المؤلفون أن نماذج مطابقة التدفق (Flow Matching - FM) تمتلك عموماً مسارات أكثر سلاسة وانتظاماً من نماذج الانتشار القياسية. وقد اشتقوا خريطة رياضية (النظرية 1) تسمح لأي نموذج انتشار سابق التدريب (بغض النظر عن جدول الضجيج الخاص به) بإعادة تمثيل نفسه إلى مجال سرعة متوافق مع مطابقة التدفق.

• يقوم هذا التحويل بتحويل دالة درجة الانتشار (diffusion score function) إلى مجال سرعة بأسلوب الـ FM.
• يعمل هذا بشكل فعال على "تقويم" مسار أخذ العينات، مما يجعله أكثر ملاءمة للتكامل العددي الفعال.

ب. التفكيك التكيفي للسرعة (A-FloPS):
حتى مع وجود مسارات أكثر سلاسة، تفقد الحلول عالية الرتبة القياسية (مثل DPM-Solver) ميزتها في إطار عمل مطابقة التدفق (FM)، لأن مجال السرعة يظهر تغيراً زمنياً ضئيلاً جداً، مما يجعل معلومات "الانحناء" التي تبحث عنها الحلول عالية الرتبة شبه منعدمة. ولحل هذه المشكلة، قدم المؤلفون آلية تكيفية:

• التفكيك: قاموا بتحليل مجال السرعة $v(x_t, t)$ إلى حد انجراف خطي ($\lambda_t x_t$) ومكون متبقٍ ($h(x_t, t)$).
• التكيف: بدلاً من استخدام معامل ثابت، يتم إعادة تقدير $\lambda_t$ عند كل خطوة تكامل باستخدام حل مغلق (closed-form solution) يقلل من التباين الزمني للمكون المتبقي.
• التكامل عالي الرتبة: من خلال كبح "الاضطراب" الزمني في المكون المتبقي، تستعيد الطريقة قدرة الحلول عالية الرتبة على التنبؤ بالحالة التالية بدقة، حتى عندما يكون عدد الخطوات صغيراً للغاية.

3. المساهمات الرئيسية

• التحويل من الانتشار إلى التدفق: طريقة تحليلية ومبدئية لتحويل أي نموذج انتشار إلى نموذج مطابقة تدفق دون الحاجة لإعادة التدريب.
• الآلية التكيفية: تقنية مبتكرة في وقت الاستدلال تقوم بتفكيك مجالات السرعة لتعظيم كفاءة أدوات التكامل عالية الرتبة.
• العمومية: إطار العمل "جاهز للاستخدام المباشر" (plug-and-play) لنماذج الانتشار، كما أنه يحسن مباشرة نماذج مطابقة التدفق الأصلية (مثل Stable Diffusion v3.5).

4. النتائج

أجرى المؤلفون تجارب واسعة النطاق على ImageNet (DiT) و COCO (Stable Diffusion v3.5):

• كفاءة فائقة: عند مستويات منخفضة للغاية من الـ NFE (كما قلي من 5 خطوات)، يحقق A-FloPS باستمرار مسافة FID (مسافة فريدشيهت للإنتروبيا) أقل وجودة صور أعلى مقارنة بأفضل أدوات أخذ العينات مثل DDIM وDPM-Solver++ وUniPC.
• الدقة البصرية: تظهر النتائج النوعية أن A-FloPS ينتج أنسجة أكثر حدة وهياكل أكثر تماسكاً، بينما تنتج أدوات أخذ العينات الأخرى ذات الخطوات المنخفضة صوراً ضبابية أو ناعمة بشكل مفرط.
• المتانة: تؤكد دراسات الاستئصال (Ablation studies) أنه بينما تساعد إعادة التمثيل (Flops) في التحسين، فإن الآلية التكيفية (A-FloPS) هي التي تطلق بالفعل فوائد التكامل عالي الرتبة في نظام الخطوات القليلة.

5. الأهمية

يمثل A-FloPS خطوة هامة نحو **النمذجة التوليدية عالية الجودة ومنخفضة زمن الاستجة. ومن خلال نقل التركيز من "تحسين الحل العددي" إلى "تحسين المسار نفسه"، يقدم المؤلفون أداة متعددة الاستخدامات يمكن تطبيقها على النماذج الضخمة الحالية (مثل Stable Diffusion) لتمكين التوليد في وقت يقارب الوقت الفعلي دون العبء الهائل لإعادة التدريب أو التقطير.