ملخص تقني: P-Guide: التوجيه المسبق عالي الكفاءة في المعلمات للتوليد أحادي المرور باستخدام CFG

1. بيان المشكلة

أصبح التوجيه عبر المصنف الحر (Classifier-Free Guidance - CFG) هو المعيار الفعلي لتحقيق دقة عالية ومحاذاة دلالية في التوليد الشرطي في النماذج الحديثة القائمة على التدفق (Flow-based) والانتشار (Diffusion) (مثل Stable Diffusion، وFLUX، وSDXL). ومع ذلك، يفرض CFG التقليدي عائقًا حسابيًا كبيرًا: فهو يتطلب مروريًا أماميًا مزدوجين عند كل خطوة أخذ عينات. يجب على النموذج تقييم حقل السرعة مرتين — مرة للفرع الشرطي ($v(x_t, t|y)$) ومرة للفرع غير الشرطي ($v(x_t, t|\emptyset)$) — لحساب سرعة التوجيه المستخرجة. وهذا يؤدي فعليًا إلى مضاعفة زمن الاستجابة (Latency) أثناء الاستدلال، مما يعيق نشر تدفقات التوليد عالية الدقة في البيئات التي تتطلب استجابة فورية أو موارد محدودة. وبينما توجد استراتيجيات تخفيف حالية مثل التقطير (Distillation) أو تقليص الخطوات، إلا أنها غالبًا ما تتطلب إعادة تدريب مكثفة أو تضحي بالاتساق الهندسي لمسار التوليد.

2. المنهجية: إطار عمل P-Guide

يقترح المؤلفون P-Guide (Prior-Guide)، وهو إطار عمل ينقل آلية التوجيه من استخراج السرعة التكراري أثناء أخذ العينات إلى تعديل مهيكل لـ الحالة الكامنة الأولية في الفضاء المسبق (Prior Space). وهذا يتيح توليدًا شرطيًا عالي الجودة عبر مرور استدلال واحد.

2.1 المفهوم الجوهري

بدلاً من تصحيح حقل السرعة عند كل خطوة تكامل، يقوم P-Guide بحقن المعلومات الشرطية في نقطة البداية للمسار ($z$). يعتمد إطار العمل على تقريب على مستوى المسار: تحت افتراض الدرجة الأولى، يكون الإزاحة المهيكلة في الفضاء المسبق مكافئة لاستخراج حقل السرعة المستخدم في CFG القياسي. ومن خلال تثبيت مسار التفاضل العادي (ODE) العالمي عند $t=0$، يمكن للنموذج اتباع مسار حتمي يتوافق طبيعيًا مع الشرط المستهدف دون الحاجة إلى تصحيحات إضافية.

2.2 بارامتريّة المسبق (Prior Parameterization)

يقوم الأسلوب ببارمترة التوزيع المسبق $p_0(z|y)$ ليكون معتمدًا على البيانات، متجاوزًا التوزيع الطبيعي غير المدرك (Uninformed Gaussian Prior) القياسي.

• P-Guide متجانس التباين (Homoscedastic): يقوم الشرط $y$ بتعديل المتوسط فقط للمسبق، $\mu_\phi(y)$، بينما يظل التباين ثابتًا. الحالة الأولية هي $z = \epsilon + \mu_\phi(y)$.
• P-Guide متباين التباين (Heteroscedastic) (توسعة): يقوم الشرط بتعديل كل من المتوسط $\mu_\phi(y)$ والمقياس $\sigma_\phi(y)$. الحالة الأولية هي $z = \mu_\phi(y) + \sigma_\phi(y) \odot \epsilon$. وهذا يسمح للنموذج بالتقاط عدم اليقين المعتمد على البيانات وتطبيق تخفيف الخسارة التكيفي، مما يقلل من وزن العينات الصاخبة أثناء التدريب.

2.3 نموذج التدريب

يستخدم P-Guide استراتيجية تدريب تسلسلية من مرحلتين:

1. المرحلة 1 (تعلم المسبق): يتم تدريب وحدة المسبق $F_\phi(y)$ لتقليل السلب اللوغاريتمي (NLL) المستهدف للبيانات. يتعلم هذا المتوسط والتباين الشرطي، مما يخلق "بذرة دلالية" تشفر النمط المستهدف.
2. المرحلة 2 (مطابقة التدفق - Flow Matching): يتم تدريب حقل السرعة الأساسي $v_\theta$ باستخدام هدف مطابقة تدفق معدل. يتم أخذ نقاط البداية $z$ من المسبق الشرطي المتعلم (المجمد). وبما أن $z$ أقرب جغرافيًا إلى المنطوق المستهدف، فإن حقل السرعة يتعلم مسارات أكثر استقامة وكفاءة.

2.4 إجراء الاستدلال

أثناء الاستدلال، يتم حساب الحالة الأولية الموجهة $z_{cfg}$ مباشرة في الفضاء المسبق باستخدام مزيج خطي من المعلمات المتعلمة:
$$z_{cfg} = \mu_\phi(\emptyset) + w(\mu_\phi(y) - \mu_\phi(\emptyset)) + [\sigma_\phi(\emptyset) + w(\sigma_\phi(y) - \sigma_\phi(\emptyset))] \odot \epsilon$$
بعد ذلك، يتم حل الـ ODE مرة واحدة بدءًا من $x_0 = z_{cfg}$. وهذا يلغي الحاجة إلى تقييمات مزدوجة لحقل السرعة في كل خطوة.

3. المساهمات الرئيسية

• التقريب على مستوى المسار: يقدم المؤلفون اشتقاقًا نظريًا (النظرية 1) يوضح أنه، تحت افتراض استجابة خطية من الدرجة الأولى، تؤدي إزاحة الحالة الكامنة الأولية إلى نفس اضطراب المسار الناتج عن استخراج حقل السرعة. وهذا يثبت التكافؤ النظري بين التوجيه في الفضاء المسبق وCFG القياسي.
• استدلال أحادي المرور عالي الكفاءة في المعلمات: يحقق P-Guide التحكم الشرطي من خلال تعديل الحالة الأولية، مما يقلل التكلفة الحسابية لـ CFG بنسبة تقارب 50% (تسريع بمقدار 2x) مع الحفاظ على مرور استدلال واحد.
• النمذجة متباينة التباين (Heteroscedastic Modeling): يقدم إطار العمل صياغة مسبقة متباينة التباين تنمذج المتوسط والتباين معًا. وهذا يتيح تخفيف الخسارة التكيفي، مما يحسن المتانة تجاه عدم اليقين في البيانات والظروف الصاخبة.
• أعباء إضافية ضئيلة: بصمة المعلمات الإضافية لوحدة توجيه المسبق ضئيلة جدًا (حوالي 1.247 ميجابايت)، مما يجعل دمجها سهلاً في البنى الحالية دون تعديل النموذج الأساسي.

4. النتائج التجريبية

قيم المؤلفون P-Guide على MNIST، وCIFAR-10، وImageNet-1k (256x256) باستخدام بنى U-Net وDiffusion Transformer (DiT).

• الكفاءة: يحقق P-Guide باستمرار انخفاضًا بمقدار 2x في GFLOPs لكل عملية توليد صورة مقارنة بـ CFG القياسي مزدوج المرور، حيث يتطلب مرورًا أماميًا واحدًا فقط.
• الجودة:
  • في MNIST وCIFAR-10، يحقق P-Guide مسافة Fréchet Inception Distance (FID) ودقة تصنيف تنافسية مع CFG القياسي. وعادة ما يتفوق الإصدار متباين التباين على نسخة التباين الثابت.
  • في ImageNet-1k، يظهر P-Guide أن زيادة مقياس التوجيه $w$ (على سبيل المثال، من 1.0 إلى 1.1 أو 1.2) تعمل على شحذ البنية الدلالية وتقليل FID (على سبيل المثال، تتحسن FID الخاصة بـ U-Net من 27.78 إلى 22.33 عند $w=1.1$).
• المتانة: بينما يعد P-Guide أكثر حساسية لاختيار مقياس التوجيه $w$ (مما يظهر نطاقًا فعالًا أضيق من CFG القياسي)، فإنه يحافظ على دقة عالية ضمن ذلك النطاق.
• الأدلة البصرية: تؤكد تصورات المسار أن الإزاحة الأولية تعمل كمرساة اتجاهية، مما يتسبب في تركيز المسارات على الأنماط المستهدفة فورًا من $t=0$، مما يؤكد صحة التقريب على مستوى المسار.

5. الأهمية والادعاءات

يزعم البحث أن P-Guide يقدم حلاً مبدئيًا وعالي الكفاءة في المعلمات لعائق المرور المزدوج في نماذج مطابقة التدفق والانتشار. من خلال نقل التوجيه إلى أصل المسار، يفصل P-Guide التحكم الشرطي عن عملية أخذ العينات التكرارية.

يؤكد المؤلفون أن P-Guide:

1. يحافظ على الدقة: يحافظ على جودة العينات والمحاذاة مع المطالبات (prompts) بشكل تنافسي مع الخطوط المرجعية القياسية مزدوجة المرور.
2. يتيح القابلية للتوسع: إن تقليل زمن الاستدلال بنسبة 50% يجعل تدفقات التوليد عالية الدقة أكثر قابلية للتطبيق في التطبيقات التي تتطلب استجابة فورية وواسعة النطاق.
3. يكمل الأنظمة الحالية: إطار العمل متوافق تمامًا مع ديناميكيات CFG القياسية ويمكن اعتباره تعزيزًا مكملاً يعمل على التوزيع الأولي بدلاً من تعطيل تدفق الـ ODE الأساسي.

يشير العمل إلى أن التحكم في مساحة المصدر (المسبق) هو بديل فعال ومنطقي للتحكم في حقل السرعة طوال عملية التوليد، مما يوفر أساسًا قابلاً للتوسع لأنظمة التوليد عالية الدقة في المستقبل.