ملخص تقني: انزياح ميزات المعلم (TFD)

بيان المشكلة

تحقق نماذج الانتشار (Diffusion) ومطابقة التدفق (Flow-matching) المدربة مسبقاً جودة عالية في توليد الصور، لكنها تعاني من تكاليف استدلال باهظة، حيث تتطلب غالباً عشرات أو مئات التمريرات الأمامية لتوليد صورة واحدة. وبينما توجد طرق تقطير (Distillation) لضغط هذه النماذج "المعلمة" متعددة الخطوات إلى مولدات فعالة ذات خطوة واحدة أو خطوات قليلة، إلا أن الأساليب الحالية تواجه تعقيداً كبيراً. تعتمد طرق مثل "تقطير مطابقة التوزيع" (DMD) ومتغيراتها على شبكات مساعدة (مثل شبكات الدرجة المزيفة own-score أو المميزات التنافسية)، بينما قد تعاني أساليب أخرى، مثل "نماذج الاتساق" (Consistency Models)، من عدم استقرار التدريب أو تتطلب عمليات معقدة لضرب جاكوبي-فيكتور (Jacobian-vector products). علاوة على ذلك، فإن أهداف "نماذج الانزياح" (Drifting Model) الحديثة، التي تقدم خسارة جذب-تنافر مباشرة لتوليد الخطوة الواحدة، تعتمد عادةً على مستخرج ميزات مدرب مسبقاً (مثل النماذج ذاتية الإشراف أو latent-MAE) لتحديد فضاء التمثيل، مما يؤدي إلى عبء تدريبي إضافي وتعقيد معماري.

تتمثل المشكلة الجوهرية التي يعالجها هذا البحث في كيفية تحقيق تقطير انتشار عالي الجودة وفعال بـ "هدف واحد" دون الاعتماد على شبكات مساعدة، أو مسارات تحسين معقدة، أو مستخرجات ميزات خارجية.

المنهجية: انزياح ميزات المعلم (TFD)

يقترح المؤلفون إطار عمل "انزياح ميزات المعلم" (Teacher-Feature Drifting - TFD)، الذي يبسط عملية التقطير للخطوة الواحدة عبر الاستفادة من التمثيلات الداخلية لنموذج المعلم المدرب مسبقاً نفسه.

1. فضاء التمثيل المستحث من المعلم

على عكس نموذج الانزياح الأصلي الذي يتطلب مشفر ميزات خارجياً، يستخدم TFD الحالات الخفية المتوسطة لنموذج المعلم المجمد كفضاء للميزات لحساب خسارة الانزياح.

• الآلية: بالنسبة لعينة مولدة $x$ وعينة حقيقية $x^+$، يتم استخراج الميزات من طبقات محددة $\ell$ من شبكة المعلم $T$: $\phi^\ell_T(x, c) = h^\ell_T(x, t_f, c)$.
• خسارة الانزياح: يتم حساب مجال الانزياح مباشرة في هذا الفضاء المستحث من المعلم. يتم تحسين المولد $f_\theta$ لتقليل المسافة بين مخرجاته و"الهدف المنقول المجمد" المحدد بواسطة مجال الجذب-التنافر لفضاء ميزات المعلم. هذا يربط هدف التقطير بالنموذج الذي يتم تقطيره، مما يلغي الحاجة إلى شبكة تمثيل منفصلة.

2. استخراج الميزات المشوشة

تعد النتيجة التجريبية الرئيسية هي أن استخراج الميزات من المدخلات المشوشة بشكل متوسط يعطي نتائج أفضل من استخدام العينات النقية.

• قبل تغذية العينة في المعلم لاستخراج الميزات، يتم تشويهها باستخدام عملية التشويه الأمامية للمعلم: $x_{tf} = x + \sigma_{tf} \xi$.
• يفترض المؤلفون أن هذا الاضطراب يعمل على تنعيم هندسة ميزات المعلم، مما يقلل من التباينات عالية التردد ويجعل فضاء التمثيل أكثر ملاءمة لمطابقة التوزيع. وتشير التجارب إلى أن مستوى تشويش $\sigma_{tf} = 0.1$ هو الأمثل.

3. تنظيم هامش المرساة (Anchor-Margin Regularization)

لمعالجة مشكلة انهيار النمط (حيث يفشل المولد في تغطية المناطق المتنوعة التي يدعمها المعلم)، قدم المؤلفون خسارة هامش مرساة خفيفة الوزن.

• المراسي (Anchors): يتم استخراج مجموعة من ميزات المرساة $\{a_i\}$ من العينات الحقيقية أو العينات المولدة من المعلم.
• الآلية: تشجع الخسارة العينات المولدة على احتلال مناطق حول هذه المراسي. وهي تعدل بشكل تكيفي "الدعم" المطلوب لكل مرساة بناءً على الكثافة المحلية لتوزيع المرساة نفسها.
• الهدف: يوفر هذا إشارة تغطية تكميلية لهدف الانزياح المحلي (جذب-تنافر)، مما يضمن أن يغطي المولد الطالب المناطق المتنوعة التي يدعمها المعلم دون إدخال شبكات جديدة.

تجمع دالة الهدف النهائية بين خسارة انزياح ميزات المعلم ($L_{TFD}$) وخسارة هامش المرساة ($L_{anchor}$):
$$L = L_{TFD} + \lambda_{anchor} L_{anchor}$$

المساهمات الرئيسية

1. إطار عمل مبسط: يقترح TFD إطار عمل لتقطير الانتشار بخطوة واحدة يحسب هدف الانزياح مباشرة في فضاء التمثيل الخفي للمعلم المدرب مسبقاً، مما يلغي الحاجة إلى شبكة تمثيل إضافية.
2. استخراج الميزات المشوشة: يوضح العمل أن استخراج ميزات المعلم من مدخلات مشوشة بشكل متوسط يحسن هندسة الميزات للتقطير، مما يؤدي إلى درجات FID أفضل.
3. تخفيف انهيار النمط: تم تقديم خسارة هامش مرساة خفيفة الوزن لتشجيع تنوع العينات وتغطية مناطق الميزات المدعومة من المعلم، مما يعالج أحد أوجه الفشل الشائعة في التقطير.
4. الأداء: يحقق TFD جودة وتنوع صور تنافسيين في تمريرة واحدة، مما يبسط عملية التقطير الإجمالية بشكل كبير مقارنة بالنماذج المرجعية المتطورة.

النتائج التجريبية

قيم المؤلفون TFD على مجموعة بيانات ImageNet-64×64 (الشرط الفئوي) وتوليد SDXL (النص إلى صورة).

• ImageNet-64×64:

  • حقق TFD FID قدره 1.58 بتمريرة واحدة بعد 200 ألف دورة تدريبية.
  • هذه النتيجة تنافس DMD2 (FID 1.51) وتتفوق بشكل كبير على غيرها من النماذج المرجعية للخطوة الواحدة مثل DMD (2.62)، وEMD (2.20)، وCTM (1.92).
  • التقارب: وصل TFD إلى FID $\le$ 10 في 1.0 ألف تحديث، بينما تطلب نموذج DMD2 المرجعي 5.5 ألف تحديث (أسرع بـ 5.5 مرة). كما وصل إلى FID $\le$ 3 في 12.5 ألف تحديث مقار بـ 24.0 ألف تحديث لـ DMD2.

• توليد النص إلى صورة (SDXL):

  • على مجموعة بيانات COCO 2014، حقق TFD FID قدره 18.39 بتمريرة واحدة، متفوقاً على متغيرات SDXL المقطرة الأخرى (مثل DMD2 عند 19.01، وSDXL-Turbo عند 24.57).
  • حافظ على درجة CLIP تنافسية بلغت 0.332، مما يشير إلى توافق قوي بين النص والصورة.
  • أظهرت النتائج النوعية أن TFD يحافظ على بنية متماسكة، وتفاصيل بصرية، ومحاذاة مع المطالبة (prompt) تضاهي النماذج المقطرة بـ 4 خطوات ونموذج المعلم ذي الـ 50 خطوة، رغم استخدامه خطوة واحدة فقط.

الأهمية والادعاءات

يزعم البحث أن TFD يقدم بديلاً أبسط وأكثر كفاءة لأطر التقطير الحالية. فمن خلال استخدام نموذج المعلم نفسه كمستخرج للميزات، يتجنب TFD تعقيد تدريب الشبكات المساعدة أو تصميم مسارات متعددة المراحل. إن إدخال استخراج الميزات المشوشة وتنظيم هامش المرساة يعالج تحديات هندسة التمثيل وتغطية النمط على التوالي.

يضع المؤلفون TFD كمنهج يحقق توليد الخطوة الواحدة بجودة وتنوع صور تنافسيين، مما يثبت أن هدفاً واحداً في الفضاء التمثيلي الأصلي للمعلم كافٍ للتقطير عالي الدقة. يشير العمل إلى أن مفهوم "الانزياح" يمكن تحقيقه بفعالية دون مشفرات ميزات خارجية، بشرًا بشر استخدام الحالات الداخلية للمعلم بشكل صحيح.

القيود: يشير المؤلفون إلى أن العمل الحالي يركز على معلم يعتمد على بنية U-Net ولم يستكشف بعد بنيات Diffusion Transformer (DiT). بالإضافة إلى ذلك، فإن اختيار طبقات الميزات ومستويات الضجيج يفتقر حالياً إلى التوجيه النظري، ولم يتم اختبار الطريقة على مجموعات بيانات أكبر أو إعدادات ذات دقة أعلى خارج التجارب الحالية.