💻 computer science

Just-in-Time: Training-Free Spatial Acceleration for Diffusion Transformers

تقدم هذه الورقة البحثية إطار العمل "الآن في حينه" (Just-in-Time - JiT)، وهو إطار عمل لا يتطلب تدريباً يعمل على تسريع نماذج محولات الانتشار (Diffusion Transformers) من خلال استغلال التكرار المكاني لحساب التحديثات على مجموعة فرعية متفرقة من رموز الارتكاز (anchor tokens)، محققاً تسريعاً يصل إلى 7 أضعاف مع جودة صورة شبه كاملة على نموذج FLUX.1-dev.

المؤلفون الأصليون: Wenhao Sun, Ji Li, Zhaoqiang Liu

نُشر 2026-03-12

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Wenhao Sun, Ji Li, Zhaoqiang Liu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك فنان كُلفت برسم جدارية ضخمة وواقعية للغاية لمدينة صاخبة.

الطريقة القديمة (المشكلة):
حالياً، يعمل أكثر فناني الذكاء الاصطني- المتقدمين (يُطلق عليهم اسم محولات الانتشار - Diffusion Transformers) مثل الشخص المثالي الذي يرسم الجدارية بأكملة، مربعاً صغيراً تلو الآخر، من أول ضربة فرشاة حتى الأخيرة. يبدأ من لوحة بيضاء مغطاة بالضجيج (النمش الرقمي) ويقوم بتنقية كل بكسل في آن واحد ببطء.

المشكلة؟ هذا بطيء للغاية. حتى بالنسبة لصورة بسيطة، يتعين على الذكاء الاصطناعي "التفكير" في كل بكسل آلاف المرات قبل أن تكتمل الصورة. الأمر يشبه محاولة ملء مسبح عن طريق صب الماء قطرة تلو الأخرى، والتحقق من المستوى بعد كل قطرة. إنه دقيق، لكنه يستغرق وقتاً طويلاً ويتطلب كمية هائلة من الطاقة.

الفكرة الجديدة (JiT - في الوقت المناسب):
تقدم الورقة البحثية طريقة جديدة تسمى JiT (Just-in-Time - في الوقت المناسب). بدلاً من رسم الجدارية بأكملها دفعة واحدة، يعمل JiT كأنه مشرف ذكي وفعال يعرف بالضبط متى وأين يرسل الرسامين.

إليك كيف يعمل JiT، مقسماً إلى ثلاثة مفاهيم بسيطة:

1. استراتيجية "الصورة الكبيرة أولاً" (التكرار المكاني)

عندما تنظر إلى صورة ضبابية تبدأ في الوضوح، ماذا ترى أولاً؟ ترى الأشكال الكبيرة: السماء، الأفق، الخطوط العريضة لمبنى ما. لا ترى ملمس الطوب أو الأوراق الفردية لشجرة إلا في النهاية.

التشبيه: تخيل بناء منزل. لن تبدأ بتركيب مقابض الأبواب وطلاء الحواف قبل أن تصب الأساس أولاً.
كيف يستخدم JiT هذا: في المراحل الأولى من إنشاء الصورة، يدرك JiT أن معظم "البكسلات" (التي تسمى الرموز - tokens) هي مجرد ملء للمساحات الفارغة أو تكرار لمعلومات الخلفية نفسها. لذا، فإنه يخبر الذكاء الاصطناعي: "مهلاً، لا تستهلك طاقة دماغية في السماء الفارغة أو الخلفية الضبابية بعد. ركز فقط على البقع الرئيسية القليلة التي تحدد الشكل الأساسي".
النتيجة: يقوم الذكاء الاصطناعي بالعمليات الحسابية الثقيلة فقط على مجموعة صغيرة ومتباعدة من "رموز المرساة" (الأجزاء المهمة) ثم يخمن الباقي. وهذا يوفر وقتاً هائلاً.

2. "التخمين الذكي" (SAG-ODE)

قد تتساءل، "إذا كان ينظر فقط إلى بضعة أماكن، ألن تكون بقية الصورة فوضوية؟"

التشبيه: فكر في أحجية الصور المقطوعة (الجيغسو). إذا كان لديك قطع الزوايا وبعض القطع الرئيسية في المنتصف، يمكنك بسهء تخمين شكل الصورة فيما بينها دون الحاجة للنظر فعلياً في كل قطعة.
كيف يستخدم JiT هذا: يستخدم JiT حيلة رياضية ذكية (تسمى الرافعة - Lifter) لأخذ الحسابات من تلك النقاط "المرساة" الهامة القليلة و"مدّها" بسلاسة لتملأ الصورة بأكملها. الأمر يشبه أخذ رسم تخطيطي منخفض الدقة واستخدام خوارزمية ذكية لملء الفجوات بحيث يبدو كصورة عالية الدقة، دون القيام بالعمل الفعلي لكل بكسل.

3. "التسليم السلس" (التدفق الجزئي الحتمي)

مع زيادة وضوح الصورة، يحتاج الذكاء الاصطناعي للبدء في الانتباه لمزيد من التفاصيل (مثل ملمس الطوب أو عيني شخص ما). يقوم JiT "بإيقاظ" المزيد من أجزاء الصورة تدريجياً.

التشبيه: تخيل طاقم بناء. في البدايل، يعمل فريق التأسيس فقط. ثم يصل فريق الهياكل. إذا قفز فريق الهياكل وبدأ بالعمل بشكل عشوائي، فقد ينهار المنزل. إنهم بحاجة إلى انتقال سلس حيث يتناسب العمال الجدد تماماً مع العمال القدامى.
كيف يستخدم JiT هذا: عندما يقرر JiT "إيقاظ" قسم جديد من الصورة، فإنه يستخدم عملية تدفق جزئي (Micro-Flow) خاصة. إنه يوجه الأجزاء الجديدة غير النشطة بلطف لتتطابق مع أسلوب ومستوى الضجيج في الأجزاء النشطة. هذا يمنع حدوث "خلل" أو عيوب غريبة (مثل ظهور وجه ضبابي فجأة على جسم حاد). إنه يضمن أن يكون الانتقال غير مرئي للعين البشرية.

سحر "في الوقت المناسب" (Just-in-Time)

اسم Just-in-Time يأتي من مجال التصنيع (مثل مصانع سيارات تويوتا)، حيث يتم تسليم الأجزاء تماماً عندما تكون هناك حاجة إليها، وليس قبل ذلك.

الطريقة القديمة: يحاول الذكاء الاصطناعي معالجة الصورة بأكملها (جميع الأجزاء) في كل خطوة، حتى عندما لا يحتاج لذلك.
طريقة JiT: يقوم JiT بتسليم "القدرة الحسابية" (الأجزاء) في الوقت المناسب تماماً.
- المرحلة المبكرة: تتم معالجة "الهيكل العظمي" للصورة فقط.
- المرحلة المتوسطة: تُضاف "العضلات" و"الجلد".
- المرحلة النهائية: يتم وضع "المكياج" و"المجوهرات" (التفاصيل الدقيقة).

النتائج

اختبرت الورقة البحثية هذا على FLUX.1-dev، وهو أحد أفضل مولدات الصور المتاحة اليوم.

السرعة: جعلت الذكاء الاصطناعي أسرع بـ 4 إلى 7 مرات.
الجودة: بدت الصور مطابقة تقريباً للنسخة البطيئة والمثالية. لم تكن هناك بقع ضبابية أو أعطال غريبة.
لا حاجة لإعادة التدريب: الجزء الأفضل؟ لم يضطروا لإعادة تدريب نموذج الذكاء الاصطناعي. لقد قاموا فقط بتغيير طريقة تشغيل الذكاء الاصطناعي، مثل إعطاء تعليمات أفضل لـ "سوبر كمبيوتر" بدلاً من بناء كمبيوتر جديد.

باختة القول:
JiT يشبه توظيف فريق من الرسامين الذين يتوقفون عن محاولة رسم الجدار بأكملها في وقت واحد. بدلاً من ذلك، يركزون على الأشكال الكبيرة أولاً، ويخمنون المساحات الفارغة، ولا يستدعون الرسامين المختصين بالتفاصيل إلا عندما تقترب الصورة من الاكتمال. النتيجة؟ تحفة فنية تم إنجازها في جزء بسيط من الوقت.

إليك ملخص تقني مفصل لورقة البحث بعنوان "Just-in-Time: Training-Free Spatial Acceleration for Diffusion Transformers".

1. بيان المشكلة

حققت نماذج محولات الانتشار (Diffusion Transformers - DiTs)، مثل FLUX.1-dev، أداءً فائقاً (SOTA) في توليد الصور. ومع ذلك، فإن نشرها العملي يعوقه التكلفة الحسابية العالية الناجمة عن عاملين:

التعقيد التربيعي: تزداد آلية الانتباه الذاتي (self-attention) بشكل تربيعي ( $O(N^2)$ ) مع عدد الرموز (tokens) المدخلة ( $N$ )، مما يجعل التوليد عالي الدقة مكلفاً للغاية.
أخذ العينات التكراري: تتطلب عملية إزالة الضجيج (denoising) مئات من عمليات تقييم الدوال العصبية (NFEs).

تركز طرق التسريع الحالية بشكل أساسي على المجال الزمني (تقليل عدد خطوات أخذ العينات عبر التقطير أو الحلول المتقدمة) أو كفاءة المعلمات (الكمية أو تخزين الميزات). وتتجاهل هذه الأساليب غالباً الفائض المكاني (spatial redundancy). تتبع نماذج الانتشار بطبيعتها عملية توليد من "الخشن إلى الناعم": حيث تظهر الهياكل منخفضة التردد العالمية في وقت مبكر، بينما يتم صقل التفاصيل عالية التردد لاحقاً. وتعامل الطرق الحالية جميع المناطق المكانية بشكل موحد طوال العملية، مما يهدر الحوسبة في مناطق لا تتطلب بعدُ معالجة دقيقة.

2. المنهجية: Just-in-Time (JiT)

يقترح المؤلفون إطار عمل JiT، وهو إطار عمل خالٍ من التدريب (training-free) يعمل على تسريع التوليد من خلال تقليل الحمل الحسابي ديناميكياً في المجال المكاني. بدلاً من معالجة جميع الرموز في كل خطوة، يقوم JiT بحساب حقل السرعة الكامل بناءً على مجموعة فرعية متفرقة ومختارة ديناميكياً من "رموز المرساة" (anchor tokens)، مع تقريب بقية الرموز.

يتكون إطار العمل من مكونين أساسيين:

أ. معادلة تفاضلية عادية مكانية تقريبية (SAG-ODE)

يتحكم هذا المكون في تطور الحالة الكامنة (latent state) خلال مرحلة معينة حيث يكون جزء فقط من الرموز نشطاً.

الآلية: يصيغ معادلة تفاضلية عادية (ODE) توليدية حيث يتم حساب حقل السرعة فقط على مجموعة متفرقة من رموز المرساة ( $\Omega_k$ ).
مشغل الرفع المعزز ( $\Pi_k$ ): لدفع تطور كامل الحالة الكامنة (بما في ذلك الرموز غير النشطة) باستخدام حسابات رموز المرساة فقط، يقدم JiT مشغل رفع (lifter operator).
- الجزء الدقيق: يتم وضع السرعة المحسوبة لرموز المرساة في مواضعها الصحيحة.
- جزء التقريب: يتم استقراء السرعة للرموز غير النشطة باستخدام مشغل استكمال مكاني سلس ( $I_k$ ) بناءً على سرعات رموز المرساة.
الاتساق: يضمن التصميم أن تظل ديناميكيات رموز المرساة دقيقة (صفر خطأ تقريبي على الرموز النشطة)، بينما يتم توجيه الرموز غير النشطة بواسطة تقريب مدرك للهيكل.

ب. التدفق الميكروي الحتمي (Deterministic Micro-Flow - DMF)

عندما تنتقل عملية التوليد من مرحلة متفرقة إلى مرحلة أكثر كثافة (تنشيط رموز جديدة)، فإن الحقن الساذج للحالة قد يسبب عيوباً أو عدم توافق إحصائي.

الآلية: يعد DMF عبارة عن معادلة تفاضلية عادية (ODE) قصيرة وذات زمن محدد، تعمل على تطوير الرموز التي تم تنشيطها حديثاً بشكل حتمي من حالتها المستقرأة إلى هدف صحيح إحصائياً.
بناء الهدف: يجمع الهدف بين المعلومات الهيكلية من المرساة الموجودة (المستقرأة إلى البعد الجديد) مع مستوى الضجيج الصحيح المطلوب لمسار مطابقة التدفق (flow matching trajectory).
الوظيفة: يضمن هذا الانتقالات السلسة، ويحافظ على استمرارية الفضاء الكامن ويمنع العيوب البصرية (مثل الضبابية أو عدم الاتساق الهيكلي) أثناء توسيع الأبعاد.

ج. تنشيط الرموز الموجه بالأهمية (Importance-Guided Token Activation - ITA)

بدلاً من استخدام شبكة ثابتة لاختيار الرموز، يستخدم JiT استراتيجية ديناميكية:

المقياس: يحسب خريطة أهمية مكانية بناءً على التباين المحلي لحقل السرعة المتوقع ( $u_\theta$ ).
الاستراتيجية: تُعطى الأولوية للمناطق ذات التباين العالي في السرعة (مما يشير إلى توليد نشط للتفاصيل مثل الحواف أو الأنسجة). يتم تنشيط الرموز الجديدة في هذه المناطق ذات المعلومات العالية أولاً، مما يضمن تخصيص الموارد الحسابية حيث تشتد الحاجة إليها.

3. المساهمات الرئيسية

إطار عمل مبتكر خالٍ من التدريب: يعد JiT أول طريقة خالية من التدريب تحقق تسريعاً مكانياً في نماذج DiT من خلال إلغاء الحاجة تماماً لخطوات زيادة الحجم (upsampling) أو التصحيح التي يسهل الخطأ فيها والموجودة في الطرق الهرمية.
SAG-ODE ومشغل الرفع: يقدم معادلة تفاضلية عادية ذات أساس رياضي تدفع تطور الحالة الكاملة باستخدام حسابات متفرقة، مع الحفاظ على الديناميكيات الدقيقة للرموز الحرجة.
التدفق الميكروي الحتمي (DMF): آلية مبتكرة للتعامل مع انتقالات المراحل، مما يضمن الصحة الإحصائية والتماسك الهيكلي عند توسيع مجموعة الرموز.
التخصيص الديناميكي للموارد: تركز استراتيجية ITA ديناميكياً الحوسبة على المناطق المكانية البارزة، بما يتماشى مع الطبيعة الجوهرية للنماذج من الخشن إلى الناعم.

4. النتائج التجريبية

تم تقييم الطريقة على نموذج FLUX.1-dev (وهو نموذج DiT رائد) وتم توسيعها لتشمل Qwen-image و HunyuanVideo-1.5.

التسريع: يحقق JiT تسريعاً يصل إلى 7 أضعاف (تقليل وقت الاستدلال من ~25 ثانية إلى ~3.6 ثانية) وتسريع قدره 4 أضعاف مع فقدان ضئيل جداً في الجودة.
مقاييس الجودة:
- CLIP-IQA / ImageReward / HPSv2.1: يتفوق JiT على النماذج المرجعية (baselines) الحالية (بما في ذلك RALU، وBottleneck Sampling، وTaylorSeer، وTeaCache) في كل من المقاييس الآلية وتفضيلات البشر.
- المواءمة بين النص والصورة: يحافظ على درجات عالية في GenEval وT2I-CompBench، مما يحافظ على التماسك الدلالي حتى عند تسريع قدره 7 أضعاف.
الجودة البصرية: على عكس الطرق المنافسة التي تعاني من الضبابية، أو الأخطاء الدلالية، أو العيوب الهيكلية، ينتج JiT صوراً عالية الدقة مع نصوص مقروءة وتفاصيل دقيقة حتى عند التسريع الشديد.
دراسات الاستبعاد (Ablation Studies): يؤدي إزالة تقريب SAG-ODE أو هدف DMF إلى انخفاض كارثي في الجودة، مما يؤكد ضرورة كلا المكونين.

5. الأهمية

تحول في النموذج (Paradigm Shift): ينقل المجال من التسريع الزمني الموحد إلى التسريع المكاني الديناميكي، مستغلاً الفائض المتأصل في عمليات التوليد.
النشر العملي: يقدم حلاً "جاهزاً للاستخدام" (Plug-and-play) ولا يتطلب تدريباً، مما يقلل بشكل كبير من متطلبات الأجهزة لتوليد الصور والفيديو عالي الدقة، مما يجعل نماذج DiT قابلة للتطبيق في التطبيقات الفورية وتطبيقات المستهلكين.
القدرة على التعميم: يثبت فعاليته عبر بنيات نماذج مختلفة (FLUX، Qwen) وأنماط متعددة (صورة، فيديو)، مما يثبت أن الفائض المكاني من الخشن إلى الناعم هو خاصية أساسية لتدفقات احتمالية الانتشار.

باخت ملخص، يعيد JiT تعريف المقايضة بين السرعة والدقة في محولات الانتشار (Diffusion Transformers) من خلال تأجيل الحوسبة بذكاء في المناطق المكانية الأقل أهمية حتى الحاجة إليها، محققاً تسريعاً هائلاً دون إعادة تدريب أو التضحية بجودة التوليد.