💻 computer science

Denoising as Path Planning: Training-Free Acceleration of Diffusion Models with DPCache

تقدم الورقة البحثية DPCache، وهو إطار عمل للتسريع لا يتطلب تدريباً لنماذج الانتشار، حيث يصيغ عملية أخذ العينات كمسألة تخطيط مسار عالمي ويستخدم البرمجة الديناميكية على تنسور تكلفة مدرك للمسار لاختيار الخطوات الزمنية الرئيسية المثلى، مما يحقق تسريعاً كبيراً مع حد أدنى من فقدان الجودة بل ويتفوق على النماذج المرجعية ذات الخطوات الكاملة في بعض المقاييس.

المؤلفون الأصليون: Bowen Cui, Yuanbin Wang, Huajiang Xu, Biaolong Chen, Aixi Zhang, Hao Jiang, Zhengzheng Jin, Xu Liu, Pipei Huang

نُشر 2026-03-09

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Bowen Cui, Yuanbin Wang, Huajiang Xu, Biaolong Chen, Aixi Zhang, Hao Jiang, Zhengzheng Jin, Xu Liu, Pipei Huang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول رسم لوحة فنية رائعة، ولكن لديك قاعدة صارمة: يجب أن تضيف ضربة فرشاة صغيرة واحدة في كل مرة، وعليك القيام بذلك 50 مرة للوصول إلى الصورة النهائية. هكذا تعمل مولدات الصور بالذكاء الاصطناعي الحالية (نماذج الانتشار - Diffusion Models). فهي تبدأ بلوحة مليئة بالضجيج والتشويش، ثم تقوم تدريجيًا بـ "إزالة الضجيج" خطوة بخطوة حتى تظهر صورة واضحة.

ما هي المشكلة؟ القيام بـ 50 خطوة أمر بطيء. الأمر يشبه المشي إلى متجر البقالة خطوة بخطوة بينما يمكنك القيادة بالسيارة.

تحاول الطرق الموجودة تسريع هذه العملية من خلال اتخاذ طرق مختصرة. بعضها يأخذ نفس عدد الخطوات ولكنه يمشي بشكل أسرع (مما يؤدي غالبًا إلى التعثر). وبعضها يحاول تخطي خطوات كاملة، لكنه يفعل ذلك بعشوائية—مثل سائق يقرر تخطي كل منعطف ثالث على الخريطة لأنه "يبدو كخط مستقيم". هذا غالبًا ما يؤدي إلى انتهاء الرحلة بالسيارة في خندق (صورة ضبابية أو مشوهة).

إليك DPCache: نظام الـ GPS لفن الذكاء الاصطناعي.

يقدم البحث طريقة جديدة تسمى DPCache. بدلاً من تخطي الخطوات بعشوائية، يعامل DPCache عملية توليد الصور كأنها رحلة بالسيارة ويستخدم تخطيط المسار (مثل نظام الـ GPS) لإيجاد أفضل مسار على الإطلاق.

إليك كيف يعمل، مقسمًا إلى مفاهيم بسيطة:

1. "الجولة التجريبية" (المعايرة)

قبل أن يبدأ الذكاء الاصطناعي في رسم صورتك المحددة، يقوم بـ "جولة تجريبية" صغيرة على بعض الأمثلة العشوائية.

التشبيه: تخيل سائق توصيل يختبر مسارًا جديدًا في صباح يوم ثلاثاء هادئ. يقود المسار كاملاً، ولكنه يدون أيضًا: "إذا تخطيت التوقف عند شارع Main، كم من الوقت الإضافي سأخسر؟ ماذا لو تخطيت التوقف عند شارع Oak بدلاً من ذلك؟"
الجانب التقني: يقوم الذكاء الاصطناعي بتشغيل الـ 50 خطوة كاملة على بعض العينات ويبني موتّر التكلفة (Cost Tensor). هذا بمثابة خريطة ثلاثية الأبعاد ضخمة تخبر الذكاء الاصطناعي: "التخطي من الخطوة 10 إلى الخطوة 20 غير مكلف (خطأ منخفض)، لكن التخطي من الخطوة 10 إلى الخطوة 30 مكلف (خطأ مرتفع) لأن الصورة تتغير كثيرًا هناك."

2. "المخطط الذكي" (البرمجة الديناميكية)

بمجرد أن يمتلك الذكاء الاصطناعي هذه الخريطة، فإنه لا يخمن أي الخطوات سيقوم بتخطيها. بل يستخدم خوارزمية رياضية (البرمجة الديناميكية) لحل لغز: "كيف يمكنني زيارة أقل عدد ممكن من المحطات مع الاستمرار في الوصول إلى الوجهة مع الحفاظ على مظهر مطابق للمسار الأصلي تمامًا؟"

التشبيه: بدلاً من أن يخمن السائق، يقوم نظام الـ GPS بحساب الجمع المثالي للمحطات. يقول: "حسنًا، يجب أن نتوقف عند أول 3 تقاطعات (لأن الطريق هناك صعب). بعد ذلك، يمكننا بأمان تخطي 5 محطات والقيادة مباشرة إلى التقاطع الرئيسي التالي. ثم نتخطى 2 أخرى، ثم نتوقف مجددًا."
النتيجة: ينشئ جدولًا لـ "الخطوات الرئيسية" (Key Steps). فهو يعرف بالضبط أي الخطوات حاسمة وأيها آمن لتخطيها.

3. "الطريق المختصر" (الاستدلال)

الآن، عندما تطلب من الذكاء الاصطناعي رسم صورتك، فإنه يتبع مسار الـ GPS الذي تم حسابه مسبقًا.

السحر: عند "الخطوات الرئيسية" (المحطات التي أخبره الـ GPS بالتوقف عندها)، يقوم الذكاء الاصطناعي بالعمل الشاق: يحسب الصورة، ويحدث الضجيج، ويحفظ النتيجة.
الطريق المختصر: بالنسبة لجميع الخطوات بين الخطوات الرئيسية، لا يقوم الذكاء الاصطناعي بأي عمليات حسابية ثقيلة. إنه ببساطة ينظر إلى آخر "خطوة رئيسية" تم حفظها ويستخدم خدعة رياضية ذكية (مثل التنبؤ بالإطارات التالية لمقطع فيديو بناءً على الإطار الأخير) لتخمين كيف يجب أن تبدو الصورة. إنه يشبه مشاهدة فيلم حيث ترى فقط الإطارات الرئيسية، لكن عقلك يملأ الفراغات بالحركة السلسة بينها.

لماذا يعد هذا أفضل من الطرق القديمة؟

الطريقة القديمة (الجدول الثابت): مثل حافلة تتوقف كل 5 دقائق، بغض النظر عما إذا كانت في مدينة مزدحمة أو صحراء فارغة. إنها تضيع الوقت في الصحراء وتفوت المحطات في المدينة.
الطريقة القديمة (التكيف المحلي): مثل سائق ينظر إلى الطريق الذي أمامه مباشرة ويقرر: "سأتخطى هذا المنعطف"، دون أن يرى أن هذا المنعطف يؤدي إلى منحدر. إنهم يتخذون قرارات قصيرة النظر تفسد الرحلة.
DPCache (تخطيط المسار العالمي): مثل نظام GPS يرى الخريطة كاملة. يعرف أن تخطي منعطف هنا أمر جيد لأنه يؤدي إلى طريق سريع مستقيم، لكن تخطي منعطف هناك أمر خطير. إنه يخطط الرحلة بأكملها لتكون سريعة ولكن آمنة.

النتائج

اختبر البحث هذه الطريقة على بعض أكثر نماذج الذكاء الاصطناعي تقدمًا (مثل FLUX و HunyuanVideo).

السرعة: جعلت الذكاء الاصطناعي أسرع بـ 4 إلى 5 مرات.
الجودة: كانت الصور بنفس جودة النسخ البطيئة ذات الخطوات الكاملة، أو حتى أفضل قليلاً.
الذاكرة: لم يتطلب الأمر سوبركمبيوتر؛ فقد عمل بكفاءة على الأجهزة القياسية.

باختة مختصرة

DPCache هو بمثابة إعطاء الذكاء الاصطناعي برنامج رحلة ذكي. بدلاً من إجباره على مشي كل خطوة في الرحلة، يخبره: "هذه هي أهم 10 نقاط تفتيش. امشِ عبرها بعناية. وبالنسبة لبقية الطريق، انزلق بسلاسة بينها فقط."

يسمح هذا للذكاء الاصطناعي بتوليد صور وفيديوهات عالية الجودة في ثوانٍ بدلاً من دقائق، دون فقدان التفاصيل الفنية التي تجعلها جميلة. إنه يحول عملية بطيئة ومملة إلى رحلة سريعة وفعالة.

إليك ملخص تقني مفصل لورقة البحث بعنوان "DPCache: Denoising as Path Planning: Training-Free Acceleration of Diffusion Models".

1. بيان المشكلة

حققت نماذج الانتشار (بما في ذلك محولات الانتشار مثل DiT وFLUX) نتائج هي الأفضل في مجال توليد الصور والفيديو. ومع ذلك، فإن نشرها العملي يعوقه العبء الحسابي الكبير الناتج عن عمليات أخذ العينات التكرارية متعددة الخطوات.

تنقسم استراتيجيات التسريع الحالية عمومًا إلى فئتين:

تقليل الخطوات: تقليل إجمالي عدد خطوات أخذ العينات (مثل التقطير/Distillation، أو حلول ODE)، وهو ما يتطلب غالبًا تدريبًا إضافيًا.
تحسين الخطوة الواحدة: تقليل الحوسبة لكل خطوة (مثل التقليم/Pruning، أو التكميم/Quantization، أو تخزين الميزات مؤقتًا/Feature Caching).

تعتبر طرق تخزين الميزات مؤقتًا (Feature Caching) (مثل DeepCache وTeaCache وTaylorSeer) شائعة لأنها لا تتطلب تدريبًا. فهي تعيد استخدام أو تتنبأ بالميزات من الخطوات الزمنية السابقة لتخطي عمليات المرور الأمامي الكاملة. ومع ذلك، تعاني طرق التخزين الحالية من مشكلتين رئيسيتين:

الجداول الثابتة: تستخدم أنماط تخطي موحدة تتجاهل ديناميكيات الميزات المحلية، مما يؤدي إلى انحرافات كبيرة في مناطق الانتقال الحرجة.
الجداول المتكيفة محليًا: تتخذ قرارات جشعة وقصيرة النظر بناءً على التشابه الفوري للميزات. وغالبًا ما يؤدي ذلك إلى تخطي الخطوات "الحرجة"، مما يسبب تراكمًا غير قابل للإصلاح للأخطاء والتشوهات البصرية (الانجراف/Drift) عبر مسار إزالة الضجيج.

التحدي الجوهري: هناك نقص في المنظور العالمي (Global Perspective) في الطرق الحالية؛ فهي تفشل في مراعاة هيكل مسار إزالة الضجيج بأكلته، مما يؤدي إلى مقايضات غير مثالية بين سرعة التسريع ودقة التوليد.

2. المنهجية: DPCache

يقترح المؤلفون DPCache، وهو إطار عمل للتسريع لا يتطلب تدريبًا، يعيد صياغة تسريع أخذ عينات الانتشار كمسألة تخطيط مسار عالمي (Global Path Planning). بدلاً من اتخاذ قرارات محلية جشعة، يقوم DPCache بتخطيط التسلسل الأمثل لـ "الخطوات الزمنية الرئيسية" (Key Timesteps) لحوسبتها، مع التنبؤ بالخطوات المتبقية.

أ. تنسور التكلفة المدرك للمسار (Path-Aware Cost Tensor - PACT)

لحل مشكلة التحسين العالمي، قدم المؤلفون تنسور التكلفة المدرك للمسار (PACT).

المفهوم: خطأ تخطي الخطوات الزمنية ليس مستقلًا؛ بل يعتمد على الخطوة الزمنية الرئيسية السابقة (الحالة التي يبدأ منها التنبؤ).
الهيكل: تنسور ثلاثي الأبعاد $C \in \mathbb{R}^{(T+1) \times (T+1) \times (T+1)}$ ، حيث يمثل $C[i, j, k]$ الخطأ التراكمي للتخطي من الخطوة الزمنية $j$ إلى $k$ ، بشرط أن تكون $i$ هي الخطوة الرئيسية المحوسبة السابقة.
البناء:
1. تشغيل عملية إزالة الضجيء الكاملة على مجموعة معايرة صغيرة (مثلاً ~10 عينات).
2. حساب خطأ التنبؤ التراكمي بمعيار L1 عبر جميع الخطوات المتوسطة التي تم تخطيها عند الانتقال من $j$ إلى $k$ ، بشرط الميزات المخزنة من $i$ .
3. هذا يلتقط الطبيعة المعتمدة على المسار للتنبؤ بالميزات، مما يضمن أن التكلفة تعكس فقدان الدقة الإجمالي عبر فترة زمنية، وليس مجرد خطوة واحدة.

ب. التحسين العالمي عبر البرمجة الديناميكية (Dynamic Programming)

بمجرد بناء PACT، يستخدم DPCache البرمجة الديناميكية (DP) لإيجاد الجدول الزمني الأمثل.

الهدف: اختيار تسلسل من $K$ من الخطوات الزمنية الرئيسية ( $t_1, t_2, ..., t_K$ ) التي تقلل إجمالي تكلفة المسار (مجموع تكاليف القطع) مع الحفاظ على دقة المسار.
الخوارزمية:
- جدول DP يسمى $D[m, k]$ يخزن الحد الأدنى للتكلفة التراكمية للوصول إلى الخطوة الزمنية $k$ باستخدام بالضبط $m$ من الخطوات الرئيسية.
- جدول مسار $P[m, k]$ يسجل السلف (Predecessor) لعملية التتبع العكسي.
- القيد: يتم تثبيت أول $M$ من الخطوات الزمنية كخطوات حوسبة إلزامية للحفاظ على ديناميكيات إزالة الضجيج في المراحل المبكرة.
التعقيد: عملية الاختيار لها تعقيد زمني قدره $O(KT^2)$ وتعقيد مكاني قدره $O(KT)$ . وبما أن هذا يتم مرة واحدة لكل نموذج/مجموعة بيانات وكانت قيم $K$ و $T$ صغيرة (مثلاً $T=50$ )، فإن العبء يكون ضئيلاً للغاية.

ج. مرحلة الاستنتاج (Inference Phase)

أثناء التوليد الفعلي:

يقوم النموذج بإجراء حوسبة كاملة فقط عند الخطوات الزمنية الرئيسية المختارة مسبقًا.
بالنسبة للخطوات الزمنية المتوسطة، يتم التنبؤ بالميزات بكفاءة باستخدام الميزات المخزنة مؤقتًا ومن المتنبئات الجاهزة (مثل توسيع سلسلة تايلور/Taylor series expansion).
الإطار العملي مستقل عن المتنبئ المحدد المستخدم، طالما تم استخدام نفس المتنبئ أثناء المعايرة وأثناء الاستنتاج.

3. المساهمات الرئيسية

صياغة تخطيط المسار العالمي: أول عمل يصيغ تسريع الانتشار كمسألة تخطيط مسار عالمي، متجاوزًا الجداول الزمنية الجشعة أو المحلية.
تنسور التكلفة المدرك للمسار (PACT): هيكل تنسور ثلاثي الأبعاد مبتكر يقيس الخطأ المعتمد على المسار لتخطي الخطوات، ملتقطًا تأثير الخطوات الرئيسية السابقة على أخطاء التنبؤ المستقبلية.
بدون تدريب وفعال: لا يتطلب الطريقة أي إعادة تدريب للنموذج. تكلفة المعايرة ضئيلة (مجموعة عينات صغيرة)، وعملية اختيار DP منخفضة التكلفة حسابيًا.
أداء رائد (State-of-the-Art): يثبت أن الجدولة العالمية تحقق جودة أفضل بكثير من الاستراتيجيات المحلية الجشعة، وغالبًا ما تتفوق على خط الأساس ذي الخطوات الكاملة.

4. النتائج التجريبية

قيم المؤلفون DPCache على FLUX.1-dev (نص-إلى-صورة)، وHunyuanVideo (نص-إلى-فيديو)، وDiT-XL (فئة-إلى-صورة).

النتائج الكمية

FLUX.1-dev:
- عند تسريع بمعدل 3.54×، حقق DPCache زيادة قدرها +0.028 في ImageReward مقارنة بخط الأساس ذي الخطوات الكاملة (50 خطوة)، مما يثبت إمكانية التسريع دون فقدان الجودة.
- عند تسريع بمعدل 4.87×، تفوق على ثاني أفضل طريقة (SpeCa) بمقدار +0.031 في ImageReward و +0.10 في CLIP Score.
- أظهر دقة فائقة للمسار الأصلي (PSNR و SSIM أعلى؛ LPIPS أقل) مقارنة بجميع الخطوط المرجعية.
HunyuanVideo:
- حقق تسريعًا بمعدل 4.75× مع درجة VBench بلغت 80.23%، متفوقًا على أقرب منافس بنسبة +0.24%.
- كفاءة الذاكرة: على عكس TaylorSeer وSpeCa اللذين يقومان بتخزين ميزات جميع طبقات الـ Transformer مؤقتًا (مما يضيف ~24 جيجابايت من ذاكرة VRAM)، يقوم DPCache بتخزين الطبقة النهائية فقط، مما يضيف حوالي 0.36 جيجابايت فقط.
DiT-XL:
- حقق تسريعًا بمعدل 3.02× مع أفضل جودة توليد (FID: 3.285) بين جميع الطرق.

النتائج النوعية

الدقة البصرية: ينتج DPCache حوافًا أكثر حدة وخلفيات أنظف مقارنة بالخطوط المرجعية، التي تعاني غالبًا من الضبابية، أو التشوهات الهيكلية (مثل تحول شكل الزيبرا/zebra morphing)، أو الضجيج.
المشاهد المعقدة: في توليد الفيديو، حافظ DPCache على حدة بصرية وحركة سلسة في السيناريوهات ذات الديناميكية العالية حيث تسبب الطرق الأخرى ضبابية الحركة أو التشويه الهندسي.
المتانة: أظهرت دراسات الاستئصال (Ablation studies) أن DPCache متين تجاه حجم وتوزيع مجموعة المعايرة (يعمل بشكل جيد حتى مع عينة واحدة أو عند تغير البيانات من DrawBench إلى PartiPrompts).

5. الأهمية والخلاصة

يمثل DPCache تحولًا جذريًا في تسريع نماذج الانتشار. من خلال الإدراك بأن مسار إزالة الضجيج له هيكل عالمي يجب احترامه، فإنه يتجنب تراكم الخطأ المتأصل في استراتيجيات التخزين المؤقت المحلية والجشعة.

الأثر العملي: يتيح استنتاجًا عالي السرعة (يصل إلى ~5×) على النماذج واسعة النطاق (مثل FLUX وHunybanVideo) دون العبء الذاكري لطرق التخزين المؤقت السابقة ودون الحاجة إلى إعادة تدريب مكلفة.
الرؤية النظرية: تؤكد الورقة أن "التسريع الأمثل" يتطلب رؤية عالمية للمسار، مما يثبت أن نمذجة الخطأ المعتمد على المسار أمر بالغ الأهمية للحفاظ على جودة التوليد.
العمل المستقبلي: يقترح المؤلفون توسيع الإطار ليشمل الجدولة المتكيفة مع المدخلات ودمج متنبئات قابلة للتعلم لتصحيح أخطاء النموذج بشكل أكبر.

باختصار، يضع DPCache معيارًا جديدًا في مجال تسريع نماذج الانتشار بدون تدريب، مثبتًا أن التحسين العالمي يمكن أن يؤدي إلى نتائج ليست أسرع فحسب، بل غالبًا ما تكون أعلى جودة من الخطوط المرجعية الأصلية ذات الخطوات الكاملة.