💻 computer science

Few-Step Diffusion Sampling Through Instance-Aware Discretizations

تقترح هذه الورقة إطار عمل للتقطيع (discretization) مدركاً للحالات (instance-aware)، يتعلم التكيف مع تخصيصات الخطوات الزمنية بناءً على أولويات تعتمد على المدخلات، مما يتغلب على قيود الجداول الزمنية المشتركة عالمياً ويحسن جودة التوليد باستمرار عبر مختلف نماذج الانتشار (diffusion) ومطابقة التدفق (flow matching) مع تكلفة استدلال مهملة.

المؤلفون الأصليون: Liangyu Yuan, Ruoyu Wang, Tong Zhao, Dingwen Fu, Mingkun Lei, Beier Zhu, Chi Zhang

نُشر 2026-03-19

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Liangyu Yuan, Ruoyu Wang, Tong Zhao, Dingwen Fu, Mingkun Lei, Beier Zhu, Chi Zhang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول إعادة رسم لوحة معقدة، مثل منظر طبيعي مفصل أو صورة شخصية لشخص ما. تبدأ بلوحة بيضاء مغطاة بضجيج ساكن (مثل تشويش التلفاز). هدفك هو تحويل هذا الضجيج ببطء إلى الصورة النهائية.

تقوم نماذج الانتشار (الذكاء الاصطناعي وراء أدوات مثل DALL-E 3 أو Midjourney) بذلك عن طريق تنظيف القليل من الضجيج في كل مرة، عبر خطوات صغيرة، حتى تصبح الصورة واضحة.

المشكلة: الخريطة "الموحدة للجميع"

للانتقال من الضجيج إلى الصورة، يتبع الذكاء الاصطناعي مساراً رياضياً. ولجعل هذه العملية سريعة، يتعين على الذكاء الاصطناعي اتخاذ "خطوات" على طول هذا المسار.

الطريقة القديمة: تخيل مرشداً سياحياً يقود مجموعة من 100 شخص عبر مدينة. لدى المرشد جدول زمني واحد مكتوب مسبقاً لليوم بأكمله.
- بالنسبة للأشخاص الذين يريدون زيارة حديقة بسيطة، يجبرهم المرشد على المشي عبر متاهة معقدة من المتاحف أولاً. هذا هدر للوقت.
- بالنسبة للأشخاص الذين يريدون رؤية كاتدرائية ضخمة، يسرع المرشد بهم عبر الحديقة بسرعة كبيرة، مما يجعلهم يفقدون التفاصيل.
- النتيجة: يصل الجميع إلى وجهتهم، لكن البعض يشعر بالملل، والبعض الآخر يشعر بالارتباك، والصور النهائية ليست مثالية. في عالم الذكاء الاصطناعي، يُسمى هذا الجدول الزمني العالمي (Global Schedule). فهو يستخدم نفس عدد الخطوات لكل صورة، بغض النظر عن مدى صعوبة إنشاء تلك الصورة تحديداً.

الحل: نظام GPS شخصي لكل صورة

تقدم الورقة البحثية طريقة جديدة تسمى INDIS (التمييز المدرك للحالة - Instance-Aware Discretization).

تخيل INDIS كأنها تمنح لكل مسافر نظام GPS شخصي خاص به ينظر إلى نقطة بدايته ووجهته المحددة قبل بدء الرحلة.

تحليل الرحلة: قبل أن يبدأ الذكاء الاصطناعي في إنشاء صورة، فإنه ينظر إلى "الضجيج" المحدد (نقطة البداية) والوصف المطلوب (مثلاً: "قطة" مقابل "انفجار فوضوي").
تخصيص الخطوات:
- إذا كانت الصورة بسيطة (مثل سماء زرقاء)، يقول الـ GPS: "اتخذ خطوات كبيرة وسريعة. يمكننا الوصول إلى هناك في 3 حركات فقط!"
- إذا كانت الصورة معقدة (مثل وجه بتفاصيل دقيقة)، يقول الـ GPS: "تمهل. اتخذ خطوات صغيرة وحذرة هنا لضبط تفاصيل العينين بشكل صحيح".
النتيجة: تحصل كل صورة بالضبط على مقدار "الجهد" الذي تحتاجه. الأشياء البسيطة يتم إنشاؤها فوراً؛ والأشياء المعقدة تحصل على الاهتمام الإضافي الذي تتطلبه.

لماذا يهم هذا الأمر؟

السرعة مقابل الجودة: عادةً، إذا كنت تريد صورة عالية الجودة، فعليك الانتظار لفترة أطول (اتخاذ خطوات أكثر). وإذا كنت تريد السرعة، فستنخفض الجودة. INDIS تكسر هذه المقايضة. فهي تحقق نتائج عالية الجودة في عدد قليل جداً من الخطوات (أحياناً 3 أو 5 فقط) لأنها لا تضيع الوقت في الأجزاء السهلة من الصورة.
لا حاجة لإعادة التدريب: الجزء الأفضل؟ لا يحتاج نموذج الذكاء الاصطناعي نفسه إلى إعادة تدريب من الصفر. الأمر يشبه إعطاء المرشد السياحي الحالي جهاز GPS جديداً وأكثر ذكاءً. إنه تحديث خفيف الوزن يعمل على الفور.

التشبيه في العمل

تخيل أنك تخبز الكعك.

الجدول الزمني العالمي: تضع كل دفعة من العجين في الفرن لمدة 12 دقيقة بالضبط. بعض الكعك يكون غير ناضج (عجين)، وبعضها يكون محترقاً.
INDIS: لديك فرن ذكي يفحص كل قطعة كعك بشكل فردي. يرى أن كعكة الشوكولاتة تحتاج 10 دقائق، لكن كعكة الزبيب تحتاج 14 دقيقة. يقوم بتعديل المؤقت لكل قطعة كعك تلقائياً.

الملخص

تقترح هذه الورقة طريقة ذكية لإخبار مولدات صور الذكاء الاصطناعي: "لا تعامل كل صورة بنفس الطريقة. انظر إلى ما تصنعه، وقرر بالضبط عدد الخطوات التي تحتاجها لتجعله مثالياً."

النتيجة هي توليد أسرع، وصور أكثر حدة، واستهلاك أقل لطاقة الحوسبة، وكل ذلك دون الحاجة إلى إعادة بناء الذكاء الاصطناعي من الأساس.

إليك ملخص تقني مفصل لورقة البحث بعنوان "Sampling through Instance-Aware Discretizations" (INDIS).

1. بيان المشكلة

تقوم نماذج الانتشار الاحتمالي (DPMs) ونماذج مطابقة التدفق (Flow Matching) بتوليد بيانات عالية الدقة من خلال محاكاة المسارات المحددة بواسطة المعادلات التفاضلية العادية (ODEs) أو المعادلات التفاضلية العشوائية (SDEs). وبينما ساهمت الحلول العددية المتقدمة (مثل DPM-Solver وUniPC) في تسريع عملية أخذ العينات، إلا أن استراتيجية التجزئة (Discretization strategy) (أي جدول الخطوات الزمنية المستخدم للانتقال من الضجيج إلى البيانات) تظل عائقاً حرجاً.

القصور الحالي: تعتمد الطرق المتطورة الحالية على إما قواعد استدلالية مصممة يدوياً (مثل Uniform أو LogSNR) أو جداول زمنية محسنة عالمياً (Globally optimized). هذه الجداول العالمية يتم تحسينها مرة واحدة لمجموعة البيانات بأكملها وتُطبق بشكل موحد على كل عينة.
المشكلة الجوهرية: هذا النهج الذي يعتمد مبدأ "مقاس واحد يناسب الجميع" يفشل في مراعاة التعقيد الخاص بكل حالة (Instance-specific complexity). فالعينات المختلفة من الضجيج الأولي ( $x_T$ ) والمدخلات الشرطية ( $c$ ) تتبع مسارات متميزة ذات مستويات صعوبة متفاوتة. ويمثل الجدول العالمي حلاً وسطاً غير مثالي لا يمكنه التكيف مع الديناميكيات الخاصة بحالة توليد فردية، مما يحد من الأداء في سيناريوهات عدد خطوات أخذ العينات القليل (Low NFE).

2. المنهجية: INDIS (التجزئة المدركة للحالة)

يقترح المؤلفون إطار عمل INDIS، وهو إطار يتعلم تخصيص الخطوات الزمنية ديناميكياً بناءً على حالة المدخلات المحددة (الضجيج الأولي والشرط).

أ. الرؤية الجوهرية والتجارب التجريبية

تحقق المؤلفون أولاً من فرضيتهم باستخدام بيانات ثنائية الأبعاد اصطناعية. وقارنوا بين:

الجدول الموحد (Uniform Schedule): تباعد ثابت.
المحسن عالمياً (Globally Optimized): مجموعة واحدة من الخطوات الزمنية المحسنة لمجموعة البيانات بأكملها.
المتكيف مع الحالة (Oracle - المثالي): مجموعة فريدة من الخطوات الزمنية المحسنة لكل عينة ضجيج محددة.

النتيجة: تفوق "الأوراكل" المتكيف مع الحالة بشكل كبير على الجدول العالمي، مما أثبت أن الجدول العالمي الواحد هو رياضياً غير مثالي للمسارات الفردية.

ب. إطار عمل INDIS

لنقل هذا إلى توليد الصور والفيديو عالي الأبعاد، يقدم INDIS شبكة عصبية خفيفة الوزن، $\phi(\cdot)$ ، تتنبأ بجدول التجزئة.

المدخلات: تأخذ الشبكة عينة الضجيج الأولية $x_T$ والتوجيه الشرطي $c$ (مثل تسمية الفئة أو النص الوصفي) كمدخلات.
المخرجات: تنتج مجموعة تجزئة مخصصة $\xi_\phi = \{\tau_n, \Delta\tau_n, \gamma_n\}_{n=1}^N$ $ξ_{ϕ} = {τ_{n}, Δ τ_{n}, γ_{n}}_{n = 1}^{N}$ ، والتي تشمل:
- $\tau_n$ : مواقع الخطوات الزمنية الأساسية.
- $\Delta\tau_n$ : عوامل إزاحة الوقت لتخفيف انحياز التعرض (Exposure bias) (عدم التطابق بين جداول ضجيج التدريب ومسارات أخذ العينات).
- $\gamma_n$ : عوامل القياس لضبط مقدار الضجيج المتوقع.
البنية الهيكلية:
- بالنسبة للضجيج $x_T$ ، تستخدم الشبكة تحليل القيم المفردة (SVD) لاستخراج الميزات، متبوعاً بشبكات MLP.
- بالنسبة للشرط $c$ ، تقوم بمعالجة التضمينات (مثل CLIP للنصوص، أو الطبقات الخطية لتسميات الفئات).
- يتم تطبيع المخرجات عبر Softmax (للخطوات الزمنية) وTanh (للإزاحات/المقاييس) لضمان الاستقرار والرتابة.
هدف التدريب:
- يتم تدريب الشبكة عبر التحسين القائم على التدرج (Gradient-based optimization) لتقليل المسافة (مثل LPIPS أو MSE) بين عينة الطالب (التي تم توليدها باستخدام $\xi_\phi$ ) وعينة المعلم (التي تم توليدها باستخدام حل عالي الخطوات وعالي الجودة).
- من الضروري أن يكون "المعلم" عبارة عن مسار "أوراكل" محسوب مسبقاً، ويتعلم "الطالب" تقريب هذا المسار باستخدام خطوات أقل عبر تكييف الجدول لكل حالة.

3. المساهمات الرئيسية

تحديد عدم المثالية العالمية: تقدم الورقة دليلاً كمياً على أن جداول الخطوات الزمنية المشتركة عالمياً هي بطبيعتها غير مثالية للعينات الفردية، مما يضع حداً نظرياً أعلى للطرق المعتمدة على الحالة.
نموذج التجزئة المدرك للحالة: يقترح INDIS، وهو أول طريقة تعمم البحث في التجزئة القائم على التدرج إلى سياق التوليد الشرطي، مما يسمح بأن يكون جدول الخطوات الزمنية دالة في ضجيج المدخلات والشرط.
معالجة انحياز التعرض: يدمج عوامل إزاحة الوقت والمقياس القابلة للتعلم مباشرة في بحث التجزئة، مما يوفر طريقة مبتكرة للتخفيف من مشكلة انحياز التعرض الشائعة في أخذ العينات بعدد خطوات قليل دون الحاجة لإعادة تدريب النموذج بشكل مكثف.
القابلية للتوسع: يوضح أن هذا التكيف الخفيف يمكن تطبيقه على نماذج متنوعة (في مساحة البكسل، مساحة الكوامن/Latent-space، والفيديو) مع تكلفة إضافية ضئيلة عند الاستنتاج.

4. النتائج التجريبية

قيم المؤلفون INDIS عبر عدة مجموعات بيانات وبنيات نماذج، مقارنة بأفضل الطرق الاستدلالية (Heuristics)، والجداول المحسنة عالمياً (GOD)، وطرق التجزئة الأخرى (DMN, GITS, LD3).

نماذج الانتشار في مساحة البكسل (CIFAR-10, ImageNet, FFHQ):
- حقق INDIS باستمرار أدنى مسافة Fréchet Inception Distance (FID).
- عند NFE=3 (3 خطوات)، حسن INDIS قيمة FID بنسبة 35.33% في المتوسط مقارنة بأقوى خط أساس.
- كانت مكاسب الأداء أكثر وضوحاً في الأنظمة ذات الخطوات القليلة (3–6 خطوات).
نماذج الانتشار في مساحة الكوامن (Stable Diffusion على LSUN-Bedroom):
- حقق تحسناً في متوسط FID بنسبة 14.12% عن خطوط الأساس.
مطابقة التدفق والفيديو (FLUX.1-dev, LTX-Video):
- في نموذج FLUX.1-dev (نص-إلى-صورة)، تفوق INDIS على كل من الاستدلالات العالمية والجداول المحسنة عالمياً في مقايات FID وCLIP وCMMD.
- في LTX-Video، حسن الجودة الجمالية، وجودة التصوير، واتساق الموضوع كما تم قياسه بواسطة VBench.
الكفاءة:
- تكلفة الاستنتاج الإضافية: تضيف الشبكة الخفيفة $\phi$ تكلفة ضئيلة (مثلاً ~~2.3% وقت إضافي لـ FLUX.1-dev، و~~2.5% لـ CIFAR-10).
- تكلفة التدريب: تتطلب فقط مرحلة ضبط لمرة واحدة باستخدام مجموعة بيانات "المعلم" المولدة مسبقاً؛ وهي لا تتطلب إعادة تدريب نموذج الانتشار الضخم الأساسي.

5. الأهمية

تحول في النموذج المعرفي: ينقل INDES المجال بعيداً عن إعدادات الحلول الثابتة والعالمية نحو أخذ عينات ديناميكي مدرك للحالة. إنه يقر بأن "المقاس الواحد لا يناسب الجميع" في مسارات التوليد.
الأثر العملي: يقدم طريقة تسريع "قابلة للتركيب والتشغيل" (Plug-and-play) عالية الكفاءة. وخلافاً لعمليات تقطير النماذج (Distillation) التي تتطلب إعادة تدريب مكلفة، أو إعادة تصميم الحلول المعقدة، يتطلب INDIS فقط تدريب شبكة مساعدة صغيرة للتنبؤ بخطوات زمنية أفضل.
القدرة على التعميم: الطريقة مستقلة عن نوع الحل (تعمل مع iPNDM, DPM-Solver، إلخ) ومستقلة عن الوسائط (تعمل مع الصور والفيديو)، مما يجعلها أداة متعددة الاستخدامات لتحسين كفاءة أنظمة الذكاء الاصطناعي التوليدي الحديثة.

في الختام، يثبت INDIS أنه من خلال تخصيص استراتيجية التجزئة لتناسب الخصائص المحددة لكل حالة توليد، يمكن تحقيق جودة أعلى بكثير في أخذ عينات الانتشار بعدد خطوات قليل مع الحد الأدنى من التكلفة الحسابية.