🤖 machine learning

Hierarchical Schedule Optimization for Fast and Robust Diffusion Model Sampling

تقدم هذه الورقة البحثية "مُحسِّن الجدول الهرمي" (HSO)، وهو إطار عمل جديد للتحسين ثنائي المستوى يحقق تسارعاً رائداً لا يتطلب تدريباً لعمليات أخذ عينات نماذج الانتشار في أنظمة عدد تقييمات الخطوات (NFE) المنخفضة للغاية، وذلك عبر الجمع بين البحث العالمي عن التهيئة المثلى والتحسين المحلي الموجه بواسطة "وكيل خطأ المنتصف" و"لياقة جزاء التباعد"، وكل ذلك ضمن تكلفة لمرة واحدة تقل عن 8 ثوانٍ.

المؤلفون الأصليون: Aihua Zhu, Rui Su, Qinglin Zhao, Li Feng, Meng Shen, Shibo He

نُشر 2026-05-20

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Aihua Zhu, Rui Su, Qinglin Zhao, Li Feng, Meng Shen, Shibo He

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول رسم لوحة فنية رائعة، لكن يُسمح لك فقط بوضع عدد قليل من ضربات الفرشاة لإتقان الصورة بأكملها. إذا خمنت فقط أين تضع تلك الضربات، فمن المرجح أن تبدو النتيجة كخربشة فوضوية. هذا هو التحدي الذي تواجهه نماذج الانتشار (Diffusion Models)، وهي نوع من أنواع الذكاء الاصطناعي التي تنشئ الصور. عادةً ما تحتاج هذه النماذج إلى آلاف الخطوات الصغيرة (ضربات الفرشاة) لتحويل الضجيج الساكن الخالص إلى صورة واضة. إن جعلها تفعل ذلك في خطوات قليلة فقط يشبه مطالبة رسام بإنهاء لوحة شخصية في خمس ثوانٍ.

تقدم الورقة البحثية طريقة جديدة تسمى HSO (محسن الجدول الزمني الهرمي - Hierarchical Schedule Optimizer) لحل هذه المشكلة. وإليك كيف تعمل، باستخدام تشبيهات بسيطة:

المشكلة: "الخريطة السيئة"

لإنشاء صورة بسرعة، يحتاج الذكاء الاصطناعي إلى "جدول زمني" (schedule) — وهو قائمة محددة من الخطوات التي يجب اتباعها.

استخدمت الطرق القديمة "خريطة واحدة تناسب الجميع" (مثل كتاب قواعد ثابت). كانت سريعة القراءة، لكنها لم تكن تعمل جيداً مع كل نوع من أنواع اللوحات أو كل فنان.
حاولت طرق أخرى رسم خريطة مثالية عن طريق اختبار كل مسار ممكن. كان ذلك بطيئاً ومكلفاً للغاية، مثل محاولة المشي في كل مسار داخل غابة للعثور على المخرج.
النتيجة: عندما تجبر الذكاء الاصطناعي على العمل بسرعة كبيرة (باستخدام خطوات قليلة جداً)، تؤدي الخرائط القديمة إلى صور ضبابية، مكسرة، أو ذات مظهر غريب.

الحل: HSO (الملاح الذكي)

ابتكر المؤلفون HSO، الذي يعمل كنظام ملاحة ذي مستويين لإيجاد المسار المثالي للذكاء الاصطناعي.

المستوى الأول: "كشاف الصورة الكبيرة" (البحث العالمي - Global Search)

تخيل أنك تحاول العثور على أفضل نقطة بداية لرحلة سير على الأقد "Hiking". بدلاً من المشي في الجبل بأكمله، تنظر إلى خريطة منخفضة الدقة لتجد أفضل منطقة لتبدأ منها.

يقوم HSO بذلك من خلال البحث عن أفضل استراتيجية بداية (بضعة أرقام بسيطة) بدلاً من محاولة العثور على قائمة مثالية خطوة بخطوة على الفور.
يستخدم عملية "تطور" ذكية (مثل الانتقاء الطبيعي) لتخمين أي استراتيجيات البداية هي الأكثر واعدة.

المستوى الثاني: "مُحسّن التفاصيل" (التحسين المحلي - Local Optimization)

بمجرد أن يختار "الكشاف" منطقة بداية واعدة، يقوم "المُحسّن" بالتركيز والتدقيق.

هنا يقوم الذكاء الاصطناعي فعلياً باختبار الخطوات.
الابتكار (MEP): تقدم الورقة طريقة جديدة لقياس "الأخطاء" تسمى وسيط خطأ نقطة المنتصف (Midpoint Error Proxy). فكر في هذا كمسطرة دقيقة للغاية تعمل مع أي نوع من الرسامين (المعالجات/solvers)، وليس فقط علامة تجارية محددة. فهي تخبر الذكاء الاصطناعي بالضبط بكيفية تعديل خطواته لتجنب الأخطاء، دون الحاجة لتوليد الصورة الكاملة في كل مرة للتحقق منها.

شبكة الأمان: "عقوبة التباعد" (SPF)

أحياناً، عندما تحاول تحسين مسار ما، ينتهي بك الأمر بخطوات قريبة جداً من بعضها البعض بشكل خطر (مثل اتخاذ خطوتين في نفس المكان). هذا يهدر "ضربات الفرشاة" المحدودة لديك ويتسبب في انهيار الصورة.

يتضمن HSO دالة لياقة تعاقب التباعد (Spacing-Penalized Fitness). فكر في هذا كحارس أمن في ملهى ليلي يقول: "لا يمكنك الوقوف بالقرب من الشخص التالي بهذا الشكل".
إنه يجبر الذكاء الاصطناعي على الحفاظ على خطواته متباعدة بانتظام، مما يضمن بقاء العملية مستقرة ولا تنهار، حتى عندما يكون عدد الخطوات منخفضاً للغاية.

لماذا هذا مهم (النتائج)

تزعم الورقة أن HSO يغير قواعد اللعبة من حيث السرعة والجودة:

إنه سريع الإعداد: يستغرق العثور على هذا الجدول الزمني المثالي أقل من 8 ثوانٍ على جهاز كمبيوتر قياسي. ولا يتطلب إعادة تدريب نموذج الذكاء الاصطناعي (والذي يستغرق عادةً أياماً أو أسابيع).
يعمل بعدد قليل جداً من الخطوات: حتى مع 5 خطوات فقط (NFE=5)، ينتج HSO صوراً تبدو واضحة وواقعية بشكل مذهل.
يتكيف: على عكس القواعد القديمة التي كانت جامدة، يغير HSO استراتيجيته بناءً على نموذج الذكاء الاصطناعي المحدد وعدد الخطوات التي تسمح بها.

باختصار: HSO هو نظام ذكي مكون من خطوتين يكتشف بسرعة "الوصفة" المثالية للذكะ الاصطناعي لرسم صورة في وقت قياسي، مما يضمن أن تكون النتيجة عالية الجودة ولا تنهار، وكل ذلك دون الحاجة لتعليم الذكاء الاصطناعي أي شيء جديد.

ملخص تقني: التحسين الهرمي لجدولة النماذج الانتشارية السريعة والقوية

بيان المشكلة

وضعت النماذج الانتشارية الاحتمالية معيارًا جديدًا للدقة التوليدية، لكنها تعاني من عمليات أخذ عينات تكرارية مكثفة حاسوبيًا. غالبًا ما يصل إجمالي عدد تقييمات الدالة (NFE) المطلوب لتوليد صورة عالية الجودة إلى مئات أو آلاف، مما يخلق عنق زجاجة للتطبيقات التي تتطلب وقتًا حقيقيًا. وبينما يوفر تحسين الجدول الزمني (Schedule Optimization) — وهو إيجاد توزيع أمثل للخطوات الزمنية لعدد ثابت وصغير من الـ NFE دون إعادة تدريب النموذج — استراتيجية تسريع خالية من التدريب، إلا أن النماذج الحالية تفشل في تلبية أربعة مبادئ أساسية في آن واحد:

التكيف (Adaptability): القدرة على اشتقاق جداول زمنية مصممة خصيًّا لخصائص نموذج محدد وميزانيات NFE معينة، بدلاً من الاعتماد على قواعد ثابتة تصلح للجميع.
الفعالية (Effectiveness): القدرة على إنتاج عينات عالية الدقة.
القوة العملية (Practical Robustness): ضمان توافق الهدف النظري مع الدقة الفعلية، وتجنب الحلول المرضية (مثل تجمع الخطوات الزمنية بالقرب من بعضها البعض بشكل مفرط).
الكفاءة الحسابية (Computational Efficiency): إبقاء تكلفة البحث عن الجدول الأمثل قابلة للتطبيق عمليًا.

تعاني الطرق الحالية من صعوبة في تحقيق هذا التوازن: فالنهج القائم على القواعد يفتقر إلى التكيف؛ والتحسين الإدراكي يضحي بالكفاءة؛ والتحسين المبدئي يعاني غالبًا من تضاريس غير محدبة (non-convex) تحجز عمليات البحث المحلية في نهايات صغرى فرعية أو تفتقر إلى القوة.

المنهجية: مُحسّن الجدول الهرمي (HSO)

لمعالجة هذه القيود، يقترح المؤلفون مُحسّن الجدول الهرمي (Hierarchical-Schedule-Optimizer - HSO)، وهو إطار عمل للتحسين ثنائي المستوى يعيد صياغة البحث عن جدول مثالي عالميًا إلى مشكلة أكثر قابلية للحل. يعمل HSO بشكل تكراري عبر التناوب بين مستويين متآزرين:

1. بنية إطار العمل

المستوى العلوي (البحث العالمي): بدلاً من البحث مباشرة في فضاء NFE عالي الأبعاد، يبحث HSO عن استراتيجية تهيئة (initialization strategy) مثلى ضمن فضاء معاملات فائقة (hyperparameter space) منخفض الأبعاد ( $\psi \in \mathbb{R}^3$ ). تولد هذه الاستراتيجية جدولاً أولياً $\Lambda_{init}$ . يستخدم البحث خوارزمية تطورية قائمة على الجمهرة (مثل التطور التفاضلي - Differential Evolution) للتنقل في التضاريس غير المحدبة.
المستوى السفلي (التحسين المحلي): بدءًا من $\Lambda_{init}$ الناتج عن المستوى العلوي، يقوم هذا المستوى بإجراء بحث محلي لصقل الجدول إلى $\Lambda_{opt}$ الأمثل. يتم تنفيذ ذلك باستخدام خوارزمية تحسين مقيدة قياسية (مثل منطقة الثقة - Trust-Region).

2. الابتكارات التقنية الرئيسية

يتم توجيه إطار العمل بواسطة ابتكارين محددين مصممين لضمان المبادئ الأربعة الأساسية:

وكيل خطأ المنتصف (Midpoint Error Proxy - MEP): يعمل كدالة هدف ( $J_{lower}$ ) للتحسين المحلي في المستوى السفلي، وهو هدف مستقل عن الحل (solver-agnostic) ومستقر عددياً. بخلاف الطرق السابقة المرتبطة بحلول محددة (مثل UniPC)، يتم اشتقاق MEP عبر تقريب تكامل خطأ التوليد العالمي باستخدام قاعدة منتصف هجينة. يقوم MEP بعزل المصطلح الأسي القابل للحل تحليليًا مع تقريب مصطلح الشبكة العصبية، مما ينتج عنه هدف عالي الدقة من الرتبة ( $O(h^3)$ ) وفعال حاسوبيًا من الرتبة ( $O(N)$ ).
اللياقة المعززة بفرق المسافات (Spacing-Penalized Fitness - SPF): تعمل كدالة لياقة ( $F_{upper}$ ) للبحث العالمي في المستوى العلوي، وتضمن القوة العملية. تقوم SPF بتعزيز الخطأ النظري (من MEP) بمصطلح عقوبة ديناميكي ( $L_{penalty}$ ) يمنع الخطوات الزمنية "المتقاربة بشكل مرضي". تتكيف العقوبة بناءً على ميزانية NFE، مما يفرض حداً أدنى لتباعد الخطوات لمنع عدم الاستقرار العددي و"انهيار الخطوات" (حيث تتجمع الخطوات في نهاية عملية التوليد).

المساهمات الرئيسية

إطار عمل HSO: إطار عمل للتحسين ثنائي المستوى ينجح في تحقيق التكيف، والفعالية، والقوة العملية، والكفاءة الحسابية في آن واحد، متجاوزًا المقايضات في النماذج الحالية.
الابتكارات التقنية: تقديم هدف MEP للتحسين المحلي القوي، ودالة SPF لتوجيه البحث العالمي نحو جداول زمنية مستقرة وعملية.
الأداء المتفوق (State-of-the-Art): إثبات الأداء المتفوق في نظام NFE المنخفض للغاية (على سبيل المثال، NFE < 5) دون الحاجة لإعادة التدريب.

النتائج التجريبية

قام المؤلفون بتقييم HSO على نموذج Stable Diffusion v2.1 باستخدام معايير LAION-Aesthetics 6.5+، وMS-COCO، وImageNet 512x512، ومقارنته بأفضل الطرق المبدئية (DM-NonUni) وغيرها من مسرعات التسريع القائمة على التدريب أو الخالية من التدريب.

الفعالية: يتفوق HSO بشكل كبير على النماذج المرجعية، خاصة عند قيم NFE المنخفضة جدًا. في اختبار LAION-Aesthetics مع NFE=5، حقق HSO قيمة FID تبلغ 11.94 (مقابل 13.91 لـ DM-NonUni). ومع NFE=4، حافظ HSO على FID قدره 15.71، بينما تدهور النموذج المرجعي بشكل كبير (18.96). وتظهر الميزة بوضوح أكبر مع حل DDIM، حيث خفض HFS قيمة FID من 68.92 (النموذج المرجعي) إلى 24.77 عند NFE=4.
التكيف: تظهر التجارب أن HSO يكتشف معاملات تهيئة مثلى مختلفة ( $\psi^*$ ) لميزانيات NFE مختلفة ونماذج مختلفة (مثل PixArt- $\alpha$ مقابل Stable Diffusion v2.1)، مما يؤكد قدرته على التكيف مع قيود محددة وجداول ضجيج النماذج.
القوة العملية: بدون عقوبة SPF، ينحدر التحسين إلى جداول غير مستقرة (مثل الخطوات الزمنية [999, 70, 9, 9]) مع درجات FID كارثية (165.48). تفعيل SPF يعيد الاستقرار، مما ينتج متوسط FID قدره 19.76.
الكفاءة الحسابية: يتطلب HSO تكلفة تحسين لمرة واحدة مدتها أقل من 8 ثوانٍ على وحدة معالجة مركزية (CPU) من الفئة الاستهلاكية. وهذا أقل بعدة مراتب من طرق البحث العالمي مثل AutoDiffusion (حوالي 1.1 يوم) ويتجاوز تكاليف التدريب الضخمة للطرق القائمة على التدريب (التي تستغرق غالبًا أيامًا أو شهورًا من استخدام الـ GPU).

الأهمية والادعاءات

يزعم البحث أن HSO يمثل نموذجًا عمليًا وفعالًا للغاية لتسريع النماذج الانتشارية. من خلال فصل البحث عن استراتيجية التهيئة العالمية عن التحسين المحلي، يتنقل HSO بفعالية في تضاريس التحسين غير المحدبة. ويؤكد المؤلفون أن هذا النهج يضع معيارًا جديدًا للأداء المتفوق في أخذ العينات الخالي من التدريب في نظام NFE المنخفض للغاية، محققًا جودة عينات مذهلة (مثل FID 11.94 عند NFE=5) مع وقت تحضيري ضئيل. ويشدد العمل على أن هذا الأداء لا يتحقق من خلال إعادة التدريب المكلفة، بل من خلال عملية تحسين قوية تُجرى لمرة واحدة وتحترم القيود الأساسية للنشر العملي.