💻 computer science

Ctrl-Z Sampling: Scaling Diffusion Sampling with Controlled Random Zigzag Explorations

تقترح هذه الورقة استراتيجية "Ctrl-Z Sampling"، وهي استراتيجية غير مرتبطة بنموذج محدد تُستخدم أثناء الاستدلال، تعمل ديناميكياً على اكتشاف والهروب من النقاط المثلى المحلية في نماذج الانتشار عبر العودة إلى حالات أكثر ضجيجاً واستكشاف مسارات بديلة فقط عند تحديد ركود في الجودة، مما يؤدي إلى تحسين جودة التوليد عبر مختلف الميزانيات الحسابية.

المؤلفون الأصليون: Shunqi Mao, Wei Guo, Chaoyi Zhang, Jieting Long, Ke Xie, Weidong Cai

نُشر 2026-03-24

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Shunqi Mao, Wei Guo, Chaoyi Zhang, Jieting Long, Ke Xie, Weidong Cai

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول رسم لوحة فنية رائعة بناءً على وصف دقيق للغاية: "مكتبة تقع على ظهر حوت طائر".

تبدأ بلوحة بيضاء مغطاة بضجيج ساكن (مثل تشويش التلفاز). تبدأ بمسح الضجيج ببطء، خطوة بخطوة، محاولاً كشف الصورة. هكذا تعمل نماذج الانتشار (Diffusion Models). إنهم فنانون موهوبون للغاية، لكنهم قد يتعثرون أحياناً.

المشكلة: فخ "الجيد بما يكفي"

تخيل أنك ترسم، وبعد بضع دقائق، أصبح لديك شكل يشبه الحوت نوعاً ما ويشبه المكتبة نوعاً ما. ليس مثالياً — فالمكتبة تطفو في المكان الخاطئ، أو أن للحوت ثلاثة أرجل — لكنه يبدو "جيداً" للعين المجردة.

عند هذه النقطة، يعتقد عقلك (الذكاء الاصطناعي): "مهلاً، هذا جيد بما يكفي! سأستمر فقط في صقل التفاصيل". يستمر في شحذ حواف المكتبة وحراشف الحوت، لكنه لا يصحح أبداً حقيقة أن المكتبة مقلوبة رأساً على عقب أو أن الحوت يفتقد للذيل.

بلغة الورقة البحثية، وقع الذكاء الاصطناعي في "نهاية عظمى محلية" (Local Optimum). لقد علق في وادٍ من "الجيد بما يكفي" ولا يستطيع رؤية قمة الجبل الأعلى من "المثالية" لأنه يخشى العودة وتغيير الصورة الكبيرة.

الحلول القديمة: خلط الأوراق

حاولت الطرق السابقة إصلاح ذلك عن طريق:

إعادة إضافة الضجيج: إضافة القليل من الضجيج إلى اللوحة مرة أخرى والمحاولة مجداً. لكنهم فعلوا ذلك بقدر ضئيل جداً، مثل هز حجر نرد مرة واحدة. إذا كانت اللوحة عالقة بالفعل في حفرة عميقة، فإن هزة صغيرة لن تكون كافية للخروج منها.
تجربة كل شيء: توليد 100 نسخة مختلفة من اللوحة في كل خطوة واختيار الأفضل بينها. هذا ينجح، ولكنه مكلف وبطيء للغاية، كأنك توظف 100 رسام فقط لصنع صورة واحدة.

الحل الجديد: أخذ عينات Ctrl-Z

يقترح المؤلفون استراتيجية جديدة تسمى Ctrl-Z Sampling (تيمناً بمفتاح "التراجع" أو "Undo" على لوحة المفاتيح).

إليك كيف تعمل، باستخدام تشبيه المتنزهين:

1. المتنزه والجبل الضبابي
تخيل أن الذكاء الاصطناعي هو متنزّه يحاول تسلق جبل (جبل "الجودة") للوصول إلى القمة (الصورة المثالية). لا يستطيع المتنزه رؤية سوى بضعة أقدام أمامه بسبب الضباب.

الذكاء الاصطناعي القياسي: يتخذ المتنزه خطوة للأعلى. إذا شعر أن الأرض صلبة، يستمر في التقدم. وإذا اصطدم بهضبة مسطحة (نهاية عظمى محلية)، يستمر في المشي في دوائر، ظناً منه أنه يتسلق، لكنه في الواقع لا يرتفع.
ذكاء Ctrl-Z: يمتلك المتنزه بوصلة خاصة (نموذج مكافأة - Reward Model) تخبره: "مهلاً، لم ترتفع منذ فترة. أنت عالق في هضبة".

2. حركة الزجزاج (Zigzag)
عندما تقول البوصلة "عالق!"، لا يكتفي المتنزه بخطوة جانبية صغيرة. بل يفعل شيئاً جريئاً:

التراجع الكبير: يمشي للخلف أسفل الجبل لبضع خطوات، إلى المنطقة الأكثر ضجيجاً وضبابية حيث يكون المسار أقل وضوحاً.
الزجزاج: من تلك النقطة الأدنى والأكثر ضجيجاً، يجرب عدة مسارات للأمام (مثل اتخاذ 4 مسارات مختلفة).
الاختيار: يتحقق من البوصلة لكل مسار جديد.
- إذا أدى المسار إلى قمة أعلى، فإنه يسلكه!
- إذا لم تكن أي من المسارات أفضل، فإنه يعود للخلف أكثر أسفل الجبل ويجرب مجدداً، بطاقة أكبر.

3. لماذا هو ذكي؟
سحر Ctrl-Z هو أنه لا يهدر الطاقة.

إذا كان المتنزه يتسلق بسلاسة، فإنه يستمر في المشي للأمام فقط (موفراً الوقت).
إنه يقوم بـ "العودة والمحاولة مجدداً" فقط عندما يكون عالقاً بالفعل.
وإذا لم تنجح العودة الصغيرة، فإنه يقوم بعودة أكبر، مما يسمم له الهروب من الفخاخ العميقة التي لا تستطيع الطرق الأخرى الخروج منها.

النتيجة

في التجارب، كانت هذه الطريقة بمثابة إعطاء الرسام زر "إعادة المحاولة" الذي يستخدمه عند الضرورة فقط.

بدون Ctrl-Z: يرسم الذكاء الاصطناعي مكتبة على ظهر حوت، لكن الحوت يكون أزرق بدلاً من الرمادي، والمكتبة داخل الحوت.
مع Ctrl-Z: يدرك الذكاء الاصطناعي: "مهلاً، هذا ليس صحيحاً"، فيعود إلى الضجيج، ويجرب زاوية جديدة، وفجأة يرسم حوتاً رمادياً مهيباً مع مكتبة موضوعة بدقة على ظهره.

الخلاصة

Ctrl-Z Sampling هي طريقة ذكية وفعالة لإصلاح فن الذكاء الاصطناعي. فهي تمنع الذكاء الاصطناعي من الإصرភាព على صقل فكرة سيئة، وبدلاً من ذلك تمنحه الشجاعة لـ "التراجع" عن أخطائه، والعودة إلى لوحة الرسم، وتجربة نهج جديد تماماً حتى يجد الحل المثالي. إنها تحقق نتائج أفضل دون الحاجة إلى حاسوب خارق لتجربة كل الاحتمالات الممكنة.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "Ctrl-Z Sampling: Scaling Diffusion Sampling with Controlled Random Zigzag Explorations" (أخذ عينات Ctrl-Z: توسيع نطاق أخذ عينات الانتشار عبر استكشافات متعرجة عشوائية محكومة).

1. بيان المشكلة

تقوم نماذج الانتشار (Diffusion Models) بتوليد الصور من خلال إزالة الضجيج تدريجياً من الضجيج الغاوسي. ومع ذلك، أثناء التوليد الشرطي (مثل تحويل النص إلى صورة)، غالباً ما تقع مسارات إزالة الضجيج في نقاط مثلى محلية (local optima) ضمن مشهد جودة بديل.

المشكلة: بمجرد أن يلتزم النموذج بهيكل عالمي دون المستوى الأمثل في وقت مبكر من العملية (على سبيل المثال، وضع خاطئ للأجسام أو عدم توافق دلالي)، فإن الخطوات اللاحقة تعمل فقط على صقل التفاصيل دون تصحيح الخطأ الجوهري.
محدودية الطرق الحالية:
- التوجيه الخالي من المصنف (CFG): يقوي التوجيه ولكنه لا يستطيع التعافي من الأخطاء الهيكلية المبكرة.
- توسيع النطاق أثناء الاستنتاج (مثل Resampling و SOP): تستكشف هذه الطرق حالات بديلة عبر إعادة إضافة الضجيج أو البحث. ومع ذلك، فهي عادةً ما تستخدم أعماق استكشاف ثابتة أو تطبق الاستكشاف في كل خطوة. يؤدي هذا إما إلى عمق غير كافٍ للهروب من "هضاب الجودة" الواسعة أو تكلفة حوسبية مفرطة دون ضمان التحسن.

2. المنهجية: أخذ عينات Ctrl-Z (Ctrl-Z Sampling)

يقترح المؤلفون Ctrl-Z Sampling، وهي استراتيجية لتوسيع النطاق أثناء الاستنتاج وتكون مستقلة عن النموذج، حيث تعامل عملية أخذ العينات كعملية تسلق تلة في فضاء جودة بديل. تقوم هذه الطريقة بتعديل عمق الاستكشاف ديناميكياً للهروب من النقاط المثلى المحلية.

المفاهيم الأساسية

مشهد الجودة البديل (Surrogate Quality Landscape): تفسر الورقة عملية التوليد كرحلة في مشهد يتم تحديد "ارتفاعه" بواسطة درجة نموذج مكافأة (مثل ImageReward). أخذ العينات القياسي هو صعود جشع يتوقف عند الهضاب.
المسار المتعرج (Zigzag Trajectory): بدلاً من المسار الأمامي الأحادي الاتجاه، ينشئ Ctrl-Z Sampling مساراً "متعرجاً":
1. الصقل الأمامي (Forward Refinement): خطوات إزالة الضجيج الشرطية القياسية.
2. الاستكشاف الخلفي (Backward Exploration): في حالة اكتشاف الركود، يقوم النموذج بـ "التراجع" (Invert) إلى حالة أكثر ضجيجاً ويستكشف استمرارات بديلة.

سير عمل الخوارزمية

اكتشاف الركود: عند كل خطوة $t$ ، يقدر النموذج الصورة الصافية $\hat{x}_0$ ويقيمها باستخدام نموذج مكافأة $R$ . إذا لم تتحسن الدرجة فوق أفضل درجة سابقة بمقدار عتبة $\delta$ (أي $R_t < R_{prev} + \delta$ )، يتم اكتشاف هضبة.
الانعكاس المحكوم (Controlled Inversion): عند الاكتشاف، يتم عكس حالة اللاتنت الحالية $x_t$ إلى حالة أكثر ضجيجاً $x_{t+\Delta}$ باستخدام عامل حقن ضجيج محكوم.
البحث في العمق التكيفي (Adaptive Depth Search):
- تولد الخوارزمية $N$ من المسارات المرشحة عن طريق أخذ عينات من نواقل ضجيج مختلفة.
- تحاول العثور على مرشح ذو درجة مكافأة أعلى.
- التصعيد التكيفي: إذا لم يتم العثور على تحسن باستخدام خطوة انعكاس صغيرة ( $\Delta=1$ )، فإن الخوارزمية تزيد من عمق الانعكاس ( $\Delta \to 2, 3, \dots$ )، حيث تتراجع إلى الوراء أكثر في فضاء الضجيج للعثور على مسار أفضل.
- يستمر هذا حتى يتم العثور على مرشح أفضل أو الوصول إلى أقصى عمق ( $d_{max}$ ).
الاختيار: يتم قبول أفضل مرشح، وتستأنف العملية إزالة الضجيج الأمامي من تلك الحالة المحسنة.
نافذة الاستكشاف ( $\lambda$ ): يقتصر الاستكشاف على نظام الضجيج العالي المبكر (على سبيل المثال، أول 40 خطوة من 50) حيث لا يزال الهيكل العالمي قابلاً للتغيير.

3. المساهمات الرئيسية

الرؤية النظرية: تفسر الورقة أخذ عينات الانتشار الشرطي كعملية تسلق تلة معرضة للتوقف على هضاب واسعة بسبب عدم كفاية عمق الاستكشاف، وليس فقط بسبب نقص التوجيه.
خوارزمية مبتكرة (Ctrl-Z Sampling): أخذ عينات موجه بالمكافأة يزيد عمق الاستكشاف (قوة الانعكاس) بشكل تكيفي فقط عند اكتشاف الركود. يتجنب هذا عدم كفاءة عمليات البحث ذات العمق الثابت أو الاستكشاف المستمر.
المفاضلة بين الحوسبة والجودة: توفر الطريقة مقايضة قابلة للتوسع؛ حيث يمكنها العمل بحوسبة منخفضة (استكشاف ضحل) أو حوسبة عالية (استكشاف عميق)، مع تفوق مستمر على النماذج المرجعية عبر مختلف الميزانيات.
الاستقلالية عن النموذج: الطريقة متوافقة مع مختلف هياكل الانتشار (U-Net و Transformer-based) ولا تتطلب إعادة تدريب النموذج الأساسي.

4. النتائج التجريبية

تم تقييم الطريقة على Pick-a-Pic و DrawBench و T2I-CompBench باستخدام Stable Diffusion 2.1 و Hunyuan-DiT.

الأداء الكمي:
- ImageReward و Alignment: يتفوق Ctrl-Z Sampling بشكل كبير على النماذج المرجعية (DDIM, Resampling, Z-Sampling, SOP) في المقاييس المتوافقة مع البشر (HPSv2, PickScore, ImageReward).
- الكفاءة: يحقق نتائج أفضل أو مماثلة لـ SOP (Search-over-Path) بعدد أقل من تقييمات الدالة (NFEs). على سبيل المثال، Ctrl-Z مع ~3 أضعاف NFEs غالباً ما يضاهي أو يتجاوز SOP الذي يتطلب 9 أضعاف NFEs.
- المتانة: يظهر مكاسب متسقة عبر نماذج مكافأة مختلفة (ImageReward, PickScore, CLIPScore)، مما يثبت أنه ليس محسناً بشكل مفرط لمقياس واحد.
التحسينات النوعية:
- ينجح في حل الأخطاء التركيبية المعقدة (مثل "مكتبة على ظهر حوت طائر"، العلاقات المكانية، عد الأشياء) حيث تنتج النماذج المرجعية صوراً غير متوافقة دلالياً أو معيبة هيكلياً.
- تظهر التصورات أن Ctrl-Z ينجح في الهروب من "النقاط المثلى المحلية" (مثل كلب أبيض بدلاً من أصفر) من خلال التراجع وإيجاد مسار ذي مكافأة أعلى.
دراسات الاستئصال (Ablation Studies):
- العمق مقابل العرض: زيادة أقصى عمق للانعكاس ( $d_{max}$ ) أكثر فعالية من مجرد زيادة عدد المرشحين ( $N$ ) في كل خطوة، مما يبرز أهمية الاستكشاف العميق.
- آلية التشغيل: آلية التشغيل القائمة على المكافأة (الاستكشاف فقط عند حدوث ركود) هي أكثر كفاءة حوسبياً بكثير من استراتيجيات الاستكشاف "الدائم" أو "العشوائي" مع الحفاظ على جودة عالية.

5. الأهمية والأثر

توسيع النطاق العملي للاستنتاج: يوفر Ctrl-Z Sampling حلاً عملياً للاستنتاج على جهاز واحد حيث تكون مجموعات المرشحين الضخمة (مثل تلك المستخدمة في البحث واسع النطاق) غير ممكنة. إنه يعظم مكاسب الجودة لكل وحدة حوسبة.
التغلب على النقاط المثلى المحلية: يعالج أحد أوجه الفشل الجوهرية لنماذج الانتشار — وهو الالتزام المبكر بهياكل دون المستوى الأمثل — من خلال تقديم آلية لـ "إلغاء" وإعادة استكشاف مسار التوليد بذكاء.
الاتجاهات المستقبلية: تشير الورقة إلى أن توسيع النطاق أثناء الاستنتاج عبر البحث المحكوم والتكيفي هو بديل قابل للتطبيق لتوسيع نطاق التدريب لتحسين محاذاة وجودة النماذج التوليدية. كما يفتح آفاقاً لدمج جدولة المكافأة العالمية ونوافذ الاستكشاف التكيفية.

باختصار، Ctrl-Z Sampling هي استراتيجية متطورة للاستنتاج تتعامل مع توليد الانتشار كمسألة بحث، باستخدام عمليات "تراجع" (Ctrl-Z) تكيفية للهروب من النقاط المثلى المحلية، مما يحقق جودة توليد رائدة مع موارد حوسبية فعالة.