🤖 AI

Improving Classifier-Free Guidance of Flow Matching via Manifold Projection

تقترح هذه الورقة طريقة خالية من التدريب لتحسين التوجيه الخالي من التصنيف في مطابقة التدفق عبر إعادة تفسيره كمسألة تحسين هوموتوبي مع قيود متشعبة، والتي يتم حلها بكفاءة عبر التدرج المتزايد لخفض التدرج وتسريع أندرسون لتعزيز دقة التوليد، والمحاذاة مع المطالبات، والمتانة عبر النماذج واسعة النطاق.

المؤلفون الأصليون: Jian-Feng Cai, Haixia Liu, Zhengyi Su, Chao Wang

نُشر 2026-05-14

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jian-Feng Cai, Haixia Liu, Zhengyi Su, Chao Wang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول رسم لوحة بناءً على وصف محدد، مثل "قطة تجلس على سجادة حمراء". لديك فنان موهوب جدًا (نموذج الذكاء الاصطناعي) يمكنه رسم أي شيء. ومع ذلك، في بعض الأحيان، يصاب الفنان ببعض الارتباك أو الكسل ويرسم قطة عامة على أرضية عامة.

لإصلاح ذلك، تستخدم تقنية تسمى "التوجيه الخالي من المصنف" (Classifier-Free Guidance - CFG). فكر في هذا كـ "عامل تصحيح". أنت تطلب من الفنان رسم المشهد المحدد ("قطة على سجادة حمراء") وتطلب منه أيضًا رسم مشهد عام ("مجرد قطة"). ثم تأخذ الفرق بين هذين الرسمين وتضخمه لتدفع النتيجة النهائية لتكون أقرب إلى طلبك المحدد.

المشكلة هي أن هذا "التصحيح" يتم حاليًا باستخدام تخمين تقريبي. إذا دفعت بقوة كبيرة (مقياس توجيه مرتفع)، تصبح الصورة غريبة، أو مشبعة بشكل مفرط، أو مشوهة. وإذا دفعت بقوة قلي، فإنه يتجاهل تعليماتك. العثور على القدر المثالي من الدفع يشبه محاولة موازنة مكنسة على إصبعك — إنه أمر صعب ويعتمد على الفنان نفسه.

الفكرة الكبيرة للورقة البحثية: "إسقاط المتعدد (Manifold Projection)"

تقترح هذه الورقة، بعنوان "تحسين التوجيه الخالي من المصنف لتدفق المطابقة عبر إسقاط المتعدد"، طريقة أكثر ذكاءً للقيام بهذا التصحيح. بدلاً من مجرد التخمين بمدى قوة الدفع، يعاملون عملية الرسم كأنها متسلق يحاول الوصول إلى وجهة محددة على جبل.

إليك تفصيل ذلك باستخدام تشبيهات بسيطة:

1. المشكلة: "فجوة التنبؤ"

تخيل أن لدى الفنان خريطتين داخليتين:

الخريطة أ: حيث تعيش "القطة العامة".
الخريطة ب: حيث تعيش "القطة على السجادة الحمراء".

في تقنية CFG القياسية، يحاول الفنان المشي من الخريطة (أ) إلى الخريطة (ب). ولكن لأن الفنان ليس مثاليًا، هناك "فجوة" بين المكان الذي يعتقد أن الخريطة (ب) موجودة فيه والمكان الذي هي فيه بالفعل. تسمي الورقة هذا "فجوة التنبؤ". كلما كانت هذه الفجوة كبيرة، زادت حساسية الرسم لمدى قوة دفعك (مقياس التوجيه). إذا كانت الفجوة ضخمة، فإن أي تغيير بسيط في دفعك سيجعل الصورة تخرج عن المسار وتنهار.

2. الحل: "المتعدد/المانيفولد" (السياج غير المرئي)

أدرك المؤلفون أن المسار المثالي للصورة المثالية ليس مجرد خط مستقيم؛ بل هو مسار منحني محدد (متعدد/manifold) حيث تتوافق خرائط الفنان الداخلية لـ "العام" و"المحدد" تمامًا.

يقترحون طريقة جديدة تسمى CFG-MP (إسقاط المتعدد).

التشبيه: تخيل أن الفنان يمشي نحو الوجهة ولكنه يبدأ في الانحراف عن المسار. بدلاً من مجرد تخمين الاتجاه، لديهم سياج سحري وغير مرئي (المتعدد) يبقيهم على المسار الصحيح.
كيف يعمل: في كل خطوة من عملية الرسم، يتحقق الأسلوب: "هل ما زلنا على المسار حيث تتفق التعليمات 'العامة' و'المحددة'؟" إذا انحرف الفنان، يقوم الأسلوب بدفعه بلطف للعودة إلى المسار. يسمى هذا "إسقاط المتعدد" (Manifold Projection).

3. جعل الأمر سريعًا: "تسريع أندرسون" (Anderson Acceleration)

إن التحقق من المسار ودفع الفنان للعودة إليه يستغرق وقتًا وطاقة إضافيين. إذا قمت بذلك ببطء شديد، فستصبح عملية الرسم بطيئة جدًا لدرجة لا يمكن الاستفادة منها.

لإصلاح ذلك، أضاف المؤلفون خدعة ثانية تسمى "تسريع أندرسون" (Anderson Acceleration - CFG-MP+).

التشبيه: تخيل أنك تصعد تلة وتستمر في الانزلاق. بد instead من اتخاذ خطوة واحدة صغيرة فقط، انظر إلى خطواتك الثلاث الأخيرة. استخدم هذا التاريخ للتنبؤ بأفضل وأكثر مسار مباشر للأمام، متجاوزًا الأجزاء المتذبذبة.
النتيجة: يسمح هذا للنظام بالوصول إلى الصورة المثالية بشكل أسرع وأكثر استقرارًا، دون الحاجة إلى إعادة تدريب الفنان أو إضافة آلات ثقيلة إضافية.

لماذا يهم هذا (وفقًا للورقة البحثية)

تزعم الورقة أنه باستخدام "إسقاط المتعدد" و"التسريع":

قلة الحساسية: لست بحاجة للقلق بشأن العثور على "مقياس التوجيه المثالي". تعمل الطريقة بشكل جيد حتى لو دفعت بقوة أكبر أو أقل من المعتاد.
جودة أفضل: الصور تكون أكثر حدة، وألوانها أفضل، وتتبع التعليمات بدقة أكبر (على سبيل المثال، عد الأشياء بشكل صحيح أو وضعها في أماكنها الصحيحة).
لا حاجة لإعادة التدريب: يمكنك دمج هذه الطريقة في نماذج الذكاء الاصطناعي القوية الموجودة حاليًا (مثل Stable Diffusion 3.5، أو Flux، أو DiT) دون الحاجة لتعليمها أي شيء جديد. إنها ترقية برمجية، وليست تغييرًا في العتاد.

باخت-صار

تأخذ الورقة تقنية شائعة ولكنها متقلبة (CFG) تُستخدم في توليد صور الذكاء الاصطناعي وتقوم بترقيتها. بدلاً من التخمين الأعمى لكيفية توجيه الذكاء الاصطناعي، تستخدم الرياضيات للتحقق باستمرار مما إذا كان الذكاء الاصطناعي يبقى على "المسار الصحيح" وتصحيحه بلطف. لقد أضافوا أيضًا ميزة تسريع لضمان عدم إبطاء هذا التصحيح للعملية. والنتيجة هي صور مولدة بالذكاء الاصطناعي أكثر موثوقية، وأعلى جودة، وأسهل في التحكم.

ملخص تقني: تحسين التوجيه الخالي من التصنيف لتدفق المطابقة عبر الإسقاط على المتشعب

بيان المشكلة

يعد التوجيه الخالي من التصنيف (CFG) الآلية المهيمنة للتحكم في التوليد في نماذج الانتشار والتدفق، حيث يوجه عملية أخذ العينات نحو ظروف مرغوبة عبر الاستكمال الخطي بين التنبؤات غير المشروطة والمشروطة. ورغم نجاحه التجريبي، يعتمد CFG القياسي على استكمال خطي تجريبي يتم التحكم فيه بواسطة مقياس توجيه عددي $w$ . ويظهر هذا النهج مقايضة معروفة: قيم $w$ الصغيرة تؤدي إلى محاذاة شرطية ضعيفة، بينما تؤدي قيم $w$ الكبيرة غالبًا إلى فرط التشبع، وظهور عيوب، وفقدان التنوع.

إن اختيار $w$ حساس للغاية ويعتمد على النموذج، مما يتطلب عادةً ضبطًا يدويًا (ad-hoc). علاوة على ذلك، تفتقر التحسينات الحالية غالبًا إلى أساس نظري صارم، لا سيها فيما يتعلق بـ:

دالة الهدف التي يقربها استكمال CFG القياسي في تدفق المطابقة (flow matching).
وجود وتعريف مقياس توجيه أمثل رياضيًا.
الآلية النظرية التي تفسر لماذا يؤدي تقليل "فجوة التنبؤ" (الفرق بين المخرجات الشرطية وغير المشترطة) إلى تحسين جودة التوليد ومتانته.

غالبًا ما تكون الطرق الحالية متمحورة حول الانتشار (diffusion-centric)، وتعتمد على خصائص جدول الضجيج التي لا تنتقل مباشرة إلى تدفق المطابقة، حيث تتبع عملية أخذ العينات معادلة تفاضلية عادية (ODE) مستمرة الزمن محددة بحقل سرعة.

المنهجية

يعيد المؤلفون تفسير أخذ عينات CFG من خلال منظور الأمثلة (optimization)، مما يسد الفجوة بين الاستكمال التجريبي والأمثلة المقيدة.

1. التفسير القائم على الأمثلة لـ CFG

يُظهر البحث أن حقل السرعة الشرطي المثالي في تدفق المطابقة يتوافق مع تدرج سلسلة من دوال المسافة الممهدة. وتحديدًا، يوجه حقل السرعة المتغيرات الكامنة نحو مجموعة صور مستهدفة بمقياس معين.

الأساس النظري: يعرّف المؤلفون دوال المسافة المربعة الممهدة للمجموعة الصورية الشرطية $K_y$ والمجموعة غير المشترطة $K_\emptyset$ . ويثبتون أن حقول السرعة المثالية $v^*_{t,y}$ و $v^*_{t,\emptyset}$ هي تدرجات هذه الدوال (ناقص حد التنظيم).
الأمثلة المتصلة (Homotopy Optimization): تمت إعادة صياغة عملية أخذ العينات كمسألة أمثلة متصلة (homotopy optimization)، حيث يكون الهدف هو تقليل المسافة إلى المتشعب المستهدف. وقد ثبت أن CFG القياسي هو تقريب لتدرج هذه الدالة.
تفكيك الخطأ: تم تفكيك خطأ التقريب لـ CFG إلى خطأ نموذج جوهري وحدّ يتناسب مع $(w^* - w)^2 \times \text{Prediction Gap}^2$ . ويكشف هذا أن الحساسية لمقياس التوجيه محكومة بحجم فجوة التنبؤ. وبناءً على ذلك، فإن القضاء على فجوة التنبؤ أكثر فعالية من الناحية النظرية من البحث عن $w$ أمثل.

2. CFG-MP: أخذ عينات الإسقاط على المتشعب

للتخفيف من فجوة التنبؤ، يقترح المؤلفون CFG-MP، الذي يفرض قيدًا على المتشعب $M_t = \{z \mid v_\theta(t, z, y) = v_\theta(t, z, \emptyset)\}$ .

الصياغة: تمت إعادة صياغة تحديث أخذ العينات كخطوة من خطوات الانحدار المتدرج المبرمج (PGD). فبدلاً من خطوة أويلر بسيطة، تتبع الطريقة خطوة من الانحدار المتدرج متبوعة بإسقاط على المتشعب $M_t$ .
التنفيذ: نظرًا لأن الإسقاط على $M_t$ يفتقر إلى حل مغلق الصيغة، فقد طبق المؤلفون مخطط انحدار متدرج تراكمي. يقومون بتقريب الإسقاط المثالي باستخدام الشبكة المدربة $v_\theta$ وإجراء تحديثات متتالية: أولاً اتخاذ خطوة بناءً على السرعة غير المشترطة، ثم خطوة بناءً على السرعة الشرطية. هذه العملية التكرارية تقلل فجوة التنبؤ بفعالية أثناء أخذ العينات دون الحاجة لإعادة تدريب النموذج.

3. CFG-MP+: تسريع أندرسون

لمعالجة العبء الحسابي لعملية الإسقاط التكرارية، دمج المؤلفون تسريع أندرسون (Anderson Acceleration) في مرحلة إسقاط المتشعب، مما نتج عنه CFG-MP+.

الآلية: تُعامل خطوة الإسقاط كعملية تكرار للنقطة الثابتة. يعمل تسريع أندرسون على تسريع التقارب من خلال حساب التكرار التالي كاستكمال خطي للتقييمات السابقة، مما يقلل من معيار البواقي (residual norm) بمعنى المربعات الصغرى.
الكفاءة: يحسن هذا النهج بشكل كبير من سرعة التقارب واستقرارها دون الحاجة إلى تقييمات إضافية للنموذج تتجاوز تلك المطلوبة لخطوات الإسقاط القياسية.

المساهمات الرئيسية

التفسير القائم على الأمثلة: يقدم البحث تفسيرًا مبدئيًا لـ CFG، موضحًا أن حقل السرعة الشرطي يتوافق مع تدرج هدف مسافة منظم. وهذا يسمح بالتعريف الرسمي لمقياس التوجيه الأمثل كمقلل لخطأ التقريب.
التحليل النظري للحساسية: اشتق المؤلفون تفكيكًا للخطأ يربط صراحةً حساسية مقياس التوجيه بفجوة التنبؤ. وهذا يقدم تبريرًا نظريًا لسبب تحسين جودة التوليد ومتانته من خلال تقليل الفرق بين التنبؤات الشرطية وغير المشترطة.
خوارزمية CFG-MP: طريقة أخذ عينات مبتكرة وخالية من التدريب (training-free) تصيغ أخذ العينات الشرطي كمسألة أمثلة مقيدة. وهي تستخدم مخطط انحدار متدرج تراكمي لإسقاط مسار أخذ العينات تكراريًا على متشعب يتم فيه تقليل فجوة التنبؤ إلى أدنى حد.
تسريع CFG-MP+: دمج تسريع أندرسون لاستقرار وتسريع عملية إسقاط المتشعب، مما يوسع بشكل كبير منطقة الاستقرار العملية للطريقة التكرارية.

النتائج التجريبية

تحقق المؤلفون من صحة طرقهم عبر اختبارات متنوعة، بما في ذلك توليد "الفئة إلى صورة" على ImageNet (باستخدام DiT-XL-2-256) وتوليد "النص إلى صورة" باستخدام Stable Diffusion 3.5 و Flux-dev.

الأداء الكمي:
- ImageNet (DiT-XL-2-256): يتفوق CFG-MP و CFG-MP+ بشكل كبير على Vanilla CFG والمتغيرات الأخرى (Z-sampling, Re-sampling, FSG) في مسافة Fréchet Inception Distance (FID) و Inception Score (IS). ومن الجدير بالذكر أن CFG-MP+ يحقق زيادة قدرها 14.78 نقطة في IS مقارنة بأساس CFG(D2F) عند $\omega=2.0$ ، مقابل 5.50 لـ FSG.
- النص إلى صورة (SD3.5 & Flux-dev): تتفوق الطرق باستمرار على النماذج المرجعية (CFG-0*, Rectified-CFG++) عبر مقاييس متعددة، بما في ذلك CLIP score، و ImageReward (IR)، و PickScore، و HPSv2. وتظهر قوة خاصة لـ CFG-MP+ في HPSv2 و IR، مما يشير إلى محاذاة أفضل مع التفضيلات البشرية.
- GenEval: تظهر الطرق أداءً فائقًا في المهام التركيبية الدقيقة، مثل العد، وإسناد الألوان، والموضع المكاني.
المتانة والاستقرار:
- تقلل الطرق بشكل كبير من حساسية جودة التوليد لمقياس التوجيه. يحافظ CFG-MP+ على نسب نمو منخفضة لـ FID حتى مع زيادة $w$ ، بينما تتدهور الطرق الأخرى.
- تؤكد دراسات الاستئصال (Ablation studies) أن مخطط تسريع أندرسون (تحديدًا مع حجم نافذة $m=1$ وتخميد $\beta=1.0$ ) يتسم بالمتانة ويتطلب حدًا أدنى من الضبط.
- تظهر النتائج النوعية تحسينات في الحدة، والحفاظ على الملمس، وتشبع الألوان، والقضاء على العيوب مثل الضبابية أو التنعيم المفرط.

الأهمية والادعاءات

يدعي البحث تقديم أول تحليل نظري صارم لخطأ تقريب CFG من خلال منظور فجوة التنبؤ في نماذج تدفق المطابقة. ومن خلال تجاوز التفسيرات التجريبية، يضع المؤلفون تبريرًا مبدئيًا لتقليل فجوة التنبؤ للحفاظ على سلامة مسار أخذ العينات.

تعد الطرق المقترحة (CFG-MP و CFG-MP+) خالية من التدريب، مما يعني أنه يمكن تطبيقها على النماذج المدربة مسبقًا دون الحاجة لإعادة تدريب. وهي توفر طريقة منهجية لتحسين دقة التوليد ومتانته تجاه مقياس التوجيه، مما يعالج قصورًا حرجًا في سير عمل التوليد المتحكم فيه الحالي. ويشير المؤلفون إلى أنه بينما تزيد الطريقة من عدد عمليات التقييم الثابتة (زيادة NFE)، فإن المكاسب في جودة العينات واستقرارها كبيرة. ويقترحون أن العمل المستقبلي يمكن أن يستكشف نقل تخفيف فجوة التنبؤ إلى مرحلة التدريب أو تكييف هذه التقنيات لنماذج الانتشار.