🤖 machine learning

MixFlow: Mixed Source Distributions Improve Rectified Flows

تقدم الورقة البحثية MixFlow، وهي استراتيجية تدريب تدمج توزيعاً غير مشروط ثابتاً مع توزيع مصدر محاذٍ للإشارة لتقليل انحناء المسار التوليدي، مما يؤدي إلى تحسين كفاءة أخذ العينات، وجودة التوليد، وتقارب التدريب بشكل كبير في نماذج التدفق المصحح (rectified flow models).

المؤلفون الأصليون: Nazir Nayal, Christopher Wewer, Jan Eric Lenssen

نُشر 2026-04-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Nazir Nayal, Christopher Wewer, Jan Eric Lenssen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت رسم صورة مثالية لقطة.

حالياً، تستخدم أفضل الروبوتات طريقة تسمى نماذج الانتشار (Diffusion Models). فكر في الأمر كأنها لعبة "ساخن وبارد". يبدأ الروبوت بدلو من الضجيج الساكن النقي (مثل تشويش التلفاز) ثم يحاول ببطء تحويل هذا الضجيج إلى قطة.

ومع ذلك، هناك مشكلة: المسار الذي يتخذه الروبوت من "تشويش التلفاز" إلى "القطة" هو مسار منحنٍ وفوضوي للغاية. الأمر يشبه محاولة المشي من باب منزلك إلى المطبخ، لكن الأرضية مغطاة بكرة ضخمة ومتشابكة من خيوط الصوف. يتعين على الروبوت اتخاذ مئات الخطوات الصغيرة والمتعرجة للوصول إلى هناك.

المشكلة: لماذا المسار منحني جداً؟

تجادل الورقة البحثية بأن المسار منحني لأن الروبوت يبدأ من مكان ليس له أي علاقة بالقطة. فهو يبدأ بـ "ضجيج غاوسي قياسي" (عشوائية بحتة). ولأن نقطة البداية (الضجيج العشوائي) ونقطة النهاية (القطة) لا علاقة بينهما تماماً، يضطر الروبوت للقيام بانعطافات ضخمة ومربكة ليربط بينهما.

الحل: MixFlow

قدم المؤلفون طريقة جديدة تسمى MixFlow. وهم يقترحون فكرتين رئيسيتين لجعل مسار خيوط الصوف المتشابكة تلك أكثر استقامة.

1. فكرة "نظام تحديد المواقع GPS" (κ-FC)

تخيل أنك تائه في غابة.

الطريقة القديمة: تبدأ بخريطة تقول لك "أنت موجود في مكان ما في العالم"، وعليك أن تخمن أي اتجاه هو الشمال. فتظل تتجول في دوائر.
طريقة MixFlow: تبدأ بخريطة تقول لك: "أنت تقف حالياً بجانب شجرة تشبه تماماً الشجرة الموجودة في الصورة التي تريد رسمها".

قدم المؤلفون مفهوماً يسمى κ-FC. هذا يشبه إعطاء الروبوت "تلميحاً" أو "إشارة GPS" (يسمونها $\kappa$ ) تخبره: "مهلاً، الضجيج الذي تبدأ به يجب أن يشبه قليلاً القطة التي تحاول رسمها".

إذا عرف الروبوت أن الوجهة هي قطة، فلا ينبغي أن يبدأ بضجيج عشوائي نقي. بل يجب أن يبدأ بضجيض "مشكل بالفعل" ليشبه القطة قليلاً. هذا يجعل المسار أكثر استقامة.

العقبة: إذا اعتمدت على هذا التلميح أكثر مما ينبغي، فسيصاب الروبوت بالارتباك. إذا كان التلميح محدداً للغاية، فقد ينسى الروبوت كيفية رسم القطة إذا لم تعطه التلميح لاحقاً. الأمر يشبه طالباً يحفظ نموذج الإجابة لكنه لا يستطيع حل المسألة بدونها. وهذا ما يسمى بمشكلة "ثقب الأولوية" (Prior Hole).

2. استراتيجية "السموذي" (MixFlow)

لإصلاح مشكلة الـ "GPS"، ابتكر المؤلفون MixFlow.

تخيل أنك تصنع سموذي (مشروب الفواكه المخلوط).

المكون أ: ماء نقي (ضجيج عشوائي قياسي).
المكون ب: عصير مركز طعمه يشبه تماماً القطة التي تريد رسمها (توزيع "التلميح").

بدلاً من إجبار الروبوت على شرب عصير الفاكهة فقط (وهو أمر مخاطر) أو شرب الماء فقط (وهو أمر بطيء)، يعلم MixFlow الروبوت كيف يشرب خليطاً من كليهما.

أثناء التدريب، يتعلم الروبوت التعامل مع كل خليط ممكن:

100% ماء (ضجيج نقي)
50% ماء / 50% عصير
100% عصير (التلميح)

لماذا يعد هذا سحراً؟
لأن الروبوت يتعلم مسار "العصير" (المسار الذكي والمستقيم) أثناء تدريبه، فإنه يتعلم بالصدفة كيفية تطبيق نفس المنطق المستقيم على مسار "الماء".

عندما يحين وقت رسم الصورة فعلياً (الاستدلال)، يمكنك فقط إعطاؤه الماء (الضجيج النقي). وبما أنه تعلم مسار "العصير" أثناء التدريب، فإنه يعرف بالضبط كيف يحول ذلك الماء إلى قطة في خط مستقيم، دون الحاجة إلى التلميح بعد الآن.

النتائج: أسرع وأفضل

باستخدام طريقة تدريب "السموذي" هذه:

المسار أكثر استقامة: لا يضطر الروبوت للتجول في دوائر.
إنه أسرع: يحتاج إلى خطوات أقل بكثير لإنتاج صورة عالية الجودة.
الجودة أعلى: تبدو الصور أفضل، حتى مع عدد خطوات أقل.

ملخص التشبيه

الطريقة القديمة: محاولة المشي من نقطة عشوائية في المحيط إلى جزيرة محددة. عليك السباحة في حلقات كبيرة ومربكة.
MixFlow: تدرب السباح عن طريق ممارسة الطريق من قارب قريب (التلميح) إلى الجزيرة. وبمجرد أن يتقن السباح هذا المسار القصير والمستقيم، يمكنه أيضاً معرفة كيفية السباحة في خط مستقيم من وسط المحيط إلى الجزيرة، لأنه تعلم الاتجاه، وليس مجرد نقطة البداية.

باختصار: MixFlow يعلم نماذج الذكاء الاصطناعي أن تسلك "الطريق السياحي" أثناء التدريب لكي تتمكن من سلك "الطريق السريع" عندما تقوم بعملها الفعلي. وهذا يجعلها أسرع، وأقل تكلفة في التشغيل، وأفضل في أداء مهمتها.

إليك ملخص تقني مفصل لورقة البحث: "MIXFLOW: MIXED SOURCE DISTRIBUTIONS IMPROVE RECTIFIED FLOWS".

1. بيان المشكلة (Problem Statement)

حققت النماذج التوليدية، ولا سيما نماذج الانتشار (Diffusion Models) والتدفقات المصححة (Rectified Flows)، نتائج رائدة في توليد الصور. ومع ذلك، فهي تعاني من قيد جوهري: بطء أخذ العينات التكراري (slow iterative sampling).

السبب الجذري: سرعة أخذ العينات مقيدة بـ انحناء (curvature) المسارات التوليدية. تتطلب المسارات شديدة الانحناء العديد من عمليات تقييم الدالة (خطوات) لتقريب التدفق بدقة.
الرؤية النظرية: أثبتت الأعمال السابقة أن الانحناء العالي ينشأ من الاستقلالية (independence) بين توزيع المصدر (عادةً ما يكون توزيع غاوسي قياسي، $p_0$ ) وتوزيع البيانات المستهدف ( $p_1$ ). عندما يكون المصدر والهدف مستقلين، تتقاطع مسارات النقل الأمثل بينهما بشكل متكرر، مما يجبر نموذج حقل المتجهات (vector field model) على تعلم مسار معقد ومنحنٍ لحل هذه التقاطعات.
القيود الحالية: بينما تحاول طرق مثل Fast-ODE تحسين الاقتران الأمامي (التوزيع المشترك للمصدر والهدف) لتسوية المسارات، إلا أنها تعتمد غالبًا على استراتيجية تنظيم صارمة. إن ربط المصدر بإشارات البيانات بشكل عشوائي قد يؤدي إلى مشكلة "فجوة الأولوية" (prior hole problem) (حيث ينهار التوزيع المتعلم أو يفشل في تغطية فضاء الغاوسي القياسي) أو يتطلب معاملات فائقة (hyperparameters) يصعب ضبطها وتؤدي إلى تدهور الأداء أثناء الاستنتاج.

2. المنهجية (Methodology)

يقترح المؤلفون MixFlow، وهي استراتيجية تدريب تجمع بين توزيع مصدر شرطي قابل للتعلم وتوزيع غير شرطي ثابت لتحسين استقامة المسار دون التضحية بالاستقرار.

أ. الاقتران الأمامي $\kappa$ ( $\kappa$ -Forward Coupling)

قدم المؤلفون أولاً صياغة عامة للاقترانات الأمامية القابلة للتعلم.

المفهوم: بدلاً من افتراض أن $x_0$ و $x_1$ مستقلان، يقدمون إشارة شرطية $\kappa$ (والتي يمكن أن تكون عينة البيانات نفسها، أو تسمية فئة، أو ضجيجًا).
الصياغة: يتم تعلم توزيع المصدر $q_\phi(x_0 | \kappa)$ ليتوافق مع الهدف $x_1$ بناءً على $\kappa$ .
التحدي: يتطلب تعلم $q_\phi(x_0 | \kappa)$ بشكل مباشر حدًا تنظيميًا (تباعد KL) لمنع التوزيع من الابتعاد كثيرًا عن التوزيع الغاوسي القياسي. ومع ذلك، فإن وزن التنظيم العالي ( $\beta$ ) يجبر النموذج للعودة إلى الاستقلالية (مما يفقد الفوائد)، بينما يؤدي الوزن المنخفض إلى عدم استقرار التدريب أو مشكلة "فجوة الأولوية".

ب. حل MixFlow

للتغلب على المقايضة في $\kappa$ -FC، يقوم MixFlow بتدريب نموذج التدفق على خليط خطي (linear mixture) من توزيعين:

توزيع شرطي قابل للتعلم: $N(\mu_\phi(\kappa), \Sigma_\phi(\kappa))$ .
توزيع غير شرطي ثابت: التوزيع الغاوسي القياسي $N(0, I)$ .

عملية التدريب:

لكل خطوة تدريب، يتم أخذ وزن خلط $w \sim U(0, 1)$ .
يتم إنشاء توزيع المصدر كاستيفاء (interpolation):
$q_\phi(x_0 | \kappa, w) = N(w\mu_\phi(\kappa), w\Sigma_\phi(\kappa) + (1-w)I)$
يتم تدريب حقل المتجهات $v_\theta$ للتدفق من هذا الخليط إلى الهدف $x_1$ .
الميزة الرئيسية: من خلال التدريب على كامل طيف $w$ (من الغاوسي الصرف إلى الشرطي الصرف)، يتعلم النموذج استخدام الإشارة المعلوماتية $\kappa$ لتسوية المسارات مع الحفاظ على التغطية الكاملة لفضاء الغاوسي. وهذا يسمح باستخدام وزن تنظيم صغير جدًا ( $\beta \approx 10^{-5}$ )، مما يمكن التوزيع الشرطي من الابتعاد بشكل كبير عن الغاوسي القياسي دون الانهيار.

الاستنتاج (Inference/Sampling):

مع وجود شرط (With Conditioning): إذا كانت $\kappa$ متاحة (مثل تسمية الفئة)، يمكن للمستخدم اختيار $w$ للتحكم في المقايضة بين السرعة والجودة.
بدون وجود شرط (Without Conditioning): إذا لم تكن $\kappa$ متاحة (توليد غير شرطي)، يعود النموذج تلقائيًا إلى $w=0$ (الغاوسي القياسي الصرف). والأهم من ذلك، نظرًا لأن حقل المتجهات تم تدريبه على الخليط، فقد "ورث" هيكل المسار المستقيم من المكون الشرطي، مما يؤدي إلى مسارات أكثر استقامة حتى عند البدء من ضجيج صرف.

3. المساهمات الرئيسية (Key Contributions)

صياغة $\kappa$ -FC: إطار عمل عام للاقترانات الأمامية القابلة للتعلم التي يمكنها التكييف مع أي إشارات لضبط توافق توزيعات المصدر والهدف.
خوارزمية MixFlow: استراتيجية تدريب قوية باستخدام خلط التوزيعات تحل مشكلة المقايضة بين الاستقرار والمرونة في $\kappa$ -FC. وهي تسمح بأوزان تنظيم منخفضة جدًا، مما يؤدي إلى انخفاض كبير في انحناء المسار.
التحكم في الاستنتاج: القدرة على ضبط وزن الخلط $w$ عند الاختبار لضبط المقايضة بين السرعة والجودة دون الحاجة لإعادة التدريب.
كفاءة التدريب: يحقق MixFlow تقاربًا أسرع من النماذج المرجعية (baselines)، محققًا أداءً مماثلاً بعدد أقل من دورات التدريب.

4. النتائج التجريبية (Experimental Results)

قيم المؤلفون MixFlow على مجموعات بيانات CIFAR10 و FFHQ (64x64) و AFHQv2 (64x64)، مقارنة بـ Rectified Flow و Flow Matching و Fast-ODE.

انحناء المسار (Trajectory Curvature): حقق MixFlow تقليلًا بنسبة ~22% في انحناء المسار مقارنة بـ Rectified Flow و تحسنًا بنسبة ~5% عن Fast-ODE (الذي كان يمثل أحدث تقنية سابقة لتسوية المسارات).
جودة التوليد (FID):
- ميزانية أخذ عينات عالية: حسن FID بنسبة 12% عن Rectified Flow و 7% عن Fast-ODE.
- ميزانية أخذ عينات منخفضة (خطوات قليلة): أظهر مكاسب كبيرة في نظام الخطوات المنخفضة (مثلاً 5-9 خطوات). في CIFAR10 مع 5 خطوات، حسن MixFlow قيمة FID بنسبة ~20% عن Fast-ODE.
المتانة (Robustness): على عكس Fast-ODE، الذي يتطلب إعادة التدريب بأوزان مختلفة ( $\beta$ ) لتحسين الأداء لأعداد خطوات مختلفة، يوفر MixFlow نموذجًا واحدًا يعمل بشكل مثالي عبر نطاق واسع من خطوات أخذ العينات.
النتائج النوعية: تُظهر التصورات أن MixFlow يولد صورًا واضحة وعالية الجودة بـ 2-4 خطوات فقط، بينما تنتج النماذج المرجعية غالبًا آثارًا ضبابية أو مشوهة عند عدد الخطوات المنخفض.

5. الأهمية (Significance)

سد الفجوة: يسد MixFlow بفعالية الفجوة بين النقل الأمثل النظري (المسارات المستقيمة) والنمذجة التوليدية العملية من خلال حل مشكلات الاستقرار المرتبطة بتعلم توزيعات المصدر المعقدة.
الكفاءة: يقلل بشكل كبير من التكلفة الحسابية للاستنتاج (خطوات أقل لمحلل ODE) والتدريب (تقارب أسرع)، مما يجعل النمذجة التوليدية عالية الجودة أكثر سهولة في الوصول إليها.
العمومية (Generalizability): إطار العمل مستقل عن إشارة التكييف $\kappa$ ، مما يشير إلى إمكانات تطبيق تتجاوز توليد الصور، مثل تحويل النص إلى صورة أو مهام التوليد الشرطي الأخرى حيث يكون محاذاة توزيعات المصدر والهدف أمرًا بالغ الأهمية.

باختالام، يمثل MixFlow تحولًا في نمط النمذجة التوليدية القائمة على التدفق، من خلال إثبات أن خلط التوزيعات أثناء التدريب هو آلية بسيطة ولكنها قوية لتسوية المسارات التوليدية، مما يسرع عملية أخذ العينات ويحسن جودة التوليد عبر جميع ميزانيات الخطوات.