🤖 AI

Score-Regularized Joint Sampling with Importance Weights for Flow Matching

تقترح هذه الورقة إطار عمل لأخذ عينات مشترك منظم بالدرجة مع ترجيح الأهمية، والذي يولد عينات متنوعة وعالية الجودة من نماذج مطابقة التدفق لتمكين التقدير الدقيق للتوقعات في ظل ميزانيات أخذ عينات محدودة.

المؤلفون الأصليون: Xinshuang Liu, Runfa Blark Li, Shaoxiu Wei, Truong Nguyen

نُشر 2026-03-02

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Xinshuang Liu, Runfa Blark Li, Shaoxiu Wei, Truong Nguyen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك فناناً سحرياً (نموذج مطابقة التدفق - Flow Matching Model) يمكنه رسم أي شيء تطلبه منه، من "شاطئ مشمس" إلى "مدينة سايبربانك". هذا الفنان موهوب للغاية، لكن لديه عادة: إذا طلبت منه رسم 10 صور متتالية، فإنه يميل إلى رسم 10 صور متطابقة تقريباً لنفس الشاطئ المشمس، ولكن مع اختلاف طفيف في السحب. إنه يعلق في "منطقة الراحة" المفضلة لديه.

هذه مشكلة إذا كنت تريد معرفة متوسط كل الأشياء التي يمكن للفنان رسمها. إذا طلبت 10 صور فقط وكانت جميعها متشابهة، فسيكون متوسطك خاطئاً. ستفقد الأشياء النادرة ولكن المهمة، مثل "شاطئ وقت الغروب" أو "شاطئ عاصف".

تقترح هذه الورقة طريقة جديدة لطلب الصور من الفنان لكي تحصل على مجموعة متنوعة من 10 صور فريدة، بينما تظل قادراً على حساب المتوسط الحقيقي بدقة.

إليك كيف يفعلون ذلك، مقسماً إلى ثلاثة مفاهيم بسيطة:

1. المشكلة: الفنان ذو "تفكير الجماعة"

عادةً، عندما تطلب 10 عينات، يقوم الفنان برسمها واحدة تلو الأخرى بشكل مستقل. الأمر يشبه أن تطلب من 10 أشخاص مختلفين تخمين حالة الطقس؛ إذا نظروا جميعاً من نفس النافذة، فقد يتوقعون جميعاً أن الجو "مشمس"، حتى لو كانت هناك عاصفة قادمة.

المشكلة: إذا كان لدى الفنان أسلوب نادر ولكن مهم (مثل "العاصف")، فإن أخذ العينات المستقلة قد يغفل عنه تماماً.
الهدف: نريد أن تنتشر العينات العشر لتغطي كل الأساليب المختلفة (الأنماط/modes) التي يعرفها الفنان، وليس فقط النمط الأكثر شيوعاً.

2. الحل: قاعدة "التباعد الاجتماعي" (أخذ العينات المنظم بالدرجة - Score-Regularized Sampling)

للحصول على صور متنوعة، يخبر الباحثون الفنان: "ارسم 10 صور، ولكن تأكد من أنها مختلفة عن بعضها البعض". يفعلون ذلك عن طريق إضافة "قوة تنافر" (مثل المغناطيس الذي يدفع الأشياء بعيداً عن بعضها) تدفع الرسومات بعيداً عن بعضها أثناء عملية إنشائها.

لكن هنا تكمن الخدعة: إذا دفعتهم بقوة كبيرة، فقد يرتبك الفنان ويرسم أشياء غير منطقية (مثل شاطئ به محمصة خبز عائمة). يُسمى هذا "الانحراف عن الخريطة".

الحل (التنظيم بالدرجة - Score-Regularization):
أعطى الباحثون الفنان بوصلة خاصة تسمى "الدرجة" (Score).

فكر في "الدرجة" كخريطة تخبر الفنان بمكان المناطق "الجيدة وعالية الجودة" (فضاء البيانات).
عندما تحاول قوة "التباعد الاجتماعي" دفع صورة إلى منطقة غريبة ومنخفضة الجودة (خارج الخريطة)، تقول "الدرجة": "لا! عُد إلى المسار! ابقَ على مسار الجودة العالية!"
النتيجة: تنتشر الصور العشر لتغطي أساليب مختلفة (التنوع)، لكنها تظل جميعها ضمن نطاق ما يبدو واقعياً (الجودة). الأمر يشبه رعي القطط: تريد منها أن تذهب في اتجاهات مختلفة، لكنك لا تريدها أن تقفز من فوق منحدر.

3. الخلطة السرية: "تذكرة الإنصاف" (أوزان الأهمية - Importance Weights)

الآن، لدينا 10 صور متنوعة. ولكن لأننا أجبرناها على أن تكون مختلفة، فهي لم تعد عينة عشوائية "عادلة" بعد الآن. على سبيل المثال، إذا كان الفنان يرسم "المشمس" بنسبة 90% من الوقت، ولكن قاعدة التنوع الخاصة بنا أجبرت صورة واحدة على أن تكون "عاصفة"، فإن هذه الصورة "العاصفة" أصبحت الآن ممثلة بشكل مبالغ فيه في مجموعتنا المكونة من 10 صور.

إذا أخذنا متوسط هذه الصور العشر فقط، فسيكون حسابنا خاطئاً. نحن بحاجة إلى إصلاح الرياضيات.

الحل:
طور الباحثون طريقة لحساب "تذكرة إنصاف" (وزن الأهمية) لكل صورة.

التشبيه: تخيل أنك في حفلة. عادةً، 90% من الضيوف يرتدون قمصاناً حمراء. لكن الليلة، أجبرت ضيفاً واحداً على ارتداء قميص أزرق لجعل المجموعة متنوعة.
لحساب "الرأي المتوسط" للحفلة بشكل صحيح، لا يمكنك اعتبار القميص الأزرق مساوياً للقمصان الحمراء. يجب أن تقول: "هذا القميص الأزرق يمثل رأياً نادراً، لذا دعونا نحسبه كأنه يعادل 10 قمصان حمراء من حيث الوزن"، أو على العكس: "القمصان الحمراء شائعة، لذا دعونا نحسبها كـ 0.1 من الشخص".
كيف يفعلون ذلك: يقومون بتدريب "روبوت مساعد" صغير وسريع (مجال سرعة متبقي - residual velocity field) يتعلم بالضبط كيف غيرت قاعدة التنوع الاحتمالات. يحسب هذا الروبوت وزن كل صورة أثناء رسمها.
النتيجة: تحصل على مجموعة متنوعة من الصور، ولكن عندما تدمجها باستخدام هذه الأوزان الخاصة، ستحصل على نفس الإجابة تماماً كما لو كنت قد رسمت 1,000,000 صورة عشوائية.

ملخص: لماذا هذا مهم؟

الطريقة القديمة: تطلب 10 صور. تحصل على 10 صور متشابهة. تفقد الأشياء النادرة. حسابات سيئة.
الطريقة الجديدة: تطلب 10 صور. تجبرها على أن تكون مختلفة (التنوع). تستخدم بوصلة لإبقائها واقعية (التنظيم بالدرجة). تعطي كل صورة "وزناً" بناءً على مدى ندرتها (أوزان الأهمية).
الثمرة: ستحصل على فهم أفضل لما يمكن للذكاء الاصطناعي القيام به، باستخدام موارد أقل. الأمر يشبه الحصول على جولة كاملة في متحف من خلال زيارة 10 غرف مختلفة، بدلاً من التحديق في نفس اللوحة 10 مرات، ثم إجراء الحسابات بشكل صحيح لمعرفة "متوسط" الجمال في المتحف بأكه.

تساعد هذه الطريقة الباحثين في مجال الذكاء الاصطناعي على الوثوق بنماذجهم، خاصة عندما يحتاجون لاتخاذ قرارات بناءً على "متوسط" سلوك الذكاء الاصطناعي، بدلاً من مجرد الأمل في الحصول على سحب عشوائي محظوظ.

إليك ملخص تقني مفصل لورقة البحث بعنوان "Score-Regularized Joint Sampling with Importance Weights for Flow Matching".

1. بيان المشكلة

تُعد نماذج مطابقة التدفق (Flow matching) أدوات قوية لتوليد التوزيعات المعقدة، ولكن تقدير توقعات الدوال لنتائجها (على سبيل المثال، $E[f(X)]$ ) يمثل تحدياً في ظل ميزانيات أخذ العينات المحدودة.

مشكلة التباين: غالباً ما يؤدي أخذ العينات المستقل والمتماثل التوزيع (IID) القياسي إلى تقديرات ذات تباين عالٍ، لا سيما عندما تهيمن النتائج النادرة ولكن ذات التأثير الكبير على التوقع.
مقايضة التنوع والجودة: تُدخل طرق أخذ العينات المشتركة غير المتماثلة (non-IID) الموجودة (مثل Particle Guidance وDiverseFlow) "سرعة تنوع" (diversity velocity) لدفع المسارات المتزامنة بعيداً عن بعضها البعض. ومع ذلك، فإن قوى التنوع القوية تدفع العينات نحو مناطق منخفضة الكثافة وخارج النطاق (off-manifold)، مما يؤدي إلى تدهور جودة العينة. أما القوى الضعيفة فتحافظ على الجودة ولكنها تفشل في تحسين التنوع بشكل كبير.
مشكلة الانحياز: لا توفر طرق أخذ العينات المشتركة الموجودة آلية لحساب أوزان الأهمية (importance weights). وبناءً عليه، فإن المتوسطات البسيطة للمخرجات المأخوذة من عينات مشتركة تؤدي إلى مُقدِّرات منحازة للتوقعات لأن التوزيع الهامشي لآخذ العينات المشترك يختلف عن التوزيع المستهدف.

2. المنهجية

يقترح المؤلفون إطار عمل يسمى "أخذ العينات المشترك المنظم بالدرجة مع أوزان الأهمية" (SRIW-Flow) الذي يعالج كلاً من معضلة التنوع/الجودة والتقدير غير المنحاز.

أ. التنظيم القائم على الدرجة من أجل التنوع (SR)

لحل مقايضة التنوع والجودة، تقوم الطريقة بتقييد اتجاه سرعة التنوع باستخدام دالة الدرجة (score function) الخاصة بالنموذج ( $\nabla_x \log p(x|t)$ ).

الآلية: يتم تفكيك تدرج التنوع $g$ (المشتق من هدف تنوع مثل المسافات الزوجية) إلى مكونات موازية ( $g_{\parallel}$ ) ومكونات متعامدة ( $g_{\perp}$ ) مع متجه الدرجة.
التنظيم:
- إذا كان تحرك التنوع يتوافق مع كثافة أعلى ( $g \cdot s \geq 0$ )، فإنه يُحتفظ به.
- إذا كان التحرك يدفع نحو مناطق منخفضة الكثافة أو خارج النطاق ( $g \cdot s < 0$ )، يتم تخفيف أو إزالة المكون الموازي (عبر قيد "ناعم" أو "صلب").
النتيجة: يضمن ذلك دفع العينات بعيداً عن بعضها البعض بشكل أساسي على طول نطاق البيانات (داخل مناطق الكثافة العالية)، مما يمنع الانجراف خارج النطاق مع الحفاظ على جودة عالية للعينات.

ب. تقدير وزن الأهمية عبر التدفق المتبقي (Residual Flow)

لتمكين التقدير غير المنحاز ( $\hat{\mu} = \frac{1}{n} \sum w_i f(X_i)$ )، تتعلم الطة التوزيع الهامشي لآخذ العينات المشترك لحساب الأوزان $w(x) = p(x)/p'(x)$ .

تعلم السرعة المتبقية: بدلاً من إعادة تعلم حقل السرعة بأكمله، يتم تدريب حقل سرعة متبقي خفيف الوزن $r_\phi(x, t)$ . هذا الحقل، عند إضافته إلى سرعة التدفق المدربة مسبقاً $v(x, t)$ ، ينشئ تدفقاً مضطرباً يتوافق مع التوزيع الهامشي الناتج عن آخذ العينات المرتبط بالتنوع.
تطور المسار: بدلاً من تقدير الأوزان عند موضع ثابت (والذي قد يعاني من مشكلات الخروج عن النطاق)، تقوم الطريقة بدمج تطور نسبة اللوغاريتم للأهمية على طول مسار العينة.
- بالنسبة لتدفقات التصحيح (Rectified Flows)، يتم اشتقاق تطور وزن الأهمية في صيغة مغلقة باستخدام حقل السرعة والمتبقي، مما يتجنب الحاجة لتعلم دالة درجة منفصلة.
- تأخذ قاعدة تحديث الوزن في الاعتبار تباعد السرعة المتبقية والتفاعل بين السرعة الأصلية، والمتبقي، وسرعة التنوع.

3. المساهمات الرئيسية

إطار عمل لأخذ العينات غير المتماثل (Non-IID): نهج مبتكر لمطابقة التدفق يقوم بسحب عدة عينات بشكل مشترك لتغطية مناطق متنوعة وبارزة من التوزيع.
التنوع المنظم بالدرجة: آلية تستخدم دالة الدرجة لتقييد قوى التنوع، مما يحل بفعالية المقايضة بين تنوع العينات والجودة على النطاق.
أوزان الأهمية غير المنحازة: أول طريقة (حسب علم المؤلفين) لحساب أوزان الأهمية لعينات التدفق غير المتماثلة عبر تعلم حقل سرعة متبقي وتطوير الأوزان على طول المسارات.
التحقق النظري والتجريبي: تقديم براهين نظرية لتطور الوزن وتحقق تجريبي شامل يظهر تحسناً في التنوع، الجودة، ودقة التقدير.

4. النتائج التجريبية

تم تقييم الطريقة على مجموعات غاوس (Gaussian mixtures)، وStable Diffusion 3.5 (تحويل النص إلى صورة)، وFLUX.1-Fill (ترميم الصور).

مزيج غاوس (اصطناعي):
- التنوع والجودة: أدى إضافة التنظيم بالدرجة (SR) إلى تحسين جودة العينة بشكل ملحوظ (لوغاريتم احتمالية أعلى، وخطأ تربيعي متوسط أقل للمودات/الأنماط) مع الحفاظ على تغطية عالية للأنماط. في المقابل، غالباً ما ضحت طرق التنوع القياسية (مثل DiverseFlow) بالجودة من أجل التنوع.
- دقة التقدير: حقق مُقدِّر وزن الأهمية القائم على المسار خطأً تربيعياً (SE) أقل بكثير ومقاييس ترتيب أفضل (Kendal's $\tau$ , Spearman's $\rho$ ) مقارنة بقواعد كثافة (kNN, KDE) والمقدرات ذات الموضع الثابت.
- تقدير التوقع: أعطت الطريقة المقترحة أدنى تباعد "جنسن-شانون" عند تقدير توزيع العينات المولدة، متفوقة على كل من أخذ العينات IID وأخذ العينات غير المتماثل غير الموزون.
تحويل النص إلى صورة (Stable Diffusion 3.5) والترميم (FLUX.1):
- نطاق التغطية: قللت الطريقة من نصف قطر التغطية (مقياس لأسوأ حالة تغطية هندسية في الفضاء الكامن) عبر أوصاف مختلفة مقارنة بأخذ العينات IID.
- التحسين النوعي: أظهرت النتائج المرئية أن SR منعت العيوب (مثل الصور غير المنطقية الناتجة عن قوى التنوع الصرفة) وصقلت التفاصيل (مثل بنية العين في عملية الترميم) مع الحفاظ على تنوع المخرجات.
- الكفاءة: أثبت النهج أن الحفاظ على الجودة داخل النطاق يزيد من كفاءة العينات، مما يتطلب عينات أقل لتغطية التوزيع بفعالية.

5. الأهمية

يوفر هذا العمل تقدماً جوهرياً في التوصيف الموثوق لمخرجات نماذج مطابقة التدفق. من خلال فصل آلية التنوع عن الانجراف خارج النطاق عبر تنظيم الدرجة، وتوفير مسار صارم لتقدير التوقع غير المنحاز عبر أوزان الأهمية، تتيح الورقة:

استخداماً أكثر كفاءة للنماذج التوليدية المكلفة (حاجة لعينات أقل للحصول على إحصاءات دقيقة).
نشراً أكثر أماناً في التطبيقات التي تتطلب مخرجات عالية الجودة ومتنوعة (مثل التصوير الطبي، والمحاكاة العلمية).
حلاً يمكن استخدامه كإضافة (Plug-in) للنماذج المدربة مسبقاً من نوع مطابقة التدفق دون الحاجة لإعادة تدريب النموذج الأساسي.

لقد أتاح المؤلفون الكود الخاص بهم لسهولة البحث المستقبلي في إدارة المقايضة بين التنوع والجودة في النمذجة التوليدية.