🤖 machine learning

COT-FM: Cluster-wise Optimal Transport Flow Matching

إن COT-FM هو إطار عمل جاهز للتشغيل يعزز مطابقة التدفق (Flow Matching) من خلال تجميع العينات المستهدفة وتخصيص توزيعات مصدر مخصصة لإنشاء مجالات متجهية أكثر استقامة، مما يؤدي إلى تسريع عملية أخذ العينات وتحسين جودة التوليد عبر مهام متنوعة دون تغيير بنية النموذج.

المؤلفون الأصليون: Chiensheng Chiang, Kuan-Hsun Tu, Jia-Wei Liao, Cheng-Fu Chou, Tsung-Wei Ke

نُشر 2026-03-17

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Chiensheng Chiang, Kuan-Hsun Tu, Jia-Wei Liao, Cheng-Fu Chou, Tsung-Wei Ke

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول توجيه مجموعة من الناس من نقطة انطلاق واحدة مزدحمة (مثل محطة حافلات) إلى مدينة معقدة وواسعة تضم أحياء متميزة عديدة (مثل وسط المدينة، ومنتزه، ومنطقة تسوق).

المشكلة: نهج "الحافلة المزدحمة"
تحاول الطرق التقليدية (التي تسمى Flow Matching) إرسال الجميع من تلك المحطة الواحدة إلى المدينة في وقت واحد. المشكلة هي أن "مراقب المرور" (نموذج الذكاء الاصطناعي) عليه أن يكتشف كيفية إيصال الجميع إلى كل مكان في آن واحد.

لجعل الأمر قابلاً للإدارة، غالباً ما يقوم المراقب بربط الناس ببعضهم عشوائياً: "أنت تذهب إلى المنتزه، وأنت تذهب إلى المركز التجاري". ولكن لأن المراقب يحاول إدارة وجهات مختلفة كثيرة في وقت واحد، تصبح المسارات فوضوية. يتقاطع الناس في مساراتهم، ويصابون بالارتباك، وينتهي بهم الأمر بسلوك طرق طويلة ومتعرجة وملتوية لتجنب الاصطدامات. هذا الأمر غير فعال، ويستغرق وقتاً طويلاً في المشي، وغالباً ما ينتهي بالناس وهم تائهون أو وصلوا إلى الحي الخطأ.

الحل: COT-FM (استراتيجية "الأحياء الذكية")
يقدم البحث COT-FM (نقل التدفق الأمثل القائم على التجميع - Cluster-wise Optimal Transport Flow Matching). بدلاً من معاملة المدينة بأكملها كفوضى واحدة ضخمة، يقوم COT-FM بتفكيك المشكلة إلى قطع أصغر يمكن إدارتها.

إليك كيف يعمل، باستخدام تشبيه إبداعي:

1. استراتيجية "فرق تسد"

تخيل أن المدينة مقسمة إلى أحياء متميزة (تجمعات/Clusters).

الطريقة القديمة: حافلة واحدة كبيرة تحاول إنزال الجميع في كل مكان.
طريقة COT-FＭ: ندرك أن الأشخاص المتجهين إلى حي "المنتزه" يجب أن يبدأوا من موقف حافلات محدد قريب من المنتزه، وأن الأشخاص المتجهين إلى "المركز التجاري" يجب أن يبدأوا من موقف قريب من المركز التجاري.

يقوم COT-FM أولاً بـ تجميع (Clustering) البيانات المستهدفة (المدينة) في مجموعات منطقية. فهو يدرك أن بيانات "المنتزه" تبدو مختلفة عن بيانات "المركز التجاري"، لذا لا ينبغي خلطهما معاً.

2. خطوة "الهندسة العكسية"

كيف يعرف COT-FM أين يضع مواقف الحافلات الجديدة هذه؟
إنه يستخدم خدعة ذكية: الهندسة العكسية.
تخيل أن لديك خريطة لكيفية مشي الناس بالفعل من محطة الحافلات إلى المدينة. يأخذ COT-FM شخصاً نجح في الوصول إلى "المنتزه" ويمشي به للخلف على طول مساره ليرى بالضبط من أين بدأ.

يفعل ذلك لكل شخص في مجموعة "المنتزه".
يحسب نقطة البداية المتوسطة لتلك المجموعة.
الآن، بدلاً من محطة حافلات واحدة ضخمة، ينشئ موقف حافلات أصغر ومخصصاً خصيصاً لمجموعة "المنتزه".

3. نتيجة "الخط المستقيم"

الآن، يتعين على مراقب المرور فقط معرفة كيفية إيصال الناس من "موقف حافلات المنتزه" إلى "حي المنتزه".

ولأن نقطة البداية والوجهة متطابقتان تماماً لهذه المجموعة المحددة، فإن المسار يكون خطاً مستقيماً.
لا مزيد من الطرق المتعرجة. لا مزيد من تقاطع مسارات الأشخاص مع مجموعة "المركز التجاري".
الرحلة أسرع، وأكثر سلاسة، وأكثر دقة.

لماذا يهم هذا الأمر (التأثير في العالم الحقيقي)

في عالم الذكاء الاصطناعي، "المشي" هو في الواقع توليد الصور، أو الفيديوهات، أو حركات الروبوت.

الذكاء الاصطناعي القديم: يستغرق 50 أو 100 خطوة لرسم صورة لأن المسار منحني ومربك للغاية.
ذكاء COT-FM الاصطناعي: يمكنه رسم نفس الصورة في خطوة واحدة أو خطوتين لأن المسار عبارة عن خط مستقيم.

النتائج:

السرعة: يقوم بتوليد الصور أو أفعال الروبوتات بشكل أسرع بكثير (مثل الانتقال من طريق ريفي بطيء ومتعرج إلى طريق سريع).
الجودة: الصور تكون أكثر وضوحاً وحركات الروبوت أكثر دقة لأن الذكاء الاصطناعي لا يتكهن أو يرتبك بسبب المسارات المختلطة.
تعدد الاستخدامات: يعمل في كل شيء، من رسم الأشكال ثنائية الأبعاد إلى توليد صور عالية الدقة وتعليم الروبوتات كيفية صب القهوة أو فتح أبواب الميكروويف.

الملخص

فكر في COT-FM كمخطط حضري ذكي أدرك أن محاولة إدارة جميع حركة المرور في المدينة من مركز واحد هي كارثة. بدلاً من ذلك، يقوم بإنشاء مراكز نقل محلية لأحياء محددة. من خلال مطابقة نقطة البداية الصحيحة مع الوجهة الصحيحة، فإنه يحول متاهة المسارات الفوضوية والمتعرجة إلى سلسلة من الطرق السريعة المستقيمة والفعالة.

هذا يسمح للذكاء الاصطناعي بتوليد نتائج عالية الجودة في جزء ضئيل من الوقت، مما يجعل من الممكن إنشاء صور معقدة أو التحكم في الروبوتات بخطوة واحدة فقط بدلاً من عملية طويلة ومملة.

إليك ملخص تقني مفصل لورقة البحث بعنوان "COT-FM: Cluster-wise Optimal Transport Flow Matching" (مطابقة التدفق عبر النقل الأمثل المعتمد على العناقيد).

1. بيان المشكلة

مطابقة التدفق (Flow Matching - FM) هو إطار عمل للنماذج التوليدية يتعلم حقل متجهًا يعتمد على الزمن لنقل العينات من توزيع مصدر بسيط (مثل التوزيع الطبيعي/Gaussian) إلى توزيع بيانات هدف معقد. ورغم مرونته، تعاني نماذج FM القياسية غالبًا من مسارات نقل منحنية بسبب استراتيجيات الاقتران المستخدمة أثناء التدريب:

الاقتران العشوائي (Random Coupling): يؤدي إقران عينات المصدر وعينات الهدف بشكل عشوائي إلى خلق أهداف سرعة متضاربة، مما يجبر النموذج على تعلم حقل متجه متوسط ومنحنٍ.
النقل الأمثل على مستوى الدفعة (Batch-wise Optimal Transport): رغم أنه أفضل من الاقتران العشوائي، إلا أن تقريب النقل الأمثل (OT) على الدفعات الصغيرة يعاني من ضعف في المحلية (locality)، مما يؤدي إلى تقاطع المسارات والانحناء.
النتائج: تزيد المسارات المنحنية من خطأ التجزئة (discretization error)، مما يتطلب خطوات تكامل عديدة (NFEs) للحصول على توليد عالي الجودة. وهذا يحد من كفاءة نماذج FM، خاصة في حالات التوليد بخطوة واحدة أو خطوات قليلة. أما طرق "الاختصار" الحالية (مثل MeanFlow) التي تتخطى الخطوات، فغالبًا ما تفشل في تقويم حقل المتجه الأساسي، مما يؤدي إلى عينات مشوهة.

2. المنهجية: COT-FM

يقترح المؤلفون "مطابقة التدفق عبر النقل الأمثل المعتمد على العناقيد" (COT-FM)، وهو إطار عمل "جاهز للاستخدام" (plug-and-play) يعمل على إعادة تشكيل مسار الاحتمالية لتحقيق تدفقات نقل أكثر استقامة وموثوقية دون تغيير بنية النموذج.

الرؤية الجوهرية

تستفيد الطريقة من ملاحظة أن توزيعات البيانات غالبًا ما تتكون من عدة أنماط (عناقيد/clusters). يمكن توليد العينات داخل النمط الواحد من عينات مصدر متشابهة. وبدلاً من رسم خريطة للتوزيع العالمي بأكمله من مصدر واحد، تتبنى COT-FM استراتيجية "فرق تسد":

تجميع بيانات الهدف: تقسيم مجموعة بيانات الهدف إلى $K$ من العناقيد (باستاستخدام التجميع غير الخاضع للإشراف مثل K-Means أو تسميات الفئات للتوليد الشرطي).
توزيعات المصدر لكل عنقود: تخصيص توزيع مصدر مخصص لكل عنقود.
النقل الأمثل المحلي: حل مشكلة النقل الأمثل (OT) داخل كل عنقود بدلاً من الحل عالميًا.

سير العمل الخوارزمي

تعمل COT-FM في حلقة تحسين متبادلة تتضمن مرحلتين:

المرحلة 1: التكامل العكسي للمعادلة التفاضلية (Reverse ODE) لتقدير المصدر
- ابدأ بنموذج FM مدرب مسبقًا (حتى لو تم تدريبه باستخدام الاقتران العشوائي).
- لكل عينة بيانات $x_1$ في عنقود $C_k$ ، قم بعكس تكامل المعادلة التفاضلية لتتبعها عائدًا إلى فضاء المصدر، للحصول على عينة مصدر مقدرة $\hat{x}_0$ .
- احسب المتوسط ( $\mu_{0,k}$ ) والتباين ( $\Sigma_{0,k}$ ) لهذه العينات المعكوسة لكل عنقود.
- حدد توزيع المصدر الخاص بالعنقود كتوزيع طبيعي (Gaussian): $p_{0,k} = \mathcal{N}(\mu_{0,k}, \Sigma_{0,k})$ .
- الميزة الرئيسية: بما أن التدفق المسبق التدريب غير متقاطع، فإن عكسه ينتج عينات مصدر تتماشى طبيعيًا مع هيكل العنقود، مما يقلل من تقاطع المسارات.
المرحلة 2: الضبط الدقيق باستخدام النقل الأمثل لكل عنقود
- سحب نقاط المصدر من التوزيعات الطبيعية المقدرة لكل عنقود ( $x_0 \sim p_{0,k}$ ).
- حساب خريطة النقل الأمثل ( $\pi_k$ ) بين عينات المصدر وعنقود الهدف $C_k$ . نظرًا لأن المشكلة محصورة في عنقود واحد، فإن حجم الدفعة يكون أصغر، مما يجعل تقريب النقل الأمثل (OT) أكثر دقة وفعالية.
- إجراء ضبط دقيق (Fine-tuning) لنموذج FM باستخدام هذه الاقترانات المثلى لكل عنقود لتقريب حقل متجه أكثر استقامة.

الاستدلال (Inference)

أثناء التوليد، يقوم النموذج أولاً بسحب مؤشر العنقود $k$ (بنسبة تتناسب مع حجم العنقود)، ثم يسحب عينة ضوضاء من التوزيع الطبيعي الخاص بهذا العنقود $p_{0,k}$ ، ويقوم بتكامل حقل المتجه لتوليد العينة النهائية.

3. المساهمات الرئيسية

إطار عمل عام: تُعد COT-FM طريقة مستقلة عن النموذج وجاهزة للاستخدام (plug-and-play) ومتوافقة مع بنيات FM الحالية (مثل Rectified Flow و MeanFlow). فهي تعدل فقط مسار الاحتمالية المستهدف واقتران التدريب، وليس بنية الشبكة.
تقويم حقول المتجهات: من خلال حصر النقل الأمثل (OT) في العناقيد واستخلاص توزيعات المصدر الخاصة بكل عنقود عبر التكامل العكسي للمعادلة التفاضلية، تقلل الطريقة بشكل كبير من انحناء المسارات وتقاطعها.
الكفاءة مقابل الجودة: تتيح توليدًا عالي الجودة بميزانيات عينات منخفضة للغاية (خطوة واحدة أو خطوات قليوة) عن طريق تقليل أخطاء التجزئة المتأصلة في المسارات المنحنية.
التحقق النظري والتجريبي: توفر الورقة تحليلًا دقيقًا لكيفية تقليل النقل الأمثل على مستوى العناقيد للتعقيد الحسابي مقارنة بالنقل الأمثل العالمي مع تحسين دقة النقل.

4. النتائج التجريبية

قيم المؤلفون COT-FM عبر بيانات اصطناعية ثنائية الأبعاد، وتوليد الصور، والتحكم الروبوتي.

السحب النقطية ثنائية الأبعاد (خليط من التوزيعات الطبيعية، شكل الهلالين، لوحة الشطرنج):
- حققت COT-FM أدنى مسافة واسرستاين (Wasserstein distance) وأدنى انحناء بين جميع النماذج المرجعية (Rectified Flow, OT-CFM, MeanFlow).
- مثال: في خليط الـ 5 توزيعات طبيعية، انخفضت مسافة واسرستاين من 0.5421 (Rectified Flow) إلى 0.1995 (COT-FM).
توليد الصور غير المشروط (CIFAR-10):
- FID في خطوة واحدة: تحسن من 378.0 (Rectified Flow) إلى 205.0 باستخدام COT-FM.
- FID في 50 خطوة: تحسن من 4.45 إلى 3.97.
- تفوقت بشكل ملحوظ على MeanFlow (1-step FID: 2.92 $\to$ 2.60).
التوليد الشرطي للصور (ImageNet 256x256):
- باستخدام بنية SiT، خفضت COT-FM قيمة FID باستمرار في جميع إعدادات عدد خطوات التكامل (NFE)، مع أكبر المكاسب في سيناريوهات NFE المنخفضة (على سبيل المثال، انخفض 1-step FID من 264.36 إلى 231.99 لنموذج SiT-B/2).
التحكم الروبوتي (LIBERO):
- حققت نسبة نجاح 96.1% في LIBERO-Spatial و 94.5% في LIBERO-Long باستخدام خطوة واحدة فقط (1 NFE).
- تفوقت على سياسة FLOWER (التي تطلبت 4 خطوات للوصا لـ 97.1% و 93.5%) وعلى غيرها من النماذج ذات الخطوة الواحدة.

5. الأهمية والأثر

سد الفجوة: تعالج COT-FM المقايضة الجوهرية بين سرعة أخذ العينات وجودة التوليد في نماذج التدفق. وهي تثبت أن تقويم حقل المتجه هو المفتاح لتمكين التوليد عالي الجودة بخطوة واحدة.
القابلية للتوسع: من خلال تفكيك مشكلة النقل الأمثل العالمية إلى مشكلات أصغر على مستوى العناقيد، تجعل COT-FM النقل الأمثل ممكنًا لمجموعات البيانات الكبيرة دون التعقيد التكعيبي لحلول النقل الأمثل العالمية.
تعدد الاستخدامات: الطريقة قابلة للتطبيق في كل من التوليد غير المشروط والشرطي (باستخدام تسميات الفئات أو تضمينات الشروط المتعلمة)، مما يجعلها ذات صلة بمجموعة واسعة من مهام التوليد، من تركيب الصور إلى سياسات التحكم الروبوتي.
الاتجاه المستقبلي: يشير هذا العمل إلى أن فهم وتحسين استراتيجية الاقتران (كيف يتم إقران المصدر والهدف) لا يقل أهمية عن بنية النموذج نفسه في تطوير الذكاء الاصططاعي التوليدي.