ملخص تقني: مطابقة التدفق مع مسارات مساعدة تعسفية (AuxPath-FM)

بيان المشكلة

أثبتت نماذج التوليد في الزمن المستمر، بما في ذلك نماذج الانتشار القائمة على الدرجة (score-based diffusion models) وأطر مطابقة التدفق (flow matching - FM)، أنها أدوات قوية لنمذجة توزيعات البيانات المعقدة. في النمذجة التوليدية الشرطية، يعد دمج المعلومات الجانبية (مثل تسميات الفئات) أمراً ضرورياً للتوليد القابل للتحكم. ومع ذلك، فإن النهج الحالي يعتمد عادةً على إدخال هذه المعلومات حصرياً من خلال تكييف الشبكات العصبية، مما يترك المسارات الاحتمالية دون تغيير. وبينما تشير الأعمال النظرية الحديثة إلى أن مطابقة التدفق تتكيف مع هياكل المتشعبات الجوهرية، إلا أن تأثير المكون العشوائي للمسار على التحكم على مستوى المسار لا يزال غير مستكشف بشكل كافٍ.

علاما إلى ذلك، فإن الصيغ القائمة على المسارات السابقة، مثل الاستيفاء العشوائي (stochastic interpolants) وطرق جسر شرودنجر (Schrödinger Bridge)، تعتمد عموماً على الضوضاء الغاوسية أو ديناميكيات براون للاستيفاء العشوائي. هذا القيد يحد من المرونة في تصميم المسارات الاحتمالية من أجل التوجيه المهيكل. ورغم أن الأعمال الحديثة استكشفت اضطرابات غير غاوسية أو تدفقات فضاء الحالة المنفصلة، إلا أن هذه الطرق تظل متخصصة في أنواع معينة من البيانات أو تفشل في توحيد النماذج الأولية المستمرة والمنفصلة تحت إطار عمل واحد عام. هناك حاجة إلى منهج مبدئي يسمح بتشكيل المسار التوليدي مباشرة بواسطة إشارات مساعدة متنوعة، بدلاً من الاعتماد فقط على التعديل على مستوى الشبكة.

المنهجية: AuxPath-FM

يقدم المؤلفون مطابقة التدفق مع مسارات مساعدة تعسفية (AuxPath-FM)، وهو إطار عمل يعمم مطابقة التدفق الشرطية من خلال دمج متغير عشوائي مساعد $\eta$ مستمد من توزيع تعسفي مباشرة في المسار الاحتمالي.

1. المسارات الاحتمالية المساعدة التعسفية

على عكس مخططات الاستيفاء القياسية التي تقيد المصطلحات المساعدة بالضوضاء الغاوسية، يبني AuxPath-FM مسارات على شكل:
$$X_t = a(t)X_1 + b(t)X_0 + c(t)\eta$$
حيث:

• $X_0 \sim p_0$ (التوزيع الأساسي) و $X_1 \sim p_1$ (توزيع بيانات الهدف).
• $\eta \sim p_\eta$ هو متغير مساعد مستمد من توزيع تعسفي (مثل التوزيع الغاوسي، أو المنتظم، أو لابلاس، أو رادماخر، أو التوزيعات المنفصلة).
• $a(t), b(t), c(t)$ هي دوال قياسية تعتمد على الزمن تحقق الشروط الحدية ($a(0)=0, b(0)=1, c(0)=0$ و $a(1)=1, b(1)=0, c(1)=0$) لضمان نقل العينات من $p_0$ إلى $p_1$.

2. الاتساق النظري

يثبت البحث أن هذا البناء يحافظ على معادلة الاستمرارية. توضح النظرية 1 أنه إذا كانت حقول المتجهات الشرطية $u_t(x | x_0, \eta)$ تحقق معادلة الاستمرارية، فإن حقل المتجهات الهامشي $u_t(x)$، الذي يتم الحصول عليه عبر تجميع الحقول الشرطية، يولد المسار الاحتمالي الهامشي $p_t(x)$. وهذا يوفر تبريراً مبدئياً لتصميم مسارات معقدة عبر المتغيرات المساعدة.

3. هدف التدريب والتكافؤ

إن تحسين هدف مطابقة التدفق الهامشي بشكل مباشر أمر غير قابل للحل حسابياً بسبب التكاملات فوق $(X_0, \eta)$. بدلاً من ذلك، يقوم المؤلفون بتحسين هدف شرطي محدد على مسارات قابلة للحل:
$$L_{\text{AuxPath}} = \mathbb{E}_{t, X_0, X_1, \eta} \left[ \| v_\theta(X_t, t) - \dot{X}_t \|^2 \right]$$
حيث $\dot{X}_t = \dot{a}(t)X_1 + \dot{b}(t)X_0 + \dot{c}(t)\eta$. تثبت النظرية 2 أن هذا الهدف الشرطي يكافئ هدف مطابقة التدفق الهامشي حتى ثابت مستقل عن معاملات الشبكة $\theta$. وبالتالي، فإن تحسين الخسارة الشرطية يؤدي إلى نفس الحل الأمثل للهدف الهامشي غير القابل للحل.

4. المتغيرات المساعدة الدلالية والتوجيه

لتمكين التوليد الشرطي، يحدد الإطار $\eta = F_\phi(Y)$، حيث $Y$ هو تسمية الفئة و $F_\phi$ هي شبكة عصبية خفيفة الوزن مدربة عبر تعلم النماذج الأولية (prototype learning) لتقريب المركز الفئوي ($F_\phi(Y) \approx \mathbb{E}[X_1 | Y]$).

هذه الصيغة تمكن التوجيه الخالي من الفئة (CFG) على مستوى المسار. يتم التعبير عن حقول السرعة الشرطية وغير الشرطية كالتالي:
$$v(x, t, y) = v_\theta(x, t) + \dot{c}(t)F_\phi(y)$$
$$v(x, t, \emptyset) = v_\theta(x, t) + \dot{c}(t)F_\phi(\emptyset)$$
تطبيق الـ CFG القياسي ينتج عنه حد توجيه يعمل كاندفاع عالمي (global drift). والأهم من ذلك، أن هذا النهج يفصل التوجيه عن نموذج العمود الفقري (backbone): على عكس الـ CFG التقليدي الذي يتطلب تقييمين لـ $v_\theta$، يتطلب AuxPath-FM تقييماً واحداً فقط لـ $v_\theta$ ويطبق التوجيه من خلال الوحدة الخفيفة $F_\phi$.

المساهمات الرئيسية

1. تعميم المسارات الاحتمالية: يعمم البحث مطابقة التدفق من خلال السماح للمكون المساعد للمسار الاحتمالي باتباع أي توزيع تعسفي، متجاوزاً القيد المفروض على الضوضاء الغاوسية الموجود في طرق الاستيفاء العشوائي أو جسر شرودنجر.
2. الأساس النظري: يقدم إثباتاً نظرياً صارماً بأن التدفق الهامشي يظل متسقاً مع معادلة الاستمرارية وأن هدف التدريب الشرطي يكافئ الهدف الهامشي.
3. التحكم على مستوى المسار: يتيح الإطار الترميز المباشر للمعلومات الدلالية المهيكلة (مثل تسميات الفئات) في المسار التوليدي نفسه، بدلاً من الاعتماد فقط على تكييف الشبكة.
4. التوجيه الخالي من الفئة عالي الكفاءة: يقترح المؤلفون صيغة للـ CFG على مستوى المسار تقلل تكلفة الاستدلال بمقدار النصف تقريباً، حيث تتجنب التقييم المزدوج لشبكة العمود الفقري.
5. منظور موحد: يوحد البحث مختلف مخططات الاستيفاء (بما في ذلك النماذج الأولية المنفصلة وذات الذيول الثقيلة) تحت إطار عمل واحد، مما يوفر منظوراً مرناً لنمذجة التدفق المستمر المهيكل.

النتائج التجريبية

قام المؤلفون بتقييم AuxPath-FM على مجموعات بيانات MNIST و CIFAR-10 و ImageNet-1k.

• أداء التوليد الشرطي: في MNIST و CIFAR-10، أدى الجمع بين مطابقة التدفق الشرطية القياسية (CFM) وتوجيه المسار المساعد (باستخدام النماذج الأولية الدلالية المتعلمة) باستمرار إلى تحسين الدقة الدلالية (دقة التصنيف) والجودة التوليدية (FID, sFID) مقارنة بالنماذج المرجعية CFM أو التوجيه المساعد وحده.
• المتانة تجاه اختيار التوزيع: أظهرت التجارب على مجموعة بيانات Ring-64 و ImageNet-1k أن الإطار يحافظ على أداء توليدي مستقر عبر توزيعات مساعدة متنوعة (غاوسية، منتظمة، لابلاس، رادماخر). حققت المتغيرات المساعدة الموجهة بالتسميات أفضل أداء، مما يشير إلى تحسين التوليد متعدد الأنماط القابل للتحكم.
• آثار مقياس التوجيه: أدى زيادة مقياس التوجيه $w$ في CFG على مستوى المسار إلى تحسين المحاذاة الدلالية مع الحفاظ على جودة توليدية تنافسية.
• الكفاءة: نجحت صيغة CFG على مستوى المسار في تقليل تكاليف الاستدلال (مقاسة بـ GFLOPs) بنسبة 50% تقريباً مقارنة بـ CFG القياسي مع الحفاظ على فعالية التوجيه.
• تكييف النموذج: نجح الإطار في تحويل نماذج التدفق غير الشرطية المدربة مسبقاً إلى مولدات شرطية بأقل تكلفة إضافية ودون تغييرات هيكلية.

الأهمية والادعاءات

يدعي البحث أن AuxPath-FM يوفر أساساً مبدئياً وعاماً لتصميم المسارات الاحتمالية. ومن خلال السماح للمتغير المساعد باتباع توزيعات تعسفية، يوفر الإطار مرونة نظرية وعملية واسعة.

يؤكد المؤلفون أن طريقتهم تنقل نموذج التوليد الشرطي من مجرد التعديل على مستوى الشبكة إلى تصميم المسار. وهذا يسمح بدمج إشارات التوجيه مباشرة في الديناميكيات التوليدية. تكمن أهمية هذا العمل في قدرته على:

• توحيد مخططات الاستيفاء الحالية كحالات خاصة.
• تمكين خصائص هندسية متنوعة للتدفقات التوليدية من خلال نماذج أولية مختلفة.
• توفير آلية فعالة حسابياً للتوجيه الخالي من الفئة.
• تقديم وسيلة بسيطة وفعالة لترقية النماذج غير الشرطية الحالية إلى نماذج شرطية.

يخلص البحث إلى أن هذا النهج يقدم منظوراً موحداً لنمذجة الزمن المستمر المهيكلة، وهو ما أكدته التجارب المكثفة التي أظهرت أن الـ CFG المعتمد على المساعد الدلالي يحافظ على جودة توليدية فائقة مع تعزيز الكفاءة الحسابية بشكل كبير.