Direct Product Flow Matching: Decoupling Radial and Angular Dynamics for Few-Shot Adaptation

ملخص تقني: مطابقة تدفق المنتج المباشر (DP-FM)

بيان المشكلة
عملت طرق "مطابقة التدفق" (Flow Matching - FM) الحديثة على تحسين التكيف في حالات التعلم من أمثلة قليلة (few-shot adaptation) لنماذج الرؤية واللغة (VLMs) عبر نمذجة المحاذاة عبر الوسائط كتدفق احتمالي مستمر متعدد الخطوات. ومع ذلك، يرى المؤلفون أن الطرق الحالية (مثل FMA وHFM) مقيدة بفرضيات هندسية غير متوافقة تُطبق على الميزات المتقاطعة مسبقة التدريب. ومن خلال منظور التفكيك القطبي (فصل الميزات إلى مكونات شعاعية وزاوية)، حددت الورقة ثلاثة قيود حرجة في النهج الحالي:

1. تشوه الديناميكيات الزاوية: غالبًا ما تعمل الطرق الحالية على متشعبات مسطحة أو فضاءات زائفة (hyperbolic spaces) حيث ترتبط الديناميكيات الشعاعية والزاوية ببعضها البعض. هذا الارتباط يؤدي إلى سرعة زاوية (تسارع) غير منتظمة أثناء مسار الاستيفاء (interpolation). هذا التشوه يزيد من انحناء حقل السرعة المستهدف، مما يجعل تدريب الانحدار صعبًا ويؤدي إلى أخطاء القطع أثناء عملية المحاذاة متعددة الخطوات.
2. إهمال الديناميكيات الشعاعية: عادةً ما تقوم نهج FM القياسية بتطبيع الميزات لتصبح بطول وحدة واحدة، مما يؤدي إلى التخلص من المكون الشعاعي. يفترض المؤلفون أن المقدار الشعاعي يعكس جوهريًا "ثقة الوسيط" (modality confidence)، وهو بمثابة إشارة حاسمة للتمييز بين البيانات داخل التوزيع (ID) وخارج التوزيع (OOD). إن التخلص من هذه المعلومات يعيق قدرة النموذج على تطبيق تصحيحات مركزة للعينات غير المؤكدة.
3. التدفق غير المشروط المفتقر للسياق: الميزات مسبقة التدريب لنماذج VLM هي ميزات عامة للغاية وتفتقر إلى التفاصيل الخاصة بمجموعة بيانات معينة. تطور طرق FM الحالية المحاذاة كتدفق غير مشروط، وهي عمياء عن السياق المحدد للنطاق المستهدف. هذا النقص في التوجيه الشرطي يمنع استعادة المعلومات الدقيقة والمحددة للنطاق الضرورية للتكيف الفعال في حالات التعلم من أمثلة قليلة.

المنهجية
لمعالجة هذه المشكلات، يقترح المؤلفون إطار عمل موحد لـ "مطابقة تدفق المنتج المشوه" (Warped Product Flow Matching - WP-FM)، والذي يعيد صياغة المحاذاة عبر الوسائط على متشعب ريماني محدد كمنتج مشوه $M = M_r \times_{g_\phi} M_\theta$. هنا، تمثل $M_r$ المتشعب الشعاعي الفرعي (ثقة الوسيط) وتمثل $M_\theta$ المتشعب الزاوي الفرعي (الاتجاه الدلالي). يتم التحكم في الهندسة بواسطة دالة التشويه $\phi(r)$.

• اشتقاق DP-FM: يحلل المؤلفون معادلات الجيوديسيا (geodesic equations) تحت هذا الإطار ويجدون أن دالات التشويه غير الثابتة (المستخدمة في FM الإقليدية أو الزائفة) تربط ديناميكيات الشعاع والزاوية بشكل متأصل. لفصلهما، اشتقوا مقياس تشويه ثابت ($\phi(r) = \text{CONSTANT}$)، مما نتج عنه نهج مطابقة تدفق المنتج المباشر (DP-FM) على متشعب أسطواني مفكك ($\mathbb{R}_{>0} \times S^{d-1}$).
  • التطور الشعاعي: يتطور المسار الشعاعي $\gamma_r(t)$ بشكل مستقل، مما يحافظ على ثقة الوسيط دون التخلص من المعلومات.
  • النقل الزاوي: يتبع المسار الزاوي $\gamma_\theta(t)$ جيوديسيا ذات سرعة ثابتة (الاستيفاء الخطي الكروي، أو SLERP)، مما يلغي التسارع والتشوه الزاوي.
• توجيه المصنف الخالي من الفئات (CFG): لحل مشكلة الافتقار للسياق، يدمج DP-FM تقنية CFG. يتم توجيه التدفق بناءً على الحالات المخفية لنماذج VLM مسبقة التدريب. أثناء الاستدلال، يتم إنشاء حقل سرعة موجه دلاليًا عبر الاستيفاء بين التنبؤات غير المشروطة والشرطية، مما يضخ المعلومات المفقودة الخاصة بالنطاق المستهدف في عملية المحاذاة.
• تفاصيل التنفيذ: تستخدم الطريقة دالة خسارة مدركة للمقياس تحترم البنية الريمانية، وتستخدم الخريطة الأسية (exponential map) لدمج المتشعب أثناء الاستدلال. كما يتم تطبيق جدول زمني لإزاحة الوقت (time-shift schedule) لإعطاء الأولوية لتقدير السرعة في المراحل المبكرة.

المساهمات الرئيسية

1. رؤية نظرية: حددت الورقة وحللت القيود الهندسية الأساسية في طرق FM المستمرة الحالية، وتحديدًا تشوه الديناميكيات الزاوية وإهمال الديناميكيات الشعاعية، وصاغتها من خلال التفكيك القطبي.
2. إطار عمل موحد: اقتراح إطار عمل مطابقة تدفق المنتج المشوه (WP-FM)، الذي يعمم طرق FM السابقة (الإقليدية والزائفة) تحت مقييس ريماني واحد مع دالة تشويه شعاعية.
3. خوارزمية DP-FM: اشتقاق مطابقة تدفق المنتج المباشر (DP-FM) باستخدام مقياس تشويه ثابت لضمان الفصل الصارم بين الديناميكيات الشعاعية والزاوية. يضمن هذا النقل الزاوي بسرعة ثابتة والحفاظ على الثقة الشعاعية.
4. دمج التوجيه: دمج التوجيه الخالي من الفئات لاستعادة السياق الخاص بمجموعة البيانات، مما يعالج قيود التدفقات غير المشروطة في سيناريوهات التعلم من أمثلة قليلة.

النتائج التجريبية
قيم المؤلفون DP-FM عبر 11 اختبارًا متنوعًا (بما في ذلك Aircraft, EuroSAT, DTD, SUN397, StanfordCars, OxfordPets, UCF101, Flowers102, Caltech101, Food101, و ImageNet).

• الأداء: حقق DP-FM نتائج جديدة هي الأفضل في حالتها (SOTA) في التكيف متعدد الخطوات من أمثلة قليلة. في إعدادات 16 مثالاً، تفوق على طرق FM السابقة (FMA وHFM) وعلى نماذج PEFT القوية ذات الخطوة الواحدة (مثل CLIP-LoRA وPLOT++).
• المكاسب المحددة: عند بنائه على CLIP-Adapter، أظهر DP-FM تحسنًا متوسطًا قدره +9.9% على مجموعات البيانات الصعبة مقارنة بالنموذج الأساسي، متجاوزًا بشكل كبير مكاسب FMA (+5.5%) وHFM (+7.8%).
• التحليل: أظهرت التجارب أن DP-FM يتمتع بسرعة زاوية أكثر انتظامًا عبر الخطوات الزمنية مقارنة بـ FMA وHFM، مما يؤكد القضاء على تشوه الديناميكيات الزاوية. كما أكدت دراسات الاستئصال (ablation studies) ضرورة جدول إزاحة الوقت، والمكون الشعاعي، والتوجيه الخالي من الفئات لتحقيق الأداء الأمثل.

الأهمية
تزعم الورقة أنه من خلال إعادة صياغة المحاذاة عبر الوسائط على متشعب أسطواني مفكك، يوفر DP-FM أساسًا هندسيًا قويًا للتكيف متعدد الخطوات. فهو يحل بفعالية الصراعات الهندسية المتأصلة في الطرق السابقة، مما يسمح بالتطور المستقل لثقة الوسيط والاتجاه الدلالي. علاوة على على ذلك، من خلال دمج التوجيه الشرطي، تنجح الطريقة في سد الفجوة بين الميزات مسبقة التدريب العامة ومتطلبات النطاق المستهدف المحددة، مما يضع معيارًا جديدًا للتكيف مع نماذج VLM من أمثلة قليلة.