ملخص تقني: الحقول المتجهة الموجهة بالمنطق لنماذج التوليد المقيدة

1. بيان المشكلة

يتم نشر النماذج التوليدية بشكل متزايد كآليات اقتراح في مجالات الروبوتات، والتخطيط، والتصميم، حيث يجب أن تستوفي المخرجات قيوداً صريحة للمجال (مثل قواعد السلامة، أو الجدوى الفيزيائية). ومع ذلك، فإن خطوط الإنتاج التوليدية القياسية، وخاصة النماذج ذات الوقت المستمر مثل "مطابقة التدفق" (Flow Matching)، تفتقر إلى حد كبير إلى "الوعي بالقيود". وبينما تتعلم هذه النماذج نقل الكتلة الاحتمالية من توزيع أساسي إلى توزيع مستهدف، إلا أنها غالباً ما تسلك مسارات عبر مناطق محظورة أثناء عملية التوليد، حتى لو كان التوزيع المستهدف النهائي يقع بالكامل داخل المجموعة الصالحة.

تعاني الحلول الالتفافية الموجودة، مثل أخذ العينات بالرفض (rejection sampling)، أو الإسقاط (projection)، أو التوجيه الاستدلالي، من قيود كبيرة:

• أخذ العينات بالرفض: يصبح غير عملي حسابياً عندما تكون المناطق الممكنة صغيرة جداً.
• الإسقاط: يمكن أن يشوه العينات ويفشل عندما تكون القيود غير محدبة أو غير متصلة.
• طرق التوجيه القياسية: (مثل توجيه المصنف) توفر تحكماً ناعماً ولكنها لا تضمن استيفاء القيود.
• فرض القيود عند نقطة النهاية فقط: غير كافٍ لأن مسار التوليد نفسه قد يعبر مناطق غير صالحة، مما يؤدي إلى حالات فشل نادرة ولكنها حرجة في البيئات الحساسة للسلامة.

التحدي الجوهري الذي يتم معالجته هو كيفية دمج القيود المنطقية والهندسية في نماذج مطابقة التدفق لتحسين الصلاحية دون التضحية بجودة العينات أو دقة التوزيع.

2. المنهجية: الحقول المتجهة الموجهة بالمنطق (LGVF)

يقترح المؤلفون الحقول المتجهة الموجهة بالمنطق (LGVF)، وهو إطار عمل عصبي-رمزي يدمج القيود الرمزية مباشرة في ديناميكيات مطابقة التدفق. يفترض إطار العمل أن القيود يتم تحديدها كمسندات منطقية $\phi(x)$ مع تخفيفات قابلة للاشتقاق (دوال الانتهاك) $\ell_{logic}(x) \geq 0$، حيث $\ell_{logic}(x) = 0$ إذا وفقط إذا تم استيفاء القيد.

يعمل LGVF عبر آليتين متكاملتين:

أ. خسارة المنطق أثناء التدريب

تتعلم مطابقة التدونة القياسية حقلاً متجهاً $v_\theta(x, t)$ لتقليل المسافة بين السرعة المتعلمة والسرعة الشرطية $x_1 - x_0$ على طول مسارات مستقيمة. يقوم LGVF بتعزيز ذلك باستخدام خسارة منطقية على مستوى المسار. بدلاً من التحقق من الصلاحية عند نقطة النهاية فقط، يقوم النموذج بمعاقبة انتهاكات القيود عند الحالات الوسيطة $x_t$ على طول مسار التدفق.

الهدف الإجمالي هو:
$$\mathcal{L}_{LGVF}(\theta) = \mathcal{L}_{FM}(\theta) + \mathbb{E}_{t, x_0, x_1} [\lambda(t) \cdot \ell_{logic}(x_t)]$$

• $\mathcal{L}_{FM}$: خسارة مطابقة التدفق القياسية.
• $\lambda(t) = \lambda_{max} \cdot t^\alpha$: جدول وزن يعتمد على الوقت. وهذا يعكس هندسة مطابقة التدفق: عند $t \approx 0$، تكون العينات قريبة من التوزيع الأساسي حيث قد تكون الانتهاكات لا مفر منها؛ وعند $t \approx 1$، تقترب العينات من الهدف حيث يجب أن تتحقق القيود بصرامة.
• الأثر: هذا يشجع الحقل المتجه المتعلم على اكتشاف مسارات منحنية تدور حول المناطق المحظورة بدلاً من القطع من خلالها.

ب. التعديل المنطقي أثناء الاستنتاج

لا يمكن للتوجيه أثناء التدريب وحده ضمان عدم وجود انتهاكات، خاصة في الهندسات المعقدة. يقدم LGVF تصحيحاً خفيفاً يعتمد على التدرج أثناء أخذ العينات (تكامل ODE). يتم تعديل الحقل المتجه بطرح تدرج القيد:
$$\tilde{v}(x_t, t) = v_\theta(x_t, t) - \eta(t) \cdot \nabla_x \ell_{logic}(x_t)$$

• الآلية: المصطلح $-\nabla_x \ell_{logic}(x_t)$ يشير نحو أكبر انخفاض في الانتهاك، مما يدفع المسار نحو المناطق الصالحة.
• الجدولة: قوة التعديل $\eta(t)$ تكون صفراً في الأوقات المبكرة ($t \leq t_0$) وتتصاعد تربيعياً لـ $t > t_0$ (على سبيل المثال، $t_0 = 0.3$). يضمن هذا أن يعمل التصحيح كتحسين "للميل الأخير" دون زعزعة استقرار التكامل أو تغيير التوزيع المتعلم بشكل كبير.

3. المساهمات الرئيسية

1. تحديد الفجوة: يوضح البحث أن النقل غير المقيد يمكن أن يعبر مناطق محظورة حتى عندما يكون التوزيع المستهدف صالحاً تماماً، مما يسلط الضوء على عدم كفاية فرض القيود عند نقطة النهاية فقط.
2. إطار عمل LGVF: طريقة مبتكرة تدمج القيود الرمزية في مطابقة التدفق عبر نهج مرحلتين:
   • توجيه منطقي أثناء التدريب يعاقب الانتهاكات على طول مسارات التدفق المستمرة.
   • تعديل التدرج أثناء الاستنتاج الذي يوجه أخذ العينات بعيداً عن انتهاكات القيود.
3. السلوك الناشئ: ينتج عن الطريقة حقول متجهة مدركة للقيود تظهر سلوكاً ناشئاً لتجنب العوائق، حيث تدور العينات حول المناطق المحظورة دون الحاجة لتخطيط مسار صريح.
4. التحقق التجريبي: تقييم شامل عبر قيود خطية، وغير خطية، ومتعددة المناطق، مما يظهر تحسناً ثابتاً في الصلاحية مع حد أدنى من التأثير على جودة العينات.

4. النتائج التجريبية

قام المؤلفون بتقييم LGVF في ثلاث دراسات حالة ثنائية الأبعاد ودراسة توسع عالية الأبعاد:

• دراسة الحالة 1 (نصف المستوى الخطي): قلل LGVF + التعديل من معدلات الانتهاك بنسبة 82% (من 2.2% إلى 0.4%) مقارنة بمطابقة التدفق القياسية.
• دراسة الحالة 2 (الحلقة غير الخطية): قلل LGVF + التعديل من الانتهاكات بنسبة 79% (من 5.65% إلى 1.20%)، مما عالج بفعالية قيود الحدود الداخلية والخارجية.
• دراسة الحالة 3 (العوائق المتعددة): في هذا الإعداد المعقد وغير المحدب، أدى فقدان المنطق أثناء التدريب وحده إلى زيادة طفيفة في الانتهاكات بسبب صعوبة مشهد الخسارة. ومع ذلك، نجح التعديل أثناء الاستنتاج في التعويض، مما قلل الانتهاكات بنسبة 59% (من 1.7% إلى 0.7%).
• دراسة الحالة 4 (التوسع عالي الأبعاد): في الأبعاد $d \in \{10, 25, 50, 100\}$، نمت انتهاكات مطابقة التدفق القياسية بشكل كبير (تصل إلى 14.8% عند $d=100$). حافظ LGVF + التعديل على معدلات انتهاك تقترب من الصفر (0.0%–0.4%) عبر جميع الأبعاد.

المقايضات:

• في الإعدادات الخطية وإعدادات الحلقة، حسن LGVF كلاً من الصلاحية ودقة التوزيع (مقاسة بـ MMD).
• في إعداد العوائق المتعددة، لوحظت مقايضة بين الإرضاء والدقة: بينما تحسنت الجدوى، زادت قيمة MMD قليلاً، مما يشير إلى انحراف عن شكل التوزيع المستهدف.

دراسات الاستئصال (Ablation Studies):

• أدت أوزان التدريب الأقوى ($\lambda_{max}$) إلى تقليل الانتهاكات بشكل رتيب.
• التوجيه أثناء التدريب والتعديل أثناء الاستنتاج هما متكاملان: الجمع بين كليهما أعطى أفضل النتائج (0.02% انتهاك مقابل 0.50% كخط أساس)، متفوقاً على كل مكون بمفرده.

5. الأهمية والادعاءات

يزعم البحث أن LGVF يوفر آلية موثوقة لفرض القيود في النماذج التوليدية دون الحاجة إلى تخطيط مسار صريح أو أخذ عينات بالرفض مكلف. من خلال الربط بين التشكيل العالمي للنقل (عبر خسارة التدريب) والتصحيح المحلي (عبر تعديل الاستنتاج)، يحقق إطار العمل استيفاءً قوياً للقيود عبر هندسات متنوعة.

يضع المؤلفون LGVF كخطوة نحو جعل النماذج التوليدية قابلة للاستخدام في التطبيقات الحساسة للسلامة حيث تكون الصلاحية أمراً غير قابل للتفاوض. وهم يقرون بالتحديات المتبقية، بما في ذلك توسيع الطريقة لتشمل بيانات عالية الأبعاد ومعقدة (مثل الصور، الجزيئات)، وتحسين المتانة تحت المشاهد غير المحدبة للغاية، ومزيد من تحليل المقايضة بين الإرضاء والدقة. لا يدعي العمل حل جميع مشكلات التوليد المقيد، بل يقدم نهجاً قابلاً للتوسع وقابلاً للاشتقاق يتفوق بشكل كبير على الخطوط المرجعية القياسية في الإعدادات المختبرة.