ملخص تقني: التدفق بثقة (Flowing with Confidence - FMwC)

بيان المشكلة

حققت النماذج التوليدية، ولا سيما نماذج مطابقة التدفق (Flow Matching - FM)، أداءً فائقاً في مجالات اللغة والرؤية والعلوم. ومع ذلك، فإنها تنتج مخرجات (مثل الاستشهادات المهلوسة، أو الأشكال غير الصحيحة تشريحياً، أو البلورات غير المستقرة ديناميكياً حرارياً) دون أي مؤشر أصيل على الموثوقية. تعتمد الحلول الحالية لتقدير عدم اليقين، مثل المجموعات العميقة (Deep Ensembles) أو إسقاط مونت كارلو (MC-Dropout)، على تشغيل $k$ من النماذج المنفصلة أو $k$ من المسارات العشوائية لكل عينة. وتؤدي هذه الطريقة إلى تكلفة حوسبية قدرها $k\times$، مما يجعل تقدير الثقة لكل عينة أمراً باهظ التكلفة للغاية في عمليات النشر واسعة النطاق. علاوة على ذلك، ثبت أن الطرق القائمة على الاحتمالية (Likelihood-based methods) غير موثوقة في التمييز بين المدخلات التي تتبع التوزيع الأصلي (in-distribution) والمدخلات الخارجة عن التوزيع (out-of-distribution) في النماذج التوليدية العميقة. السؤال المركزي الذي تعالجه هذه الورقة هو ما إذا كانت نماذج مطابقة التدفق قادرة على تعلم تقدير عدم اليقين الخاص بها للمخرجات المولدة دون زيادة تكاليف الاستدلال أو الحاجة إلى الوصول إلى الاحتمالية (Likelihood).

المنهجية: مطابقة التدفق مع الثقة (FMwC)

إن FMwC هو نهج أحادي المرور يزود نماذج مطابقة التدفق بدرجة ثقة لكل عينة على مستوى المسار، بنفس التكلفة الحوسبية لمطابقة التدفق الحتمية القياسية. تدمج هذه الطريقة بين "الإسقاط المتغير التكيفي" (Variational Adaptive Dropout - VAD) وبين انتشار العزوم (Moment Propagation) ذو الصيغة المغلقة عبر مسار المعادلات التفاضلية العادية (ODE).

1. الصياغة التباينية (Variational Formulation)

بدلاً من تعلم مجال سرعة حتمي واحد $v_{t,\theta}(x_t)$، يعامل FMwC أوزان الشبكة $\omega$ كمتغيرات عشوائية مستمدة من توزيع خلفي تبايني $q_\psi(\omega)$. يقوم النموذج بتعظيم الحد الأد%>الأدنى للبرهان (ELBO):
$$\text{ELBO}(\psi) = \mathbb{E}_{\omega \sim q_\psi} [\log \mathcal{L}(D | \omega)] - \text{KL}[q_\psi(\omega) \parallel \pi(\omega)]$$
حيث يتوافق حد الاحتمالية مع خسارة انحدار مطابقة التدማ المشروط القياسية. ومن الأهمية بمكان أن تدرج (gradient) لوغاريتم الاحتمالية المتوقع تحت التوزيع الخلفي يتطابق مع تدرج خسارة الانحدار القياسية عند تقييم عينات الأوزان، مما يسمح بالتدريب بدون محاكاة (simulation-free training).

2. التوزيع الخلفي المعتمد على الحالة عبر VAD

لضمان حساسية عدم اليقين للهندسة المحلية للتدفق، يستخدم FMwC "الإسقاط المتغير التكيفي" (VAD). في هذا الإطار، يكون التوزيع الخلفي للأوزان في الطبقة $l$ هو توزيع غاوسي $q_\psi(\omega_l | x, t) = \mathcal{N}(\theta_l, \alpha_l(x, t)^2 \theta_l^2)$، حيث يتم التنبؤ بمقياس الإسقاط $\alpha_l(x, t)$ بواسطة شبكة استدلال صغيرة $E_\gamma$. يسمح هذا بانتشار التوزيع الخلفي ليصبح أكثر اتساعاً في المناطق ذات الغموض الهندسي (حيث يصعب ضبط مجال السرعة) ويصبح أكثر ضيقاً في المناطق الأخرى، ويتم تعلم ذلك حصرياً عبر الـ ELBO.

3. الانتشار التحليلي للتباين (Analytical Variance Propagation)

الابتكار الجوهري في FMwC هو نشر تباين مجال السرعة تحليلياً عبر طبقات الشبكة العصبية ومسار تكامل الـ ODE في تمريرة أمامية واحدة:

• عبر الشبكة: باستخدام خدعة إعادة المعلمة (reparameterization trick) المحلية، يتم نشر المتوسط ($\mu_l$) والتباين ($\sigma_l^2$) للتنشيطات طبقة تلو الأخرى. بالنسبة للطبقات الخطية، يكون تكرار التباين ذا صيغة مغلقة. أما بالنسبة للدوال غير الخطية، فتُحسب العزوم تحليلياً باستخدام تربيع غاوس-هيرميت (Gauss-Hermite quadrature) أو خطية تايلور (Taylor linearization)، مما يتجنب الحاجة إلى أخذ عينات مونت كارلو.
• عبر الـ ODE: عند كل خطوة أويلر (Euler step)، تخرج الشبكة متوسط السرعة $\mu_t$ وتباينها $\sigma_t^2$. يقوم المكامل (integrator) بتحريك الموضع باستخدام $\mu_t$، بينما يتم تسجيل $\sigma_t^2$. ينتج عن ذلك مسار للتباين $\{\sigma_t^2\}_{t=0}^T$ بدلاً من قيمة عددية واحدة.

4. قراءات الثقة (Confidence Readouts)

يمكن تجميع مسار التباين في درجات ثقة عددية للمهام اللاحقة:

• ثقة النهاية (Endpoint Confidence): التباين عند الخطوة النهائية ($t=1$).
• الثقة المتكاملة (Integrated Confidence): مجموع الانحرافات المعيارية للسرعة على طول المسار.
• النسبة الزمنية (Temporal Ratio): نسبة تباين النافذة المتأخرة إلى تباين النافذة المبكرة، مما يساعد في التمييز بين العينات التي تتقارب (تباين متأخر منخفض) وتلك التي تظل غامضة.
• الرؤوس المتعلمة (Learned Heads): يمكن لرأس صغير خاضع للإشراف رسم خريطة لتسلسل التباين الكامل إلى درجة مخصصة للمهمة.

المساهمات الرئيسية

1. مقدر ثقة أحادي المرور: يعد FMwC أول طريقة توفر درجة ثقة لكل عينة ومعايرة لمطابقة التدفق بتكلفة تمريرة أمامية واحدة حتمية، وهو ما يطابق ميزانية الاستدلال لـ FM القياسي. يحقق ذلك من خلال نشر الضجيج المتعلم والمعتمد على المدخلات تحليلياً عبر الـ ODE.
2. تحسينات الاستدلال الخالية من إعادة التدريب: تتيح درجة الثقة تطبيقات عملية دون الحاجة لإعادة التدريب:
   • التصفية (Filtering): تعمل على تحسين جودة العينات بشكل رتيب عبر استبعاد المخرجات منخفضة الثقة.
   • التعديل (Editing): يحدد اللحظة الزمنية الدقيقة ($t^*$) التي يلتزم فيها النموذج بهيكل معين (ذروة التباين)، مما يسمح بإجراء تعديلات مستهدفة تحترم القيود (مثل التبديلات الكيميائية في البلورات) عن طريق حقن الضجيج عند $t^*$.
   • الخطوات التكيفية (Adaptive Stepping): تركيز خطوات الحوسبة الخاصة بالـ ODE في المناطق ذات التباين العالي (الغموض)، مما يستعيد عينات عالية الجودة عند ميزانيات خطوات منخفضة حيث تفشل الخطوات الموحدة.
3. التفسير الهندسي: تثبت الورقة أن درجة ثقة FMWC ترتبط بالتباعد المحلي (local divergence) لمجال السرعة المتعلم. يوفر هذا نافذة على العملية التوليدية، ويربط عدم اليقين المعرفي (epistemic uncertainty) بعدم الاستقرار الهندسي (نقاط التشعب/bifurcation points) للتدفق.

النتائج التجريبية

قيم المؤلفون FMwC عبر ثلاثة أنماط: تقدير الكثافة ثنائي الأبعاد (Checkerboard)، توليد الصور (MNIST)، وتوليد البلورات غير العضوية من تصميم جديد (Riemannian Flow Matching).

• جودة العينات: يحافظ FMwC على جودة العينات أو يحسنها مقارنة بـ FM القياسي. في مجموعتي بيانات Checkerboard و MNIST، حقق معدلات وضع خاطئ أقل ودرجات FID أقل، على التوالي، مع الحفاظ على جودة مماثلة في البلورات.
• التكلفة الحوسبية: يتسبب FMwC في عبء إضافي ضئيل على الهياكل الأساسية الأكبر (على سبيل المثال، ~1.003$\times$ لـ MNIST، و ~1.08$\times$ للبلورات) مقارنة بالمرجع الحتمي. في المقابل، تتطلب نماذج المجموعات (ensembles) و MC-Dropout خمسة أضعاف الحوسبة.
• أداء التصفية: حققت التصفية بناءً على درجات FMwC نتائج في المساحة تحت منحنى الدقة والاستدعاء (AUPRC) مماثلة لـ $k=5$ من المجموعات و MC-Dropout ولكن بتكلفة مسار واحد فقط. على سبيل المثال، في مجموعة بيانات Checkerboard، حققت درجة النسبة الزمنية AUPRC قدره 0.55، وهو ما يطابق مرجع المجموعة (0.55) بنصف التكلفة الحوسبية لـ 1/5.
• نجاح التعديل: عند تعديل البلورات عن طريق حقن الضجيج عند ذروة التباين ($t^*$)، حقق FMwC معدلات نجاح أعلى بكثير (على سبيل المثال، 39% مقابل 22% للتبديلات الكيميائية) مقارنة بالاختيار العشوائي للخطوة الزمنية، مما يثبت أن مناطق التباين العالي تمثل نقاط قرار حرجة.
• الارتباط مع التباعد: أظهر مسار التباين $\sigma_t^2$ ارتباطاً قوياً مع مقدار تباعد مجال السرعة ($|\nabla \cdot v_{t,\theta}|$). وفي مجموعة بيانات البلورات، وصل الارتباط المتكامل إلى معامل سبيرمان $\rho$ قدره 0.96، مما يؤكد التفسير الهندسي لدرجة الثقة.

الأهمية والادعاءات

تدعي الورقة أن FMwC يحول مطابقة التدفق من مجرد مولد للعينات إلى مولد للعينات المقترنة بمقياس للموثوقية. من خلال تعلم توزيع خلفي يعتمد على المدخلات ونشر التباين تحليلياً، يجعل FMwC التوليد الواعي بالثقة أمراً عملياً للتطبيقات العلمية والحساسة للسلامة. يؤكد المؤلفون أن درجة الثقة هي خاصية هندسية جوهرية للتدفق الواحد المدرب، وهي متميزة عن عدم الاتفاق بين النماذج الذي تقيسه المجموعات. يسم هذا "التوجيه الجراحي" للعملية التوليدية، واستهداف لحظات عدم الاستقرار دون التكاليف الباهظة لطرق تقدير عدم اليقين الحالية. تشير الورسة إلى أن فهم واستغلال هندسة مجال السرعة المتعلم يمكن أن يؤدي إلى نماذج توليدية أكثر موثوقية وقابلية للتفسير والتحكم.