Leveraging Gauge Freedom for Learning Non-Gradient Population Dynamics of Stochastic Systems

ملخص تقني: الاستفضاء من حرية القياس (Gauge Freedom) لتعلم ديناميكيات الجماعات غير التدرجية للأنظمة العشوائية

1. بيان المشكلة

تتناول الورقة البحثية تحدي استنتاج ديناميكيات مستوى الجماعة (population-level dynamics) للأنظمة العشوائية حيث تكون المسارات الفردية غير مرصودة أو غير قابلة للتنبؤ بطبيعتها (مثل الأنظمة الفوضوية أو المضطربة). المدخلات تتكون من عينات مستقلة مستمدة من توزيعات هامشية زمنية $\rho_t$ عند نقاط زمنية منفصلة $t \in [0, T]$. الهدف هو تعلم حقل سرعة يعتمد على الزمن $u_t: X \to \mathbb{R}^d$ بحيث يقوم التدفق الناتج عن $u_t$ بنقل التوزيع الأولي $\rho_0$ إلى تسلسل الهوامش المرصودة $(\rho_t)_{t \in [0, T]}$.

تكمن الصعوبة الجوهرية في هذا السياق في أن معادلة الاستمرارية، $\partial_t \rho_t + \nabla \cdot (\rho_t u_t) = 0$، توفر قيداً ناقص التحديد (underdetermined) على حقل السرعة. فالمعادلة تقيد فقط تباعد حقل التدفق الموزون بـ $\rho_t$، مما يترك مكونات حقل السرعة الخالية من التباعد (solenoidal) دون قيود. هذه "حرية القياس" (gauge freedom) تعني أن عدداً لانهائياً من حقول السرعة يمكن أن تنتج نفس تطور الهوامش الزمنية.

غالباً ما تعالج المنهجيات الحالية عدم التفرّد هذا عبر فرض اختيار قياس محدد مسبقاً: تقليل الطاقة الحركية. مبدأ الاختيار هذا، المتجذر في نظرية النقل الأمثل، يفرض حقل سرعة يكون تدرجاً لجهد سلمي ($u_t = \nabla s_t$). ورغم أن هذا الاختيار أمثل من حيث الطاقة الحركية، إلا أن هذا القيد التدرجي يفرض انحيازاً استقرائياً (inductive bias) قد يكون ضاراً عندما تتضمن الديناميكيات الأساسية مكونات دورانية كبيرة (مثل الأنظمة الهاملتونية أو السوائل غير القابلة للانضغاط). إن فرض بنية تدرجية على الديناميكيات الدورانية يمكن أن يؤدي إلى جهود متذبذبة للغاية ومرضية (pathological)، يصعب تمثيلها وتعلمها، مما يؤدي إلى دقة توزيعية ضعيفة.

2. المنهجية: تدفقات الاستدلال غير التدرجية (NGIF)

يقترح المؤلفون تدفقات الاستدلال غير التدرجية (Non-Gradient Inference Flows - NGIF)، وهي خوارزمية تفصل بين مهمة مطابقة الهوامش الزمنية ومهمة اختيار حقل سرعة محدد.

صياغة معادلة الاستمرارية الضعيفة:
بدلاً من فرض معادلة الاستمرارية نقطة بنقطة، يستخدم NGIF صياغة ضعيفة (مبنية على العزوم). بالنسبة لمجموعة من الدوال الاختبارية $\Phi$، تتطلب الطريقة أن يكون معدل تغير القيمة المتوقعة لأي دالة اختبارية $\phi \in \Phi$ تحت الهامش $\rho_t$ مطابقاً للنقل الذي يتنبأ به حقل السرعة المرشح:
$$\frac{d}{dt} \mathbb{E}_{x \sim \rho_t}[\phi(x)] = \mathbb{E}_{x \sim \rho_t}[\nabla \phi(x) \cdot u_t(x)]$$
هذه المتطابقة مشتقة من خلال تكامل معادلة الاستمرارية مقابل الدوال الاختبارية وتطبيق التكامل بالتجزئة.

الخسارة التجريبية وميزات فورييه العشوائية:
لتحويل هذا القيد إلى عملية تطبيقية، يستخدم المؤلفون دوال اختبار من نوع ميزات فورييه العشوائية (random Fourier feature). يتم أخذ الترددات $\omega$ من توزيع $\nu$ (باستخدام نطاقات عرض متعددة المقاييس لالتقاط البنى عند دقات مختلفة)، مما يولد دوال اختبار على شكل $\sin(\omega^\top x)$ و $\cos(\omega^\top x)$.
تقوم الخسارة التجريبية بتقليل متبقي معادلة الاستمرارية الضعيفة عبر هذه الدوال الاختبارية. ومن الأهمية بمكان أن المشتقات الزمنية للعزوم تُقدر عبر "splines" تنعيمية (smoothing splines) ملائمة للعزوم التجريبية لبيانات التدريب، مما يسمح بالحساب المسبق وتقليل التباين.

تنظيم القياس الصريح (Explicit Gauge Regularization):
بدلاً من تقييد فئة الفرضية لتقتصر على الحقول التدرجية، يقدم NGIF منظماً للقياس $G(u)$ بشكل صريح في دالة هدف الأمثلة:
$$\min_{u} \mathcal{L}(u) + \lambda G(u)$$
حيث $\mathcal{L}(u)$ هي خسارة متبقي الاستمرارية الضعيفة. يتيح هذا للمستخدم الاختيار من عائلة واسعة من الانحيازات الهيكلية. تقترح الورقة ثلاثة منظمات محددة:

1. الطاقة الحركية ($G_{KIN}$): تقلل $\int \|u_t\|^2 \rho_t$، مما يستعيد النهج القياسي القائم على التدرج ولكن كعقوبة ناعمة بدلاً من قيد صلب.
2. عقوبة الدوران ($G_{CURL}$): تعاقب الجزء غير المتماثل من المصفوفة اليعقوبية، مما يثبط الدوران ويوجه نحو الديناميكيات الشبيهة بالتدرج دون فرض بارامتريّة للجهد.
3. عقوبة التباعد ($G_{DIV}$): تعاقب $\nabla \cdot u_t$، مما يعزز التدفقات التي تقترب من كونها غير قابلة للانضغاط. هذا مفيد بشكل خاص للنقل الذي يشبه حركة السوائل حيث تكون الديناميكيات الحقيقية خالية من التباعد.

من خلال استخدام شبكة عصبية لتمثيل $u_t$ مباشرة (بدلاً من جهد $s_t$)، يتجنب النهج التعقيدات الحسابية الناتجة عن الانتشار الخلفي للمشتقات المكانية للجهد، ويسمح بتعلم حقول غير تدرجية.

3. المساهمات الرئيسية

تحدد الورقة ثلاث مساهمات رئيسية:

1. الفصل بين مطابقة الهوامش وتثبيت القياس: يصيغ المؤلفون استنتاج ديناميكيات الجماعة باستخدام قيود الاستمرارية الضعيفة، مما يفصل بين مطابقة الهوامش الزمنية واختيار بنية حقل السرعة. يتم معالجة عدم التفرّد عبر منظم قياس صريح يختاره المستخدم.
2. القيود الضعيفة القابلة للتوسع: تطبق الطريقة القيود الضعيفة باستخدام دوال اختبار ميزات فورييه العشوائية، مما ينتج دالة خسارة فعالة حسابياً وقابلة للتوسع.
3. التعلم غير التدرجي: يتيح نهج NGIF تعلم حقول سرعة غير تدرجية، مما يحسن القدرة على التمثيل والاستقرار. وتثبت الورقة أن تخفيف القيد التدرجي يؤدي إلى دقة توزيعية أفضل مقارنة بالنماذج المرجعية المقيدة بالتدرج.

4. النتائج التجريبية

قيم المؤلفون NGIF في مجموعة متنوعة من المشكلات الفيزيائية منخفضة وعالية الأبعاد:

• مثال جيلي (الديناميكيات الدورانية): في إعداد حيث تدور المكونات الغاوسية حول دائرة، تفشل الطرق القائمة على التدرج في التقاط الحركة الدورانية البسيطة، وبدلاً من ذلك تنتج جهوداً شديدة التذبذب. يستعيد NGIF مع منظم دوران حقل السرعة الدوراني السلس بدقة، مع زيادة طفيفة فقط في الطاقة الحركية مقارنة بالحل التدرجي الأمثل.
• جسيمات التتبع في التدفق المضطرب: في تدفق مضطرب مدفوع بقوة كولموغوروف (حيث الحقيقة الأرضية خالية من التباعد)، ينتج NGIF مع منظم التباعد ($G_{DIV}$) مسارات جسيمات وإعادة بناء للكثافة يطابق الحقيقة الأرضية بشكل وثيق. تؤدي النماذج المرجعية القائمة على التدرج (Action Matching, DICE, HOAM) أداءً أسوأ بكثير.
• عدم استقرار فلاسوف-بواسون (Vlasov-Poisson): في مشكلات "التيار المزدوج"، و"النتوء على التلة" (bump-on-tail)، و"تخميد لانداو القوي"، تتفوق متغيرات NGIF على أحدث الطرق القائمة على التدرج (AM, HOAM, DICE) في التنبؤ بتطور الطاقة الكهربائية. يسمح منظم التباعد بحركة جسيمات أغنى، مما يحسن دقة التوزيع النهائي.
• الاضطراب عالي الأبعاد: في محاكاة مجال الدوامات (vorticity) بحجم 128×128، يلتقط NGIF المطبق في فضاء كامن (latent space) اضمحلال الإنتروبي (enstrophy) بدقة، مما يثبت أن التدفق المتعلم يعيد إنتاج الإحصاءات الهامة على مستوى الجماعة حتى عندما تكون المسارات الفردية فوضوية وغير قابلة للاسترداد.

5. الأهمية والادعاءات

تدعي الورقة أن استنتاج ديناميكيات الجماعة هو بطبيعته أمر ناقص التحديد، وأن اختيار القياس هو قرار نمذجة وليس بحثاً عن حل صحيح عالمياً. تكمن أهمية NGIF في قدرته على:

• تجنب الأهداف المرضية: من خلال عدم فرض قياس الحد الأدنى من الطاقة الحركية/التدرج بشكل صلب، يتجنب النهج الحاجة إلى تعلم جهود متذبذبة للغاية تنشأ عند فرض هياكل تدرجية على الديناميكيات الدورانية.
• دمج الأولويات الفيزيائية: يوفر إطاراً نموذجياً لدمج المعرفة الفيزيائية المحددة (مثل عدم الانضغاطية) مباشرة من خلال اختيار منظم القياس، دون الحاجة إلى تدفقات مرجعية أو بيانات سرعة على مستوى العينة.
• تحسين الدقة التوزيعية: تشير التجارب إلى أنه بالنسبة للنقل غير المرتبط بالجهد، فإن النهج غير التدرجية تعطي دقة توزيعية فائقة مقارنة بالنماذج المرجعية المقيدة بالتدرج.

يخلص المؤلفون إلى أنه بينما تقيد معادلة الاستمرارية الضعيفة فقط تباعد التدفق، فإن الاختيار الصريح لمنظم قياس يسمح بتعلم نماذج ديناميكية تتوافق بشكل أفضل مع الفيزياء الكامنة للنظام، لا سيما في الأنظمة التي لا تتوفر فيها بيانات المسارات أو تكون غير مفيدة.