ملخص تقني: UWM-JEPA

بيان المشكلة

تتنبأ بنيات التضمين المشترك (JEPAs) بالحالات المستقبلية في الفضاء الكامن بدلاً من إعادة بناء الملاحظات الخام، مما يفصل بفعالية بين تعلم التمثيل وفك التشفير التوليدي. ومع ذلك، في البيئات ذات الرؤية الجزئية، يفتقر التمثيل الكامن المتجهي القياسي إلى البنية الداخلية اللازمة لحمل "الاعتقاد" (belief) عبر الاستمرارات الخفية. عندما لا يحدد تاريخ الملاحظة الحالي الحالة الخفية بشكل فريد، فإن المستقبل ليس نقطة واحدة في فضاء التمثيل، بل هو توزيع على حالات خفية متوافقة.

يمكن للمتنبئات المتجهية التي يتم تدريبها ضد المتوسط المتحرك الأسي (EMA) لتقليل الخسارة، لكن دالة الخسارة وحدها لا تحدد أي حالات عدم اليقين يجب الحفاظ عليها، أو أيها يجب استيعابه، أو كيف ينبغي للأفعال المضادة للواقع (counterfactual actions) أن تغير حالة الاعتقاد. نتيجة لذلك، غالباً ما تفشل نماذج JEPA ذات المتجهات الكامنة في الحفاظ على الديناميكيات الحساسة للأفعال أو الحفاظ على المعلومات ذات الصلة بالمهمة أثناء "التدحرج الأعمى" (blind rollout) (تخيل الحالات المستقبلية دون ملاحظات جديدة).

المنهجية

يقدم المؤلفون UWM-JEPA (نموذج العالم JEPA ذو النموذج الوحدوي)، وهو تعديل لإطار عمل JEPA يعامل الكامن كحالة اعتقاد صريحة بدلاً من نقطة حتمية.

1. حالة الاعتقاد الكامنة (Belief-State Latent)

بدلاً من المتجه، يقوم المشفر عبر الإنترنت $E_\theta$ برسم الملاحظة السياقية إلى مصفوفة كثافة $\rho_t$ في فضاء كامن ثنائي الأجزاء $\mathcal{H}_T = \mathcal{H}_S \otimes \mathcal{H}_E$ (النظام $\otimes$ البيئة).

• الأبعاد: عامل النظام ($d_{sys}=8$) هو ما يقرأه فقدان النموذج والمجسات؛ بينما يعمل عامل البيئة ($d_{env}=2$) كسجل لحمل الأنماط الخفية وارتباطات النظام والبيئة.
• القيود: مصفوفة الكثافة مقيدة بأن تكون هرمية (Hermitian)، موجبة شبه محددة، وذات أثر أحادي الوحدة. يتم فرض هذه القيود من خلال البناء: الحالة الأولية هي حالة مختلطة قصوى، وتحديثات الملاحظة تطبق مؤثرات قياس موجبة، وخطوات التنبؤ تستخدم التحويل الوحدوي (unitary conjugation).

2. المتنبئ الوحدوي (Unitary Predictor)

يقوم المتنبئ بدفع الحالة الكامنة عبر التحويل الوحدوي:
$$\hat{\rho}_{t+k|t} = U_k \rho_t (U_k)^\dagger$$
حيث $U = \exp(-iH\Delta t)$ و $H$ هو مولد هرمي.

• الاشتراط بالفعل (Action Conditioning): المولد خطي في الفعل $a$: $H(a) = H_0 + a H_1$. وهذا يسمح بتوجيه المسار الوحدوي بواسطة الأفعال.
• هدف التدريب: يستخدم النموذج هيكل JEPA القياسي: مشفر هدف EMA مع إيقاف التدرج (stop-gradient)، وخسارة مطابقة الفضاء الكامن التي يتم تقييمها بعد الأثر الجزئي (partial trace) إلى عامل النظام ورأس إسقاط (projection head).
• الأهداف المضادة للواقع: لضمان تعلم المتنبئ استخدام قناة الفعل، يتم توليد هدف التدريب عن طريق تدحرج المحاكي تحت تسلسل فعل مضاد للواقع $\tilde{a}$، بدلاً من المسار الذي يتم فرضه بواسطة المعلم (teacher-forced).

3. الضمان النظري

الادعاء النظري الجوهري هو عدم النسيان للحالة المشتركة. نظرًا لأن التحويل الوحدوي هو عملية متماثلة (isometry)، فإنه يحافظ على الطيف (القيم الذاتية)، والنقاء، وإنتروبيا فون نيومان للمصفوفة المشتركة للنظام والبيئة تماماً أثناء التدحرج الأعمى.

• القصور: ينطبق هذا الضمان على الحالة المشتركة الكاملة. الحالة المختزلة للنظام (التي يتم الحصول عليها عبر الأثر الجزئي) ليست وحدوية، مما يعني أن المعلومات يمكن أن تنتقل إلى ارتباطات النظام والبيئة وتصبح غير متاحة للمجسات الخطية، حتى لو ظلت الحالة المشتركة غير تبددية.

النتائج الرئيسية

1. حساسية الفعل تتطلب أهدافاً مضادة للواقع

• فشل الإرشاد بالمعلم (Teacher-Forced Failure): عند التدريب باستخدام أهداف الإرشاد بالمعلم (مطابقة المستقبل الملحوظ)، تصبح قناة الفعل خاملة. نسبة المصطلح المعتمد على الفعل إلى مصطلح الديناميكيات الأساسي تنهار إلى $\|H_1\|/\|H_0\| \approx 0.03$. يتعلم المتنبئ مطابقة الهدف بغض النظر عن الفعل لأن الهدف يحتوي بالفعل على تأثير الفعل.
• نجاح المضاد للواقع: استبدال الهدف بتدحرج المحاكي تحت أفعال مضادة للواقع تم أخذ عينات منها يعيد حساسية الفعل، حيث $\|H_1\|/\|H_0\| = 1.00 \pm 0.15$.
• ضوابط الاضطراب: يُظهر نموذج UWM-JEPA المدرب بأهداف مضادة للواقع (UWM-JEPA-CF) تدهوراً رتيباً في دقة التنبؤ مع اضطراب الأفعال (عكسها، خلطها، أو نفيها)، بينما ينهار نموذج LSTM-JEPA-CF المماثل للمعلمات إلى دقة أغلبية الفئة (0.53) تحت جميع الظروف.

2. التدحرج الأعمى والاحتفاظ قصير الأمد

• مؤشر السرعة الخفية: في مهمة تتطلب محاكاة مستقبلية لـ 5 خطوات للتنبؤ بإشارة السرعة الخفية (مع حجب الملاحظة المستهدفة)، حقق UWM-JEPA-CF دقة 0.77. فشل نموذج LSTM-JEPA-CF المماثل، حيث تنبأ بالأغلبية لجميع الأمثلة.
• الاحتفاظ بالمعلومات ($\Delta R^2$): قياس فقدان المعلومات بالنسبة لمجس المعلم أثناء التدحرج الأعمى:
  • في الآفاق القصيرة ($k=1, 3$)، يفقد UWM-JEPA أقل من 10 نقاط من $R^2$ (0.023 و 0.069 على التوالي).
  • يفقد نموذج LSTM الأساسي بشكل أكبر بكثير (0.413 و 0.678).
  • عند الأفق التدريبي ($k=5$)، يعيد LSTM المحاذاة، لكن UWM يحافظ على أداء متفوق في الخطوات المتوسطة.
  • عند الآفاق الطويلة ($k>10$)، يتدهور كلا النموذجين، مما يشير إلى أن الاحتفاظ طويل الأمد يظل تحدياً مفتوحاً.

3. تمثيل السياق ليس هو المحرك

• تكافؤ المشفر: يُظهر مجس خطي على التمثيلات المشفرة المجمدة أن UWM-JEPA و LSTM-JEPE يعملان بشكل متماثل ($R^2 = 0.901 \pm 0.032$ مقابل $0.894 \pm 0.021$، $p=0.70$).
• الاستنتاج: الفجوة في الأداء ليست بسبب امتلاك UWM-JEPA لمشفر سياق متفوق. ينشأ الفرق تماماً من قدرة المتنبئ على الحفاظ على بنية حالة الاعتقاد أثناء التدحرج.

الأهمية والادعاءات

يزعم البحث أن UWM-JEPA هو أول نموذج عالم من عائلة JEPA يتم فيه التعامل مع الكامن صراحةً كـ اعتقاد فوق الاستمرارات الخفية (مصفوفة كثافة) وأن المتنبئ مقيد بتطوير هذا الاعتقاد دون تبديد طيف الحالة المشتركة.

• نطاق متواضع: يذكر المؤلفون صراحة أن هذا ليس مخططاً عام الغرض، أو مشفراً أقوى عالمياً، أو حلاً منافساً للتخطيط طويل الأمد. خاصية "عدم النسيان" دقيقة فقط للحالة المشتركة، وليس بالضرورة للحالة المختزلة المستخدمة للمهام اللاحقة.
• المساهمة الجوهرية: يوضح هذا العمل أن نماذج عالم JEPA، لكي تتخيل تحت الرؤية الجزئية، تعتمد هندسة الكامن وديناميكيات المتنبئ أكثر من قدرة تشفير السياق المجمدة وحدها.
• الآثار العملية: تسلط الدراسة الضوء على أن التدريب ضد الأهداف المضادة للواقع ضروري لتعلم متنبئات حساسة للأفعال، وهو اكتشاف يمتد إلى ما وراء المعلمة الوحدوية المحددة.

يتم التحقق من النتائج على بيئات مهيكلة مثل المتذبذب (oscillator) وبيئات نمط CartPole. ويقر المؤلفون بأن النهج الحالي يتطلب الوصول إلى المحاكي للتدريب المضاد للواقع ولا يمتد بعد إلى التنبؤ البصري غير المهيكل أو سلاسل ماركوف المخفية.