ملخص تقني: التمركز الزمني لـ SIGReg يحسن تعلم نماذج العالم متعددة المهام

1. بيان المشكلة

أظهرت التطورات الأخيرة في LeWorldModel (LeWM) أن منظم غاوس المتماثل المخطط (SIGReg) يتيح تعلم نموذج عالم مستقر وشامل (end-to-end) مباشرة من البكسلات دون الحاجة إلى إعادة بناء أو إشراف على المكافأة. يعمل SIGReg على منع انهيار التمثيل (representation collapse) عن طريق تنظيم التوزيع الهامشي الكامن نحو توزيع غاوس متماثل باستخدام معيار "إيبس-بولي" (Epps–Pulley) للنمطية.

ومع ذلك، يظهر هذا النهج نمط فشل حرج في سيناريوهات التعلم متعدد المهام. فبينما يكون فعالاً في إعدادات المهمة الواحدة، يؤدي تطبيق SIGReg الهامشي على التدريب المشترك لمهام متعددة إلى تدهور كبير في أداء محاكاة السلوك (behavior-cloning) في المهام اللاحقة. في اختبار LIBERO-Long، انخفض متوسط معدل النجاح لنموذج LeWM القياسي من 40.0% (تدريب مهمة واحدة) إلى 29.9% (تدريب مشترك لـ 10 مهام)، مع تدهور ثماني مهام من أصل عشر مهام.

تحدد الورقة البحثية أنه بينما يظل التمثيل العالمي غير منهار إحصائياً، فإن التغايُس الهامشي (marginal Gaussianization) يضغط التباعد بين العناقيد الكامنة المعتمدة على المهام بالنسبة للتباين داخل العنقود الواحد. هذا الضغط يسبب تداخل التمثيلات (representation aliasing)، حيث تُسقط المهام أو الحالات المتميزة في أكواد كامنة متداخلة، مما يجعل التمثيلات المتعلمة حساسة للغاية للاضطرابات البصرية الصغيرة وغير مناسبة لسياسات التحكم اللاحقة.

2. المنهجية: النموذج الزمني المتمركز LeWorldModel (TC-LeWM)

لحل الصراع بين مقدمات غاوس الهامشية وهياكل الكمون متعددة المهام، يقترح المؤلفون TC-LeWM، الذي يعدل هدف التنظيم لـ SIGReg.

الآلية الجوهرية

بدلاً من تطبيق SIGReg على التوزيع الهامشي الكامل للكمون ($Z$)، يقوم TC-LeWM بتفكيك التمثيل الكامن $z_t$ إلى مكونين:

1. المتوسط الزمني المحلي ($\bar{z}_t$): يلتقط البنية منخفضة التردد، المعتمدة على المهمة والسياق.
   $$\bar{z}_t = \frac{1}{|W_t|} \sum_{s \in W_t} z_s$$
2. المتبقي المتمركز ($r_t$): يلتقط التباينات المكملة قصيرة المدى.
   $$r_t = z_t - \bar{z}_t$$

يقوم النموذج بتحسين خسارة التنبؤ القياسية ($L_{pred}$) جنباً إلى جنب مع حد SIGReg الذي يُطبق فقط على المتبقيات المتمركزة زمنياً ($R$):
$$L_{TC} = L_{pred} + \lambda L_{SIGReg}(R)$$

التبرير النظري

• إزالة الضغط الانكماشي: يوضح المؤلفون عبر تحليل مونت كارلو أن هدف EP يمارس "ضغطاً انكماشياً" على تباعد مراكز المكونات في نموذج مختلط. من خلال تطبيق SIGReg على المتبقيات ($r_t$) بدلاً من الكمون الكامل ($z_t$)، تزيل هذه الطريقة ضغط التنظيم المباشر على تباعد عناقيد المهام منخفضة التردد ($\bar{z}_t$).
• الحفاظ على مكافحة الانهيار: لا يزال الهدف المتبقي يعاقب التمثيلات المنهارة زمنياً. إذا أصبح الكمون $z_t$ ثابتاً ضمن نافذة زمنية، فإن المتبقي $r_t$ يصبح صفراً، مما يؤدي إلى توزيع متدهور يعاقبه EP. هذا يضمن بقاء التمثيل غير متدهور وقابلاً للتنبؤ دون إجبار عناقيد المهام على الاندماج.

3. المساهمات الرئيسية

1. تحديد نمط الفشل متعدد المهام: تحدد الورقة أن SIGReg الهامشي يسبب تداخل التمثيلات عبر المهام عن طريق تقليص التباعد بين العناقيد الكامنة المعتمدة على المهام، حتى عندما يتم الحفاظ على عدم الانهيار العالمي.
2. اقتراح TC-SIGReg: استراتيجية تنظيم مبتكرة تطبق SIGReg على المتبقيات المتمركزة زمنياً. يفكك هذا النهج الارتباط بين قيد مكافحة الانهيار وبين الفصل الهيكلي للعناقيد الخاصة بالمهام.
3. التحقق التجريبي: إثبات أن TC-LeWM يحسن باستمرار أداء التحكم اللاحق عبر مجموعات التدريب (مهمة واحدة، 10 مهام، و40 مهمة موحدة) في اختبار LIBERO.

টি النتائج التجريبية

أُجريت التجارب على اختبار LIBERO (مجموعات Spatial, Object, Goal, وLong) باستخدام خط إنتاج من مرحلتين: تدريب نموذج العالم مسبقاً ثم محاكاة السلوك بمشفر مجمد.

مقاييس الأداء

• التدريب المشترك لـ 10 مهام: حسن TC-LeWM متوسط معدل النجاح عبر أربع مجموعات من 53.2% (Raw LeWM) إلى 73.6%. لوحظت أكبر المكاسب في مجموعتي Object (+41.4 نقطة) وLong (+21.9 نقطة).
• التدريب الموحد لـ 40 مهمة: في إعداد 40 مهمة موحدة، انخفض أداء Raw LeWM إلى 44.4%، بينما حافظ TC-LeWM على 73.5% (انخفاض طفيف قدره 0.1%). اتسعت الفجوة في الأداء لتصل إلى 29.1 نقطة مئوية.
• المقارنة مع النماذج المرجعية: بدون تدريب مسبق خارجي، تفوق TC-LeWM قليلاً على Diffusion Policy المدرب من الصفر (73.6% مقابل 72.4%)، واقترب من أداء النماذج المرجعية الضخمة والمدربة مسبقاً مثل Octo (75.1%) وOpenVLA (76.5%).

تحليل البنية الكامنة

• الهندسة: أظهر Raw LeWM تداخلاً واسع النطاق للمهام ومسارات مجزأة في الفضاء الكامن. نظم TC-LeWM التمثيلات في هياكل متصلة مرتبطة بالمهام والمشاهد على طول متشعب (manifold) منخفض الأبعاد ومنحنٍ.
• تباعد العناقيد: زاد انتشار العنقود الموحد ($\rho$) من 0.74 (Raw LeWM) إلى 2.54 (TC-LeWM)، مما يشير إلى تباعد أفضل للهياكل المعتمدة على المهام.
• المتانة: أظهر TC-LeWM إزاحة كامنة نسبية أصغر بكثير تحت ثمانية أنواع من الاضطرابات البصرية (الترجمة، الدوران، الضوضاء، الحجب، إلخ)، مما يشير إلى متانة أكبر تجاه الظروف خارج نطاق التوزيع (out-of-distribution).

5. الأهمية والادعاءات

تدعي الورقة أنها تكشف عن عدم توافق هيكلي بين مقدمات غاوس الهامشية وهياكل الكمن متعددة المهام. من خلال نقل هدف التنظيم إلى المتبقيات المتمركزة زمنياً، يوفر المؤلفون مساراً بسيطاً نحو تعلم نموذج عالم مستقر وقابل للتوسع وشامل (end-to-end) متعدد المهام.

يشير العمل إلى أن عدم الانهيار العالمي ليس كافياً للتحكم متعدد المهام؛ إذ يجب أن تحافظ هندسة الفضاء الكامن على التمايزات المعتمدة على المهام. يحقق TC-LeWM ذلك من خلال الاحتفاظ بفوائد مكافحة الانهيار لـ SIGReg مع تجنب "التنظيم المفرط" الذي يدمج عناقيد المهام المتميزة. يضع المؤلفون هذا كخطوة تأسيسية للعمل المستقبلي الذي يتضمن مجموعات بيانات أكبر خالية من المكافآت والتكامل مع نماذج الرؤية واللغة والعمل (Vision-Language Action Models)، رغم أنهم لا يدعون للنشر الفوري في الروبوتات الفيزيائية مفتوحة العالم خارج نطاق الاختبار.