💬 NLP

Temporal-Distance JEPA: Plan-Aware Representation Learning for Latent World Model Predictive Control

تقترح هذه الورقة نموذج "التمثيل التنبؤي الزمني-المسافي" (TD-JEPA)، وهو نهج لنموذج عالم يستخرج تكاليف زمنية موجهة من مسارات غير مرتبطة بمكافآت ومأخوذة من بيانات سابقة لسد الفجوة بين تعلم التمثيل والتخطيط، مما يجعله يتفوق على المخططات القائمة على نماذج JEPA الحالية عبر بيئات متعددة من خلال تمكين ترتيب أكثر فعالية لتقدم الأهداف دون الاعتماد على إعادة بناء البكسلات أو مكافآت صريحة.

المؤلفون الأصليون: Jiaxin Bai, Jiaxuan Xiong

نُشر 2026-07-29

📖 6 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Jiaxin Bai, Jiaxuan Xiong

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تعلم روبوتًا كيفية التنقل في عالم جديد، لكن ليس لديك سوى فيديو لإنسان يقوم بالمهمة بشكل مثالي، ولا يمكنك إعطاؤه خريطة أو قائمة من القواعد. هذا هو تحدي "التعلم غير المتصل" (offline learning) في مجال الروبوتات: كيف تعلم ذكاءً اصطناعيًا كيفية التخطيط لتحركاته المستقبلية بمجرد مشاهدة لقطات قديمة؟ يستخدم العلماء شيئًا يسمى "نموذج العالم" (world model) لحل هذه المعضلة. فكر في نموذج العالم كآلة أحلام داخل عقل الروبوت؛ فبدلاً من محاولة إعادة رسم كل بكسل من الفيديو (وهو أمر يشبه محاولة رسم لوحة فنية من الذاكرة)، يتعلم الروبوت توقع "جوهر" ما سيحدث بعد ذلك. إنه يضغط العالم في "فضاء كامن" (latent space) مبسط ومجرد—خريطة ذهنية حيث تكون المواقف المتشابهة قريبة من بعضها البعض.

السؤال الكبير هو: بمجرد أن يمتلك الروبوت هذه الخريطة الذهنية، كيف يقرر المسار الذي سيسلكه؟ عادةً، يقيس الروبوت المسافة في خط مستقيم بين مكانه الحالي والمكان الذي يريد الوصول إليه على هذه الخريطة الذهنية. ولكن هنا تكمن المشكلة: في العالم الحقيقي، ليس الخط المستقيم على الخريطة هو دائمًا الطريق الأسرع للوصول. قد تتمكن من رسم خط مستقيم عبر جدار، لكن الروبوت لا يمكنه المشي عبر الجدران. إنه يحتاج إلى فهم "الزمن" و"التسلسل". إذا اكتفى الروبوت بالنظر إلى المسافة فقط، فقد يرتبك بشأن ما إذا كان يقترب من الهدف أم أنه يدور في حلقات مفرغة فحلاً. تتناول هذه الورقة البحثية هذه المشكلة تحديدًا: كيف تعلم روبوتًا فهم "تدفق" الزمن في أحلامه ليتمكن من التخطيط بشكل أفضل، دون الحاجة إلى أي مكافآت إضافية أو معلمين بشريين.

المشكلة مع التفكير بـ "الخط المستقيم"

بدأ الباحثون بنظام قوي موجود بالفعل يسمى LeWM (نموذج العالم الكامن). هذا النظام بارع في توقع ما سيحدث بعد ذلك في خريطته الذهنية المجردة. ومع ذلك، عندما يحاول التخطيط لمسار نحو هدف ما، فإنه يعتمد على قاعدة بسيطة: "كلما كانت الصورة الذهنية للمستقبل أقرب إلى صورة الهدف، كان ذلك أفضل". هذا يشبه محاولة التنقل في مدينة من خلال النظر فقط إلى المسافة "بخط الطيران" بين نقطتين. هذا الأسلوب يعمل بشكل جيد في الحقول المفتوحة، ولكن إذا كنت بحاجة للالتفاف حول مبنى أو تسلق سلم، فإن مسافة الخط المستقيم هذه ستخدعك.

لاحظ المؤلفون أنه بينما كان نموذج العالم الخاص بالروبوت جيدًا في توقع الخطوة التالية، إلا أنه لم يكن جيدًا جدًا في ترتيب الاحتمالات المستقبلية بناءً على مقدار التقدم الذي تحرزه فعليًا. في فيديو لإنسان يدفع كتلة، كان بإمكان الروبوت توقع الإطار التالي، لكنه لم يكن يدرك بطبيعته أن الإطار رقم 10 هو "أقرب" إلى الهدف من الإطار رقم 5 لمجرد ترتيب حدوثهما. لقد كان يفتقر إلى الشعور بـ الزمن الموجه.

الحل: استخراج الزمن من الماضي

لإصلاح ذلك، ابتكر الفريق نظامًا جديدًا يسمى TD-JEPA (بنية التنبؤ بالتمثيل المشترك للمسافة الزمنية). بدلاً من ترك الروبوت يخمن المسافة فحسب، علموه كيفية "استخراج" مفهوم الزمن مباشرة من فيديوهات العرض التوضيحي.

إليك كيف فعلوا ذلك، باستخدام تشبيه بسيط: تخيل أنك تشاهد برنامج طبخ. أنت لا تحتاج إلى مؤقت لتعرف أن كسر البيضة يحدث قبل خفقها، والخفق يحدث قبل خبزها. ترتيب الأحداث هو نفسه التقدم. يقوم نظام TD-JEPA بالنظر إلى فيديوهات التدريب الخاصة بالروبوت ويقول: "إذا قام الإنسان بالخطوة (أ)، ثم الخطوة (ب)، ثم الخطوة (ج)، فإن الخطوة (ج) هي بالتأكيد أبعد في المسار نحو الهدف من الخطوة (أ)".

يتعلم النظام "تكلفة موجهة" خاصة. على عكس المسافة العادية التي تكون متساوية سواء ذهبت للأمام أو للخلف (مثل المسافة بين منزلك والمنتزه التي تظل كما هي في الاتجاهين)، فإن هذه التكلفة الجديدة تفهم الاتجاه. فهي تعرف أن الانتقال من "البداية" إلى "الهدف" يتطلب جهدًا، لكن الانتقال من "الهدف" عائدًا إلى "البداية" هو نوع مختلف من الرحلة. ومن خلال تعلم هذا التدفق الموجه من الفيديوهات، يبني الروبوت خريطة ذهنية حيث تعكس "المسافة" إلى الهدف عدد الخطوات المطلوبة للوصول، وليس فقط مدى تشابه الصور.

طريقتان مختلفتان لاستخدام المهارة الجديدة

أحد أكثر النتائج إثارة للاهتمام هو أن هذه المهارة الجديدة "المدركة للزمن" تعمل بشكل مختلف اعتمادًا على ما يحاول الروبوت القيام به. اكتشف المؤلفون أن أفضل طريقة لاستخدام هذه المعرفة الجديدة تعتمد على المهمة:

للملاحة والوصول (المهام الطوبولوجية): عندما يحتاج الروبوت للتحرك عبر مساحة، مثل التنقل في متاهة أو الوصول إلى جسم في الهواء، فإن "تكلفة الزمن الموجه" الجديدة هي الأداة المثالية. فهي تعمل مثل بوصلة تشير مباشرة نحو الهدف، متجاهلة الطرق المسدودة. في اختباراتهم، ساعد استخدام هذه التكلفة الجديدة الروبوت على حل مهمة التنقل في "غرفتين" بنسبة نجاح 100%، متفوقًا على النظام القديم الذي نجح بنسبة 97.4% فقط.
للتلاعب الغني بالاتصال (المهام الهندسية): عندما يتعين على الروبوت دفع أو سحب أو تكديم الأشياء (مثل مهمة "Push-T" حيث يدفع كتلة على شكل حرف T)، تصبح الأمور معقدة. هنا، يهم الشكل الدقيق والزاوية والاتصال أكثر من الاتجاه العام. في هذه الحالات، يعمل نظام "الزمن" الجديد بشكل أفضل عندما يساعد طريقة "المسافة بالخط المستقيم" القديمة، بدلًا من استبدالها. فهو يعمل على تحسين الخريطة الذهنية للروبوت بحيث تصبح المسافة بالخط المستقيم أكثر دقة. وفي مهمة "OGB-Cube"، أدى هذا الجمع بين الطريقتين إلى تحسين معدلات النجاح بمقدار 14.2 نقطة مقارنة بالنظام القديم.

ما وجدوه (وما لم يجدوه)

أجرى الباحثون اختبارات صارمة حيث أبقوا كل شيء كما هو باستثناء طريقة التخطيط. ووجدوا أن TD-JEPA يتفوق باستمرار أو يضاهي أفضل الطرق السابقة (مثل LeWM وطريقة RC-aux) عبر جميع البيئات.

ومع ذلك، فقد وجدوا أيضًا حدًا لقدراته. فعندما حاولوا استخدام التكلفة الجديدة القائمة على الزمن فقط لمهمة "Push-T" المعقدة، كان أداء الروبوت في الواقع أسوأ (69% نجاح) مما كان عليه عند استخدام المسافة الهندسية القديمة (86% نجاح). لماذا؟ لأن دفع كتلة يتطلب تحكمًا دقيقًا في الزوايا ونقاط الاتصال. أعطت إشارة "الزمن" للروبوت أنه يقترب من الهدف، لكنها لم تعطه تفاصيل كافية حول كيفية لمس الكتلة بشكل صحيح. كان الروبوت بحاجة إلى المعلومات "الهندسية" للنجاح. وهذا يثبت أنه بينما يعد فهم الزمن أمرًا بالغ الأهمية، فإنه لا يحل محل الحاجة إلى فهم الهندسة الفيزيائية في كل موقف.

الخلاصة

تظهر الورقة البحثية أنه يمكنك تعليم الروبوت فهم "تدفق" الزمن بمجرد مشاهدة الفيديوهات، دون الحاجة إلى أي مكافآت إضافية أو تغذية راجعة بشرية. من خلال استخراج ترتيب الأحداث من سجلات العروض التوضيحية، أنشأوا نظامًا يعرف أي مستقبل هو حقًا "الأقرب" للهدف. هذا النظام الجديد، TD-JENA، يقلص الفجوة بين ما يتعلمه الروبوت وبين كيفية تخطيطه. وهو يشير إلى أنه بالنسبة لبعض المهام، يجب على الروبوت اتباع تدفق الزمن مثل النهر، بينما لمهام أخرى، يجب أن يستخدم هذا التدفق لشحذ حسه بالشكل الفيزيائي. والنتيجة هي روبوت أكثر ذكاءً وقدرة على التكيف، يمكنه التخطيط بشكل أفضل في العالم الحقيقي، سواء كان يتنقل في غرفة أو يدفع كتلة عبر الطاولة.

ملخص تقني: TD-JEPA (النماذج التنبؤية للمسافة الزمنية - Temporal-Distance JEPA)

بيان المشكلة

برزت البنى التنبؤية للتمثيل المشترك (JEPAs) كركائز فعالة لنماذج العالم الكامنة، حيث تتعلم التنبؤ بالتمثيلات المستقبلية بدلاً من إعادة بناء البكسلات. ومع ذلك، توجد فجوة هيكلية بين هدف التدريب لـ JEPAs ومتطلبات التحكم التنبئي بالنماذج (MPC).

فجوة التدريب والتخطيط (The Train-Plan Gap): عادة ما يعمل تدريب JEPA على تحسين التنبؤ بالتمثيلات الكامنة عبر أفق قصير المدى. في المقابل، يتطلب التخطيط ترتيب المستقبلات المتخيلة متعددة الخطوات بناءً على التقدم نحو الهدف.
محدودية الهندسة (The Geometry Limitation): تعتمد مخططات JEPA الحالية (مثل LeWM) على المسافة الإقليدية الكامنة كمسافة تخطيط فعلية. وبينما قد ترتبط هذه الهندسة بالتقدم في بعض السياقات، إلا أنها نتاج ثانوي لتعلم التمثيل وليست إشارة مستخرجة صراحةً لـ "الخطوات المتبقية للوصول إلى الهدف" أو إمكانية الوصول الموجه.
التحدي: كيف يمكن لسجلات العروض التوضيحية غير المكتملة (offline demonstration logs) الخالية من المكافآت أن تنتج بنية تقدم زمني تضيق هذه الفجوة؟ وعلاوة على ذلك، متى ينبغي نشر هذه البنية المستخرçة مباشرة ككلفة تخطيط مقابل استخدامها لتشكيل التمثيلات من أجل التخطيط الهندسي؟

المنهجية: TD-JEPA

يقترح المؤلفون TD-JEPA (النماذج التنبؤية للمسافة الزمنية)، والذي يحتفظ بهيكل المشفر–المتنبئ الخاص بـ LeWM ولكنه يعززه بآلية استخراج تكلفة زمنية موجهة. تتكون الطريقة من ثلاثة مكونات أساسية:

1. الهيكل والتدفق التنبئي (Backbone and Prediction)

يستخدم TD-JEPA بنية LeWM القياسية: مشفر مشروط بالفعل ( $Enc_\theta$ ) ومتنبئ ( $Pred_\phi$ ) يقومان برسم الخرائط من الملاحظات إلى الحالات الكامنة والتنبؤ بالتمثيلات المستقبلية. وهو يحافظ على تنظيم SIGReg لمنع انهيار التمثيل وفقدان التنبؤ بخطوة واحدة القياسي ( $\mathcal{L}_{pred}$ ).

2. استخراج التكلفة الزمنية الموجهة (Directed Temporal Cost Mining)

بدلاً من الاعتماد فقط على المسافة الإقليدية، يتعلم TD-JEPA دالة طاقة موجهة وغير سالبة $d_\psi(z_s, z_g)$ تمثل تكلفة الوصول إلى هدف كامن $z_g$ من مصدر كامن $z_s$ .

البنية (رأس MRN): يستخدم رأس التكلفة بارامترياً لشبكة المتبقي المتري (Metric-Residual Network - MRN). يقوم بتفكيك التكلفة إلى حد تكوين متماثل وحيد متبقٍ غير متماثل:
$d_\psi(z_s, z_g) = \|\phi_{sym}(z_s) - \phi_{sym}(z_g)\|_2 + \max_k \text{ReLU}(\phi_{asym, k}(z_s) - \phi_{asym, k}(z_g))$
يضمن هذا التصميم أن تكون التكلفة غير سالبة وغير متماثلة بطبيعتها ( $d_\psi(z_s, z_g) \neq d_\psi(z_g, z_s)$ )، مما يعكس الطبيعة الموجهة للوصول إلى الهدف.
الإشراف (العلامات الزمنية): يتم تدريب النموذج على سجلات العروض التوضيحية غير المكتملة دون مكافآت كثيفة.
- الإيجابيات: بالنسبة للفهارس $i < j$ في نفس المسار، تعمل الفجوة الزمنية $\tau(i, j) = j - i$ كوسيط لـ "الخطوات المتبقية للهدف الفرعي". يقوم النموذج بعمل انحدار لـ $d_\psi(z_i, z_j)$ نحو $\tau(i, j)$ .
- السلبيات: تعمل أزواج المسارات المتقاطعة كسلبيات استدلالية، مما يمنع التكاليف المنخفضة الزائفة للأزواج غير المرتبطة عبر فقدان مفصلي (hinge loss).
اتساق التدفق (Rollout Consistency): يتم إضافة فقدان معلم (teacher-forcing loss) متعدد الخطوات ( $\mathcal{L}_{roll}$ ) لمواءمة التكلفة المتعلمة مع الأفق مفتوح الحلقة المستخدم في المخطط، مما يقلل من أخطاء التراكم أثناء التدفق لـ $H$ خطوة.

3. التخطيط والنشر (Planning and Deployment)

في وقت الاختبار، يبحث المخطط (باستخدام طريقة التباين في الاعتلال - Cross-Entropy Method أو iCEM) عن تسلسلات الأفعال التي تقلل الطاقة النهائية بعد تدفق كامن لـ $H$ خطوة.

استراتيجية النشر المزدوجة: يحدد البحث عن دورين متميزين للإشارة المستخرجة بناءً على بنية المهمة:
1. المهام التي تهيمن عليها الطوبولوجيا (مثل الملاحة): يتم نشر التكلفة الزمنية الموجهة المستخرجة $d_\psi$ مباشرة كهدف للتخطيط.
2. المهام الغنية بالتلامس (مثل المعالجة/التلاعب): يتم استخدام نفس نقطة التحقق المدربة زمنياً، ولكن يعتمد المخطط على المسافة الإقليدية الكامنة ( $\ell_2$ ). هنا، يعمل الإشراف الزمني كإشارة تمثيل لتشكيل الفضاء الكامن، مما يحسن فعالية التخطيط الهندسي.

المساهمات الرئيسية

تشخيص فجوة التدريب والتخطيط في JEPA: يوضح المؤلفون أن JEPAs التنبؤية تتعلم ديناميكيات السجلات، لكن التخطيط غالباً ما يعتمد على هندسة تمثيل غير مدربة. وقد أظهروا أن استخراج تكلفة زمنية موجهة من السجلات يقلل بشكل كبير من عدم التطابق في الترتيب (ارتفع معامل سبيرمان $\rho$ من 0.65 للمسافة الإقليدية إلى 0.95 للتكلفة المستخرجة في مهمة Push-T).
إطار استخراج المسافة الزمنية: يقدم TD-JEPA طريقة لاستخراج بنية التقدم الزمني من السجلات الخالية من المكافآت باستخدام الإشراف الزمني الموجه، والسلبيات عبر المسارات المتقاطعة، واتساق التدفق المتوافق مع الأفق.
التصميم المشترك للتكلفة والنشر: تقدم الورقة دليلاً على أن اختيار تكلفة التخطيط (الزمنية المستخرجة مقابل الهندسية) يجب أن يتم تصميمه بشكل مشترك مع نشر وقت التخطيط. تتفوق التكاليف الزمنية في الملاحة الطوبولوجية، بينما تظل التكاليف الهندسية متفوقة في المعالجة الغنية بالتلامس، حتى عندما يتم تدريب التمثيل الأساسي بالإشارات الزمنية.

النتائج التجريبية

تم تقييم الطريقة في أربع بيئات: Two-Room (ملاحة)، Reacher (وصول)، Push-T (معالجة)، و OGB-Cube (معالجة غنية بالتلامس). أُجريت التقييمات تحت بروتوكول "مغلق" (بذور ثابتة، نقاط تحقق، ومظاهر حلقات ثابتة) لضمان مقارنة عادلة مع LeWM و RC-aux المتزامن.

الملاحة والوصول: أدى نشر التكلفة المستخرجة $d_\psi$ $d_{ψ}$ إلى تحسين معدلات النجاح بشكل كبير.
- Two-Room: حقق نجاحاً بنسبة 100.0% (مقابل 97.4% لـ LeWM).
- Reacher: حقق نجاحاً بنسبة 97.0% (مقابل 96.0% لـ LeWM).
المعالجة (Manipulation): في المهام الغنية بالتلامس، حسن التدريب الزمني التمثيل الكامن، مما أفاد التخطيط الهندسي.
- OGB-Cube: رفع استخدام نقطة التحقق المدربة زمنياً مع تخطيط $\ell_2$ نسبة النجاح بمقدار 14.2 نقطة مئوية فوق LeWM (82.2% مقابل 68.0%).
- Push-T: تحسن من 83.6% (LeWM) إلى 86.0%.
دراسات الاستبعاد (Ablation Studies): أدت إزالة المتبقي الموجه (الرأس المتماثل)، أو السلبيات عبر المسارات المتقاطعة، أو اتساق التدفق، إلى تراجع في الأداء، مما يؤكد ضرورة كل مكون.
تحليل الفشل: في مهمة Push-T، كان التكلفة الزمنية الصرفة ( $d_\psi$ ) أقل أداءً من التكلفة الهندسية ( $\ell_2$ ) لأن حالات الفشل حدثت أساساً أثناء محاذاة ما بعد التلامس، حيث تكون الهندسة المحلية أكثر أهمية من ترتيب التقدم الزمني.

الأهمية والادعاءات

يدعي البحث أن TD-JEPA يقلص فجوة التدريب والتخطيط لمخططات نماذج عالم JEPA من خلال اكتشاف بنية التقدم الزمني في السجلات غير المكتملة وتصميم التكلفة بشكل مشترك مع النشر في وقت التخطيط.

ادعاءات متواضعة: لا يدعي المؤلفون أن التكاليف الزمنية تحل محل التكاليف الهندسية عالمياً. بدلاً من ذلك، يجادلون بضرورة استراتيجية نشر مشروطة: استخدم التكلفة الزمنية الموجهة المستخرجة عندما يكون التقدم طوبولوجياً، واستخدمها كإشارة تمثيل للتخطيط الهندسي عندما تهيمن هندسة التلامس.
التحقق التجريبي: تحت التقييم المغلق، يطابق TD-JEPA أو يتجاوز كلاً من LeWM و RC-aux في كل بيئة، مما يثبت أن الاستخراج الزمني من البيانات غير المكتملة هو مسار قابل للتطبيق لتحسين MPC الكامن دون الحاجة إلى نماذج مكافأة أو تفاعل عبر الإنترنت.

الكود متاح في مستودع GitHub المقدم.