ملخص تقني: MVP-LAM

بيان المشكلة

يعاني تدريب سياسات الروبوت العامة من عائق يتمثل في التكلفة العالية وندرة عروض التوضيح الواقعية المصحوبة ببيانات الأفعال (action-labeled). توفر مقاطع الفيديو البشرية واسعة النطاق لعمليات المناولة (manipulation) بديلاً واعداً لتعلم المقدمات القابلة للنقل، لكنها تفتقر إلى تسميات الأفعال الحقيقية (ground-truth action labels)، مما يمنع التعلم الإشرافي التقليدي بالتقليد. تحاول النهج الحديثة معالجة ذلك عبر تعلم نماذج الأفعال الكامنة (Latent Action Models - LAMs)، والتي تقوم بتشفير الانتقالات من إطار إلى آخر في تمثيلات مدمجة تُستخدم كملصقات أفعال زنيفة (pseudo-action labels) للتدريب المسبق لنماذج الرؤية واللغة والأفعال (VLA).

ومع ذلك، لا يزال هناك تحدٍ حرج: الأفعال الكامنة التي يتم تعلمها من فيديوهات أحادية المنظور غالباً ما تفشل في البقاء معلوماتية حول الأفعال الحقيقية الكامنة. فهي تميل إلى الإفراط في التكيف مع الضوضاء الخارجية (exogenous noise)، وتحديداً تباين منظور الرؤية (viewpoint variation). في الفيديوهات البشرية (التي غالباً ما تكون بمنظور الشخص الأول/egocentric)، يتشابك حركة الكاميرا مع أفعال الوكيل. نتيجة لذلك، قد تقوم نماذج LAM القياسية بتشفير إشارات خاصة بالمنظور (مثل حركة الخلفية أو إزاحة الكاميرا) بدلاً من إشارات التحكم الفعلية للوكيل، مما يقلل من فائدتها كملصقات زنيفة للتحكم اللاحق.

المنهجية: MVP-LAM

يقترح المؤلفون نموذج الفعل الكامن متعدد المنظور (Multi-ViewPoint Latent Action Model - MVP-LAM)، وهو إطار عمل غير إشرافي مصمم لتعلم أفعال كامنة متمحورة حول الفعل (action-centric) عبر الاستفضاء بفيديوهات متعددة المنظور ومتزامنة زمنياً.

الهدف الجوهري

الهدف هو تعظيم المعلومات المتبادلة $I(Z_t; A_t)$ بين الفعل الكامن $Z_t$ والفعل الحقيقي $A_t$، مع تقليل المعلومات التي يحملها $Z_t$ عن منظور الرؤية $V_t$. نظرياً، تحت سعة عنق زجاجة ثابتة (مثل التكميم المتجهي/vector quantization)، يؤدي تشفير معلومات منظور الرؤية إلى تقليل السعة المتاحة للديناميكيات ذات الصلة بالفعل.

البنية والتدريب

بُني MVP-LAM على بنية المشفّر التلقائي المتغير المكمّم المتجهي (VQ-VAE)، على غرار الأعمال السابقة مثل UniVLA، ولكنه يقدم هدف إعادة بناء متعدد المنظور (cross-viewpoint reconstruction objective) مبتكر:

1. المدخلات: أزواج فيديوهات متعددة المنظور متزامنة زمنياً $(I^{v_1}_t, I^{v_2}_t)$.
2. استخراج الميزات: يتم استخراج الميزات البصرية $o^v_t$ باستخدام مشفر مجمد (DINOv2).
3. استنتاج الفعل الكامن: يتنبأ مشفر $E_\theta$ بمتجه مستمر $e^v_t$ من الميزات المتتالية $(o^v_t, o^v_{t+1})$ لمنظور محدد $v$، والذي يتم بعد ذلك تكميمه متجهياً إلى رمز منفصل $z^v_t$.
4. خسائر إعادة البناء: يتم تدريب النموذج باستخدام هدفين متكاملين:
   • إعادة بناء المنظور الذاتي ($L_{self}$): إعادة بناء الإطار التالي $o^v_{t+1}$ باستخدام الإطار الحالي والرمز الكامن من نفس المنظور ($z^v_t$).
   • إعادة بناء المنظور المتقاطع ($L_{cross}$): إعادة بناء الإطار التالي $o^v_{t+1}$ باستخدام الإطار الحالي والرمز الكامن من منظور مختلف ومتزامن ($z^{\tilde{v}}_t$ حيث $v \neq \tilde{v}$).

آلية التمحور حول الفعل:
يجبر هدف المنظور المتقاطع الرمز الكامن $z^v_t$ على تفسير الحالة المستقبلية لمنظور كاميرا مختلف. وبما أن العوامل الخاصة بالمنظور (مثل حركة الخلفية الفريدة للكاميرا $v$) لا يمكنها تفسير الانتقال في المنظور $\tilde{v}$، فإن النموذج يُثبط عن تشفيرها. بدلاً من ذلك، يجب أن يلتقط $z^v_t$ الديناميكيات المشتركة المدفوعة بالفعل والمتسقة عبر المنظورات. هذا يعمل فعلياً على تصفية الضوضاء الخارجية دون الحاجة إلى تسميات الأفعال.

المساهمات الرئيسية

1. إطار عمل MVP-LAM: تقديم إطار عمل غير إشرافي يستخدم فيديوهات متعددة المنظور وهدف إعادة بناء متعدد المنظور لتعلم أفعال كامنة منفصلة تتوافق بشكل عالٍ مع الأفعال الحقيقية.
2. تحسين التمحور حول الفعل: إثبات أن MVP-LAM يحقق معلومات متبادلة أعلى بكثير مع الأفعال الحقيقية ودقة تنبؤ خطي أفضل للأفعال مقارنة بالنماذج أحادية المنظور (UniVLA, LAPA, Moto) على مجموعة بيانات Bridge V2.
3. المتانة تجاه اضطراب المنظور: دليل على أن أفعال MVP-LAM الكامنة تحافظ على المعلومات المتعلقة بالانتقال حتى عند استنتاجها من انتقالات مضطربة المنظور، مما يحافظ على اتساق الديناميكيات عبر المنظورات.
4. التدريب المسبق الفعال لـ VLA: التحقق من أن نماذج VLA المدربة مسبقاً باستخدام أفعال MVP-LAM تتفوق على النماذج المرجعية في اختبارات المناولة (SIMPLER و LIBERO) بينما تتطلب بيانات تدريب مسبق أقل بكثير (على سبيل المثال، 3 أضعاف أصغر من النماذج المعتمدة على OXE).

النتائج التجريبية

قام المؤلفون بتقييم MVP-LAM على مجموعة بيانات Bridge V2 لتعلم الأفعال الكامنة وعلى مجموعات SIMPLER و LIBERO لأداء VLA اللاحق.

• التمحور حول الفعل (Bridge V2):
  • المعلومات المتبادلة (MI): حقق MVP-LAM أعلى معلومات متبادلة مقدرة ($I(Z; A)$) عبر مقدرات KSG و BA و MINE مقارنة بـ UniVLA و LAPA و Moto.
  • الاختبار الخطي (Linear Probing): حققت طبقة خطية بسيطة مدربة للتنبؤ بالأفعال الحقيقية من الرموز الكامنة أدنى متوسط مربعات خطأ طبيعي (NMSE) لـ MVP-LAM، مما يشير إلى احتفاظ فائق بمعلومات الفعل.
• المناولة اللاحقة (SIMPLER & LIBERO):
  • SIMPLER: حققت نماذج VLA المدربة مسبقاً بـ MVP-LAM معدل نجاح متوسط قدره 60.4%، متفوقة بشكل كبير على UniVLA (39.6%) والنماذج المرجعية الأخرى في جميع المهام الأربع.
  • LIBERO: حقق MVP-LAM معدل نجاح متوسط قدره 94.1%، متفوقاً على UniVLA (92.5%) ومنافساً بقوة لنماذج مثل $\pi_0$ (94.2%)، رغم تدريبه المسبق على مجموعة بيانات أصغر بكثير (Bridge V2 فقط، $\le$60 ألف مسار مقابل $\ge$970 ألف لـ OXE).
  • خارج التوزيع (OOD): أظهر MVP-LAM أداءً قوياً في مهام OOD (المكانية، الكائن، الهدف، الطويلة)، متميزاً بشكل خاص في مجموعة LIBERO-Long الصعبة.
• المتانة والتحجيم:
  • اضطراب المنظور: عند اختباره على انتقالات مُصنّعة بمنظور جديد، حافظ MVP-LAM على معلومات متبادلة عالية وNMSE منخفض، بينما أظهرت النماذج المرجعية مثل UniVLA تدهوراً كبيراً في التركيز على الانتباه ودقة التنبؤ.
  • خطأ التزامن: ظل النموذج متيناً تجاه تأخيرات التزامن الاصطناعية ($\ell \in \{0, 2, 4\}$ إطار).
  • التحجيم: تحسن الأداء باستمرار مع زيادة عدد المنظورات، ونسب البيانات، وحجم النموذج.

الأهمية والادعاءات

يزعم البحث أن MVP-LAM يمثل خطوة نحو نموذج فعل كامن عالمي من خلال حل مشكلة الضوضاء الخارجية في التدريب المسبق القائم على الفيديو دون الحاجة إلى إشراف الأفعال.

• كفاءة البيانات: تكمن الأهمية الأساسية في القدرة على تعلم تمثيلات عالية الجودة متمحورة حول الفعل من فيديوهات بشرية متعددة المنظور واسعة النطوال، مما يسمح بتدريب مسبق فعال لـ VLA ببيانات أقل بمراتب عشرية من الطرق السابقة التي تعتمد على مجموعات بيانات ضخمة للروبوتات.
• التعميم: من خلال فصل ديناميكيات الفعل عن الإشارات الخاصة بالمنظور، ينتج MVP-LAM تمثيلات تتعمم بشكل أفضل على المنظورات والبيئات الجديدة.
• الواقعية: يستفيد النهج من الفيديوهات متعددة المنظور الموجودة حالياً (مثل EgoExo4D و Open X-Embodiment) ويندمج طبيعياً في مسارات الذكاء الاصعي المتجسد الحالية، مما يوفر مساراً قابلاً للتوسع لتعلم الروبوتات العام.

أشار المؤلفون إلى بعض القيود، بما في ذلك الاعتماد على بيانات متعددة المنظور متزامنة (وهي أصعب في الجمع من أحادية المنظور) وأن التقييم الحالي يقتصر على المحاكاة، رغم أن SIMPLER يرتبط بالأداء في العالم الحقيقي، كما اقترحوا عملاً مستقبلياً لاستكشاف البيانات متعددة المنظور ضعيفة التزامن أو المزدوجة زيفاً لتخفيف متطلبات الأجهزة.