Zero-WAM: In-Context World-Action Modeling from Human Videos for Open-Ended Task Generalization
يُعد Zero-WAM نموذجاً سببيّاً للفيديو والحركة يحقق تعميماً عبر المهام في مرحلة الصفر (zero-shot) في مجال المناولة الروبوتية من خلال الاستفادة من فيديوهات بشرية ضمن السياق كأوصاف للمهام، مدعوماً بمجموعة بيانات اصطناعية مكونة من 74.2 ألف زوج من البشر والروبوتات وهدف تنبؤ بالكتل المستقبلية لفرض الاعتماد على المحفزات البصرية.
لطالما عانت الروبوتات من عائق جوهري: فهي بارعة في تكرار ما تم تعليمها إياه صراحةً، لكنها تتعثر عندما تواجه موقفاً جديداً لم تتدرب عليه من قبل. فإذا تعلم الروبوت كيفية تكديم المكعبات الحمراء، فغالباً لا يستطيع معرفة كيفية تكديم المكعبات الزرقاء، أو كيفية فتح الميكروويف، ما لم يقم مبرمج بشري بإعادة كتابة الكود الخاص به لتلك المهمة المحددة. إن عدم القدرة على التعميم هذا يمثل عقبة رئيسية أمام بناء آلات يمكنها المساعدة في منازلنا أو أماكن عملنا. لسنوات، حاول الباحثون حل هذه المشكلة عبر تعليم الروبوتات من خلال اللغة، عبر إعطائها تعليمات لفظية مثل "ارفع الكوب". ومع ذلك، غالباً ما تكون الكلمات غامضة جداً بحيث لا تستطيع استيعاب التفاصيل الفيزيائية المعقدة للمهمة، مثل مدى قوة الضغط المطلوبة على جسم ما أو التسلسل الدقيق للحركات اللازمة لفك عقدة. إن الطريقة الأكثر طبيعية للبشر لإظهار ما يجب فعله للروبوت هي ببساطة من خلال تقديم عرض توضيحي، لكن تعليم الروبوت التعلم مباشرة من مشاهدة فيديو لإنسان أثبت صعوبته لأن الإنسان والروبوت يتحركان بشكل مختلف ويريان العالم من زوايا مختلفة.
لقد طور فريق من الباحثين نهجاً جديداً يسمح للروبوت بتعلم مهام جديدة تماماً من خلال مشاهدة فيديو قصير لإنسان يؤديها، دون الحاجة إلى أي تدريب مسبق على تلك المهمة المحددة أو أي تغييرات في البرمجيات الداخلية للروبوت. أطلقوا على نظامهم اسم "Zero-WAM". الفكرة الجوهرية هي معاملة الفيديو البشري ليس مجرد مرجع، بل كتعليم مباشر. فعندما يحتاج الروبوت إلى أداء وظيفة جديدة، يشاهد فيديو لإنسان يقوم بوظيفة مشابهة ويستخدم ذلك الدليل البصري لتحديد خطواته التالية. ولإنجاح ذلك، كان على الباحثين حل مشكلة ضخمة تتعلق بالبيانات؛ فقد احتاجوا إلى آلاف الأمثلة حيث يتطابق فيديو بشري يظهر مهمة ما تماماً مع حركات الروبوت الخاصة لنفس تلك المهمة. وبما أن جمع هذه الأزواج يدوياً عملية بطيئة ومكلفة، فقد بنوا نظاماً آلياً يأخذ تسجيلات موجودة لروبوتات تعمل ويستخدم الذكاء الاصطناعي لتوليد فيديوهات بشرية مطابقة. أنتجت هذه العملية مكتبة ضخمة تضم 74,200 مثال مزدوج تغطي ما يقرب من 9,000 مهمة مختلفة، تتراوح من أفعال الالتقاط والوضع البسيطة إلى عمليات التحكم المعقدة متعددة الخطوات.
درب الباحثون نموذجهم على هذه المكتبة المتنوعة، لتعليم الروبوت كيفية التنبؤ بما يجب أن يفعله بعد ذلك بناءً على تاريخ حركاته الخاصة وفيديو الإنسان الذي يشاهده. وكان جزء رئيسي من طريقتهم هو ضمان أن ينتبه النموذج بالفعل للفيديو البشري بدلاً من مجرد التخمين بناءً على ما رآه سابقاً. لقد أضافوا خطوة تدريب خاصة حيث يتعين على النموذج التنبؤ ليس فقط باللحظة التالية مباشرة، بل بعدة خطوات في المستقبل. وقد أجبر هذا النظام على فهم الهدف طويل الأمد الموضح في الفيديو البشري، بدلاً من مجرد الاستجابة للماضي القريب. وعند اختبار هذا النظام في بيئة محاكاة مع سبع مهام جديدة تماماً لم يسبق للروبوت رؤيتها أثناء التدريب، نجح في نصف المحاولات تقريباً. ويمثل هذا تحسناً كبيراً مقارنة بالطرق السابقة، التي نجحت في أقل من محاولة واحدة من كل خمس محاولات. وقد تمكن النظام من التعامل مع تحديات صعبة مثل فتح الميكروويف، وتكديم المكعبات، وتحريك دباسة، وكل ذلك بمجرد مشاهدة فيديو توضيحي لإنسان.
ولم يتوقف النجاح عند حدود المحاكاة؛ فقد نقل الفريق النموذج المدرب إلى بيئة واقعية باستخدام ذراع روبوت فيزيائية واختبروه في مهام تتضمن وضع أشياء في حاويات، وتحريك عناصر متعددة بترتيب محدد، وإدخال أرجل الطاولات في الثقوب بدقة عالية. وفي هذه الاختبارات الواقعية، استخدم الروبوت مرة أخرى تعليمات الفيديو البشري للتنقل عبر تكوينات غير مرئية، مثل استخدام أشياء ذات ألوان مختلفة أو إعدادات طاولات مختلفة عما رآه أثناء التدريب. وبينما كان معدل النجاح أقل مما كان عليه في المحاكاة بسبب الصعوبات الفيزيائية للعالم الحقيقي، إلا أن الروبوت تمكن من إكمال مهام لم يستطع أي نظام يعتمد على اللغة وحدها حلها على الإطلاق. فعلى سبيل المثال، عندما طُلب منه إدخال أرجل الطاولة في ثقوب محددة بناءً على دليل فيديو، نجح الروبوت في جزء كبير من التجارب، بينما فشل النظام المعتمد على اللغة فقط تماماً.
تشير النتائج إلى أن العائق في جعل الروبوتات أكثر قدرة على التكيف ليس بالضرورة قدرة الروبوت على الحركة، بل الطريقة التي نعطيه بها التعليمات. ومن خلال الانتقال من الأوامر النصية إلى العروض التوضيحية القائمة على الفيديو، وباستخدام مجموعة بيانات ضخمة تم توليدها آلياً لتعليم الروبوت كيفية ترجمة الأفعال البشرية إلى حركاته الخاصة، أظهر الباحثون مساراً قابلاً للتطبيق نحو آلات أكثر مرونة. النظام لا يتطلب من الروبوت تعلم مهارة جديدة لكل وظيفة جديدة؛ بل يتعلم قدرة عامة على تفسير العروض التوضيحية البصرية. وهذا يعني أنه في المستقبل، يمكن للروبوت نظرياً أن يتلقى فيديو لإنسان يصلح صنبوراً يسرب الماء أو ينظم رفاً، وسيكون قادراً على محاولة أداء المهمة نفسها بمفرده، مع تكييف حركاته الفيزيائية لتناسب جسده والأشياء الموجودة أمامه. يوضح هذا العمل أنه مع البيانات وطرق التدريب الصحيحة، يمكن للروبوتات أن تبدأ في سد الفجوة بين الحدس البشري والتنفيذ الآلي، والاقتراب من هدف الوصول إلى مساعدين حقيقيين للأغراض العامة.
ملخص تقني: Zero-WAM: نمذجة العالم-والفعل في السياق من فيديوهات البشر لتعميم المهام مفتوحة النطاق
1. بيان المشكلة
التحدي المركزي الذي يتم معالجته هو التعميم عبر المهام في زمن الصفر (zero-shot cross-task generalization) في التحكم الروبوتي. غالبًا ما تفشل السياسات الحالية في تنفيذ المهام غير المرئية أثناء التدريب دون جمع بيانات روبوتية جديدة أو تحديث معاملات النموذج. وبينما تحقق النماذج اللغوية الكبيرة (LLMs) التعميم من خلال التعلم في السياق (ICL) عبر تحديد المهام عبر النص، فإن تطبيق ذلك على الروبوتات يعد أمرًا صعبًا لأن اللغة الطبيعية غالبًا ما تفتقر إلى التحديد الدقيق لمهام المناولة (مثل نقص القيود المكانية أو البنية الزمنية).
تعتمد نماذج الرؤية-اللغة-الفعل (VLA) ونماذج الفيديو-الفعل الموجودة بشكل كبير على اللغة، والتي تفشل في توفير دليل بصري مباشر على تطور المهمة. وبينما توفر فيديوهات المناولة البشرية مواصفات بصرية غنية وطبيعية للمهام، فإن توسيع نطاق هذا النهج يواجه عقبتين:
ندرة البيانات: إن مجموعات البيانات البشرية-الروبوتية المقترنة دلاليًا واسعة النطاق مكلفة ويصعب جمعها يدويًا.
تعلم الاختصار (Shortcut Learning): غالبًا ما تتعلم النماذج المدربة على مهام مرئية التنبؤ بالأفعال الروبوتية المستقبلية بناءً على تاريخ الروبوت والنص فقط، متجاهلةً فيديو السياق (in-context video prompt). يؤدي هذا إلى الفشل عندما يكون الفيديو هو المصدر الوحيد للمعلومات للمهام غير المرئية.
2. المنهجية
2.1 تنسيق البيانات: HumanGen و Task-Diverse VA
للتغلب على ندرة البيانات والتحيز، يقترح المؤلفون خط إنتاج قابل للتوسع ومجموعتي بيانات منسقتين:
بيانات Task-Diverse VA: يتم إعادة تقسيم مجموعات بيانات الفيديو-الفعل الروبوتية العامة (مثل Agiot، Open-X-Embodiment) على مستوى المهمة (المُعرف بواسطة الفعل + الكائن) بدلاً من تكرار المسار الخام. يمنع هذا عملية ما قبل التدريب من أن تهيمن عليها عمليات التحكم عن بُعد المتكررة لعدد قليل من المهام، مما ينتج عنه مجموعة متوازنة من حوالي 400 ألف مسار عبر أكثر من 6,000 مهمة لكل حقبة (epoch).
خط إنتاج توليد فيديو بشري في السياق: يقوم خط إنتاج مؤتمت بتحويل مسارات الروبوت المختارة حسب المهمة إلى فيديوهات مناولة بشرية متطابقة دلاليًا.
العملية: يستخرج نموذج رؤية-لغة (VLM) دلالات المهمة ويولد مطالبات تحرير صور لتحويل الإطار الأول للروبوت إلى ملاحظة بشرية (تغيير وجهة النظر، الخلفية، ونماذج الكائنات). ثم يقوم نموذج توليد فيديو بتخليق فيديو المناولة البشرية.
مجموعة بيانات HumanGen: ينتج هذا الخط 74.2 ألف زوج (بشري-روبوت) للتعلم في السياق (ICL) عبر 8.6 ألف مهمة. والأهم من ذلك، يتكون كل زوج من فيديو بشري مُولد (التعليمات) ومسار الروبوت القابل للتنفيذ المقابل له. تتضمن مجموعة البيانات محاذات بصرية متنوعة (منظور الشخص الأول/الثالث، بيئات مختلفة) لإجبار النموذج على تعلم الارتباطات على مستوى المهمة بدلاً من مجرد نسخ الحركة.
2.2 بنية النموذج: Zero-WAM
Zero-WAM هو نموذج فيديو-فعل سببي (causal video-action model) يعتمد على تصميم Mixture-of-Transformers (MoT)، مقتبس من هيكل Wan-2.2 لتحويل النص إلى فيديو.
المواصفات المزدوجة: يقبل إما تعليمات لغوية أو فيديو بشري (أو كليهما) كشرط للمهمة c.
التنبؤ السببي: يتنبأ النموذج بشكل تلقائي (autoregressively) بكتلة الفيديو الروبوتية التالية xi+1 وكتلة الفعل المتوافقة ai+1.
فرع الفيديو: يتنبأ بـ xi+1 مشروطًا بالتاريخ، اللغة، والفيديو البشري في السياق h.
فرع الفعل: يفك تشفير ai+1 من الفيديو المتوقع والتاريخ (يعمل كنموذج ديناميكا عكسية). هو لا ينتبه مباشرة إلى الفيديو البشري h؛ بل يعتمد على دلالات المهمة المستوعبة في تمثيل الفيديو المتوقع.
إزاحة RoPE: لتمييز رموز الفيديو البشري في السياق عن رموز الفيديو الروبوتي داخل نفس التسلسل، يتم تعيين إحداثي RoPE مزاح لمحور الارتفاع للفيديو البشري.
2.3 هدف التدريب: التنبؤ بكتلة المستقبل في السياق (IFP)
لمنع النموذج من تجاهل فيديو الفيديو البشري (تعلم الاختصار)، يقدم المؤلفون IFP، وهو هدف مساعد مخصص للتدريب فقط.
الآلية: بدلاً من التنبؤ بالكتلة التالية المباشرة فقط، يتم الإشراف على النموذج للتنبؤ بعدة كتل مستقبلية متدرجة (xj1,xj2,…) من تمثيل الفيديو الروبوتي الحالي.
القيد: يتم تكييف وحدات IFP فقط مع التمثيل المدمج للخطوة الحالية (الذي تفاعل مع الفيديو البشري)، وليس مباشرة مع الفيديو البشري نفسه. هذا يجبر فرع الفيديو الرئيسي على تشفير تطور المهمة طويل الأمد المنقول عبر الفيديو البشري في حالة التمثيل الحالية، حيث لا يمكن تقليل خسارة IFP دون هذه المعلومات.
3. المساهمات الرئيسية
الصياغة: صياغة التعميم الروبوتي في زمن الصفر كـ نمذجة عالم-وفعل في السياق، حيث تدعم سياسة سببية واحدة كلاً من اللغة والفيديوهات البشرية كمواصفات للمهام.
خط إنتاج بيانات قابل للتوسع: طريقة لتوليد HumanGen تلقائيًا، وهي مجموعة بيانات تضم 74.2 ألف زوج (بشري-روبوت) للتعلم في السياق، إلى جانب مجموعة Task-Diverse VA للتدريب المسبق المتوازن.
الابتكار الخوارزمي: نموذج Zero-WAM مع هدف IFP، الذي يمنع صراحةً الاعتماد على اختصارات تاريخ الروبوت ويعزز استخدام مطالبات الفيديو البشري في السياق.
التحقق التجريبي: إثبات التعميم الفعال في زمن الصفر في المحاكاة (RoboTwin 2.0) وفي الإعدادات الواقعية دون الحاجة لبيانات خاصة بالمهمة أو تحديث المعاملات.
4. النتائج التجريبية
4.1 المحاكاة (RoboTwin 2.0)
تم التقييم على 7 مهام غير مرئية (مثل ختم الأختام، فتح أفران الميكروويف، تكديس الكتل) باستخدام 3 بذور عشوائية (seeds).
Zero-WAM: حقق متوسط معدل نجاح قدره 46.95%.
النماذج المرجعية: تفوق على LingBot-VA (17.45%) بمقدار 29.50 نقطة مئوية، وعلى WAN-Action (10.98%) بمقدار 35.97 نقطة مئوية.
النتائج الرئيسية: كان Zero-WAM هو الطريقة الوحيدة التي حققت نجاحًا غير صفري في مهمة "تكديس الكتل الثلاث" (9.00%)، وهي مهمة طويلة الأمد وصعبة فشلت فيها النماذج المرجعية تمامًا.
4.2 التقييم في العالم الحقيقي
تم التقييم على روبوت Franka ثنائي اليد عبر ثلاث عائلات من المهام:
وضع جسم في حاوية: نجاح بنسبة 53.3% (مقابل 43.3% لـ LingBot-VA).
المناولة المتسلسلة لثلاثة أجسام: نجاح بنسبة 33.3% (مقابل 10.0% لـ LingBot-VA).
إدخال في ساق طاولة مزدوجة: نجاح بنسبة 16.7% (مقابل 0.0% لـ LingBot-VA). نجح Zero-WAM في التعميم على تكوينات غير مرئية تتضمن مشاهد متعددة الأجسام، تسلسلات طويلة الأمد، وعمليات إدخال دقيقة، معتمداً فقط على تعليمات الفيديو البشري.
4.3 دراسات الاستئصال (Ablation Studies)
التعلم في السياق للفيديو البشري (Human Video ICL): أدى إزالة التدريب المسبسب واستخدام فيديوهات IBL البشرية فقط إلى رفع النجاح من 10.98% إلى 36.36%، مما يثبت أن ICL يوفر معلومات حيوية للمهمة تتجاوز النص.
وحدة IFP: أدت إزالة IFP إلى انخفاض متوسط معدل النجاح من 46.95% إلى 28.55%، مما يؤكد أن IFP ضروري لإجبار النموذج على استخدام إشارة الفيديو البشري.
البيانات المتوازنة للمهام: نسخة Zero-WAM التي تعتمد على النص فقط (بدون شرط الفيديو البشري) لا تزال تتفوق على LingBot-VA (39.44% مقابل 17.45%)، مما يؤكد أن أخذ العينات على مستوى المهمة يحسن التعميم حتى بدون مطالبات الفيديو البشري.
5. الأهمية والادعاءات
يزعم البحث أن Zero-WAM يقدم مسارًا عمليًا نحو المناولة الروبوتية القابلة للتعميم من خلال الجمع بين تعليمات الفيديو البشري القابلة للتوسع والتدريب المسبق الروبوتي المتوازن للمهام.
القدرة في زمن الصفر: ينفذ النظام مهام غير مرئية في المحاكاة وفي التكوينات الواقعية دون جمع بيانات روبوتية مقابلة أو تحديث معاملات النموذج.
سد الفجوة: من خلال توليد أزواج (بشري-روبوت) متوافقة دلاليًا، يعمل هذا العمل على سد الفجوة بين فيديوهات البشر الذاتية (egocentric) الوفيرة ومسارات الروبوت النادرة. ويجادل بأن إنشاء الارتباط على المستوى الدلالي للمهمة (بدلاً من المحاذاة الحركية الدقيقة) يسم يسمح للسياسات باكتساب معرفة واسعة للمهام من الخبرة البشرية مع طلب بيانات روبوتية أقل للإشراف على الفعل القابل للتنفيذ.
الاتجاه المستقبلي: يشير المؤلفون إلى أن هذا النموذج يمكن أن يمتد إلى المناولة المتنقلة والمهام طويلة الأمد، مما يضع الفيديو البشري كواجهة أساسية لتحديد المهام مفتوحة النطاق في الروبوتات العامة.