Multi-View Video Diffusion Policy: A 3D Spatio-Temporal-Aware Video Action Model
تقدم الورقة البحثية MV-VDP، وهي سياسة انتشار فيديو متعددة الرؤى تتنبأ بشكل مشترك بفيديو RGB وخريطة حرارية متعددة الرؤى لنمذجة الديناميكيات المكانية والزمانية ثلاثية الأبعاد بفعالية، مما يتيح تلاعبًا روبوتيًا فعالًا من حيث البيانات، وقويًا، وقابلًا للتعميم باستخدام عشر عروض توضيحية فقط.
المؤلفون الأصليون:Peiyan Li, Yixiang Chen, Yuan Xu, Jiabing Yang, Xiangnan Wu, Jun Guo, Nan Sun, Long Qian, Xinghang Li, Xin Xiao, Jing Liu, Nianfeng Liu, Tao Kong, Yan Huang, Liang Wang, Tieniu Tan
تخيل أنك تعلم روبوتاً القيام بمهمة، مثل التقاط لعبة أسد ووضعها على رف.
الطريقة القديمة (نهج "العمى"): معظم الروبوتات الحالية تشبه الطلاب الذين يدرسون فقط بطاقات تعليمية ثنائية الأبعاد (2D). إنهم ينظرون إلى صورة مسطحة للأسد وإلى تعليمات نصية تقول "ارفعها". هم لا يفهمون حقاً أن الأسد له عمق، أو أنه إذا دفعوه فسينزلق عبر الطاولة. ولأنهم يفتقرون إلى هذا "الحس ثلاثي الأبعاد" ولا يفهمون كيف تتحرك الأشياء بمرور الوقت، فإنهم يحتاجون إلى التدرب آلاف المرات لإتقان الأمر. إذا تغيرت الإضاءة أو تحركت الطاولة، يصابون بالارتباك ويفشلون.
الطريقة الجديدة (MV-VDP: نهج "مخرج الأفلام"): تقدم الورقة البحثية عقلاً روبوتياً جديداً يسمى MV-VDP. بدلاً من مجرد النظر إلى صورة ثابتة، يعمل هذا الروبوت كـ مخرج أفلام.
إليك كيف يعمل ذلك، باستخدام تشبيهات بسيطة:
1. نظارات "الرؤية المتعددة" (الرؤية في أبعاد ثلاثية)
بدلاً من النظر إلى العالم من خلال عدسة كاميرا واحدة مسطحة، يرتدي هذا الروبوت نظارات ثلاثية الأبعاد مكونة من كاميرات متعددة. إنه ينظر إلى المشهد من ثلاث زوايا مختلفة في وقت واحد.
التشبيه: تخيل أنك تحاول الإمساك بكرة. إذا نظرت إليها من الأمام فقط، فقد تفقد إدراك العمق. ولكن إذا كان لديك أعين في الأمام، والجانب، والأعلى، فستعرف فوراً مكان الكرة بدقة في الفضاء ثلاثي الأبعاد. يفعل هذا الروبوت الشيء نفسه، حيث يبني خريطة ثلاثية الأبعاد مثالية للغرفة فوراً.
2. "فيلم رؤية المستقبل" (التنبؤ بالحبكة)
هذه هي الخدعة السحرية. قبل أن يحرك الروبوت ذراعه فعلياً، فإنه يحاكي فيلماً لما سيحدث.
التشبيه: فكر في لاعب الشطرنج. قبل القيام بنقلة، يتخيل النقلات القليلة القادمة في ذهنه: "إذا نقلت قطعة هنا، سيتحرك خصمي إلى هناك".
كيف يفعل الروبوت ذلك: يستخدم ذكاءً اصطناعياً قوياً (مدرباً على ملايين الفيديوهات) لإنتاج شيئين في آن واحد:
فيديو: فيلم واقعي للغرفة وهي تتغير (على سبيل المثال: الأسد ينزلق، الرف يقترب).
خريطة حرارية: علامة "X" متوهجة على الشاشة توضح بالضبط أين يجب أن تكون يد الروبوت في كل لحظة من لحظات هذا الفيلم.
3. "السيناريو" مقابل "الحركة"
الروبوت لا يخمن الحركة فحسب؛ بل يقرأ سيناريو المستقبل.
المشكلة مع الآخرين: تحاول الروبوتات القديمة تخمين الحركة بناءً على صورة ثابتة. الأمر يشبه محاولة قيادة سيارة من خلال النظر إلى صورة واحدة للطريق.
حل MV-VDP: يقول الروبوت: "سأتخيل الخمس ثوانٍ القادمة من الفيلم. في ذلك الفيلم، يكون الأسد على الرف. لذلك، يجب أن تكون يدي قد تحركت بطريقة معينة لجعل هذا الفيلم يحدث". إنه يعمل بشكل عكسي من المستقبل المنشود ليفهم الفعل الحالي.
لماذا يعد هذا أمراً مهماً للغاية؟
كفاءة البيانات (التعلم السريع): نظرًا لأنه يفهم الفيزياء والمساحة ثلاثية الأبعاد جيداً، فهو لا يحتاج إلى التدرب آلاف المرات. تظهر الورقة البحثية أنه يمكنه تعلم مهمة معقدة بعد مشاهدة إنسان يقوم بها 10 مرات فقط. إنه مثل الطالب الذي يحتاج فقط لرؤية مسألة رياضية واحدة ليحلها، بينما يحتاج الآخرون إلى حل 100 مسألة تدريبية.
المتانة (عدم التزعزع): إذا غيرت الإضاءة، أو حركت الطاولة، أو استبدلت لعبة الأسد بلعبة نمر، فإن الروبوت لا يصاب بالذعر. لأنه يفهم بنية العالم (ثلاثي الأبعاد) وكيفية حركة الأشياء (الزمن)، فإنه يتكيف فوراً.
الأمان (المعاينة المسبقة): هذا هو الجزء الأروع. قبل أن يحرك الروبوت ذراعه فعلياً، فإنه يعرض لك الفيلم لما يخطط للقيال به.
التشبيه: إنه يشبه محاكي الطيران. قبل أن يقلع الطيار، يقوم بتشغيل محاكاة. إذا أظهرت المحاكاة سقوط الطائرة، فإنه لا يقلع.
إذا بدا فيلم التنبؤ الخاص بالروبوت غريباً (على سبيل المثال: "أوه لا، الفيلم يظهرني وأنا أسقط المزهرية")، يمكن للنظام إيقاف الروبوت قبل ارتكاب الخطأ. وهذا يجعل استخدامه في المنازل الحقيقية أكثر أماناً بكثير.
الملخص
MV-VDP هو روبوت لا يكتفي فقط بـ "الرؤية" و"التحرك". إنه يرى في أبعاد ثلاثية، ويتخيل المستقبل كفيلم، ويخطط لتحركاته من خلال مشاهدة ذلك الفيلم. إنه يتعلم بشكل أسرع، ويتكيف مع التغييرات بشكل أفضل، ويسمح لنا بـ "معاينة" أفعاله لضمان السلامة، كل ذلك من خلال معاملة التحكم في الروبوت كعملية إخراج فيلم.
1. بيان المشكلة
تواجه سياسات التحكم الروبوتية الحالية في التلاعب بالأشياء (manipulation) قيودين حرجين يعيقان كفاءة البيانات والقدرة على التعميم:
عدم التطابق بين الـ 2D والـ 3D: تعتمد معظم السياسات على ملاحظات بصرية ثنائية الأبعاد (صور) بينما تعمل في فضاء فيزيائي ثلاثي الأبعاد. هذا يخلق فجوة تعلم كبيرة، مما يتطلب كميات هائلة من البيانات لسد الفرق بين الإدراك ثنائي الأبعاد وتنفيذ الحركة ثلاثية الأبعاد.
الافتقار إلى الديناميكيات الزمنية: تفتقر العديد من النماذج المتطورة، بما في ذلك نماذج الرؤية واللغة والعمل (VLA)، التي تستخدم نماذج أساسية مدربة مسبقًا على أزواج الصور والنصوص الثابتة، إلى فهم متأصل لكيفية تطور البيئة بمرور الوقت، مما يحد من قدرتها على توقع الحالات المستقبلية وتخطيط الإجراءات بفعالية.
غالبًا ما تفشل الطرق الحالية في التعميم في ظل ندرة البيانات (على سبيل المثال، أقل من 10 عروض توضيحية) وتواجه صعوبة في المهام المعقدة الغنية بالتلامس حيث يكون توقع التغيرات البيئية أمرًا بالغ الأهمية.
2. المنهجية: MV-VDP
يقترح المؤلفون MV-VDP، وهو سياسة انتشار فيديو متعددة الرؤى (multi-view video diffusion policy) تقوم بنمذجة الحالة المكانية-الزمانية ثلاثية الأبعاد للبيئة بشكل مشترك. الرؤية الجوهرية هي محاذاة تنسيق التمثيل مع التدريب المسبق للفيديو مع الضبط الدقيق للعمل (action finetuning).
المكونات الهيكلية الرئيسية:
إسقاط متعدد الرؤى مدرك للـ 3D:
بدلاً من معالجة السحب النقطية الخام مباشرة أو استخدام رؤى ثنائية الأبعاد مستقلة، يقوم النظام بإسقاط السحب النقطية الملونة ووضعية النهاية الطرفية (end-effector) الحالية على ثلاث رؤى متعامدة ثابتة.
تمثيل الحالة: يتم تحويل حالة الروبوت (وضعية النهاية الطرفية) إلى خرائط حرارية متعددة الرؤى تتوافق مع مستويات الإسقاط هذه.
المدخلات: يأخذ النموذج صور RGB متعددة الرؤى (للبيئة) وخرائط حرارية متعددة الرؤى (للحالة) كمدخلات.
محول انتشار فيديو متعدد الرؤى (Multi-View Video Diffusion Transformer):
النموذج الأساسي (Backbone): مبني على Wan2.2، وهو نموذج فيديو تأسيسي بـ 5 مليارات معلمة (parameter) تم تدريبه مسبقًا في الأصل على فيديوهات أحادية الرؤية.
التوسعة: قام المؤلفون بتعزيز كتل "محول الانتشار" (DiT) بوحدة "انتباه متعدد الرؤى" (View-Attention module). يسمح هذا للنموذج بالتفاعل صراحةً عبر الرؤى المختلفة في كل خطوة زمنية، مما يمكنه من ترميز البنية الهندسية ثلاثية الأبعاد ضمنيًا.
التنبؤ المشترك: يتم تدريب النموذج للتنبؤ في آن واحد بـ:
تسلسلات خرائط حرارية مستقبلية (لنمذجة تطور حالة الروبوت).
فك تشفير العمل (Action Decoding):
الموقع: يتم إعادة إسقاط تسلسلات الخرائط الحرارية المتوقعة باستخدام معايير الكاميرا المعروفة لاستعادة مسارات مستمرة ثلاثية الأبعاد للنهاية الطرفية.
الدوران والمقبض: يأخذ متنبئ خفيف الوزن (170 مليون معلمة) التمثيلات الكامنة التي تمت إزالة الضجيج منها للتنبؤ بدوران النهاية الطرفية (زوايا أويلر) وحالات المقبض.
المخرج: المخرج النهائي هو كتلة عمل مستمرة تضم أوامر الموقع، والدوران، والمقبض.
3. المساهمات الرئيسية
الابتكار المفاهيمي: يعد MV-VDP أول عمل يستفيد من نماذج الفيديو التأسيسية لبناء نموذج فيديو-عمل ثلاثي الأبعاد (3D VAM). إنه يوحد تنبؤ الفيديو وتوليد العمل ضمن مساحة تمثيل مشتركة.
التقدم المنهجي: من خلال تمثيل الأعمال كخرائط حرارية متعددة الرؤى والتنبؤ بها جنبًا إلى جنب مع فيديوهات RGB، تقوم الطريقة بمحاذاة مساحة العمل مع توزيع التدريب المسبق لنماذج الفيديو التأسيسية، مما يقلل بشكل كبير من فجوة التمثيل.
كفاءة البيانات والمتانة: تحقق الطريقة أداءً رائدًا (state-of-the-art) مع بيانات محدودة للغاية (كما قلي من 10 عروض توضيحية) دون تدريب روبوتي مسبق إضافي. كما أنها قوية تجاه تغيرات المعلمات الفائقة (hyperparameters)، لا سيما الحفاظ على أداء عالٍ حتى مع خطوة واحدة فقط من إزالة ضجيج الانتشار.
القابلية للتفسير: من خلال توليد تسلسلات فيديو مستقبلية واقعية بجانب الأعمال، يوفر MV-VDP "معاينة" بصرية للنتيجة، مما يسمح بنشر أكثر أمانًا وتجنب الاصطدام قبل التنفيذ.
4. النتائج التجريبية
قيم المؤلفون MV-VDP في كل من المحاكاة (Meta-World) والمنصات الروبوتية في العالم الحقيقي.
Meta-World (المحاكاة):
تم التقييم على 7 مهام باستخدام 5 عروض توضيحية فقط لكل مهمة.
الأداء: حقق متوسط معدل نجاح قدره 89.1%، متفوقًا بشكل كبير على النماذج المرجعية القوية مثل DreamZero (61.1%)، وTrack2Act (67.4%)، وDiffusion Policy القياسي (37.7%).
دراسة الاستبعاد (Ablation): أدى حذف نموذج الفيديو التأسيسي أو التنبؤ المشترك بالفيديو إلى انهيار الأداء، مما يثبت ضرورة التصميم المقترح.
تجارب العالم الحقيقي:
تم الاختبار على ذراع Franka Research 3 مع ثلاث كاميرات ZED 2i في مهام مثل "وضع الأسد" (Put Lion)، و"دفع T" (Push-T)، و"غرف التورتيلا" (Scoop Tortilla).
الأداء: حقق نجاحًا بنسبة 100% في مهمة "وضع الأسد" البسيطة باستخدام 10 مسارات فقط. لقد تفوق بشكل كبير على النماذج القائمة على الـ 3D (مثل DP3)، ونماذج VLA (مثل BridgeVLA و π0.5)، ونماذج التنبؤ بالفيديو المرجعية.
التعميم: أظهر متانة قوية تجاه الخلفيات غير المرئية، وارتفاعات الأشياء، وظروف الإضاءة، وفئات الأشياء.
السلامة: في دراسة شملت 140 عملية تشغيل، أدى استخدام الفيديوهات المتوقعة للتحقق من السلامة إلى تقليل حوادث الاصطدام من 6 إلى 0.
الكفاءة:
النموذج قوي للغاية تجاه خطوات الاستدلال. فهو يحقق معدلات نجاح مماثلة باستخدام خطوة واحدة فقط لإزالة الضجيج (مقابل 50 خطوة تقليدية)، مما يسمح باستدلال أسرع (حوالي 5 هرتز على وحدة A100 GPU).
5. الأهمية
يمثل MV-VDP تحولًا جذريًا في تعلم الروبوتات من خلال الانتقال من التدريب المسبق للصور والنصوص الثابتة إلى التدريب المسبق للفيديو الديناميكي.
سد الفجوة: إنه يجسّر الفجوة بين الإدراك (فهم الفيديو) والتحكم (توليد العمل) عبر معاملة الأعمال كامتداد طبيعي لتطور البيئة.
القابلية للتوسع: يشير الاعتماد على نماذج الفيديو التأسيسية واسعة النطاق إلى مسار لاستغلال بيانات الفيديو على نطاق الإنترنت لتعلم السياسات الروبوتية، مما قد يحل مشكلة ندرة البيانات في مجال الروبوتات.
السلامة: القدرة على "الحلم" بالمستقبل (التنبؤ بالفيديوهات) قبل العمل توفر آلية جديدة للتحقق من السلامة في النشر الواقعي، مما يعالج عقبة حرجة في الروبوتات المستقلة.
باختصار، يضع MV-VDP معيارًا جديدًا رائدًا في التحكم الروبوتي عالي الكفاءة في البيانات، والقابل للتعميم، والقابل للتفسير، من خلال توحيد الفهم المكاني ثلاثي الأبعاد والديناميكيات الزمنية ضمن إطار انتشار فيديو متعدد الرؤى.