EmbodiedMidtrain: Bridging the Gap between Vision-Language Models and Vision-Language-Action Models via Mid-training
تقترح الورقة البحثية EmbodiedMidtrain، وهي طريقة تسد الفجوة بين نماذج الرؤية واللغة (VLMs) ونماذج الرؤية واللغة والعمل (VLAs) باستخدام محرك بيانات لتنسيق بيانات نماذج VLMs المتوافقة مع نماذج VLAs من أجل التدريب المتوسط، مما يحسن بشكل كبير أداء التلاعب الروبوتي في المهام النهائية عبر مختلف الهياكل الأساسية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك طباخاً بارعاً وعالمياً (وهو نموذج الرؤية واللغة - VLM). هذا الطباخ قد قرأ كل كتب الطبخ، وشاهد كل برامج الطهي، ويمكنه وصف حبة الطماطم بتفاصيل شاعرية. إنه خبير في التحدث عن الطعام والتعرف على المكونات.
الآن، تريد توظيف هذا الطباخ ليقوم فعلياً بطبخ وجبة في مطبخ مزدحم وفوضوي حيث يتعين عليه الإمساك بسكين، وتقطيع بصلة، وتحريك قدر دون إسقاط أي شيء. هذه هي مهمة نموذج الرؤة واللغة والفعل (VLA).
المشكلة هي أن الطباخ بارع في النظرية، لكنه سيء في التطبيق. إذا أعطيته مجرد وصفة وقلت له "اذهب واطبخ"، فقد يقلب علبة الملح أو يجرح إصبعه لأن عقله مبرمج لوصف الطعام، لا لتحريك ذراع روبوت للإمساك به.
تقدم هذه الورقة البحثية EmbodiedMidtrain، وهي بمثابة "مدرسة طبخ" ذكية مصممة لسد هذه الفجوة. إليك كيف تعمل، مقسمة ببساطة:
1. المشكلة: فجوة "المكتبة مقابل الورشة"
أدرك المؤلفون أن البيانات المستخدمة لتدريب "الطهاة" (نماذج VLM) تشبه مكتبة ضخمة ومغبرة مليئة بالكتب حول الطعام. أما البيانات المطلوبة لـ "طهاة الروبوتات" (نماود VLA) فهي تشبه ورشة عمل حقيقية وفوضوية تحتوي على مكونات وأدوات فعلية.
- الفجوة: بيانات المكتبة ضخمة ومتنوعة، لكن معظمها غير مفيد للورشة. كتاب عن تاريخ الطماطم رائع للاختبارات، لكنه لا يعلمك كيفية الإمساك بالسكين.
- الخطأ: حاولت المحاولات السابقة مجرد إلقاء الطباخ في الورشة والأمل في أن يتعلم. ولكن لأن الطباخ بدأ بالعقلية الخاطئة (التفكير من خلال الكتب، لا الأفعال)، فقد عانى في التعلم بسرعة.
2. الحل: "الكشاف الذكي" (محرك البيانات)
بدلاً من إجبار الطباخ على قراءة كل الكتب في المكتبة قبل دخول الورشة، قام المؤلفون ببناء كشاف ذكي.
- كيف يعمل الكشاف: تخيل كشافاً يمتلك نظارات خاصة. يمكنه النظر إلى كتاب في المكتبة والقول فوراً: "هذا عن تقطيع البصل؟ احتفظ به! هذا عن تاريخ الكاتشب؟ أعده مكانه".
- السحر: قام المؤلفون بتدريب ذكاء اصطناوي صغير وخفيف الوزن (مقدر التقارب - proximity estimator) ليعمل ككشاف. يقوم بمسح المكتبة الضخمة من البيانات العامة ويختار فقط الصفحات التي تبدو أكثر شبهاً بمهام ورشة العمل الواقعية.
- النتيجة: بدلاً من مزيج عشوائي من الكتب، يحصل الطباخ الآن على قائمة قراءة منسقة بنسبة 90% حول الطبخ العملي، والاستدلال المكاني، واستخدام الأدوات.
3. العملية: "التدريب المتوسط" (Mid-Training)
هذا هو جزء "التدريب المتوسط" في الاسم.
- البداية: لديك الطباخ البارع (نموذج VLM المدرب مسبقاً).
- الانعطاف: قبل إرسالهم إلى ورشة عمل الروبوت، ترسلهم إلى معسكر "تدريب متوسط" خاص.
- المعسكر: في هذا المعسكر، يدرسون فقط القائمة المنسقة التي اختارها الكشاف. يتدربون على تصور كيفية الإمساك بكوب، وكيفية تجنب العوائق، وكيفية تحريك "أيديهم".
- النهاية: الآن، عندما ترسل هذا الطباخ أخيراً إلى ورشة عمل الروبوت لتعلم مهام الروبوت المحددة، يكون قد قطع 80% من الطريق بالفعل. ليس عليهم التخلص من عاداتهم "النظرية"؛ فهم يفكرون بالفعل كآلات.
4. لماذا يعد هذا أمراً هاماً
تظهر الورقة البحثية أن هذه الطريقة تُعد تغييراً لقواعد اللعبة لثلاثة أسباب:
- سمكة صغيرة، بركة كبيرة: أخذوا نموذج روبوت صغيراً نسبياً (1.1 مليار معلمة) وجعلواهم، باستخدام هذه الطريقة، يتفوقون في الأداء على نماذج ضخمة ومكلفة (أكثر من 7 مليارات معلمة) تم تدريبها ببيانات أكثر بكثير. إنه يشبه متدرباً صغيراً ومُدرباً جيداً يهزم مبتدئاً ضخماً وغير مدرب.
- يعمل في كل مكان: أثبتوا أن "القائمة المنسقة" تعمل حتى لو استبدلت الطباخ. فالبيانات المختارة لنوع معين من عقول الروبوتات عملت بشكل مثالي لعقل روبوت آخر أيضاً.
- تعلم أسرع: لأن الروبوت بدأ بـ "ذاكرة عضلية" صحيحة من التدريب المتوسط، فقد تعلم المهام النهائية بشكل أسرع بكثير. اتسعت الفجوة في الأداء بين الطريقة الجديدة والطريقة القديمة كلما زاد تدريبهم، مما يثبت أنها لم تكن مجرد بداية محظوظة، بل كانت أساساً أفضل جوهرياً.
الخلاصة
EmbodiedMidtrain يشبه إدراك أنك لكي تعلم بشراً لعب كرة القدم، لا ينبغي أن تعطيهم فقط قاموساً للمصطلحات الرياضية. بدلاً من ذلك، يجب أن تعرض عليهم أولاً مقطعاً لأفضل الحركات الكروية، مصفى من ملايين الساعات من الفيديوهات الرياضية العشوائية.
من خلال تصفية البيانات لتناسب الواقع "المجسد" للروبوتات، خلق المؤلفون طريقاً مختصراً يجعل الروبوتات أذكى، وأسرع، وأكثر قدرة دون الحاجة إلى بناء عقول أكبر وأكثر تكلفة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.