CoEnv: Driving Embodied Multi-Agent Collaboration via Compositional Environment

1. بيان المشكلة

تحمل الأنظمة المتجسدة متعددة الوكلاء (multi-agent embodied systems) وعوداً كبيرة لمهام المناولة التعاونية المعقدة (مثل التجميع، أو الرفع المتزامن). ومع ذلك، يواجه نشر هذه الأنظمة تحديات حرجة:

• التنسيق المكاني والزماني: يجب على الوكلاء تجنب الصراعات المكانية، والتفكير في التبعات الزمنية للمهام الفرعية، والحفاظ على الوعي بديناميكيات مساحة العمل المشتركة.
• السلامة والتكلفة: ينطوي التنفيذ الفيزيائي لاستراتيجيات تعدد الوكلاء على مخاطر عالية لحدوث اصطدامات مكلفة وتلف الأجهزة.
• الفجوة بين المحاكاة والواقع (Sim-to-Real Gap): غالباً ما تواجه الأساليب التقليدية صعوبة في سد الفجوة بين التخطيط الافتراضي والتنفيذ الفيزيائي، لا سيال عند التعامل مع روبوتات غير متجانسة وعوائق بصرية معقدة.
• ندرة البيانات: إن توليد بيانات تدريب عالية الجودة وواسعة النطاق لسياسات تعدد الوكلاء عبر التحكم عن بُعد اليدوي (teleoperation) هو أمر غير فعال ويصعب توسيع نطاقه.

تعتمد الطرق الحالية غالباً على تمثيلات نصية منفصلة أو تعالج وجهات نظر الوكلاء بشكل منعزل، مما يفتقر إلى مساحة موحدة للاستدلال في الوقت الفعلي بشأن الاصطدام وإدراك النوايا.

2. المنهجية: إطار عمل CoEnv

يقترح المؤلفون CoEnv، وهو إطار عمل مبني على مفهوم البيئة التركيبية (Compositional Environment). تدمج هذه البيئة بشكل تآزري المكونات الفيزيائية من العالم الحقيقي مع مكونات المحاكاة، مما يخلق مساحة موحدة لاتخاذ القرار. يعمل الإطار من خلال ثلاث مراحل أساسية:

أ. إعادة بناء مشهد من الواقع إلى المحاكاة (Real-to-Sim)

لضمان الاتساق المكاني بين العالمين الفيزيائي والرقمي، يقوم CoEnv بتحويل ملاحظات العالم الحقيقي إلى حالة جاهزة للمحاكي ($s_t$):

• توليد الأصول ثلاثية الأبعاد: يستخدم نماذج (text/image-to-3D) مثل (Meshy) لإنشاء نماذج شبكية (meshes) جاهزة للمحاكاة بمقاييس قياسية وخصائص فيزيائية محددة مسبقاً (الكتلة، الاحتكاك).
• تحديد مواقع الأشياء متعدد الرؤى:
  • الكشف: يستخدم Grounded SAM 2 للكشف عن الأشياء وتقسيمها في الصور RGB.
  • إزالة الغموض: يستفيد من GPT-5 كنموذج استدلال بصري لحل حالات الغموض في المشاهد المزدحمة باستخدام السياق (التخطيط المكاني، المواقع النسبية).
  • تقدير الوضعية: يوظف FoundationPose لتقدير الوضعية بست درجات حرية (6-DoF).
  • الدمج: يجمع الوضعيات من رؤى متعددة ($K'$) باستخدام المتوسط الحسابي للترجمة ومتوسط الكواتيرنيون (quaternion averaging) للدوران للتخفيف من حدة العوائق وأخطاء المعايرة.
• المعايرة التكرارية: يعمل النظام في حلقة داخل محاكي ManiSkill/SAPIEN، حيث يقارن المشاهد المُصورة مقابل الالتقطات الحقيقية لتنقية معايرة الكاميرا الخارجية تدريجياً.

ب. تخليق الإجراءات المشروطة بالمحاكاة

بمجرد إعادة بناء المشهد، يقوم CoEnv بتوليد إجراءات لـ $N$ من الوكلاء باستخدام نهج تخطيط المهام الهرمي المدفوع بنماذج الرؤية واللغة (VLMs). وهو يدعم نمطين متكاملين للتنفيذ:

1. النمط التفاعلي (التخطيط في الوقت الفلي):

   • المخطط: يستخدم GPT-5 لتفكيك الأهداف عالية المستوى إلى أهداف فرعية وخطط تنفيذ.
   • التحكم التكيفي في الكاميرا: يمكن للمخطط طلب نقاط رؤية جديدة ديناميكياً لحل مشكلات العوائق البصرية الناتجة عن الوكلاء الآخرين أو الأشياء قبل الالتزام بخطة ما.
   • التنفيذ بالحلقة المغلقة: ينفذ الإجراءات بالتتابع (تنفيذ $\leftarrow$ ملاحظة $\leftarrow$ تحقق $\leftarrow$ تكيّف).
   • نقاط التحقق (Checkpoints): يدرج خطوات تحقق غير متعلقة بالإجراء (مثل "التحقق من محاذاة القابض") للإمساك بالأخطاء مبكراً. إذا فشلت نقطة تحقق، يقوم النظام بإعادة التخطيط.

2. النمط التكراري (التخطيط القائم على الكود):

   • الوكيل: يستخدم Claude Code لتوليد برنامج Python كامل يرمز مسار تعدد الوكلاء بالكامل في تمريرة واحدة.
   • حلقة التحسين: يتم تنفيذ الكود في المحاكاة. إذا فشل، يقوم نموذج الرؤية واللغة (VLM) بتحليل السجلات والصور لتوليد تغذية راجعة، والتي تُعاد إلى وكيل الكود للتحسين التكراري (حتى $M_{max}$ من التكرارات).
   • الميزة: يتفوق في المهام التي تتطلب تحكماً دقيقاً ومتماسكاً في المسارات طويلة الأمد.

ج. الانتقال من المحاكاة إلى الواقع مع الوعي بالاصطدام

لنشر الاستراتيجيات المحاكاتية بأمان على الروبوتات الحقيقية:

• استكمال المسار (Trajectory Interpolation): يحول نقاط المسار المنفصلة في المحاكاة إلى مسارات كثيفة وسلسة للمتحكمات في العالم الحقيقي باستخدام الاستكمال الخطي في مساحة المفاصل.
• التحقق من حجم الاصطدام: قبل التنفيذ، يقوم النظام بتمريرة "الحركية الأمامية" (forward kinematics) لحساب "الحجم الممسوح" (swept volume) لكل وصلة روبوت على طول المسار. لا يتم تنفيذ الإجراء إلا إذا ظلت أحجام الاصطدام لجميع أزواج الوكلاء منفصلة ($\mathcal{V}^{(i)}_l \cap \mathcal{V}^{(j)}_l = \emptyset$). إذا تم اكتشاف انتهاك، يقوم النظام بتفعيل إعادة التخطيط.

3. المساهمات الرئيسية

1. البيئة التركيبية: نموذج جديد يوحد الإدراك الفيزيائي للعالم الحقيقي ومحاكاة الفيزياء في مساحة اتخاذ قرار مشتركة، مما يمكّن الوكلاء من إدراك النوايا والتنسيق بأمان.
2. إطار عمل CoEnv: نظام يدمج إعادة بناء "من الواقع إلى المحاكاة" مع تخليق الإجراءات المدفوع بنماذج الرؤية واللغة (الأنماط التفاعلية والتكرارية) ونقل موثق من المحاكاة إلى الواقع.
3. توليد البيانات القابل للتوسع: يثبت أن CoEnv يمكنه تلقائياً توليد بيانات عرض توضيحية عالية الجودة لتعدد الوكلاء دون الحاجة للتحكم اليدوي، مما يعالج عقبة رئيسية في تعلم الروبوتات.
4. آليات قوية: يقدم التحكم التكيفي في الكاميرا للتعامل مع العوائق البصرية والتحقق من نقاط التفتيش لمنع انتشار الأخطاء في المهام طويلة الأمد.

4. النتائج التجريبية

تم تقييم الإطار على خمس مهام مناولة صعبة متعددة الأذرع تتضمن ما يصل إلى ثلاثة روبوتات غير متجانسة (Franka Research 3 و AgileX Piper):

• المهام: تكديس المكعبات (Cube Stacking)، التقاط الكرة (Ball Pickup)، نقل الأسطوانة (Transfer Cylinder)، وضع الخيار (Place Cucumber)، وتنظيف الصندوق بالفرشاة (Brush Box).
• الأداء:
  • معدل النجاح الإجمالي: حقق CoEnv متوسط معدل نجاح بنسبة 49% عبر جميع المهام والأنماط.
  • مقارنة الأنماط:
    • تفوق النمط التكراري في المهام التي تتطلب تحكماً دقيقاً في المسار (مثل: تكديس المكعبات: 90% نجاح، التقاط الكرة: 60%).
    • تفوق النمط التفاعلي في المهام التي تتطلب تنسيقاً تفاعلياً معقداً وتسليماً (مثل: نقل الأسطوانة: 40% مقابل 10% للتكراري؛ تنظيف الصندوق: 70% مقابل 50%).
  • دراسات الاستئصال (Ablation Studies): أدى إزالة التحكم التكيفي في الكاميرا إلى انخفاض معدلات النجاح بنسبة 20% (متوسط)، بينما أدى إزالة التحقق من نقاط التفتيش إلى انخفاض حاد إلى 20% (متوسط)، مما يثبت أن كليهما ضروريان للقوة والمتانة.
• كفاءة البيانات: ولد النمط التكراري عدداً أكبر بكثير من حلقات التدريب لكل جلسة (على سبيل المثال، 17.5 حلقة مقابل 1.5 للنمط التفاعلي) مع الحد الأدنى من التكاليف الإضافية للرموز (tokens) لإعادة ضبط البيئة.

5. الأهمية

• نموذج جديد للتعاون: ينقل CoEnv التركيز من سياسات الوكيل المنعزلة إلى مساحة معرفية موحدة حيث يمكن للوكلاء غير المتجانسين التخطيط والتحقق وتحسين الاستراتيجيات بشكل مشترك قبل التنفيذ الفيزيائي.
• السلامة والموثوقية: من خلال إجراء الاستدلال في الاصطدام والتحقق من الاستراتيجية في محاكاة عالية الدقة مع وجود "شبكة أمان" (التحقق من حجم الاصطدام) قبل النشر في العالم الحقيقي، فإنه يقلل بشكل كبير من خطر تلف الأجهزة.
• القابلية للتوسع: يوفر الإطار خط إنتاج عملي وآلي لتوليد مجموعات بيانات ضخمة وعالية الجودة لتعدد الوكلاء، وهو أمر بالغ الأهمية لتدريب نماذج الذكاء الاصطناعي المتجسدة العامة من الجيل القادم.
• سد الفجوة: يعالج بفعالية الفجوة بين المحاكاة والواقع من خلال إعادة بناء المشهد الصارمة والمعايرة التكرارية، مما يسم un enables نقل سلوكيات تعاونية معقدة وموثوقة.

في الختام، يضع CoEnv منهجية مبدئية للذكاء الاصطناعي المتجسد متعدد الوكلاء، موضحاً أن الجمع بين التخطيط المعرفي القائم على المحاكاة والتحقق من العالم الحقيقي هو مسار قابل للتطبيق نحو تعاون روبوتي قوي، قابل للتوسع، وآمن.