VibeWorlding: Can Multimodal Agents Construct 3D Open Worlds End-to-End?
تقدم الورقة البحثية VibeWorlding، وهو إطار عمل موحد يتكون من معيار التقييم VWE-BENCH وبيئة تدريب التعلم التعزيزي VibeWorlding-Gym، لتقييم وتعزيز قدرة الوكلاء متعددي الوسائط على بناء عوالم ثلاثية الأبعاد تفاعلية ومفتوحة ذاتياً بناءً على استعلامات المستخدم، مما يثبت أن التعلم التعزيزي يمكن أن يمكّن النماذج مفتوحة المصدر من التفوق على الأنظمة المغلقة الرائدة في هذه المهمة المعقدة.
المؤلفون الأصليون:Yansong Ning, Jingwen Ye, Zhongkai Wu, Yang Sun, Yiqin Zhu, Xingyi Li, Weidong Zhang, Hao Liu
تخيل أنك تقف في غرفة رقمية فارغة وتطلب من حاسوب بناء شارع مدينة صاخب، أو فسحة غابة هادئة، أو محطة فضاء مستقبلية، ببساطة عبر وصف ما تريد رؤيته. هذا هو الوعد الذي يقدمه "الذكاء الاصطناعي المتجسد"، وهو مجال تتعلم فيه الآلات كيفية التفاعل مع المساحات ثلاثية الأبعاد وبنائها تماماً كما يفعل البشر. لسنوات، حاول الباحثون تعليم الحواسيب كيفية ترتيب الأشياء الرقمية مثل الأثاث والأشجار والمباني بناءً على تعليمات نصية. ومع ذلك، فإن معظم المحاولات السابقة كانت تعمل فقط مع طلبات بسيطة ومثالية، مثل "ضع كرسياً هنا". لقد عانت هذه المحاولات عندما واجهت الطبيعة الفوضوية والمفتوحة للمحادثات البشرية الحقيقية، حيث قد يطلب المستخدم "غرفة دراسة دافئة ومزدحمة قليلاً" بإضاءة ومزاج محددين. علاوة على على ذلك، ولأن الأدوات لبناء هذه العوالم كانت مشتتة وطرق الاختبار غير متسقة، كان من الصعب معرفة ما إذا كان الذكاء الاصطناعي يفهم الطلب حقاً أم أنه مجرد يخمن.
لقد تصدى فريق من الباحثين الآن لهذا التحدي باستخدام إطار عمل جديد يسمى "VibeWorlding". لقد أنشأوا نظاماً شاملاً يسمح لوكيل اصطناعي ليس فقط بالاستماع إلى وصف المستخدم، بل بالتخطيط النشط، والبحث عن الأشياء الرقمية المناسبة، ووضعها في مساحة ثلاثية الأبعاد، ثم النظر إلى النتيجة ليرى ما إذا كانت تطابق الرؤية. بنى الباحثون ساحة اختبار ضخمة تحتوي على أكثر من 2600 جسم ثلاثي الأبعاد عالي الجودة، تتراوح من الأدوات الصغيرة إلى المباني الكبيرة، واستخدموها لإنشاء مئات المشاهد المعقدة. ثم قاموا بتوليد آلاف الطلبات الفريدة من المستخدمين، بعضها يتضمن تعليمات دقيقة والبعض الآخر رغبات غامضة ومفتوحة، لمعرفة مدى قدرة مختلف أنواع الذكاء الاصطناعي على التعامل مع المهمة. يعمل النظام كحكم صارم، لا يتحقق فقط مما إذا كانت الأشياء في مكانها الصحيح، بل إذا كانت منطقية من الناحية الفيزيائية — لضمان، على سبيل المثال، ألا تكون الطاولة عائمة في الهواء أو ألا تنمو شجرة داخل جدار.
عندما اختبر الباحثون أكثر نماذج الذكاء الاصطناعي تقدماً المتاحة اليوم، بما في ذلك تلك التابعة لشركات تكنولوجية كبرى، وجدوا فجوة كبيرة بين القدرات الحالية والهدف المتمثل في بناء هذه العوالم تلقائياً. فحتى النماذج الأكثر قوة، والتي يمكنها كتابة الأكواد والإجابة على أسئلة معقدة، فشلت في بناء المشاهد المطلوبة بنجاح في أكثر من 60 بالمائة من الحالات. وكان السبب الرئيسي لهذا الفشل ليس نقصاً في فهم كلمات المستخدم، بل صعوبة في الفعل الفيزيائي الدقيق لتعديل العالم ثلاثي الأبعاد. فغالباً ما كانت النماذج تفهم أن المستخدم يريد تحريك رف كتب، لكنها كانت تحسب المسافة بشكل خاطئ أو تحرك الشيء في الاتجاه الخاط، مما يؤدي إلى اصطدامه بأشياء أخرى أو جعله يطفو بشكل غير واقعي.
ولسد هذه الفجوة، طور الفريق طريقة تدريب متخصصة تعلم الذكاء الاصطناعي من خلال التجربة والخطأ، تماماً كما يتعلم الطفل البناء بالمكعبات. يسمح النظام للوكيل بمحاولة بناء مشهد، ثم التحقق من النتيجة مقابل قواعد صارمة حول الفيزياء ونية المستخدم، ثم يكافئ الوكيل فقط عندما ينجح في المهمة. هذه العملية، المعروفة باسم التعلم التعزيزي، سمحت للباحثين بتدريب نموذج مفتوح المصدر يمكنه في النهاستقبل التفوق على أفضل النماذج مغلقة المصدر المتاحة. حقق أفضل نموذج تم تدريبه لديهم، والذي بدأ بقاعدة من 30 مليار معلمة، أعلى معدل نجاح من بين جميع الأنظمة المختبرة. لقد تعلم استرجاع الأشياء الصحيحة، ووضعها دون تصادمات، واحترام القيود الفيزيائية للبيئة، مما مكنه فعلياً من إتقان "جو" (vibe) العالم الذي أراد المستخدم إنشاءه.
كما كشفت الدراسة أنه بينما تتحسن هذه النماذج في فهم الصورة الكبيرة، فإن الجزء الأصعب يظل هو التفاصيل الدقيقة للاستدلال المكاني. فلا تزال الوكلاء تعاني مع القياسات الدقيقة، مثل تحريك جسم مسافة سبعة أمتار للأمام بالضبط دون تجاوز المسافة أو عدم الوصول إليها. ومع ذلك، وجد الباحثون أن طريقة التدريب حسنت بشكل كبير قدرة الوكلاء على الاستدلال في الفضاء ثلاثي الأبعاد، محولةً نقطة ضعف رئيسية إلى نقطة قوة. ومن خلال إطلاق بياناتهم وأدواتهم ونماذجهم المدربة للجمهور، يأمل الفريق في تسريع تطوير الأنظمة التي يمكنها يوماً ما بناء عوالم تفاعلية ثلاثية الأبعاد للألعاب، والمحاكاة، والواقع الافتراضي بنفس السهولة والإبداع الذي يتمتع به المصمم البشري.
ملخص تقني: VIBEWORLDING
بيان المشكلة
يعد بناء عوالم ثلاثية الأبعاد تفاعلية من استعلامات المستخدم قدرة بالغة الأهمية للألعاب، والمحاكاة، والذكاء الاصطناعي المتجسد. وبينما أظهرت النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) مؤخرًا وعودًا في أتمتة بناء العوالم ثلاثية الأبعاد، إلا أن الطرق الحالية تواجه قيودًا كبيرة:
فجوة التقييم: تعتمد الاختبارات المرجعية الحالية على استعلامات مثالية وبسيطة، مما يفشل في تحليل كيفية فهم الوكلاء للنية المفتوحة للمستخدم، أو كيفية استخدامهم للأدوات ثلاثية الأبعاد، أو كيفية استدلالهم على المعلومات ثلاثية الأبعاد متعددة الوسائط بشكل منهجي.
تجزئة الأدوات: بيئة الأصول ثلاثية الأبعاد مجزأة. فالأصول عالية الجودة والمتسقة فيزيائيًا نادرة، والعمليات الضرورية (الاسترجاع، التحرير، الرندرة/التصيير) مشتتة عبر أدوات غير متوافقة، مما يعيق عملية البناء من البداية إلى النهاية.
صعوبة التحقق: بناء العالم ثلاثي الأبعاد صعب بطبيعته من حيث التحقق. يجب أن يستوفي العالم الصالح شروطًا فيزيائية (مثل: خلو الأصول من التصادم، وتثبيتها على الأرض) ونيّة المستخدم المفتوحة (مثل: التماسك الجمالي، والمعقولية البيئية)، وهو أمر يصعب تقييمه باستخدام القواعد المصممة يدويًا أو أحكام النماذج اللغوية الكبيرة العامة وحدها.
غياب الإطار المفتوح: لا يوجد إطار عمل موحد ومفتوح المصدر لتقييم وتدريب وكلاء بناء العوالم ثلاثية الأبعاد بشكل منهجي، لا سيما أولئك الذين يعتمدون على التعلم التعزيزي الوكيلي (Agentic RL).
المنهجية
يقترح المؤلفون VIBEWORLDING، وهو إطار عمل موحد يتكون من اختبار مرجعي، وبيئة تدريب، واستراتيجية ما بعد التدريب.
1. VWE-BENCH (اختبار تقييم VibeWorlding)
مجموعة بيانات شاملة تم إنشاؤها من خلال التعاون بين النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) والمقيمين البشريين، وتتضمن:
الأصول: 2,616 أصلًا عالي الجودة ومتسقًا فيزيائيًا تغطي 20 فئة دلالية (مثل: الأثاث، التضاريس، المركبات)، تم تخليقها عبر مسار موجه من فنان (من صورة إلى نص ثم إلى مجسم ثلاثي الأبعاد) وتمت تصفيتها لضمان الدقة الهندسية.
العوالم الأولية: 323 عالمًا ثلاثي الأبعاد أوليًا تم تصنيفها بشريًا وتتفاوت في تعقيدها (من 8 إلى 258 أصلًا).
الاستعلامات: 6,828 استعلامًا متعدد الوسائط تم تخليقها عكسيًا، مقسمة إلى فئتين:
بناء عالم ثلاثي الأبعاد: استعلامات من الصفر (السمة فقط، السمة + العناصر، المخطط الكامل، المشتت).
تحسين عالم ثلاثي الأبعاد: تعديل العوالم الموجودة (تعديلات دقيقة على مستوى الأصل، تعديلات غامضة على مستوى الأصل، نقد المشهد، توجيه المشهد، إعادة صياغة المشهد، الوصف المعقد).
التحقق: تم تقسيم الاستعلامات إلى موثقة (مع خرائط حقيقية للدرجات الدقيقة القائمة على القواعد) وغير موثقة (مفتوحة النهايات، تُقيم عبر معايير وصفية).
2. VIBEWORLDING-GYM
إطار عمل مشترك للتعلم التعزيزي متعدد الوسائط لما بعد التدريب يتميز بـ:
صندوق رمل موحد (Unified Sandbox): يدمج استرجاع الأصول، والتحرير (إضافة، حذف، تدوير، نقل)، والرندرة (عبر Blender) في مجموعة واحدة من أدوات بروتوكول سياق النموذج (MCP). يتلقى الوكيل تغذية راجعة متعددة الوسائط (صور مرندرة من 5 زوايا + خريطة ثلاثية الأبعاد) بعد كل دورة.
المُحقِّق مزدوج القيود: نظام تقييم ثنائي المرحلة:
الجدوى الفيزيائية: فحوصات هندسية للتصادمات وقيود الارتفاع (التثبيت على الأرض).
تلبية النية: حكم يعتمد على نموذج لغوي كبير متعدد الوسائط (MLLM) لتقييم المعقولية البيئية، والفهم ثلاثي الأبعاد، والاستدلال ثلاثي الأبعاد، ومعقولية الاسترجاع.
مسار التدريب:
الضبط الدقيق للإشراف (SFT) للبداية الباردة: ضبط دقيق فائق للتعلم على مسارات تخليقية حيث يتم اختيار النتائج عالية الجودة بواسطة المُحقِّق.
التعلم التعزيزي متعدد الوسائط المشترك: استخدام خوارزمية GRPO (تحسين السياسة النسبي للمجموعات) لتدريب الوكلاء على كل من الاستعلامات النصية فقط (البناء) والاستعلامات متعددة الوسائط (التحسين). تعتمد المكافأة على النتيجة (ثنائية للموثقة، وتناسبية لغير الموثقة)، لتجنب "اختراق المكافأة" (reward hacking) الناتج عن التشكيل الوسيط.
المساهمات الرئيسية
أول إطار عمل للتعلم التعزيزي الوكيلي للبناء ثلاثي الأبعاد من البداية إلى النهاية: تنشر الورقة حزمة موحدة تشمل مجموعة بيانات VWE-BENCH (الأصول، العوالم، الاستعلامات)، وصندوق رمل تفاعلي، ومُحقِّق مزدوج القيود، وإطار عمل لما بعد التدريب (SFT + RL).
تحليل شامل للقدرات: قياس منهجي للوكلاء متعددي الوسائط عبر ستة أبعاد: الجدوى الفيزيائية (التصادم، الارتفاع)، المعقولية البيئية، الفهم ثلاثي الأبعاد، الاستدلال ثلاثي الأبعاد، ومعقولية الاسترجاع.
أداء رائد (State-of-the-Art): إثبات أن تدريب ما بعد التعلم التعزيزي يمكّن النماذج مفتوحة المصدر من مضاهاة أو تجاوز النماذج الرائدة مغلقة المصدر في هذه المهمة.
النتائج التجريبية
أُجريت التجارب على VWE-BENCH باستخدام نماذج لغوية كبيرة متعددة الوسائط رائدة (مثل GPT-5.5، Qwen3.8-Max، Gemini 3.1-pro) والنماذج التي دربها المؤلفون (VibeWorlder-8B و VibeWorlder-30B-A3B).
القيود الحالية: حتى أقوى النماذج الرائدة تحقق أقل من 60% في مقياس Pass@1 على الاختبار المرجعي. العائق الأساسي هو التحرير الدقيق للعالم ثلاثي الأبعاد، وتحديدًا الاستدلال المكاني فيما يتعلق بالمسافة والاتجاه، مما يؤدي إلى التصادمات والوضع الخاطئ للأصول.
تأثير التعلم التعزيزي (RL):
نموذج VibeWorlder-8B (المدرب من Qwen3-VL-8B) يصل إلى 41.4% في Pass@1، مضاهاً Gemini 3.1-pro (42.7%) ومتفوقاً عليه في المهام الموثقة (59.3% مقابل 44.4%).
حقق VibeWorlder-30B-A3B أفضل Pass@1 إجمالي (59.3%)، متجاوزًا GPT-5.5 (57.3%) و Qwen3.8-Max (56.9%).
تحليل القدرات:
يعمل SFT بشكل أساسي على ترسيخ الكفاءة الفيزيائية والبيئية الأساسية.
يعمل التعلم التعزيزي متعدد الوسائط بشكل كبير على فتح قدرات الفهم ثلاثي الأبعاد والاسترجاع.
يظل الاستدلال ثلاثي الأبعاد (التحرير المكاني) هو البعد الأكثر تحديًا، رغم أن التعلم التعزيزي يحسنه بشكل كبير (من ~6-20% في النماذج الأساسية إلى ~56-85% في النماذج المدربة بالتعلم التعزيزي).
أنماط الفشل: يكشف التحليل عن نمطين مهيمنين للفشل: التحرير غير الدقيق للمسافة ثلاثية الأبعاد (القدرة على تحديد المقدار الصحيح ولكن بالاتجاه الخاطئ) والتحرير الزائد (القيام بعمليات حذف أو تعديل غير مطلوبة).
الأهمية والادعاءات
تدعي الورقة أن VIBEWORLDING يوفر أول بنية تحتية منهجية لتقييم وتدريب الوكلاء لبناء عوالم مفتوحة ثلاثية الأبعاد من البداية إلى النهاية. ويؤكد المؤلفون أن:
النماذج الرائدة الحالية بعيدة عن حل هذه المهمة، خاصة في الاستدلال المكاني الدقيق وتنفيذ الأدوات.
تدريب ما بعد التعلم التعزيزي الوكيلي هو مسار قابل للتطبيق لسد هذه الفجوة، مما يمكن النماذج مفتوحة المصدر من منافسة وتجاوز النماذج المغلقة الرائدة.
يسلط إطار العمل الضوء على أنه بينما يمكن للوكلاء فهم النية ثلاثية الأبعاد، فإن القدرة على تحرير العالم بدقة من خلال الأدوات ثلاثية الأبعاد دون التسبب في تصادمات هي التحدي الرئيسي الذي لم يُحل بعد.
يهدف إطلاق البيانات، والكود، والنماذج إلى تسهيل المزيد من الأبحاث في بناء العوالم ثلاثية الأبعاد من البداية إلى النهاية، بالانتقال من المسارات المثالية إلى أنظمة وكيلة تفاعلية قوية.
يظل المؤلفون متواضعين بشأن الحالة الراهنة للمجال، مشيرين إلى أن الاستدلال المكاني الدقيق ثلاثي الأبعاد لا يزال يمثل عقبة، وأن العمل المستقبلي يتطلب مجموعات أدوات أغنى، وبناء عوالم على نطاق أوسع، وطرق تعلم تعزيزي متعدد الوسائط أكثر كفاءة.