Abstract 3D Perception for Spatial Intelligence in Vision-Language Models
تقدم الورقة البحثية SandboxVLM، وهو إطار عمل يسد الفجوة النوعية بين التدريب ثنائي الأبعاد والمهام ثلاثية الأبعاد في نماذج الرؤية واللغة عبر الاستفادة من صناديق الإحاطة المجردة ومسار إعادة بناء متعدد المراحل لتعزيز الذكاء المكاني وقدرات الاستنتاج بشكل كبير دون الحاجة إلى تدريب إضافي.
المؤلفون الأصليون:Yifan Liu, Fangneng Zhan, Kaichen Zhou, Yilun Du, Paul Pu Liang, Hanspeter Pfister
تخيل أن لديك مساعداً آلياً فائق الذكاء يمكنه قراءة الكتب، وكتابة المقالات، ووصف الصور بتفاصيل مذهلة. هذا الروبوت يشبه نموذج الرؤية واللغة (VLM)؛ فهو بارع في فهم النصوص والصور ثنائية الأبعاد. ولكن، هناك عقبة: إنه يعيش في عالم مسطح.
إذا عرضت على هذا الروبوت صورة لغرفة معيشة، يمكنه أن يقول لك: "هذا كرسي، وهذا مصباح". ولكن إذا سألته: "إذا وقفت في الدش ووجهت نظري نحو الصنبور، هل يمكنني رؤية المناشف دون المرآة؟"، سيصاب الروبوت بالارتباك. إنه لا يفهم حقاً أن الغرفة لها عمق، أو أن الأشياء تحجب بعضها البعض، أو أنه يمكنك التجول حول الأشياء. إنه يرى لوحة مسطحة، وليس مساحة ثلاثية الأبعاد يمكنك التحرك من خلالها.
تقدم هذه الورقة البحثية أداة ذكية جديدة تسمى SandboxVLM لحل هذه المشكلة دون الحاجة إلى إعادة تدريب الروبوت (لأن ذلك سيكون مكلفاً وبطيئاً).
الفكرة الجوهرية: تشبيه "صندوق الرمل"
فكر في عقل الروبوت كطفل يحب اللعب بـ مكعبات الليغو (LEGO).
المشكلة: لقد تعلم الطفل النظر إلى رسومات ثنائية الأبعاد لمجموعات الليغو. هو يعرف كيف يبدو "المكعب" على الورق، لكنه لا يفهم كيف تتراكم المكعبات في الفضاء ثلاثي الأبعاد أو كيف يمكن لبرج أن يسقط.
الحل القديم: محاولة تعليم الطفل بناء نموذج مثالي، واقعي للغاية، وبحجم حقيقي لكل غرفة يراها. هذا يستغرق وقتاً طويلاً، ويتطلب كمية هائلة من البيانات، ومن الصعب القيام به لكل روبوت جديد.
حل SandboxVLM: بدلاً من بناء نموذج مثالي، سنعطي الطفل "صندوق رمل" مبسطاً. نأخذ الصورة، ونزيل منها كل التفاصيل المزعجة (مثل ملمس الخشب أو لون الطلاء)، ونستبدل كل جسم بـ صندوق ملون عائم بسيط.
الكرسي يصبح صندوقاً أزرق.
الطاولة تصبح صندوقاً بنياً.
المصباح يصبح صندوقاً أصفر.
هذه الصناديق تخبر الروبوت: "هذا هو مكان الكرسي، وهذا هو مكان الطاولة، وإليك كيف يرتبطان ببعضهما البعض في الفضاء ثلاثي الأبعاد".
كيف يعمل: عملية "المحقق السحري"
تصف الورقة البحثية مسار عمل مكوناً من أربع خطوات يعمل كفريق محققين سحريين يساعدون الروبوت:
خطوة الخيال (المسبقات متعددة الزوايا - Multi-View Priors): ينظر الروبوت إلى الصورة ويسأل نفسه: "إذا كنت سأتمشى حول هذه الغرفة، فماذا سأرى؟". يقوم ذكاء اصطنا-عي خاص (مولد فيديو) بتخيل المشي حول الغرفة وإنشاء بعض الصور "الوهمية" من زوايا مختلفة (مثل النظر من السقف أو التراجع للخلف). هذا يعطي الروبوت إحساساً بشكل الغرفة.
خطوة "الرفع" (الارتفاع البديل - Proxy Elevation): يشير الروبوت إلى الأشياء المهمة في الصورة (على سبيل المثال: "ذلك هو البيانو"). ثم يستخدم أداة لـ "رفع" تلك الأشكال ثنائية الأبعاد بعيداً عن الشاشة المسطحة ودفعها إلى الفضاء ثلاثي الأبعاد. الأمر يشبه نزع ملصق من ورقة وتحويله إلى جسم ثلاثي الأبعاد عائم.
خطوة "التصويت" (التجميع متعدد الزوايا - Multi-View Clustering): بما أن الروبوت ينظر إلى الغرفة من زوايا مختلفة (الصورة الحقيقية + الصور المتخيلة)، فقد يصاب بالارتباك. هل هذا الصندوق كرسي أم طاولة؟ يستخدم النظام آلية "تصويت". إذا رأى الروبوت "صندوق كرسي" من الأمام، ومن الجانب، ومن الأعلى، فإنه يتفق: "نعم، هذا بالتأكيد كرسي". يقوم النظام بتصفية الأخطاء والضجيج، تاركاً فقط الصنادي_ث ثلاثية الأبعاد الموثوقة.
خطوة "صندوق الرمل" (الاستنتاج - Reasoning): أخيراً، يُعرض على الروبوت هذه الصنادي-ث الثلاثية الأبعاد النظيفة والعائمة (صندوق الرمل) جنباً إلى جنب مع السؤال الأصلي. ولأن الصنادي-ث توضح بوضوح مكان كل شيء في الفضاء ثلاثي الأبعاد، يمكن للروبوت أخيراً الإجابة: "نعم، إذا وقفت في الدش، فإن المناشف ستكون مخفية خلف الباب، ولكن يمكنك رؤيتها في المرآة".
لماذا يعد هذا أمراً هاماً
لا مجهود شاق: لا تحتاج إلى إعادة تدريب الروبوت من الصفر. أنت فقط تعيطه أداة مساعدة "صندوق الرمل" هذه. إنها تعمل مع النماذج الحالية فائقة الذكاء مثل GPT-4o أو GPT-5.
تفكير يشبه البشر: البشر لا يحتاجون إلى قياس كل جدار بالمليمتر ليعرفوا أين يسيرون. نحن نستخدم خرائط ذهنية "تقريبية". يقوم SandboxVLM بنفس الشيء؛ فهو يستخدم صنادي-ث مجردة وتقريبية بدلاً من النماذج ثلاثية الأبعاد المثالية والثقيلة.
نتائج أفضل: عند اختباره في الألغاز المكانية المعقدة، جعلت هذه الطريقة الروبوتات أكثر ذكاءً بشكل ملحوظ، متفوقة حتى على النماذج التي تم تدريبها خصيصاً على البيانات ثلاثية الأبعاد.
باختصار
SandboxVLM يشبه إعطاء روبوت يفكر بطريقة ثنائية الأبعاد نظارات ثلاثية الأبعاد مكونة من كتل بسية وعائمة. لا يحتاج الروبوت لفهم كل تفصيل في العالم؛ بل يحتاج فقط لفهم التخطيط (Layout). ومن خلال تبسيط العالم إلى "صندوق رمل" من الصنادي-ث، فإنه يسمح لنماذج الذكاء الاصطناعي الأكثر ذكاءً لدينا أخيراً بفهم كيفية التنقل، والتفاعل، والاستنتاج في العالم الحقيقي ثلاثي الأبعاد.
إليك ملخص تقني مفصل لورقة البحث بعنوان "الإدراك ثلاثي الأبعاد المجرد للذكاء المكاني في نماذج الرؤية واللغة" (SandboxVLM).
1. بيان المشكلة
تتفوق نماذج الرؤية واللغة (VLMs) الحالية، مثل GPT-5 وQwen-VL، في فهم الصور ثنائية الأبعاد وتوليد النصوص، لكنها تعاني بشكل كبير من الاستدلال المكاني ثلاثي الأبعاد والفهم الفيزيائي.
السبب الجذري: يتم تدريب نماذج VLMs بشكل أساسي على صور ثنائية الأبعاد ونصوص أحادية الأبعاد، مما يخلق "فجوة في الأنماط". فهي تفسر العالم كإسقاطات مسطحة بدلاً من مساحات حجمية، مما يؤدي إلى الفشل في المهام التي تتطلب تغيير زوايا النظر، أو تقدير المواقع النسبية، أو التنبؤ بالتفاعل.
محدودية الحلول الحالية:
نماذج 3D-LLMs القائمة على التدريب: تتطلب طرق مثل 3D-LLM أو ShapeLLM إشرافًا ثلاثي الأبعاد كثيفًا، ومجموعات بيانات ثلاثية الأبعاد منسقة، وبنى معمارية محددة. وهي غير قابلة للتوسع مع النماذج المملوكة (مثل GPT-5) وتعاني من ندرة البيانات والنسيان الكارثي.
النهج التوليدي: تستخدم نماذج مثل MindJourney نماذج انتشار الفيديو لتوليد أولويات ثلاثية الأبعاد، لكنها تظل غالبًا عالقة في التمثيلات ثنائية الأبعاد أو المتسلسلة دون تجريد هيكلي صريح.
القياس البشري: يستدل البشر بفعالية في الفضاء ثلاثي الأبعاد ليس من خلال بناء نماذج دقيقة متريًا (بدقة المليمتر)، بل من خلال فهم هيكلي مجرد وخشن (المواقع النسبية، الاتجاهات). تفتقر نماذج VLMs الحالية إلى قدرة "الإدراك المجرد" هذه.
2. المنهجية: SandboxVLM
يقترح المؤلفون SandboxVLM، وهو إطار عمل خالٍ من التدريب، يعمل بنظام "التوصيل والتشغيل" (plug-and-play)، يقوم بحقن المعلومات الهيكلية ثلاثية الأبعاد في نماذج VLMs الحالية باستخدام صناديق محيطة ثلاثية الأبعاد مجردة. بدلاً من إعادة البناء الكثيف، ينشئ تمثيل "Sandbox" (صندوق الرمل) الذي يحتفظ فقط بالإشارات المكانية الضرورية.
يتكون خط العمل من أربع مراحل رئيسية:
أ. الأولويات متعددة المشاهد مع التحكم المجرد
المدخلات: صورة واحدة ثنائية الأبعاد (Iv) واستعلام باللغة الطبيعية (q).
العملية: يتم استخدام نموذج انتشار فيديو (Gθ) لتوليد تسلسل قصير من الصور متعددة المشاهد التي تحاكي حركة الكاميرا.
التحكم المجرد: لضمان الصلة، يقوم نموذج VLM أولاً بتحليل الاستعلام لاختيار "حركة مجردة" (مثل: يسار، يسار-أمام، أمام) من مجموعة محددة مسبقًا. ثم يقوم نموذج الانتشار بتوليد مشاهد على طول مسارات تتوافق مع هذه الحركة، مما يوفر للنظام منظورات ثلاثية الأبعاد متنوعة دون تخطيط يدوي للمسارات.
ب. الارتفاع بالوكالة (Proxy Elevation)
تحديد الكائنات: يحدد الـ VLM فئات الكائنات ذات الصلة بالمهمة ومراكزها ثنائية الأبعاد التقريبية بناءً على الاستعلام.
التجزئة والتآكل: يقوم نموذج تجزئة ثنائي الأبعاد بإنشاء أقنعة (masks) لهذه الكائنات. ولتجنب الضوضاء عند حدود الكائن، يتم إجراء عملية تآكل مورفولوجي للأقنعة.
أخذ العينات: يقوم أخذ العينات بنقطة الفاصل الأبعد (FPS) باختيار عدد ثابت من "بكسلات الوكيل" من داخل الأقنعة المتآكلة.
الرفع (Lifting): باستخدام تقدير العمق الجاهز ومعلمات الكاميرا، يتم إسقاط هذه البكسلات الوكيل ثنائية الأبعاد عكسيًا (lifting) في الفضاء ثلاثي الأبعاد، مما ينشئ نقاط وكيل ثلاثية الأبعاد متفرقة (S′) تمثل الامتداد المكاني للكائن.
ج. التصويت والتجميع متعدد المشاهد (MVC)
تصفية الإجماع: لتصفية الضوضاء الناتجة عن أخطاء تقدير العمق، يقوم النظام بإجراء فحص اتساق عبر المشاهد. تُعتبر النقطة ثلاثية الأبعاد "موثوقة" فقط إذا كانت "متفقًا عليها" (ضمن عتبة مسافة δ) من قبل مشاهد متعددة.
التجميع (Clustering): يتم تجميع النقاط الموثوقة لكل فئة كائن باستخدام خوارزمية DBSCAN لفصل الحالات المتميزة (مثل: عدة كراسي).
ملاءمة الصندوق: لكل مجموعة، يتم ملاءمة صندوق محيط موجه (OBB) باستخدام تحليل المكونات الرئيسية (PCA). ينتج عن ذلك مجموعة مدمجة من الصناديق المحيطة ثلاثية الأبعاد المجردة (B) التي تشفر الترتيب المكاني والديناميكيات الفيزيائية.
د. الاستدلال المدرك ثلاثي الأبعاد
الصيرورة (Rendering): يتم صيرورة الصناديق ثلاثية الأبعاد المجردة من منظورين غنيين بالمعلومات: منظور التراجع للخلف (متران للخلف لرؤية المخطط العام) ومن منظور علوي (رؤية عين الطائر للمخطط الأفقي).
الاستدلال: يتم تغذية هذه الصور المصورة، جنباً إلى جنب مع الاستعلام الأصلي والصورة المدخلة، مرة أخرى إلى الـ VLM. يقوم الـ VLM بإجراء استدلال "سلسلة الأفكار" (Chain-of-Thought) للإجابة على الاستعلام، مستفيدًا من السياق ثلاثي الأبعاد الصريح الذي يوفره الـ Sandbox.
3. المساهمات الرئيسية
مفهوم الإدراك المجرد: يقدم نموذجًا مستوحى من البشر حيث يعتمد الاستدلال ثلاثي الأبعاد على إشارات هيكلية خشنة (الصناديق المحيطة) بدلاً من إعادة البناء الهندسي الدقيق أو السحب النقطية الكثيفة.
إطار عمل SandboxVLM: طريقة مبتكرة، خالية من التدريب، تسد الفجوة بين 2D و3D. فهي تستفيد من الارتفاع بالوكالة والتصويت متعدد المشاهد لتحويل المدخلات ثنائية الأبعاد إلى تمثيلات رمزية ثلاثية الأبعاد متوافقة مع نماذج VLMs الحالية.
القابلية للتعميم: يعمل النهج كحل "توصيل وتشغيل" لكل من نماذج VLMs مفتوحة المصدر والمملوكة (بما في ذلك GPT-5)، دون الحاجة إلى تغييرات معمارية أو ضبط دقيق.
4. النتائج التجريبية
تم تقييم الطريقة في إعدادات التعلم الصفري (zero-shot) عبر عدة معايير (SAT-Real, SAT-Synth, BLINK, EmbSpatial, PhysBench) باستخدام ركائز مختلفة (GPT-4o, GPT-5-mini, GPT-5, Qwen-VL).
الأداء العام: حقق SandboxVLM متوسط دقة استدلال مكاني بلغ 81.4%، متفوقًا على خط الأساس العام القوي GPT-5-mini (78.5%) ومتجاوزًا النماذج المتخصصة القائمة على التدريب مثل RoboBrain2.0-32B.
معيار SAT-Real: في مجموعة بيانات SAT-Real، حققت الطريقة زيادة قدرها 8.3% عن خط الأساس GPT-5-mini وتحسنًا بنسبة 17.4% عن GPT-4o.
الاستدلال الفيزيائي: في PhysBench، حققت 58.3%، متفوقة على خط أساس توسيع وقت الاختبار MindJourney بنسبة 3.4%.
دراسات الاستئصال (Ablation Studies):
الأولويات متعددة المشاهد: أدى إضافة مشاهد متعددة مولدة إلى تحسين الأداء بنسبة 6.5% مقار بمدخلات الصورة الواحدة.
النمط (Modality): تفوقت الإحداثيات ثلاثية الأبعاد القائمة على النص على صور السحب النقطية ثلاثية الأبعاد الخام، مما يشير إلى أن نماذج VLMs لا تزال متمحورة حول اللغة وتجد صعوبة في التعامل مع البيانات البصرية ثلاثية الأبعاد الصاخبة.
التجريد: تفوقت الصناديق المحيطة المجردة (Sandbox) بشكل كبير على السحب النقطية الخام وتمثيلات نقاط الوكيل، مما يؤكد أن تصفية الضوضاء البصرية منخفضة المستوى أمر بالغ الأهمية لاستدلال VLM.
5. الأهمية والتوجهات المستقبلية
القابلية للتوسع: يثبت SandboxVLM أن الذكاء المكاني عالي المستوى يمكن تحقيقه دون تكاليف البيانات والحوسبة الهائلة المرتبطة بتدريب نماذج خاصة ثلاثية الأبعاد. إنه يفتح آفاق الاستدلال ثلاثي الأبعاد للنماذج المملوكة سريعة التطور.
التصميم المستوحى من البشر: يؤكد هذا العمل أن الفهم الهيكلي "الخشن" كافٍ للعديد من المهام المكانية، مما يحاكي الكفاءة المعرفية البشرية.
القيود: يتعامل الإطار الحالي مع المشاهد الثابتة ولا ينمذج الخصائص الفيزيائية (الكتلة، الاحتكاك) بشكل صريح. يهدف العمل المستقبلي إلى دمج الإشارات الزمنية للمشاهد الديناميكية والمحاكاة الفيزيائية خفيفة الوزن.
في الختام، يمثل SandboxVLM تحولًا جذريًا من "إعادة البناء الهندسي الكثيف" إلى "الإدراك الهيكلي المجرد"، مما يوفر مسارًا قويًا وقابلاً للتوسع نحو الذكاء المتجسد في نماذج VLMs العامة.