GeoGuide: Hierarchical Geometric Guidance for Open-Vocabulary 3D Semantic Segmentation
يُعد GeoGuide إطار عمل مبتكر للتجزئة الدلالية ثلاثية الأبعاد ذات المفردات المفتوحة، حيث يتغلب على قيود محاذاة الميزات ثنائية الأبعاد من خلال الاستفيد من النماذج ثلاثية الأبعاد مسبقة التدريب وتقديم وحدات هرمية لتقطير النقاط الفائقة القائم على عدم اليقين، وإعادة بناء قناع مستوى المثيل، واتساق العلاقات بين المثيلات لتعزيز التكامل الهندسي-الدلالي.
تخيل أنك تحاول تعليم روبوت فهم داخل منزل ما بمجرد النظر إلى صور ملتقطة من زوايا مختلفة. هذا هو تحدي التجزئة الدلالية ثلاثية الأبعاد مفتوحة المفردات (Open-Vocabulary 3D Semantic Segmentation). يحتاج الروبوت إلى النظر إلى غرفة ثلاثية الأبعاد والقول: "هذا كرسي"، "هذا مصباح"، أو حتى "هذه مزهرية غريبة الشكل لم أرَ مثلها من قبل"، دون أن يكون قد تدرّب خصيصاً على تلك الأشياء بدقة.
المشكلة: المهندس المعماري "المعصوب العينين"
حالياً، تحاول معظم الروبوتات تعلم هذا الأمر من خلال النظر إلى صور ثنائية الأبعاد (مثل إنسان ينظر إلى صورة مسطحة لغرفة). تأخذ ما تعلمته من الصورة وتحاول لصقه في العالم ثلاثي الأبعاد.
التشبيه: تخيل أنك تحاول بناء نموذج ثلاثي الأبعاد مثالي لمنحوتة باستخدام مجرد رسومات ثنائية الأبعاد مسطحة.
المشكلة: إذا كان الرسم يحتوي على لطخة، أو ظل، أو إذا أغفل الفنان جزءاً لأن الشيء كان مخفياً خلف ستارة، فإن الروبوت ينسخ تلك الأخطاء إلى العالم ثلاثي الأبعاد.
النتيجة: قد يعتقد الروبوت أن ساق الكرسي تطفو في الهواء لأن الصورة التُقطت من زاوية كان فيها الساق مخفياً. إنه يفقد "الشكل الحقيقي" للشيء لأنه يركز بشدة على الصورة المسطحة ويتجاهل الهندسة ثلاثية الأبعاد الفعلية.
الحل: GeoGuide (المهندس المعماري الذكي)
يقترح مؤلفو هذه الورقة البحثية، GeoGuide، طريقة جديدة لإصلاح ذلك. فبدلاً من مجرد النسخ الأعمى للصور ثنائية الأبعاد، يستخدمون "مهندساً معمارياً ذكياً" (نموذجاً ثلاثي الأبعاد مدرباً مسبقاً) يعرف بالفعل كيف تعمل الأشكال والجاذبية والمساحات.
فكر في الصور ثنائية الأبعاد كـ شاهد غير موثوق ومليء بالضجيج، والنموذج ثلاثي الأبعاد المدرب مسبقاً كـ محقق خبير يعرف قوانين الفيزياء. يسمح GeoGuide للمحقق بتوجيه الشاهد ليقول الحقيقة.
إليك كيف يفعلون ذلك، مقسماً إلى ثلاث خطوات بسيطة:
1. "مرشح عدم اليقين" (تنظيف الضجيج)
المشكلة: في الصورة، قد تبدو "النقطة الفائقة" (superpoint) (وهي مجموعة صغيرة من البكسلات التي يجب أن تمثل جسماً واحداً) فوضوية بسبب الظلال أو الحجب.
الحل: يسأل GeoGuide "المحقق" (النموذج ثلاثي الأبعاد): "هل تبدو هذه المجموعة الفوضوية جسماً صلباً بالنسبة لك؟"
التشبيه: تخيل مجموعة من الناس يحاولون وصف سيارة. أحدهم يقول: "إنها حمراء"، لكنه يغمض عينيه بسبب ضوء الشمس. وآخر يقول: "إنها سيارة سيدان"، لكنه يقف بعيداً.
الطرق القديمة تأخذ متوسط كلمات الجميع فقط.
GeoGuide يمنح "درجة ثقة" لكل شخص. إذا عرف المحقق ثلاثي الأبعاد أن الشكل صلب، فإنه يثق في الوصف الذي يتناسب مع الشكل ويتجاهل الشخص "الذي يغمض عينيه". إنه يفلتر الضجيج للحصول على صورة واضحة.
2. "مُعيد بناء الأحجية" (ملء الفراغات)
المشكلة: صورة واحدة فقط تظهر مقدمة الأريكة. إنها لا تظهر الخلف أو الأرجل من الأسفل. إذا تعلم الروبوت من الصور فقط، فسيعتقد أن الأريكة مجرد ورقة ثنائية الأبعاد عائمة.
الحل: يستخدم GeoGuide المحقق ثلاثي الأبعاد لـ "تخيل" (التنبؤ بـ) الأجزاء المفقودة.
التشبيه: تخيل أن لديك قطعة من أحجية (بازل) مفقود نصفها. الروبوت العادي سيترك الفجوة فارغة. أما GeoGuide فينظر إلى شكل الفجوة والقطع المحيطة بها، ويقول: "أنا أعرف أن هذه أريكة، لذا لا بد أن الجزء الخلفي موجود"، ثم يملأ قطعة الأحجية المفقودة. هذا يضمن أن يفهم الروبوت كامل الشيء، وليس فقط الجزء الذي رأته الكاميرا.
المشكلة: إذا التقطت صورة لكرسي أحمر من اليسار وصورة أخرى لكرسي أحمر من اليمين، فقد يعتقد الروبوت أنهما شيئان مختلفان تماماً لأن الإضاءة والزوايا مختلفتان.
الحل: يجبر GeoGuide الروبوت على إدراك: "مهلاً، هذان الشيئان يبدوان مختلفين في الصورة، لكنهما يتشاركان في نفس البنية ثلاثية الأبعاد. يجب أن يكونا من نفس الفئة".
التشبيه: فكر في فصل دراسي. إذا نظر المعلم إلى الطلاب من خلال نافذة ضيقة فقط، فقد يعتقد أن الطالب على اليسار هو "طفل طويل" والطالب على اليمين هو "طفل قصير" بسبب المنظور.
GeoGuide يدخل إلى الغرفة ويقول: "توقفوا! كلاهما مجرد 'طلاب'. حتى لو بدا شكلهما مختلفاً من زوايا مختلفة، فإن 'صفة الطالبية' لديهما هي نفسها". إنه يضبط فهم الروبوت بحيث يتم التعرف على جميع الكراسي، بغض النظر عن مكانها في الغرفة، كنوع واحد من الأشياء.
النتيجة
من خلال استخدام هذه الحيل الثلاث، ينشئ GeoGuide خريطة ثلاثية الأبعاد تكون:
أنظف: يتجاهل الأجزاء السيئة في الصور.
أكثر اكتمالاً: يملأ الأجزاء المفقودة من الأشياء.
أكثر اتساقاً: يعرف أن الكرسي هو كرسي، بغض النظر عن كيفية رؤيته.
في الاختبارات، تفوق هذا الأسلوب على جميع الروبوتات السابقة في فهم المساحات ثلاثية الأبعاد، حتى عندما طُلب منه تحديد أشياء لم يسبق له رؤيتها من قبل. إنه يشبه منح الروبوت نظارات تسمح له برؤية الشكل الحقيقي للعالم، وليس مجرد الصور المسطحة له.
إليك ملخص تقني مفصل لورقة البحث بعنوان "GeoGuide: Hierarchical Geometric Guidance for Open-Vocabulary 3D Semantic Segmentation".
1. بيان المشكلة
يهدف التجزئة الدلالية ثلاثية الأبعاد مفتوحة المفردات (Open-Vocabulary 3D Semantic Segmentation) إلى تعيين تسميات فئات لسحب النقاط ثلاثية الأبعاد بناءً على أوصاف لغوية طبيعية عشوائية، مما يتيح التعرف على الفئات غير المرئية مسبقاً.
القيود الحالية: تعتمد الطرق الحالية بشكل أساس ل على نقل المعرفة من 2D إلى 3D (2D-to-3D knowledge distillation)، عبر نقل المعرفة من نماذج 2D مفتوحة المفردات مدربة مسبقاً (مثل النماذج القائمة على CLIP) إلى الفضاء ثلاثي الأبعاد.
القضايا الجوهرية:
فقدان الهندسة ثلاثية الأبعاد المتأصلة: إن محاذاة الميزات ثلاثية الأبعاد مع فضاءات التمثيل ثنائية الأبعاد بشكل صارم يقيد تعلم الهياكل الهندسية ثلاثية الأبعاد المتأصلة.
انتشار الخطأ: النماذج ثنائية الأبعاد عرضة للأخطاء بسبب الانسدادات، والحدود الغامضة، وتغير زوايا الرؤية. وعندما تُسقط هذه التنبؤات ثنائية الأبعاد الخاطئة على الفضاء ثلاثي الأبعاد، يرث النموذج ثلاثي الأبعاد هذه الأخطاء، مما يؤدي إلى تجزئة غير دقيقة أو غير صحيحة.
عدم الاتساق:
داخل الـ Superpoint: غالباً ما تسبب الإسقاطات ثنائية الأبعاد عدم اتساق دلالي داخل "superpoint" واحد متجانس هندسياً.
داخل الـ Instance: الأقنعة ثنائية الأبعاد أحادية المنظور تكون غير مكتملة، مما يؤدي إلى هياكل مثيل (instance) ثلاثية الأبعاد مجزأة.
بين الـ Instances: تسبب تغيرات زاوية الرؤية انزياحات في توزيع الميزات، مما يجعل الأجسام من نفس الفئة تبدو مختلفة دلالياً في الفضاء ثلاثي الأبعاد.
2. المنهجية: إطار عمل GeoGuide
يقترح المؤلفون GeoGuide، وهو إطار عمل يستفيد من النماذج ثلاثية الأبعاد المدربة مسبقاً لضخ الأولويات الهندسية الهرمية في عملية نقل المعرفة. بدلاً من اتباع الميزات ثنائية الأبعاد بشكل أعمى، يفرض GeoGuide الاتساق بين الهندسة والدلالات على ثلاثة مستويات.
أ. نظرة عامة على إطار العمل
المدخلات: سحابة نقاط ثلاثية الأبعاد وصور RGB متعددة المشاهد.
استخراج الميزات:
3D: يقوم عمود فقري ثلاثي الأبعاد (backbone) مجمد ومدرب مسبقاً (مثل Sonata) باستخراج الميزات الهندسية (F3dG).
2D: يقوم نموذج مفتوح المفردات ثنائي الأبعاد مجمد باستخراج الميزات الدلالية على مستوى البكسل (F2dM).
المحاذاة: يتم إسقاط الميزات ثنائية الأبعاد على النقاط ثلاثية الأبعاد باستخدام معلمات الكاميرا لإنشاء ميزات دلالية ثنائية الأبعاد محاذية (F2d).
المحول (Adapter): يقوم محول (3D-2D) خفيف الوزن برسم خرائط الميزات الهندسية ثلاثية الأبعاد إلى الفضاء الدلالي (F3dsem).
الابتكار الجوهري: تقوم ثلاثة نماذج هرمية بتوجيه عملية نقل المعرفة لتصحيح أخطاء الـ 2D باستخدام الأولويات الهندسية ثلاثية الأبعاد.
ب. النماذج الرئيسية
1. تقطير الـ Superpoint القائم على عدم اليقين (USD)
الهدف: فرض الاتساق داخل الـ superpoint (المستوى المحلي).
الآلية:
يتم تجميع النقاط في "superpoints" (جوارات متجانسة هندسياً).
يقوم النموذج بحساب الفرق بين ميزات مستوى النقطة والميزات المجمعة على مستوى الـ superpoint (هندسياً ودلالياً).
يتنبأ نموذج MLP بـ أوزان عدم اليقين لكل ميزة دلالية ثنائية الأبعاد للنقطة.
التجميع الموزون: يتم الحفاظ على الميزات ثنائية الأبعاد عالية الموثوقية (منخفضة عدم اليقين)، بينما يتم كبح الميزات الضوضائية/الغامضة (الناتجة غالباً عن الانسداد).
الخسارة: يتم تطبيق خسارة تشابه جيب التمام (Cosine similarity loss) بين الميزات ثنائية الأبعاد المنقحة والميزات الدلالية ثلاثية الأبعاد على مستوي النقطة والـ superpoint.
2. إعادة بناء القناع على مستوى المثيل (IMR)
الهدف: فرض الاتساق داخل المثيل (intra-instance) (المستوى المتوسط).
الآلية:
يستخدم طريقة لتجزئة المثيل ثلاثية الأبعاد مستقلة عن الفئة لتوليد أقنعة المثيل.
إعادة بناء القناع: يتم حجب أجزاء من قناع المثيل عشوائياً ومحاولة إعادة بناء القناع الكامل باستخدام الميزات الدلالية للمثيل.
الخسارة: يتم تطبيق خسارة التقاطع العرضي الثنائي (Binary Cross-Entropy - BCE) بين القناع المعاد بناؤه والقناع الأصلي.
الأثر: يجبر هذا جميع النقاط داخل مثيل ثلاثي الأبعاد واحد على مشاركة ميزات دلالية متسقة، مما يساعد في استعادة المناطق المفقودة الناتجة عن الانسدادات ثنائية الأبعاد.
3. اتساق العلاقة بين المثيلات (IIRC)
الهدف: فرض الاتساق بين المثيلات (inter-instance) (المستوى العالمي).
الآلية:
يعالج مشكلة ظهور الأجسام من نفس الفئة بشكل مختلف بسبب تغير زوايا الرؤية.
يحسب مصفوفة التشابه الهندسي (بناءً على الميزات ثلاثية الأبعاد المدربة مسبقاً) ومصفوفة التشابه الدلالي (بناءً على الميزات ثلاثية الأبعاد المستخلصة) عبر المثيلات.
المحاذاة: تقليل متوسط مربع الخطأ (MSE) بين مصفوفات التشابه الهندسية والدلالية.
الأثر: يضمن أن الأجسام من نفس الفئة تحافظ على تمثيلات دلالية متشابهة بغض النظر عن ترتيبها المكاني أو زاوية رؤيتها، مما يخفف من الانزياح الدلالي.
3. المساهمات الرئيسية
إطار عمل مبتكر: قدم GeoGuide، أول إطار عمل يدمج صراحةً الأولويات الهندسية الهرمية من النماذج ثلاثية الأبعاد المدربة مسبقاً لتصحيح أخطاء نقل المعرفة من 2D إلى 3D.
اتساق ثلاثي المراحل: صمم ثلاثة نماذج متكاملة (USD, IMR, IIRC) تفرض الاتساق الهندسي-الدلالي من المستوى المحلي (superpoint) إلى المستوى العالمي (inter-instance).
أداء رائد (State-of-the-Art): حقق تحسينات كبيرة على النماذج المرجعية (baselines) الحالية، سواء كانت zero-shot أو fully-supervised، دون الحاجة إلى تسميات ثلاثية الأبعاد للفئات المستهدفة.
المتانة: أظهر قدرة قوية على التعميم عبر المجالات ومتانة في سيناريوهات "الذيل الطويل" (التي تحتوي على فئات كثيرة).
4. النتائج التجريبية
تم تقييم الطريقة على مجموعات بيانات ScanNet v2، وMatterport3D، وnuScenes.
النتائج الرئيسية:
في ScanNet v2، حقق GeoGuide نسبة 64.8 mIoU (باستخدام ميزات SAS*)، متفوقاً على أفضل نموذج سابق (SAS) بمقدار +5.6 mIoU.
في nuSeces، حقق 50.3 mIoU (تحسن بمقدار +4.9).
في Matterport3D، حقق 51.9 mIoU (تحسن بمقدار +5.6).
والجدير بالذكر أن أداء GeoGuide يضاهي أو يتجاوز الطرق المبكرة المعتمدة على الإشراف الكامل (مثل TangentConv وTextureNet) رغم كونه نموذج zero-shot/open-vocabulary.
تقييم الذيل الطويل (Long-Tail):
عند التقييم على Matterport3D مع زيادة عدد الفئات (K=21 إلى $160$)، أظهر GeoGuide انخفاضاً أقل بكثير في الأداء مقارنة بالنماذج المرجعية، مما يشير إلى قدرة فائقة على التمييز الدقيق.
التعميم عبر المجالات (Cross-Domain Generalization):
في تجارب النقل ثنائي الاتجاه (ScanNet → Matterport3D والعكس) دون ضبط دقيق (fine-tuning)، تفوق GeoGuide باستمرار على جميع النماذج المرجعية، مما يثبت قدرته على التقاط الهياكل الهندسية الثابتة عبر المجالات.
دراسات الاستئصال (Ablation Studies):
استخدام عمود فقري ثلاثي الأبعاد مدرب مسبقاً ببساطة دون توجيه هندسي (استبدال مباشر) أعطى نتائج هامشية أو سلبية، مما يؤكد ضرورة وجود قيود هندسية صريحة للحفاظ على فوائد التدريب المسبق.
دمج جميع النماذج الثلاثة (USD + IMR + IIRC) حقق أفضل أداء، مما يثبت تأثيرها التآزري.
5. الأهمية
يعالج GeoGuide خللاً جوهرياً في التجزئة ثلاثية الأبعاد مفتوحة المفردات الحالية: الاعتماد المفرط على الإشراف ثنائي الأبعاد المشوش الذي يتجاهل الهندسة ثلاثية الأبعاد المتأصلة. من خلال التعامل مع الأولويات الهندسية ثلاثية الأبعاد ليس فقط كمصدر للميزات ولكن كـ آلية توجيه لتصحيح أخطاء الـ 2D، تضع هذه الورقة نموذجاً جديداً لفهم المشاهد ثلاثية الأبعاد. يسمح هذا النهج للنماذج بالتعميم بشكل أفضل على الفئات غير المرئية والسيناريوهات المعقدة في العالم الحقيقي (مثل الانسدادات وتغير زوايا الرؤية) دون التكلفة الباهظة للتسميات ثلاثية الأبعاد الكثيفة.