DVPSFormer: Efficient Online Depth-aware Video Panoptic Segmentation for Autonomous Driving
تقدم الورقة البحثية DVPSFormer، وهي بنية موحدة تعمل في الوقت الفعلي وتحقق أداءً هو الأفضل في فئته في التجزئة البانوبتيكية للفيديو المدرك للعمق من أجل القيادة الذاتية، وذلك عبر توظيف التجزئة الصريحة للمشهد والتصويت بالأغلبية في الوقت الفعلي لتوحيد تقدير العمق المتري، والتجزئة الدلالية، وتتبع المثيلات بكفاءة في الوقت الفعلي.
المؤلفون الأصليون:Yung-Hsu Yang, Luigi Piccinelli, Siyuan Li, Mattia Segu, Lei Ke, Martin Danelljan, Yuqian Fu, Zuria Bauer, Fisher Yu, Hermann Blum, Marc Pollefeys
المؤلفون الأصليون: Yung-Hsu Yang, Luigi Piccinelli, Siyuan Li, Mattia Segu, Lei Ke, Martin Danelljan, Yuqian Fu, Zuria Bauer, Fisher Yu, Hermann Blum, Marc Pollefeys
تخيل أنك عقل سيارة ذاتية القيادة. مهمتك لا تقتصر فقط على رؤية الطريق؛ بل تتعدى ذلك لتفهم العالم بأكمله بأبعاد رباعية (4D). عليك أن تعرف ماهية الأشياء (هل هذا مشاة أم صندوق بريد؟)، وأين تقع في فضاء ثلاثي الأبعاد (ما مدى بعد تلك السيارة؟)، وإلى أين تتجه (هل ينعطف راكب الدراجة لليسار؟). هذا هو الهدف الأسمى لـ "الملاحة الذاتية". لفترة طويلة، حاول العلماء حل هذه الألغاز بشكل منفصل، كأن يكون لديك ثلاثة خبراء مختلفين يتجادلون حول الخريطة نفسها. ولكن لكي تقود بأمان، فأنت بحاجة إلى عقل واحد فائق السرعة يقوم بكل ذلك في آن واحد. التحدي يكمكم في أن القيام بذلك في الوقت الفعلي يستهلك قدرة حوسبية هائلة من "دماغ" الكمبيوتر، مما يجعل استجابة السيارة بطيئة في كثير من الأحيان. يغوص هذا البحث في عالم الرؤية الحاسوبية، وتحديداً في مجال يُسمى "التقطيع البانورامي للفيديو المدرك للعمق" (Depth-aware Video Panoptic Segmentation)، وهو مجرد مصطلح معقد يعني "رؤية عالم الفيديو بالكامل، ومعرفة مدى عمق كل شيء فيه، وتتبع كل جسم متحرك".
قام الباحثون وراء هذه الدراسة، وهم فريق من مؤسسات مثل جامعة ETH زيورخ ومايكروسوفت، ببناء نظام جديد يسمى DVPSFormer. فكر في محاولاتهم السابقة لحل هذه المشكلة كخط إنتاج معقد حيث يتم بناء سيارة، ثم تفكيكها لقياس عمقها، ثم إعادة تجميعها لتتبع حركتها. هذا النهج دقيق ولكنه بطيء. ويرى المؤلفون أن هذا النهج "متعدد المراحل" معقد للغاية بالنسبة لسيارة حقيقية تحتاج إلى اتخاذ قرارات في أجزاء من الثانية. بدلاً من ذلك، يقترحون بنية موحدة "آنية" (online) تعمل أكثر مثل قائد الأوركسترا الذي يقود الفرقة، حيث تعزف كل آلة في تناغم تام ولحظي.
يكمن جوهر ابتكارهم في خدعة ذكية يسمونها "التقطيع الصريح للمشهد" (Explicit Scene Discretization - ESD). تخيل أنك تنظر إلى غرفة فوضوية وتحاول وصفها لصديق. الطرق القديمة قد تحاول تخمين عمق كل بكسل على حدد، مثل عد كل حبة رمل. أما DVPSFormer، فيقوم أولاً بتجميع الغرفة إلى "أجسام" واضحة (السرير، السجادة، الحائط) و"خلفية" (الهواء الفارغ). إنه يعامل عملية التجميع هذه كوسيلة لتفكيك المشهد إلى أجزاء يمكن إدارتها. وبمجرد الحصول على هذه الأجزاء الواضحة، يستخدم "مفكك شفرات" (decoder) خاص ينتقل من "المنفصل إلى المستمر" لملء العمق للغرفة بأكملها في تمريرة واحدة فورية. الأمر يشبه رسم الخطوط العريضة لغرفة أولاً ثم تلوين المسافات فوراً، بدلاً من قياس كل بوصة من الأرض واحدة تلو الأخرى. هذا يربط بقوة بين "الماهية" (الدلالات) و"المسافة" (الهندسة)، مما يسمح للنظام بالتعلم بشكل أسرع وبقدرة حوسبية أقل.
وللتعامل مع الأجسام المتحركة، يستخدم النظام آلية "التصويت بالأغلبية الآنية" (Online Majority Voting). تخيل مجموعة من الأصدقاء يحاولون تحديد هوية شخص يمر عبر حشد. إذا ظن أحد الأصدقاء أنه كلب وظن آخر أنه قط، فقد يشعرون بالارتباك. ولكن إذا قال خمسة أصدقاء متتاليين "إنه كلب"، فإن المجموعة تصوت بـ "كلب" وتصحح أي أخطاء سابقة. يقوم DVPSFormer بذلك مع إطارات الفيديو؛ فبينما يتتبع سيارة أو شخصاً عبر الزمن، فإنه ينظر إلى الثواني القليلة الماضية من الفيديو. إذا أخطأ النظام لحظياً في تحديد نوع مركبة ما، فإن "تصويت الأغلبية" من الإطارات المحيطة يصحح الخطأ فوراً. هذا يسمح للسيارة بالبقاء في حالة تأهب دون الحاجة إلى "النظر في المستقبل" (وهو أمر مستحيل في القيادة في الوقت الفعلي).
النتائج مبهرة. اختبر الفريق نظامهم على مجموعتي بيانات رئيسيتين، Cityscapes-DVPS و SemKITTI-DVPS، وهما بمثابة "الامتحانات النهائية" لرؤية القيادة الذاتية. ووجدوا أن DVPSFormer لم يحقق فقط أفضل الدرجات المسجلة على الإطلاق في هذه الاختبارات (رقم قياسي جديد)، بل كان أيضاً أسرع بشكل ملحوظ. في الواقع، لتتبع تسلسلات مكونة من 20 إطاراً، كانت طريقتهم أسرع بنحو 18 مرة من أفضل طريقة سابقة. كما أظهروا أن نظامهم يمكنه العمل بسرعة 12.8 إطاراً في الثانية على Cityscapes و 46.9 إطاراً في الثانية على SemKITTI، بينما كانت الطرق الرائدة السابقة تكافح لمواكبة السرعة أو تتباطأ بشكل حاد مع طول الفيديو.
يستبعد المؤلفون صراحةً فكرة أن خطوط الإنتاج المعقدة متعددة المراحل أو التتبع "غير الآني" (الذي يتطلب رؤية الإطارات المستقبلية) هي الطريق الصحيح للقيادة الذاتية في العالم الحقيقي. لقد أثبتوا أن نهجهم "أحادي التمريرة" والآني ليس مجرد تحسين نظري، بل هو ضرورة عملية للسرعة والكفاءة. ومن خلال تبسيط خط الإنتاج وجعل عملية التقطيع توجه تقدير العمق بشكل طبيعي، نجحوا في إنشاء نظام أكثر ذكاءً وسرعة، مما يمهد الطريق لمركبات ذاتية القيادة أكثر أماناً واستجابة.
ملخص تقني: DVPSFormer
بيان المشكلة
تتطلب الملاحة الذاتية الآمنة في البيئات الحضرية الديناميكية فهمًا شاملاً للمشهد رباعي الأبعاد (4D) يقوم بتقدير العمق المتري، والتقسيم الدلالي، ومسارات الحالات (instances) في آن واحد. يتم صياغة هذا التقارب بين المهام تحت مسمى التقسيم البانوبتيكي للفيديو المدرك للعمق (DVPS). ورغم أن الأساليب الحالية أظهرت نتائج واعدة، إلا أنها تعاني من قيود كبيرة تتعلق بزمن الاستجابة (latency) والقيود التشغيلية:
عدم الكفاءة: تعتمد العديد من الطرق على مسارات عمل متعددة المراحل ومكلفة حوسبيًا، أو وحدات منفصلة خاصة بكل مهمة تفشل في تبادل المعلومات بشكل كامل بين تقسيم المشهد وتقدير العمق.
الاعتماد على المعالجة غير المتزامنة (Offline): تعتمد أحدث الأساليب (SOTA) غالبًا على التتبع غير المتزامن، مما يتطلب الوصول إلى إطارات فيديو مستقبلية، وهو ما يجعلها غير مناسبة لاتخاذ القرارات في الوقت الفعلي في القيادة الذاتية.
تقدير غير مثالي للعمق: تستخدم البنى الموحدة السابقة (مثل Uni-DVPS) مسارات تقدير عمق معقدة تعاني من عدم التوافق بين التدريب والاختبار، وتفشل في الاستفادة من المعلومات الدلالية بفعالية لفك تشفير العمق.
المنهجية
يقترح المؤلفون DVPSFormer، وهو بنية موحدة وفعالة وتعمل في الوقت الفيد (online)، مصممة لفهم المشهد رباعي الأبعاد في الوقت الفعلي. يتبع الإطار نموذج "المشفر-المفكك" (encoder-decoder) مع عمود فقري مشترك ومفكك بكسلات، مدعوم بثلاثة رؤوس مهام محددة: التقسيم البانوبتيكي، وتقدير العمق المتري، وتتبع الحالات.
1. التجزئة الصريحة للمشهد (ESD)
يتمثل جوهر وحدة تقدير العمق في مفهوم التجزئة الصريحة للمشهد. وخلافًا للأعمال السابقة (مثل iDisc) التي تستخدم "انتباه الفتحات" (slot-attention) لتعلم تمثيلات المشهد الداخلية بشكل ضمني، يعامل DVPSFormer عملية التقسيم البانوبتيكي نفسها كعملية تجزئة صريحة.
الآلية: يتم تدريب نموذج التقسيم صراحةً على بيانات الحقيقة الأرضية (ground truth) للخلفية والمقدمة. وتعمل "الاستعلامات الموحدة" (unified queries) الناتجة كتمثيلات منفصلة للمشهد.
التحويل من المنفصل إلى المستمر (D2C): يستخدم رأس عمق مخصص آلية "الانتباه المتقاطع" (cross-attention) بين تمثيلات البكسل عالية الدقة والطبقة الأخيرة من الاستعلامات الموحدة (ql−1). يسمح هذا للنموذج بفك تشفير خريطة عمق مترية كاملة في تمريرة واحدة.
الفائدة: يربط هذا التصميم التعلم الدلالي والهندسي ارتباطًا وثيقًا، مما يسمح لإشراف العمق بتحسين تقسيم الأجسام مباشرة، مع إلغاء الحاجة إلى استعلامات احتياطية معقدة أو دمج مراحل متعددة للعمق.
2. التتبع عبر الإنترنت باستخدام التصويت بالأغلبية
لمعالجة مشكلات زمن الاستجابة في التتبع غير المتزامن (offline)، ينفذ DVPSFormer مسار تتبع خفيف الوزن يعمل في الوقت الفعلي:
ربط الاستعلامات: بدلاً من استخراج ميزات المظهر عبر RoI Align من صناديق الإحاطة المعالجة لاحقًا، يستخدم النموذج استعلامات المحول الموحدة مباشرة. ويقوم رأس تتبع خفيف الوزن بإسقاط هذه الاستعلامات إلى تمثيلات الحالات (instance embeddings).
تعلم التشابه: يتم تدريب رأس التتبع باستخدام تعلم تشابه شبه كثيف للتمييز بين الحالات بفعالية.
التصويت بالأغلبية عبر الإنترنت (OMV): لتنقية التصنيف أثناء الربط الزمني، يقترح المؤلفون آلية OMV. وخلافًا للطرق التي تصحح الفئات فقط بعد معالجة تسلسل كامل، تقوم OVM بتنقية تصنيف الإطار الحالي بناءً على تصويت الأغلبية للإطارات الخمسة الماضية. وهذا يسمح للنظام بتصحيح أخطاء التصنيف في الوقت الفعلي مع الحفاظ على التشغيل المتزامن.
3. استراتيجية التدريب
تكييف أخذ عينات النقاط: للتعامل مع الحقيقة الأرضية المتناثرة والمشوشة (المستمدة من ليدار LiDAR المسقط) في مجموعات بيانات القيادة الذاتية، قام المؤلفون بتكييف الإشراف القائم على النقاط. حيث يقومون بتصفية النقاط غير الصالحة أثناء المطابقة ثنائية التجزئة وحساب الخسارة، مما يسمح بتدريب فعال على صور عالية الدقة (1024 × 2048) بحجم دفعة قدره 2 على وحدة معالجة رسومات واحدة.
دوال الخسارة: يتم تحسين النموذج باستخدام مزيج من خسارة التقسيم البانوبتيكي (الاعتراض المتقاطع، dice، والتصنيف)، وخسارة العمق ثابتة المقياس، وخسارة الاعتراض المتقاطع متعددة الإيجابيات لتمثيلات تتبع الحالات.
المساهمات الرئيسية
بنية موحدة تعمل في الوقت الفعلي: يعد DVPSFormer أول بنية توحد تقدير العمق المتري، والتقسيم البانوبتيكي، وتتبع الحالات في مسار واحد فعال يعمل في الوقت الفعلي، مما يلغي الحاجة إلى الوصول إلى الإطارات المستقبلية غير المتزامنة.
التجزئة الصريحة للمشهد (ESD): آلية مبتكرة تستفيد من استعلامات التقسيم لتمثيل المشهد صراحة، مما يتيح فك تشفير العمق من المنفصل إلى المستمر في تمريرة واحدة تتوافق مع مسارات التدريب والاستدلال.
التصويت بالأغلبية عبر الإنترنت (OMV): آلية تنقية زمنية تعمل على تحسين دقة تتبع الحالات والتصنيف في الوقت الفعلي دون الحاجة إلى معالجة غير متزامنة.
بروتوكول تدريب فعال: استراتيجية أخذ عينات من النقاط المكيّفة التي تصفي التوصيفات غير الصالحة، مما يسمح بتدريب فعال على مجموعات بيانات القيادة الذاتية المشوشة مع تقليل العبء الحوسبي.
النتائج التجريبية
قيم المؤلفون DVPSFormer على معايير Cityscapes-DVPS و SemKITKI-DVPS، مقارنةً بأحدث الأساليب بما في ذلك ViP-DeepLab و PolyphonicFormer و MonoDVPS و Uni-DVPS.
الأداء: يحقق DVPSFormer رقمًا قياسيًا جديدًا في كلا المعيارين. في Cityscapes-DVPS، حقق DVPQ قدره 55.7 (متوسط)، متفوقًا على SOTA السابق (Uni-DVps) بمقدار 3.9 نقطة. وفي SemKITKI-DVPS، حقق DVPQ قدره 46.3، متجاوزًا Uni-DVPS بمقدار 4.1 نقطة.
الكفاءة: يظهر النموذج تحسينات كبيرة في السرعة. في Cityscapes-DVPS، يحقق 12.8 إطارًا في الثانية (FPS)، مقارنة بـ 9.2 FPS لـ Uni-DVPS. وفي SemKITKI-DVPS، يحافظ على 46.9 FPS بغض النظر عن حجم نافذة التتبع (k)، بينما تنخفض سرعة Uni-DVPS بشكل كبير مع زيادة حجم النافذة (لتصل إلى 2.6 FPS عند k=20).
الدراسات الاستقصائية (Ablation Studies): تؤكد التجارب أن ESD يحسن تقدير العمق وجودة التقسيم (DPQ +1.7)، بينما تعزز آلية التصويت بالأغلبية عبر الإنترنت (OMV) قيمة DVPQ بمقدار 0.5 نقطة.
الأهمية والادعاءات
تزعم الورقة أن DVPSFormer يقدم حلاً انسيابيًا للإدراك الروبوتي عبر الإنترنت، مصمم خصيصًا لمتطلبات زمن الاستجابة والتشغيل "المتزامن" في القيادة الذاتية. ومن خلال معاملة التقسيم كعملية تجزئة صريحة للمشهد، يبسط المؤلفون المسار العام مع تحقيق نتائج فائقة في التقسيم والعمق. تنجح البنية المقترحة في موازنة الأداء والكفاءة، مما يثبت أن النهج الموحد والمتزامن يمكن أن يتفوق على الأساليب المعقدة أو متعددة المراحل أو غير المتزامنة. يؤكد هذا العمل على إمكانات القيادة الذاتية الأكثر أمانًا من خلال فهم شامل للمشهد رباعي الأبعاد يكون دقيقًا وممكنًا حوسبيًا للنشر في الوقت الفعلي.