ORMOT: A Dataset and Framework for Omnidirectional Referring Multi-Object Tracking
تقدم هذه الورقة البحثية مهمة ORMOT، وهي مهمة جديدة توسع نطاق تتبع الكائنات متعددة المراجع إلى الصور شاملة الاتجاهات للتغلب على قيود مجال الرؤية، مدعومة بمجموعة بيانات ORSet التي تم إنشاؤها حديثاً وإطار عمل نموذج الرؤية واللغة الكبير ORTrack.
المؤلفون الأصليون:Sijia Chen, Zihan Zhou, Yanqiu Yu, En Yu, Wenbing Tao
تخيل أنك تحاول العثور على صديق معين في ساحة مدينة مزدحمة باستخدام كاميرا فيديو.
المشكلة القديمة (كاميرا "رؤية النفق"): معظم كاميرات الفيديو الموجودة حالياً تشبه النظر من خلال أنبوب كرتوني طويل. يمكنك فقط رؤية ما هو موجود مباشرة أمامك. إذا مشى صديقك خلف مبنى أو تحرك إلى الجانب، فإنه يختفي من مجال رؤيتك. إذا قلت للكمبيوتر: "ابحث عن الشخص الذي يفتح الباب ثم يصعد الدرج"، فقد تفقد الكاميرا العادية أثره بمجرد دخوله خلف جدار. عندها يرتبك الكمبيوتر مفكراً: "مهلاً، هل اختفى؟ أم أنه شخص آخر؟". هذه هي مشكلة تقنية تتبع الأجسام بالإشارة (RMOT) الحالية؛ فهي بارعة في العثور على الأشياء، لكنها تعاني عندما تكون رؤية الكاميرا محدودة أو عندما تتضمن التعليمات سلسلة طويلة من الأحداث التي تحدث بمرور الوقت.
الحل الجديد (حوض السمك بزاوية 360 درجة): قرر مؤلفو هذه الورقة البحثية، ORMOT، إصلاح ذلك عبر الانتقال إلى الكاميرات متعددة الاتجاهات (Omnidirectional Cameras). فكر في هذه الكمرات ليس كأنبوب، بل كـ حوض سمك أو قبة أمنية ترى كل شيء حولها — 360 درجة، طوال الوقت.
إليك تفصيل مساهماتهم الثلاث الكبرى، مشروحة ببساساة:
1. المهمة الجديدة: "العين التي ترى كل شيء"
بدلاً من مجرد تتبع الأجسام، هم يريدون من الكمبيوتر تتبع الأجسام بناءً على أوصاف لغوية (مثل "الرجل الذي يرتدي قبعة حمراء ويركل الكرة") ولكن في عالم بزاوية 360 درجة.
التشبيه: تخيل أنك تلعب لعبة "أين والدو؟" (Where's Waldo?) ولكن الكتاب عبارة عن كرة ضخمة دوارة. إذا تحرك والدو حول الجزء الخلفي من الكرة، فإنه لا يختفي؛ بل ينتقل فقط إلى الجانب الآخر من رؤيتك. نظام ORMOT الجديد مصمم لتتبع "والدو" حتى وهو يدور حول الكرة الأرضية، مدركاً أن "المشي حول الزاوية" يعني أنه نفس الشخص، وليس شخصاً جديداً.
2. مجموعة البيانات الجديدة: "ORSet" (مدرسة التدريب)
لتعليم الكمبيوتر هذه المهارة الجديدة، لم يكن بإمكانهم استخدام فيديوهات قديمة؛ فقد احتاجوا إلى ساحة تدريب خاصة.
التشبيه: لقد بنوا مكتبة ضخمة تسمى ORSet. إنها تشبه استوديو أفلام عملاق يحتوي على 27 "غرفة" (مشاهد) مختلفة تم تصويرها بكاميرات 360 درجة.
اللمسة المميزة: لم يكتفوا بتصنيف الأشخاص فحسب، بل كتبوا سيناريوهات لهم. فبدلاً من مجرد قول "الشخص أ"، كتبوا جملًا معقدة مثل: "الشخص الذي يدفع الباب ليفتحه، ويمشي عبر الرواق، ثم يختفي عن الحافة اليسرى للشاشة".
لماذا هي مميزة: في فيديو عادي، "الاختفاء عن الحافة اليسرى" يعني أن الشخص قد رحل. أما في عالم الـ 360 درجة هذا، فإن "الاختفاء عن اليسار" يعني فقط أنه على وشك "الظهور مجدداً من اليمين". تعلم مجموعة البيانات الكمبيوتر فهم هذه القواعد الفريدة لزاوية 360 درجة.
3. الإطار العملي الجديد: "ORTrack" (المحقق الذكي)
لقد بنوا عقلاً اصطناعياً جديداً يسمى ORTrack لحل هذه الألغاز.
التشبيه: تخيل محققاً لديه مكتبة فائقة القوة (نموذج لغوي بصري ضخم) داخل رأسه.
الخطوة 1 (البحث): عندما تعطيه وصفاً ("ابحث عن الشخص الذي يحمل حقيبة ظهر")، فإن الذكاء الاصطناعي لا يبحث فقط عن "حقائب الظهر". إنه يفهم الجملة؛ فهو يعرف شكل الحقيبة حتى لو كان الشخص بعيداً أو كانت الصورة مشوهة بسبب عدسة الـ 360 درجة.
الخطوة 2 (التقريب): يستخدم الذكاء الاصطناعي حيلة ذكية تسمى "القص على مرحلتين" (Two-Stage Cropping). يأخذ نظرة واسعة وضبابية للمكان بأكمله لأخذ السياق، ثم يقرب (Zoom) بدقة على الشخص المحدد لرؤية وجهه أو ملابسه بوضوح. الأمر يشبه النظر إلى خريطة للمدينة بأكملها، ثم التكبير على زاوية شارع محددة.
الخطوة 3 (الربط): بينما يعمل الفيديو، يقوم الذكاء الاصطناعي بربط الشخص من إطار إلى إطار آخر. حتى لو قامت كاميرا الـ 360 درجة بتشويه الصورة (جعل الطريق المستقيم يبدو منحنياً)، فإن الذكاء الاصطناعي يستخدم "عقله" ليعرف: "آه، هذا لا يزال نفس الشخص الذي يمشي في خط مستقيم".
لماذا يهم هذا؟
لا مزيد من "الأهداف المفقودة": في عالم الـ 360 درجة، نادراً ما يختفي الناس تماماً؛ هم فقط يتحركون حول الدائرة. يضمن هذا النظام عدم فقدان الكمبيوتر لتتبعهم أبداً.
فهم القصص المعقدة: يمكنه اتباع تعليمات طويلة ومعقدة مثل: "ابحث عن الشخص الذي يدخل الغرفة، ويتحدث مع النادل، ثم يخرج من الباب الخلفي". الأنظمة القديمة كانت ستفقد المسار بعد الخطوة الأولى؛ أما هذا النظام فيتبع القصة كاملة.
الاستخدام في العالم الحقيقي: هذا أمر ضخم لأشياء مثل القيادة الذاتية (تحتاج السيارات لرؤية 360 درجة)، وأمن المنازل الذكية (تتبع حيوان أليف أو شخص يتحرك حول المنزل)، والروبوتات (تحتاج الروبوتات لفهم محيطها بالكامل).
باختة القول: أدرك المؤلفون أن كاميرات "رؤية النفق" الحالية محدودة للغاية بالنسبة للتتبع المعقد في العالم الحقيقي. لذا بنوا عالماً جديداً بزاوية 360 درجة (مجموعة البيانات)، وقواعد جديدة لوصف الحركة في هذا العالم، ومحققاً ذكياً للغاية (ORTrack) يمكنه فهم اللغة وتتبع الأشخاص حتى عندما يتحركون في دائرة كاملة حول الكاميرا. إنه يشبه الترقية من استخدام منظار ثنائي العينين إلى استخدام كرة بلورية لا تفقد أبداً رؤية ما يحدث.
إليك ملخص تقني مفصل لورقة البحث بعنوان "ORMOT: مجموعة بيانات وإطار عمل لتتبع الأجسام المتعددة بالإشارة في البيئات شاملة الاتجاهات".
1. تعريف المشكلة
تتبع الأجسام المتعددة (MOT) هو مهمة أساسية في الرؤية الحاسوبية، لكن الطرق الحالية تواجه صعوبات عند التوسع إلى التتبع الإشاري للأجسام المتعددة (RMOT)، حيث يجب تتبع الأجسام بناءً على أوصاف لغوية طبيعية.
القصور في RMOT الحالي: تعتمد طرق RMOT الحالية على مجموعات بيانات تم التقاطها بكاميرات تقليدية ذات مجال رؤية (FoV) محدود.
المشكلة الجوهرية: في المشاهد التقليدية، غالباً ما تخرج الأهداف من الإطار، مما يسبب:
تجزؤ التتبع: فقدان الهوية عند إعادة دخول الأجسام إلى الإطار.
فقدان السياق: عدم القدرة على فهم الأوصاف اللغوية "طويلة المدى" (مثل: "الأشخاص الذين يدفعون الباب لفتحه ثم يصعدون الدرج" لأن الأفعال الحاسمة مثل دفع الباب قد تحدث خارج نطاق رؤية الكاميرا).
الحل المقترح: يقدم المؤلفون التتبع الإشاري للأجسام المتعددة شامل الاتجاهات (ORMOT)، وهي مهمة جديدة تستخدم صوراً بزاوية 360 درجة لتوفير تغطية مكانية مستمرة وإشارات سياقية أغنى لفهم اللغة.
2. المساهمات الرئيسية
تقدم الورقة ثلاث مساهمات رئيسية:
تعريف مهمة ORMOT: صياغة جديدة لـ RMOT متكيفة مع الصور شاملة الاتجاهات، تعالج قيود مجال الرؤية وتعزز قدرة النموذج على استيعاب الأوصاف اللغوية المكانية والزمانية المعقدة وطويلة المدى.
مجموعة بيانات ORSet: مجموعة بيانات شاملة تم إنشاؤها بناءً على مجموعة بيانات JackRabbot (JRDB).
الميزات الفريدة: تتضمن واصفات خاصة بالرؤية شاملة الاتجاهات للتعامل مع التحديات الفريدة لزاوية 360 درجة، مثل:
حركة عبور الحدود: اختفاء الأجسام عند حافة وظهورها مجدداً عند الحافة المقابلة.
التوجه المحيطي: استخدام اتجاهات وجه الساعة (مثل "الساعة 3") بدلاً من "اليسار/اليمين" النسبية.
إزالة الغموض الواعي للإسقاط: تصحيح التشوهات البصرية (مثل ظهور الطرق المستقيمة منحنية).
تحديد انتقال مجال الرؤية: التمييز بين الخروج الفعلي من المشهد وبين حدود الرؤية.
إطار عمل ORTrack: إطار عمل مدفوع بنماذج الرؤية واللغة الكبيرة (LVLM) مصمم خصيصاً لـ ORMOT. يحقق أداءً رائدًا (SOTA) في حالة التعلم الصفري (zero-shot) دون الحاجة لإعادة تدريب مخصص للمهمة.
3. المنهجية: إطار عمل ORTrack
يعتمد ORTrack على قدرة نماذج LVLM على الاستدلال مفتوح المفردات لاكتشاف وتتبع الأجسام بناءً على استعلامات لغوية عشوائية. يتكون خط العمل من ثلاث مراحل:
أ. الكشف الموجه لغوياً عبر LVLM
خلافاً للمكتشفات التقليدية المقيدة بفئات ثابتة، يستخدم ORTrack نموذج LVLM (مثل Qwen2.5-VL) كمكتشف مفتوح المفردات.
الآلية: يقوم النموذج بالترميز البصري، والترميز اللغوي، والانتباه المتبادل متعدد الوسائط لمواءمة النص مع المناطق المرئية، مخرجاً صناديق الإحاطة للأهداف المشار إليها.
ب. استخراج الميزات القائم على الاقتطاص ذو المرحلتين
للتعامل مع التشوه والطبيعة واسعة الزاوية للصور شاملة الاتجاهات، يستخرج ORTrack الميزات في مرحلتين لتحقيق التوازن بين السياق العالمي والتفاصيل المحلية:
الاقتطاص السياقي العالمي: يتم توسيع صندوق الإحاطة المكتشف بنسبة هامش (α) لالتقاط السياق المحيط، مما يخفف من عدم استقرار الميزات المحلية الناتج عن ضغط الزاوية الواسعة.
اقتطاص الهدف دقيق التفاصيل: يتم اقتطاع منطقة الهدف بدقة.
دمج الميزات: يتم ترميز كلا المنطقتين باستخدام مشفر بصري مجمد من نوع CLIP. الميزة النهائية هي مجموع مرجح للميزات المحلية والعالمية (ffinal=flocal+λfglobal).
ج. الربط عبر الإطارات
للحفاظ على اتساق الهوية عبر الإطارات:
مطابقة التشابه: يتم حساب تشابه جيب التمام (Cosine similarity) بين ميزات الأجسام المكتشفة في الإطارات المتتالية.
خوارزمية هنجاريان (Hungarian Algorithm): تُستخدم لإيجاد التعيين الأمثل (واحد لواحد)، مما يقلل من تكلفة الربط.
إدارة دورة الحياة: تبدأ عمليات الكشف غير المتطابقة مسارات تتبع جديدة؛ وتُنهى المسارات التي لا تجد مطابقة لفترة زمنية محددة.
4. النتائج التجريبية
تم تقييم الإطار على مجموعة اختبار ORSet في ظروف التعلم الصفري (بدون ضبط دقيق على مجموعة البيانات).
مقاييس الأداء: تفوق ORTrack بشكل كبير على طرق RMOT مفتوحة المصدر الحالية (TransRMOT, TempRMOT).
دقة HOTA (دقة التتبع من الدرجة الأعلى): حقق ORTrack نتيجة 9.97، مقارنة بـ 2.41 و 2.00 للنماذج المرجعية.
دقة الارتباط (AssA): 16.15 مقابل 4.24/9.01.
دقة الكشف (DetA): 6.37 مقابل 1.40/0.45.
دراسات الاستئصال (Ablation Studies):
اختيار LVLM: أثبت Qwen2.5-VL (7B) تفوقه على نماذج LVLM الأخرى (DeepSeek-VL, LLaVA-NEXT, InternVL3.5)، مما يبرز أهمية حجم النموذج وقدرته على الاستدلال.
مشفر الميزات: وفر استخدام CLIP لاستخراج الميزات توازناً أفضل بين الدقة والكفاءة الحسابية (معدل إطارات أعلى FPS) مقارنة باستخدام LVLM مباشرة لترميز الميزات.
استراتيجية الربط: تفوقت استراتيجية الربط الخاصة بـ ORTrack بشكل كبير على OC-SORT القياسي عند اقترانها بنفس مكتشف LVLM.
النتائج النوعية: نجح النموذج في تتبع الأجسام في سيناريوهات معقدة، مثل التصحيح لـ تشوه الإسقاط (تتبع شخص على "طريق مستقيم" يبدو منحنياً) واستنتاج المشاعر أو الأدوار المحددة (مثل "نادل") بناءً على إشارات بصرية دقيقة.
5. الأهمية والعمل المستقبلي
الأهمية: يسد هذا العمل الفجوة بين تتبع الرؤية واللغة والإدراك شامل الاتجاهات. يوضح أن الصور بزاوية 360 درجة ليست مجرد ترقية بصرية بل هي ضرورة دلالية لفهم الأفعال طويلة المدى والعلاقات المكانية. توفر مجموعة بيانات ORSet معياراً حاسماً لأبحاث المستقبل في التعميم الصفري والربط الزمني.
الاتجاهات المستقبلية: حدد المؤلفون تحديين رئيسيين للعمل المستقبلي:
تحسين قوة الكشف ضد تشوهات الصور الشديدة شاملة الاتجاهات.
تعزيز ربط الهوية المستقر في السيناريوهات ذات التشوهات الهندسية الشديدة والتغيرات السريعة في المقياس.
في الختام، تمثل ORMOT وإطار عمل ORTrack خطوة كبيرة للأمام في جعل تتبع الأجسام المتعددة أكثر قوة، وأكثر وعياً بالسياق، وأكثر قدرة على التعامل مع بيئات العالم الحقيقي المعقدة شاملة الاتجاهات من خلال التفاعل باللغة الطبيعية.