ملخص تقني: السرديات المستمرة للأجسام من أجل نماذج لغة الفيديو عالية الكفاءة في الرموز (Tokens)
بيان المشكلة
تقدمت نماذج اللغة الكبيرة للفيديو (Video-LLMs) في فهم الفيديو المفتوح، لكنها تواجه عقبتين رئيسيتين في واجهاتها المرئية:
- كثافة الرموز (Token Intensity): تؤدي طرق البناء القائمة على الإطارات الحالية إلى توليد رموز مرئية تتناسب طردياً مع الدقة الزمنية والمكانية، مما يؤدي غالباً إلى آلاف الرموز لكل فيديو (مثل LLaVA-OneVision وLLaVA-Video).
- الافتقار إلى الهيكل الصريح للأجسام: تفشل تقنيات الضغط الحالية (مثل الذاكرة المتفرقة، أو الضغط المكاني-الزماني التكيفي) في تنظيم أدلة الأجسام المتكررة بشكل صريح، رغم قدرتها على تقليل عدد الرموز. ونتيجة لذلك، يجب على النموذج اللغوي استنتاج الارتباط بين الأجسام وتطور حالتها من تسلسلات مضغوطة دون ربط صريح، مما يؤدي إلى الغموض عند ظهور الأجسام مجدداً بعد حجبها أو بعد قطع المشهد.
بينما يوفر التعلم المرتكز على الأجسام أساساً نظرياً لتجميع الميزات في "فتحات" (slots) تشبه الأجسام، فإن النهج القائم على الفتحات الحالي يعامل هذه الفتحات كعناصر محلية وقابلة للتبادل، مما يفشل في ربط الملاحظات المتكررة بنماذج أجسام مستمرة عبر الزمن. ومن ناحية أخرى، تعتمد الطرق التي تستند إلى خطوط معالجة خارجية للكشف والتتبع على مكونات غير متعلمة.
المنهجية: SlotNarrative
يقترح المؤلفون SlotNarrative، وهو واجهة قائمة على الفتحات ومرتكزة على الأجسام، تعمل على تنظيم أدلة الفيديو في سرديات أجسام مستمرة. يعمل الإطار من خلال ثلاث وحدات وظيفية:
1. التمثيل المرئي المرتكز على الأجسام
يقوم مشفر SigLIP مجمد باستخراج ميزات الرقع (patch features) من الإطارات المختارة. ثم يقوم محول ميزات (feature adapter) ومشفر فتحات تكراري بتجميع هذه الميزات في K=11 من متجهات الفتحات التي تشبه الأجسام (St) وخرائط الانتباه المعيرة بالرقع (At).
- الحالة المحلية: يقدر النظام الحركة المحلية، والهندسة، والظهور باستخدام مطابقة الرقع الموزونة بالقناع ومشفر مسار سببي (causal trajectory encoder).
- التعامل مع المشاهد: عند اكتشاف قطع في المشهد، يتم إعادة تعيين تهيئة الفتحات التكرارية لمنع معاملة عمليات التحرير كحركة أجسام مفرطة، مع الاحتفاظ بذاكرة على مستوى المقطع (clip-level memory).
2. ذاكرة الأجسام المستمرة
تربط وحدة ذاكرة خالية من المعلمات (parameter-free memory module) ملاحظات الفتحات المحلية بالإدخالات المستمرة للأجسام على مستوى المقطع.
- إعادة تحديد الهوية: عندما تنتقل فتحة من حالة عدم الظهور إلى الظهور، يقوم النظام بمطابقتها مع مدخلات الذاكرة غير النشطة باستخدام خمسة أدلة متكاملة: تشابه ميزة الفتحة، تشابه المظهر المجمع، تشابه حالة المسار، تشابه الملاحظة الأخيرة، وتقارب الموقع.
- منطق المطابقة: يحدد نظام تسجيل النقاط الموزون والخالي من المعلمات عملية إعادة تحديد الهوية. وتمنع استراتيجية المطابقة الواحدة لواحد الجشعة (greedy one-to-one) الادعاءات المكررة. إذا ظهر جسم ما مجدداً تحت مؤشر فتحة خام مختلف، تحافظ الذاكرة على الهوية المستمرة، مما يسد الفجوات الزمنية بفعالية.
- لا توجد معلمات قابلة للتدريب: لا تحتوي الذاكرة نفسها على أوزان قابلة للتعلم؛ بل تعتمد على أوزان ثابتة للمؤشرات (مثل 0.3 لميزات الفتحة، و0.2 للمظهر) وعتبات محددة.
3. ترميز حالة الجسم النوعي (Typed Object-State Tokenization)
للتواصل مع نموذج لغة مجمد، يتم تسلسل مدخلات الأجسام المحتفظ بها في تسلسل مرئي ثابت الحجم:
- اختيار المخزون: يتم ترتيب المدخلات بناءً على مدة الظهور، وتغير الحالة، و"الأجسامية" (وهو مقياس يجمع بين مساحة الفتحة وإنتروبيا الانتباه). يتم الاحتفاظ بأفضل M=16 مدخل.
- تفكيك الرموز: يتم تمثيل كل مدخل بواسطة:
- رمز هوية واحد: يلخص المظهر المستمر باستخدام ميزات العمود الفقري المجمعة زمنياً والموزونة بوزن الظهور.
- J=8 رموز حالة: تشفر المظهر على مستوى القطعة، والهندسة، والظهور، وحالة المسار، وأحداث إعادة تحديد الهوية.
- الميزانية الثابتة: يخصص هذا التصميم بالضبط M(1+J)=144 موقعاً للرموز المرئية لكل فيديو، بغض النظر عن عدد الإطارات المختارة. ويتم حجب المواقع غير المستخدمة.
استراتيجية التدريب
يتم تدريب النموذج في ثلاث مراحل متتالية:
- المرحلة 1: تعلم تجميع الميزات الشبيهة بالأجسام والاتساق المحلي باستخدام إعادة بناء الميزات، وSlotContrast، والتعلم التمثيلي التآزري على مقاطع غير مصنفة.
- المرحلة 2: تدريب وحدات المسار والوجود عبر التنبؤ بالملاحظات المستقبلية والأهداف المستمدة من الثقة.
- المرحلة 3: محاذاة تمثيل حالة الجسم النوعي مع النموذج اللغوي (Qwen2-7B-Instruct). يتم تدريب أجهزة عرض الهوية/الحالة (identity/state projectors)، وتطبيع الطبقات (layer normalizations)، والتمثيلات النوعية فقط؛ بينما يظل العمود الفقري المرئي، والذاكرة، والنموذج اللغوي مجمدة.
المساهمات الرئيسية
- واجهة مرئية مرتكزة على الأجسام والفتحات: تنظم أدلة الفيديو حول مدخلات أجسام مستمرة على مستوى المقطع بدلاً من الإطارات أو الفتحات القابلة للتبادل لكل إطار، وذلك باستخدام ذاكرة خالية من المعلمات لربط الملاحظات المتكررة دون الحاجة إلى خطوط تتبع خارجية.
- تمثيل حالة الجسم النوعي: يفصل بين المظهر المستمر للجسم والحالة المتغيرة زمنياً. ينتج عن هذا التفكيك واجهة مدمجة وثابتة من 144 رمزاً (1 رمز هوية + 8 رموز حالة × 16 جسماً) لنموذج فيديو-لغة (Video-LLM) مجمد.
- الكفاءة والأداء: يظهر تفوقاً في التوازن بين الدقة وعدد الرموز المرئية عبر عدة اختبارات مرجعية، مما يثبت أن السرديات المستمرة للأجسام تشكل واجهة مرئية مهيكلة.
النتائج التجريبية
قيم المؤلفون SlotNarrative في ثلاثة اختبارات مرجعية لأسئلة الفيديو المفتوحة: MSVD-QA، وMSRVTT-QA، وActivityNet-QA.
- كفاءة الرموز: باستخدام 144 موقعاً فقط للرموز المرئية، حقق SlotNarrative:
- دقة 75.6% في MSVD-QA.
- دقة 69.8% في MSRVTT-QA.
- دقة 50.3% في ActivityNet-QA.
- المقارنات:
- مقارنة بأقرب نموذج مرجعي مرتكز على الأجسام، وهو Slot-VLM (الذي يستخدم 192 رمزاً)، يستخدم SlotNarrative أقل بنسبة 25% من الرموز مع تحسين الدقة بمقدار 0.7 و0.2 و2.0 نقطة على التوالي.
- يتفوق على طرق الرموز الكثيفة (مثل LLaVA-OneVision التي تستخدم حوالي 6,000 رمز) في مجموعات بيانات الفيديو القصيرة، ويظل منافساً في الفيديوهات الطويلة (ActivityNet-QA) رغم الخفض الكبير في عدد الرموز.
- دراسات الاستئصال (Ablation Studies):
- المسار والذاكرة: كلا المكونين يحسنان الأداء بشكل كبير. إزالة الذاكرة وحدها تخفض الدقة بنحو 3.2 نقطة في MSVD-QA؛ وإزالة المسار تخفضها بنحو 1.8 نقطة. الجمع بينهما يعطي أفضل النتائج.
- الرموز النوعية: فصل رموز الهوية عن رموز الحالة أمر بالغ الأهمية. استخدام رموز الهوية فقط (16 رمزاً) أو رموز الحالة فقط (128 رمزاً) يؤدي إلى انخفاض كبير في الدقة (44.1% و42.4% على التوالي في ActivityNet-QA) مقارنة بالواجهة الكاملة المكونة من 144 رمزاً (50.3%).
- حساسية الميزانية: تقليل تغطية الأجسام (M) أكثر تكلفة من تقليل الدقة الزمنية (J). زيادة الميزانية بما يتجاوز 144 رمزاً تعطي عوائد متناقصة.
الأهمية والادعاءات
يزعم البحث أن SlotNarrative يؤسس نموذجاً جديداً لواجهات نماذج اللغة الكبيرة للفيديو من خلال إعطاء الأولوية لـ سرديات الأجسام المستمرة بدلاً من الأدلة القائمة على الإطارات. تكمن الأهمية في:
- الضغط المهيكل: يوفر واجهة مرئية مدمجة، مهيكلة، ومنظمة زمنياً تربط الملاحظات المتكررة صراحةً، مما يقلل العبء على النموذج اللغوي في استنتاج الارتباط بين الأجسام.
- كفاءة الرموز: يحقق أداءً تنافسياً بميزانية ثابتة ومنخفضة من الرموز (144 رمزاً)، مما يفصل طول المدخلات عن مدة الفيديو ودقته.
- الارتباط المتعلم: يثبت أن الوحدات الشبيهة بالأجسام يمكن اكتشافها وربطها عبر الفترات المفقودة مباشرة من الميزات المرئية دون الاعتماد على نماذج كشف أو تتبع خارجية.
يقر المؤلفون بتواضع بوجود قيود، مشيرين إلى أنه بينما تعد الواجهة مدمجة، فإن الترتيب الزمني طويل المدى والتجزئة في المشاهد المزدحمة تظل تحديات قائمة. ويقترحون أن العمل المستقبلي يجب أن يركز على اكتشاف الأجسام وحركات أكثر ثراءً دون العودة إلى تسلسلات طويلة من رموز الإطارات.