Incentivizing Temporal-Awareness in Egocentric Video Understanding Models

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تحفيز الوعي الزمني في نماذج فهم الفيديو من منظور الشخص الأول (Egocentric)."

1. بيان المشكلة

حققت النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) أداءً قويًا في الفهم البصري العام، لكنها تعاني بشكل كبير في فهم فيديوهات منظور الشخص الأول (Egocentric video understanding). وتتميز هذه الفيديوهات بتغيرات سريعة في زاوية الرؤية، وضعف شديد في إمكانية الإدراك الجزئي، واعتماد سببي قوي بين الإطارات.

حدد المؤلفون ثلاث قيود أساسية في النماذج الحالية (MLLMs) فيما يتعلق بالاستدلال الزمني:

1. الافتقار إلى الحوافز الصريحة: تهدف نماذج الضبط الدقيق الموجه (SFT) ونماذج التعلم المعزز القياسية مثل (GRPO) إلى تحسين صحة الإجابة، لكنها لا تكافئ صراحةً الاتساق الزمني أو الفهم السببي. غالبًا ما تنتج النماذج إجابات صحيحة عن طريق التخمين أو استخدام ملامح ثابتة دون التفكير فعليًا في تسلسل الحدث.
2. الاختصارات المكانية: تحتوي العديد من مجموعات البيانات التدريبية على أسئلة يمكن الإجابة عليها من إطار واحد فقط. وهذا يشجع النماذج على الاعتماد على الاختصارات المكانية (معاملة الفيديوهات كمجموعات صور غير مرتبة) بدلاً من تعلم الديناميكيات الزمنية.
3. ندرة البيانات: تعد سلاسل الاستدلال (المبررات) ذات الترابط الزمني عالي الجودة مكلفة للغاية في التوسيم. معظم مجموعات البيانات توفر فقط أزواج (فيديو-إجابة)، مما يؤدي إلى إنتاج نماذج تولد تفسيرات غير متسقة زمنياً أو هلوسات.

2. المنهجية: تحسين السياسة العالمية الزمنية (TGPO)

لمعالجة هذه المشكلات، اقترح المؤلفون خوارزمية TGPO، وهي خوارزمية للتعلم المعزز مع المكافآت القابلة للتحقق (RLVR) مصممة لتحفيز الوعي الزمني بشكل صريح.

الآلية الجوهرية: المعايرة الزمنية

تقدم TGPO آلية مكافأة تباينية تميز بين الاستدلال القائم على الترتيب الزمني مقابل الملامح المكانية الثابتة:

• المدخل المرتب: يعالج النموذج الفيديو مع إطاراته بترتيبها الزمني الأصلي ويولد استجابات متنوعة عبر أخذ العينات باستخدام درجة الحرارة (Temperature Sampling).
• خط الأساس المختلط (Shuffled Baseline): لنفس زوج (الفيديو-السؤال)، يتم خلط الإطارات عشوائيًا لإزالة المعلومات الزمنية. يولد النموذج استجابة باستخدام فك التشفيد الجشع (Greedy Decoding).
• المكافأة المعايرة: تُحسب المكافأة للاستجابة المرتبة كالتالي:
  $$r_T(y) = r(y) - r(\hat{y})$$
  حيث أن $r(y)$ هي المكافأة للفيديو المرتب، و $r(\hat{y})$ هي المكافأة للفيديو المختلط.
  • إذا كانت $r_T(y) > 0$، فهذا يعني أن النموذج استفاد من التبعيات الزمنية بفعالية.
  • إذا كانت $r_T(y) \leq 0$، فهذا يعني أن النموذج اعتمد على اختصارات مكانية (بما أن الأداء لم يتحسن مع الترتيب الزمني)، وتعمل هذه الإشارة على تثبيط هذا السلوك.

التنميط العالمي (Global Normalization)

على عكس خوارزمية (GRPO) القياسية، التي تقوم بتنميط المكافآت ضمن مجموعة محددة من العينات، تستخدم TGPO التنميط العالمي.

• تقوم بتنميط المكافآت عبر الدفعة الصغيرة (mini-batch) بأكملها (جميع المجموعات مجتمعة).
• لماذا؟ لمنع المجموعات ذات التباين المنخفض (مثل الأسئلة التي يمكن حلها بإطارات مفردة) من تضخيم درجات الميزة الخاصة بها بشكل مصطنع. إذا كانت الدفعة تحتوي على العديد من الحالات الحساسة زمنياً، فإن المتوسط العالمي يرتفع، مما يضمن أن الحالات غير الحساسة زمنياً تتلقى ميزة منخفضة (أو سالبة) معيارية، وبالتالي تثبيط سلوك الاختصارات.

التكامل والتدريب

• أطر العمل: تم دمج TGPO في إطاري تحسين السياسة: GRPO و GSPO (تحسين السياسة التسلسلية للمجموعات).
• تدريب البداية الباردة (Cold-Start Training): اتباعاً لنهج DeepSeek-R1-Zero، قام المؤلفون بتدريب النموذج (Qwen2.5-VL) مباشرة باستخدام التعلم المعزز (RL) دون مرحلة الضبط الدقيق الموجه (SFT). وهذا يلغي الحاجة إلى سلاسل استدلال موسومة بشرياً.
• دالة المكافأة: تُستخدم مكافأة مركبة تجمع بين الدقة (اختيار الإجابة المتعددة الصحيحة) والالتزام بالتنسيق (الالتزام بهيكل تتبع الاستدلال باستخدام وسوم <thought> و <answer>).

3. المساهمات الرئيسية

1. إطار عمل TGPO: تقديم إطار عمل RLVR معاير زمنياً يحفز صراحة الوعي الزمني من خلال المقارنة بين مدخلات الفيديو المرتبة والمختلطة.
2. تخفيف الاختصارات المكانية: تعمل آليات التنميط العالمي والمعايرة الزمنية بفعوة على منع النماذج من تعلم الاختصارات المكانية الزائفة، مما يجبرها على الاعتماد على التبعيات السببية والزمنية.
3. مسار تدريب فعال: إثبات أن التعلم المعزز للبداية الباردة وحده كافٍ لتحقيق أداء استدلال زمني قوي، مما يزيل الاعتماد على بيانات الاستدلال الموسومة بشرياً والمكلفة.

4. النتائج التجريبية

قيم المؤلفون نهجهم على خمسة اختبارات مرجعية لفيديوهات منظور الشخص الأول: EgoSchema، وEgoTempo، وVLM4D، وEgoPlan، وEgoPlan 2.

• تحسين الأداء: تفوقت TGPO باستمرار على GRBO وGSPO وغيرها من النماذج المرجعية القائمة على التعلم المعزز في جميع الاختبارات.
  • في EgoSchema، حققت TGPO (GRPO) دقة بنسبة 49.6%، متفوقة على خط الأساس GRPO (46.5%) ونموذج EgoVLM GRPO المملوك (46.5%).
  • في EgoPlan 2، حققت TGPO نسبة 42.3%، متفوقة بشكل كبير على خط الأساس GRPO (37.1%) وحتى على النماذج الضخمة المملوكة مثل GPT-4o (32.6%).
  • في EgoTempo (المركز على الفهم الزمني الشامل)، وصلت TGRO إلى 45.2%، وهي الأعلى بين جميع النماذج المختبرة، بما في ذلك الأنظمة المملوكة.
• كفاءة التدريب: أظهرت متغيرات TGPO نمواً أسرع في المكافأة ومسارات تدريب أكثر سلاسة مقارنة بالنماذج المرجعية. كانت المساحة تحت المنحنى (AUC) للمكافآت أعلى بكثير، مما يشير إلى كفاءة أفضل في العينات واستقرار أكبر.
• التحليل النوعي: أظهرت دراسات الحالة أن TGPO تتبعت بشكل صحيح التسلسلات الزمنية متعددة الخطوات (مثل عمليات صناعة الطوب)، بينما غالباً ما قامت GRPO باختزال هذه العمليات في تفسيرات مكانية أحادية الخطوة.

5. الأهمية

يمثل هذا العمل خطوة هامة للأمام في جعل النماذج اللغوية متعددة الوسائط (MLLMs) قوية في فهم فيديوهات منظور الشخص الأول. من خلال نقل التركيز من التعرف البصري الساكن إلى الاستدلال الزمني الديناميكي، تقدم TGPO مساراً قابلاً للتوسع لتدريب النماذج على فهم التطور السببي للأحداث.

تشير النتائج إلى أن:

• مكافأة التماسك الزمني صراحة أكثر فعالية من الاعتماد على الخصائص الناشئة من التدريب القياسي.
• يمكن للتعلم المعزز للبداية الباردة أن يحل محل مسارات SFT المعقدة للمهام الزمنية.
• النماذج مفتوحة المصدر المدربة باستخدام TGPO يمكنها سد الفجوة في الأداء مع النماذج الضخمة المملوكة في مهام الاستدلال الزمني المتخصصة دون زيادة عدد معاملات النموذج.

يوفر هذا النهج منهجية تأسيسية للأبحاث المستقبلية في أطر التعلم التي تهدف إلى مواءمة الذكاء الاصطناناعي بشكل أفضل مع الطبيعة الديناميكية والسببية للإدراك في العالم الحقيقي.