VideoGAIA: A Benchmark for General AI Assistants on Agentic Video Understanding
لمعالجة تشبع معايير فهم الفيديو التقليدية أحادية الدور، تقدم هذه الورقة VideoGAIA، وهو معيار صارم متعدد الأدوار ومعزز بالأدوات يضم 271 مهمة تم التحقق منها من قبل خبراء، والتي تكشف عن فجوات كبيرة في أداء النماذج اللغوية الكبيرة متعددة الوسائط الرائدة حالياً، وتهدف إلى دفع المجال نحو فهم الفيديو القائم على الوكالة.
لطالما اعتمدت الطريقة التي نختبر بها الذكاء الاصطناعي لسنوات على لعبة بسيطة: اعرض على الكمبيوتر مقطع فيديو، واطرح سؤالاً واحداً، ثم انتظر الإجابة. هذا النهج، المعروف باسم "فهم الفيديو"، أصبح معياراً لقياس مدى قدرة الآلات على الرؤية والاستنتاج حول العالم المتحرك. وفي الآونة الأخيرة، أصبحت أكثر أنظمة الذكاء الاصطناًعي تقدماً بارعة في هذا الأمر لدرجة أنها تستطيع الإجابة على كل الأسئلة تقريباً بشكل صحيح، وصولاً إلى نقطة لم يعد الاختبار فيها يكشف عن حدودها الحقيقية. الأمر يشبه طالباً حفظ الكتاب المدرسي بأكه، ويمكنه تسميع أي حقيقة، ومع ذلك لا نزال لا نعرف ما إذا كان بإمكانه حقاً حل مشكلة جديدة في العالم الحقيقي. ولتجاوز هذا الركود، احتاج الباحثون إلى طريقة جديدة لقياس الذكاء، طريقة لا تكتفي بطلب حقيقة ما، بل تتطلب من الآلة أن تعمل كباحث بشري فضولي.
قدم فريق من الباحثين من جامعات وشركات تكنولوجية في الصين اختباراً جديداً كهذا، يسمى "VideoGAIA". فبدلاً من مطالبة النموذج بمشاهدة فيديو والإجابة على سؤال واحد، يعامل هذا المعيار الجديد الفيديو كمجرد نقطة انطلاق لتحقيق أطول بكثير. في هذا الإعداد، يعمل الذكاء الاصطناعي كوكيل، أي مساعد رقمي يجب عليه معرفة ما يجهله، والذهاب للبحث عن تلك المعلومات المفقودة، ثم جمع كل ذلك معاً لحل مهمة معقدة. قد يظهر الفيديو شخصاً يحمل هاتفاً معيناً أو سيارة تسير عبر مدينة، لكن الإجابة على السؤال غالباً ما تكمكن خارج نطاق الفيديو تماماً. يجب على النظام التعرف على دليل في اللقطات، وتقرير البحث في الإنترنت عن مزيد من التفاصيل، وقراءة نتائج ذلك البحث، ثم العودة إلى الفيديو للتحقق مما إذا كانت المعلومات الجديدة تتوافق معه. هذه العملية من البحث، والتقصي، والقراءة، والتحقق تحدث عبر جولات عديدة، محاكيةً بذلك الطريقة التي يبحث بها البشر في موضوع ما.
بنى الباحثون هذا الاختبار بالبدء بمجموعة ضخمة مكونة من مائة ألف فيديو من الإنترنت. واستخدموا نماذج ذكاء اصطناعي قوية لمساعدتهم في اختيار مقاطع مثيرة للاهتمام وتوليد أسئلة لا يمكن الإجابة عليها بمجرد النظر إلى الفيديو وحده. على سبيل المثال، قد يظهر فيديو مضيفاً في استوديو يعرض هواتف عديدة، وهو يمسك بهاتف فضي ذي ظهر شفاف بجانب منصة منتجات خضراء، وسوف يسأل السؤال عن نوع الشريحة (chipset) المحددة التي تشغل هذا الطراز. الفيديو نفسه لا يظهر اسم الشريحة أو تفاصيلها التسويقية. للإجابة بشكل صحيح، يجب على الذكاء الاصطناعي أولاً رصد الهاتف في الفيديو، ثم استخدام أداة بحث للعثور على مواصفات المنتج عبر الإنترنت، وقراءة التفاصيل على صفحة ويب، وأخيراً التأكد من أن الشريحة تطابق الأدلة المرئية. قام الفريق بتنقية هذه الأسئلة المحتملة من خلال عملية صارمة، حيث راجع خبراء بشريون كل مهمة بدقة لضمان كونها عادلة، وصعبة، وتتطلب استنتاجاً حقيقياً. وبعد أكثر من مائة ساعة من المراجعة البشرية، استقروا على مجموعة نهائية من 271 مهمة تغطي ستة مجالات واقعية، تشمل التكنولوجيا، والتاريخ، والجغرافيا، والحياة اليومية، والثقافة، والاقتصاد.
عندما اختبر الباحثون عشرين من أكثر نماذج الذكاء الاصطناعي تقدماً المتاحة اليوم على هذا المعيار الجديد، كانت النتائج صارخة. فحتى الأنظمة الأكثر قوة، والتي سجلت سابقاً ما يقرب من تسعين بالمائة في الاختبارات القديمة، واجهت صعوبة في الوصول إلى ستين بالمائة من الدقة في "VideoGAIA". حقق أفضل النماذج أداءً، وهو نظام يسمى "Seed2.0-Pro"، دقة بلغت 58.30 بالمائة، بينما انخفضت دقة النماذج الأخرى بشكل ملحوظ. تظهر هذه الفجوة أنه بينما تبرع هذه الآلات في التعرف على ما هو أمامها مباشرة، إلا أنها لا تزال تتعلم كيفية استخدام الأدوات بفعالية لسد الثغرات. ووجدت الدراسة أن المصدر الأكبر للفشل لم يكن نقص المعرفة أو عدم القدرة على القراءة من الويب، بل كان الفشل في تحديد الأدلة المرئية في الفيديو بشكل صحيح في المقام الأول. فإذا أخطأ الذكاء الاصطناعي في تحديد جسم أو تفصيل في اللقطة، فإنه سيبحث عن المعلومات الخاطئة، مما يؤدي إلى إجابة خاطئة.
لاحظ الباحثون أيضاً أن مجرد جعل الذكاء الاصطناعي يبحث أكثر أو يقرأ لفترة أطول لا يضمن النجاح. فقد قامت بعض النماذج بمئات الاستدعاءات للأدوات، حيث بحثت في الويب مراراً وتكراراً، ومع ذلك فشلت في حل المهمة. بينما قامت نماذج أخرى باستدعاءات أقل ولكنها كانت أكثر دقة، حيث توقفت بمجرد جمع الأدلة الكافية. كانت الوكلاء الأكثر نجاحاً هي تلك التي استطاعت الحفاظ على شعور بعدم اليقين، وإدراك متى لا تملك معلومات كافية ومعرفة ما يجب البحث عنه تالياً بدقة. كانت تعود إلى أجزاء محددة من الفيديو للتحقق من تفصيل ما، وتقارن ذلك بصفحة ويب، ومن ثم فقط تلتزم بإجابة. هذا السلوك أقرب إلى طريقة عمل الخبير البشري، الذي يتحقق بعناية من الحقائق قبل التوصل إلى استنتاج.
تشير النتائج إلى أن الجيل القادم من الذكاء الاصطناعي لن يتحدد بمدى قدرته على الإجابة على سؤال من صورة أو فيديو واحد، بل بمدى قدرته على التنقل في العالم لإيجاد الإجابة. يعمل معيار "VideoGAIA" كاختبار صارم لهذه القدرة الجديدة، كاشفاً أن الطريق نحو مساعدين أذكياء حقاً يتطلب أكثر من مجرد رؤية أفضل أو قواعد بيانات أكبر؛ إنه يتطلب القدرة على التفكير، والبحث، والتحقق في حلقة مستمرة. وبينما حققت النماذج الحالية خطوات كبيرة، فإن حقيقة عدم تمكن أي منها من إتقان هذا الاختبار الجديد تشير إلى أنه لا يزال هناك طريق طويل لقطعه قبل أن تتمكن الآلات حقاً من مساعدتنا في المهام المعقدة والمفتوحة في الحياة اليومية. يوفر هذا العمل خارطة طريق واضحة للتطوير المستقبلي، موضحاً أن مفتاح التقدم يكمن في تعليم هذه الأنظمة ألا تكون مجرد مراقبين، بل باحثين نشطين.
ملخص تقني: VideoGAIA
بيان المشكلة
لطالما كان فهم الفيديو مهمة أساسية لتقييم نماذج اللغات الكبيرة متعددة الوسائط (MLLMs). ومع ذلك، أدى التقدم السريع في النماذج التأسيسية إلى تشبع المعايسات التقليدية. ففي مجموعات بيانات الإجابة على أسئلة الفيديو أحادية الدور الرائدة مثل Video-MME وVideoMMMU وMLVU، تحقق النماذج المتطورة الآن دقة تقترب من 90%. يشير هذا الاتجاه إلى أن فهم الفيديو السلبي أحادي الدور قد أصبح مشكلة شبه محلولة، مما يفشل في تقييم القدرات المطلوبة لمساعدي الذكاء الاصطناي القادمين.
بينما تعيد الوكلاء متعددون الوسائط (multimodal agents) تشكيل كيفية تفاعل أنظمة الذكاء الاصطناعي مع العالم، لا يزال تطوير وتقييم وكلاء الفيديو (video agents) — وهي الأنظمة القادرة على إدراك الفيديوهات بشكل تكراري، واستدعاء الأدوات الخارجية، وتوليف المعلومات لحل مهام معقدة — غير مستكشف بشكل كافٍ. تعتمد المعايسات الحالية غالبًا على بروتوكولات مغلقة أحادية الدور حيث تجيب النماذج على أسئلة محددة مسبقًا دون تحديد ما يجب فحصه من أدلة أو استشارة موارد خارجية بنشاط. هناك حاجة ماسة لنموذج تقييم جديد ينتقل من الإجابة السلبية على الأسئلة إلى الفهم الوكيل للفيديو (agentic video understanding)، حيث يعمل الفيديو كدليل لإنجاز مهام واقعية ملموسة.
المنهجية
قدم المؤلفون VideoGAIA، وهو معيار مصمم لتقييم مساعدي الذكاء الاصطناعي العام في بيئة فهم وكيل للفيديو. يتبع بناء VideoGAIA مسار تصميم مشترك بين الإنسان والنموذج متعدد المراحل وصارم:
جمع البيانات: تبدأ العملية بمجموعة تضم 100,000 فيديو متاح علنًا تم جمعها من الإنترنت.
مسار بناء المهام:
الوصف على مستوى الإطار: يتم أخذ عينات من الفيديوهات بمعدل إطار واحد في الثانية (1 FPS)، وتقسيمها إلى مقاطع، ومعالجتها بواسطة نماذج رائدة (مثل Gemini-3.1-Pro) لتوليد أوصاف بصرية مفصلة واستخراج النصوص عبر تقنية التعرف الضوئي على الحروف (OCR).
توليد المهام القائمة على الأدلة: تقوم النماذج (مثل Claude-Opus-4.7 وGPT-5.5) باستخراج "مرتكزات الفيديو" القابلة لإعادة الاستخدام (الأشياء، النصوص، الشعارات، الأفعال) وتوليد مهام تتطلب تحديد سمات مستهدفة. ومن الأهمية بمكان أن المهام مصممة بحيث لا يمكن حلها بالفيديو وحده؛ بل تتطلب استرجاع أدلة خارجية عبر البحث في الويب لربط مرتكزات الفيديو بحقائق محددة.
ضبط الجودة: تضمن عملية تصفية صارمة متعددة المراحل صلاحية المهام:
ضبط الجودة القائم على المعايير: يجب أن تتطلب المهام ما لا يقل عن مرتكزين للفيديو، وتتضمن استدلالًا متعدد الخطوات (فيديو ← ويب)، وتخفي الإجابات من خلال تعبيرات إشارية بصرية.
التصفية عبر الوسائط: يتم اختبار المهام لضمان عدم إمكانية حلها باستخدام الفيديو فقط أو محتوى الويب فقط، مما يضمن ضرورة الاستدلال متعدد الوسائط.
تقييم ضرورة الأداة: يتم استبعاد المهام التي يمكن للنماذج حلها باستخدام الفيديو والمعرفة العالمية فقط (بدون أدوات).
فحص السلامة: إزالة معلومات الهوية الشخصية (PII)، والبيانات الحساسة، والمحتوى غير اللائق.
التحقق البشري: تخضع مهام المرشحين المتبقية للتحقق المستقل من قبل ثلاثة خبراء بشريين. يتم الاحتفاظ فقط بالمهام التي تحظى بموافقة بالإجماع أو بالأغلبية (يليها عملية فض النزاعات).
إحصائيات مجموعة البيانات: تتكون مجموعة الاختبار النهائية من 271 مهمة عالية الجودة تغطي ست فئات من العالم الحقيقي: الثقافة، الجغرافيا، الحياة اليومية، التاريخ، التكنولوجيا، والاقتصاد. تنقسم مجموعة البيانات إلى مستويين من الصعوبة: L1 (62 مهمة) وL2 (209 مهمة)، حيث يركز L2 على عمليات الحصول على الأدلة المعقدة ومتعددة الخطوات.
بروتوكول التقييم: يقيم المؤلفون 20 نموذجًا رائدًا من نماذج اللغات الكبيرة متعددة الوسائط (MLLMs) باستخدام حلقة وكيل موحدة بأسلوب ReAct. يتم تزويد النماذج بإطارات فيديو أولية ويمكنها التداخل بين الاستدلال وثلاث أدوات محددة:
البحث في الويب: لاسترجاع المعلومات الخارجية.
زيارة الصفحة: لتحويل صفحات الويب إلى محتوى نصي.
التفكير مع الفيديوهات: لإعادة زيولة وفحص مقاطع زمنية محددة من الفيديو. يُسمح للنماذج بما يصل إلى 40 خطوة وكيل لكل مهمة. تُقاس الأداء بدقة pass@1 مقابل الإجابات المرجعية التي تم التحقق منها بشريًا.
المساهمات الرئيسية
يوضح البحث ثلاث مساهمات رئيسية:
تحول النموذج: يدعو العمل إلى الانتقال من فهم الفيديو أحادي الدور إلى الفهم الوكيل للفيديو. هذا النموذج الجديد يعامل محتوى الفيديو كدليل لإنجاز مهام ملموسة بدلاً من مجرد موضوع للسؤال، مما يتطلب من الوكلاء الإدراك والبحث والتوليف للمعلومات بشكل تكراري.
معيار عالي الجودة: يعد VideoGAIA معيارًا منسقًا بعناية يحتوي على 271 مهمة تم التحقق منها بشريًا. يضمن بناؤه عبر مسار تصميم مشترك بين الإنسان والنموذج تعدد مراحل دقة قوية، وصعوبة مناسبة، ومتطلبات حقيقية للاستدلال متعدد الوسائط واستخدام الأدوات.
تقييم شامل: يقدم البحث تقييمًا منهجيًا لـ 20 نموذجًا من نماذج اللغات الكبيرة متعددة الوسائط المتطورة تحت إعداد وكيل موحد، مما يكشف عن فجوات كبيرة في الأداء مقارنة بالمعايات التقليدية.
النتائج
يكشف تقييم 20 نموذجًا رائدًا على VideoGAIA عن النتائج الرئيسية التالية:
دقة إجمالية منخفضة: تحقق جميع النماذج التي تم تقييمها دقة أقل من 60%. النموذج الأعلى أداءً، Seed2.0-Pro، وصل إلى 58.30%، يليه Qwen3.7-Plus (56.09%) وKimi-K3 (54.61%). هذه النسبة أقل بكثير من دقة ~90% الملحوظة في المعايات التقليدية مثل Video-MME.
الحساسية للصعوبة: هناك انخفاض ثابت وكبير في الأداء من مهام L1 إلى L2. على سبيل المثال، ينخفض أداء Seed2.0-Pro من 75.81% في L1 إلى 53.11% في L2، مما يشير إلى أن مهام L2 تنجح في التقاط مسارات أصعب تتضمن إشارات غير مباشرة وتوفيقًا للأدلة متعدد الخطوات.
أنماط استخدام الأدوات: يكشف تحليل استخدام الأدوات أن البحث في الويب يهيمن على جميع النماذج (60.5%–90.6% من الاستدعاءات). ومن المثير للاهتمام أن حجم استدعاءات الأدوات الأعلى لا يرتبط بالضرورة بدقة أعلى؛ فعلى سبيل المثال، يقوم Gemini-3.1-Pro باستدعاءات أكثر بكثير من GPT-5.5 ولكنه يحقق دقة أقل.
تحليل الخطأ: المصدر الرئيسي للخطأ لجميع النماذج هو إدراك الفيديو (36.8%–48.0%)، حيث يؤدي التمركز البصري الخاطئ إلى تلويث الاستدلال اللاحق. وتشمل الاختناقات الأخرى استرجاع الويب (20.3%–31.0%) والاستدلال بالأدلة (14.2%–28.6%). أما أخطاء صياغة الإجابة فهي ضئيلة (<3.3%).
التوسع غير الرتيب: التحسينات الجيلية ليست عالمية. بينما تظهر النماذج الأحدث في عائلات Kimi وGLM وGemini تحسنًا، فإن نماذج Claude-Opus الأحدث (4.7 و4.8) سجلت درجات أقل من سابقتها (4.6). وتحديدًا، حقق Claude-Opus-4.7 و4.8 نسبة 34.69% و36.90% على التوالي، وكلاهما أقل من درجة Claude-Opus-4.6 البالغة 47.97%. يشير هذا إلى أن توسع القدرة العامة لا ينتقل تلقائيًا إلى استخدام موثوق للأدوات متعددة الوسائط.
الأهمية والادعاءات
يزعم المؤلفون أن VideoGAIA يعمل كمعيار في الوقت المناسب وعالي الجودة لتقييم الجيل القادم من نماذج اللغات الكبيرة متعددة الوسائط (MLLMs). ويجادل البحث بأن التشبع الحالي في معايات الدور الواحد يخفي قيود النماذج الحالية في الفهم الوكيل للفيديو.
تكمن أهمية VideoGAIA في قدرته على كشف الفجوة بين النماذج التي يمكنها الإجابة على أسئلة حول الفيديوهات والنماذج التي يمكنها استخدام الفيديوهات كدليل لحل مهام من العالم الحقيقي. تشير النتائج إلى أن فهم الفيديو الوكيل لا يزال بعيدًا عن الحل، مما يطرح فرصًا كبيرة للبحث المستقبلي في بنيات النماذج، واستراتيجيات التدريب، وأطر عمل الوكلاء. يأمل المؤلفون أن يسهل هذا المعيار الانتقال من فهم الفيديو التقليدي نحو نموذج أكثر قوة، مدعوم بالأدوات، ومدمج للأدلة للوكلاء المساعدين العامين.