RAVEN-Eval: Rubric-Guided Automatic Evaluation for AI Video Generation Models Based on LMM Preference Judgement
تقدم هذه الورقة البحثية RAVEN-Eval، وهو إطار تقييم آلي قابل للتوسع وموجه بمعايير محددة، يستفيد من أحكام التفضيل لنماذج اللغات الكبيرة متعددة الوسائط (LMM) للتمييز بشكل موثوق بين الفروق الدقيقة في الجودة بين نماذج توليد الفيديو المتقدمة بالذكاء الاصطناعي مع تقليل تكاليف التوسيم البشري إلى أدنى حد.
تخيل أنك مخرج لاستوديو أفلام ضخم وعالي التقنية، حيث الممثلون هم في الواقع حواسيب فائقة الذكاء. هذه الحواسيب، المعروفة باسم مولدات الفيديو بالذكاء الاصطناعي، يمكنها الآن إنشاء مشاهد كاملة من الصفر بمجرد قراءة جملة تكتبها. لكن العقدة تكمن في أنها أصبحت جيدة للغاية لدرجة أن الفرق بين فيديو "جيد جداً" وآخر "مذهل" هو فرق دقيق كفرق درجتين من اللون الأزرق. في الماضي، كان بإمكانك ببساطة أن تطلب من إنسان أن يشاهد وتقول له: "هذا يبدو أفضل". ولكن الآن، مع إنتاج آلاف الفيديوهات يومياً، فإن توظيف عدد كافٍ من البشر لمشاهدتها جميعاً سيكلف ثروة طائلة ويستغرق وقتاً طويلاً جداً. علاوة على ذلك، قد يتعب البشر وقد يغفلون عن تفاصيل دقيقة للغاية. هذه هي المشكلة التي يواجهها العلماء: كيف تقيم هؤلاء الفنانين الحاسوبيين الخارقين عندما يؤدون جميعاً بمستوى يقترب من المثالية، ولا يمكنك تحمل تكلفة جعل إنسان يشاهد كل مقطع؟
هنا يأتي دور ورقة "RAVEN-Eval". إنها تشبه نظام حكم جديد فائق الصرامة مصمم للحكم على أفلام الذكاء الاصطناعي هذه دون الحاجة إلى جلوس إنسان لمشاهدة كل فيلم منها. أدرك الباحثون أنه بدلاً من سؤال الحاسوب: "قيم هذا الفيديو من 1 إلى 10"، وهو أمر غالباً ما يكون مربكاً وغير متسق، فمن الأفضل سؤاله: "أي من هذين الفيديوهين أفضل؟". وهذا ما يسمى بـ "المقارنة الزوجية"، وهي أسهل بكثير لكل من البشر والحواسيب على حد سواء. ولكن لضمان ألا يختار الحكم الحاسوبي الفيديو الأكثر بهرجة فحسب، فقد منح الفريق "قاعدة بيانات" أو "دليل معايير" خاصاً لكل مهمة. الأمر يشبه إعطاء القاضي قائمة مراجعة تقول: "إذا طلب الأمر كرة حمراء، فيجب أن تكون الكرة حمراء"، أو "إذا طلب الأمر مكبساً هيدروليكياً يسحق بطة، فيجب أن تنبعج البطة، لا أن تنفجر". ومن خلال استخدام هذه القواعد المحددة، يمكن للنظام رصد الاختلافات الدقيقة والرهيفة التي تفصل بين أفضل نماذج الذكاء الاصطناعي والآخرين.
قام الفريق وراء هذه الدراسة، بقيادة باحثين من جامعة شانغهاي جياو تونغ ومختبر شانغهاي للذكاء الاصطناعي، ببناء ساحة اختبار ضخمة تسمى "RAVEN-Eval Benchmark". لم يلقوا بطلبات عشوائية على الذكاء الاصطناعي؛ بل قاموا بتنسيق 250 مهمة مختلفة بعنابة، تتراوح من طلبات تحويل النص إلى فيديو بسيطة إلى تحديات معقدة لتحويل الصورة إلى فيديو حيث يتعين على الذكاء الاصطناعي ملء الجزء الأوسط المفقود من المشهد. لقد أنتجوا أكثر من 4,500 فيديو لاختبار 20 نموذجاً من أفضل نماذج الفيديو بالذكاء الاصطناعي في العالم. وبدلاً من ترك الذكاء الاصطناعي يحكم نفسه بشكل أعمى، استخدموا نظام "حكم" مدعوماً بنماذج لغوية متعددة الوسائط الكبيرة (LMMs) — وهي في الأساس عقول ذكاء اصطناعي يمكنها رؤة وفهم الصور والنصوص. تم تزويد هؤلاء الحكام من الذكاء الاصطناعي بقواعد محددة لكل مهمة، وطُلب منهم مقارنة الفيديوهات جنباً إلى جنب.
كانت النتائج رائعة. وجد الباحثون أنه عندما زودوا حكام الذكاء الاصطناعي بكتيبات القواعد التفصيلية الخاصة بكل مهمة، أصبح النظام بارعاً للغاية في التمييز بين النماذج رفيعة المستوى. في الواقع، توافق نظامهم الجديد مع الخبراء البشر بشكل أكبر بكثير من الطرق السابقة التي كانت تطلب درجة عامة أو تستخدم قوائم مراجعة ثابتة. حتى أنهم أنشأوا لوحتين للمتصدرين: واحدة لتصنيف نماذج الفيديو العشرين (توضح من هو الفنان الأفضل حالياً) والأخرى لتصنيف الحكام الثلاثة عشر المختلفين أنفسهم (توضح أي عقل ذكاء اصطناعي هو الحكم الأكثر دقة). ومن أذكى الحيل التي ابتكرواها ما يسمى بـ "الإدراج القائم على المرتكزات". تخيل أن لديك لوحة متصدرين لأفضل 20 عداءً، ثم ظهر عداء جديد. بدلاً من جعل العداء الجديد يتسابق ضد العشرين جميعاً (مما سيستغرق وقتاً طويلاً جداً)، يمكنك فقط جعله يتسابق ضد عدد مختار بعناية من العدائين "المرتكزات" من أعلى ووسط وأسفل المجموعة. هذا يسمح لك بمعرفة أين يقع العداء الجديد في التصنيف بجهد أقل بكثير.
في النهاية، تشير الورقة إلى أن هذه الطريقة الجديدة لاستخدام الذكاء الاصطناعي للحكم على الذكاء الاصطناعي الموجهة بالقواعد هي مسار قابل للتوسع وموثوق به. إنها تثبت أننا لسنا بحاجة للاعتماد حصرياً على المعلقين البشريين المكلفين لمواكبة الوتيرة السريعة لتوليد الفيديو بالذكاء الاصطناعي. فمن خلال استخدام المقارنات الذكية القائمة على القواعد، يمكننا بناء نظام موثوق يتطور بنفس سرعة النماذج التي يحاول قياسها، مما يضمن أنه بينما يتحسن هؤلاء الفنانون الرقميون، تتحسن أيضاً قدرتنا على تقدير وتصنيف أعمالهم.
ملخص تقني: RAVEN-Eval
بيان المشكلة
أدى التقدم السريع والتسويق التجاري لنماذج توليد الفيديو بالذكاء الاصطناعي (AIVGMs) إلى جعل نماذج التقييم التقليدية غير كافية. تواجه الأساليب الحالية تحديين رئيسيين:
قابلية التوسع وتكلفة التقييم البشري: مع تقلص الفجوة النوعية بين النماذج الرائدة (SOTA)، يتطلب تمييز الاختلافات الدقيقة خبراء يتمتعون بمهارات عالية وانتباه مستدام، مما يؤدي إلى تكاليف باهظة وعدم اتساق محتمل في التعليقات التوضيحية.
محدودية المقاييس الآلية: تعتمد الأطر الآلية الحالية غالبًا على أبعاد محددة مسبقًا (مثل الدقة البصرية، جودة الحركة) أو التقييم المطلق. وتواجه هذه الأساليب صعوبة في التمييز بين النماذج المتقدمة حيث تكون الاختلافات دقيقة وتعتمد على السياق. علاوة على ذلك، يفتقر التقييم المطلق إلى الدقة اللازمة لالتقاط الفروق الدقيقة في الأداء النسبي بشكل فعال.
هناك حاجة ماسة إلى إطار تقييم آلي يمكنه تمييز فروق القدرات الدقيقة بين نماذج AIVGM الرائدة بشكل موثوق وبأقل تدخل بشري مع الحفاظ على الموثوقية.
المنهجية
يقترح المؤلفون RAVEN-Eval، وهو إطار تقييم آلي قائم على المهام وموجه بالمعايير (rubric-guided)، مبني على نموذج "النماذج اللغوية الكبيرة متعددة الوسائط كحكم" (LMM-as-a-judge). يتكون الإطار من أربعة مكونات أساسية:
1. معيار RAVEN-Eval
يتم بناء المعيار من خلال مسار عمل آلي يتضمن تنسيق المهام، وتصفية الجودة، وتوليد الفيديو.
أنواع المهام: يتكون من 250 مهمة متنوعة مقسمة إلى: تحويل النص إلى فيديو (T2V)، وتوسيع الإطارات الرئيسية (KFT)، وإكمال الإطار الأول والأخير (FLT).
أبعاد القدرة: تم بناء المهام بناءً على ثلاثة أبعاد متكاملة لضمان القدرة التمييزية:
تعقيد المشهد (S): يتراوح من التخطيطات البسيطة إلى الهياكل المكانية المعقدة مع كائنات متعددة.
تعقيد التفاعل الديناميكي (D): يتراوح من المشاهد الساكنة إلى التفاعلات المنسقة ومتعددة المراحل.
متطلبات المعرفة (K): تتراوح من السيناريوهات اليومية إلى تلك التي تتطلب معرفة تخصصية بمستوى الخبراء (مثل الفيزياء، الكيمياء، الجماليات الاحترافية).
مهام الاستنتاج: حوالي 20% من المهام قائمة على الاستنتاج، حيث توفر المطالبات (prompts) تلميحات فقط، مما يتطلب من النموذج استنتاج النتيجة المتوقة.
حجم البيانات: يتضمن المعيار أكثر من 4,600 فيديو عالي الجودة تم توليده من 20 نموذجًا مختلفًا لـ AIVGM.
التصفية: تعمل عملية تصفية ثنائية المراحل على إزالة المهام منخفضة الصعوبة وتضمن أن المهام المتبقية تظهر فجوات أداء واضحة بين النماذج ذات القدرات المتفاوتة.
2. الحكم على التفضيل الزوجي الموجه بالمعايير
بدلاً من التقييم المطلق، يستخدم RAVEN-Eval مقارنات زوجية موجهة بمعايير خاصة بكل مهمة.
بناء المعايير (Rubric Construction): لكل مهمة، يتم إنشاء معيار من مستويين:
المعايات الأساسية (Primary Criteria): متطلبات خاصة بالمهمة مشتقة من المطالبة وتفاصيل غنية (مثل عدد كائنات محدد، عمليات التفاعل، الاتساق الفيزيائي).
المعايير العامة (Basic Criteria): مقاييس جودة عامة (مثل الدقة البصرية، الطبيعية) تُطبق بشكل موحد عبر جميع المهام.
بروتوكول الحكم: تعمل النماذج اللغوية الكبيرة متعددة الوسائط (LMMs) كحكام، حيث تقارن بين أزواج الفيديوهات بناءً على المعايير. ولضمان الاستقرار، يستخدم النظام بروتوكولًا متينًا تجاه ترتيب المدخلات (order-robust) حيث يتم تقييم الأزواج مرتين مع عكس ترتيب المدخلات.
التحسين المدرك للتعادل (Tie-Aware Optimization): يستخدم الإطار طريقة تقدير الاحتمال الأقصى (MLE) المعدلة والمدركة للتعادل لـ Davidson لتقدير قدرات النماذج. يقوم هذا صراحةً بنمذجة احتمالية حدوث "تعادل" ويقلل من وزن الأحكام غير المؤكدة، مما يعالج مشكلة الأزواج التي لا يمكن تمييزها.
3. الإدراج القائم على المرتكزات (Anchor-Based Model Insertion)
لمعالجة النمو التربيعي للمقارنات الزوجية مع إضافة نماذج جديدة، يقدم RAVEN-Eval استراتيجية إدراج قائمة على المرتكزات.
اختيار المرتكزات: يتم اختيار مجموعة فرعية من النماذج الموجودة كـ "مرتكزات" بناءً على درجات موثوقيتها (الاتفاق مع التقييمات المشتركة والاستقرار عبر الحكام).
الكفاءة: تتم مقارنة النماذج الجديدة بالمرتكزات فقط بدلاً من المجموعة بأكملها، مما يقلل تكاليف التقييم بشكل كبير مع الحفاظ على دقة التصنيف.
4. لوحات المتصدرين (Leaderboards)
ينشئ الإطار لوحتين للمتصدرين متكاملتين:
لوحات متصدري AIVGM: تصنيفات لـ 20 نموذج توليد حديث مفتوح المصدر ومملوك لشركات عبر مهام T2V وKFT وFLT.
لوحات متصدري الحكام: معايير لتقييم قدرات التفضيل والحكم للنماذج اللغوية الكبيرة (LMMs) العامة مقابل التفضيلات البشرية.
النتائج الرئيسية
أداء النماذج: نجحت لوحات متصدري RAV-Eval في تصنيف 20 نموذجًا من أحدث النماذج مفتوحة المصدر والمملوكة. برز نموذج Seedance 2 كأفضل أداء عبر فئات T2V وKFT وFLT، يليه Grok-Imagine Video ثم Kling 3.0 Pro.
موثوقية التقييم: يظهر الإطار توافقًا قويًا مع التفضيلات البشرية. وصل معامل ارتباط سبيرمان (SRCC) بين تصنيفات RAVEN-Eval والتصنيفات الموضحة بشريًا إلى 0.872 لـ T2V و 0.903 لـ KFT، متفوقًا على الأساليب الآلية الحالية (مثل VideoScore وLOVE) والنسخ التجريبية التي تفتقر إلى المعايير.
فعالية المعايير (Rubric Effectiveness): تؤكد دراسات الاستئصال (Ablation studies) أن التقييم الزوجي الموجه بالمعايير يتفوق بشكل كبير على كل من التقييم المطلق الموجه بالمعايير والتقييم الزوجي غير الموجه بالمعايير، مما يسلط الضوء على ضرورة التوجيه الخاص بالمهمة للتمييز الدقيق.
كفاءة المرتكزات: تقلل استراتيجية الإدراج القائمة على المرتكزات من تكاليف التعليقات التوضيحية الزوجية بنسبة 34.2% (عندما يكون K=1) و 21.1% (عندما يكون K=2) مع الحفاظ على اتساق التصنيف (SRCC > 0.8) مع تقييمات الرسم البياني كامل الاتصال.
قدرات حكام LMM: تكشف لوحات متصدري الحكام أن النماذج اللغبية الكبيرة (LMMs) الأكبر والأكثر قدرة تحقق عمومًا اتفاقًا أعلى مع التفضيلات البشرية وتصدر أحكامًا أكثر ثقة.
الأهمية والادعاءات
يزعم البحث أن RAVEN-Eval يؤسس نموذجًا قابلًا للتوسع وموثوقًا للتقييم الآلي لنماذج AIVGM سريعة التطور. وتتمثل مساهماته الرئيسية في:
التمييز الدقيق: من خلال الانتقال من الأبعاد الثابتة إلى السيناريوهات الموجهة بالمعايير والمركزة على المهام، يمكن للإطار التقاط الفروق الدقيقة في القدرات التي تغفلها المقاييس التقليدية.
الأتمتة منخفضة التكلفة: يوفر نموذج "LMM-as-a-judge"، مقترنًا باستراتيجية الإدراج القائمة على المرتكزات، مسارًا قابلاً للتطبيق لتحديث المعايير باستمرار دون التكاليف الباهظة للتعليقات التوضيحية البشرية واسعة النطاق.
التقييم الشامل: يوفر إنشاء لوحات مزدوجة للمتصدرين (للنماذج وللحكام) مرجعًا قياسيًا لكل من تطوير النماذج وتقييم قدرات الحكم لـ LMM.
المرونة دون الحاجة للتدريب: يظهر الإطار أداءً قويًا عبر مختلف حكام LMM دون الحاجة إلى تدريب محدد لمهمة التقييم، مما يشير إلى قدرة قوية على "تسخير النماذج" (model-harnessing).
يخلص المؤلفون إلى أن RAVEN-Eval يمهد الطريق لتقييم فعال وآلي وموثوق لتوليد الفيديو بالذكاء الاصطناعي، مما يعالج الاختناق الحرج للتقييم في عصر انتشار النماذج الرائدة.