WorldMark: A Unified Benchmark Suite for Interactive Video World Models
تقدم هذه الورقة WorldMark، وهي أول مجموعة معايير موحدة وحلبة عبر الإنترنت تتيح مقارنة عادلة ومعيارية لنماذج عوالم الفيديو التفاعلية من خلال توفير مجموعة مشتركة من المشاهد، وتسلسلات الأفعال، ومقاييس التقييم عبر الأنظمة المتنوعة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك ناقد طعام تحاول الحكم على أفضل الطهاة في العالم. لكن هنا تكمن العقبة: الشيف (أ) لا يسمح لك بتذوق طعامه إلا في مطبخه الخاص وبمكوناته الخاصة. والشيف (ب) لا يسمح لك بتذوق طعامه إلا في مطبخ مختلف وبتوابل مختلفة. أما الشيف (ج) فيرفض أن تتذوق أي شيء ما لم تتحدث لغة لا يفهمها أحد غيره.
بما أن كل واحد منهم يطبخ في عالمه المنعزل، فلا يمكنك حقاً أن تقول: "الشيف (أ) أفضل من الشيف (ب)". يمكنك فقط أن تقول: "طعام الشيف (أ) جيد في مطبخ الشيف (أ)".
هذه هي المشكلة تماماً مع نماذج عوالم الفيديو التفاعلية (الذكاء الاصطناعي الذي ينشئ ألعاب فيديو أو عوالم افتراضية يمكنك التجول فيها). في الوقت الحالي، لكل نموذج قواعده الخاصة، "مطبخه" الخاص، وطريقته الخاصة في تلقي الأوامر.
إليك WorldMark. فكر في WorldMark كأنه أول "ساحة لتذوق الطعام" معيارية لهؤلاء المبدعين في عالم الذكاء الاصطناعي.
المشكلات الثلاث الكبرى التي يحلها WorldMark
1. "حاجز اللغة" (توحيد رسم خرائط الأفعال)
المشكلة: أحد نماذج الذكاء الاصطناعي يفهم "WASD" (مفاتيح لوحة المفاتيح للتحرك للأمام/الخلف/يسار/يمين). ونموذج آخر يفهم فقط "ضع يدك بهذا الشكل". وثالث يفهم فقط "قل 'تقدم للأمام' في جملة".
حل WorldMark: يعمل WorldMark مثل مترجم عالمي.
- تخيل أن لديك جهاز تحكم عن بعد واحد بأزرار قياسية: تحرك للأمام، تحرك للخلف، اتجه يساراً، اتجه يميناً.
- يأخذ WorldMark ضغطتك البسيطة على زر "للأمام" ويترجمها فوراً إلى اللغة المحددة التي يتحدث بها ذلك النموذج بعينه.
- النتيجة: الآن، كل نماذج الذكاء الاصطناعي تحاول القيام بنفس المهمة تماماً في نفس الوقت، باستخدام نفس التعليمات تماماً. إنه مقارنة بين "تفاح وتفاح".
2. "الكتيب المفقود" (مجموعة الاختبارات)
المشكلة: سابقاً، كان كل نموذج ذكاء اصطناعي يُختبر في مشاهده المفضلة الخاصة به (مثل قلعة معينة في ماينكرافت أو مدينة محددة). فإذا كان النموذج سيئاً في الغابات ولكنه جيد في المدن، يمكنه ببساطة الاختباء في اختبارات المدينة.
حل WorldMark: يوفر WorldMark مضمار عقبات معيارياً يحتوي على 500 تحدٍ مختلف.
- المشاهد: يتضمن 50 صورة بداية مختلفة، تتراوح من مدن واقعية وأماكن طبيعية إلى فنون "كارتونية" أو "أسلوبية".
- زوايا الرؤية: يمكنك اختبار الذكاء الاصطناعي من منظور "الشخص الأول" (مثل ارتداء كاميرا GoPro) أو من منظور "الشخص الثالث" (مشاهدة شخصية من الخلف، مثل في ألعاب الفيديو).
- الصعوبة: الاختبارات تزداد صعوبة.
- سهل: امشِ للأمام لمدة 20 ثانية.
- متوسط: امشِ للأمام، ثم استدر للخلف.
- صعب: سر في مسار دورية معقد لمدة دقيقة كاملة دون أن ينهار العالم من حولك.
3. "بطاقة الدرجات" (أدوات التقييم)
المشكلة: كيف تقيم الفيديو؟ هل هو جميل؟ هل تحرك عندما أمرته بذلك؟ هل جعل العالم منطقياً؟
حل WorldMark: لقد صمموا تقرير درجات ثلاثي الأجزاء لكل فيديو يتم إنتاجه:
- الجودة البصرية (درجة "الجمال"): هل الفيديو ضبابي؟ هل الإضاءة غريبة؟ هل يبدو كصورة جميلة أم مجرد فوضى؟
- التوافق مع التحكم (درجة "الطاعة"): إذا أمرت الذكاء الاصطناعي بالدوران يميناً، هل دار يميناً بالفعل؟ أم أنه انزلق جانباً فقط؟
- اتساق العالم (درجة "المنطق"): هذا هو الجزء الأهم. إذا مشيت حول زاوية ثم عدت، هل لا يزال الكرسي موجوداً في مكانه؟ هل تشوه وجه الشخصية؟ هل تحولت السماء إلى ماء؟ هذا يتحقق مما إذا كان الذكاء الاصطناعي يتذكر العالم الذي أنشأه.
ماذا وجدوا؟ (التحول المفاجئ)
عندما مرروا جميع النماذج عبر هذا الاختبار المعياري، اكتشفوا أشياء مفاجئة فاتتها الاختبارات الخاصة السابقة:
- الجمال لا يعني الذكاء: أحد النماذج (YUME) صنع أكثر الإطارات جمالاً وفنية. ولكن إذا تجولت في عالمه، ينهار المنطق. كان الأمر يشأبه لوحة فنية جميلة تتغير في كل مرة ترمش فيها عينك.
- الذكاء لا يعني الجمال: نموذج آخر (Genie 3) حافظ على اتساق العالم بشكل مثالي (الكرسي ظل كرسي)، لكن الصور كانت أقل "فنية" من النماذج الأخرى.
- كابوس "المنظور الثالث": عندما كان على الذكاء الاصطناعي إظهار شخصية من الخلف (مثل ألعاب الفيديو)، فقدت العديد من النماذ عقلها تماماً. لم يستطيعوا الحفاظ على ثبات الكاميرا أو إبقاء الشخصية داخل الإطار. الأمر يشبه مصوراً ينسى فجأة كيف يمسك الكاميرا.
- المتخصصون ليسوا شاملين: الذكاء الاصطناعي الذي تم تدريبه خصيصاً على "ماينكرافت" لم يستطع التعامل مع مشهد مدينة واقعية على الإطلاق. الأمر يشبه طباخاً بارعاً في صنع الكعك ولكنه يحرق الخبز المحمص.
لماذا هذا مهم؟
قبل WorldMark، كان الأمر يشبه مشاهدة مباراة ملاكمة حيث يرتدي المقاتلون عصابات أعين ويتقاتلون في غرف مختلفة. لم نكن نعرف من هو الأقوى فعلياً.
لقد أزال WorldMark عصابات العين، ووضع الجميع في نفس الحلبة، وأعطاهم نفس الخصم. الآن، يمكن للباحثين أخيراً معرفة أي ذكاء اصطناعي يبني حقاً عالماً مستقراً وتفاعلياً، وأيها يقوم فقط بهلوسة صور جميلة.
لقًد بنوا أيضاً موقعاً إلكترونياً (World Model Arena) حيث يمكن لأي شخص مشاهدة هذه النماذج وهي تتواجه جنباً إلى جنب في الوقت الفعلي، مثل لوحة صدارة حية لأفضل منشئي العوالم الافتراضية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.