ShotVerse: Advancing Cinematic Camera Control for Text-Driven Multi-Shot Video Creation
يقدم ShotVerse إطار عمل "التخطيط ثم التحكم" (Plan-then-Control) الذي يستفيد من مخطط يعتمد على نماذج اللغة والرؤية (VLM) ومتحكم متخصص، مدعومًا بمجموعة بيانات جديدة تم تنسيقها بدقة عالية، لتمكين التوليد الآلي والدقيق والمتسق لمقاطع الفيديو السينمائية متعددة اللقطات من النصوص الوصفية.
المؤلفون الأصليون:Songlin Yang, Zhe Wang, Xuyi Yang, Songchun Zhang, Xianghao Kong, Taiyi Wu, Xiaotong Zhao, Ran Zhang, Alan Zhao, Anyi Rao
تخيل عالماً يمكن فيه لأي شخص أن يصبح مخرج أفلام، ببساطة عن طريق وصف مشهد بالكلمات. لسنوات، تعلم الذكاء الاصطناعي تحويل هذه الأوصاف إلى صور متحركة، لينتج مقاطع قصيرة لقطة تمشي أو سيارة تقود. لقد جعلت هذه التكنولوجيا عملية صنع الفيديوهات متاحة للجميع. ومع ذلك، هناك فجوة كبيرة بين إنشاء مقطع واحد مستمر وبين صنع فيلم كامل. فالفيلم الحقيقي ليس مجرد لقطة واحدة طويلة؛ بل هو مجموعة من اللقطات المختلفة، لكل منها زاوية كاميرا، وحركة، وتوقيت خاص بها. في صناعة السينما، يعتبر الشخص الذي يقرر كيف تتحرك الكاميرا — وهو مدير التصوير — لا يقل أهمية عن الكاتب. فهم يختارون متى يتم التقريب (zoom in)، ومتى يتم التحريك العرضي (pan) عبر منظر طبيعي، أو كيفية الانتقال من عرض واسع إلى لقطة قريبة لإخبار القصة بفعالية. وبينما يمكن للذكاء الاصطناعي الحالي اتباع تعليمات بسيطة مثل "حرك الكاميرا لليسار"، إلا أنه يعاني في فهم الرقصة المعقدة والمنسقة لمشهد متعدد اللقطات. فهو غالباً ما يفشل في الحفاظ على اتساق حركات الكاميرا عبر القطعات المختلفة، أو لا يستطيع ترجمة فكرة المخرج الغامضة إلى مسار كاميرا دقيق واحترافي.
لقد طور فريق من الباحثين من جامعة هونغ كونغ للعلوم والتكنولوجيا وشركة تينسنت فيديو نظاماً جديداً يسمى "ShotVerse" لحل هذه المشكلة تحديداً. يركز عملهم على تعليم الذكاء الاصطناعي كيف يعمل كمدير تصوير محترف، قادر على تخطيط وتنفيذ تسلسل من لقطات الكاميرا المختلفة بناءً على قصة مكتوبة. وبدلاً من محاولة إجبار الذكاء الاصطناعي على تخمين حركات الكاميرا من النص وحده، أو مطالبة الإنسان برسم كل مسار كاميرا يدوياً، ابتكر الباحثون عملية مكونة من خطوتين. أولاً، يقوم "المخطط" (planner) بقراءة القصة وتحديد كيفية تحرك الكاميرا بدقة لكل لقطة. ثم يقوم "المتحكم" (controller) باستخدام تلك الخطط المحددة لتوليد الفيديو الفعلي. ولم يكن سر نجاحهم يكمن في البرمجيات فحسب، بل في البيانات التي استخدموها لتعليمه. فقد أدركوا أنه لكي يتعلم الذكاء الاصطناعي كيفية صنع الأفلام، فإنه يحتاج إلى رؤية آلاف الأمثلة حيث تتطابق القصة، ومسار الكاميرا، والفيديو النهائي بشكل مثالي.
لبناء هذا الأساس، جمع الفريق أكثر من 20,000 مقطع من أفلام عالية الجودة، وبرامج تلفزيونية، وأفلام وثائقية. احتوت هذه المقاطع على تسلسلات معقدة ذات لقطات كاميرا متعددة. ثم ابتكر الباحثون طريقة جديدة لتحليل هذه المقاطع واستخراج المسار الدقيق الذي اتخذته الكاميرا في كل لقطة. قاموا بمحاذاة هذه المسارات في نظام إحداثيات موحد، مما يضمن أن الحركة في لقطة واحدة تبدو منطقية بالنسبة للقطة التالية. خلقت هذه العملية مجموعة بيانات ضخمة جديدة تسمى "ShotVerse-Bench"، والتي تعمل كأرضية للتدريب للذكاء الاصطناعي. ومع هذه البيانات، قاموا بتدريب نظامهم المكون من جزأين؛ فالمخطط، الذي يستخدم نموذجاً لغوياً بصرياً ضخماً، يتعلم قراءة وصف مثل "كشف درامي لأفق المدينة" ويقوم تلقائياً بتوليد مسار ثلاثي الأبعاد دقيق لتتبعه الكاميرا. إنه يفكك القصة إلى لقطات فردية، ويقرر الزاوية، والمسافة، والحركة لكل منها. ثم يأخذ المتحكم هذه المسارات ويولد الفيديو، مما يضمن تحرك الكاميرا تماماً كما هو مخطط له مع الحفاظ على الجودة البصرية واتساق المشهد.
إن نتائج هذا النهج كبيرة. فعند اختباره، كان النظام قادراً على توليد فيديوهات متعددة اللقطات تتبع تعليمات الكاميرا بدرجة عالية من الدقة، متفوقاً بمراحل على الأساليب السابقة التي كانت تعتمد على التخمين أو القوالب البسيطة. أظهرت الفيديوهات فهماً واضحاً للإيقاع السينمائي، مع انتقالات سلسة بين اللقطات وسلوك كاميرا متسق عبر التسلسل بأكمله. ووجد الباحثون أنه من خلال فصل تخطيط حركة الكاميرا عن توليد الفيديو، استطاعوا تحقيق مستوى من التحكم كان مستحيلاً في السابق. نجح النظام في التعامل مع سيناريوهات معقدة، مثل تتبع موضوع ما أثناء التحرك للخلف، أو الانتقال من لقطة واسعة إلى لقطة قريبة دون فقدان الإحساس بالمساحة. كما أظهر أن الذكاء الاصطناعي يمكنه تعلم "قواعد" السينما، ليس فقط كيفية تحريك الكاميرا، بل كيفية تحريكها لسرد قصة بفعالية.
يمثل هذا العمل تحولاً في كيفية تفكيرنا في الذكاء الاصطناعي وصناعة الفيديو. فهو يتجاوز مجرد توليد حركات عشوائية أو ثابتة نحو نهج أكثر هيكلية وقصداً يحاكي صناعة الأفلام البشرية. لقد أظهر الباحثون أنه من خلال تزويد الذكاء الاصطناعي بالنوع الصحيح من البيانات — حيث تكون القصة، وخطة الكاميرا، والمخرج البصري جميعها متوافقة — فمن الممكن أتمتة المهمة المعقدة للتحكم السينمائي في الكاميرا. وبينما يركز النظام حالياً على مشاهد مفردة ذات لقطات متعددة، فإن نجاح هذه الطريقة يشير إلى مستقبل يمكن فيه للذكاء الاصطناعي المساعدة في إنشاء روايات أطول وأكثر تعقيداً. تؤكد الدراسة أنه مع توفر الأدوات والبيانات المناسبة، يمكن للذكاء الاصطناعي أن يتعلم كيف يكون شريكاً حقيقياً في فن صناعة الأفلام، حيث يتولى التفاصيل التقنية لحركة الكاميرا حتى يتمكن المبدعون من التركيز على القصة نفسها.
ملخص تقني: ShotVerse
بيان المشكلة بينما ساهم توليد الفيديو المعتمد على النصوص في إضفاء الطابع الديمقراطي على صناعة الأفلام، إلا أن التحكم في حركات الكاميرا السينمائية في السيناريوهات متعددة اللقطات لا يزال يمثل عقبة رئيسية. تواجه الطرق الحالية قصورين أساسيين:
التحكم النصي غير الدقيق: غالبًا ما تفتقر المطالبات النصية الضمنية (مثل "تحريك الكاميرا لليسار" - pan left) إلى الدقة المطلوبة للتنفيذ السينمائي المعقد.
الأعباء اليدوية وفشل التنفيذ: يتطلب التكييف القائم على المسارات الصريحة تخطيطًا يدويًا مكلفًا في نظام إحداثيات عالمي موحد. علاوة على ذلك، غالبًا ما تفشل النماذج الحالية المتطورة في تنفيذ المسارات السينمائية المعقدة متعددة اللقطات، حيث تتعامل معها كظروف خارج نطاق التوزيع تؤدي إلى فشل التوليد.
نقص البيانات الموحدة: هناك ندرة في مجموعات البيانات المتوافقة التي تحتوي على ثلاثيات (وصف، مسار، فيديو) حيث يتم معايرة المسارات متعددة اللقطات في نظام إحداثيات عالمي موحد، مما يعيق تدريب النماذج القادرة على تحقيق الاتساق عبر اللقطات.
المنهجية: إطار عمل ShotVerse يقترح ShotVerse تحولًا في النموذج المعرفي نحو نهج "التخطيط ثم التحكم" (Plan-then-Control)، حيث يفصل المهمة إلى وكيلين متعاونين متوافقين من خلال توزيع بيانات مشترك. يستفيد هذا النهج من فرضية أن الثلاثيات المتوافقة تشكل توزيعًا مشتركًا متأصلًا، مما يسمح بالتحسين المنفصل لكل من التخطيط والتوليد.
تنسيق مجموعة البيانات (ShotVerse-Bench):
قام المؤلفون ببناء مجموعة بيانات عالية الدقة من خلال جمع لقطات خام من السينما عالية الإنتاج، والتلفزيون، والوثائقيات.
معايرة كاميرا متعددة اللقطات: يقوم مسار مؤتمت جديد بمواءمة مسارات اللقطة الواحدة المنفصلة في نظام إحداثيات عالمي موحد. يتضمن ذلك إزالة المقدمة الديناميكية، وإعادة البناء المحلي للقطة الواحدة، وإعادة البناء العالمي للإطارات الرئيسية المشتركة، ومواءمة المسار القائمة على المرتكزات (anchor-based).
الأوصاف الهيكلية: تتضمن مجموعة البيانات أوصافًا للمشهد العالمي وأوصافًا لكل لقطة، مقترنة بأكثر من 27 فئة دقيقة للمسارات.
المخطط (تخطيط المسار):
البنية: نموذج لغوي بصري (VLM) يعتمد على بنية Qwen3-VL تم ضبطه باستخدام تقنية LoRA، مقترن بفك تشفير Transformer ذاتي الانحدار خفيف الوزن.
الآلية: يعالج المخطط المطالبات الهيكلية المتداخلة مع "رموز استعلام المسار" القابلة للتعلم (<TRAJ>). تعمل هذه الرموز كخانات ليقوم النموذج اللغوي البصري باستنتاج خطط كاميرا خاصة بكل لقطة بناءً على الأولويات المكانية.
المخرجات: يولد النموذج اللغوي البصري "أكواد كاميرا" سياقية، يقوم فك تشفير المسار بتوسيعها إلى تسلسلات متغيرة الطول من رموز الوضعية (pose tokens). ويقوم فك تشفير الوضعية بتحويلها إلى وضعيات كاميرا صريحة مكونة من 12 بُعدًا (الإزاحة والدوران) في نظام إحداثيات عالمي موحد.
التدريب: يتم التحسين عبر خسارة التقاطع المتقاطع (cross-entropy loss) لتعظيم احتمالية رموز المسار الحقيقية.
المتحكم (حقن المسار):
البنية: مبني على نموذج أساسي للفيديو متعدد اللقطات (HoloCine/DiT).
مشفر الكاميرا: يقوم مشفر خفيف الوزن ومتصل بالكامل بحقن مصفوفات الخصائص الخارجية للكاميرا مباشرة في الميزات المتوسطة لكل كتلة Transformer، مما يجعل النمذجة الزمنية مشروطة بالوضعيات المستهدفة.
التمثيل الموضعي الدوار رباعي الأبعاد (4D RoPE): للتعامل مع الهيكل الهرمي للفيديوهات متعددة اللقطات (فيديو ← لقطة ← إطار)، قدم المؤلفون تقنية 4D RoPE. تقوم هذه التقنية بتشفيد مؤشرات اللقطات صراحةً جنبًا إلى جنب مع أبعاد الإطار، الارتفاع، والعرض، مما يفرض الاتساق داخل اللقة ويحترم حدود اللقطات.
التدريب: يستخدم هدف مطابقة التدفق (Flow Matching)، مع استراتيجية تدريب من مرحلتين حيث يتم تحسين مشفر الكاميرا بشكل أساسي خلال مراحل الضجيج العالي لتثبيت الحركة الأولية، بينما تقوم تقنية LoRA بصقل التفاصيل في مراحل الضجيج المنخفض.
المساهمات الرئيسية
إطار العمل: تقديم ShotVerse، وهو إطار عمل "التخطيط ثم التحكم" الذي يربط النوايا السردية عالية المستوى بالتنفيذ الهندسي الدقيق عبر وكلاء متخصصين (المخطط والمتحكم).
مجموعة البيانات: إنشاء ShotVerse-Bench، وهي أول مجموعة بيانات واسعة النطاق توفر مسارات كاميرا سينمائية متعددة اللقطات تمت معايرتها في نظام إحداثيات عالمي موحد، مقترنة بأوصاف هيكلية.
مسار المعايرة: مسار مؤتمت لمواءمة المسارات المنفصلة للقطة الواحدة في نظام عالمي، مما يسمح بتعلم المنطق المكاني عبر اللقطات.
بروتوكول التقييم: بروتوكول اختبار صارم ثلاثي المسارات يقيم (أ) التخطيط من النص إلى المسار، (ب) تنفيذ دقة المسار إلى الفيديو، (ج) الجودة السينمائية من النص إلى الفيديو بشكل شامل.
النتائج التجريبية أظهرت التجارب المكثفة على ShotVerse-Bench تفوقًا في الأداء عبر جميع المسارات:
المسار (أ) (التخطيط): يتفوق مخطط ShotVerse على النماذج المرجعية (CCD, E.T., Director3D, GenDoP) في كل من درجة F1 والاتساق الدلالي (CLaTr-CLIP)، مما يظهر قدرة قوية على التعميم عبر المجالات.
المسار (ب) (التنفيذ): يحقق المتحكم أدنى مستويات الخطأ في الانتقال والدوران وأعلى درجة توافق إحداثيات (CAS)، متفوقًا بشكل كبير على نماذج التحكم في اللقطة الواحدة التي تم تكييفها للاستخدام متعدد اللقطات.
المسار (ج) (الجودة): يحقق ShotVerse أعلى جودة جمالية (5.465) وأدنى قيمة FVD (281.71) بين النماذج مفتوحة المصدر والمغلقة (بما في ذلك Sora2, VEO3, Kling3.0). كما أظهر دقة فائقة في انتقال اللقطات (0.933) وإيقاعًا سينمائيًا في دراسات النماذج اللغوية البصرية ودراسات المستخدم البشري.
الأهمية والادعاءات يزعم البحث أن ShotVerse يسد الفجوة بين التحكم النصي غير الموثوق والتخطيط اليدوي المرهق. ومن خلال التحول إلى نموذج قائم على البيانات، يوضح المؤلفون أن المنطق المكاني المعقد لسرد القصص متعدد اللقطات يمكن فصله إلى مرحلة تخطيط معرفي ومرحلة رندرة (Rendering) مدركة للهندسة. يؤكد العمل أن ShotVerse لا يحقق دقة تقنية عالية فحسب، بل يظهر أيضًا فهمًا ضمنيًا للإيقاع السينمائي والبروز البصري، مما ينقل توليد الفيديو المعتمد على النصوص نحو التنسيق السينمائي الاحترافي. يقر المؤلفون بوجود قيود في الاستمرارية طويلة السياق وتوليد الكائنات المتعددة الكثيفة، لكنهم يضعون طريقتهم كخطوة تأسيسية لأبحاث المستقبل في مجال توليد الفيديو متعدد اللقطات.