Vorch-IR: Long-Form Unified Multimodal Identity Replacement Video Generation
يُعد Vorch-IR إطار عمل موحداً متعدد الوسائط مبنياً على LTX2 يتيح استبدال الهوية بمرونة لشخص واحد أو شخصين مع إمكانية تحرير الخلفية في مقاطع الفيديو طويلة المدى من خلال التكييف المشترك مع فيديوهات القيادة، والصور المرجعية، والتعليمات النصية، مع التغلب على ندرة البيانات عبر مسار توليد تلقائي وتوسيع النطاق ليشمل عمليات توليد تمتد لدقيقة كاملة عبر استراتيجية استدلال زمني متداخل.
المؤلفون الأصليون:Yaole Wang, Xiaoyu Chen, Xin Ma, Yang Ding, Gang Yue, Jingjing Chen, Lin Ma, Yaohui Wang
تخيل أنك تمسك بجهاز تحكم عن بعد للواقع، ولكن بدلاً من تغيير القناة، تريد استبدال الممثلين في فيلم مع الحفاظ على السيناريو، وزوايا الكاميرا، وحركات الرقص تماماً كما هي. هذا هو حلم "استبدال هوية الفيديو"، وهو موضوع ساخن في عالم الذكاء الاصطناعي. لفترة طويلة، كان بإمكان الذكاء الاصطناعي إنشاء فيديوهات جديدة من الصفر، لكن تعديل فيديو موجود كان يشبه محاولة تغيير وجه شخصية في فيلم واقعي دون إفساد الإضاءة أو الحركة. تطلبت المحاولات المبكرة من الذكاء الاصطناعي أن يُقدم له خريطة مفصلة لمكان وقوف الشخص، أو رسم هيكلي لوضعيته، أو قناع لتغطية وجهه. كان الأمر أشبه بطلب طباخ ليطهو وجبة بشرط أن تعطيه قائمة مكونات مقطعة مسبقاً ومخططاً للمطبخ. كانت هذه الأساليب جامدة وصعبة الاستخدام. السؤال الكبير الذي يطرحه الباحثون الآن هو: هل يمكننا تعليم الذكاء الاصطناعي فهم جملة بسيطة مثل "استبدل الراقص على اليسار بهذه الصورة" وفهمها فحسب، دون الحاجة إلى خريطة معقدة أو هيكل عظمي؟
إليك Vorch-IR، نظام ذكاء اصطناعي جديد يعمل كمحرر أفلام سحري فائق الذكاء. فكر فيه كمخرج لا يحتاج إلى مشرف سيناريو أو منسق مشاهد خطيرة. أنت تعطي Vorch-IR ثلاثة أشياء: الفيديو الأصلي (الفيديو المحرك)، وبعض الصور للأشخاص الجدد الذين تريد إدراجهم (المراجع)، وملاحظة نصية بسيطة تخبر الذكاء الاصطناعي بمن يذهب إلى أين. السحر يكمكن في أن الصور لا تحتاج إلى مطابقة وضعية أو موقع الفيديو. إذا كان الفيديو يظهر شخصاً يرقص ويداه مرفوعتان، وصورتك تظهره جالساً، فإن Vorch-IR يكتشف كيفية جعل الشخص الجالس يرقص رغم ذلك. إنه يتعامل مع الأشخاص المنفردين، واثنين يرقصان معاً، وحتى استبدال خلفيات المشاهد، كل ذلك باستخدام نموذج واحد فقط.
بنى الباحثون وراء Vorch-IR هذا النظام فوق مولد فيديو قوي يسمى LTX2. لقد علموه كيف ينظر إلى الفيديو، والصور، والتعليمات النصية جميعها في وقت واحد. بدلاً من استخدام خرائط جامدة، يستخدم الذكاء الاصطناعي "دماغاً بصرياً لغوياً" (نوع من الذكاء الاصطناعي الذي يفهم الصور والكلمات معاً) لفهم الرابط. الأمر يشبه أن يقرأ الذكاء الاصطناعي ملاحظتك، وينظر إلى الصورة، ثم يقول: "آه، أنت تريد هذا الشخص أن يأخذ مكان الشخص الذي على اليسار"، ومن ثم يستخدم "الانتباه الذاتي" الداخلي لديه لدمج الوجه الجديد على الجسم المتحرك بشكل مثالي.
أحد أكبر العقبات في هذا المجال هو البيانات. لتعليم الذكاء الاصطناعي كيفية استبدال الوجوه، تحتاج إلى آلاف الأمثلة من فيديوهات "قبل" و"بعد". وبما أن هذه الفيديوهات لا توجد في العالم الحقيقي، فقد بنى الفريق مساراً آلياً (pipeline) روبوتياً لصنعها. لقد أخذوا فيديوهات حقيقية، واستخدموا أدوات ذكاء اصطناعي أخرى لاستبدال الوجوه في الإطار الأول، ثم استخدموا روبوتاً موجهاً بالحركة لجعل بقية الفيديو يتبع الوجوه الجديدة. ثم قاموا بتصفية المحاولات السيئة (مثل عندما يعطي الذكاء الاصطناعي الراقص ثلاثة أذرع بالخطأ) لإنشاء مجموعة تدريب مثالية. سمح هذا بتدريب نموذج واحد للقيام بكل شيء: استبدال شخص واحد، استبدال شخصين، وحتى تغيير الخلفية، وكل ذلك دون الحاجة إلى أدوات منفصلة لكل مهمة.
ولكن ماذا عن صنع فيلم كامل؟ معظم مولدات الفيديو بالذكاء الاصطناعي تصاب بالارتباك أو تصبح ضبابية بعد بضع ثرنات. يستخدم Vorch-IR حيلة ذكية تسمى "الاستدلال الزمني المتداخل". تخيل أنك تحاول رسم جدارية طويلة. بدلاً من رسم مربع صغير، وتجفيفه، ثم رسم المربع التالي (مما قد يجعل الألوان تبدو مختلفة)، يقوم Vorch-IR برسم أقسام متداخلة في نفس الوقت ودمجها معاً بسلاسة. هذا يسمه بإنشاء فيديوهات تصل مدتها إلى دقيقة كاملة دون أن تنحرف وجوه الشخصيات أو تصبح الحركة غريبة، وكل ذلك دون الحاجة إلى توليد الفيديو مقطعاً تلو الآخر.
اختبر الفريق Vorch-IR مقابل نماذج ذكاء اصطناعي رائدة أخرى. في المقارنات المباشرة، أشار Vorch-IR إلى أنه أفضل في الحفاظ على شكل وجه الشخص الجديد تماماً كما في الصورة (الحفاظ على الهوية) وفي الحفاظ على اتساق الخلفية، مع التحرك بسلاسة في الوقت نفسه. وفي الاختبارات البشرية، فضل الناس نتائج Vorch-IR على الطرق الأخرى، خاصة عندما يتعلق الأمر بجعل الشخصية الجديدة تبدو حقيقية ومنطقية جسدياً. تشير الورقة البحثية إلى أنه بينما قد تكون بعض النماذج القديمة أفضل قليلاً في أمور محددة مثل مطابقة الوضعية المثالية في سيناريوهات معينة جداً، فإن Vorch-IR يقدم طريقة أكثر مرونة وتوحيداً لتحرير الفيديوهات، مما يثبت أنك لست بحاجة إلى خرائط معقدة للحصول على نتائج رائعة. إنها خطوة نحو مستقبل يكون فيه تحرير الفيديو سهلاً مثل كتابة جملة.
ملخص تقني: Vorch-IR
بيان المشكلة
يهدف استبدال هوية الفيديو إلى نقل هويات موضوع واحد أو أكثر إلى فيديو توجيهي مع الحفاظ على الحركة الأصلية، والتعبيرات، والبنية الزمنية. وعلى الرغم من التقدم الأخير في توليد الفيديو القائم على الانتشار (diffusion)، تواجه الأساليب الحالية ثلاث قيود رئيسية:
التحكمات الهيكلية الصلبة: تعتمد العديد من النهج على أقنعة صريحة، أو خرائط وضعية (pose maps)، أو محاذاة مكانية بين الصور المرجعية وفيديو التوجيه، مما يعقد التكامل في أنظمة تحرير متعددة الوسائط عامة.
التركيز على الهوية الواحدة: صُممت معظم الأنظمة لاستبدال هدف واحد. أما استبدال الأشخاص المتعددين فيتطلب تحكماً مستقلاً في الهوية وارتباطاً غير غامض بين مراجع متعددة وأهدافهم المعنية، وهو أمر نادراً ما يتم معالجته.
ندرة البيانات: لا تتوفر بيانات تدريب مقترنة واسعة النطاق لإعدادات استبدال الأشخاص المتعددين والخلفيات، مما يعيق التعلم المشترك لهذه المهام.
المنهجية
Vorch-IR هو إطار عمل موحد مبني على بنية LTX2 يعالج هذه القيود من خلال نموذج واحد قادر على التعامل مع أربعة إعدادات: استبدال الشخص الواحد، واستبدال الشخصين، وكلا النوعين مع استبدال الخلفية الاختياري.
1. التكييف متعدد الوسائط الموحد
يقبل النموذج فيديو توجيهياً (D)، ومجموعة مرتبة من الصور المرجعية (R)، وتعليماً نصياً للتحرير (u).
الفصل المكاني: تُعامل الصور المرجعية كشروط مستقلة؛ فهي لا تحتاج إلى مطابقة الوضعية، أو التخطيط، أو التكوين المكاني لفيديو التوجيه.
الربط القائم على التعليمات: يحدد تعليم نصي أي صورة مرجعية تتوافق مع أي موضوع أو مع الخلفية (على سبيل المثال، "المرجع 1 يستبدل الشخص الموجود على اليسار"). وهذا يحل محل الحاجة إلى المراسلات الهندسية أو الأقنعة.
بنية المسار المزدوج:
الدمج البصري الكثيف (الانتباه الذاتي - Self-Attention): يتم دمج فيديو التوجيه، وجميع الصور المرجعية، والكمون المستهدف المشوش (noisy target latent) في تدفق رموز موحد. يقوم الانتباه الذاتي بدمج هذه الرموز، مما يحافظ على الحركة الدقيقة من فيديو التوجيه وتفاصيل المظهر من المراجع. وتعمل تضمينات معرف المهمة (Task-ID embeddings) على تمييز الفيديو المصدر، وفتحات المراجع، والهدف.
الربط الدلالي (الانتباه المتقاطع - Cross-Attention): يقوم نموذج رؤية-لغة (قائم على Gemma) بترميز التعليمات، وإطارات التوجيه المختارة، والمراجع بشكل مشترك. يتم حقن هذا السياق عبر الانتباه المتقاطع لربط كل مرجع مفهرس بدوره المستهدف المحدد في النص، مما يتيح التوجيه الدلالي دون الحاجة إلى وحدات تحديد موقع صريحة.
2. خط إنتاج بناء البيانات التلقائي
للتغلب على نقص بيانات التدريب المقترنة، طور المؤلفون خط إنتاج يقوم بتخليق الإشراف لجميع الإعدادات الأربعة:
التحرير: يتم تحرير الإطار الأول من مقطع مصدر لاستبدال الهويات (والخلفية اختيارياً) مع الحفاظ على مواقع الموضوعات والوضعيات العامة.
الانتشار (Propagation): يقوم نموذج تحريك فيديو موجه بالحركة بنشر هذه المظاهر المحررة على طول مسارات الحركة المصدرية.
التصفية: يقوم نموذج رؤية-لغة بتصفية الإخفاقات (مثل الأجسام المشوهة، أو عدم تطابق الهوية).
الاستخراج: يتم قص الإطار الأول المحرر لتشكيل مراجع الهوية، ويتم استخراج الخلفية لعينات استبدال الخلفية. تولد هذه العملية أزواج تدريب متوافقة (فيديو التوجيه، المراجع، التعليمات، الفيديو المستهدف) دون الحاجة إلى جمع يدوي.
3. استراتيجية الاستدلال طويل المدى
بينما يتم التدريب على مقاطع قصيرة (حتى 8 ثوانٍ)، يدعم Vorch-IR توليد مقاطع مدتها دقيقة باستخدام استراتيجية الاستدلال الزمني المتداخل (Temporal Overlapping Inference) المقتبسة من الدمج الكامن ثنائي الاتجاه (BLF):
يتم تغطية الكمون المستهدف كامل الطول بنوافذ زمنية متداخلة.
في كل خطوة إزالة ضجيج (denoising)، يتنبأ النموذج بنوافذ منزوعة الضجيج مشروطة بأجزاء المصدر المناظرة والمراجع العالمية.
يتم تجميع التنبؤات عبر أوزان زمنية طبيعية (تلاشي متقاطع خطي أو جيب تمامي).
يتم تطبيق تحديث "أويلر" (Euler update) عالمي واحد على تسلسل الكمون بأك// هذا النهج يتجنب الاستمرار التكراري (autoregressive continuation)، مما يقلل من انحراف الهوية وتراكم الأخطاء عبر الفترات الطويلة.
المساهمات الرئيسية
صياغة موحدة: إطار عمل موحد يصيغ استبدال الشخص الواحد، والشخصين، واستبدال الخلفية كمشكلة توليد فيديو متعددة الوسائط موحدة وموجهة بالتعليمات.
واجهة مرجعية مفهرسة: واجهة جديدة تفصل المراجع مكانياً عن فيديو التوجيه، وتستخدم الانتباه الذاتي البصري الكثيف لنقل المحتوى، والانتباه المتقاطع القائم على التعليمات للربط الدلالي.
خط إنتاج بيانات قابل للتوسع: خط إنتاج تلقائي يخلق إشرافاً مقترناً لاستبدال الأشخاص المتعددين والخلفيات، مما يلغي الحاجة إلى جمع بيانات خاصة بكل مهمة.
توسيع التسلسل الطويل: تكييف الدمج الكامن المتداخل لتوسيع نماذج المقاطع القصيرة لتوليد مقاطع مدتها دقيقة دون حلقات تغذية راجعة تكرارية.
النتائج
قام المؤلفون بتقييم Vorch-IR في استبدال الشخص الواحد (مقارنة بـ Wan-Animate، وHunyuanCustom، وMoCha، وSCAIL-2) وقدموا نتائج نوعية لإعدادات الأشخاص المتعددين والخلفية.
المقاييس التلقائية: في الاختبار المرجعي الخاص بالمؤلفين، حقق Vorch-IR أعلى اتساق للموضوع (0.9096) واتساق للخلفية (0.9332). كما سجل مرتبة عالية في جودة التصوير (0.7031) والجودة الجمالية (0.6396). وفي اختبار XDance، أظهر قدرة قوية على التعميم، حيث احتل المرتبة الثانية في تشابه DINOv2 وCLIP-I.
التقييم البشري (GSB): في المقارنات الثنائية، حصل Vorch-IR على تصنيف "جيد" (Good) أعلى من "سيء" (Bad) في جميع الأبعاد (الحركة، المعقولية الفيزيائية، الهوية، جودة الفيديو) مقابل جميع النماذج المرجعية. وكانت ميزته الأكثر بروزاً هي اتساق الهوية، حيث فضله 65.4% من المقيمين على HunyuanCustom و77.0% على Wan-Animate.
المقايضات: بينما يتفوق Vorch-IR في الحفاظ على الهوية، احتفظت بعض النماذج المرجعية المتخصصة بمزايا طفيفة في مقاييس معينة مثل الوميض الزمني (temporal flickering) أو مطابقة الوضعية، مما يشير إلى وجود مقايضة بين نقل الهوية القوي والخصائص البصرية المحددة الأخرى.
الأهمية
يزعم البحث أن Vorch-IR يمثل خطوة هامة نحو تحرير فيديو مرن وعام الغرض. ومن خلال إزالة الاعتماد على المراجع المتوافقة مكانياً، أو الأقنعة، أو مدخلات الوضعية، يبسط النموذج دمج استبدال الهوية في أنظمة متعددة الوسائط أوسع. إن القدرة على التعامل مع هويات متعددة وتغييرات الخلفية ضمن نموذج واحد موحد وموجه بالتعليمات، جنباً إلى جنب مع خط إنتاج بيانات قابل للتوسع وقدرة الاستدلال طويل المدى، تعالج اختناقات حرجة في أبحاث توليد الفيديو الحالية. يثبت العمل أنه يمكن تحقيق نقل هوية عالي الدقة دون التضحية بتماسك الحركة أو اشتراط ضوابط هيكلية معقدة.