💻 computer science

DynamicRad: Content-Adaptive Sparse Attention for Long Video Diffusion

يُعد DynamicRad إطار عمل للانتباه المتناثر المتكيف مع المحتوى، والذي يستفيد من أولوية محلية شعاعية وموجه حركة دلالي مدفوع بالتحسين البايزي غير المتصل (offline) لتحقيق تسريع كبير في الاستدلال (1.7×–2.5×) وتناثرًا عاليًا (>80%) في نماذج انتشار الفيديو الطويلة مع الحفاظ على جودة التوليد أو تعزيزها.

المؤلفون الأصليون: Yongji Long, Shijun Liang, Jintao Li, Yun Li

نُشر 2026-04-23

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yongji Long, Shijun Liang, Jintao Li, Yun Li

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول مشاهدة فيلم مدته 10 ساعات، لكن عقلك (الكمبيوتر) لا يمكنه استيعاب سوى بضع ثوانٍ منه في "ذاكرته النشطة" في كل مرة. لفهم القصة بأكملها، يتعين على عقلك النظر باستمرار ذهابًا وإيابًا بين البداية والمنتصف والنهاية.

في عالم توليد الفيديو بالذكة الاصطناعية، تسمى عملية "النظر ذهابًا وإيابًا" هذه بـ الانتباه (Attention). تكمن المشكلة في أنه بالنسبة للفيديوهات الطويلة، يحاول الذكاء الاصطناعي النظر في كل إطار مقابل كل إطار آخر. الأمر يشبه محاولة قراءة كل صفحة في كتاب مكون من 1000 صفحة لفهم جملة واحدة فقط. هذا يستغرق وقتًا طويلاً ويستهلك كل طاقة الكمبيوتر.

DynamicRad هو "استراتيجية قراءة ذكية" تحل هذه المشكلة. إليك كيف يعمل، مقسمًا إلى مفاهيم بسيطة:

1. المشكلة: نهج "القوة الغاشمة" (Brute Force)

صناع الفيديو الحاليون بالذكاء الاصطناعي يشبهون أمين مكتبة شديد الحذر. لإيجاد حقيقة معينة، يقوم بفحص كل كتاب على كل رف، حتى لو كان الكتاب يتحدث بوضوح عن موضوع مختلف تمامًا.

النتيجة: هي عملية دقيقة، ولكنها بطيئة للغاية. إنتاج فيديو طويل قد يستغرق ساعات.

2. الحل القديم: "السياج الجامد"

حاولت بعض الأساليب السابقة تسريع الأمور عن طريق بناء سياج جامد. قالوا: "سننظر فقط إلى الكتب الموجودة على بُعد 5 أقدام من الكتاب الحالي".

العيب: هذا يعمل بشكل رائع في مكتبة هادئة (فيديو لقط نائم). ولكن إذا تغير المشهد إلى مطاردة سيارات فوضوية (حركة سريعة)، فإن "السياج" سيكون صغيرًا جدًا. سيفقد الذكاء الاصطناعي السيارة التي قفزت من مسافة 20 قدمًا، وسيبدو الفيديو مشوشًا أو مكسورًا.

3. الحل الجديد: DynamicRad (الـ "كشاف الذكي")

DynamicRad يشبه توظيف كشاف ذكي (Smart Scout) يعرف تمامًا متى يكون صارمًا ومتى يكون مرنًا. وهو يستخدم خدعتين رئيسيتين:

أ. "مستشعر الحركة" (Semantic Motion Router)

قبل أن يبدأ الذكاء الاصطناعي في توليد الفيديو، يقرأ النص الوصفي (مثل: "غروب شمس هادئ" مقابل "سباق طائرات بدون طيار سريع").

حركة منخفضة (الغروب): يقول الكشاف: "حسنًا، لا يوجد الكثير من الحركة. يمكننا أن نكون كسالى! دعونا ننظر فقط إلى الجيران المباشرين". هذا يوفر وقتًا هائلًا.
حركة عالية (سباق الطائرات بدون طيار): يقول الكشاف: "واو، الأشياء تتحرك بسرعة! نحتاج لإبقاء أعيننا على الأفق. دعونا ننظر بعيدًا للخلف وللأمام للتأكد من عدم تفويت الحدث".

ب. "الوضعيتان" (الثابتة مقابل الديناميكية)

يحتوي النظام على ترسين يمكنه التبديل بينهما فورًا:

ترس السرعة (Static-Ratio): يُستخدم عندما تريد إنهاء الفيديو بسرعة فقط. فهو يلغي 80% من عمل "النظر" باتباع قاعدة صارمة. إنه يشبه قراءة كتاب بسرعة، حيث تقرأ فقط الجملة الأولى والأخيرة من كل فقرة.
ترس الجودة (Dynamic-Threshold): يُستخدم عندما تريد أن يبدو الفيديو مثاليًا. فهو ينظر إلى "أهمية" كل إطار. إذا كان الإطار مملًا، يتجاهله. وإذا كان الإطار مثيرًا (مثل انفجار)، فإنه يحتفظ به، حتى لو كان بعيدًا في الجدول الزمني.

4. "التدريب المسبق" (ورقة الغش)

عادةً ما يستغرق تحديد أفضل طريقة لمشاهدة الفيديو وقتًا أثناء صنع الفيديو نفسه. أما DynamicRad فيقوم بالواجب المنزلي مسبقًا.

تخيل طباخًا يتذوق ألف مزيج مختلف من التوابل قبل أن يطلب الزبون، بحيث عندما يأتي الطلب، يقوم بجلب الوعاء المثالي فورًا.
يستخدم DynamicRad "ورقة غش" (تم إنشاؤها بواسطة مُحسِّن رياضي يسمى التحسين البايزي - Bayesian Optimization) ليعرف بالضبط مقدار ما يجب "تخطيه" بناءً على نوع الفيديو. وهذا يعني عدم وجود أي تأخير عند بدء توليد الفيديو.

5. "شبكة الأمان" (Mask-Aware LoRA)

أحيانًا، يؤدي تخطي الكثير من المعلومات إلى جعل الفيديو يبدو غريبًا (مثل وميض وجه الشخصية).

يضيف DynamicRad "رقعة" صغيرة (تسمى LoRA) تعمل كشبكة أمان. فهي تقوم بإصلاح الأخطاء الصغيرة الناتجة عن التخطي بلطف، مما يضمن بقاء الفيديو سلسًا ومتماسكًا، حتى عندما يكون الذكاء الاصطناعي عدوانيًا جدًا في تخطي الإطارات.

الخلاصة

DynamicRad يشبه الترقية من سيارة تسير بسرعة ثابتة وبطيئة إلى سيارة رياضية ذكية.

على طريق مستقيم وخالٍ (فيديو بطيء)، تسير بسرعة 200 ميل في الساعة، متجاهلة كل ما هو غير ضروري.
على مضمار متعرج وخطير (فيديو سريع)، تبطئ سرعتها بما يكفي لتجاوز المنعطفات بشكل مثالي، مما يضمن عدم وقوع حادث.

النتيجة: يمكن للذكاء الاصطناعي الآن توليد فيديوهات طويلة وعالية الجودة بسرعة أكبر بمعدل 2 إلى 2.5 مرة دون فقدان الجودة، مما يجعل من الممكن إنشاء أفلام كانت تستغرق أيامًا، لتصبح الآن جاهزة في ساعات.

إليك ملخص تقني مفصل لورقة البحث "DynamicRad: Content-Adaptive Sparse Attention for Long Video Diffusion."

1. بيان المشكلة

تواجه نماذج انتشار الفيديو (مثل HunyuanVideo و Wan2.1) عائقًا حرجًا في التوسع: تعقيد الانتباه الذاتي ينمو بشكل تربيعي ( $O(N^2)$ ) مع عدد الرموز (tokens) المكانية والزمانية. وهذا يجعل توليد فيديوهات طويلة وعالية الدقة أمرًا مكلفًا للغاية من حيث الحوسبة ونطاق الذاكرة.

تنقسم الحلول الحالية إلى فئتين ذات قيود متميزة:

الأنماط المتفرقة الثابتة (Static Sparse Patterns): (مثل Radial Attention) وهي صديقة للأجهزة ولكنها جامدة. تفشل هذه الأنماط في التكيف مع ديناميكيات الحركة المعقدة، وغالبًا ما تفقد الارتباطات طويلة المدى الحرجة في المشاهد سريعة الحركة.
التناثر الديناميكي (Dynamic Sparsification): (مثل SVG و STA) يتكيف مع المحتوى ولكنه يتسبب في عبء تشغيلي (overhead) كبير أثناء العمل (البحث عن الرموز المثلى في كل خطوة) أو يتطلب إعادة تدريب مكلفة، مما يجعله غير مستقر أو بطيئًا عند التوسع.

التحدي الجوهම هو تحقيق تناثر عالٍ (>80%) من أجل الكفاءة دون التضحية بـ الاتساق الزماني والدقة البصرية المطلوبة لتوليد فيديو طويل الأمد.

2. المنهجية: DynamicRad

يقترح المؤلفون DynamicRad، وهو نموذج موحد للانتباه المتفرق يجمع بين التناثر المهيكل والتكيف مع المحتوى. يعمل الإطار على ثلاث ركائز أساسية:

أ. مجموعة المرشح الموحدة والاختيار ثنائي الوضع

يستخدم DynamicRad مجموعة مرشح مشتركة وصديقة للأجهزة مشتقة من أولوية محلية شعاعية (radial locality prior) (حيث يتلاشى كتلة الانتباه مع المسافة المكانية والزمانية). وهي توفر وضعين حصريين للاختيار:

وضع النسبة الثابتة (الأولوية للإنتاجية - Throughput-First):
- مصمم للسرعة.
- يستخدم نسبة استبقاء محددة بناءً على المسافة الزمنية ( $t$ ).
- لا يوجد عبء حسابي يعتمد على المحتوى لتسجيل النقاط؛ بل يقوم ببساطة بأخذ عينات بنسبة مئوية ثابتة من مجموعة المرشحين.
وضع العتبة الديناميكية (الأولوية للجودة - Quality-First):
- مصمم للدقة.
- يستخدم لوغاريتمات الانتباه قبل الـ softmax (pre-softmax attention logits) كوكلاء خفيفين للأهمية.
- يطبق عتبة عالمية لتصفية الرموز، مع الاحتفاظ فقط بالأزواج ذات الدرجات العالية.
- يتضمن ضمانات: إذا كانت الكتلة فارغة بعد التصفية، يتم الاحتفاظ بالزوج الأعلى درجة لمنع انقطاع الاستمرارية.

ب. التحسين البايزي خارج الخط (Offline BO) وموجه الحركة الدلالي (Semantic Motion Router)

لتجنب العبء التشغيلي للبحث أثناء العمل، يقوم DynamicRad بفصل التكوين عن الاستدلال:

خط أنابيب التحسين البايزي (BO) خارج الخط: يقوم محسن بايزي (باستخدام TPE) بالبحث عن المعلمات الفائقة المثلى (عامل التلاشي $\gamma$ ، حجم الكتلة $B_s$ ، العتبات $\theta$ ، عامل المدى الطويل $\lambda$ ) على مهمة وسيطة قائمة على الفيزياء. الهدف هو تقليل متوسط مربع الخطأ (MSE) بين التقريب المتفرق والانتباه الكثيف على عملية محاكاة لانجراف الميزات. تكتمل عملية البحث في أقل من 15 دقيقة.
موجه الحركة الدلالي (Semantic Motion Router): يقوم شبكة MLP خفيفة مكونة من طبقتين برسم خرائط تضمينات النصوص (text prompt embeddings) (المحسوبة مسبقًا) إلى نظام حركة (منخفض، متوسط، مرتفع).
- الحركة المنخفضة (مثل "القراءة"): تحفز القناع الثابت الشرس.
- الحركة العالية (مثل "طائرة درون FPV"): تحفز العتبة الديناميكية مع اتصالات أكثر كثافة للمدى الطويل.
- العبء: أقل من 2 مللي ثانية لكل فيديو، ويتم توزيعها لتصبح ~0 مللي ثانية لكل طبقة.

ج. LoRA الواعي بالقناع (Mask-Aware LoRA)

لتعويض فقدان المعلومات الناتج عن التناثر الشرس، قدم المؤلفون وحدة Mask-Aware LoRA.

تقوم هذه الوحدة بضبط طبقات الإسقاط (Q/K) الحساسة لنمط التناثر فقط مع تجميد الهيكل الأساسي (backbone).
يعمل هذا بمثابة آلية "إزالة ضجيج"، حيث يستعيد الاتساق الزماني والتفاصيل الدقيقة دون إعادة تدريب النموذج بالكامل.

3. المساهمات الرئيسية

إطار عمل موحد: يسد الفجوة بين الأولويات الثابتة الجامدة (Radial Attention) والطرق الديناميكية عالية العبء (SVG) من خلال تقديم مجموعة مرشح مشتركة مع أوضاع اختيار ثنائية.
التكيف بدون تدريب: يحقق تناثرًا مدركًا للمحتتوى دون الحاجة إلى شبكات مساعدة أو توجيه استدلالي لكل خطوة، بالاعتماد بدلاً من ذلك على خط أنابيب BO خارج الخط وموجه دلالي خفيف.
نشر قوي: يقدم استراتيجية Mask-Aware LoRA التي تحسن بشكل كبير الاتساق الزماني تحت التناثر الشرس، وهو نقطة فشل شائعة في الطرق المتفرقة الأخرى.
الوسيط الفعال للتحسين: يثبت أن تحسين وسيط خفيف قائم على الفيزياء (انجراف الميزات) يترجم بفعالية إلى تحسين الجودة الإدراكية في توليد الفيديو النهائي.

4. النتائج التجريبية

تم تقييم الطريقة على HunyuanVideo-241f و Wan2.1-14B عبر مختلف الدقات وأطوال التسلسلات.

تسريع الأداء: حقق تسريعًا في الاستدلال يتراوح بين 1.7× إلى 2.54× مقارنة بالنماذج الكثيفة الأساسية.
- مثال: في HunyuanVideo-241f، قلل DynamicRad زمن التأخير من 824 ثانية (الكثيف) إلى 324 ثانية (الوضع الثابت)، وهو تحسن بمقدار 2.54×.
التناثر: حافظ على معدلات تناثر فعالة >80% (تصل إلى 86.8% في الوضع الثابت).
الجودة:
- الوضع الديناميكي: من المثير للدهشة، في إعدادات التسلسل الطويل، تفوق الوضع الديناميكي على النموذج الكثيف الأساسي في مقاييس الجودة (على سبيل المثال، VisionReward: 0.131 مقابل 0.116 لـ HunyuanVideo-241f). يعزو المؤلفون ذلك إلى تأثير "إزالة الضجيج" عبر حذف الرموز غير المرغوب فيها (OOD).
- الاتساق الزماني: باستخدام Mask-Aware LoRA، وصلت درجات الاتساق الهيكلي في VBench إلى 0.977، وهو ما يطابق أو يتجاوز النماذج الكثيفة حتى تحت التناثر العالي.
العبء: أضافت آليات التوجيه وتسجيل النقاط تأخيرًا ضئيلاً جدًا (<0.5 مللي ثانية لكل طبقة)، مما يؤكد كفاءة التصميم.

5. الأهمية

يمثل DynamicRad خطوة مهمة للأمام لجعل توليد الفيديو الطويل عمليًا للنشر في العالم الحقيقي.

تحول في النموذج: إنه يبتعد عن المقايضة بين "سريع ولكن جامد" و"متكيف ولكن بطيء" من خلال إثبات أن التحسين خارج الخط مع التوجيه الدلالي يمكن أن يحقق كليهما.
القابلية للتوسع: من خلال تقليل تكلفة الانتباه التربيعية إلى تعقيد يقترب من الخطي (عبر التلاشي اللوغاريتمي للنافذة والتناثر)، فإنه يتيح توليد مئات الإطارات على مجموعات الأجهزة القياسية.
القدرة على التعميم: الطريقة مستقلة عن النموذج (تعمل مع هياكل DiT و VAE) ولا تتطلب إعادة تدريب هيكل الانتشار الضخم، مما يجعلها قابلة للتطبيق بشكل كبير على أنظمة توليد الفيديو الحالية.

في الختنتا، نجح DynamicRad في دفع حد الكفاءة والجودة (Pareto frontier)، مبرهنًا أن توليد الفيديو الطويل عالي السرعة وعالي الدقة أمر ممكن من خلال الانتباه المتفرق المتكيف مع المحتوى.