💻 computer science

LinVideo: A Post-Training Framework towards O(n) Attention in Efficient Video Generation

يُعد LinVideo إطار عمل للتدريب اللاحق لا يعتمد على البيانات، يحقق تعقيد انتباه بمقدار O(n) في توليد الفيديو من خلال الاختيار التلقائي للطبقات لتحويل الانتباه الخطي عبر نهج التصنيف الثنائي وتوظيف هدف مطابقة التوزيع في أي وقت، مما يؤدي إلى تسريع كبير مع الحفاظ على جودة التوليد.

المؤلفون الأصليون: Yushi Huang, Xingtong Ge, Ruihao Gong, Chengtao Lv, Jun Zhang

نُشر 2026-02-24

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yushi Huang, Xingtong Ge, Ruihao Gong, Chengtao Lv, Jun Zhang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك طباخاً بارعاً وعالمياً (نموذج انتشار الفيديو - Video Diffusion Model) يمكنه إعداد أفلام واقعية للغاية وعالية الدقة من مجرد وصف بسيط مثل "تنين يطير فوق قلعة". هذا الطباخ مذهل، ولكن هناك عقبة؛ فهو بطيء جداً ومكلف في التشغيل.

لماذا؟ لأنه لطهي فيديو مدته 10 ثوانٍ، يتعين على الطباخ النظر إلى كل إطار وتجميعه مع كل إطار آخر ليتأكد من أن أجنحة التنين تتحرك بسلاسة وأن السحب لا تومض بشكل مزعج. وإذا كان الفيديو طويلاً، فإن مهمة "مقارنة كل شيء بكل شيء" هذه تنمو بشكل انفجاري. الأمر يشبه محاولة تعريف كل ضيف في حفل زفاف ضخم بكل ضيف آخر؛ حيث يصبح عدد المصافات مستحيلاً إدارته. في المصطلحات التقنية، يُطلق على هذا التعقيد التربيعي ( $O(n^2)$ ).

يقدم البحث LINVIDEO، وهو "عملية تجديد للمطبخ" تجعل هذا الطباخ أسرع دون توظيف طباخ جديد أو شراء مكونات جديدة. إليك كيف فعلوا ذلك، مشروحاً ببساة:

1. المشكلة: "الطباخ البطيء" مقابل "المساعد السريع"

كان العلماء يعرفون بالفعل بوجود "مساعد سريع" (يُسمى Linear Attention) يمكنه الطهي بسرعة أكبر بكثير ( $O(n)$ ) باستخدام طريق مختصر. فبدلاً من تعريف كل ضيف بالآخر، يتذكر المساعد فقط "الأجواء العامة" للغرفة.

ومع ذلك، هناك مشكلة كبيرة: إذا استبدلت "الطباخ الرئيسي" بـ "المساعد السريع" فحسب، فسيكون طعم الطعام سيئاً. سيصبح الفيديو ضبابياً، والحركة متقطعة، وسيبدو التنين ككتلة مشوهة. عادةً، لإصلاح ذلك، سيتعين عليك إرسال المساعد السريع إلى مدرسة تعليم الطهي لسنوات (ما يسمى Pre-training) ليتعلم أسرار الطباخ الرئيسي. وهذا يستغًاق الكثير من الوقت والمال.

السؤال: هل يمكننا تعليم الطباخ الرئيسي استخدام اختصارات المساعد السريع الآن، دون إرساله للعودة إلى المدرسة؟

2. الحل: LINVIDEO (التجديد الذكي)

ابتكر المؤلفون إطار عمل يسمى LINVIDEO. فكر فيه كفريق تجديد ذكي يقوم بتطوير المطبخ بينما لا يزال الطباخ يعمل، دون الحاجة إلى كتاب وصفات جديد (بدون بيانات - data-free).

لقد استخدموا حيلتين ذكيتين:

الحيلة (أ): "النقل الانتقائي" (لا تطرد الجميع)

أدرك الفريق أن ليست كل أجزاء دماغ الطباخ متساوية في الأهمية.

التشبيه: تخيل أن لدى الطباخ 30 محطة مختلفة (طبقات). بعض المحطات تتعامل مع عمليات التقطيع الأساسية (الطبقات المبكرة)، بينما تتعامل أخرى مع التزيين المعقد واللمسات النهائية (الطبقات العميقة).
الخطأ: إذا استبدلت محطة "التزيين" بروبوت سريع ولكنه غبي، فسيبدو الطبق قبيحاً. وإذا استبدلت محطة "التقطيع"، فقد يفسد الروبوت مهارات استخدام السكين.
حل LINVIDEO: بدلاً من التخمين حول أي المحطات يجب ترقيتها، منحوا المطبخ "مفتاحاً ذكياً" لكل محطة. هذا المفتاح يتعلم، من خلال التجربة والخطأ، أي المحطات يمكن استبدالها بأمان بالمساعد السريع وأيها يجب أن تبقى للطباخ الرئيسي.
النتيجة: وجدوا تلقائياً المزيج المثالي: "اجعل الطباخ الرئيسي يتولى التزيين المعقد، واترك مهمة التقطيع للمساعد السريع". هذا يقلل من انخفاض الجودة إلى أدنى حد.

الحيلة (ب): "مطابقة التوزيع في أي وقت" (اختبار التذوق في الوقت الفعلي)

عادةً، عندما تحاول تسريع نموذج ما، فإنك تتحقق فقط مما إذا كان الفيديو النهائي يبدو جيداً. ولكن في توليد الفيديو، إذا كان "منتصف" الفيديو غريباً، فسيكون النهاية غريبة أيضاً.

التشبيه: تخيل طالباً يؤدي اختباراً. إذا قمت بتقييمه فقط بناءً على الإجابة النهائية، فقد يكون قد وصل إليها عن طريق التخمين. ولكن إذا راقبت عمله في كل خطوة من خطوات المسألة، يمكنك تصحيحه فوراً.
حل LINVIDEO: أنشأوا "اختبار تذوق" جديداً يسمى Anytime Distribution Matching (ADM). بدلاً من الانتظار حتى ينتهي الفيديو لترى ما إذا كان جيداً، فإنهم يتحققون من "نكهة" الفيديو في كل ثانية من عملية الطهي. إنهم يجبرون المساعد السريع على مطابقة أسلوب الطباخ الرئيسي في كل لحظة، وليس فقط في النهاية.
النتيجة: هذا يمنع الفيديو من أن يصبح "مهتزاً" أو وامضاً، مما يضمن أن يبدو الفيلم بأكم له سلساً وطبيعياً.

3. النتائج: سريع، رخيص، ولذيذ

بعد هذا التجديد، كانت النتوات مبهرة:

السرعة: أصبح توليد الفيديو أسرع بمعدل 1.4 إلى 1.7 مرة بمجرد استبدال طبقات الانتباه.
السرعة الفائقة: عندما دمجوا هذا مع تقنية لتخطي الخطوات (Distillation)، صنعوا نموذجاً "بـ 4 خطوات" أسرع بمعدل 16 إلى 21 مرة من النموذج الأصلي!
الجودة: لا تزال الفيديوهات تبدو مذهلة. لقد تم الحفاظ على جودة "الطباخ الرئيسي"، رغم أنهم كانوا يستخدمون "المساعد السريع" لمعظم العمل.

الملخص

LINVIDEO يشبه أخذ سيارة فاخرة بطيئة ومكلفة وتركيب محرك عالي الأداء في الأجزاء الصحيحة تماماً من هيكلها. أنت لا تحتاج إلى إعادة بناء السيارة بالكامل (Pre-training)، ولا تحتاج إلى سائق جديد (بيانات جديدة). أنت فقط تقوم بتعديل الآلة الموجودة لتقود أسرع بمرتين مع وصولك إلى وجهتك بأناقة.

هذه خطوة كبيرة للأمام لأنها تعني أنه يمكننا توليد فيديوهات ذكاء اصطناعي عالية الجودة على أجهزة الكمبيوتر العادية بشكل أسرع بكثير، مما يجعل الأدوات الإبداعية متاحة للجميع، وليس فقط لشركات التكنولوجيا الكبرى ذات الخوادم الضخمة.

إليك ملخص تقني مفصل لورقة البحث بعنوان "LINVIDEO: إطار عمل لما بعد التدريب نحو انتباه بمقياس $O(n)$ في توليد الفيديو عالي الكفاءة."

1. بيان المشكلة

حققت نماذج انتشار الفيديو (Video Diffusion Models - DMs)، ولا سيما تلك القائمة على بنية محول الانتشار (Diffusion Transformer - DiT)، نتائج رائدة في توليد الفيديو. ومع ذلك، فإنها تواجه عقبة حرجة في التوسع:

التعقيد التربيعي: آلية الانتباه الذاتي (Self-attention) في هذه النماذج تتوسع تربيعياً ( $O(n^2)$ ) مع طول التسلسل $n$ . وبما أن توليد الفيديو يتطلب معالجة تسلسلات طويلة (على سبيل المثال، أكثر من 50 ألف توكن لفيديو مدته 10 ثوانٍ)، فإن عملية الاستدلال تصبح مكلفة حوسبياً ومستهلكة للذاكرة بشكل كبير.
محدودية الحلول الحالية:
- تشتيت الانتباه (Attention Sparsification): الطرق التي تتخطى الحسابات الزائدة غالباً ما تفشل في تحقيق تشتيت عالٍ عند أطوال التسلسل المتوسطة، حيث تحتفظ بأكثر من 50% من التكلفة التربيعية الأصلية.
- الانتباه الخطي (Linear Attention): رغم أنه يقدم نظرياً تعقيداً بمقياس $O(n)$ ، إلا أن استبدال الانتباه التربيعي بالكامل بانتباه خطي في النماذج المدربة مسبقاً يتطلب عادةً تدريباً مسبقاً مكلفاً من الصفر. ويرجع ذلك إلى "فجوة التمثيل" بين الانتباه التربيعي والخطي، والديناميكيات المكانية والزمانية المعقدة للفيديو، مما يجعل التدريب البسيط لما بعد التدريب غير فعال.

السؤال الجوهري: هل يمكننا استبدال جزء كبير من طبقات الانتباه التربيعي بانتباه خطي في نموذج انتشار فيديو (DM) مدرب مسبقاً عبر مرحلة ما بعد التدريب، دون تقليل جودة التوليد؟

2. المنهجية: LINVIDEO

يقترح المؤلفون LINVIDEO، وهو إطار عمل لما بعد التدريب خالٍ من البيانات يقوم بتحويل طبقات الانتباه التربيعي إلى انتباه خطي بشكل انتقائي مع الحفاظ على الأداء. يتكون الإطار من ثلاثة مكونات رئيسية:

أ. إعداد ما بعد التدريب الخالي من البيانات (Data-Free Post-Training)

بدلاً من الحاجة إلى مجموعات بيانات فيديو ضخمة ومنسقة (والتي غالباً ما تكون مقيدة بحقوق الطبع والنشر أو الحجم)، يقوم LINVIDEO بتوليد بيانات التدريب الخاصة به:

يقوم بأخذ عينات من الضوضاء الأولية $x_1$ ويستخدم النموذج الأصلي المدرب مسبقاً ( $u_\theta$ ) لتوليد مسار أخذ العينات بالكامل (أزواج المدخلات-المخرجات عند جميع الخطوات الزمنية).
يتيح ذلك للنموذج الجديد ( $\hat{u}_\theta$ ) التعلم من تنبؤات النموذج الأصلي نفسه، مما يلغي الحاجة إلى بيانات خارجية.

ب. النقل الانتقائي (Selective Transfer - اختيار الطبقات)

لاحظ المؤلفون أن استبدال طبقات مختلفة بالانتباه الخطي يؤدي إلى نتائج أداء متفاوتة للغاية. فبعض الطبقات قوية تجاه الاستبدال، بينما تسبب طبقات أخرى (مثل الطبقة الأولى) فشلاً كارثياً.

صياغة التصنيف الثنائي: بدلاً من الاختيار اليدوي أو الاستدلالي، يعامل الإطار اختيار الطبقات كمسألة تصنيف ثنائي.
الدرجات القابلة للتعلم: يتم تخصيص قيمة عددية قابلة للتعلم $r^{(l)} \in [0, 1]$ $r^{(l)} \in [0, 1]$ لكل طبقة $l$ $l$ .
- إذا كانت $r^{(l)} \approx 1$ : احتفظ بالانتباه التربيعي.
- إذا كانت $r^{(l)} \approx 0$ : انتقل إلى الانتباه الخطي.
آلية الانتباه المختلط: أثناء التدريب، يكون المخرج عبارة عن مجموع مرجح لكلا نوعي الانتباه:
$o_i = r \cdot \text{SoftmaxAttn} + (1-r) \cdot \text{LinearAttn}$
القيود:
- خسارة قيد الهدف ( $L_{con}$ ): تضمن أن إجمالي عدد الطبقات المستبدلة يطابق هدفاً محدداً مسبقاً.
- خسارة التنظيم ( $L_{reg}$ ): مصطلح تنظيم (مستوحى من التكميم/Quantization) يجبر قيم $r$ على التقارب نحو 0 أو 1 أثناء التدريب، مما يقلل من أخطاء التقريب عند نشر النموذج.

ج. هدف مطابقة التوزيع في أي وقت (Anytime Distribution Matching - ADM)

تفشل أهداف ما بعد التدريب القياسية (مثل MSE على المخرجات) هنا لأنها تسبب عيوباً زمنية (وميض/Flickering) وتتجاهل الخطوات الزمنية المتوسطة. كما أن طرق التقطير ذات الخطوات القليلة (Few-step distillation) غير فعالة لأنها تتطلب تدريب نموذج مساعد لتقدير دالات الدرجة (Score functions).

الحل: قدم المؤلفون مطابقة التوزيع في أي وقت (ADM).
الآلية: بدلاً من مطابقة توزيع المخرجات النهائي فقط ( $t=0$ )، يقوم ADM بمطابقة توزيعات العينات للنموذج الخطي والنموذج الأصلي عند كل خطوة زمنية $t \in [0, 1]$ على طول مسار أخذ العينات.
الكفاءة: يتم تقدير دالة الدرجة للنموذج الخطي باستخدام النموذج نفسه (التقطير الذاتي/Self-distillation)، مما يتجنب الحاجة إلى نموذج معلم مساعد مكلف.
دالة الخسارة: تقلل من تباعد كولباك - ليبلر (KL divergence) بين التوزيعات $q_t$ (الخطي) و $p_t$ (الأصلي) عند أي خطوة زمنية.

3. المساهمات الرئيسية

أول إطار عمل لما بعد التدريب خالٍ من البيانات: LINVIDEO هو أول طريقة تنجح في استبدال الانتباه التربيعي بانتباه خطي في نماذج انتشار الفيديو المدربة مسبقاً دون الحاجة إلى مجموعات بيانات فيديو خارجية.
استراتيجية النقل الانتقائي: نهج مبتكر قائم على التعلم يحدد تلقائياً الطبقات التي يمكن جعلها خطية، مما يقلل من تدهور الأداء مقارنة بالاختيار اليدوي أو الاستدلالي.
مطابقة التوزيع في أي وقت (ADM): هدف تدريب عالي الكفاءة يقوم بمطابقة التوزيعات عبر مسار أخذ العينات بالكامل، مما يستعيد أداء النموذج الذي يُفقد عادةً عند التحويل للخطي.
التوافق مع التقطير: يعد الإطار أول من يطبق بنجاح التقطير ذو الخطوات القليلة على نموذج فيديو ذي انتباه خطي، محققاً تسارعاً هائلاً.

4. النتائج التجريبية

تم تقييم الطريقة على نماذج Wan 1.3B و Wan 14B باستخدام معايير VBench و VBench-2.0.

تسريع الاستدلال:
- يحقق LINVIDEO تسريعاً في زمن الاستجابة (Latency) يتراوح بين 1.43× إلى 1.71× مقارنة بالانتباه الكثيف القياسي (FlashAttention2) مع الحفاظ على جودة التوليد أو تحسينها قليلاً.
- عند دمجه مع التقطير ذي الـ 4 خطوات (DMD2)، يحقق النماذج تسارعاً هائلاً قدره 15.9× إلى 20.9× مع انخفاض طفيف فقط في الجودة البصرية (على سبيل المثال، أقل من 3% في الاتساق العام).
الحفاظ على الجودة:
- في أبعاد VBench (اتساق الموضوع، جودة التصوير، سلاسة الحركة، إلخ)، يتفوق LINVIDEO على خطوط الأساس الحالية للانتباه المتفرق (مثل SVG و XAttn) وغالباً ما يضاهي أو يتجاوز خط الأساس FlashAttention2 الذي لا يفقد البيانات.
- تظهر النتائج البصرية دقة عالية في المشاهد المعقدة (مثل ديناميكيات السوائل، وحركة البشر) حتى بعد التحويل الخطي الشديد والتقطير.
دراسات الاستئصال (Ablation Studies):
- النقل الانتقائي: يتفوق على الاختيار اليدوي والاستدلالي للطبقات بفارق كبير.
- ADM: يتفوق على خسارة MSE البسيطة وخسائر التقطير القياسية، مما يؤكد ضرورة مطابقة التوزيعات عند جميع الخطوات الزمنية.
- التنظيم: يؤدي إزالة مصطلح $L_{reg}$ إلى انهيار الأداء، مما يسلط الضوء على دوره في استقرار قيم $r$ .

5. الأهمية

القابلية للتوسع: يعالج LINVIDEO العقبة الرئيسية أمام توليد الفيديو (التعقيد التربيعي)، مما يجعل توليد الفيديو عالي الجودة ممكناً على الأجهزة الاستهلاكية أو لتسلسلات أطول.
كفاءة التكلفة: من خلال كونه خالياً من البيانات، فإنه يزيل الحاجة إلى مجموعات بيانات فيديو ضخمة ومحمية بحقوق الطبع والنشر لإعادة التدريب، مما يجعل هذه التقنية أكثر سهولة في الوصول وأكثر أماناً من الناحية القانونية للنشر.
النشر العملي: القدرة على تحقيق تسريع يصل إلى ~20× مع حد أدنى من فقدان الجودة عبر التقطير تفتح الباب لتطبيقات توليد الفيديو في الوقت الفعلي، والتي كانت مستحيلة سابقاً باستخدام بنيات DiT القياسية.
القدرة على التعميم: إطار العمل مستقل عن النموذج ويمكن تطبيقه على مختلف نماذج انتشار الفيديو المدربة مسبقاً (كما تم إثباته على Wan و CogVideoX)، مما يشير إلى حل عام لتحويل محولات الانتشار (Diffusion Transformers) إلى الصيغة الخطية.