SPADE: An Input-Adaptive Sparse Attention Engine for Fast Video Diffusion Models Inference
يُعد SPADE محرك انتباه متناثرًا متكيفًا مع المدخلات ولا يتطلب تدريبًا، وهو يعمل على تسريع استنتاج محولات انتشار الفيديو بمعدل 1.49x إلى 1.80x من البداية إلى النهاية مع الحفاظ على جودة التوليد من خلال الاختيار الديناميكي للرموز والتنفيذ الفعال للنواة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول رسم جدارية ضخمة ومتحركة لمدينة صاخبة. لكي تجعلها تبدو واقعية، عليك أن تقرر كيف ترتبط كل بكسل بكل بكسل آخر. إذا كان لديك مليون بكسل، فإن فحص كل واحد منها مقابل كل واحد آخر يخلق كمًا مذهلاً من العمل؛ عملٌ هائل لدرجة أن حاسوبك قد يتوقف عن العمل قبل انتهاء الإطار الأول حتى. هذا هو التحدي الذي يواجه "توليد الفيديو" بالذكاء الاصطناعي الحديث. هذه الأنظمة الذكية، التي يمكنها ابتكار أفلام من مجرد نص بسيط، تستخدم أداة رياضية تسمى "الانتباه" (attention) لمعرفة الأجزاء الأكثر أهمية من الصورة. المشكلة هي أنه كلما أصبح الفيديو أطول وأكثر دقة، نمت كمية العمل المطلوبة للتحقق من هذه الروابط بشكل انفجاري، مثل كرة ثلج تتدحرج من فوق تلة وتكبر في كل ثانية.
لحل هذه المشكلة، حاول العلماء أن يكونوا فعالين بطرق ذكية. البعض تجاهل ببساطة البكسلات البعيدة (مثل الاكتفاء بالنظر إلى حيك المجاور فقط)، بينما حاول آخرون اختيار البكسلات "المهمة" أثناء العمل. لكن هذه الطرق غالبًا ما تنطوي على عقبة: فهي إما تفقد التفاصيل الحيوية، مما يجعل الفيديو يبدو غريبًا، أو أنها تستهلك الكثير من الوقت في تقرير ما يجب تجاهله لدرجة أنها لا توفر أي وقت فعليًا. السؤال الكبير هو: هل يمكننا بناء نظام سريع، وذكي بما يكفي لمعرفة ما يجب تخطيه بالضبط دون إضاعة الوقت في التفكير في الأمر، ومع ذلك ينتج فيلمًا جميلًا وعالي الجودة؟
إليك SPADE، وهو "محرك" جديد مصمم لحل هذا اللغز. فكر في SPADE كمدير أفلام فائق الكفاءة، لا يكتفي بتخمين المشاهد التي يجب قصها، بل يمتلك سيناريو سحريًا يخبره فورًا بالموظفين الذين يحتاجون للتحدث مع بعضهم البعض في كل إطار، دون إضاعة ثانية واحدة في التدريبات.
المشكلة: فخ "الخيارات الكثيرة جدًا"
نماذج فيديو الذكاء الاصطناعي الحالية تشبه الطلاب الذين يحاولون الدراسة لامتحان نهائي عن طريق قراءة كل صفحة في كل الكتب الموجودة في المكتبة، مرارًا وتكرارًا. إنهم دقيقون، لكنهم بطيئون للغاية. آلية "الانتباه" التي يستخدمونها تتحقق من كل رمز (قطعة صغيرة من الفيديو) مقابل كل رمز آخر. بالنسبة لفيديو قصير، هذا أمر جيد. أما بالنسبة لفيلم عالي الدقة، فإن الرياضيات تصبح ثقيلة جدًا لدرجة أن الحاسوب يختنق.
حاول الباحثون تسريع ذلك باستخدام "الانتباه المتفرق" (sparse attention)، وهو ما يعني التحقق من عدد قليل من الروابط المهمة فقط. ومع ذلك، فإن الطرق الموجودة بها عيبان رئيسيان:
- الطرق الثابتة (Static methods) تشبه كتاب قواعد صارم: "تجاهل الخلفية دائمًا". هذه الطريقة سريعة، لكنها غبية؛ فأحيانًا تكون الخلفية مهمة بالفعل، والذكاء الاصطناعي يفتقدها.
- الطرق الديناميكية (Dynamic methods) تحاول أن تكون ذكية عبر النظر إلى الفيديو أولاً لتقرر ما ستتجاهله. لكنها تشبه الطالب الذي يقضي عشر دقائق في اتخاذ القرار بشأن الصفحات التي سيقرؤها، ليكتشف في النهاية أنه قضى وقتًا في اتخاذ القرار أكثر مما قضاه في القراءة. الوقت المستغرق في "التفكير" فيما يجب تخطيه يلتهم الوقت الذي تم توفيره بالتخطي.
الحل: سحر SPADE المكون من ثلاثة أجزاء
قام مؤلفو هذه الورقة البحثية، شانهو ليو وفريقه، ببناء SPADE (محرك SPArse video DiT) لإصلاح هذا الخلل. لم يقوموا بمجرد تعديل الرياضيات؛ بل أعادوا بناء العملية بأكملة إلى ثلاثة أجزاء ذكية تعمل معًا كآلة متناغمة.
1. المخطط (vDiT-SSR): لغة عالمية لـ "التخطي"
أولاً، ابتكروا طريقة موحدة لوصف كيفية تخطي أجزاء من الفيديو. تخيل أن لديك شبكة ثلاثية الأبعاد ضخمة من كتل الفيديو (مثل مكعب روبيك مكون من الزمان، والارتفاع، والعرض). الطرق السابقة كانت تستطيع قطع هذا المكعب بطريقة واحدة محددة فقط. أما SPADE، فيمتلك "قائمة" من طرق عديدة لتقطيع المكعب — بعض هذه الشرائح عريض ومسطح، وبعضها طويل ونحيف، وبعضها مختلط. يتيح هذا للنظام اختيار الشكل الأفضل للفيديو المحدد الذي يصنعه، بدما لا يضطر لفرض شكل غير مناسب على قالب مختلف.
2. صانع القرار الفوري (توليد المخطط - Scheme Generation)
هذا هو عقل العملية. بدلًا من قضاء الوقت في التخمين حول الشرائح التي يجب الاحتفاظ بها، يستخدم SPADE حيلة تسمى SICS (مجموع تشابه جيب التمام داخل الكتلة).
- التشبيه: تخيل أن لديك غرفة مليئة بالناس يتحدثون. أنت بحاجة لاختيار المحادثات الأكثر أهمية. الطريقة البطيئة ستستمع إلى كل كلمة. أما طريقة SPADE فهي تشبه نظرة خاطفة: تجمع الناس في دوائر صغيرة وتتحقق من مدى تماثل آراءهم وتوافقهم. إذا كانت المجموعة كلها توافق بعضها البعض، فهذه المجموعة "مهمة" وتحصل على تذكرة للجولة التالية. أما إذا كانت المجموعة مشوشة ويتحدث أعضاؤها فوق بعضهم البعض، فيتم تجاهلها.
- السحر: تتم عملية التحقق هذه بسرعة فائقة — لدرجة أنها لا تستغرق سوى حوالي 8% من إجمالي الوقت الذي يقضيه الذكاء الاصطناعي في عملية الانتباه. وهي تحدد، لكل "رأس" (جزء من عقل الذكاء الاصطناعي) ولكل لحظة في الفيديو، بالضبط كتل الفيديو التي يجب التركيز عليها. إنها تشبه شرطي المرور الذي يعرف فورًا المسارات المفتوحة والمغلقة، ويوجه انتباه الذكاء الاصطناعي فقط إلى حيث يهم.
3. العامل الخارق (الانتباه المتفرق حسب الرأس - Head-wise Sparse Attention)
بمجرد اتخاذ القرار، يبدأ العمل الفعلي. يستخدم SPADE "محركًا" خاصًا تم بناؤه خصيصًا للأجهزة (رقائق الكمبيوتر). يقوم بتجميع المهام المتشابهة معًا ويستخدم أسرع مسارات الذاكرة في الكمبيوتر لمعالجة الفيديو. إنه يشبه امتلاك فريق من العمال الذين لا يحملون الصناديق فحسب؛ بل يحملون الصناديق الصحيحة، في الترتيب الصحيح، باستخدام حزام ناقل مصمم خصيصًا لهم. هذا يتجنب "الاختناقات المرورية" التي تبطئ الحواسيب عادةً عندما تحاول القيام بمهام معقدة وغير منتظمة.
النتائج: أسرع، أذكى، ولا تزال جميلة
اختبر الفريق SPADE على بعض أكثر نماذج فيديو الذكاء الاصطناعي تقدمًا المتاحة اليوم، بما في ذلك Hunyuan-Video و Wan 2.1/2.2. وقارنوه بالطرق "المتفرقة" الأخرى وبالطريقة القياسية البطيئة "الانتباه الكامل" (full attention).
كانت النتائج مبهرة:
- السرعة: جعل SPADE جزء "الانتباه" من العملية يعمل بسرعة تتراوح بين 2.26 إلى 3.40 ضعفًا أسرع من الطريقة القياسية. وعندما تنظر إلى عملية توليد الفيديو بأكملها من البداية إلى النها، فقد كانت أسرع بمعدل 1.49 إلى 1.80 مرة.
- الكفاءة: نجح في تخطي حوالي 85% من الحسابات غير الضرورية (التفرق/sparsity)، وهو رقم أعلى من أي طريقة أخرى تم اختبارها.
- الجودة: والأهم من ذلك، لم يضحِّ بالجودة. بدت الفيديوهات بجودة تضاهي نسخ "الانتباه الكامل" البطيئة. في الواقع، في بعض الاختبارات، أنتج SPIDE فيديوهات أكثر وضوحًا وتفصيلًا من الطرق السريعة الأخرى.
قدمت الورقة أيضًا نسخة "Turbo" من SPADE. تدفع هذه النسخة السرعة إلى أبعد من ذلك، لتصل إلى تسريع إجمالي قدره 1.80 مرة، رغم أنها تقوم بمقايضة طفيفة ومسيطر عليها في الجودة للوصول إلى ذلك.
لماذا يهم هذا؟
قبل SPADE، كان صنع فيديوهات الذكاء الاصطناعي عالية الجودة يشبه محاولة ركض ماراثون وأنت تحمل حقيبة ظهر ثقيلة مليئة بالطوب. يمكنك فعل ذلك، لكنه يستغرق وقتًا طويلاً جدًا. SPADE يشبه زوجًا جديدًا من أحذية الجري التي لا تجعلك أخف وزنًا فحسب، بل تساعدك أيضًا في اختيار أفضل مسار حتى لا تضيع طاقتك في طرق مسدودة.
يُظهر المؤلفون أنه ليس عليك الاختيار بين السرعة والجودة. من خلال الجمع بين طريقة مرنة لوصف الفيديو، ونظام قرار فائق السرعة، ومحرك مُحسَّن للأجهزة، يثبت SPADE أنه يمكننا توليد فيديوهات معقدة وعالية الدقة بشكل أسرع بكثير دون أن يصبح الذكاء الاصطناعي "كسولًا" ويرتكب الأخطاء. إنها خطوة كبيرة نحو جعل توليد فيديو الذكاء الاصطناعي شيئًا يمكن أن يحدث في الوقت الفعلي، بدلًا من كونه شيئًا يستغرق ساعات للمعالجة.
باختصار، SPADE هو زر "التخطي الذكي" الذي كان ينتظره فيديو الذكاء الاصطناعي، محولًا عملية بطيئة وثقيلة إلى تجربة سريعة وانسيابية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.