💻 computer science

QuantSparse: Comprehensively Compressing Video Diffusion Transformer with Model Quantization and Attention Sparsification

يُعد QuantSparse إطار عمل موحداً يجمع بفعالية بين تكميم النماذج وتخفيف كثافة الانتباه لنماذج محولات الانتشار للفيديو من خلال تقديم تقنيتي "تقطير الانتباه البارز متعدد المقاييس" و"إعادة تمثيل الانتباه المتناثر من الدرجة الثانية" للتخفيف من فقدان المعلومات، مما يحقق تقليلاً كبيراً في التخزين وتسريعاً في الاستدلال مع التفوق بشكل جوهري على النماذج المرجعية الحالية في جودة التوليد.

المؤلفون الأصليون: Weilun Feng, Chuanguang Yang, Haotong Qin, Mingqiang Wu, Yuqi Li, Xiangqi Li, Zhulin An, Libo Huang, Yulun Zhang, Michele Magno, Yongjun Xu

نُشر 2026-03-10

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Weilun Feng, Chuanguang Yang, Haotong Qin, Mingqiang Wu, Yuqi Li, Xiangqi Li, Zhulin An, Libo Huang, Yulun Zhang, Michele Magno, Yongjun Xu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

🎬 المشكلة: "فيلم هوليوودي ضخم" لا يتسع في جيبك

تخيل أن لديك فيلمًا هوليووديًا ضخمًا (مولد فيديو ذكاء اصطناعي عالي الجودة مثل HunyuanVideo أو Wan2.1). هذا الفيلم مذهل، لكنه ضخم وثقيل جدًا لدرجة أنه:

يحتاج إلى مستودع ضخم لتخزين بكرات الأفلام (يستهلك أكثر من 20 جيجابايت من ذاكرة الكمبيوتر).
يستغرق يومًا كاملًا لعرض مشهد واحد (يستغرق قرابة الساعة لتوليد فيديو واحد).

بسبب ذلك، لا يمكنك تشغيل هذه الأفلام على لابتوب عادي أو هاتف. فهي مكلفة وبطيئة جدًا للاستخدام الواقعي.

حاول العلماء استخدام حيلتين لجعل هذه الأفلام أصغر وأسرع:

الحيلة أ (الكمية - Quantization): ضغط بكرة الفيلم. بدلًا من استخدام ألوان بدقة 4K عالية الجودة، يستخدمون لوحة ألوان أبسط وأقل جودة (مثل تحويل صورة ملونة بدقة 16 بت إلى رسم تخطيطي بدقة 4 بت). هذا يوفر المساحة ولكنه قد يجعل الصورة تبدو محببة أو غريبة.
الحيلة ب (التخلخل - Sparsification): تجاهل أجزاء من الفيلم. يقررون أن 85% من البكسلات "مملة" فيقومون بحذفها، مع الاحتفاظ بالأجزاء المهمة فقط. هذا يجعل العملية سريعة، ولكن إذا حذفت الكثير، سيبدو الفيلم وكأن أجزاء منه مفقودة.

العقبة: إذا حاولت القيام بـ الأمرين معًا في نفس الوقت (ضغط الألوان وحذف البكسلات)، فإن الفيلم سينهار. الحبيبات الناتة عن الضغط تجعل الأجزاء المفقودة تبدو أسوأ بكثير. الأمر يشبه محاولة الاستماع إلى محطة راديو تعاني من التشويش (الاستاتيكية) وفي نفس الوقت يفقدها نصف البث.

🚀 الحل: QuantSparse (المحرر الذكي)

ابتكر مؤلفو هذه الورقة أداة جديدة تسمى QuantSparse. فكر فيها كـ محرر أفلام فائق الذكاء يعرف تمامًا كيف يضغط ويقص الفيلم دون إفساد القصة. تستخدم الأداة تقنيتين خاصتين لإصلاح المشكلات المذكورة أعلاه.

1. حيلة "الخريطة والتحديد" (توزيع الانتباه متعدد المقاييس - Multi-Scale Salient Attention Distillation)

المشكلة: عندما تضغط الفيلم (الحيلة أ)، تصبح "الخريطة" التي تحدد أين يجب أن تنظر الكاميرا ضبابية. يصاب الذكاء الاصطناعي بالارتباك حول ما هو مهم.

الحل: يستخدم المحرر دليلًا من خطوتين لإبقاء الذكاء الاصطناعي على المسار الصحيح:

الخريطة العالمية (دقة منخفضة): ينظر المحرر أولًا إلى صورة مصغرة صغيرة وضبابية للفيلم بأكمله. هذا يساعد الذكاء الاصطناعي على فهم الصورة الكبيرة (مثل: "هذا مشهد شاطئ"). وهي عملية غير مكلفة حسابيًا وتحافظ على الهيكل العام.
أداة التحديد (دقة عالية): بعد ذلك، يقوم المحرر بعمل زووم (تكبير) على الأجزاء الأكثر أهمية في الفيلم (مثل سلحفاة بحرية تسبح أو حافة منحدر). هو يخبر الذكاء الاصطناعي: "تجاهل المياه المملة، ولكن ركز بشدة على السلحفاة".

الاستعارة: تخيل أنك تحاول حفظ خريطة لمدينة ما.

الطريقة القديمة: تحاول حفظ كل شق في الرصيف (معلومات كثيرة جدًا) أو تكتفي بالنظر إلى صورة ضبابية (معلومات غير كافية).
طريقة QuantSparse: تنظر إلى خريطة صغيرة لتعرف الطرق الرئيسية (الخريطة العالمية)، ثم تستخدم قلم تحديد (Highlighter) لتمييز المقاهي المحددة التي تحتاج لزيارتها (المستوى المحلي). أنت تحصل على أفضل ما في العالمين دون الحاجة لحفظ المدينة بأكملها.

2. "الغراء المسافر عبر الزمن" (إعادة تمثيل الانتباه المتناثر من الدرجة الثانية - Second-Order Sparse Attention Reparameterization)

المشكلة: تتكون الفيديوهات من إطارات تحدث وراء بعضها البعض. إذا حذفت البكسلات (التخلخل)، ستفقد بعض "الغراء" الذي يربط الحركة ببعضها. عادةً، يحاول الذكاء الاصطناعي تخمين "الغراء" المفقود من خلال النظر إلى الإطار السابق. ولكن لأن الفيلم مضغوط أيضًا (الكمية)، فإن "الغراء" يتغير قليًا في كل ثانية، مما يجعل التخمين خاطئًا.

الحل: يدرك المحرر أنه بينما يتغير "الغراء"، فإن طريقة تغيره هي في الواقع مستقرة جدًا.

الدرجة الأولى (الطريقة القديمة): "الغراء كان هنا بالأمس، لذا فمن المحتمل أن يكون هنا اليوم". (غالبًا ما تكون خاطئة بسبب ضجيج الضغط).
الدرجة الثانية (الطريقة الجديدة): "الغراء تحرك في هذا الاتجاه المحدد بالأمس، والتغيير في تلك الحركة يمكن التنبؤ به بدقة".

الاستعارة: تخيل أنك تسير في ممر.

الدرجة الأولى: تخمن خطوتك التالية بناءً على مكانك الآن. إذا كانت الأرضية زلقة (ضجيج الضغط)، فقد تنزلق.
الدرجة الثانية: تلاحظ أنه على الرغم من أن الأرضية زلقة، إلا أن ميلك للانزلاق نحو اليسار ثابت ومستمر. لذا، فأنت تعدل مشيتك بناءً على ذلك النمط الثابت. أنت لا تخمن موقعك فحسب؛ بل تتنبأ بـ التغيير في موقعك، وهو أمر أكثر استقرارًا بكثير.

باستخدام هذا "الغراء المسافر عبر الزمن"، يمكن لـ QuantSparse ملء الأجزاء المفقودة من الفيديو بدقة تجعل النتيجة النهائية تبدو مطابقة تقريبًا للفيلم الأصلي الضخم.

🏆 النتائج: الأرقام السحرية

عندما اختبروا هذا على أكبر نماذج الفيديو (مثل HunyuanVideo و Wan2.1):

التخزين: قاموا بتقليص حجم النموذج بمقدار 3.8 مرة (مثل تحويل قرص صلب بسعة 50 جيجابايت إلى 13 جيجابايت).
السرعة: جعلوا توليد الفيديو أسرع بمقدار 1.8 مرة.
الجودة: ظلت جودة الفيديو مثالية تقريبًا. في الواقع، في بعض الاختبارات، بدت الجودة أفضل من طرق الضغط الأخرى لأنها ركزت بشكل جيد جدًا على التفاصيل المهمة.

🎯 الخلاصة

QuantSparse يشبه طباخًا ماهرًا يمكنه أخذ وليمة ضخمة، باهظة الثمن، وبطيئة الطهي، وتحويلها إلى وجبة سريعة ومحمولة دون فقدان أي نكهة.

قبل: كنت بحاجة إلى كمبيوتر خارق لمشاهدة فيديوهات الذكاء الاصطناعي.
الآن: مع QuantSparse، يمكننا تشغيل مولدات الفيديو عالية الجودة هذه على أجهزة أصغر وأرخص، مما يجعلها جاهزة للاستخدام الواقعي (مثل هاتفك أو متصفح الويب الخاص بك).

لقد حل مشكلة "المثلث المستحيل" للذكاء الاصطناعي: سريع + صغير + جودة عالية. عادةً، يمكنك اختيار اثنين فقط. أثبتت QuantSparse أنه يمكنك الحصول على الثلاثة معًا.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "QuantSparse: ضغط شامل لنماذج محولات انتشار الفيديو عبر تكميم النموذج وتخفيف الانتباه".

1. بيان المشكلة

حققت محولات انتشار الفيديو (Video Diffusion Transformers - DiTs)، مثل Wan2.1-14B و HunyuanVideo-13B، قدرات متطورة (SOTA) في توليد الفيديو، لكنها تعاني من تكاليف حسابية وذاكرة باهظة. إذ يمكن أن يتطلب توليد مقطع واحد عالي الدقة أكثر من 20 جيجابايت من ذاكرة وحدة معالجة الرسومات (GPU) وما يقرب من ساعة من وقت الاستنتاج، مما يعيق النشر في العالم الحقيقي.

بينما يعد تكميم النموذج (تقليل الدقة إلى أعداد صحيحة منخفضة البتات) و تخفيف الانتباه (تقليم اتصالات الانتباه الزائدة) تقنيتين واعدتين للضغط، إلا أنهما تواجهان عقبة حرجة عند الجمع بينهما:

فشل التكامل الساذج: يؤدي تطبيق كلتا التقنيتين معًا ببساطة إلى تدهور حاد في الأداء.
تضخم انزياح الانتباه: تحدد الورقة أن التخفيف يزيل الأوزان ذات المقدار المنخفض، بينما يسبب التكميم اضطرابات منهجية (ضجيج) للأوزان المتبقية. هذان التأثيران يعززان بعضهما البعض، مما يسبب تشوهًا مضاعفًا في توزيعات الانتباه. هذا "التضخم في انزياح الانتباه" يدمر نمذجة التبعية دقيقة التفاصيل المطلوبة لتوليد فيديو عالي الجودة.

2. المنهجية: إطار عمل QuantSparse

يقترح المؤلفون QuantSparse، وهو إطار عمل موحد يدمج التكميم والتخفيف بشكل تآزري للتغلب على تضخم انزياح الانتباه. يتكون الإطار من مكونين أساسيين:

أ. تقطير الانتباه البارز متعدد المقاييس (MSAD)

الهدف: مواءمة خرائط الانتباه المكممة والمخففة مع نموذج الدقة الكاملة (FP) الأصلي خلال مرحلة معايرة التكميم بعد التدريب (PTQ)، لتخفيف التحيز الناتج عن الضغط.
التحدي: تخزين مصفوفات الانتباه الكاملة لنماذج الفيديو الكبيرة (طول التسلسل $L > 10^4$ ) أمر مستحيل من حيث الذاكرة ( $O(L^2)$ ).
الحل: مخطط تقطير فعال من حيث الذاكرة باستخدام فرعين توجيهيين متوازيين:
1. التوجيه العالمي (Global Guidance): يقوم بتخفيض عينات توكنات الاستعلام ( $Q$ ) والمفتاح ( $K$ ) عبر التجميع المتوسط (average pooling) لالتقاط الطوبولوجيا الهيكلية الخشنة. يوفر هذا إشرافًا منخفض الدقة بتكلفة $O(\tilde{L}^2)$ .
2. التوجيه المحلي (Local Guidance): يستفيد من ملاحظة أن انتباه الفيديو منحرف بشدة (توزيع ذو ذيل ثقيل). فهو يحدد أفضل- $k$ من التوكنات "البارزة" التي تهيمن على كتلة الانتباه ويطبق إشرافًا عالي الدقة فقط على هذه التوكنات الحرجة.
التحسين: يتم تحسين معاملات التكميم لتقليل دالة خسارة مشتركة ( $L_{quant} + \lambda_{global}L_{global} + \lambda_{local}L_{local}$ )، مما يضمن محاكاة النموذج المضغوط لأنماط انتباه الدقة الكاملة دون تخزين مصفوفات كاملة.

ب. إعادة بارامترية الانتباه المتناثر من الدرجة الثانية (SSAR)

الهدف: استعادة المعلومات المفقودة أثناء الاستنتاج بسبب التشتت وضجيج التكميم، والتي تفشل طرق التخزين المؤقت القياسية في التعامل معها.
الرؤية:
- البواقي من الدرجة الأولى: الفرق بين الانتباه الكامل والمتناثر ( $\Delta(t) = A_{full} - A_{sparse}$ ) غير مستقر تحت التكميم لأن ضجيج التكميم يختلف عبر الخطوات الزمنية.
- البواقي من الدرجة الثانية: الفرق بين البواقي المتتالية من الدرجة الأولى ( $\hat{\Delta}(t) = \Delta(t) - \Delta(t-1)$ ) يظهر استقرارًا زمنيًا أعلى بكثير. ضجيج التكميم يتبع عملية عشوائية بطيئة التغير، مما يجعل الفرق من الدرجة الثانية مستقرًا تقريبًا.
الآلية:
1. التخزين المؤقت (Cache): أثناء الاستنتاج، يقوم النظام بتخزين البواقي من الدرجة الأولى والبواقي من الدرجة الثانية من خطوة زمنية مرجعية.
2. إعادة البارامترية: يتم تقريب مخرج الانتباه الكامل بإضافة البواقي المخزنة مؤقتًا إلى مخرج الانتباه المتناثر: $\tilde{A}(t) = A_{sparse} + \Delta_{cached} + \hat{\Delta}_{cached}$ .
3. إسقاط SVD: لتقليل التباين بشكل أكبر، يتم إسقاط البواقي من الدرجة الثانية على مكوناته الرئيسية العليا $r$ عبر تحليل القيم المفردة (SVD)، لاستخراج الفضاء الفرعي الأكثر استقرارًا زمنيًا. هذا يضيف عبئًا حسابيًا ضئيلاً مع تحسين الدقة بشكل كبير.

3. المساهمات الرئيسية

التحليل النظري: صياغة مشكلة "تضخم انزياح الانتباه"، وإثبات أن التكامل الساذج للتكميم والتخفيف يسبب تشوهات مضاعفة تؤدي إلى تدهور جودة الفيديو.
إطار عمل موحد: اقتراح QuantSparse، وهو أول إطار عمل يجمع بسلاسة بين التكميم القوي (W4A8) والتخفيف (كثافة 15%) دون فقدان الجودة.
تقنيات مبتكرة:
- MSAD: قدم استراتيجية تقطير متعددة المقاييس وفعالة من حيث الذاكرة توازن بين الهيكل العالمي والبروز المحلي.
  بناءً على SSAR: طور طريقة إعادة بارامترية من الدرجة الثانية تستغل الاستقرار الزمني لاستعادة المعلومات المفقودة، متفوقة على التخزين المؤقت من الدرجة الأولى.
التقييم الشامل: التحقق من النهج على نماذج واسعة النطاق (من 1.3B إلى 14B بارامتر)، مما أظهر مقايضات كفاءة-جودة متفوقة مقارنة بالنماذج المرجعية الحالية.

4. النتائج التجريبية

قيم المؤلفون QuantSparse على HunyuanVideo-13B و Wan2.1-14B تحت إعدادات قوية (تكميم W4A8 وكثافة انتباه 15%).

جودة الأداء:
- HunyuanVideo-13B: حقق 20.88 PSNR و 81.19 VQA. وهذا يتفوق على نموذج التكميم الوحيد SOTA المسمى Q-VDiT (الذي حقق 16.85 PSNR)، وهو يقترب من كونه بدون فقدان مقارنة بنموذج الدقة الكاملة (81.23 VQA).
- Wan2.1-14B: حقق 18.22 PSNR و 90.73 VQA، محافظًا على جودة بصرية مثالية تقريبًا مقارنة بنموذج الدقة الكاملة (90.79 VQA).
- المقارنة: يتفوق QuantSparse بشكل كبير على الجمع الساذج بين التكميم والتخفيف (مثل Q-VDiT + SVG)، والذي يعاني من تدهور شديد.
مكاسب الكفاءة:
- التخزين: قلل تخزين النموذج بمقدار 3.68× (Hunyuan) و 3.80× (Wan.21).
- الذاكرة: قلل استهلاك ذروة الذاكرة بمقدار 1.32× إلى 1.51×.
- زمن الاستجابة (Latency): حقق تسريعًا في الاستنتاج النهائي بمقدار 1.88× (Hunyuan) و 1.74× (Wan.21).
دراسات الاستئصال (Ablation Studies): أكدت أن إزالة MSAD أو SSAR تؤدي إلى انخفاض كبير في الأداء، مما يثبت ضرورة كلا المكونين. الطريقة أيضًا قوية تجاه خيارات المعلمات الفائقة (خطوة التجميع، عدد التوكنات البارزة).

5. الأهمية

يمثل QuantSparse طفرة في جعل نماذج توليد الفيديو واسعة النطاق عملية للنشر على الأجهزة ذات الموارد المحدودة.

كسر المقايضة: نجح في كسر المقايضة التقليدية بين الكفاءة والأداء، محققًا نتائج "مثالية باريتو" (Pareto optimal) حيث لا يؤدي الضغط العالي إلى التضحية بالدقة البصرية.
القابلية للتوسع: الطريقة قابلة للتطبيق على نماذج تتراوح من 1.3B إلى 14B بارامتر وتعمم على مهام توليد الصور (تم اختبارها على Hunyuan-DiT).
الأثر العملي: من خلال تقليل متطلبات التخزين بنسبة تقارب 4 أضعاف وتقليل وقت الاستنتاج بنسبة تقارب ضعفين مع الحفاظ على جودة SOTA، يتيح QuantSparse نشر نماذج توليد فيديو عالية الدقة على وحدات معالجة الرسومات الاستهلاكية أو أجهزة الحافة (edge devices)، مما يسهل الاعتماد الواسع في التطبيقات الواقعية.