LESA: Learnable Stage-Aware Predictors for Diffusion Model Acceleration
تقترح هذه الورقة البحثية إطار عمل LESA، وهو متنبئ قابل للتعلم يعتمد على الوعي بالمراحل ويستخدم شبكات كولموغوروف-أرنولدولد وهيكلية متعددة المراحل ومتعددة الخبراء لتسريع نماذج "ديفيوجن ترانسفورمرز" (Diffusion Transformers) بشكل كبير مع الحفاظ على جودة التوليد أو تحسينها عبر مختلف نماذج تحويل النص إلى صورة والنص إلى فيديو.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول رسم لوحة فنية رائعة، ولكن لديك قاعدة صارمة للغاية: يجب أن تضيف ضربة فرشاة صغيرة واحدة في كل مرة، وعليك الانتظار حتى يجف الطلاء قبل إضافة الضربة التالية. هكذا تعمل نماذج الانتشار (Diffusion Models) حاليًا (وهي الذكاء الاصطناعي الكامن وراء أدوات مثل DALL-E 3 أو Midjourney). فهي تبدأ بلوحة مليئة بالضجيج الساكن (مثل تشويش التلفاز) ثم تقوم بـ "إزالة الضجيج" منها ببطء، خطوة بخطوة، حتى تظهر صورة واضحة.
ما هي المشكلة؟ هذه العملية بطيئة للغاية. قد يتطلب رسم صورة واحدة 50 خطوة، وكل خطوة تتطلب من الذكاء الاصطناعي القيام بعمليات حسابية هائلة. الأمر يشبه عبور غرفة عبر اتخاذ 50 خطوة صغيرة ومدروسة بدلاً من مجرد المشي بشكل طبيعي.
LESA هو "اختصار" جديد يسمح للذكاء الاصطناعي باتخاذ قفزات عملاقة دون إفساد اللوحة. إليك كيف يعمل، مشروحًا ببساطة:
1. المشكلة: خطأ "المقاس الواحد الذي يناسب الجميع"
المحاولات السابقة لتسريع هذه العملية كانت تشبه محاولة قيادة سيارة باستخدام نفس الترس لكل المواقف.
- طريقة "إعادة الاستخدام": بعض الطرق كانت تقول ببساطة: "مهلاً، الصورة تبدو تقريبًا كما كانت في الخطوة السابقة، فلنقم فقط بنسخ عمل الخطوة السابقة". هذا ينجح لفترة، لكن الصورة تصبح ضبابية أو غريبة في النهاية لأن الذكاء الاصطناعي قد تغير بالفعل، ولو قليلاً.
- طريقة "التخمين": حاولت طرق أخرى التنبؤ بالمستقبل عبر رسم خط مستقيم بناءً على الخطوات القليلة الماضية (مثل التخمين أين ستستقر كرة). هذا يعمل جيدًا عندما تتدحرج الكرة بسلاسة، لكنه يفشل عندما ترتد الكرة فجأة أو تغير اتجاهها.
أدرك المؤلفون أن "عملية الرسم" الخاصة بالذكاء الاصطناعي ليست خطًا مستقيمًا. بل تمر بـ ثلاث مراحل متميزة:
- مرحلة الفوضى (ضجيج عالٍ): في البداية، تتغير الصورة بشكل جامح. إنها تشبه بحرًا هائجًا. التنبؤ بالموجة التالية صعب لأن كل شيء يتحرك بسرعة.
- مرحلة التدفق (ضجيج متوسط): تبدأ الصورة في اتخاذ شكلها. التغييرات تصبح سلسة ويمكن التنبؤ بها، مثل نهر هادئ.
- مرحلة التفاصيل (ضجيج منخفض): تكون الصورة شبه مكتملة. يقوم الذكاء الاصطناعي فقط بإضافة تفاصيل دقيقة (مثل الرموش أو الملمس). التغييرات هنا صغيرة جدًا ودقيقة للغاية.
حاولت الطرق القديمة استخدام نفس قاعدة التنبؤ لجميع هذه المراحل الثلاث، وهو أمر يشبه محاولة ركوب أمواج تسونامي، وركوب نهر، وتمرير خيط في إبرة، وكل ذلك وأنت ترتدي نفس الزوج من الأحذية. هذا لا ينجح.
2. الحل: LESA (الفريق المتخصص)
يرمز LESA إلى المتنبئات القابلة للتعلم والمدركة للمراحل (Learnable Stage-Aware predictors). فكر في LESA ليس كذكاء اصطناعي واحد ذكي، بل كـ فريق من ثلاثة خبراء متخصصين، لكل منهم وظيفة محددة:
- الخبير الأول (مطارد العواصف): متخصص في البداية الفوضوية. هو بارع في التعامل مع التغييرات الجامحة وغير المتوقعة.
- الخبير الثاني (دليل النهر): متخصص في المنتصف. هو بارع في التنبؤ بالتدفق المستمر والسلس.
- الخبير الثالث (المشرط الدقيق): متخصص في النهاية. هو دقيق للغاية في إضافة التفاصيل النهائية الصغيرة.
بدلاً من التخمين الأعمى، ينظر LESA إلى المرحلة الحالية من الرسم وينتقل إلى الخبير المناسب. هذا يضمن أن يكون التنبؤ دقيقًا دائمًا لتلك اللحظة المحددة.
3. السلاح السري: "السكين السويسري الرياضي" (KAN)
كيف يتعلم هؤلاء الخبراء ليكونوا بهذا المستوى من المهارة؟ تستخدم الورقة البحثية نوعًا خاصًا من الشبكات العصبية يسمى شبكة كولموغوروف-أرنولد (Kolmogorov-Arnold Network - KAN).
- الطريقة القديمة (MLP): تخيل أن الذكاء الاصطنا التقليدي يشبه عامل مصنع لا يمكنه سوى استخدام المطرقة. إذا احتاج إلى ربط مسمار، فعليه أن يضربه بالمطرقة حتى ينجح الأمر. إنه جامد.
- طريقة LESA (KAN): تخيل ذكاءً اصطناعيًا يشبه السكين السويسري. يمكنه أن يتعلم ليكون مفك براغي، أو شفرة، أو فتاحة زجاجات اعتمادًا على المهمة. شبكات KAN مرنة؛ حيث يمكنها "تغيير شكل" رياضياتها لتناسب منحنى البيانات تمامًا. وهذا يسمح لها بتعلم الأنماط المعقدة والمتعرجة لعملية رسم الذكاء الاصطناعي بشكل أفضل بكثير من الطرق الجامدة.
4. التدريب: "الممارسة تؤدي إلى الإتقان"
لتعليم هذا الفريق، استخدم الباحثون طريقة تدريب من مرحلتين:
- مرحلة المعلم والطالب: أولاً، تركوا الذكاء الاصطناعي يرسم الصورة كاملة بشكل طبيعي ("الحقيقة الأرضية" أو Ground Truth). يراقب خبراء LESA ويتعلمون، محاولين نسخ خطوات المعلم بدقة.
- مرحلة "الانحراف": بعد ذلك، تركوا الخبراء يحاولون رسم الصورة بأنفسهم باستخدام تنبؤاتهم. إذا ارتكبوا خطأً، فهم لا يتم تصحيحهم فحسب، بل يتعين عليهم مواصلة الرسم بناءً على أخطائهم الخاصة. هذا يعلمهم أن يكونوا أقوياء ولا يصابوا بالذعر عندما تخرج الأمور قليلًا عن المسار.
النتيجة: سرعة فائقة، دون فقدان الجودة
النتائج مبهرة. باستخدام LESA:
- أصبح نموذج FLUX.1 (نموذج صور شهير) أسرع بـ 5 مرات مع عدم وجود أي فقدان يذكر في الجودة.
- أصبح Qwen-Image أسرع بـ 6.25 مرة، وكانت الصور في الواقع أفضل من طرق تسريع الجودة السابقة.
- أصبح HunyuanVideo (مولد فيديو) أسرع بـ 5 مرات مع الحفاظ على سلاسة ووضوح الفيديو.
باختدال شديد:
تخيل أنك تمشي عبر حقل.
- الذكاء الاصطناعي العادي: يتخذ 50 خطوة صغيرة وحذرة. (بطيء)
- تسريع الطرق القديمة: يحاول الركض، لكنه يتعثر لأنه لا يعرف طبيعة الأرض. (سريع ولكنه فوضوي)
- LESA: لديه خريطة تخبره: "هنا مستنقع طيني، امشِ بحذر. هنا مسار سلس، اركض! هنا أرض زجاجية، امشِ على أطراف أصابعك!" إنه يكيف سرعته وأسلوبه مع طبيعة الأرض، مما يجعله يعبر الحقل في وقت قياسي دون أن يسقط.
يجعل LESA توليد الصور والفيديو بالذكاء الاصطناعي سريعًا بما يكفي لاستخدامه في التطبيقات التي تعمل في الوقت الفعلي، دون التضحية بالجودة الجميلة التي نتوقعها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.