🤖 machine learning

Laplacian Multi-scale Flow Matching for Generative Modeling

تقدم هذه الورقة البحثية LapFlow، وهو إطار عمل جديد للنمذجة التوليدية يستفيد من تمثيل هرم لابلاتسيان متعدد المقاييس وبنية خليط متوازي من المحولات لتحقيق جودة صورة فائقة واستدلال أسرع بتكاليف حوسبة أقل مقارنة بطرق مطابقة التدفق أحادية المقياس والمتتالية الحالية.

المؤلفون الأصليون: Zelin Zhao, Petr Molodyk, Haotian Xue, Yongxin Chen

نُشر 2026-02-24

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zelin Zhao, Petr Molodyk, Haotian Xue, Yongxin Chen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول رسم لوحة بورتريه واقعية للغاية لمشهور على لوحة قماشية ضخمة.

الطريقة القديمة (نماذج المقياس الواحد):
يحاول معظم فناني الذكاء الاصطناعي الحاليين رسم الوجه بأكمِله بدقة كاملة منذ البداية. يتعين عليهم تخمين كل شعرة، وكل رمش، وكل مسام في الجلد في آن واحد بينما لا تزال اللوحة عبارة عن ضباب من الضجيج. الأمر يشبه محاولة نحت تمثال رخامي عبر تكسير الكتلة بأكملها دفعة واحدة، على أمل ألا تكسر الأنف بالخطأ أثناء محاولتك إصلاح الأذن. هذا يتطلب قدرًا هائلاً من الطاقة، والوقت، وقوة الحوسبة، وغالبًا ما تبدو النتيجة "هلامية" أو غير متناسقة.

الطريقة الجديدة (LapFlow):
يقترح مؤلفو هذه الورقة البحثية، "Laplacian Multi-scale Flow Matching" (أو LapFlow اختصارًا)، طريقة أكثر ذكاءً وكفاءة للرسم. بدلًا من معالجة الصورة بأكملها دفعة واحدة، يقومون بتفكيك عملية الرسم إلى جهد جماعي هرمي، يشبه عمل طاقم بناء ناطحة سحاب.

إليك كيف يعمل LapFlow، باستخدام بعض التشبيهات الإبداعية:

1. "هرم لابلاتشيان" (كعكة الطبقات)

تخيل أن صورتك النهائية هي كعكة طبقات.

الطبقة السفلية (المقياس الخشن): هذا هو الشكل الأساسي. هل هو وجه؟ أين تقع العينان والفم تقريبًا؟ إنها ضبابية ومنخفضة التفاصيل، لكن الهيكل موجود.
الطبقة الوسطى: تضيف هذه الطبقة الملامح. شكل الأنف، لون العينين، ولون البشرة العام.
الطبقة العلوية (المقياس الدقيق): هذه هي الزينة والسكاكر. الرموش الفردية، ملمس الجلد، والانعكاسات الصغيرة في العينين.

حاولت الطرق القديمة خبز الكعكة بأكملها في خطوة واحدة. أما LapFlow فيخبز الطبقات بشكل منفصل ولكن في وقت واحد.

2. "خليط المحولات" (الفريق المتخصص)

بدلًا من توظيف فنان واحد ضخم ومثقل بالأعمال للقيام بكل شيء، يقوم LapFlow بتوظيف فريق متخصص (يسمى Mixture-of-Transformers).

فنان واحد يركز فقط على الأشكال الكبيرة (الطبقة السفلية).
وفنان آخر يركز على التفاصيل المتوسطة.
وثالث يركز على التفاصيل الدقيقة للغاية.

ومن الأهمية بمكان أنهم جميعًا يعملون في نفس الغرفة (نموذج موحد) بدلاً من العمل في مبانٍ منفصلة. هذا يوفر المساحة ويسمح لهم بالتواصل مع بعضهم البعض فورًا.

3. "الانتباه السببي" (سلسلة القيادة)

هذا هو السر الكامن وراء النجاح. في الطرق "المتتالية" القديمة، كان الفريق ينهي الطبقة السفلية، ثم يتوقف، ويسلم اللوحة للفريق التالي، الذي يقوم بعد ذلك بـ "إعادة تشويش" (خلط) اللوحة قليلاً قبل بدء الطبقة التالية. كان الأمر يشكن كأنه تسليم عصا في سباق تتابع حيث يتعين عليك التوقف لربط حذائك بين كل عداء وآخر.

يستخدم LapFlow الانتباه السببي (Causal Attention). فكر في هذا كـ سلسلة قيادة صارمة:

فنان "التفاصيل الدقيقة" غير مسموح له بالنظر إلى عمل فنان "الشكل الكبير" حتى ينهي فنان "الشكل الكبير" جزءه.
ومع ذلك، يمكن لفنان "الشكل الكبير" رؤية ما يفعله فنان "التفاصيل الدقيقة".

هذا يضمن أن التفاصيل الدقيقة (مثل العين) ستندمج دائمًا بشكل مثالي داخل الشكل الكبير (الوجه). تتدفق المعلومات بشكل طبيعي من "الصورة الكبيرة" نزولاً إلى "التفاصيل الدقيقة" دون أي عمليات تسليم مربكة أو إعادة تشويش.

4. "التدفق المتوازي" (الطريق السريع)

لأن الفريق يعمل معًا في نموذج موحد مع سلسلة القيادة الصارمة هذه، فإنهم ليسوا مضطرين لانتظار انتهاء طبقة واحدة قبل بدء الطبقة التالية. يمكنهم رسم الطبقات بالتوازي على طول طريق سريع سلس ("مطابقة التدفق" أو Flow Matching).

الطريقة القديمة: قد سيارة، وتوقف عند كل مخرج لتغيير المسار، ثم انطلق مرة أخرى. (بطيئة، واستهلاك عالٍ للوقود).
LapFlow: قد على طريق سريع متعدد المسارات حيث تتحرك جميع المسارات معًا، لكن المسار الأيسر (الأشكال الكبيرة) يقود دائمًا المسار الأيمن (التفاصيل الدقيقة). (سريع، وفعال).

لماذا يهم هذا الأمر؟

تظهر الورقة البحثية أن هذا النهج يعد نقطة تحول لسببين رئيسيين:

جودة أفضل: نظرًا لأن "فنان الشكل الكبير" يوجه "فنان التفاصيل الدقيقة" بشكل مثالي، فإن الصورة النهائية تبدو أكثر حدة، وواقعية، وتحتوي على عدد أقل من العيوب الغريبة (مثل أن يبدو الأنف كحبة بطاطس). لقد حققوا ذلك في الصور عالية الدقة (تصل إلى 1024×1024 بكسل) التي كان من الصعب جدًا إنتاجها سابقًا.
أرخص وأسرع: نظرًا لأن النموذج فعال ولا يضيع الوقت في إعادة العمل أو الانتظار بين الطبقات، فإنه يستخدم قدرًا أقل من قوة الحوسبة (عدد أقل من GFLOPs) وينتج صورًا بسرعة أكبر. إنه يشبه الحصول على محرك فيراري في سيارة تعمل بالبنزين العادي.

باختًا:
LapFlow يشبه الترقية من موقع بناء فوضوي ومتوقف، إلى خط تجميع متزامن وعالي السرعة. إنه يبني صورًا معقدة وعالية الدقة عن طريق تفكيكها إلى طبقات يمكن إدارتها، وتوظيف فريق متخصص يعمل على هذه الطبقات جميعًا في وقت واحد، وضمان أن الصورة الكبيرة توجه دائمًا التفاصيل الصغيرة. والنتيجة؟ صور مذهلة، يتم إنتاجها بشكل أسرع، وبطاقة أقل.

إليك ملخص تقني مفصل لورقة "Laplacian Multi-scale Flow Matching for Generative Modeling" (LapFlow).

1. بيان المشكلة

حقق النمذجة التوليدية، لا سيالما باستخدام نماذج الانتشار (Diffusion Models) ومطابقة التدفق (Flow Matching - FM)، نتائج رائدة في تخليق الصور. ومع ذلك، فإن توسيع نطاق هذه النماذج إلى دقات عالية (مثل 1024×1024) يفرض تحديات كبيرة:

التكلفة الحسابية: تقوم النماذج أحادية المقياس بتوليد الصورة بأكملها بالدقة الكاملة في وقت واحد، مما يتطلب موارد حوسبة هائلة (GFLOPs) ووقتاً طويلاً أثناء التدريب والاستنتاج على حد سواء.
قيود الطرق متعددة المقاييس الحالية:
- النهج المتتالي (مثل Cascaded Diffusion): يتطلب تدريب شبكات منفصلة لكل مستوى دقة وعمليات "ربط" أو "إعادة تشويش" معقدة بين المقاييس، مما يزيد من تعقيد التنفيذ.
- المجال الكامن مقابل مجال البكسل (Latent vs. Pixel Space): تعمل بعض الطرق (مثل EdifyImage) في مجال البكسل، مما يؤدي إلى استنتاج أبطأ مقارنة بطرق المجال الكامن. بينما تعتمد طرق أخرى (مثل Pyramidal Flow) غالباً على الضبط الدقيق للنماذج سابقة التدريب بدلاً من التدريب الفعال من الصفر للصور.
- عدم الكفاءة: تفشل الطرق متعددة المقاييس الحالية غالباً في الاستفيد من العلاقات السببية بين المقاييس بكفاءة أو تتطلب عمليات إعادة تشويش مفرطة.

تهدف الورقة إلى تطوير إطار عمل يحافظ على جودة توليد عالية مع تقليل العبء الحسابي ووقت الاستنتاج بشكل كبير من خلال نهج موحد ومتوازي متعدد المقاييس.

2. المنهجية: LapFlow

يقوم إطار عمل Laplacian Multi-scale Flow Matching (LapFlow) المقترح بتفكيك الصور إلى بقايا هرم لابلاس (Laplacian pyramid residuals) ومعالجتها بالتوازي باستخدام بنية متخصصة.

أ. التمثيل متعدد المقاييس (تفكيك لابلاس)

بدلاً من توليد الصورة الكاملة مباشرة، يقوم النموذج بتفكيك الصورة المستهدفة $x_1$ إلى هرم من البقايا (هرم لابلاس):

المقياس الأقل دقة ( $k=2$ ): نسخة منخفضة الدقة من الصورة.
المقاييس المتوسطة ( $k=1$ ): الفرق بين الصورة منخفضة الدقة والصورة المرفوعة من المقياس الأقل دقة.
المقياس الأكثر دقة ( $k=0$ ): البقية بين الصورة الأصلية والمقياس المتوسط المرفوع.
يتم إعادة بناء الصورة الكاملة عن طريق جمع هذه البقايا: $x_1 = x^{(0)}_1 + \text{Up}(x^{(1)}_1) + \text{Up}(\text{Up}(x^{(2)}_1))$ .

ب. مطابقة التدفق التقدمية متعددة المقاييس

يكمن الابتكار الجوهري في كيفية تطبيق عملية مطابقة التدفق عبر هذه المقاييس:

تقسيم الوقت: يتم تقسيم عملية التوليد إلى مقاطع زمنية محددة بنقاط حرجة $T_2$ $T_{2}$ و $T_1$ $T_{1}$ (حيث $0 < T_2 < T_1 < 1$ $0 < T_{2} < T_{1} < 1$ ).
- المرحلة 1 ( $t \in [0, T_2]$ ): المقياس الأقل دقة فقط ( $k=2$ ) يكون نشطاً ويخضع لعملية إزالة الضجيج.
- المرحلة 2 ( $t \in [T_2, T_1]$ ): يتم إزالة الضجيج من المقياس الأقل دقة والمقياس المتوسط ( $k=2, 1$ ) بالتوازي. المقياس المتوسط مشروط بالمقياس الأقل دقة المكتمل.
- المرحلة 3 ( $t \in [T_1, 1]$ ): يتم إزالة الضجيج من جميع المقاييس ( $k=2, 1, 0$ ) بالتوازي. المقياس الأكثر دقة مشروط بالمقاييس الأقل دقة المكتملة.
عملية التشويش: يتبع كل مقياس $k$ مسار تدفق محدد يبدأ من ضجيجه الخاص $x^{(k)}_0$ عند الزمن $T_{k+1}$ ويتقارب نحو البقية النظيفة $x^{(k)}_1$ عند $t=1$ . هذا يلغي الحاجة إلى إعادة تشويش صريحة بين المقاييس.

ج. البنية: خليط المحولات (MoT) مع الانتباه السببي

يستخدم النموذج بنية خليط المحولات (Mixture-of-Transformers - MoT) موحدة:

نموذج موحد: تعالج شبكة واحدة المدخلات من جميع المقاييس النشطة في آن واحد.
القناع السببي (Causal Masking): يتم تطبيق قناع سببي كتلوي في آلية الانتباه الذاتي العالمية. هذا يفرض تدفق معلومات أحادي الاتجاه: يمكن للمقياس $k$ أن ينتبه لنفسه ولجميع المقاييس الأقل دقة ( $k' \ge k$ )، ولكنه لا يمكنه الانتباه للمقاييس الأكثر دقة ( $k' < k$ ). يضمن هذا توليد التفاصيل الدقيقة بناءً على السياق الهيكلي الذي توفره المقاييس الأقل دقة.
المعالجة الخاصة بالمقياس: بينما يكون الانتباه عالمياً، يستخدم النموذج أوزانًا خاصة بكل مقياس لعمليات تعديل ما قبل الانتباه وما بعد الانتباه (PreAttnMod/PostAttnMod)، مما يسمح بمعالجة متخصصة لكل مستوى دقة.

د. التدريب وأخذ العينات

التدريب: يستخدم استراتيجية تدريب تقدمية حيث يتم تدريب النموذج على مجموعات فرعية مختلفة من المقاييس خلال فترات زمنية مختلفة. الخسارة هي مجموع مرجح لأخطاء التنبؤ بالسرعة عبر المقاييس النشطة.
أخذ العينات (Sampling): يُستخدم حل الـ ODE (مثل Dormand-Prince) لدمج التدفق. تبدأ العملية بالضجيج عند المقياس الأقل دقة وتنشط المقاييس الأكثر دقة تدريجياً عند $T_2$ و $T_1$ ، مع جعلها مشروطة بالحالات منزوعة الضجيج للمقاييس الأقل دقة.

3. المساهمات الرئيسية

إطار عمل مبتكر: تقديم LapFlow، وهو إطار عمل لمطابقة التدفق متعدد المقاييس ومتوازٍ يقوم بتفكيك بقايا لابلاس، مما يلغي الحاجة إلى خطوات إعادة التشويش المتتالية.
بنية MoT مع الانتباه السببي: تصميم بنية خليط محولات متخصصة تعالج مقاييس متعددة في وقت واحد. تفرض آلية القناع السببي التبعيات الهرمية، مما يضمن الاتساق العالمي قبل إضافة التفاصيل المحلية.
الكفاءة النظرية: إثبات أنه من خلال تحليل التعقيد المرجح زمنياً، فإن تكلفة الانتباه الفعلية لـ LapFlow أقل نظرياً (تقليل بنحو 1.6 ضعف) من نماذج DiT أحادية المقياس القياسية بسبب التنشيط التدريجي للمقاييس.
استراتيجية التدريب التقدمية: تطوير مخطط تدريب يخصص الموارد الحسابية وفقاً لمساهمة كل مقياس، مما يحسن تطور التدفق عبر نطاقات زمنية مختلفة.

4. النتائج التجريبية

تم تقييم الطريقة على مجموعة بيانات CelebA-HQ (غير مشروطة) و ImageNet (مشروطة بالفئة) عبر دقات تصل إلى 1024×1024.

جودة الصورة (FID):
- CelebA-HQ (256×256): حققت FID قدره 3.53، متفوقة على LFM (5.26) و Pyramidal Flow (11.20).
- الدقة العالية (1024×1024): حققت FID قدره 5.51، وهي أفضل بكثير من LFM (8.12).
- ImageNet (256×256): باستخدام هيكل DiT-XL/2، حققت FID قدره 14.38، متجاوزة DiT (19.50) و LFM (28.37).
الكفاءة:
- GFLOPs: يتطلب LapFlow عدد GFLOPs أقل أثناء أخذ العينات مقارنة بالنماذج المرجعية (مثلاً 16.5 GFLOPs مقابل 22.1 لـ LFM عند 256×256).
- وقت الاستنتاج: أوقات استنتاج أسرع (مثلاً 1.51 ثانية مقابل 1.70 ثانية لـ LFM عند 256×256) بسبب عدد أقل من تقييمات الدالة (NFE) والمعالجة المتوازية.
دراسات الاستئصال (Ablation Studies):
- القناع السببي: ضروري للأداء؛ حيث أدى إزالته أو استخدام الانتباه الذاتي فقط إلى تدهور ملحوظ في FID.
- عدد المقاييس: كان المقياسان (2) هما الأمثل لـ 256×256، بينما كانت الحاجة إلى 3 مقاييس ضرورية لـ 512×512 و 1024×1024 للتعامل مع شبكات اللاتنت (latent grids) الأكبر بفعالية.
- VAE: استخدام EQVAE (متساوي التباين) للدقات المنخفضة و SDVAE للدقات العالية حقق أفضل النتائج.

5. الأهمية

القابلية للتوسع: نجح LapFlow في التوسع إلى دقات ميجابكسل (1024×1024) مع عبء حسابي أقل من الطرق أحادية المقياس أو المتتالية، مما يجعل التوليد عالي الدقة أكثر سهولة.
الكفاءة: من خلال الاستفادة من التوليد المتوازي والانتباه السببي، فإنه يقلل من العبء الحسابي (GFLOPs) ووقت الاستنتاج، مما يعالج عقبة رئيسية في نشر الذكاء الاصطنا Generative AI.
الابتكار المعماري: يوفر دمج هرم لابلاس مع مطابقة التدفق و MoT نموذجاً جديداً للنمذجة التوليدية متعددة المقاييس، منتقلاً من التسلسل المتتالي نحو المعالجة الموحدة والمتوازية.
التأثير المستقبلي: تشير كفاءة الإطار وجودته إلى إمكانات تطبيق أوسع في توليد الفيديو، والمحتوى ثلاثي الأبعاد، وغيرها من المجالات التي تتطلب تخليقاً عالي الدقة بموارد حوسبة محدودة.