💻 computer science

Guiding a Diffusion Transformer with the Internal Dynamics of Itself

تقترح هذه الورقة البحثية "التوجيه الداخلي" (Internal Guidance - IG)، وهي استراتيجية بسيطة وفعالة تستفيد من الديناميكيات الداخلية لـ "محولات الانتشار" (Diffusion Transformers) عبر إدخال إشراف مساعد على الطبقات المتوسطة أثناء التدريب واستقراء مخرجات الطبقات أثناء أخذ العينات، مما يحقق جودة توليد وكفاءة تدريب رائدة في مجموعة بيانات ImageNet.

المؤلفون الأصليون: Xingyu Zhou, Qifan Li, Xiaobin Hu, Hai Chen, Shuhang Gu

نُشر 2026-04-01

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Xingyu Zhou, Qifan Li, Xiaobin Hu, Hai Chen, Shuhang Gu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تقوم بتعليم فنان عبقري ولكنه فوضوي بعض الشيء (نموذج الانتشار - Diffusion Model) كيف يرسم صوراً مثالية للقطط، والكلاب، والمناظر الطبيعية.

المشكلة: الفنان "المفرط في الثقة"

في الوقت الحالي، هؤلاء الفنانون الآليون مذهلون، لكن لديهم عيب محدد. لقد تم تدريبهم لتغطية كل الاحتمالات. أحياناً، يصابون بالارتباك بسبب الأجزاء الغريبة أو النادرة أو "منخفضة الاحتمالية" من البيانات. عندما تطلب منهم رسم شيء محدد، قد يشردون إلى منطقة "منخفضة الاحتمالية" وينتجون فوضى ضبابية أو وحشاً مشوهاً.

لإصلاح ذلك، يستخدم البشر عادةً تقنية تسمى التوجيه الخالي من التصنيف (Classifier-Free Guidance - CFG). تخيل هذا كمعلم فن صارم يقف بجانب الفنان ويصرخ: "لا! هذا ليس قطاً! اجعله يشبه القط أكثر!"

العقبَة: إذا صرخ المعلم بصوت عالٍ جداً (توجيه عالٍ)، سيشعر الفنان بالخوف ويتوقف عن الإبداع. النتيجة ستكون قطاً يبدو كأنه لعبة بلاستيكية—مثالي الشكل ولكنه بلا روح.
البديل القديم: حاول بعض الباحثين تعليم الفنان من خلال إظهار "مسوداتهم السيئة" (نسخة "سيئة" من أنفسهم) ليقولوا له: "لا ترسم مثل ذلك". لكن هذا يشبه توظيف فنان ثانٍ، وهو أسوأ من الأول، لينتقد الفنان الأول. إنه أمر مكلف، بطيء، ويتطلب عملاً إضافياً كبيراً.

الحل: "التوجيه الداخلي" (Internal Guidance - IG)

تقدم هذه الورقة البحثية خدعة ذكية تسمى التوجيه الداخلي (IG). بدلاً من توظيف فنان ثانٍ أو الصراخ من الهامش، تقترح الورقة الاستماع إلى "الصوت الداخلي" للفنان أثناء عملية الرسم.

إليك كيف يعمل الأمر، باستخدام تشبيه بسيط:

1. مرحلة التدريب: درس "المسودة مقابل اللوحة النهائية"

تخيل أن الفنان يرسم لوحة. عادةً، لا يتم تقييمه إلا على اللوحة الفنية النهائية في النهاية تماماً.

الفكرة الجديدة: تقول الورقة: "دعونا نقيم أيضاً المسودة الأولية التي رسمتها في منتصف الطريق!"
كيف يعمل: أثناء التدريب، يُجبر الذكاء الاصطناعي على النظر إلى "طبقتة المتوسطة" (المسودة الخاصة به) ومحاولة جعل تلك المسودة تبدو مثل الشيء الحقيقي أيضاً.
النتيجة: يتعلم الفنان الحفاظ على "مسودته الداخلية" متوافقة مع الواقع. هذا يعالج مشكلة شائعة حيث يرتبك الشبكات العصبية العميقة ويفقدون طريقهم (تلاشي التدرج - vanishing gradients) كلما تعمقوا في عملية الرسم.

2. مرحلة الرسم: خدعة "التصحيح الذاتي"

الآن، عندما يقوم الفنان برسم صورة لك (مرحلة أخذ العينات - sampling stage)، إليك السحر:

يولد الذكاء الاصطناعي شيئين في آن واحد:
1. المخرج العميق: التنبؤ النهائي المصقول.
  1. المخرج المتوسط: التنبؤ "الأضعف" من منتصف الشبكة (المسودة).
الحركة السحرية: يقارن الذكاء الاصطناعي بينهما. يدرك قائلاً: "مهلاً، تنبئي النهائي ينحرف بعيداً قليلاً عن مسودتي الصلبة".
التصحيح: يستخدم "المسودة" لسحب "التنبؤ النهائي" مرة أخرى نحو مركز البيانات الجيدة. الأمر يشبه الفنان الذي ينظر إلى مسودته الأولية ويقول: "حسناً، أحتاج إلى توجيه ضربات فرشاتي النهائية للعودة نحو هذا الأساس المتين".

لماذا يعد هذا أمراً مهماً؟

فكر في الأمر كقيادة سيارة:

الـ CFG القياسي يشبه راكباً يصرخ: "انعطف يساراً! انعطف يساراً!" إذا صرخ كثيراً، قد تصطدم بشجرة (صور مشوهة).
طرق "النسخة السيئة" القديمة تشبه وجود سيارة ثانية أسوأ منك تسير بجانبك، وتحاول أنت تجنب الاصطدام بها. إنه أمر معقد وبطيء.
التوجيه الداخلي (IG) يشبه امتلاك نظام GPS مدمج في لوحة قيادتك. لا تحتاج إلى سيارة ثانية أو راكب يصرخ. أنت فقط تنظر إلى خريطتك الداخلية (الطبقة المتوسطة) وتوجه نفسك بلطف للعودة إلى المسار الصحيح.

النتائج: فن خارق

اختبرت الورقة البحثية هذه التقنية على بعض أكثر نماذج الذكاء الاصطناعي تقدماً (مثل SiT و LightningDiT).

السرعة: وصلوا إلى جودة عالية في 800 خطوة بينما كانت النماذج الأخرى تستغرق عادةً 1,400 خطوة. إنه يشبه إنهاء ماراثون في نصف الوقت.
الجودة: حققوا درجة تسمى FID 1.19. في عالم فن الذكاء الاصطناعي، كلما انخفضت درجة FID، كان ذلك أفضل. درجة 1.19 منخفضة جداً لدرجة أنها تكاد لا تختلف عن الصور الحقيقية. وهي حالياً أفضل ما توصل إليه العلم (State-of-the-Art).
الكفاءة: لا يتطلب الأمر أجهزة كمبيوتر إضافية أو وقتاً إضافياً. إنه تحديث "جاهز للاستخدام" (plug-and-play). بمجرد تشغيله، يصبح النموذج أكثر ذكاءً واستقراراً.

الملخص

التوجيه الداخلي هو خدعة بسيطة ولكنها قوية. إنه يعلم الذكاء الاصطناعي الوثوق بـ "أفكاره المتوسطة" لتوجيه قراراته النهائية. من خلال الاستماع إلى صوته الداخلي، يتجنب الذكاء الاصطناعي الضياع، وينتج صوراً أكثر تنوعاً وواقعية، ويفعل كل ذلك بشكل أسرع من ذي قبل. إنه الفرق بين فنان يحتاج إلى مدرب يصرخ عليه، وفنان تعلم أخيراً كيف يثق بحدسه.

إليك ملخص تقني مفصل لورقة البحث بعنوان "توجيه محول الانتشار (Diffusion Transformer) عبر ديناميكياته الداخلية".

1. بيان المشكلة

حققت نماذج الانتشار، وخاصة تلك القائمة على بنية المحول (DiT/SiT)، نتائج رائدة في توليد الصور. ومع ذلك، فهي تواجه تحديين رئيسيين:

تغطية المناطق منخفضة الاحتمالية: تعاقب أهداف التدريب النموذج عند فشله في تغطية المناطق ذات الاحتمالية المنخفضة في توزيع البيانات. وبدون بيانات تدريب كافية، يكافح النموذج لتوليد صور عالية الجودة تتوافق مع هذه الأنماط النادرة.
محدودية التوجيه الحالي:
- التوجيه الخالي من التصنيف (CFG): رغم فعاليته في مواءمة المطالبات (prompts) والنتائج، إلا أن معاملات CFG العالية غالبًا ما تدفع مسار أخذ العينات خارج التوزيع الشرطي، مما يؤدي إلى صور مبسطة للغاية أو مشوهة وانخفاض في التنوع.
- التوجيه الذاتي (نسخة النموذج السيئة - Bad Version Guidance): يوجه هذا النهج نموذجًا مدربًا جيدًا باستخدام نسخة "سيئة" (متدهورة) من نفسه. وبينما يحافظ هذا النهج على التنوع بشكل أفضل من CFG، فإنه يتطلب استراتيجيات تدهور مصممة بعناة، أو تدريبًا إضافيًا للنموذج المتدهور، أو خطوات أخذ عينات إضافية، مما يجعله مكلفًا حاسوبيًا وصعب التوسع.

2. المنهجية: التوجيه الداخلي (Internal Guidance - IG)

يقترح المؤلفون التوجيه الداخلي (IG)، وهو استراتيجية بسيطة وفعالة "قابلة للتوصيل والتشغيل" (plug-and-play) تستفيد من الديناميكيات الداخلية لمحول انتشار واحد لتحسين جودة التوليد دون الحاجة إلى تدريب إضافي أو خطوات أخذ عينات إضافية.

أ. مرحلة التدريب: الإشراف المساعد

بدلاً من تدريب نموذج "سيء" منفصل، يقدم IG خسارة إشراف مساعدة عند طبقة وسيطة من الشبكة أثناء التدريب.

البنية: يتم إرفاق رأس مخرجات إضافي بطبقة وسيطة ( $D_i$ ) من محول الانتشار، بالإضافة إلى رأس المخرجات النهائي ( $D_f$ ).
دالة الخسارة: تجمع خسارة التدريب الإجمالية بين خسارة إزالة الضجيج القياسية للطبقة النهائية وخسارة مساعدة للطبقة الوسيطة:
$L = L_{final} + \lambda L_{inter}$
حيث أن $L_{inter} = \|D_i(x_t, t) - x_0\|^2$ و $L_{final} = \|D_f(x_t, t) - x_0\|^2$ .
الأثر: هذا يجبر الطبقة الوسيطة على تعلم تمثيل توليدي "أضعف". لاحظ المؤلفون أن هذا الإشراف البسيط يخفف من تلاشي التدرج في الشبكات العميقة ويحقق تقاربًا مشابهًا لطرق التنظيم ذاتية الإشراف المعقدة.

ب. مرحلة أخذ العينات: الاستقراء (Extrapolation)

خلال مرحلة أخذ العينات، يستخدم النموذج العلاقة بين المخرج الوسيط ( $D_i$ ) والمخرج النهائي ( $D_f$ ) لتوجيه عملية التوليد.

الآلية: يعمل المخرج الوسيط كـ "النسخة السيئة" للنموذج. يتم توجيه المخرج النهائي بعيدًا عن توزيع المخرج الوسيط نحو المنطو (manifold) عالي الاحتمالية.
الصيغة: يتم حساب المخرج الموجه $D_w$ عبر الاستقراء:
$D_w(x; c) = D_i(x; c) + w(D_f(x; c) - D_i(x; c))$
هنا، $w$ هو مقياس التوجيه. هذا يدفع العينة بفعالية نحو اتجاه النموذج الأقوى (النهائي) مع الحفاظ على التنوع المتأصل في التمثيل الوسيط.
الميزة: على عكس التوجيه الذاتي (Autoguidance)، لا يتطلب IG تدريبًا إضافيًا لنموذج متدهور ولا خطوات أخذ عينات إضافية. إنه تعديل "قابلة للتوصيل والتشغيل".

ج. التوافق والتحسينات

التكامل مع CFG: يعد IG و CFG مكملين لبعضهما البعض. يوفر CFG التوجه الشرطي للفئة، بينما يحافظ IG على التنوع ويدفع العينات نحو المنطو. الجمع بينهما يعطي نتائج فائقة.
فترة التوجيه: أعاد المؤلفون تعريف فترة التوجيه لـ IG. على عكس CFX (الذي يعمل بشكل أفضل في نطاقات الضجيج المنخفضة)، فإن IG يكون أكثر فعالية عند تطبيقه في نطاقات الضجيج العالي والمتوسط.

3. المساهمات الرئيسية

استراتيجية التوجيه الداخلي (IG): طريقة توجيه مبتكرة لأخذ العينات تستخدم الطبقات الوسيطة للنموذج لتوجيه المخرج النهائي، مما يلغي الحاجة إلى نماذج "سيئة" خارجية أو استراتيجيات تدهور معقدة.
كفاءة التدريب: يعمل الإشراف الوسيط كمُنظم (regularizer) يسرع التقارب ويخفف من تلاشي التدرج، محققًا أداءً مشابهًا لطرق محاذاة التمثيل ذاتية الإشراف (مثل REPA) ولكن بتنفيذ أبسط.
الأداء الرائد (SOTA): يحسن IG درجات FID بشكل كبير عبر مختلف أحجام النماذج (SiT, DiT, LightningDiT) مع حد أدنى من التكاليف الحسابية.
رؤية جديدة لتسريع التدريب: أظهر المؤلفون أن إشارة التوجيه (الفرق بين المخرجات النهائية والوسيطة) يمكن دمجها مباشرة في دالة خسارة التدريب لتسريع التقارب، مما يفتح اتجاهًا جديدًا لتسريع التدريب.

4. النتائج التجريبية

قيمت الورقة IG على معايير ImageNet 256×256 و 512×512.

SiT-XL/2 (الشرطي للفئة):
- حقق FID = 5.31 في 80 حقبة فقط (بدون CFG).
- حقق FID = 1.75 عند 800 حقبة (بدون CFG)، متفوقًا على Vanilla SiT-XL عند 1400 حقبة وعلى REPA عند 800 حقبة.
- مع CFG وفترة التوجيه، حقق FID = 1.46 عند 800 حقبة.
LightningDiT-XL/1 (المُجزئ ذاتي الإشراف):
- حقق FID = 2.42 عند 60 حقبة.
- حقق FID = 1.34 عند 680 حقبة (بدون CFG)، متفوقًا على جميع الطرق السابقة بفارق كبير.
- الأداء الرائد (SOTA): بالجمع مع CFG وفترة التوجيه، حقق FID = 1.19 عند 680 حقبة.
القابلية للتوسع: تصبح مكاسب أداء IG أكثر أهمية مع زيادة حجم النموذج (من مقاييس B إلى XL).
التكلفة الحسابية: يضيف IG عبئًا ضئيلاً جدًا (زيادة بنسبة 0.44% تقريبًا في المعلمات وعمليات الـ FLOPs) ويحافظ على زمن انتقال (latency) مطابق للنماذج الأساسية.

5. الأهمية

الكفاءة: يوفر IG طريقة فعالة للغاية لتعزيز جودة التوليد دون التكلفة الحسابية الثقيلة لتدريب النماذج المساعدة أو زيادة خطوات أخذ العينات.
القدرة على التعميم: الطريقة مستقلة عن البنية (architecture-agnostic) ضمن عائلة محولات الانتشار (Diffusion Transformer) ويمكن دمجها بسلاسة في خطوط الإنتاج الحالية.
الرؤية النظرية: يجسّر IG الفجوة بين الإشراف الوسيط وتوجيه أخذ العينات، مما يشير إلى أن "الديناميكيات الداخلية" لشبكة عميقة تحتوي على معلومات كافية لتصحيح مسارات أخذ العينات، مما قد يلهم تقنيات جديدة لتسريع التدريب بناءً على تصميم دالة الخسارة.
الأثر العملي: من خلال تحقيق درجات FID رائدة (1.19) مع عدد أقل من حقبات التدريب وباستخدام أجهزة قياسية، يجعل IG توليد الصور عالية الدقة أكثر سهولة وقابلية للتوسع.